(57)【要約】      （修正有）【課題】フレーム間及びフレーム内予測方式を選択し処理量を削減する。【解決手段】フレーム間予測を用いた場合に最も符号化効率の良い符号化方法を指示し、第１評価値を算出する。フレーム内予測を指示し、第２評価値を算出する。第１評価値と第２評価値とを比較し、第１評価値＜第２評価値であれば、フレーム間予測を用いると決定し、処理を終了する。そうでなければ、フレーム内予測を指示し、第３評価値を算出する。第２評価値と第３評価値とを足し合わせ符号化効率評価値を算出し、第１評価値と算出した符号化効率評価値を比較する。第１評価値＜（第２評価値＋第３評価値）であれば、フレーム間予測を用いると決定し、そうでなければ、フレーム内予測を用いると決定する。【選択図】      図１
2008016889.tif 000002
【特許請求の範囲】
【請求項１】
フレーム間予測及びフレーム内予測を用いて動画像の入力信号を符号化する動画像符号化装置であって、
前記フレーム間予測によって生成された予測信号に基づいて、前記フレーム間予測を用いた場合の符号化効率を表す第１評価値を見積る第１評価値見積り手段と、
色差信号に関するフレーム内予測の予測モードである色差予測モードの各々を用いたフレーム内予測によって生成された色差予測信号に基づいて、前記各色差予測モードの符号化効率を表す評価値を見積り、最も効率の良い色差予測モードとその評価値である第２評価値を求める第２評価値見積り手段と、
前記第１評価値と前記第２評価値とを比較して、前記第１評価値と前記第２評価値とのいずれが良いかを判定する第１比較手段と、
前記第１比較手段が前記第１評価値の方が良いと判定した場合に、前記フレーム間予測を選択する第１選択手段と、
前記第１比較手段が前記第２評価値の方が良いと判定した場合に、輝度信号に関するフレーム内予測の予測モードである輝度予測モードの各々を用いたフレーム内予測によって生成された輝度予測信号に基づいて、前記各輝度予測モードの符号化効率を表す評価値を見積り、最も符号化効率のよい輝度予測モードとその評価値である第３評価値を求める第３評価値見積り手段と、
前記第２評価値及び第３評価値の和と前記第１評価値とを比較して、前記和と前記第１評価値とのいずれが良いかを判定する第２比較手段と、
前記第２比較手段が前記第１評価値の方が良いと判定した場合には、前記フレーム間予測を選択する第２選択手段と、
前記第２比較手段が前記和の方が良いと判定した場合には、前記最も効率の良い色差予測モード及び前記最も効率の良い輝度予測モードを用いたフレーム内予測を選択する第３選択手段と、
前記第１選択手段、前記第２選択手段、または、前記第３選択手段のいずれかにより選択された予測方式により予測符号化を行う符号化手段と、
を備えた
ことを特徴とする動画符号化装置。
【請求項２】
前記第１評価値、前記第２評価値及び前記第３評価値を符号化歪及び発生符号量から算出する
ことを特徴とする請求項１記載の動画符号化装置。
【請求項３】
前記符号化歪として、推定値を用いる
ことを特徴とする請求項２記載の動画符号化装置。
【請求項４】
前記発生符号量は、
前記入力信号と前記予測信号の予測残差信号の量子化後の変換係数、前記入力信号の動きベクトル、または、前記フレーム間予測に用いる参照フレームインデックスの値のうち少なくとも１つを用いて推定する
ことを特徴とする請求項２記載の動画像符号化装置。
【請求項５】
前記発生符号量は、
前記入力信号と前記予測信号の残差信号の量子化後の変換係数、前記入力信号の動きベクトル及び前記フレーム間予測に用いる参照フレームインデックスの値もしくは対数値の多項式によって推定する
ことを特徴とする請求項４記載の動画像符号化装置。
【請求項６】
前記第１評価値、前記第２評価値及び前記第３評価値は、
前記入力信号と前記予測信号の予測残差信号のＳＡＴＤを用いて算出する
ことを特徴とする請求項１記載の動画像符号化装置。
【請求項７】
前記第１評価値は、
前記ＳＡＴＤに加えて前記入力信号の動きベクトルと前記フレーム間予測に用いる参照フレームインデックスの値を用いて算出する
ことを特徴とする請求項６記載の動画像符号化装置。
【請求項８】
前記第３評価値は、
前記ＳＡＴＤに加えて前記予測モードに関する情報を用いて算出する
ことを特徴とする請求項６記載の動画像符号化装置。
【請求項９】
フレーム間予測及びフレーム内予測を用いて動画像の入力信号を符号化する動画像符号化方法であって、
前記フレーム間予測によって生成された予測信号に基づいて、前記フレーム間予測を用いた場合の符号化効率を表す第１評価値を見積り、
色差信号に関するフレーム内予測の予測モードである色差予測モードの各々を用いたフレーム内予測によって生成された色差予測信号に基づいて、前記各色差予測モードの符号化効率を表す評価値を見積り、最も効率の良い色差予測モードとその評価値である第２評価値を求め、
前記第１評価値と前記第２評価値とを比較して、前記第１評価値と前記第２評価値とのいずれが良いかを判定し、
前記比較によって前記第１評価値の方が良いと判定した場合に、前記フレーム間予測を選択し、
前記比較によって前記第２評価値の方が良いと判定した場合に、輝度信号に関するフレーム内予測の予測モードである輝度予測モードの各々を用いたフレーム内予測によって生成された輝度予測信号に基づいて、前記各輝度予測モードの符号化効率を表す評価値を見積り、最も符号化効率のよい輝度予測モードとその評価値である第３評価値を求め、
前記第２評価値及び第３評価値の和と前記第１評価値とを比較して、前記和と前記第１評価値とのいずれが良いかを判定し、
前記比較によって前記第１評価値の方が良いと判定した場合には、前記フレーム間予測を選択し、
前記比較によって前記和の方が良いと判定した場合には、前記最も効率の良い色差予測モード及び前記最も効率の良い輝度予測モードを用いたフレーム内予測を選択し、
前記第１選択手段、前記第２選択手段、または、前記第３選択手段のいずれかにより選択された予測方式により予測符号化を行う
ことを特徴とする動画符号化方法。
【請求項１０】
前記第１評価値、前記第２評価値及び前記第３評価値を符号化歪及び発生符号量から算出する
ことを特徴とする請求項９記載の動画符号化方法。
【請求項１１】
前記符号化歪として、推定値を用いる
ことを特徴とする請求項１０記載の動画符号化方法。
【請求項１２】
前記発生符号量は、
前記入力信号と前記予測信号の予測残差信号の量子化後の変換係数、前記入力信号の動きベクトル、または、前記フレーム間予測に用いる参照フレームインデックスの値のうち少なくとも１つを用いて推定する
ことを特徴とする請求項１０記載の動画像符号化方法。
【請求項１３】
前記発生符号量は、
前記入力信号と前記予測信号の残差信号の量子化後の変換係数、前記入力信号の動きベクトル及び前記フレーム間予測に用いる参照フレームインデックスの値もしくは対数値の多項式によって推定する
ことを特徴とする請求項１２記載の動画像符号化方法。
【請求項１４】
前記第１評価値、前記第２評価値及び前記第３評価値は、
前記入力信号と前記予測信号の予測残差信号のＳＡＴＤを用いて算出する
ことを特徴とする請求項９記載の動画像符号化方法。
【請求項１５】
前記第１評価値は、
前記ＳＡＴＤに加えて前記入力信号の動きベクトルと前記フレーム間予測に用いる参照フレームインデックスの値を用いて算出する
ことを特徴とする請求項１４記載の動画像符号化方法。
【請求項１６】
前記第３評価値は、
前記ＳＡＴＤに加えて前記予測モードに関する情報を用いて算出する
ことを特徴とする請求項１４記載の動画像符号化方法。
【請求項１７】
フレーム間予測及びフレーム内予測を用いて動画像の入力信号をコンピュータによって符号化する動画像符号化プログラムであって、
前記フレーム間予測によって生成された予測信号に基づいて、前記フレーム間予測を用いた場合の符号化効率を表す第１評価値を見積る第１評価値見積り機能と、
色差信号に関するフレーム内予測の予測モードである色差予測モードの各々を用いたフレーム内予測によって生成された色差予測信号に基づいて、前記各色差予測モードの符号化効率を表す評価値を見積り、最も効率の良い色差予測モードとその評価値である第２評価値を求める第２評価値見積り機能と、
前記第１評価値と前記第２評価値とを比較して、前記第１評価値と前記第２評価値とのいずれが良いかを判定する第１比較機能と、
前記第１比較機能において前記第１評価値の方が良いと判定した場合に、前記フレーム間予測を選択する第１選択機能と、
前記第１比較機能において前記第２評価値の方が良いと判定した場合に、輝度信号に関するフレーム内予測の予測モードである輝度予測モードの各々を用いたフレーム内予測によって生成された輝度予測信号に基づいて、前記各輝度予測モードの符号化効率を表す評価値を見積り、最も符号化効率のよい輝度予測モードとその評価値である第３評価値を求める第３評価値見積り機能と、
前記第２評価値及び第３評価値の和と前記第１評価値とを比較して、前記和と前記第１評価値とのいずれが良いかを判定する第２比較機能と、
前記第２比較機能において前記第１評価値の方が良いと判定した場合には、前記フレーム間予測を選択する第２選択機能と、
前記第２比較機能において前記和の方が良いと判定した場合には、前記最も効率の良い色差予測モード及び前記最も効率の良い輝度予測モードを用いたフレーム内予測を選択する第３選択機能と、
前記第１選択機能、前記第２選択機能、または、前記第３選択機能のいずれかにより選択された予測方式により予測符号化を行う符号化機能と、
を実現する
ことを特徴とする動画符号化プログラム。
【請求項１８】
前記第１評価値、前記第２評価値及び前記第３評価値を符号化歪及び発生符号量から算出する
ことを特徴とする請求項１７記載の動画符号化プログラム。
【請求項１９】
前記符号化歪として、推定値を用いる
ことを特徴とする請求項１８記載の動画符号化プログラム。
【請求項２０】
前記発生符号量は、
前記入力信号と前記予測信号の予測残差信号の量子化後の変換係数、前記入力信号の動きベクトル、または、前記フレーム間予測に用いる参照フレームインデックスの値のうち少なくとも１つを用いて推定する
ことを特徴とする請求項１８記載の動画像符号化プログラム。
【請求項２１】
前記発生符号量は、
前記入力信号と前記予測信号の残差信号の量子化後の変換係数、前記入力信号の動きベクトル及び前記フレーム間予測に用いる参照フレームインデックスの値もしくは対数値の多項式によって推定する
ことを特徴とする請求項２０記載の動画像符号化プログラム。
【請求項２２】
前記第１評価値、前記第２評価値及び前記第３評価値は、
前記入力信号と前記予測信号の予測残差信号のＳＡＴＤを用いて算出する
ことを特徴とする請求項１７記載の動画像符号化プログラム。
【請求項２３】
前記第１評価値は、
前記ＳＡＴＤに加えて前記入力信号の動きベクトルと前記フレーム間予測に用いる参照フレームインデックスの値を用いて算出する
ことを特徴とする請求項２２記載の動画像符号化プログラム。
【請求項２４】
前記第３評価値は、
前記ＳＡＴＤに加えて前記予測モードに関する情報を用いて算出する
ことを特徴とする請求項２２記載の動画像符号化プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、フレーム内予測及びフレーム間予測を用いて映像信号を符号化する動画像符号化装置及びその方法に関する。
【背景技術】
【０００２】
多くの動画像符号化方式においては、動画像の時間的相関や空間的相関を利用して予測信号を生成し、予測残差信号及び予測信号生成に必要な情報を符号化することで、効率のよい符号化を実現している。
【０００３】
ＭＰＥＧ−１、ＭＰＥＧ−２などにおいては、動画像の時間的相関に基づいて、符号化済みフレームの画素値から動き補償を行って予測信号を生成するフレーム間予測符号化が用いられている。但し、シーンチェンジなど動き補償の精度の高くない場合には、画素値を直接符号化するフレーム内符号化が用いられる。
【０００４】
また、フレーム間予測符号化に加えて、画像の空間的相関に基づいて、フレーム内の近接画素値から予測信号を生成するフレーム内予測符号化を用いることで符号化効率をさらに高めることができる。
【０００５】
例えば、Ｈ．２６４においては、フレーム内予測符号化による予測信号生成のために、輝度信号、色差信号それぞれについて、複数の予測モードが提供されている。
【０００６】
特許文献１は、符号化によって発生する歪及び符号量からコストを計算することで、フレーム間予測符号化とフレーム内予測符号化とのどちらを用いるかを選択し、符号化効率を向上させている。
【０００７】
特許文献２は、フレーム内予測信号を生成する前に、フレーム間予測符号化を用いるかフレーム内予測符号化を用いることかを決定することで、処理量の削減を図っている。
【特許文献１】特開２００３−２３０１４９公報
【特許文献２】特開２００５−２４４７４９公報
【発明の開示】
【発明が解決しようとする課題】
【０００８】
特許文献１の方法を用いることで、高い符号化効率が実現できる。しかし、処理量が膨大になるという問題点がある。特に、Ｈ．２６４などにおいては、フレーム内予測符号化として多くの予測モードが提供されているため、フレーム内予測信号の生成や好適なフレーム内予測方式の選択などに必要な処理量が多い。
【０００９】
特許文献２の方法を用いることで処理量の削減が実現できる。しかし、誤った選択により符号化効率が低下してしまう場合がある。
【００１０】
そこで本発明の目的は、符号化効率を低下させずに、符号化方式決定のために必要な処理量を削減する動画像符号化装置及びその方法を提供することである。
【課題を解決するための手段】
【００１１】
本発明は、フレーム間予測及びフレーム内予測を用いて動画像の入力信号を符号化する動画像符号化装置であって、前記フレーム間予測によって生成された予測信号に基づいて、前記フレーム間予測を用いた場合の符号化効率を表す第１評価値を見積る第１評価値見積り手段と、色差信号に関するフレーム内予測の予測モードである色差予測モードの各々を用いたフレーム内予測によって生成された色差予測信号に基づいて、前記各色差予測モードの符号化効率を表す評価値を見積り、最も効率の良い色差予測モードとその評価値である第２評価値を求める第２評価値見積り手段と、前記第１評価値と前記第２評価値とを比較して、前記第１評価値と前記第２評価値とのいずれが良いかを判定する第１比較手段と、前記第１比較手段が前記第１評価値の方が良いと判定した場合に、前記フレーム間予測を選択する第１選択手段と、前記第１比較手段が前記第２評価値の方が良いと判定した場合に、輝度信号に関するフレーム内予測の予測モードである輝度予測モードの各々を用いたフレーム内予測によって生成された輝度予測信号に基づいて、前記各輝度予測モードの符号化効率を表す評価値を見積り、最も符号化効率のよい輝度予測モードとその評価値である第３評価値を求める第３評価値見積り手段と、前記第２評価値及び第３評価値の和と前記第１評価値とを比較して、前記和と前記第１評価値とのいずれが良いかを判定する第２比較手段と、前記第２比較手段が前記第１評価値の方が良いと判定した場合には、前記フレーム間予測を選択する第２選択手段と、前記第２比較手段が前記和の方が良いと判定した場合には、前記最も効率の良い色差予測モード及び前記最も効率の良い輝度予測モードを用いたフレーム内予測を選択する第３選択手段と、前記第１選択手段、前記第２選択手段、または、前記第３選択手段のいずれかにより選択された予測方式により予測符号化を行う符号化手段と、を備えたことを特徴とする動画符号化装置である。
【発明の効果】
【００１２】
本発明によれば、符号化効率を低下させることなく、輝度信号のフレーム内予測符号化処理を行う回数を低減し、符号化方式決定のために必要な処理量を削減することができる。
【発明を実施するための最良の形態】
【００１３】
本発明の実施形態の動画像符号化装置について図面に基づいて説明する。
【００１４】
（第１の実施形態）
第１の実施形態の動画像符号化装置について、図１から図７と図９に基づいて説明する。
【００１５】
（１）動画像符号化装置の構成
図９は、本実施形態に係る動画像符号化装置の構成例を示すブロック図である。
【００１６】
差分部１は、セレクタ９から出力された予測信号を入力信号から減算して、予測残差信号を出力する。
【００１７】
ＤＣＴ／量子化部２は、差分部１から出力された予測残差信号にＤＣＴを施し、量子化を行って出力する。
【００１８】
可変長符号化部３は、ＤＣＴ／量子化部２から出力された量子化後の変換係数及びセレクタ９から出力された予測モード情報や動きベクトルなどの情報に対して、可変長符号化を施して、符号化信号を出力する。
【００１９】
逆量子化／逆ＤＣＴ部４は、ＤＣＴ／量子化部２から出力された量子化後の変換係数を逆量子化し、逆ＤＣＴを施して出力する。
【００２０】
加算部５は、逆量子化／逆ＤＣＴ部４から出力された信号をセレクタ９から出力された予測信号と加算して、ローカルデコード信号を出力する。
【００２１】
フレームメモリ６は、加算部５から出力されたローカルデコード信号を記憶し、フレーム間予測に用いる参照フレームとする。
【００２２】
動き探索部７は、フレームメモリ６に記憶された参照フレーム及び入力信号の画素値から動き探索の処理を行って符号化効率のよいフレーム間予測符号化方法を決定し、予測信号及び動きベクトルなど予測信号生成のために必要な情報を出力する。
【００２３】
Ｉｎｔｒａ予測信号生成部８は、フレームメモリ６に記憶されたローカルデコード信号の値からフレーム内予測信号を生成し、予測信号及び予測信号生成のために必要な予測モード情報を出力する。
【００２４】
セレクタ９は、動き探索部７及びＩｎｔｒａ予測信号生成部８の出力を受け取り、制御部１３から、フレーム間予測と指示された場合は、動き探索部７から出力された予測信号及び動きベクトルなどの情報を出力する。フレーム内予測と指示された場合は、Ｉｎｔｒａ予測信号生成部８から出力された予測信号及び予測モード情報を出力する。
【００２５】
符号化歪算出部１０は、加算部５から出力されたローカルデコード信号及び入力信号から符号化歪を算出し出力する。
【００２６】
発生符号量算出部１１は、可変長符号化部３から出力された符号化信号のビット数をカウントし、発生符号量として出力する。
【００２７】
符号化効率評価値算出部１２は、符号化歪算出部１０から出力された符号化歪及び発生符号量算出部１１から出力された発生符号量から符号化効率評価値を算出し出力する。
【００２８】
制御部１３は、以下のような制御を順に行う。
【００２９】
まず、セレクタ９にフレーム間予測と指示し、符号化効率評価値算出部１２から出力された評価値をＩｎｔｅｒＣｏｓｔとする。
【００３０】
次に、Ｉｎｔｒａ予測信号生成部８に色差信号の予測信号のみ出力するように指示すると共に、セレクタ９にフレーム内予測と指示し、符号化効率評価値算出部１２から出力された評価値をＩｎｔｒａＣｈｒｏｍａＣｏｓｔとする。このとき、ＩｎｔｒａＣｈｒｏｍａＣｏｓｔ＞ＩｎｔｅｒＣｏｓｔであれば、フレーム間予測符号化を用いると決定する。そうでなければ、Ｉｎｔｒａ予測信号生成部８に輝度信号の予測信号のみ出力するように指示すると共に、セレクタ９にフレーム内予測と指示し、符号化効率評価値算出部１２から出力された評価値をＩｎｔｒａＬｕｍａＣｏｓｔとする。
【００３１】
さらに、ＩｎｔｒａＣｏｓｔ＝ＩｎｔｒａＬｕｍａＣｏｓｔ＋ＩｎｔｒａＣｈｒｏｍａＣｏｓｔとして、ＩｎｔｒａＣｏｓｔ＞ＩｎｔｅｒＣｏｓｔであれば、フレーム間予測符号化を用いると決定し、そうでなければ、フレーム内予測符号化を用いると決定する。なお、ここまでの処理を仮符号化と呼ぶ。
【００３２】
フレーム間予測符号化を用いると決定した場合は、セレクタ９にフレーム間予測と指示し、フレーム内予測符号化を用いると決定した場合は、Ｉｎｔｒａ予測信号生成部８に輝度信号と色差信号とをともに出力するように指示すると共に、セレクタ９にフレーム内予測と指示する。
【００３３】
以上により、フレーム間予測符号化とフレーム内予測符号化とのうち符号化効率のよい符号化方法を選択して、入力信号を符号化し符号化信号として出力することができる。
【００３４】
なお、各部１〜１３の機能は、コンピュータに記憶されたプログラムによって実現できる。
【００３５】
（２）符号化方式
図１は符号化方式としてＨ．２６４（Ｈｉｇｈ  Ｐｒｏｆｉｌｅ）を用いた場合の、本実施形態におけるマクロブロック単位での予測方式決定のフローチャートである。
【００３６】
まず、Ｉｎｔｅｒモード判定ステップにおいて、フレーム間予測を用いた場合に最も符号化効率の良い符号化方法ＢｅｓｔＩｎｔｅｒを決定し（Ｓ１）、符号化方法ＢｅｓｔＩｎｔｅｒの符号化効率評価値ＩｎｔｅｒＣｏｓｔを算出する（Ｓ２）。
【００３７】
次に、ＩｎｔｒａＣｈｒｏｍａモード判定ステップにおいて、フレーム内予測を用いた場合に最も符号化効率の良い色差信号符号化方法ＢｅｓｔＩｎｔｒａＣｈｒｏｍａを決定し（Ｓ３）、符号化方法ＢｅｓｔＩｎｔｒａＣｈｒｏｍａの符号化効率評価値ＩｎｔｒａＣｈｒｏｍａＣｏｓｔを算出する（Ｓ４）。
【００３８】
このとき、ＩｎｔｅｒＣｏｓｔとＩｎｔｒａＣｈｒｏｍａＣｏｓｔとを比較し（Ｓ５）、ＩｎｔｅｒＣｏｓｔ＜ＩｎｔｒａＣｈｒｏｍａＣｏｓｔであれば、フレーム間予測を用いると決定し、処理を終了する。
【００３９】
そうでなければ、ＩｎｔｒａＬｕｍａモード判定ステップにおいて、フレーム内予測を用いた場合に最も符号化効率の良い輝度信号符号化方法ＢｅｓｔＩｎｔｒａＬｕｍａを決定し（Ｓ６）、符号化方法ＢｅｓｔＩｎｔｒａＬｕｍａの符号化効率評価値ＩｎｔｒａＬｕｍａＣｏｓｔを算出する（Ｓ７）。
【００４０】
ＩｎｔｒａＬｕｍａＣｏｓｔとＩｎｔｒａＣｈｒｏｍａＣｏｓｔとを足し合わせることでＩｎｔｒａＣｏｓｔを算出し（Ｓ８）、ＩｎｔｅｒＣｏｓｔとＩｎｔｒａＣｏｓｔを比較する（Ｓ９）。もし、ＩｎｔｅｒＣｏｓｔ＜ＩｎｔｒａＣｏｓｔであれば、フレーム間予測を用いると決定し、そうでなければ、フレーム内予測を用いると決定する。
【００４１】
Ｓ５のステップにおいて、ＩｎｔｅｒＣｏｓｔ＜ＩｎｔｒａＣｈｒｏｍａＣｏｓｔが成り立てば、輝度信号のフレーム内符号化処理を省略することができ、処理量の削減が可能である。
【００４２】
また、非負の値をとる符号化効率評価値を用いることにより、ＩｎｔｅｒＣｏｓｔ＜ＩｎｔｒａＣｈｒｏｍａＣｏｓｔが成り立つ場合は、必ずＩｎｔｅｒＣｏｓｔ＜ＩｎｔｒａＣｏｓｔとなることがいえるため、輝度信号のフレーム内符号化処理を省略することによって符号化効率が低下することはない。
【００４３】
なお、色差信号のフレーム内予測符号化処理は、輝度信号のフレーム内予測符号化処理と比較して、必要な演算量は少ない。なぜなら、輝度予測信号の生成方法が（９１６＋４１６＋４）通りあるのに対し、色差予測信号の生成方法は４通りしかないからである。また、輝度信号の画素数が１６ｘ１６、色差信号の画素数が８ｘ８であるため、１つの予測信号を生成するために必要な処理量も色差信号のほうが少ない。
【００４４】
（３）Ｉｎｔｅｒモード判定ステップ
図２はＩｎｔｅｒモード判定ステップにおけるＢｅｓｔＩｎｔｅｒ決定のフローチャートである。
【００４５】
フレーム間予測における予測信号は、動き補償ブロックサイズ、予測方向（Ｌ０、Ｌ１、ＢｉＰｒｅｄ）、動きベクトル、参照フレームインデックスなどの予測情報の組み合わせに基づいて生成される。Ｉｎｔｅｒモード判定部は、まず、図中に示されない外部動き探索部から予測情報の組み合わせを受け取り、予測信号を生成する（Ｓ１１）。次に、予測残差信号に直交変換を施す際のブロックサイズが４ｘ４の場合と８ｘ８の場合について、符号化効率評価値を算出し（Ｓ１２）、上記予測情報の組み合わせで、評価値の小さい直交変換のブロックサイズを用いたフレーム間予測符号化をＢｅｓｔＩｎｔｅｒとする（Ｓ１３）。
【００４６】
なお、Ｉｎｔｅｒモード判定ステップは、外部動き探索部から予測情報の組み合わせを複数受け取ることもでき、その場合は、それぞれの予測情報の組み合わせについて、上記手段により符号化効率評価値を算出し、評価値が最小となるような予測情報の組み合わせと直交変換のブロックサイズとを用いたＩｎｔｅｒ予測符号化をＢｅｓｔＩｎｔｅｒとする。
【００４７】
（４）ＩｎｔｒａＣｈｒｏｍａモード判定ステップ
図３はＩｎｔｒａＣｈｒｏｍａモード判定ステップにおけるＢｅｓｔＩｎｔｒａＣｈｒｏｍａ決定のフローチャートである。
【００４８】
フレーム内予測による色差予測信号は、予測方向（ＤＣ、Ｈｏｒｉｚｏｎｔａｌ、Ｖｅｒｔｉｃａｌ、Ｐｌａｎｅ）に基づいて生成される。ＩｎｔｒａＣｈｒｏｍａモード判定ステップは、まず、４通りの予測方向について予測信号を生成する（Ｓ３１）。
【００４９】
次に、それぞれ符号化効率評価値を算出し（Ｓ３２）、評価値が最小となる予測方向を用いたフレーム内予測符号化をＢｅｓｔＩｎｔｒａＣｈｒｏｍａとする（Ｓ３３）。
【００５０】
（５）ＩｎｔｒａＬｕｍａモード判定ステップ
図４はＩｎｔｒａＬｕｍａモード判定ステップにおけるＢｅｓｔＩｎｔｒａＬｕｍａ決定のフローチャートである。
【００５１】
ＩｎｔｒａＬｕｍａモード判定ステップでは、まず、Ｉｎｔｒａ４ｘ４モード判定ステップにおいて、Ｉｎｔｒａ４ｘ４予測を用いた場合に最も符号化効率の良い符号化方法ＢｅｓｔＩｎｔｒａ４ｘ４を決定し（Ｓ６１）、ＢｅｓｔＩｎｔｒａ４ｘ４の符号化効率評価値Ｉｎｔｒａ４ｘ４Ｃｏｓｔを算出する（Ｓ６２）。
【００５２】
また、Ｉｎｔｒａ８ｘ８モード判定ステップにおいて、Ｉｎｔｒａ８ｘ８予測を用いた場合に最も符号化効率の良い符号化方法ＢｅｓｔＩｎｔｒａ８ｘ８を決定し（Ｓ６３）、ＢｅｓｔＩｎｔｒａ８ｘ８の符号化効率評価値Ｉｎｔｒａ８ｘ８Ｃｏｓｔを算出する（Ｓ６４）。
【００５３】
また、Ｉｎｔｒａ１６ｘ１６モード判定ステップにおいて、Ｉｎｔｒａ１６ｘ１６予測を用いた場合に最も符号化効率の良い符号化方法ＢｅｓｔＩｎｔｒａ１６ｘ１６を決定し（Ｓ６５）、ＢｅｓｔＩｎｔｒａ１６ｘ１６の符号化効率評価値Ｉｎｔｒａ１６ｘ１６を算出する（Ｓ６６）。
【００５４】
このとき、Ｉｎｔｒａ４ｘ４Ｃｏｓｔ、Ｉｎｔｒａ８ｘ８Ｃｏｓｔ、Ｉｎｔｒａ１６ｘ１６Ｃｏｓｔの３つを比較し（Ｓ６７）、Ｉｎｔｒａ４ｘ４Ｃｏｓｔが最小であれば、ＢｅｓｔＩｎｔｒａ４ｘ４をＢｅｓｔＩｎｔｒａＬｕｍａとする（Ｓ６８）。Ｉｎｔｒａ８ｘ８Ｃｏｓｔが最小であれば、ＢｅｓｔＩｎｔｒａ８ｘ８をＢｅｓｔＩｎｔｒａＬｕｍａとする（Ｓ６９）。Ｉｎｔｒａ１６ｘ１６Ｃｏｓｔが最小であれば、ＢｅｓｔＩｎｔｒａ１６ｘ１６をＢｅｓｔＩｎｔｒａＬｕｍａとする（Ｓ７０）。
【００５５】
（６）Ｉｎｔｒａ４ｘ４モード判定ステップ
図５はＩｎｔｒａ４ｘ４モード判定ステップにおけるＢｅｓｔＩｎｔｒａ４ｘ４決定のフローチャートである。
【００５６】
Ｉｎｔｒａ４ｘ４予測による予測信号は、１６個の４ｘ４ブロック毎に指定された予測方向（Ｖｅｒｔｉｃａｌ、Ｈｏｒｉｚｏｎｔａｌ、ＤＣなど）に基づいて生成される。Ｉｎｔｒａ４ｘ４モード判定ステップは、４ｘ４ブロック毎に（Ｓ６１１）、それぞれの予測方向を用いた場合の予測信号を生成し（Ｓ６１２）、符号化効率評価値を算出して（Ｓ６１３）、評価値が最小となる予測方向を対象ブロックの最適予測方向とする（Ｓ６１４）。１６個のブロックについて以上の処理を行い、得られた１６個の最適方向を用いたＩｎｔｒａ４ｘ４予測符号化をＢｅｓｔＩｎｔｒａ４ｘ４とする。
【００５７】
（７）Ｉｎｔｒａ８ｘ８モード判定ステップ
図６はＩｎｔｒａ８ｘ８モード判定ステップにおけるＢｅｓｔＩｎｔｒａ８ｘ８決定のフローチャートである。
【００５８】
Ｉｎｔｒａ８ｘ８予測による予測信号は、４個の８ｘ８ブロック毎に指定された予測方向（Ｖｅｒｔｉｃａｌ、Ｈｏｒｉｚｏｎｔａｌ、ＤＣなど）に基づいて生成される。Ｉｎｔｒａ８ｘ８モード判定ステップは、８ｘ８ブロック毎に（Ｓ６３１）、それぞれの予測方向を用いた場合の予測信号を生成し（Ｓ６３２）、符号化効率評価値を算出して（Ｓ６３３）、評価値が最小となる予測方向を対象ブロックの最適予測方向とする（Ｓ６３４）。４個のブロックについて以上の処理を行い、得られた４個の最適方向を用いたＩｎｔｒａ８ｘ８予測符号化をＢｅｓｔＩｎｔｒａ８ｘ８とする。
【００５９】
（８）Ｉｎｔｒａ１６ｘ１６モード判定ステップ
図７はＩｎｔｒａ１６ｘ１６モード判定ステップにおけるＢｅｓｔＩｎｔｒａ１６ｘ１６決定のフローチャートである。
【００６０】
Ｉｎｔｒａ１６ｘ１６予測による予測信号は、予測方向（Ｖｅｒｔｉｃａｌ、Ｈｏｒｉｚｏｎｔａｌ、ＤＣ、Ｐｌａｎｅ）により決まる。Ｉｎｔｒａ１６ｘ１６モード判定ステップは、まず、４通りの予測方向について予測信号を生成する（Ｓ６５１）。次に、それぞれ符号化効率評価値を算出し（Ｓ６５２）、評価値が最小となる予測方向を用いたＩｎｔｒａ１６ｘ１６予測符号化をＢｅｓｔＩｎｔｒａ１６ｘ１６とする（Ｓ６５３）。
【００６１】
（９）符号化効率評価値の第１の決定方法
ＩｎｔｅｒＣｏｓｔ、ＩｎｔｒａＬｕｍａＣｏｓｔ、ＩｎｔｒａＣｈｒｏｍａＣｏｓｔの算出及び各モード判定ステップにおいては、符号化効率評価値として、符号化歪Ｄ及び発生符号量Ｒを用いた評価値Ｊ＝Ｄ＋λ・Ｒを用いることができる。λはＬａｇｒａｎｇｅの未定乗数に相当し、量子化パラメータに応じて決定される。
【００６２】
符号化歪Ｄはマクロブロック内の各画素ｉにおける入力画素値ｓｉ及びローカルデコード画素値ｌｉの下記式の差分二乗和Ｄにより算出できる。
【数１】
2008016889.tif 000003
【００６３】
発生符号量Ｒは可変長符号化（ＣＡＢＡＣまたはＣＡＶＬＣ）を行った後のビット数により算出できる。
【００６４】
（１０）符号化効率評価値の第２の決定方法
また、符号化効率評価値として、符号化歪Ｄ及び発生符号量推定値ＲＰＲＥＤを用いた評価値Ｊ１＝Ｄ＋λ・ＲＰＲＥＤを用いることもできる。
【００６５】
発生符号量推定値ＲＰＲＥＤは、量子化後の変換係数Ｑ、予測モード情報ｐｒｅｖ＿ｉｎｔｒａ４ｘ４＿ｐｒｅｄ＿ｍｏｄｅ＿ｆｌａｇ及びｐｒｅｖ＿ｉｎｔｒａ８ｘ８＿ｐｒｅｄ＿ｍｏｄｅ＿ｆｌａｇ、差分動きベクトル情報ｍｖｄ＿ｌ０及びｍｖｄ＿ｌ１、参照フレームインデックスｒｅｆ＿ｉｄｘ＿ｌ０、ｒｅｆ＿ｉｄｘ＿ｌ１を用いて、式（１）〜式（９）により算出することができる。なお、ｉｌｏｇ２（ｘ）はｘの最上位の１の位置を返す関数である。αＣＯＥＦＦ、αＭＯＤＥ、αＭＶＤ、αＲＥＦ、βは定数値である。但し、発生符号量推定の精度を向上させるため、予測モード毎に異なるαＣＯＥＦＦ、αＭＯＤＥ、αＭＶＤ、αＲＥＦ、βを用いたり、入力画像の特徴に応じて符号化途中にαＣＯＥＦＦ、αＭＯＤＥ、αＭＶＤ、αＲＥＦ、βを更新することもできる。
【００６６】
ＲＰＲＥＤ＝αＣＯＥＦＦ・ＲＣＯＥＦＦ＋αＭＯＤＥ・ＲＭＯＤＥ＋αＭＶＤ・ＲＭＶＤ＋αＲＥＦ・ＲＲＥＦ＋β      ・・・（１）
ＲＣＯＥＦＦ＝［シグマ］｜Ｑ｜＞０（１＋ｉｌｏｇ２（１＋｜Ｑ｜））  ・・・（２）
（Ｉｎｔｒａ４ｘ４予測のとき）
ＲＭＯＤＥ＝［シグマ］（４−３・ｐｒｅｖ＿ｉｎｔｒａ４ｘ４＿ｐｒｅｄ＿ｍｏｄｅ＿ｆｌａｇ）    ・・・（３）
（Ｉｎｔｒａ８ｘ８予測のとき）
ＲＭＯＤＥ＝［シグマ］（４−３・ｐｒｅｖ＿ｉｎｔｒａ８ｘ８＿ｐｒｅｄ＿ｍｏｄｅ＿ｆｌａｇ）    ・・・（４）
（その他の場合）
ＲＭＯＤＥ＝０      ・・・（５）
（Ｉｎｔｅｒ予測の場合）
ＲＭＶＤ＝［シグマ］ｉ＝０，１（１＋ｉｌｏｇ２（１＋｜ｍｖｄ＿ｌ０［ｉ］｜））          ＋［シグマ］ｉ＝０，１（１＋ｉｌｏｇ２（１＋｜ｍｖｄ＿ｌ１［ｉ］｜））    ・・・（６）
（その他の場合）
ＲＭＶＤ＝０    ・・・（７）
（Ｉｎｔｅｒ予測の場合）
ＲＲＥＦ＝［シグマ］（１＋ｒｅｆ＿ｉｄｘ＿ｌ０）＋［シグマ］（１＋ｒｅｆ＿ｉｄｘ＿ｌ１）    ・・・（８）
（その他の場合）
ＲＲＥＦ＝０    ・・・（９）
ＲＰＲＥＤの算出式は、式（１）〜式（９）のように、加減算、定数値の乗算、絶対値、ｉｌｏｇ２という簡単な演算で構成されており、規模の小さなハードウェアで実装することも可能である。また、発生符号量Ｒを算出する場合と比較して、頻繁なメモリアクセスや分岐処理をともない計算時間のかかる可変長符号化の処理を省略することが可能なため、大幅な処理量削減が実現できる。
【００６７】
図１１は、ＲＰＲＥＤとＲの相関を示した散布図である。但し、αＣＯＥＦＦ＝２、αＭＯＤＥ＝１、αＭＶＤ＝１．７５、αＲＥＦ＝１とし、ＩｎｔｒａＣｈｒｏｍａ予測の場合は、β＝２、その他の場合は、β＝０とした。
【００６８】
このように、αＣＯＥＦＦ、αＭＯＤＥ、αＭＶＤ、αＲＥＦとして、乗算の容易な値を用いた場合でも実際の発生符号量と高い相関を持った発生符号量推定値を算出することが可能である。
【００６９】
ＲＰＲＥＤはＲと高い相関を持っているため、Ｒの代わりにＲＰＲＥＤを用いることによって、符号化効率評価値のモード判定性能が低下することはほとんどない。
【００７０】
（１１）符号化効率評価値の第３の決定方法
また、符号化効率評価値として、符号化歪近似値ＤＡＰＰＲＯＸ及び発生符号量推定値ＲＰＲＥＤを用いた評価値Ｊ２＝ＤＡＰＰＲＯＸ＋λ・ＲＰＲＥＤを用いることもできる。
【００７１】
符号化歪近似値ＤＡＰＰＲＯＸは、符号化歪Ｄの近似値であって、マクロブロック内の各画素ｉにおける入力画素値ｓｉ及びローカルデコード画素値ｌｉの絶対値和ＤＳＡＤ＝［シグマ］｜ｓｉ−ｌｉ｜に基づいて算出することができる。
【００７２】
例えば、線形近似により、定数ａを用いて、ＤＡＰＰＲＯＸ＝a・ＤＳＡＤと算出することができる。
【００７３】
また、例えば、２次近似により、定数ｂを用いて、ＤＡＰＰＲＯＸ＝ｂ・ＤＳＡＤ２と算出することもできる。
【００７４】
また、例えば、折れ線近似により、ＤＡＰＰＲＯＸ＝Ｙｋ＋Ｒｋ・（ＤＳＡＤ−Ｘｋ）と算出することもできる。但し、（Ｘｋ，Ｙｋ）は折れ線のｋ番目の頂点の座標、Ｒｋは頂点（Ｘｋ，Ｙｋ）と頂点（Ｘｋ＋１，Ｙｋ＋１）とを結ぶ線分の傾きである。ｋは、Ｘｋ≦ＤＳＡＤ＜Ｘｋ＋１となるように決定する。このとき、（Ｘｉ，Ｙｉ）及びＲｉを式（１０）〜式（１５）のように設定することで、算出したＤＳＡＤに対して、ｋは式（１６）の数式により導出でき、ＤＡＰＰＲＯＸを加減算、シフト、ｉｌｏｇ２という簡単な演算の組み合わせで算出することができる。一方、図１２のようにＤＡＰＰＲＯＸはＤと高い相関を持っている。
【００７５】
（ｉ＜７のとき）
Ｒｉ＝１    ・・・（１０）
（７≦ｉ≦１２のとき）
Ｒｉ＝２ｉ−６    ・・・（１１）
（ｉ＞１２のとき）
Ｒｉ＝２６    ・・・（１２）
Ｘｉ＝２ｉ−１    ・・・（１３）
Ｙ０＝０    ・・・（１４）
Ｙｉ＋１＝Ｙｉ＋Ｒｉ・（Ｘｉ＋１−Ｘｉ）    ・・・（１５）
ｋ＝ｉｌｏｇ２（１＋ＤＳＡＤ）    ・・・（１６）
以上のように、Ｄの代わりにＤＡＰＰＲＯＸを用いることによって、乗算の回数を大幅に削減することができるため、乗算の演算コストが高いプラットホームにおいては、必要な処理量を大幅に削減することができる。一方で、ＤＡＰＰＲＯＸがＤと高い相関を持っていればモード判定性能はほとんど低下しない。
【００７６】
（１２）符号化効率評価値の第４の決定方法
また、符号化効率評価値として、予測残差信号のＳＡＴＤ（Ｓｕｍ  ｏｆ  Ａｂｓｏｌｕｔｅ  Ｔｒａｎｓｆｏｒｍ  Ｄｉｆｆｅｒｅｎｃｅｓ）及びオーバーヘッドＯＨを用いた評価値Ｓ＝ＳＡＴＤ＋λ・ＯＨ＋κを用いることもできる。κは、評価値のオフセットであり、量子化パラメータと符号化モードとに応じて決定される。
【００７７】
予測残差のＳＡＴＤは、予測残差信号にアダマール変換を施した後、周波数領域で絶対値和をとることで計算できる。また、直交変換としてアダマール変換の代わりにＤＣＴを用いることもできる。
【００７８】
符号化効率評価値Ｓを用いた場合、符号化効率評価値Ｊを用いた場合と比較して、モード判定性能は若干劣るものの、算出に必要な処理量が少ないという利点がある。
【００７９】
（１３）符号化効率評価値の決定方法の変更例
符号化効率評価値は、ＩｎｔｅｒＣｏｓｔ算出ステップ、ＩｎｔｒａＬｕｍａＣｏｓｔ算出ステップ、ＩｎｔｒａＣｈｒｏｍａＣｏｓｔ算出ステップ及び各モード判定ステップの全ての過程において、同一のものを用いてもよいし、それぞれで異なるものを用いてもよい。
【００８０】
（１３−１）変更例１
例えば、全ての過程で符号化効率評価値Ｊを用いることにより、高性能なモード判定を行い、符号化効率をあげることができる。
【００８１】
（１３−２）変更例２
また、符号化効率よりも符号化速度が重視される場合には、全ての過程で符号化効率評価値Ｓを用いることにより、処理量を大幅に削減し、高速なモード判定を行うこともできる。
【００８２】
（１３−３）変更例３
また、各モード判定ステップにおいて、符号化効率評価値Ｓを用いて、評価値の小さないくつかの予測方法に絞り込んだ後に、絞り込まれた予測方法に対してのみ符号化効率評価値Ｊを算出して、評価値のもっとも小さい予測方法を選択するということで、符号化効率をあまり低下させることなく、処理量を削減することもできる。
【００８３】
（１３−４）変更例４
また、輝度信号に対しては符号化効率評価値Ｊを用い、色差信号に対しては符号化効率評価値Ｓを用いることで、符号化効率をあまり低下させることなく、処理量を削減することもできる。
【００８４】
なぜなら、色差信号が輝度信号よりもマクロブロック内の画素数が少ないことから、色差信号についての符号化効率評価値は、輝度信号についての符号化効率評価値よりも小さい値であることが多く、色差信号の予測モードの選択が符号化効率に与える影響が比較的少ないためである。
【００８５】
但し、輝度信号と色差信号とで異なる符号化効率評価値を用いるため、それらを足し合わせる際には、一方にスケーリング係数を乗算することが必要である。スケーリング係数の値は、符号化効率評価値Ｊと符号化効率評価値Ｓとの相関を予め求めておくことで、算出することができる。
【００８６】
（１３−５）変更例５
また、Ｉｎｔｒａ４ｘ４モード判定ステップ、Ｉｎｔｒａ８ｘ８モード判定ステップ、Ｉｎｔｒａ１６ｘ１６モード判定ステップ、ＩｎｔｒａＣｈｒｏｍａモード判定ステップにおいて、符号化効率評価値Ｓを用い、ＩｎｔｅｒＬｕｍａモード判定ステップ、Ｉｎｔｒａモード判定ステップ及びＩｎｔｅｒＣｏｓｔ算出ステップ、ＩｎｔｒａＬｕｍａＣｏｓｔ算出ステップ、ＩｎｔｒａＣｈｒｏｍａＣｏｓｔ算出ステップにおいて、符号化効率評価値Ｊを用いることで、モード判定性能をほとんど落とすことなく処理量を削減することもできる。
【００８７】
なぜなら、Ｉｎｔｒａ４ｘ４モード判定ステップ、Ｉｎｔｒａ８ｘ８モード判定ステップ、Ｉｎｔｒａ１６ｘ１６モード判定ステップ、ＩｎｔｒａＣｈｒｏｍａモード判定ステップにおいては、それぞれ、予測信号生成のために必要な情報の種類や予測ブロックサイズが同一である予測方法について符号化効率を比較するため、符号化効率評価値Ｓを用いることによる、モード判定性能の低下が小さいからである。
【００８８】
（１３−６）変更例６
また、選択される可能性の高い予測モードに対して、符号化効率評価値Ｊを用い、それ以外の予測モードに対して、符号化効率評価値Ｓを用いることで、モード判定性能をほとんど落とすことなく処理量を削減することもできる。
【００８９】
例えば、Ｐピクチャ及びＢピクチャではフレーム間予測を用いたほうが符号化効率の良い場合が多いことを考慮して、Ｉピクチャにおいては、全ての過程で符号化効率評価値Ｊを用い、Ｐピクチャ及びＢピクチャにおいては、Ｉｎｔｒａ４ｘ４モード判定ステップ、Ｉｎｔｒａ８ｘ８モード判定ステップ、Ｉｎｔｒａ１６ｘ１６モード判定ステップ、ＩｎｔｒａＣｈｒｏｍａモード判定ステップにおいて、符号化効率評価値Ｓを用い、ＩｎｔｅｒＬｕｍａモード判定ステップ、Ｉｎｔｒａモード判定ステップ及びＩｎｔｅｒＣｏｓｔ算出ステップ、ＩｎｔｒａＬｕｍａＣｏｓｔ算出ステップ、ＩｎｔｒａＣｈｒｏｍａＣｏｓｔ算出ステップにおいて、符号化効率評価値Ｊを用いることができる。
【００９０】
（１３−７）変更例７
また、例えば、符号化済フレームでの、Ｉｎｔｒａ４ｘ４予測、Ｉｎｔｒａ８ｘ８予測、Ｉｎｔｒａ１６ｘ１６予測、Ｉｎｔｅｒ予測が用いられた割合に基づいて各モード判定ステップで利用する符号化効率評価値を決定することもできる。もし、符号化済フレームにおいてＩｎｔｒａ４ｘ４予測が最も多く用いられたのであれば、Ｉｎｔｒａ４ｘ４モード判定ステップで、符号化効率評価値Ｊを用いて、Ｉｎｔｒａ８ｘ８モード判定ステップ、Ｉｎｔｒａ１６ｘ１６モード判定ステップ、Ｉｎｔｅｒモード判定ステップでは、符号化効率評価値Ｓを用いるようにすることができる。
【００９１】
（１３−８）変更例８
また、例えば、ＩｎｔｅｒＣｏｓｔとＩｎｔｒａＣｈｒｏｍａＣｏｓｔとの差分値に基づいて、Ｉｎｔｒａ４ｘ４モード判定ステップ、Ｉｎｔｒａ８ｘ８モード判定ステップ、Ｉｎｔｒａ１６ｘ１６モード判定ステップ、Ｉｎｔｒａモード判定ステップで用いる符号化効率評価値を決定することもできる。
【００９２】
ＩｎｔｅｒＣｏｓｔとＩｎｔｒａＣｈｒｏｍａＣｏｓｔとの差分値が小さい場合は、フレーム内予測を用いると判断する可能性が低くなるため、Ｉｎｔｒａ４ｘ４モード判定ステップ、Ｉｎｔｒａ８ｘ８モード判定ステップ、Ｉｎｔｒａ１６ｘ１６モード判定ステップ、Ｉｎｔｒａモード判定ステップにおいては、符号化効率評価値Ｓを用い、ＩｎｔｅｒＣｏｓｔとＩｎｔｒａＣｈｒｏｍａＣｏｓｔとの差分値が大きい場合は、フレーム内予測を用いると判断する可能性が高くなるため、Ｉｎｔｒａ４ｘ４モード判定ステップ、Ｉｎｔｒａ８ｘ８モード判定ステップ、Ｉｎｔｒａ１６ｘ１６モード判定ステップ、Ｉｎｔｒａモード判定においては、符号化効率評価値Ｊを用いることができる。
【００９３】
（１３−９）変更例９
また、例えば、入力画像のサイズに応じて、Ｉｎｔｒａ４ｘ４モード判定ステップ及びＩｎｔｒａ８ｘ８モード判定ステップで利用する符号化効率評価値を決定することもできる。入力画像サイズが小さい場合には、Ｉｎｔｒａ４ｘ４予測のほうが符号化効率が良いことが多いため、Ｉｎｔｒａ４ｘ４モード判定ステップで符号化効率評価値Ｊ、Ｉｎｔｒａ８ｘ８モード判定ステップで符号化効率評価値Ｓを用いて、入力画像サイズが大きい場合には、Ｉｎｔｒａ８ｘ８予測のほうが符号化効率が良いことが多いため、Ｉｎｔｒａ４ｘ４モード判定ステップで符号化効率評価値Ｓ、Ｉｎｔｒａ８ｘ８モード判定ステップで符号化効率評価値Ｊを用いることができる。
【００９４】
（１３−１０）変更例１０
なお、以上に説明した方法で、符号化効率評価値Ｊの代わりに符号化効率評価値Ｊ１もしくはＪ２を用いることにより、符号化効率をほとんど落とすことなく、さらに処理量を削減することもできる。
【００９５】
（第２の実施形態）
図８は本発明の第２の実施形態に係るＩｎｔｒａ４ｘ４モード判定ステップにおけるＢｅｓｔＩｎｔｒａ４ｘ４決定のフローチャートである。
【００９６】
本実施形態は、第１の実施形態におけるＩｎｔｒａ４ｘ４モード判定ステップの処理を置き換えたものとなっており、他の部分の処理は第１の実施形態と同じであるため、説明を省略する。また、図中の第１の実施形態のＩｎｔｒａ４ｘ４モード判定ステップにおける処理と同一の処理には同じ符号を付している。
【００９７】
まず、ＴｍｐＩｎｔｒａＣｏｓｔ＝ＩｎｔｒａＣｈｒｏｍａＣｏｓｔと初期化する（Ｓ６１０）。
【００９８】
次に、４ｘ４ブロック毎に（Ｓ６１１）、それぞれの予測方向を用いた場合の予測信号を生成し（Ｓ６１２）、符号化効率評価値を算出して（Ｓ６１３）、評価値が最小となる予測方向を対象ブロックの最適予測方向とする（Ｓ６１４）。
【００９９】
このとき、対象ブロックを最適予測方向を用いて符号化したときの符号化効率評価値Ｉｎｔｒａ４ｘ４ＢｌｋＣｏｓｔを算出しＴｍｐＩｎｔｒａＣｏｓｔに足し合わせる（Ｓ６１５）。
【０１００】
ＴｍｐＩｎｔｒａＣｏｓｔとＩｎｔｅｒＣｏｓｔとを比較して（Ｓ６１６）、ＴｍｐＩｎｔｒａＣｏｓｔ＞ＩｎｔｅｒＣｏｓｔであれば、Ｉｎｔｒａ４ｘ４予測を用いないこととし（Ｓ６１６）、Ｉｎｔｒａ４ｘ４モード判定処理を終了する（Ｓ６１７）。
【０１０１】
一方、つねにＴｍｐＩｎｔｒａＣｏｓｔ＞ＩｎｔｅｒＣｏｓｔが成り立たなければ、１６個のブロックについて以上の処理を行い、得られた１６個の最適方向を用いたＩｎｔｒａ４ｘ４予測符号化をＢｅｓｔＩｎｔｒａ４ｘ４とする。
【０１０２】
Ｓ６１５〜Ｓ６１７の処理によりＩｎｔｒａ４ｘ４モード判定を早期に終了することで処理量の削減を実現することができる。
【０１０３】
また、Ｉｎｔｒａ４ｘ４ＢｌｋＣｏｓｔ、Ｉｎｔｒａ４ｘ４Ｃｏｓｔ、ＩｎｔｒａＣｏｓｔの算出に同一の符号化効率評価値算出手段を用いる限り、モード判定の性能が低下することはない。なぜなら、最終的にＩｎｔｒａ４ｘ４予測を用いると判定されるとすれば、ＩｎｔｅｒＣｏｓｔ≧ＩｎｔｒａＣｏｓｔ＝ＩｎｔｒａＬｕｍａＣｏｓｔ＋ＩｎｔｒａＣｈｒｏｍａＣｏｓｔ＝Ｉｎｔｒａ４ｘ４Ｃｏｓｔ＋ＩｎｔｒａＣｈｒｏｍａＣｏｓｔ＝［シグマ］Ｉｎｔｒａ４ｘ４ＢｌｋＣｏｓｔ＋ＩｎｔｒａＣｈｒｏｍａＣｏｓｔとなり、ＩｎｔｅｒＣｏｓｔ＜ＴｍｐＩｎｔｒａＣｏｓｔとなることはありえないからである。
【０１０４】
以上の処理は、Ｉｎｔｒａ８ｘ８モード判定ステップにおいても行うことができる。
【０１０５】
（変更例）
本発明は上記各実施形態に限らず、その主旨を逸脱しない限り種々に変更することができる。
【０１０６】
例えば、図１０は、動画像符号化装置の構成の変更例を示すブロック図である。
【０１０７】
本実施形態は、第１の実施形態の動画像符号化装置の変形になっているため、以下に異なる部分のみを説明する。
【０１０８】
発生符号量推定部１４は、ＤＣＴ／量子化部２から出力された量子化後の変換係数及びセレクタ９から出力された予測モード情報や動きベクトルなど情報から発生符号量を推定し出力する。
【０１０９】
符号化効率評価値算出部１２は、符号化歪算出部１０から出力された符号化歪及び発生符号量推定部１４から出力された発生符号量推定値から符号化効率評価値を算出し出力する。
【０１１０】
以上により、本変更例の構成は、仮符号化のステップにおいて可変長符号化の処理を行う必要がなくなるため、第１の実施形態の構成と比較して処理量の削減が可能である。
【図面の簡単な説明】
【０１１１】
【図１】本発明の第１の実施形態における予測モード決定処理フローチャートである。
【図２】第１の実施形態におけるＩｎｔｅｒ予測モード決定処理フローチャートである。
【図３】第１の実施形態におけるＩｎｔｒａＣｈｒｏｍａ予測モード決定処理フローチャートである。
【図４】第１の実施形態におけるＩｎｔｒａＬｕｍａ予測モード決定処理フローチャートである。
【図５】第１の実施形態におけるＩｎｔｒａ４ｘ４予測モード決定処理フローチャートである。
【図６】第１の実施形態におけるＩｎｔｒａ８ｘ８予測モード決定処理フローチャートである。
【図７】第１の実施形態におけるＩｎｔｒａ１６ｘ１６予測モード決定処理フローチャートである。
【図８】本発明の第２の実施形態におけるＩｎｔｒａ４ｘ４予測モード決定処理フローチャートである。
【図９】第１の実施形態に係る動画像符号化装置の構成を示すブロック図である。
【図１０】同じく動画像符号化装置の構成の変更例を示すブロック図である。
【図１１】発生符号量推定値ＲＰＲＥＤと発生符号量Ｒとの相関図である。
【図１２】符号化歪近似値ＤＡＰＰＲＯＸと符号化歪Ｄとの相関図である。
【符号の説明】
【０１１２】
１      差分部
２      ＤＣＴ／量子化部
３      可変長符号化部
４      逆量子化／逆ＤＣＴ部
５      加算部
６      フレームメモリ
７      動き探索部
８      Ｉｎｔｒａ予測信号生成部
９      セレクタ
１０      符号化歪算出部
１１      発生符号量算出部
１２      符号化効率評価値算出部
１３      制御部
１４      発生符号量推定部
【図１】
2008016889.tif 000004
【図２】
2008016889.tif 000005
【図３】
2008016889.tif 000006
【図４】
2008016889.tif 000007
【図５】
2008016889.tif 000008
【図６】
2008016889.tif 000009
【図７】
2008016889.tif 000010
【図８】
2008016889.tif 000011
【図９】
2008016889.tif 000012
【図１０】
2008016889.tif 000013
【図１１】
2008016889.tif 000014
【図１２】
2008016889.tif 000015