符号化対象画像を予測し、当該予測した符号化対象画像と原画像との差分を符号化する方式の動画像符号化装置において、前記符号化対象画像の予測を、当該符号化対象画像とは別の画像を参照して行う画面間予測手段と、前記符号化対象画像の予測を、当該符号化対象画像と同一の画像を参照して行う画面内予測手段と、前記差分の符号化に際して前記画面間予測手段と前記画面内予測手段の何れによる予測結果を用いるのかを判定するモード選択手段とを設け、前記モード選択手段は、画面間予測時のパラメータ値に設定した閾値に基づいて前記判定を行うことを特徴とする動画像符号化装置。請求項1に記載の動画像符号化装置において、前記モード選択手段は、画面間予測の予測誤差が小さい領域では前記画面間予測手段を選択し、画面間予測の予測誤差が大きい領域では前記画面内予測手段を選択することを特徴とする動画像符号化装置。予測した符号化対象画像と原画像との差分を符号化する方式の動画像符号化方法において、前記予測した符号化対象画像と原画像との差分を符号化する際、前記符号化対象画像の予測を、当該符号化対象画像とは別の画像を参照して行う場合と、前記符号化対象画像の予測を、当該符号化対象画像と同一の画像を参照して行う場合とを、画面間予測時のパラメータ値に設定した閾値に基づいて選択することを特徴とする動画像符号化方法。上記従来技術は、擬似SADの値がSADの値からかけ離れてしまう場合がある点に配慮がされておらず、予測手段の選択を誤って符号化効率が大幅に低下してしまうという問題があった。従来技術の場合、特に低ビットレート帯域では量子化誤差の影響でSADと擬似SADの値がかけ離れたものとなってしまい、このため予測手段の選択に必要な判定、いわゆるイントラ/インター判定に誤りが生じ、この結果、符号化効率が大幅に低下してしまうのである。詳しく説明すると、符号化ストリームが所望のビットレートになるように量子化パラメータの制御を行うレート制御機能を用いる場合、イントラ/インター判定を行う時点では対象マクロブロックにおける量子化パラメータの値が決定していない場合が多い。一方、最適な予測手段については、それがビットレートに応じて異なることが多いため、イントラ/インター判定に用いるコスト関数にも量子化パラメータの項目を入れるのが通例である。しかし、この結果、コスト計算時には量子化パラメータに関して仮の値を設定せざるを得ないが、ここで、この仮の値が、もしも実際の値と大きく異なったとすれば、適正な判定結果が得られなくなって符号化効率が低下してしまうことになる。しかし、ここで仮の値とは、名の通り仮りのものであるから、推測によるしかなく、正しい設定は僥倖頼みになってしまい、この結果、従来技術では、符号化効率の低下という問題が生じてしまうのである。一方、上記した符号化方式に関する規格の中には、マクロブロックを更に細かなブロックに分割して予測を行うものがあるが、この場合、分割パターンは多岐にわたり、最適な予測手段と分割パターンの組み合わせの決定には、膨大な計算量を要してしまうので、問題の解決にはならない。また、マクロブロック単位で並列化処理を行うビデオエンコーダの場合、隣接ブロックの符号化の完了が、対象ブロックの符号化モード選択時に得られないのでイントラ予測画像の生成ができず、従って、精度の高いイントラ/インター判定は望むべくも無い。また、レート制御を用いて量子化パラメータを制御する従来技術の場合、仮の量子化パラメータを設定して判定を行うことになるが、このときイントラ/インター判定の良否は量子化パラメータに大きく依存する。従って、この場合、設定した仮の量子化パラメータが実際の量子化パラメータと異なったとすれば判定結果に誤りが生じ、この結果、画質が低下するという問題があった。このとき、H.264/AVCなどの新しい規格では、絵柄に応じてブロックサイズを変えることができる。しかし、その反面、候補となる符号化モードの種類が多くなってしまうので、最適なモードを決定するためには、更に膨大な計算量が必要になってしまう。本発明の目的は、少ない計算量のもとで符号量を抑えながら高画質の画像が処理できるようにした動画像符号化装置及び動画像符号化方法を提供することにある。上記目的は、予測した符号化対象画像と原画像との差分を符号化する方式の動画像符号化装置において、前記符号化対象画像の予測を、当該符号化対象画像とは別の画像を参照して行う画面間予測手段と、前記符号化対象画像の予測を、当該符号化対象画像と同一の画像を参照して行う画面内予測手段と、前記差分の符号化に際して前記画面間予測手段と前記画面内予測手段の何れによる予測結果を用いるのかを判定するモード選択手段とを設け、前記モード選択手段は、画面間予測時のパラメータ値に基づいて前記判定を行うようにして達成される。同じく、上記目的は、予測した符号化対象画像と原画像との差分を符号化する方式の動画像符号化方法において、前記予測した符号化対象画像と原画像との差分を符号化する際、前記符号化対象画像の予測を、当該符号化対象画像とは別の画像を参照して行う場合と、前記符号化対象画像の予測を、当該符号化対象画像と同一の画像を参照して行う場合とを、画面間予測時のパラメータ値に設定した閾値に基づいて選択するようにしても達成される。本発明が導入した閾値は、絵柄やビットレートへの依存性が極めて低く、定数として設定しても問題がないため、レート制御を用いる場合など量子化パラメータがまだ決まっていない状況下でも客観的にみて最適なイントラ/インター判定が行える。また、ブロックサイズを決定する前に上記イントラ/インター判定を行うことにより符号化モードの絞込みを行うことが可能となり、符号化モード選択処理に必要な処理量を低減することができる。従って、本発明によれば、少ない計算量と少ない符号量で高画質の画像の提供が可能な動画像符号化技術を提供することができる。以下、本発明に係る動画像符号化装置及び動画像符号化方法について、図示の実施形態により説明する。このとき、本発明においては、例えば上記したH.264/AVCなどの動画像符号化方式において、動画像の持つ冗長性を抑え、符号量を削減するため、符号化処理が完了した画像情報を利用して符号化対象画像を予測し、原画像との差分を符号化するようにしている。そこで、このときの本発明における符号化処理の概要について説明する。まず、ここでは、動画像の局所的性質を利用するため、画像を細かく分割したブロック単位で予測を行う場合について説明する。すなわち、図5に示すように、対象画像501に対して、ラスタースキャンの順序に従い、16×16画素で構成されるマクロブロック502単位で予測を行うのである。この予測手段としては、図示のように、インター予測503と、イントラ予測504の2種類に大別される。このとき、図示のように、このマクロブロックをさらに細かなブロックに分割して予測するようにしている。そして、符号化時には、予測手段に加え、いずれの分割パターンを用いるかをマクロブロック単位で決定し、予測手段と分割パターンの組み合わせを符号化モードとし、その識別子をヘッダ情報として符号化する。このインター予測は、更に505で示すように、1枚の参照画像から予測するインター予測Pと、2枚の参照画像から予測可能なインター予測Bに分けられ、更に、このインター予測には、動きベクトルや予測差分を符号化しないスキップモード、それにダイレクトモードが含まれる。そして、どのモードを利用する場合もイントラ/インター判定を行うことができ、従って、ここでは、これらを特に区別せず、纏めてインター予測と呼ぶ。次に、図6は、H.264/AVCによる画面間予測処理の動作について概念的に示したもので、図示のように、画面間予測を行う際には、符号化対象画像603と同じ映像601に含まれる符号化済みの画像の復号画像を参照画像602とし、対象画像中の対象ブロック604と相関の高いブロック605を参照画像中から探索する。このとき、両ブロックの差分として計算される予測差分に加え、予測に必要なヘッダ情報として、両ブロックの座標値の差分として表される動きベクトル606も併せて符号化する。次に、図7のは、同じくH.264/AVCによる画面内予測処理について概念的に示したもので、この画面内予測では、符号化対象ブロックAの左、左上、上、右上に隣接する符号化済みブロックB、C、D、Eの復号画像を用いて予測を行う。すなわち、予測には、これらのブロックB~Eに含まれ、符号化対象ブロックAに接している13個の復号画素701を利用する。このとき予測方向ベクトル702を傾きとする同一直線上の画素は全て同一の参照画素から予測される。ここで、H.264/AVCの場合、縦、横、斜めなど、8種類の予測方向の中から最適なものをブロック単位で選択することができる。このとき、上記のような方向性に基づく予測モードに加え、参照画素の平均値によって符号化対象ブロックに含まれる全ての画素を予測するDC予測も、予測モード2として用意され、8種類の予測方向に付加されている。そして、上記9種類の予測モード703の中から何れのモードを選択したのかを示す情報は、ヘッダ情報として、予測差分と共に符号化される。ちなみに、擬似イントラ予測の場合は、図7のに示すようになり、この場合、参照画像と対象画素が原画像に由来するものになっている。そして、この点が図7のイントラ予測の場合とは異なっていることになる。次に、図8は、イントラ予測とインター予測に関する重要な性質を概念的に表したグラフで、ここでは、高い符号化効率を実現できる理想的な符号化モード選択方式によりイントラ/インター判定を行った場合のSADの値に対して、逆の判定を行った場合に増加するSADの値を表したもので、横軸にはインター予測時のSADを表わすInterSAD801が示され、縦軸には判定を誤った場合のSADの増加分の平均値802がYとして示されている。そして、まず、イントラ予測特性803は、イントラ予測が選ばれるべき場合に誤ってインター予測が選択された場合のSAD増加分を表わし、インター予測特性804は、インター予測が選ばれるべき場合にもかかわらず、誤ってイントラ予測が選択された場合のSAD増加分を表している。従って、この図8のグラフから、各マクロブロックは、インター予測のパラメータとして与えられるInterSADの値によって3種類のカテゴリに分けられることが判る。まず、InterSAD801が小さいカテゴリ1の領域805では、SAD増加分802は、イントラ予測特性803の方が少ない。従って、このカテゴリ1の領域805では、イントラ予測特性803を選択した方が、Inter予測の精度が高く有利な領域であることが判る。次に、InterSAD801が或る程度増加したカテゴリ2の領域806では、一方のイントラ予測特性803は増加し、他方のインター予測特性804は減少し、半ばで交差しているので、どちらの特性が優れているとは一概には言えない領域である。そして、InterSAD801がかなり大きくなったカテゴリ3の領域807では、SAD増加分802は、インター予測特性804の方が少ない。従って、このカテゴリ3の領域807では、インター予測特性804を選択した方が、Inter予測の精度が高いので有利な領域であることが判る。そこで、イントラ予測特性803とインター予測特性804が交差している点Xの両側で、イントラ予測特性803とインター予測特性804に有意な差が表れている点を任意に選定し、夫々閾値T1と閾値T2に設定する。そうすると、ここで、特に重要な点は、これら閾値T1と閾値T2は、対象動画像の絵柄やQPに対する依存性が極めて低く、どのような状況のもとで定数として扱っても何ら問題がないということである。ここで、閾値T1と閾値T2が定数として扱える理由について、更に図9により概念的に説明する。まず、図9に示すように、カテゴリ1の領域に分類されるのは、一般的には、物体が静止していたり、平行移動をしていた場合など、インター予測がよく当たるマクロブロックである。この場合、InterSADの値の範囲には、QPの値により、かなり大きな幅が生じるが、どの帯域でもInterSADの値は、一般的に小さくなる。次に、図9に示すように、カテゴリ2には、3次元移動や照明変化がある場合など、複雑な絵柄の画面間変化により、インター予測の性能が低下するマクロブロックが分類される。この場合も、QPによってInterSADの範囲に幅は生じるが、InterSADの値は一般的に大き目の値となる。一方、図9に示すように、カテゴリ3には、オクリュージョンやシーンチェンジなどが発生して参照画像中に対象物体が存在せず、インター予測がほとんど機能しないマクロブロックが分類される。この場合、InterSADの値には多少の幅は生じるものの、その値はもはやQPに依存するとは限らない。以上のようにカテゴリ分類を行った結果から、予測精度の違いにより、一般的にカテゴリ内のSADの差よりもカテゴリ間のSADの差の方が大きくなり、カテゴリ1のInterSADの最大値はカテゴリ2のInterSADの最小値よりも小さくなり、このときカテゴリ2におけるInterSADの最大値は、カテゴリ3の最小値よりも小さくなることが判る。このとき、InterSADは、一般的に次の通りになる。SAD1<SAD2且つ、SAD2<SAD3従って、図10、、の何れの場合もQPの値に関わらず互いに識別可能であり、この結果、どのような状況下でもカテゴリの境界は固定であるとして問題なく、従って、閾値T1と閾値T2が定数として扱えることが判る。ここで、図10は、実際にある映像を符号化したときのデータを示したもので、図10は、Seq1において、QP=12の場合、図10は、同じくQP=27の場合、そして、図10は、同じくQP=42の場合であり、従って、QPを変化させても、グラフの分布はほとんど変化しないことが判る。次に、図11は、上記とは全く別の映像を符号化したときのデータを示したもので、図11は、Seq1においてQP=12の場合、図11は、同じくQP=27の場合、そして、図11は、同じくQP=42の場合である。図11の場合、グラフの分布は図10のときとは異なるものの、各カテゴリの性質は図10の場合と同様であり、従って、カテゴリを分割するための閾値T1、T2も、図11の場合と同じ値で良いことが判る。但し、レート制御機能を用いない場合など、イントラ/インター判定結果のQPへの依存性が問題にならない場合には、必ずしも閾値T1と閾値T2を固定する必要は無く、例えばQPに応じて閾値を変更させてやれば、符号化効率の多少の上昇が確認されている。以上の結果、インター予測のSADに関して各マクロブロックを3種類のカテゴリに分割する際、定数である閾値T1と閾値T2を用いて分割しても、何らの不都合はなく、各々のカテゴリについて夫々有利になる予測手段が有意に選択できることが判る。そこで、次に、これら閾値T1と閾値T2によりイントラ/インター判定を行う方法について、図12により説明する。まず、対象マクロブロックがカテゴリ1に属する場合、図示のようにインター予測が有利であるから、この場合、ケース1として、インター予測を選択する。次に、カテゴリ2に属する場合には、何れの予測手段が有利なのか一概には言えないので、この場合、ケース2として、さらに詳細なイントラ/インター判定を行う。そして、カテゴリ3に属する場合、イントラ予測が有利であるから、この場合、ケース3として、イントラ予測を選択するのである。ところで、このイントラ予測を行うためには、周辺マクロブロックの符号化が完了し、参照画素として使用可能な復号画像が取得されている必要がある。ここで、まず、イントラ予測を行う際に参照する周辺マクロブロックの位置関係について、図13により説明する。図13の対象画像の中で、例えば対象ブロックにおいてイントラ予測を行うものとした場合、対象ブロックの左、左上、上、右上に位置する4個のマクロブロックを参照することになる。このため、これら4個のマクロブロックについて符号化が完了していなければイントラ予測を行うことができないことになる。しかして、このときの符号化は、ラスタースキャンの順序に従って行われるので、例えば逐次的に符号化を行うとした場合、対象ブロックの符号化に際して、これらの周辺マクロブロックに対する符号化は確実に完了しているので、周辺マクロブロックの復号画像を用いてイントラ予測を実行することができる。そして、符号化モード選択時にイントラ予測とインター予測の両方が可能な場合、一般的には候補となる全ての符号化モードにおいて一度予測処理を行い、次の数1式と数2式によりコスト値Costを計算し、最も小さなコスト値を与える符号化モードを選択する。ここで、Distは予測誤差、Rateは予測に伴うヘッダの符号量、Bは対象ブロックの原画像、B’は対象ブロックの予測画像とする。このとき、weightは予測誤差と符号量がコスト値に寄与する割合を調整するための係数値で、符号化モードの種類や量子化パラメータの値に応じて統計的に決定する。一方、SADは以下の式により定義される。ただし、pijは対象ブロックBにおける座標の画素値を、qijは対象ブロックの予測画像B’における座標の画素値を示している。このときの画素値としては、輝度成分の値のみを利用しても良いし、輝度成分の値と色差成分に値を組み合わせても良い。ここで、予測誤差関数として、式により与えられるものに代え、次の式から与えられるものを用いると、更に効果があるとされている。ここでSATDは、アダマール変換係数絶対値誤差和を表し、対象ブロックの原画像と予測画像の差分値に対して、周波数変換方式の1種であるアダマール変換を施した後、各係数値の絶対値和を計算したものとして、以下の式により定義される。ただし、Trはブロックにアダマール変換を施す関数を表し、Trabは対象ブロックBに対してアダマール変換を施した後の変換係数成分を表す。このときのコスト関数に関しては、上記以外にも二乗誤差和など対象ブロックの原画像と予測画像の類似性を反映できるものならどのような指標を用いてもよい。しかして、例えばマクロブロック単位で並列化処理を行うパイプライン構造等を有するエンコーダにおいては、対象マクロブロックのモード選択を行う時点では、またこれらの周辺マクロブロックの符号化が完了していないことが多い。そして、この場合、周辺ブロックの復号画像を用いてイントラ予測を行うことができず、SADなどの予測誤差を計算することができない。そこで、この場合、符号化モード選択時には周辺ブロックの復号画像の代わりに、周辺ブロックの原画像を用いて擬似的にイントラ予測を行ってその際のSADに基づいてモードを決定し、周辺マクロブロックの符号化が完了した後で、改めて決定したモードで予測画像を生成し直して符号化する方法がよく利用される。しかしながら、この場合、量子化誤差の影響により参照画素の原画像と復号画像に差が生じ、特に低ビットレートではSADと擬似SADがかけ離れたものとなってしまい、符号化モードの選択を誤って画質が大幅に低下するという問題があった。一方、インター予測の場合は、すでに符号化された別の画像を参照するため、マクロブロック単位で並列化処理を行う場合でも、対象画像中のどのブロックにおいても実行が可能であり、常に正確なSADを計算することができる。そこで、このような状況下では、図12で説明したように、常に正確なSADが計算できるようにしたインター予測の結果に基づいて判定を行うことができる本発明を利用することにより、正確なイントラ予測が行えなくても精度の高いイントラ/インター判定が可能となる。この場合、対象マクロブロックがカテゴリ2に分類された場合の更なる判定方法については特に限定されないが、例えば以下のような方法を用いると効果的である。すなわち、まず、インター予測モードの中で代表的なモードのSADと、イントラ予測モードの中で代表的なモードの擬似SADの差分の絶対値が予め設定してある所望の幅の閾値T3未満であれば、量子化誤差の影響により明確なイントラ/インター判定が困難であるとして、一般的にイントラ予測よりも効果の高いインター予測を選択する。そして、上記以外の状況下では、イントラ予測とインター予測の性能的な優劣が十分判別可能であるとして、InterSADとIntrapseudSADを予測誤差として、上記した式などによるコスト計算を行い、コスト値の小さい方の予測手段を選択するのである。このとき、上記の閾値T3の値を、量子化パラメータの値に応じて変化させると特に高い効果を発揮できるが、レート制御などの要件を満たすために固定値を用いても十分な効果がある。また、イントラ予測の予測誤差として擬似SADを使わなくても、擬似イントラ予測画像を用いて計算したSATDやSSDを用いてコスト計算をしても良いし、特にコスト計算を行わずに予測誤差同士を比較して判定を行っても構わない。また、このときのイントラ予測のコスト値としては、上記のような擬似イントラ予測誤差を使わなくても、例えば、対象ブロックの原画像を用いて計算した分散値や、対象ブロックの各画素に対して微分フィルタを施した結果を用いても、これらを組み合わせた値を利用しても構わない。ここで微分フィルタを利用する場合、例えば図14に示すように、対象ブロックの周辺画素も使用すると効果的である。このときの微分フィルタとしては、例えば図15に示すソーベルフィルタや図16に示すプレウィットフィルタを用いると効果的であり、これらのフィルタを利用して、例えば角度を変化させて対象ブロック内のエッジの強度を計算し、最も大きな値に基づいてコスト値を計算すると良い。次に、以上に説明したイントラ/インター判定方法を使用して符号化を行うようにした本発明の実施形態について、実施形態1として説明する。図1は、実施形態1に係る動画像符号化装置100を示したもので、これに原画像101が入力され、入力された原画像101の符号化ストリームが生成される。このため、当該動画像符号化装置100には、入力された原画像101を保持する入力画像メモリ102と、入力画像を小領域に分割するブロック分割部103、ブロック単位で擬似的な画面内予測を行う擬似画面内予測部105、動き探索部104により検出された動き量に基づきブロック単位で画面間予測を行う画面間予測部106、画像の性質に合った予測モードを決定するモード選択部107、このモード選択部107の結果に応じて正確な画面内予測を行う画面内予測部108が備えられている。そして、更に、予測差分を生成するための減算部109、予測差分に対して符号化を行う周波数変換部110及び量子化処理部111、符号の発生確率に応じた適応的符号化を行うための可変長符号化部112、一度符号化した予測差分を復号化するための逆量子化処理部113及び逆周波数変換部114、復号化された予測差分を用いて復号化画像を生成するための加算部115、復号化画像を保持して後の予測に活用するための参照画像メモリ116が備えられている。次に、この動画像符号化装置100の動作について説明する。いま、ここで動画像符号化装置100に原画像101が入力されたとする。そうすると、まず、入力画像メモリ102は、原画像101の中から一枚の画像を符号化対象画像として保持し、これをブロック分割部103により細かなブロックに分割し、動き探索部104、擬似画面内予測部105、画面間予測部106、画面内予測部108、それに減算部109に渡す。そこで、動き探索部104では、参照画像メモリ116に格納されている復号化済み画像を用いて該当ブロックの動き量を計算し、動きベクトルを画面間予測部106に渡す。これにより擬似画面内予測部105と画面間予測部106は、それぞれ周辺ブロックの原画像を用いた擬似的な画面内予測処理と、符号化済みの別画像を参照した画面間予測処理とを複数のブロックサイズで実行し、モード選択部107において最適な予測モードを選択する。そして、まず、モード選択結果がイントラモードである場合は、周辺マクロブロックの符号化が完了した時点で、画面内予測部108により、周辺ブロックの復号画像を用いた正確な画面内予測を該当モードに対して行い、予測画像を減算部109と加算部115に送る。一方、モード選択結果がインターモードである場合は、画面間予測部106において既に作成済みの該当モードの予測画像を減算部109と加算部115に送る。そこで、減算部109では、対象ブロックの原画像とモード選択部107で選択されたモードにより作成された予測画像との差分が取られ、生成された予測差分が周波数変換部110に渡され、この結果、周波数変換部110と量子化処理部111で、送られてきた予測差分に対して指定された大きさのブロック単位でそれぞれDCTなどの周波数変換と量子化処理が施され、可変長符号化部112と逆量子化部113に渡される。この結果、まず、可変長符号化処理部112では、量子化済み周波数変換係数とヘッダ情報に対して記号の発生確率に基づいた符号化を行い、入力された原画像101の符号化ストリームを生成させ、これにより動画像符号化装置100としての本来の動作が果たせることになる。他方、逆量子化処理部113では、逆周波数変換部114と共に量子化後の周波数変換係数に対して、それぞれ逆量子化処理と逆DCTなどの逆周波数変換処理を施し、予測差分を取得して加算部115に送る。これにより加算部115では、予測画像と復号化済み予測差分が加算されて復号化画像を生成し、参照画像メモリ116に復号化画像が格納される。次に、このときのモード選択部107の詳細について、図2により詳細に説明する。このモード選択部107は、図示のように、イントラモードに対してコストを計算し最適な符号化モードを選択するイントラモード判定部201と、インターモードに対してコストを計算し最適な符号化モードを選択するインターモード判定部202、それに予測手段を決定するイントラ/インター判定部203とで構成されている。そして、イントラモード判定部201では、ブロック分割部103から送られてきた原画像と擬似画面内予測部105で計算されたイントラ擬似予測画像の双方からイントラ擬似SADを計算し、コスト値を計算する。一方、インターモード判定部202では、ブロック分割部103から送られてきた原画像と画面間予測部106により計算されたインター予測画像の双方からインターSADを計算し、コスト値を計算する。そして、イントラ/インター判定部203では、各予測手段を用いた代表モードのイントラ擬似SAD及びインターSADを用いて、対象マクロブロックに対する予測手段を選択するのである。次に、このときのモード選択処理について、図17のフローチャートにより説明する。モード選択処理を開始すると、まず、全てのインターモードの画面間予測を実行し、各モードに対してコスト計算を行い、次にインターモードの中で最も小さなSADを与えるものをインター代表モードとし、そのSADを計算してInterSADとする。次いでイントラモードに対しても全てのモードにおいて擬似予測を行い、コスト計算を行い、更に、擬似SADが最小となるモードをイントラ代表モードとし、その擬似SADをIntraSADとする。次に、いま計算したInterSADを閾値T1と比較し、InterSADの値が閾値T1未満であるか否かを判定する。そして、まず、判定結果がYES、つまり、InterSAD<T1のときは、図12のケース1、つまりカテゴリ1に該当するので、予測手段としてインター予測を選択することとし、インターモードの中でコスト値が最小となるモードを最適な符号化モードとして選択する。しかして判定結果がNOのときは処理に進み、今度は、InterSADを閾値T2と比較し、InterSADの値が閾値T2以上であるか否かを判定する。そして、まず、判定結果がYES、つまり、InterSAD≧T2のときは、図12のケース3、つまりカテゴリ3に該当するので、予測手段としてイントラ予測を選択することとし、イントラモードの中でコスト値が最小となるモードを最適な符号化モードとして選択する。しかして、判定結果がNOの場合は図12のケース2、つまりカテゴリ2に該当し、従って、さらに詳細なイントラ/インター判定を行うこととし、このため判定処理に進み、ここで、InterSADとIntraSADの差分の絶対値が予め設定してある閾値T3未満であるか否かを判定する。ここで、この閾値T3とは、図12に示されているように、InterSADに対するイントラ予測特性803とインター予測特性804が交差して等しくなった点Xを中心として予め任意に設定した所望の範囲のことである。そして、まず、判定結果がYES、つまり、|InterSAD-IntraSAD|<T3のときは、インターモードの中でコスト値が最小となるモードを選択する。これは、上記したように、一般的にインター予測の方がイントラ予測よりも効果が高いとされているからである。一方、判定結果がNOの場合は、全ての符号化モードに対してイントラ擬似SADとインターSADを用いたコスト値計算を行い、コスト値が最も小さくなるモードを最適な符号化モードとして選択するのである。そして、以上のように、処理、処理、処理、それに処理のいずれかを終了すれば、ここでモード選択処理終了となり、モード選択部107による1マクロブロック分のモード選択処理が完了し、入力された原画像101の符号化ストリームの生成が、最適な予測モードの選択のもとで得られるようになり、動画像符号化装置100としての動作が果されることになる。ところで、以上に説明した実施形態1では、図17に示すように、イントラ/インター判定の前に、全てのモードによる予測を実行している~。しかし、ここで、特にマクロブロック単位で並列処理を行うソフトウェアエンコーダなどを対象とした場合は、イントラ/インター判定の前にはインター代表モードの予測のみを行い、その後、処理~などの判定結果に応じて、その他のモードにより予測画像を生成するようにすると、不必要な予測処理を省略することができ、より一層、計算量が削減できる。この場合、インター予測モードを決定するため、処理と処理において代表モード以外のインターモードで予測を実行し、一方でイントラ予測モードを決定するために処理により全てのイントラモードで擬似予測を実行すればよい。また、イントラ代表モードを用いた判定では、イントラ代表モードのみで擬似予測を行えばよい。次に、本発明の実施形態2について説明する。上記した実施形態1は、並列処理などにより周辺マクロブロックの符号化処理が未完了であるため、対象マクロブロックのモード選択時にイントラ予測が行えない状況下での適用を考慮したものであるが、以下に説明する実施形態2では、逐次的に符号化処理を行う場合など、モード選択時には既に周辺マクロブロックの符号化が完了していて、常にイントラ予測が正しく行える場合を対象としている。従って、この実施形態2は、特にソフトウェアによりエンコーダを実現する場合に高い効果を発揮する。ここで、まず、図18、は、一般的なエンコーダ、例えば上記した従来技術などの一般的手法によるエンコーダと、本発明に係るエンコーダによるモード選択処理の流れについて、それぞれ概念的に示したものである。そして、まず、一般的なエンコーダの場合、図18に示すように、各マクロブロックに対して、一旦、全ての符号化モードにより予測処理を実行し、上記した式などによりコスト計算を行ってコスト最小のモードを選択するようにしている。しかしながら、この場合、上記したように、モード選択時の予測処理に極めて多くの計算量が必要になる。一方、本発明の場合、既に図12により説明したイントラ/インター判定を最初に行うことにより、モードの絞込みを行って予測画像の生成回数を低減し、処理量を削減することができる。すなわち、本発明の実施例においては、図18に示すように、まず、インター代表モードにおいて予測を行い、その際のSAD値によって候補を絞ることができる。そして、まず、SAD値が閾値T1よりも小さい場合は、インターモードの中からモードを選択する。従って、本発明においては、インターモードを用いた予測画像生成過程を省略することができる。次に、SAD値が閾値T2以上であった場合、イントラモードの中からモードを選択する。従って、この実施例においては、代表モードを除くインターモードを用いた予測画像生成過程を省略することができる。なお、SAD値が上記以外の場合は、例えば一般的手法と同様、全ての符号化モードにより予測処理を行い、コストが最小になるモードを選択すれば良い。図3は、本発明の実施形態2に係る動画像符号化装置300を示したもので、これに原画像301が入力されると、入力された原画像301の符号化ストリーム311が生成されるようになっている。このため、当該動画像符号化装置300には、入力された原画像301を保持する入力画像メモリ302と、入力画像を小領域に分割するブロック分割部303、ブロック単位で画面内予測を行う画面内予測部305、動き探索部304により検出された動き量に基づきブロック単位で画面間予測を行う画面間予測部306が備えられている。そして、更に、画像の性質に合った予測モードを決定するモード選択部307、予測差分を生成するための減算部308、予測差分に対して符号化を行う周波数変換部309及び量子化処理部310、符号の発生確率に応じた適応的符号化を行うための可変長符号化部311、一度符号化した予測差分を復号化するための逆量子化処理部312及び逆周波数変換部313、復号化された予測差分を用いて復号化画像を生成するための加算部314、それに復号化画像を保持して後の予測に活用するための参照画像メモリ315が備えられている。次に、この動画像符号化装置300の動作について説明する。いま、ここで動画像符号化装置300に原画像301が入力されたとする。そうすると、まず、入力画像メモリ302は、原画像301の中から一枚の画像を符号化対象画像として保持し、これをブロック分割部303により細かなブロックに分割し、動き探索部304、画面内予測部305、及び画面間予測部306に渡す。そこで、まず、動き探索部304では、参照画像メモリ315に格納されている復号化済み画像を用いて該当ブロックの動き量を計算し、動きベクトルを画面間予測部306に渡す。このとき画面内予測部305と画面間予測部306では、夫々符号化済みの周辺ブロックを参照した画面内予測処理と符号化済みの別画像を参照した画面間予測処理とを複数のブロックサイズで実行する。そして、モード選択部307により最適な予測モードを選択し、選択されたモードで作成した予測画像を減算部308と加算部314に送る。そこで、減算部308では、対象ブロックの原画像と、モード選択部307により選択されたモードで作成された予測画像の差分を生成し、周波数変換部309に渡す。これら周波数変換部309と量子化処理部310では、送られてきた予測差分に対して指定された大きさのブロック単位で夫々DCTなどの周波数変換及び量子化処理を行い、可変長符号化部311と逆量子化部312に渡す。そこで、まず、可変長符号化処理部311では、量子化済み周波数変換係数とヘッダ情報を、記号の発生確率に基づいて符号化し、これにより符号化ストリーム311を生成する。また、逆量子化処理部312と逆周波数変換部313では、量子化後の周波数変換係数に対して夫々逆量子化と逆DCTなどの逆周波数変換を施し、予測差分を取得して加算部314に送る。そこで、加算部314では、予測画像と復号化済み予測差分を加算して復号化画像を生成し、参照画像メモリ315に格納するのである。次に、この動画像符号化装置300におけるモード選択部307の詳細について、図4により説明する。このモード選択部307は、予測手段を決定するイントラ/インター判定部401と、イントラモードに対してコストを計算し最適な符号化モードを選択するイントラモード判定部402、インターモードに対してコストを計算し最適な符号化モードを選択するインターモード判定部403とで構成されている。このとき、まず、イントラ/インター判定部401では、画面間予測部306により作成されたインター代表モードの予測画像と、ブロック分割部303から送られてきた原画像から代表モードのSADを計算し、続いて、このSADの値に応じて、画面内予測部305及び画面間予測部306において次の判定に必要な符号化モードの予測画像を生成する。そして、この符号化モードの予測画像がイントラモード判定部402とインターモード判定部403に送られ、最終的なモードが決定されることになる。次に、このときのモード選択部307によるモード選択処理の手順について図19により説明する。このモード選択処理が開始されたら、まず、インターモードの代表モードにおいて画面間予測を実行し、このモードでのSADを計算してInterSADとする。次いで、このときのInterSADの値が閾値T1よりも小さいか否かを調べる。そして、結果がYESのときは、予測手段としてインター予測を選択することとし、まず、代表モード以外のインターモードにおいて画面間予測を実行した後、その中でコスト最小のモードを選択するのである。しかして、判定処理での結果がNO、つまりInterSADの値が閾値T1以上のときは、次に、このときのInterSADの値が閾値T2以上あるか否かを調べる。そして、結果がYESのときは、予測手段としてイントラ予測を選択することとし、全てのイントラモードにおいて画面内予測を実行し、次いで、その中でコスト最小のモードを選択するのである。しかして、判定処理の結果がNO、つまりInterSADの値が閾値T1以上且つ閾値T2未満である場合は、代表モード以外のインターモードにおいて予測を実行し、次いで、全てのイントラモードにおいて予測を実行し、この後、全てのモードの中で最もコスト値が小さいモードを選択するのである。そして、以上のように、処理、処理、それに処理のいずれかが終了すれば、ここでモード選択処理終了となり、モード選択部307による1マクロブロック分のモード選択処理が完了し、入力された原画像301の符号化ストリームの生成が、最適な予測モードの選択のもとで得られるようになり、動画像符号化装置300に本来の性能を発揮させることができる。ここで、本発明の場合、イントラ/インター判定部だけを対象としているため、イントラ予測モード内とインター予測モード内におけるモード判定の方法については特に問わない。従って、上記実施形態のように、全てのモードで予測を実行してコスト計算を行っても良いし、例えば、エッジの方向性を考慮するなど別の方法で判定を行っても構わない。このとき何らかの方法でモードの絞込みを実施して計算量を節約すると、更に効果的である。また、上記実施形態では、SADが最も小さくなるモードを代表モードとして設定しているが、ブロックサイズの最も小さなモードや逆にブロックサイズの最も大きなモード及び複数モードの組み合わせなど、その選び方は様々であり、代表モードの選択方法は問わない。同じく、上記実施形態では、インター代表モードのSADによりマクロブロックを3種類あるパターンの中の1種に分類しているが、SATDやSSD、動きベクトル、ヘッダ符号量など、インター代表モードにて予測を行うことにより取得できる特徴量ならどのような値を用いて分類しても良いし、このとき分類するパターンの個数も問わない。また、上記実施形態では、予測及び周波数変換をブロック単位で行っているが、これ以外にも、例えば画像の背景から分離したオブジェクト単位で算出しても良い。同様に、周波数変換についても、一例としてDCTを挙げているが、DST、WT、DFT、KLTなど、画素間相関除去に利用する直交変換ならどのようなものでも構わない。このときイントラモードでは、特に画面内予測を行わなくても良く、MPEG-1やMPEG-2のイントラ符号化のように、原画像に対して直接周波数変換を施しても構わないし、可変長符号化も特に行わなくて良い。また、本発明はH.261、MPEG-1、H.262/MPEG-2、MPEG-4、H.263、H.264/AVCだけでなく、今後、策定されるであろう次世代標準など、どのような動画像符号化方式にも適用可能である。