(57)【要約】【課題】無効予測モードの予測信号を補正することにより，選択確率が非常に低い無効予測モードの選択確率を上げて，符号化効率を向上させることを可能とする。【解決手段】予測信号生成部１５が，メモリ１４内の符号化済み画像信号から予測信号を生成し，無効予測モード判定部１６が，生成した各予測モードの予測信号から，無効予測モードを検出し，予測信号補正部１７が，検出した無効予測モードの予測信号を補正し，予測モード決定部１８が，補正済みの予測信号を用いて，各予測モードの符号化コストを算出し，最小コストの予測モードを選択して，選択した予測モードの予測信号を減算器１０へ，予測モード情報を符号化部１９へ送る。【選択図】図１
2005348318.tif 000002
【特許請求の範囲】
【請求項１】
複数の予測モード中から符号化対象ブロックの予測モードを決定して画像を符号化する画像予測符号化方法であって，
予測モード毎に予測信号を生成するステップと，
予測モード毎にオーバヘッド符号量からオーバヘッドコストを算出するステップと，
算出された各予測モードのオーバヘッドコストと予測信号との関係から，所定の基準に従って選択確率が低い無効予測モードを検出するステップと，
検出された無効予測モードの予測信号を補正するステップと，
各予測モードの予測残差電力とオーバヘッド符号量とから予測モード毎の符号化コストを算出するステップと，
前記符号化コストが最小となる予測モードを符号化対象ブロックの予測モードとして決定するステップとを有する
ことを特徴とする画像予測符号化方法。
【請求項２】
請求項１に記載の画像予測符号化方法において，
前記無効予測モードを検出するステップでは，
最小オーバヘッドコストの予測モードを検出するステップと，
最小オーバヘッドコストの予測モードと他の予測モードとを比較することにより無効予測モードの検出を行うステップとを有する
ことを特徴とする画像予測符号化方法。
【請求項３】
複数の予測モード中から符号化対象ブロックの予測モードを決定して画像を符号化する画像予測符号化方法であって，
予測モード毎に予測信号を生成するステップと，
予測モード毎にオーバヘッド符号量からオーバヘッドコストを算出するステップと，
予測モードをオーバヘッドコストが小さい順番に並べ替えてリストを生成するステップと，
リスト中の最小オーバヘッドコストの予測モードと残りの予測モードとを比較することにより無効予測モードを検出するステップと，
検出された無効予測モードの予測信号を補正するステップと，
補正後に最小オーバヘッドコストの予測モードをリストから削除するステップと，
前記無効予測モードを検出するステップと前記無効予測モードとして検出された予測モードの予測信号を補正するステップと前記予測モードをリストから削除するステップとを，リストに登録される予測モード数が１つになるまで繰り返すステップと，
各予測モードの予測残差電力とオーバヘッド符号量とから予測モード毎の符号化コストを算出するステップと，
前記符号化コストが最小となる予測モードを符号化対象ブロックの予測モードとして決定するステップとを有する
ことを特徴とする画像予測符号化方法。
【請求項４】
請求項１ないし請求項３のいずれか１項に記載の画像予測符号化方法において，
前記無効予測モードを検出するステップでは，
基準となる予測モードの予測信号ベクトルと検査対象予測モードの予測信号ベクトルとの間の距離である予測信号ベクトル間距離を算出するステップと，
前記基準となる予測モードのオーバヘッドコストと前記検査対象予測モードのオーバヘッドコストとの差分であるオーバヘッドコスト差を算出するステップとを有し，
前記算出された予測信号ベクトル間距離の半分とオーバヘッドコスト差とを比較し，前記予測信号ベクトル間距離の半分が前記オーバヘッドコスト差より小さい場合に，前記検査対象予測モードを無効予測モードとして検出する
ことを特徴とする画像予測符号化方法。
【請求項５】
請求項１ないし請求項４のいずれか１項に記載の画像予測符号化方法において，
前記無効予測モードの予測信号を補正するステップでは，
予め定められた補正ベクトルまたは補正係数により，無効予測モードの予測信号を補正する
ことを特徴とする画像予測符号化方法。
【請求項６】
請求項１ないし請求項４のいずれか１項に記載の画像予測符号化方法において，
前記無効予測モードの予測信号を補正するステップでは，
予め定められた予測ベクトルにより無効予測モードの予測信号を置換する
ことを特徴とする画像予測符号化方法。
【請求項７】
請求項１ないし請求項４のいずれか１項に記載の画像予測符号化方法において，
前記無効予測モードの予測信号を補正するステップでは，
無効予測モードの予測信号ベクトルと無効予測モードを含む領域の予測モードの予測信号ベクトルの差分ベクトルを算出するステップと，
算出された差分ベクトルから補正ベクトルを算出するステップとを有し，
算出した補正ベクトルにより前記無効予測モードの予測信号を補正する
ことを特徴とする画像予測符号化方法。
【請求項８】
請求項７に記載の画像予測符号化方法において，
前記算出された差分ベクトルから補正ベクトルを算出するステップでは，
補正係数をオーバヘッドコストの差分から算出し，
差分ベクトルと補正係数とから補正ベクトルを算出する
ことを特徴とする画像予測符号化方法。
【請求項９】
請求項１ないし請求項８のいずれか１項に記載の画像予測符号化方法を用いて符号化された画像を復号する画像予測復号方法であって，
予測モード毎に予測信号を生成するステップと，
予測モード毎にオーバヘッド符号量からオーバヘッドコストを算出するステップと，
算出された各予測モードのオーバヘッドコストと予測信号との関係から，所定の基準に従って選択確率が低い無効予測モードを検出するステップと，
検出された無効予測モードの予測信号を補正するステップとを有し，
無効予測モードの予測信号を補正した後，復号処理を行う
ことを特徴とする画像予測復号方法。
【請求項１０】
請求項９に記載の画像予測復号方法において，
前記無効予測モードを検出するステップでは，
画像の符号化時に無効予測モードの検出に用いた方法と同一の方法を用いて無効予測モードを検出し，
前記無効予測モードの予測信号を補正するステップでは，
画像の符号化時に無効予測モードの予測信号の補正に用いた方法と同一の方法を用いて無効予測モードの予測信号を補正する
ことを特徴とする画像予測復号方法。
【請求項１１】
複数の予測モード中から符号化対象ブロックの予測モードを決定して画像を符号化する画像符号化装置であって，
予測モード毎に予測信号を生成する予測信号生成手段と，
予測モード毎にオーバヘッド符号量からオーバヘッドコストを算出し，算出された各予測モードのオーバヘッドコストと予測信号との関係から，所定の基準に従って選択確率が低い無効予測モードを検出する無効予測モード検出手段と，
検出された無効予測モードの予測信号を補正する予測信号補正手段と，
各予測モードの予測残差電力とオーバヘッド符号量とから予測モード毎の符号化コストを算出し，符号化コストが最小となる予測モードを符号化対象ブロックの予測モードとして決定する予測モード決定手段とを備える
ことを特徴とする画像符号化装置。
【請求項１２】
請求項１１に記載の画像符号化装置を用いて符号化された画像を復号する画像復号装置であって，
予測モード毎に予測信号を生成する予測信号生成手段と，
予測モード毎にオーバヘッド符号量からオーバヘッドコストを算出し，算出された各予測モードのオーバヘッドコストと予測信号との関係から，選択確率が低い無効予測モードを検出する無効予測モード検出手段と，
検出された無効予測モードの予測信号を補正する予測信号補正手段とを備え，
無効予測モードの予測信号を補正した後，復号処理を行う
ことを特徴とする画像復号装置。
【請求項１３】
請求項１ないし請求項８のいずれか１項に記載の画像予測符号化方法を，コンピュータに実行させるための画像符号化プログラム。
【請求項１４】
請求項９または請求項１０に記載の画像予測復号方法を，コンピュータに実行させるための画像復号プログラム。
【請求項１５】
請求項１ないし請求項８のいずれか１項に記載の画像予測符号化方法を，コンピュータに実行させるための画像符号化プログラムを記録したコンピュータ読み取り可能な記録媒体。
【請求項１６】
請求項９または請求項１０に記載の画像予測復号方法を，コンピュータに実行させるための画像復号プログラムを記録したコンピュータ読み取り可能な記録媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は，複数の予測モードを有する映像符号化方式に関し，特に，選択確率が非常に低い予測モードの予測信号を補正して符号化／復号を行う画像予測符号化方法，画像予測復号方法，画像符号化装置，画像復号装置，画像符号化プログラム，画像復号プログラムおよびそれらのプログラムを記録したコンピュータ読み取り可能な記録媒体に関するものである。
【背景技術】
【０００２】
ＩＴＵ−Ｔ  Ｈ．２６４（以下，Ｈ．２６４と記す）では，フレーム内符号化を行う際に，符号化対象ブロックの既符号化近傍ブロックの情報から予測信号を生成し，予測残差を符号化している（非特許文献１参照）。
【０００３】
フレーム内符号化は，同一フレーム内の符号化済み画像信号から，符号化対象ブロックの画像信号を予測する方法である。Ｈ．２６４では，予測を行う単位（以下，予測単位という）を４×４画素（４×４ブロック）または１６×１６画素（１６×１６ブロック）でフレーム内予測を行う。それぞれの予測単位で４〜９種類の予測方向を選択できる。
【０００４】
図８は，Ｈ．２６４の１６×１６サイズの予測モードを説明する図である。図８（Ａ）の斜線で示す既符号化済み画像信号から，太線で囲まれた符号化対象ブロックの画像信号を予測する場合，図８（Ｂ）〜図８（Ｅ）までの４種類の予測モードがある。
【０００５】
図８（Ｂ）は，符号化対象ブロックの上部に存在する列の既符号化済み画像信号から符号化対象ブロックの画像信号を予測する垂直方向予測の予測モードである。図８（Ｃ）は，符号化対象ブロックの側面部に存在する列の既符号化済み画像信号から符号化対象ブロックの画像信号を予測する水平方向予測の予測モードである。図８（Ｄ）は，既符号化済み画像信号の平均値から符号化対象ブロックの画像信号を予測するＤＣ予測の予測モードである。図８（Ｅ）は，既符号化済み画像信号から位置に応じて予測値を生成するＰｌａｎｅ予測の予測モードである。
【０００６】
図９に，Ｈ．２６４の４×４サイズの予測モードを示す。図９（Ａ）のａ〜ｐの符号化対象４×４ブロックを，Ａ〜Ｌ，Ｏの既符号化済み画像信号から予測する。図９（Ｂ）はＤＣ予測モードを除いた予測方向を示している。予測モードに応じた予測方向に従って，既符号化済み画像信号から符号化対象４×４ブロックのａ〜ｐの値を予測する。
【０００７】
図１０は，従来の画像符号化装置の構成を示す図である。図１０に示すように，画像符号化装置３は，減算器３１，予測残差信号符号化部３２，予測残差信号復号部３３，加算器３４，メモリ３５，予測信号生成部３６，予測モード決定部３７，符号化部３８を備える。
【０００８】
画像符号化装置３は，予測信号生成部３６で，メモリ３５内の符号化済み画像信号から予測信号を生成する。予測モード決定部３７では，各予測モードの符号化コストを算出し，最小コストの予測モードを選択する。符号化コストは，後に詳述するように，予測信号と入力信号の予測残差電力，および，各予測モードのオーバヘッド符号量からなる。
【０００９】
予測モード決定部３７では，選択した予測モードの予測信号を減算器３１へ送り，また予測モード情報を符号化部３８へ送る。減算器３１では，入力信号と予測信号の差分である予測残差信号を求め，予測残差信号符号化部３２では，予測残差信号の直交変換や量子化等の処理を行う。
【００１０】
予測残差信号復号部３３では，予測残差信号符号化部３２からの出力信号の逆量子化や逆直交変換を行い，予測残差信号を復号する。加算器３４では，復号した予測残差信号と，予測信号とを加えて復号画像を生成する。生成した復号画像は，予測信号を生成するためにメモリ３５に蓄えられる。
【００１１】
図１１は，従来の画像復号装置の構成を示す図である。画像復号装置４は，符号化データ復号部４１，加算器４２，メモリ４３，予測信号生成部４４を備える。
【００１２】
画像復号装置４は，符号化データ復号部４１において，符号化データを予測残差信号と予測モード情報とに復号する。予測信号生成部４４は，符号化データ復号部４１からの予測モード情報に基づいて，メモリ４３内の復号済み画像信号から，予測信号を生成する。加算器４２では，復号した予測残差信号と予測信号とを加えて復号画像を生成する。
【００１３】
符号化側の予測モード決定処理について，さらに具体的に説明する。符号化側の予測モード決定処理のフローを図１２に示す。Ｈ．２６４参照ソフトウェアでは，予測単位および予測方向を決定する際に，各モードでの予測残差信号電力およびオーバヘッド部の符号量を考慮してフレーム内符号化モードを決定する（非特許文献２参照）。
【００１４】
すなわち，予測信号を生成し（ステップＳ４１），オーバヘッド部の符号量を算出し（ステップＳ４２），予測残差電力を算出する（ステップＳ４３）。そして，次の式（１）から予測モード番号ｉの符号化コストＪi を算出する（ステップＳ４４）。
【００１５】
Ｊi ＝Ｄi ＋λＲi           （１）
ここで，Ｄi は予測残差電力，Ｒi は予測される発生符号量である。λは，量子化ステップサイズによって変動する値である。各予測モードについて，この符号化コストＪi を計算し，最小コストの予測モード番号を求め，予測モードを決定する（ステップＳ４５）。求めた予測モード番号は，復号側に伝送される。
【００１６】
次に，復号側の処理を説明する。復号側での処理のフローを図１３に示す。復号側では，符号化ビットストリームに含まれる予測モード番号を復号し（ステップＳ５１），その予測モード番号が示す予測モードで予測信号を生成し（ステップＳ５２），復号処理を行う（ステップＳ５３）。
【００１７】
このように，最小コストの予測モードで符号化することで，符号化効率を向上させることができる。
【非特許文献１】ITU-T Rec.H.264,“Advanced video coding for generic audiovisual services”, 2003.
【非特許文献２】H.264 参照ソフトウェア，［online］, インターネット，＜URL:http://bs.hhi.de/suehring/tml/download/ ＞
【発明の開示】
【発明が解決しようとする課題】
【００１８】
従来方法では，符号化効率を向上させるため，オーバヘッド符号量を考慮して予測モードを選択している。しかし，オーバヘッド符号量による重み付けにより，選択される予測モードが限定される場合がある。以下に，予測残差電力のみによる場合とオーバヘッド符号量を考慮した場合の予測モード決定について説明する。
【００１９】
まず，予測残差電力から予測モードを決定する場合を説明する。今，Ｎ×ＮサイズのブロックをＮ×Ｎ次元の信号空間と考える。例えば，４×４サイズのブロックでは，１６次元の信号空間ベクトルとなる。符号化対象ブロックを入力信号ベクトル↑ｓ，各予測モードの予測信号を予測信号ベクトル↑ｐi とすると，予測残差電力は，両ベクトル間の距離から求めることができる。
【００２０】
ｄi ＝｜↑ｓ−↑ｐi ｜          （２）
予測残差電力に着目して予測モードを決定することは，上式の距離が最小となる予測信号ベクトル↑ｐi を検出することである。言い換えると，予測信号ベクトル↑ｐi は，分割された領域の代表ベクトルであり，予測モード決定は，入力信号ベクトル↑ｓが所属する領域を検出することと等価である。
【００２１】
図１４に，２次元の場合の領域分割の例を示す。図中の黒丸で示した点が代表ベクトルを表す。予測残差電力にのみ着目した場合，各領域の境界では，隣接する領域の代表点からの距離が等しい。
【００２２】
次に，オーバヘッド符号量を考慮して予測モードを決定する場合を説明する。従来方法では，予測残差電力に加え，オーバヘッド符号量から符号化コストを求めているため，各領域の境界は，符号化コストＪi が等しくなる位置となる。
【００２３】
図１５に符号化コストＪi による領域分割の例を示す。この例では，簡単のため，領域を領域Ａと領域Ｂの２つに分割し，代表点もＡとＢの２点としている。各予測モードの符号化コストは，次式の通りである。
【００２４】
Ｊa ＝Ｄa ＋λＲa             （３）
Ｊb ＝Ｄb ＋λＲb             （４）
領域の境界は，Ｊa とＪb が等しいことから，
Ｄa ＋Ｇab＝Ｄb               （５）
となる。ここで，Ｇabは，予測モードＡおよびＢのオーバへッド符号量によるコスト差λ（Ｒa −Ｒb ）を表す。
【００２５】
式（５）から，予測モードＡのオーバへッド符号量が予測モードＢよりも大きい場合（Ｇab＞０），予測残差電力のみの領域分割と比較して，境界の位置がＧab分だけ領域Ａ側にずれることが分かる。
【００２６】
さらに，代表点Ａ−Ｂ間の距離の半分Ｄab／２よりもオーバへッド符号量のコスト差Ｇabが大きい場合（Ｇab＞Ｄab／２），下記のように，代表点Ａは，領域Ｂに含まれることとなる。
【００２７】
すなわち，図１５において，境界線Ｘが予測残差電力にのみ着目した場合の領域Ａと領域Ｂとの境界であるとすると，０＜Ｇab＜Ｄab／２の場合には，領域Ａと領域Ｂとの境界は，境界線ＸよりＧab分だけ領域Ａ側にずれた位置にある境界線Ｙとなる。さらにＧabが大きくなり，Ｇab＞Ｄab／２になると，領域Ａと領域Ｂとの境界は，境界線Ｚとなり，代表点Ａが，領域Ｂに含まれることとなる。
【００２８】
このように，オーバヘッド符号量のコスト差Ｇabが大きくなるに従い，予測モードＡが選択される可能性は低下する。仮に，代表点Ａが領域Ｂに含まれる状況で予測モードＡが選択されたとしても，その位置は代表点Ａから離れた場所であり，予測残差電力は大きくなる。
【００２９】
また，平坦な領域のように隣接画素間の相関が非常に高い場合，複数の予測モードで予測信号を生成しても，ほぼ同一の予測信号になる可能性が高い。このような場合，代表ベクトル間距離が０となり，オーバヘッドコストの大きい予測モードは，全く選択されない。
【００３０】
このように，オーバヘッド符号量の差が大きい場合や予測信号の相関が高く代表点間距離が短い場合など，選択される確率が低い，もしくは全く選択されない予測モード（以下，無効予測モードという）が現れる。従来方法では，この無効予測モードに対しても，符号を割り当てるため，符号化効率が低下するという問題がある。
【００３１】
本発明は，上記従来技術の問題点を解決し，選択確率が非常に低い無効予測モードの選択確率を上げて，符号化効率を向上させることができるようにすることを目的とする。
【課題を解決するための手段】
【００３２】
従来の方法では，オーバヘッド符号量を考慮して符号化コストを求め，予測モードを選択しているため，無効予測モードが発生する問題がある。本発明では，この無効予測モードの予測信号を補正し，無効予測モードの選択確率を向上させることで，符号化効率を向上させる。
【００３３】
図１は，本発明に係る画像符号化装置の構成の一例を示す。画像符号化装置１は，減算器１０，予測残差信号符号化部１１，予測残差信号復号部１２，加算器１３，メモリ１４，予測信号生成部１５，無効予測モード判定部１６，予測信号補正部１７，予測モード決定部１８，符号化部１９を備える。
【００３４】
図１に示す画像符号化装置１において，予測信号生成部１５は，メモリ１４内の符号化済み画像信号から予測信号を生成する。無効予測モード判定部１６は，生成した各予測モードの予測信号から，無効予測モードを検出する。予測信号補正部１７は，検出した無効予測モードと各予測モードの予測信号から，無効予測モードの予測信号を補正する。補正後の全予測信号が予測モード決定部１８に送信される。なお，無効予測モードの予測信号の補正方法については，後に詳述する。
【００３５】
予測モード決定部１８では，補正済みの予測信号を用いて，各予測モードの符号化コストを算出し，最小コストの予測モードを選択する。符号化コストは，予測信号と入力信号の予測残差電力，および，各予測モードのオーバヘッド符号量からなる。
【００３６】
予測モード決定部１８では，選択した予測モードの予測信号を減算器１０へ，予測モード情報を符号化部１９へ送る。減算器１０では，入力信号と予測信号の差分である予測残差信号を求める。予測残差信号符号化部１１では，予測残差信号の直交変換や最子化等の処理を行う。予測残差信号復号部１２では，予測残差信号符号化部１１の出力信号の逆量子化や逆直交変換を行い，予測残差信号を復号する。加算器１３では，復号した予測残差信号と，予測信号とを加えて復号画像を生成する。生成した復号画像は，予測信号を生成するためにメモリ１４に蓄えられる。
【００３７】
符号化部１９では，予測残差信号符号化部１１の出力および予測モード情報を可変長符号化し，符号化データとして出力する。
【００３８】
図２は，本発明に係る画像復号装置の構成の一例を示す図である。画像復号装置２は，符号化データ復号部２０，加算器２１，メモリ２２，予測信号生成部２３，無効予測モード判定部２４，予測信号補正部２５を備える。
【００３９】
図２に示す画像復号装置２において，符号化データ復号部２０では，符号化データを予測残差信号と予測モード情報とに復号する。予測信号生成部２３は，メモリ２２内の復号済み画像信号から，各予測モードの予測信号を生成する。無効予測モード判定部２４では，生成した各予測モードの予測信号から，無効予測モードを検出する。予測信号補正部２５では，検出した無効予測モードの予測信号を補正する。また，予測信号補正部２５は，予測モード情報に基づく補正済み予測信号を出力する。加算器２１では，復号した予測残差信号と予測信号とを加えて復号画像を生成する。
【００４０】
図３に本発明の符号化側の処理フローを示す。まず，各予測モードについて，予測信号を生成し（ステップＳ１），オーバヘッド符号量のコストであるオーバヘッドコストを算出する（ステップＳ２）。予測モード番号ｉの予測信号を予測信号ベクトル（代表ベクトル）↑ｐi ，オーバヘッドコストをｇi とする。これらの各予測モードの代表ベクトル↑ｐi とオーバヘッドコストｇi とから，無効予測モードの有無を調べる（ステップＳ３）。
【００４１】
無効予測モードが存在する場合，無効予測モードの代表ベクトルとしての予測信号を補正する（ステップＳ４）。無効予測モードが存在しない場合には，従来の処理と同様であり，ステップＳ５に進む。
【００４２】
全ての補正が終了後，符号化対象ブロックに対し，各予測モードの予測残差電力を算出した後（ステップＳ５），符号化コストＪi を算出し（ステップＳ６），最小の符号化コストとなる予測モード番号を求めて予測モードを決定し（ステップＳ７），符号化処理を行う。求めた予測モード番号は，復号側に伝送される。
【００４３】
次に，復号側の処理について説明する。従来方法では，復号側は，符号化ビットストリームに示された予測モード番号の予測信号しか生成しない。これは，予測信号補正を行わないため，予測モード番号から予測信号が一意に生成できるためである。
【００４４】
本発明では，復号側でも符号化側と同じように，利用可能な全ての予測モードの予測信号を生成し，必要に応じて予測信号の補正を行う。図４に復号側の処理フローを示す。復号側でも，前述した符号化側の処理フローと同様に，予測信号の補正処理を行う。
【００４５】
すなわち，予測信号を生成した後（ステップＳ１１），オーバヘッドコストを算出し（ステップＳ１２），予測モード番号ｉの予測信号を代表ベクトル↑ｐi ，オーバヘッドコストをｇi として，↑ｐi とｇi とから，無効予測モードの有無を調べる（ステップＳ１３）。無効予測モードが存在する場合，無効予測モードの代表ベクトル（予測信号）を補正する（ステップＳ１４）。無効予測モードが存在しない場合には，ステップＳ１５に進む。次に，予測モード番号を復号し（ステップＳ１５），復号された予測モード番号に基づき，復号処理を行う（ステップＳ１６）。
【００４６】
次に，無効予測モードの判定および予測信号の補正について説明する。図５に無効予測モード判定および予測信号の補正のフローを示す。予測モード数をＭとする。最初に，０〜（Ｍ−１）までの各予測モードをオーバヘッドコストの小さい順番に並べ替えてリストを作成する（ステップＳ３１）。次に，ｉに初期値０を設定した後（ステップＳ３２），ｊ＝ｉ＋１として（ステップＳ３３），以下のステップＳ３４〜Ｓ３９を実行する。
【００４７】
まず，リスト中で最小のオーバヘッドコストの予測モード番号ｉのコストと，残りの予測モ−ド番号ｊ（＞ｉ）のコストを比較し，無効予測モード判定を行う（ステップＳ３４）。ステップＳ３４において無効予測モードとして判定する基準は，残りの予測モード番号ｊの代表ベクトル↑ｐj が，リスト中の最小オーバヘッドコストの予測モード番号ｉの領域に含まれる場合とする。つまり，次式が成立した場合に，予測モード番号ｊは，無効予測モードと判定する。
【００４８】
ｇj −ｇi ＞｜↑ｐj −↑ｐi ｜／２        （６）
予測モード番号ｊが無効予測モードと判定された場合，その無効予測モードと判定された予測モード番号ｊの予測信号を補正する（ステップＳ３５）。
【００４９】
上記ステップＳ３４における，リスト中の最小オーバヘッドコストの予測モード番号ｉのコストと，残りの予測モ−ド番号ｊ（＞ｉ）のコストとの比較は，ｊ≧Ｍになるまで（ステップＳ３６），ｊに１を加算しながら繰り返す（ステップＳ３８）。
【００５０】
ｊ≧Ｍとなって，ある時点の最小オーバヘッドコストの予測モードと残りの予測モードとの比較が終了した時点（ステップＳ３６）で，ｉ≧Ｍ−１になるまで（ステップＳ３７），予測モード番号ｉに１を加え（ステップＳ３９），ステップＳ３３以降の処理を継続する。すなわち，最小オーバヘッドコストの予測モードを順次リストから外し，残りの予測モードについての無効予測モードの判定および予測信号の補正処理を繰り返す。全ての無効予測モ−ドの予測信号の補正が終了した時点（ステップＳ３７）で，この無効予測モードの予測信号の補正処理を終える。
【００５１】
無効予測モードの予測信号の補正，すなわち代表ベクトルの補正方法には，下記に示すようないくつかの方法がある。
【００５２】
［補正ベクトルによる補正］
↑ｐ' i ＝↑ｐi ＋↑ｃk         （７）
上記式（７）に示すように，代表ベクトル↑ｐi に補正ベクトル↑ｃk を加えて，新たな代表ベクトル↑ｐ' i とする方法である。補正ベクトル↑ｃk は，例えば予め定めた固定ベクトルを用いる。または，下記の式（８）に示すように，無効予測モードの代表ベクトル↑ｐi とその無効予測モードを含む領域の予測モードの代表ベクトル↑ｐ0 との差分ベクトルに補正係数ｃをかけて，新たな代表ベクトル↑ｐ’i としてもよい。
【００５３】
↑ｐ’i ＝ｃ・（↑ｐi −↑ｐ0 ）        （８）
［補正係数による補正］
↑ｐ’i ＝ｃ・↑ｐi           （９）
上記式（９）に示すように，無効予測モードの代表ベクトルに補正係数ｃをかけることで，新たな代表ベクトルを求める方法である。補正係数ｃは，予め与えた定数，無効予測モードとその無効予測モードを含む領域の予測モードの両代表ベクトルの距離などを用いる。
【００５４】
［代表ベクトルの置換］
↑ｐ’i ＝↑ｃｋ          （１０）
上記式（１０）に示すように，無効予測モードの代表ベクトルを，別のベクトルに置き換える方法である。この置換ベクトルは，予め定めた固定ベクトル，または，代表ベクトル間距離が最大になる領域間の中点などを用いる。
【００５５】
これらの方法を組み合わせることも可能である。また，フレーム内符号化だけでなく，複数の予測モードを持つ符号化方式において，オーバヘッドコスト等の予測残差電力以外のコストにより，予測モードを決定する符号化方式においても有用である。
【発明の効果】
【００５６】
本発明によれば，符号が割り当てられているにもかかわらず，全く，もしくは，ほとんど選択される可能性のない予測モードを検出し，その予測信号を補正することで選択確率を上昇させることができる。これにより，符号化効率を向上させることができる。
【発明を実施するための最良の形態】
【００５７】
以下に本発明の実施の形態を示す。本実施の形態では，複数の予測モードを利用可能なフレーム内符号化方式を前提とする。予測モード選択は，各予測モードのオーバヘッド符号量を考慮する。なお，無効予測モードの判定は，最小オーバヘッドコストの予測モードに対してのみ行う。また，無効予測モードの条件は，代表ベクトル↑ｐi が最小オーバヘッドコストの予測モードの領域に含まれる場合とする。
【００５８】
最初に符号化側について説明をする。図６に符号化側の処理フローを示す。まず，各予測モードの予測信号を生成する（ステップＳ６１）。生成した各予測モードの予測信号を代表ベクトル↑ｐi とする。各予測モードのオーバヘッドコストｇi を算出し（ステップＳ６２），最小値を求める。最小オーバヘッドコストの予測モードの代表ベクトルを↑ｐ0 ，オーバヘッドコストをｇ0 とする。
【００５９】
続いて，各予測モード番号ｉ（＞０）の代表ベクトル↑ｐi とオーバヘッドコストｇi から，無効予測モードの有無を調べる（ステップＳ６３）。無効予測モードが存在する場合，その無効予測モードの代表ベクトル↑ｐi （予測信号）を補正する（ステップＳ６４）。
【００６０】
無効予測モードが存在しない場合は従来と同様であり，ステップＳ６５に進む。全ての補正処理が終了後，符号化対象ブロックに対し，予測残差電力を算出し（ステップＳ６５），各予測モードとの符号化コストＪi を算出する（ステップＳ６６）。最小コストとなる予測モードを選択して予測モードを決定し（ステップＳ６７），符号化処理を行う。
【００６１】
次に復号側の処理について説明する。復号側でも，符号化側と同様に各予測モードの予測信号を生成し，予測信号の補正を行う。図７に復号側の処理フローを示す。まず，各予測モードのオーバヘッドコストを求める（ステップＳ７１）。次に，予測モード番号を復号し（ステップＳ７２），復号した予測モードが最小オーバヘッドコストの予測モードかを判断する（ステップＳ７３）。
【００６２】
復号した予測モードが，最小オーバヘッドコストの予測モードの場合には，補正処理を行わず，復号処理を継続する（ステップＳ７７）。それ以外の予測モードでは，各予測モードの予測信号を生成した後（ステップＳ７４），無効予測モードの有無を調べる（ステップＳ７５）。
【００６３】
無効予測モードが存在しない場合には，ステップＳ７７に進み，無効予測モードが存在する場合には，無効予測モードの代表ベクトル（予測信号）を補正し（ステップＳ７６），復号処理を行う（ステップＳ７７）。
【００６４】
次に，符号化および復号時に行う無効予測モードの判定と予測信号の補正方法の例について説明する。まず，最小オーバヘッドコストの予測モードの代表ベクトル↑ｐ0 と各予測モードの代表ベクトル↑ｐi の差分ベクトルの大きさｄi ＝｜↑ｐi −↑ｐ0 ｜を求める。
【００６５】
このとき，ｄi ／２＜ｇi −ｇ0 となる予測モードは，無効予測モードとする。無効予測モードと判定された予測モードのうち，オーバヘッド符号量が小さいものから予測信号を補正する。その補正方法は，以下の通りである。なお，補正後の代表ベクトルを↑ｐ’i とする。
【００６６】
［ｄi ＝０の場合］
↑ｐ’i ＝↑ｃk ＋↑ｐ0         （１１）
ここで，↑ｃk は，予め定めた補正ベクトルである。この補正ベクトル↑ｃk は，複数個用意しておき，ｄi ＝０の無効予測モードが複数存在する場合には，異なる補正ベクトル↑ｃk を利用する。
【００６７】
［ｄi ≠０の場合］
↑ｐ’i ＝（１＋（ｇi −ｇ0 ）／ｄi ）（↑ｐi −↑ｐ0 ）      （１２）
ここで，ｇi は無効予測モードのオーバヘッドコストである。これにより，無効予測モードの判定と予測信号の補正が可能となる。
【００６８】
本実施の形態では，最小オーバヘッドコストの予測モードに対してのみ，無効予測モード判定を行ったが，順次，オーバヘッドコストの小さい予測モードで無効予測モード判定を行ったほうが効率はよい。
【００６９】
また，本実施の形態では，無効予測モードの判定基準として，代表ベクトル↑ｐi が最小オーバヘッドコストの予測モードの領域に含まれる場合としているが，代表ベクトルにかかわらず，各予測モードの領域の占有面積で判定しても良い。
【００７０】
以上の画像予測符号化および画像予測復号の処理は，ハードウェアやファームウェアによって実現することができるだけでなく，コンピュータとソフトウェアプログラムとによっても実現することができ，そのプログラムをコンピュータ読み取り可能な記録媒体に記録して提供することも，ネットワークを通して提供することも可能である。
【図面の簡単な説明】
【００７１】
【図１】画像符号化装置の構成の一例を示す図である。
【図２】画像復号装置の構成の一例を示す図である。
【図３】符号化側の処理フローを示す図である。
【図４】復号側の処理フローを示す図である。
【図５】無効予測モード判定および予測信号の補正のフローを示す図である。
【図６】本発明の実施の形態の符号化側の処理フローを示す図である。
【図７】本発明の実施の形態の復号側の処理フローを示す図である。
【図８】Ｈ．２６４の１６×１６サイズの予測モードを説明する図である。
【図９】Ｈ．２６４の４×４サイズの予測モードを示す図である。
【図１０】従来の画像符号化装置の構成を示す図である。
【図１１】従来の画像復号装置の構成を示す図である。
【図１２】符号化側の処理フローを示す図である。
【図１３】復号側での処理フローを示す図である。
【図１４】２次元の場合の領域分割の例を示す図である。
【図１５】符号化コストＪi による領域分割の例を示す図である。
【符号の説明】
【００７２】
１，３  画像符号化装置
２，４  画像復号装置
１０，３１  減算器
１１，３２  予測残差信号符号化部
１２，３３  予測残差信号復号部
１３，２１，３４，４２  加算器
１４，２２，３５，４３  メモリ
１５，２３，３６，４４  予測信号生成部
１６，２４  無効予測モード判定部
１７，２５  予測信号補正部
１８，３７  予測モード決定部
１９，３８  符号化部
２０，４１  符号化データ復号部
【図１】
2005348318.tif 000003
【図２】
2005348318.tif 000004
【図３】
2005348318.tif 000005
【図４】
2005348318.tif 000006
【図５】
2005348318.tif 000007
【図６】
2005348318.tif 000008
【図７】
2005348318.tif 000009
【図８】
2005348318.tif 000010
【図９】
2005348318.tif 000011
【図１０】
2005348318.tif 000012
【図１１】
2005348318.tif 000013
【図１２】
2005348318.tif 000014
【図１３】
2005348318.tif 000015
【図１４】
2005348318.tif 000016
【図１５】
2005348318.tif 000017