(57)【特許請求の範囲】
【請求項１】
予測残差信号の直交変換係数を量子化する映像符号化方式において予測モードまたは動きベクトルを決定するためのコスト関数を計算する際に用いる量子化歪みを推定する量子化歪み推定方法であって，
予測残差信号に直交変換を施して得られた直交変換係数の予測残差電力を算出する過程と，
量子化後の有意係数の個数を推定する過程と，
前記予測残差電力と前記量子化後の有意係数の個数と量子化幅から，所定の関数に従って量子化歪みの推定値を算出する過程とを有し，
前記所定の関数は，複数のサンプル映像のブロックごとの予測残差電力と量子化歪みの分布を，有意係数の個数に応じて分類し，分類した分布を近似する直線または曲線から定められた関数である
ことを特徴とする量子化歪み推定方法。
【請求項２】
請求項１記載の量子化歪み推定方法において，
前記所定の関数は，予測残差電力をＤＰ，量子化後の有意係数の個数をｋ，量子化幅をＱ，予め定められた定数をβおよびγとしたとき，
Ｆ（ＤＰ，ｋ，Ｑ）＝γＱ・ＤＰ−β・ｋＱ
である
ことを特徴とする量子化歪み推定方法。
【請求項３】
請求項１または請求項２記載の量子化歪み推定方法において，
前記量子化後の有意係数の個数を推定する過程では，
量子化幅から閾値を求め，直交変換係数の各成分の電力を求め，前記閾値と前記各成分の電力の大きさとの比較から量子化後の有意係数の個数を推定する
ことを特徴とする量子化歪み推定方法。
【請求項４】
請求項３記載の量子化歪み推定方法において，
前記閾値を量子化幅に予め定めた定数を乗じることによって求め，直交変換係数の各成分の電力として直交変換係数の各成分の絶対値を求め，前記閾値と前記直交変換後の絶対値の大きさとの比較から量子化後の有意係数の個数を推定する
ことを特徴とする量子化歪み推定方法。
【請求項５】
請求項３記載の量子化歪み推定方法において，
量子化幅を２乗した値に予め定めた定数を乗じることによって前記閾値を求め，直交変換係数の各成分の電力として直交変換係数の各成分の２乗値を求め，前記閾値と前記直交変換係数の各成分の２乗値との比較から量子化後の有意係数の個数を推定する
ことを特徴とする量子化歪み推定方法。
【請求項６】
予測残差信号の直交変換係数を量子化する映像符号化方式において予測モードまたは動きベクトルを決定するためのコスト関数を計算する際に用いる量子化歪みを推定する量子化歪み推定装置であって，
予測残差信号に直交変換を施す直交変換計算手段と，
直交変換係数の係数ごとの電力を算出する電力算出手段と，
前記係数ごとの電力を合計し予測残差電力を算出する合計値算出手段と，
量子化幅の値から閾値を算出する閾値算出手段と，
前記係数ごとの電力と前記閾値とを比較し，前記電力が前記閾値以上となる係数の数をカウントし，量子化後の有意係数の個数を推定する比較手段と，
複数のサンプル映像のブロックごとの予測残差電力と量子化歪みの分布を，有意係数の個数に応じて分類し，分類した分布を近似する直線または曲線から定められた所定の関数を用い，前記合計値算出手段が算出した予測残差電力と，前記比較手段が推定した量子化後の有意係数の個数と，量子化幅とから，前記所定の関数に従って量子化歪みの推定値を算出する量子化歪み算出手段とを備える
ことを特徴とする量子化歪み推定装置。
【請求項７】
予測残差信号の直交変換係数を量子化する映像符号化方式において予測モードまたは動きベクトルを決定するためのコスト関数を計算する際に用いる量子化歪みを推定する量子化歪み推定装置を，コンピュータによって実現するための量子化歪み推定プログラムであって，
前記コンピュータを，
予測残差信号に直交変換を施す直交変換計算手段と，
直交変換係数の係数ごとの電力を算出する電力算出手段と，
前記係数ごとの電力を合計し予測残差電力を算出する合計値算出手段と，
量子化幅の値から閾値を算出する閾値算出手段と，
前記係数ごとの電力と前記閾値とを比較し，前記電力が前記閾値以上となる係数の数をカウントし，その結果から量子化後の有意係数の個数を推定する比較手段と，
複数のサンプル映像のブロックごとの予測残差電力と量子化歪みの分布を，有意係数の個数に応じて分類し，分類した分布を近似する直線または曲線から定められた所定の関数を用い，前記合計値算出手段が算出した予測残差電力と，前記比較手段が推定した量子化後の有意係数の個数と，量子化幅とから，前記所定の関数に従って量子化歪みの推定値を算出する量子化歪み算出手段として
機能させるための量子化歪み推定プログラム。
【請求項８】
予測残差信号の直交変換係数を量子化する映像符号化方式において予測モードまたは動きベクトルを決定するためのコスト関数を計算する際に用いる量子化歪みを推定する量子化歪み推定装置を，コンピュータによって実現するための量子化歪み推定プログラムを記録したコンピュータ読み取り可能な記録媒体であって，
前記コンピュータを，
予測残差信号に直交変換を施す直交変換計算手段と，
直交変換係数の係数ごとの電力を算出する電力算出手段と，
前記係数ごとの電力を合計し予測残差電力を算出する合計値算出手段と，
量子化幅の値から閾値を算出する閾値算出手段と，
前記係数ごとの電力と前記閾値とを比較し，前記電力が前記閾値以上となる係数の数をカウントし，その結果から量子化後の有意係数の個数を推定する比較手段と，
複数のサンプル映像のブロックごとの予測残差電力と量子化歪みの分布を，有意係数の個数に応じて分類し，分類した分布を近似する直線または曲線から定められた所定の関数を用い，前記合計値算出手段が算出した予測残差電力と，前記比較手段が推定した量子化後の有意係数の個数と，量子化幅とから，前記所定の関数に従って量子化歪みの推定値を算出する量子化歪み算出手段として
機能させるための量子化歪み推定プログラムを記録した記録媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は，予測残差信号の直交変換係数を量子化する映像符号化方式において，量子化歪みを予測する技術に関するものである。
【背景技術】
【０００２】
ＭＰＥＧ−２（例えば，非特許文献１参照）やＨ．２６４（例えば，非特許文献２参照）などの多くの映像符号化方式では，フレームを小さいブロックの単位に分け，予測信号の直交変換係数を量子化することで符号量を削減している。予測モードや動きベクトルを決定する際には，歪みとオーバーヘッド部の符号量の両方を鑑み，最適なものを選択していく。歪みの大きさの見積もりには，差分絶対値和（ＳＡＤ）（例えば，非特許文献３参照）が多く用いられている。一般には，予測残差電力の分布に偏りがある方が符号化効率が高くなる。しかし，ＳＡＤでは予測残差電力分布の偏りは分からないため，量子化歪みの推定精度があまりよくないという欠点がある。
【０００３】
Ｈ．２６４の参照ソフトウェア（例えば，非特許文献４参照）では，予測残差信号にアダマール（Hadamard）変換を施し，出てきた成分の絶対値和を取ったＳＡＴＤ（例えば，非特許文献５参照）を歪み推定に用いている。ＳＡＴＤは，ＤＣＴよりも演算コストが低いアダマール変換を用い，周波数軸上での電力分布の偏り具合を近似的に求める。そのため，ＳＡＤよりも精度よく符号化効率の高い予測モードや動きベクトルを選択できる。
【０００４】
ＳＡＴＤを算出するフローチャートの一例を図８に，ＳＡＴＤを用いて動きベクトルを決定するフローチャートの一例を図９に示す。
【０００５】
まず，図８に示すＳＡＴＤの算出方法について述べる。予測残差信号ｄ（ｘ，ｙ）が入力されると，それにアダマール変換を施す（ステップＳ１００）。ここで，ｄ（ｘ，ｙ）は予測残差信号の座標（ｘ，ｙ）の画素を表す。次に，変換係数の各成分の絶対値を計算する（ステップＳ１０１）。最後にその総和を計算し（ステップＳ１０２），結果をＳＡＴＤとして出力する（ステップＳ１０３）。
【０００６】
次に，図９に示す動きベクトル決定する処理方法について説明する。なお，最小符号化コストを保持する変数Ｃ0 は符号化コストの最大値で初期化されている。
【０００７】
まず，符号化対象ブロックのブロック番号と探索範囲から，動きベクトルの候補Ｖを生成する（ステップＳ２００）。次に，動きベクトルＶが指し示す先の参照画像ｒｅｆ（ｘ，ｙ）と入力画像信号ｓ（ｘ，ｙ）との差を取り，予測残差信号ｄ（ｘ，ｙ）を求める（ステップＳ２０１）。ここで，ｒｅｆ（ｘ，ｙ）は参照画像の座標（ｘ，ｙ）の画素，ｓ（ｘ，ｙ）は入力画像の座標（ｘ，ｙ）の画素を表す。
【０００８】
次に，上述の図８に示す処理を行い，予測残差信号ｄ（ｘ，ｙ）からＳＡＴＤを求める（ステップＳ２０２）。その後，このＳＡＴＤと量子化幅Ｑと動きベクトルＶとから，次式のコスト関数Ｃを計算する（ステップＳ２０３）。
【０００９】
Ｃ＝ＳＡＴＤ＋λ（Ｑ）・Ｒ
Ｒはオーバーヘッド符号量，λ（Ｑ）は量子化幅Ｑによって決まる係数である。
【００１０】
こうして求めた符号化コストＣを，現在保持している最小符号化コストＣ0 と比較する（ステップＳ２０４）。もし，Ｃ＜Ｃ0 ならば，最小符号化コストＣ0 をＣで更新し，そのときの動きベクトルＶを保持する（ステップＳ２０５）。以上のステップＳ２００〜Ｓ２０５の処理をすべての動きベクトルの候補Ｖについて行い（ステップＳ２０６），符号化コストＣが最小となる動きベクトルを求め，出力する（ステップＳ２０７）。
【００１１】
以上のような処理を行うことで，符号化効率の高い動きベクトルを選択することができる。
【００１２】
図１０は，図８のＳＡＴＤ算出処理を実現する装置の構成例を示す図である。この装置は，アダマール変換計算部１００，絶対値計算部１０１，合計値算出部１０２から構成される。
【００１３】
アダマール変換計算部１００は，入力された予測残差信号ｄ（ｘ，ｙ）にアダマール変換を施し，変換係数Ｄ（ｉ，ｊ）を出力する。絶対値計算部１０１は，変換係数Ｄ（ｉ，ｊ）の各値の絶対値｜Ｄ（ｉ，ｊ）｜を計算して出力する。合計値算出部１０２は，｜Ｄ（ｉ，ｊ）｜の合計値を求めて出力する。このような構成の装置を用いることで，図８に示したフローチャートの処理を実現することができる。
【００１４】
図１１は，図９の動きベクトル決定処理を実現する装置の構成例を示す図である。この装置は，動きベクトル生成部２００，動き補償部２０１，減算器２０２，ＳＡＴＤ算出部２０３，符号化コスト計算部２０４，動きベクトル決定部２０５から構成される。なお，ＳＡＴＤ算出部２０３は，図１０に示すような構成であるとし，その動作も前述の通りとする。
【００１５】
動きベクトル生成部は２００は，マクロブロックの番号と探索範囲とから，探索すべき動きベクトルＶを順次生成し，動き補償部２０１，符号化コスト計算部２０４，動きベクトル決定部２０５に送信する。
【００１６】
動き補償部２０１は，動きベクトルＶを受信すると，そのベクトルが指し示す領域の参照画像ｒｅｆ（ｘ，ｙ）を減算器２０２に送る。減算器２０２は，参照画像ｒｅｆ（ｘ，ｙ）と入力画像ｓ（ｘ，ｙ）との差を取って予測残差信号ｄ（ｘ，ｙ）を生成し，ＳＡＴＤ算出部２０３に送る。ＳＡＴＤ算出部２０３は，ＳＡＴＤを算出し，符号化コスト計算部２０４に送る。符号化コスト計算部２０４は，ＳＡＴＤと動きベクトルＶと量子化幅Ｑの値から，当該動きベクトルでの符号化コストＣを計算する。
【００１７】
動きベクトル決定部２０５は，符号化コスト計算部２０４から送られてくる符号化コストの値Ｃの比較と保持を行う。符号化コスト計算部２０４から送られた符号化コストの値Ｃが，保持している値Ｃ0 より小さければ，保持している値を小さい方に更新し，そのときの動きベクトルを保存する。また，符号化コストが最小となる動きベクトルとその符号化コストを，動きベクトル情報として出力する。このような構成の装置を用いることで，図９に示したフローチャートの処理を実現することができる。
【非特許文献１】小野定康，鈴木純司，「わかりやすいＪＰＥＧ／ＭＰＥＧ２の技術」，オーム社（2001）
【非特許文献２】大久保榮，角野眞也，菊池義浩，鈴木輝彦，「Ｈ．２６４／ＡＶＣ教科書」，インプレス（2004）
【非特許文献３】酒井善則，吉田俊之，「映像情報符号化」，オーム社，pp.131（2001）
【非特許文献４】Ｈ．２６４参照ソフトウェア：http://iphome.hhi.de/suehring/tml/download/
【非特許文献５】G.Sullivan，T.Wiegand and K.P.Lim ，“Joint Model Reference Encoding Methods and Decoding Concealment Methods ”JVT-I049，San Diego （2003）
【発明の開示】
【発明が解決しようとする課題】
【００１８】
先に述べた通り，このＳＡＴＤを用いることで，ＳＡＤより精度よく符号化効率が高い予測モードを選択することができる。しかし，ＳＡＴＤを用いても量子化歪みの推定精度は十分ではない。
【００１９】
図１２は，ＳＡＴＤと量子化歪みとの関係を示すグラフである。図１２の例は，ＳＡＴＤの値を横軸に，量子化歪みを縦軸に取ってプロットした例である。値がばらついており，ＳＡＴＤを用いても量子化歪みの推定精度はあまり高くないことが分かる。したがって，ＳＡＴＤを用いても必ずしも歪みが小さいモードが選択できる訳ではないという問題がある。
【００２０】
本発明は，この問題の解決を図り，量子化歪みを比較的簡潔に求めることができ，モード選択などの精度向上による符号化効率の向上に寄与する技術を提供することを目的とする。
【課題を解決するための手段】
【００２１】
上述したように，従来技術であるＳＡＴＤでは，実際の量子化歪みと比べて大きく値がばらつくという問題があった。
【００２２】
予測残差電力が等しい場合には，量子化後の有意係数の個数が多い方が量子化誤差は小さくなる。そこで，本発明では，直交変換後の各成分ごとの電力から量子化後の有意係数の個数を推定し，その個数と予測残差電力とから，より高精度な量子化歪みの推定を行う。有意係数の個数は，予測残差信号ｄ（ｘ，ｙ）の直交変換行列の各係数ごとの電力Ｐ（ｉ，ｊ）と，量子化幅Ｑから求める閾値Ｔｈとの比較から推定することができる。
【００２３】
例えば，電力をＬ１ノルムで定義する場合，各係数（ｉ，ｊ）ごとの電力Ｐ（ｉ，ｊ）は，
Ｐ（ｉ，ｊ）＝｜Ｄ（ｉ，ｊ）｜                                      （１）
と求めることができる。このときの有意係数の個数は，予測残差信号ｄ（ｘ，ｙ）の直交変換係数の絶対値｜Ｄ（ｉ，ｊ）｜の中で，量子化幅Ｑと定数αから決まる閾値Ｔｈ＝αＱを用い，
｜Ｄ（ｉ，ｊ）｜≧Ｔｈ                                              （２）
を満たす係数の個数ｋとして推定することができる。量子化歪みの推定に用いる直交変換が，符号化に用いる直交変換と等しい場合には，量子化の原理から変換係数の絶対値｜Ｄ（ｉ，ｊ）｜がＱ以下の係数は量子化によって０になる。したがって，Ｔｈ＝Ｑ（即ちα＝１）とすれば，式（２）の条件から有意係数の個数を正確に求めることができる。
【００２４】
一方，量子化歪みの推定に用いる直交変換と符号化に用いる直交変換とが異なる場合がある。例えばＨ．２６４の参照ソフトウェアでは，量子化歪みの推定にアダマール変換，符号化に整数ＤＣＴ変換を用いている。この場合，係数の分布は似ているものの，その値のスケールが異なるために，補正係数αを用いてＴｈ＝αＱという閾値を用いることで，係数の個数ｋを近似的に求めることができる。
【００２５】
電力をＬ２ノルムで定義する場合には，式（２）の両辺を二乗した次式から同様に求めることができる。
【００２６】
｛Ｄ（ｉ，ｊ）｝2 ≧Ｔｈ2                                           （３）
また，予測残差電力ＤＰは各係数ごとの電力Ｐ（ｉ，ｊ）の合計値となる。
【００２７】
ＤＰ＝ΣＰ（ｉ，ｊ）                                                （４）
これらＱ，ｋ，ＤＰを，量子化歪みを推定する関数Ｆ（ＤＰ，ｋ，Ｑ）に入れて計算することで，量子化歪みの値Ｄｉｓｔを推定する。
【００２８】
図１は，本発明の量子化歪みの推定処理フローチャートである。
・〔ステップＳ１：閾値Ｔｈを計算〕
量子化幅Ｑから，閾値Ｔｈを求める。
・〔ステップＳ２：直交変換を実施〕
符号化対象ブロックの予測残差信号ｄ（ｘ，ｙ）に直交変換を施す。
・〔ステップＳ３：直交変換係数の各係数ごとの電力Ｐを計算〕
各係数Ｄ（ｉ，ｊ）ごとの電力Ｐ（ｉ，ｊ）を求める。
・〔ステップＳ４：有意係数の個数ｋを計算〕
直交変換後の各係数ごとの電力Ｐ（ｉ，ｊ）と閾値Ｔｈとの比較から，量子化後の有意係数（係数の絶対値で閾値Ｔｈ以上となる係数）の個数ｋを推定する。
・〔ステップＳ５：予測残差電力を計算〕
直交変換係数の各成分ごとの電力Ｐ（ｉ，ｊ）をすべて足し合わせ，予測残差電力ＤＰを求める。
・〔ステップＳ６：量子化歪み推定値を計算〕
予測残差電力ＤＰと推定した有意係数の個数ｋと量子化幅Ｑから，関数Ｆ（ＤＰ，ｋ，Ｑ）を用いて量子化歪みの値Ｄｉｓｔを推定する。
【００２９】
本発明が従来技術ともっとも異なる点は，ステップＳ４の有意係数の個数ｋを算出する点と，ステップＳ６の予測残差電力ＤＰと有意係数の個数ｋと量子化幅Ｑから，所定の関数Ｆ（ＤＰ，ｋ，Ｑ）を用いて量子化歪み推定値を計算する点である。
【００３０】
関数Ｆ（ＤＰ，ｋ，Ｑ）としては，例えば予測残差電力に関する一次関数を用いることができる。電力にＬ１ノルム，直交変換としてアダマール変換を用いる場合，関数Ｆを一次関数で表した場合の切片は，個数ｋと量子化幅Ｑの積に予め定めた係数−βを掛けた−β・ｋＱで近似できる。また，傾きは量子化幅Ｑに予め定めた定数γを掛けた値γＱとして求められる。ここで，βとγは，その符号化装置に特有な定数である。したがって，Ｆは，
Ｆ（ＤＰ，ｋ，Ｑ）＝γＱ・ＤＰ−β・ｋＱ                            （５）
と表せ，この式に各値を代入することで，より精度の高い量子化歪み推定ができる。
【００３１】
図２は，本発明の処理を実現する装置の構成例を示す図である。この装置は，直交変換計算部１，電力算出部２，合計値算出部３，閾値算出部４，比較カウンタ５，量子化歪み算出部６から構成される。なお，合計値算出部３は，図１０の合計値算出部１０２と同等の機能を有するものとする。
【００３２】
閾値算出部４は，量子化幅Ｑの値から閾値Ｔｈを計算する。直交変換計算部１は，入力された予測残差信号ｄ（ｘ，ｙ）に直交変換を施し，直交変換係数Ｄ（ｉ，ｊ）を出力する。電力算出部２は，直交変換係数Ｄ（ｉ，ｊ）を受け取り，各成分ごとの電力Ｐ（ｉ，ｊ）を求めて合計値算出部３と比較カウンタ５に送る。比較カウンタ５は，電力算出部２から送られる各係数の電力Ｐ（ｉ，ｊ）と閾値Ｔｈとを比較し，
｜Ｐ（ｉ，ｊ）｜≧Ｔｈ                                              （６）
となる係数の個数ｋをカウントして量子化歪み算出部６に送信する。量子化歪み算出部６は，合計値算出部３から送られる予測残差電力ＤＰと，閾値Ｔｈ以上となる係数の個数ｋと，量子化幅Ｑとから，関数Ｆ（ＤＰ，ｋ，Ｑ）を用いて量子化歪み推定値を計算し，出力する。
【００３３】
このような構成を用いて計算を行うことで，わずかな演算コストの増加でＳＡＴＤよりも精度の高い量子化歪みの推定値を算出することができる。
【発明の効果】
【００３４】
本発明では，量子化後の有意係数の個数の推定値ｋを利用して量子化歪みの推定精度を上げることで，演算コストをあまり増やすことなく，より符号化効率の高い予測モードや動きベクトルを選択することができる。
【発明を実施するための最良の形態】
【００３５】
以下，本発明の実施の形態について，図を用いて説明する。本実施の形態では，本発明による量子化歪みの推定値を用い，符号化対象ブロックの動きベクトルを決定する装置の例について示す。また，その量子化歪みの推定では，電力にＬ１ノルム，直交変換にアダマール変換，量子化歪みの推定関数Ｆ（ＤＰ，ｋ，Ｑ）に予測残差電力ＤＰに関する一次関数
Ｆ（ＤＰ，ｋ，Ｑ）＝γＱ・ＤＰ−β・ｋＱ                            （７）
を用いている。
【００３６】
本実施の形態による装置の構成図の一例を図３に示す。この装置は，図３に示すように，動きベクトル生成部１０，動き補償部１１，減算器１２，量子化歪み推定部１３，符号化コスト計算部１４，動きベクトル決定部１５から構成される。図１１と同名の部品は，同等の機能を有するものとする。なお，符号化コスト計算部１４の処理では，ＳＡＴＤを量子化歪み推定値に置き換える。
【００３７】
図３に示す量子化歪み推定部１３の装置の構成例を図４に示す。この装置は，アダマール変換計算部２０，絶対値計算部２１，合計値算出部２２，閾値算出部２３，比較カウンタ２４，量子化歪み算出部２５から構成される。図２と同名の部品は，同等の機能を有するものとする。
【００３８】
アダマール変換計算部２０は，入力された予測残差信号ｄ（ｘ，ｙ）にアダマール変換を施し，アダマール変換係数Ｄ（ｉ，ｊ）を絶対値計算部２１に送る。絶対値計算部２１は，変換係数の各成分の絶対値｜Ｄ（ｉ，ｊ）｜を求める。量子化歪み算出部２５は予測残差電力ＤＰに関する一次関数
Ｆ（ＤＰ，ｋ，Ｑ）＝γＱ・ＤＰ−β・ｋＱ                            （８）
をもとに，量子化歪みを算出する。
【００３９】
本発明の実施の形態に係るフローチャートを図５と図６に示す。図５中の量子化歪みの推定処理Ｓ１２は，図６のフローチャートに従って行われる。図５のフローチャートを用いて，本実施の形態による動きベクトル決定処理の流れについて説明する。なお，最小符号化コストを保持する変数Ｃ0 は，符号化コストの最大値で初期化されている。
【００４０】
まず，符号化対象ブロックのブロック番号と探索範囲から，動きベクトルの候補Ｖを生成する（ステップＳ１０）。次に，動きベクトルＶが指し示す先の参照画像ｒｅｆ（ｘ，ｙ）と入力画像信号ｓ（ｘ，ｙ）との差を取り，予測残差信号ｄ（ｘ，ｙ）を求める（ステップＳ１１）。次に，図６に示す量子化歪みの推定処理を行い，予測残差信号ｄ（ｘ，ｙ）から量子化歪みの推定値を求める（ステップＳ１２）。その詳細は後述する。
【００４１】
その後，量子化歪み推定値と量子化幅Ｑと動きベクトルＶからコスト関数Ｃを計算する（ステップＳ１３）。こうして求めた符号化コストＣを，現在保持している最小符号化コストＣ0 と比較する（ステップＳ１４）。もしＣ＜Ｃ0 ならば，最小符号化コストＣ0 をＣで更新し，そのときの動きベクトルＶを保持する（ステップＳ１５）。Ｃ≧Ｃ0 ならば，ステップＳ１５の処理をスキップする。以上のステップＳ１０〜Ｓ１５の処理をすべての動きベクトルの候補Ｖについて行い（ステップＳ１６），符号化コストＣが最小となる動きベクトルを求める（ステップＳ１７）。
【００４２】
図５のステップＳ１２における量子化歪みの推定処理の流れについて，図６のフローチャートを用いて説明する。
【００４３】
まず，予め定められた定数αと量子化幅Ｑから，閾値Ｔｈを，
Ｔｈ＝α・Ｑ                                                        （９）
で求める（ステップＳ２０）。次に，予測残差信号ｄ（ｘ，ｙ）に直交変換としてアダマール変換を施す（ステップＳ２１）。そして，直交変換係数Ｄ（ｉ，ｊ）の各係数ごとの電力として，絶対値Ｐ＝｜Ｄ（ｉ，ｊ）｜を求める（ステップＳ２２）。次に，各係数の電力｜Ｄ（ｉ，ｊ）｜と閾値Ｔｈを比較し，
｜Ｄ（ｉ，ｊ）｜≧Ｔｈ                                            （１０）
となる個数ｋを求める（ステップＳ２３）。
【００４４】
次に，各係数の電力｜Ｄ（ｉ，ｊ）｜をすべて足し合わせ，予測残差電力ＤＰを求める（ステップＳ２４）。最後に，予測残差電力ＤＰと推定した有意係数の個数ｋと量子化幅Ｑから，予測残差電力ＤＰに関する一次関数，
Ｆ（ＤＰ，ｋ，Ｑ）＝γＱ・ＤＰ−β・ｋＱ                          （１１）
を用いて，量子化歪み推定値を算出する（ステップＳ２５）。
【００４５】
以上，図５，図６に示すような処理を行うことで，符号化効率の高い動きベクトルを選択することができる。
【００４６】
図７は，有意係数の個数ｋの値で分類した場合のＳＡＴＤ−量子化歪みグラフの例を示す図である。以下，図７を用いて，係数などの具体例について説明する。図７のグラフは，Ｈ．２６４を用いて映像を量子化幅Ｑ＝２０で符号化した場合の各１６×１６ブロックごとのＳＡＴＤと量子化歪みの大きさをプロットしたものである。
【００４７】
実際に測定した有意係数の個数ｋとアダマール変換後の係数の大きさから，有意係数の閾値Ｔｈは７０とした。ｋが０〜５のブロックは一番左，ｋが２０〜２５のブロックは真ん中，ｋが４０〜４５のブロックは一番右側にプロットされることが分かる。したがって，それぞれｋに応じた一次関数で近似する必要がある。
【００４８】
一次関数で近似する場合の近似直線を，
Ｄｉｓｔ＝γＱ・ＳＡＴＤ−β・ｋＱ                                （１２）
とした場合，ｋによって変わるのは直線の切片である。そこで，図７では，それぞれの点群について，傾きが同じで切片が異なる３本の直線を引いている。図中では例として，左からｋ＝０，ｋ＝２０，ｋ＝４０のときの直線を表している。それぞれの直線は，以下の通りである。
【００４９】
Ｄｉｓｔ＝４．５・ＳＡＴＤ                  （ｋ＝０）          （１３ａ）
Ｄｉｓｔ＝４．５・ＳＡＴＤ−７２００        （ｋ＝２０）        （１３ｂ）
Ｄｉｓｔ＝４．５・ＳＡＴＤ−１４４００      （ｋ＝４０）        （１３ｃ）
また，これらの直線は一例で，ｋごとに以下のような式で直線を求める。
【００５０】
４．５・ＳＡＴＤ−３６０ｋ                                        （１４）
この直線を用いることで，歪みの大きさをより正確に見積もることができる。
【００５１】
従来，Ｈ．２６４の参照ソフトウェアではＳＡＴＤを用いて各種モード選択を行っているが，図１２のグラフに示されるように，量子化歪みはＳＡＴＤからは精度よく求めることができなかった。
【００５２】
しかし，図７のグラフから明らかなように有意係数の個数ｋごとに分類すると，この分布をうまく分離することができる。ここに近似直線（もしくは曲線）を引くことで，量子化歪みをより精度よく推定することが可能となる。
【００５３】
なお，図７では，多数のサンプル映像の符号化対象ブロックについてのＳＡＴＤと量子化歪みの関係をグラフ化して表しているが，ＳＡＴＤではなく，他の直交変換係数から求められた予測残差電力と量子化歪みの関係をグラフ化しても，同様の分布になることは容易に類推できる。また，予測残差電力を変数とする一次関数で近似するのではなく，有意係数の個数に応じた分布を二次関数などの曲線によって近似することもできる。
【００５４】
また，以上の実施の形態では，量子化幅に予め定めた定数を乗じることで閾値を求め，直交変換係数の各成分の絶対値と前記閾値とを比較し，前記閾値と直交変換後の絶対値の大きさの比較から量子化後の有意係数の個数を推定したが，量子化幅を２乗した値に予め定めた定数を乗じることで閾値を求めてもよい。この場合，直交変換係数の各成分の２乗値を求め，前記閾値と直交変換後の各成分の２乗値との比較から量子化後の有意係数の個数を推定する。
【００５５】
以上の量子化歪み推定方法の処理は，コンピュータとソフトウェアプログラムとによっても実現することができ，そのプログラムをコンピュータ読み取り可能な記録媒体に記録して提供することも，ネットワークを通して提供することも可能である。
【００５６】
本発明の実施の形態による量子化歪み推定方法の特徴を列挙すると，以下の通りである。
（１）予測残差信号の直交変換係数を量子化する映像符号化方式において，予測モードおよび動きベクトルを決定するためのコスト関数を計算する際，直交変換を行う手段と，予測残差電力を求める手段と，量子化後の有意係数の個数を推定する手段を有し，予測残差電力と量子化後の有意係数の個数と量子化幅から，量子化歪みの大きさを推定する。
（２）上記（１）において，予測残差電力を変数とする関数を用いて量子化歪みの大きさを求める手段を有し，その関数のパラメータを量子化後の有意係数の個数と量子化幅から求める。
（３）上記（２）において，予測残差電力を変数とする一次関数を用いて量子化歪みの大きさを求める手段と，量子化幅に予め定めた定数を乗じることで前記一次関数の傾きを求める手段と，量子化後の有意係数の個数に予め定めた定数と量子化幅を乗じることで前記一次関数の切片を求める手段とを有する。
（４）上記（１）において，量子化幅から閾値を求める手段と，直交変換係数の各成分の電力を求める手段と，各成分の電力の大きさと閾値を比較する手段とを有し，前記閾値と各成分の電力の大きさの比較から量子化後の有意係数の個数を推定する。
（５）上記（４）において，量子化幅に予め定めた定数を乗じることで閾値を求める手段と，直交変換係数の各成分の絶対値を求める手段と，直交変換係数の各成分の絶対値と前記閾値を比較する手段を有し，前記閾値と直交変換後の絶対値の大きさの比較から量子化後の有意係数の個数を推定する。
（６）上記（４）において，量子化幅を２乗した値に予め定めた定数を乗じることで閾値を求める手段と，直交変換係数の各成分の２乗値を求める手段と，直交変換係数の各成分の２乗値と前記閾値とを比較する手段とを有し，前記閾値と直交変換後の各成分の２乗値との比較から量子化後の有意係数の個数を推定する。
【図面の簡単な説明】
【００５７】
【図１】本発明の量子化歪みの推定処理フローチャートである。
【図２】本発明の処理を実現する装置の構成例を示す図である。
【図３】本実施の形態による装置の構成例を示す図である。
【図４】量子化歪み推定部の構成例を示す図である。
【図５】動きベクトル決定処理フローチャートである。
【図６】量子化歪みの推定処理フローチャートである。
【図７】有意係数の個数ｋの値で分類した場合のＳＡＴＤ−量子化歪みグラフの例を示す図である。
【図８】ＳＡＴＤ算出処理フローチャートの例である。
【図９】ＳＡＴＤを用いた動きベクトル決定処理フローチャートの例である。
【図１０】図８のＳＡＴＤ算出処理を実現する装置の構成例を示す図である。
【図１１】図９の動きベクトル決定処理を実現する装置の構成例を示す図である。
【図１２】ＳＡＴＤと量子化歪みとの関係を示すグラフである。
【符号の説明】
【００５８】
１  直交変換計算部
２  電力算出部
３  合計値算出部
４  閾値算出部
５  比較カウンタ
６  量子化歪み算出部
【図１】
0004490353.tif 000002
【図２】
0004490353.tif 000003
【図３】
0004490353.tif 000004
【図４】
0004490353.tif 000005
【図５】
0004490353.tif 000006
【図６】
0004490353.tif 000007
【図７】
0004490353.tif 000008
【図８】
0004490353.tif 000009
【図９】
0004490353.tif 000010
【図１０】
0004490353.tif 000011
【図１１】
0004490353.tif 000012
【図１２】
0004490353.tif 000013