(57)【要約】【課題】  一般的な画像評価方法では、注目画素位置の誤差情報のみしか用いていないか、周辺画素の符号も含めた誤差情報を利用していなかったため、誤差拡散法によって作成された画像などにおいて人間の視覚特性との評価のずれが大きいという問題点があった。【解決手段】  画像の評価値の計算において、注目画素位置の誤差情報だけでなく、周辺画素の誤差情報についても符号も考慮して利用することによって、既存方式よりも人間の視覚特性に近い画像評価値を得ることができ、この計算手段を用いた高精度な画像評価方法、画像評価装置と、既存の符号化装置に比べて同じビットレートに対して視覚的に画質の高い符号化ストリームを作成できる画像符号化方法、画像符号化装置を提供する。【選択図】  図１
2007116206.tif 000002
【特許請求の範囲】
【請求項１】
画素または画像の質を評価する画像評価装置において、
評価対象画素位置が同一である原画像の画素値と比較対象画像の画素値との差分を示す第1の差分データを生成し、前記評価対象画素位置の周辺に位置する原画像の画素の画素値と比較対象画像の画素の画素値との差分を示す第２の差分データを生成する減算部と、
前記第１の差分データ及び前記第２の差分データに基づいて画像を評価する画像評価値を算出する演算部とを備えていることを特徴とする画像評価装置。
【請求項２】
評価対象画素を中心としたマトリクス内の全ての周辺画素に対して、前記第2の差分データと前記周辺画素の位置に対応した重み係数とを乗算した乗算データを生成する乗算部と、
前記乗算データの総和を示す第1の加算データを生成し、前記重み係数の総和を示す第2の加算データを生成する加算部と、を備え、
前記演算部は、前記第1の差分データ、前記第1の加算データ及び前記第2の加算データに基づいて画像評価値を算出して画像を評価することを特徴とする請求項１記載の画像評価装置。
【請求項３】
前記演算部は、前記第１差分データと前記第1の加算データを前記第2の加算データで除算したデータとの和を前記画像評価値として算出することを特徴とする請求項２記載の画像評価装置。
【請求項４】
前記演算部は、前記第１差分データと前記第1の加算データを前記第2の加算データで除算したデータとの和の二乗を前記画像評価値として算出することを特徴とする請求項２記載の画像評価装置。
【請求項５】
評価対象画素を中心としたマトリクス内の全ての周辺画素に対して、前記評価対象画素位置の周辺に位置する原画像の画素の画素値と前記周辺画素の位置に対応した重み係数とを乗算した第１の乗算データを生成し、評価対象画素を中心としたマトリクス内の全ての周辺画素に対して、前記評価対象画素位置の周辺に位置する前記評価対象画像の画素の画素値と前記周辺画素の位置に対応した重み係数とを乗算した第２の乗算データを生成する乗算部を有し、
前記演算部は、前記第１の差分データ、前記第１の乗算データおよび前記第２の乗算データに基づいて画像評価値を算出して画像を評価することを特徴とする請求項１記載の画像評価装置。
【請求項６】
前記演算部は、前記第１の乗算データと前記第２の乗算データとの差分データに任意の係数を乗算した第３の乗算データと前記第１の差分データとの和を前記画像評価値として算出することを特徴とする請求項５記載の画像評価装置。
【請求項７】
前記演算部は、前記第１差分データの二乗と前記第３の乗算データの二乗との和を前記画像評価値として算出することを特徴とする請求項５記載の画像評価装置。
【請求項８】
入力された画像を保持する原画像メモリと、入力画像を複数ブロックに分割するブロック分割部と、ブロック単位の符号化処理を複数種類の手順で行う符号化処理部と、前記複数種類の手順の符号化方式の中から１つの符号化モードを決定するモード判定部と、参照画像を保持する参照画像メモリと、動き探索を行う動き探索部と、誤差計算を行う誤差計算部とを有し、
誤差計算部において誤差評価値として、評価対象画素位置が同一である前記原画像メモリ内の画像の画素値と前記参照画像メモリ内の画像の画素値との差分を示す第1の差分データ及び前記評価対象画素位置の周辺に位置する原画像メモリ内の画素の画素値と前記参照画像メモリ内の画像の画素の画素値との差分を示す第２の差分データに基づいた画像評価値を用いることを特徴とする画像符号化装置。
【請求項９】
前記誤差評価値を、前記動き探索部における動き探索処理のベクトル評価、前記モード判定部における各モードの評価、前記符号化処理部におけるイントラ予測モード選択の評価に用いることを特徴とする請求項８記載の画像符号化装置。
【請求項１０】
画素または画像の質を評価する画像評価方法において、
評価対象画素位置が同一である原画像の画素値と比較対象画像の画素値との差分を示す第1の差分データを生成し、
前記評価対象画素位置の周辺に位置する原画像の画素の画素値と比較対象画像の画素の画素値との差分を示す第２の差分データを生成し、
前記第１の差分データ及び前記第２の差分データに基づいて画像を評価する画像評価値を算出する演算部とを備えていることを特徴とする画像評価方法。
【請求項１１】
評価対象画素を中心としたマトリクス内の全ての周辺画素に対して、前記第2の差分データと前記周辺画素の位置に対応した重み係数とを乗算した乗算データを生成し、
前記乗算データの総和を示す第1の加算データを生成し、
前記重み係数の総和を示す第2の加算データを生成し、
前記第1の差分データ、前記第1の加算データ及び前記第2の加算データに基づいて画像評価値を算出して画像を評価することを特徴とする請求項１０記載の画像評価方法。
【請求項１２】
前記第１差分データと前記第1の加算データを前記第2の加算データで除算したデータとの和を前記画像評価値として算出することを特徴とする請求項１１記載の画像評価装置。
【請求項１３】
前記第１差分データと前記第1の加算データを前記第2の加算データで除算したデータとの和の二乗を前記画像評価値として算出することを特徴とする請求項１２記載の画像評価方法。
【請求項１４】
評価対象画素を中心としたマトリクス内の全ての周辺画素に対して、前記評価対象画素位置の周辺に位置する原画像の画素の画素値と前記周辺画素の位置に対応した重み係数とを乗算した第１の乗算データを生成し、
評価対象画素を中心としたマトリクス内の全ての周辺画素に対して、前記評価対象画素位置の周辺に位置する前記評価対象画像の画素の画素値と前記周辺画素の位置に対応した重み係数とを乗算した第２の乗算データを生成、
前記第１の差分データ、前記第１の乗算データおよび前記第２の乗算データに基づいて画像評価値を算出して画像を評価することを特徴とする請求項１１記載の画像評価方法。
【請求項１５】
前記第１の乗算データと前記第２の乗算データとの差分データに任意の係数を乗算した第３の乗算データと前記第１の差分データとの和を前記画像評価値として算出することを特徴とする請求項１４記載の画像評価装置。
【請求項１６】
前記演算部は、前記第１差分データの二乗と前記第３の乗算データの二乗との和を前記画像評価値として算出することを特徴とする請求項１４記載の画像評価装置。
【請求項１７】
入力された画像を保持し、入力画像を複数ブロックに分割し、ブロック単位の符号化処理を複数種類の手順で行い、前記複数種類の手順の符号化方式の中から１つの符号化モードを決定し、比較対象画像を保持し、入力画像と比較対象画像とを比較して動きベクトル探索を行う画像符号化方法において、評価対象画素位置が同一である前記入力画像の画素値と前記比較対象画像の画素値との差分を示す第1の差分データ及び前記評価対象画素位置の周辺に位置する前記入力画像の画素値と前記評価対象画像の画像の画素の画素値との差分を示す第２の差分データに基づいた画像評価値を用いて前記入力画像の符号化を行うことと特徴とする画像符号化方法。
【請求項１８】
前記誤差評価値を、前記動きベクトル探索、前記符号化モードの決定、前記符号化処理におけるイントラ予測モード選択に用いることを特徴とする請求項１７記載の画像符号化方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は符号化した画素または画像の質を評価する画像評価技術に関し、またこの画像評価技術を適用した画像符号化技術に関する。
【背景技術】
【０００２】
大容量の映像、音声情報をデジタルデータ化して記録、伝達する手法として、MPEG(Moving Picture Experts Group)方式等の符号化方式が策定され、MPEG-1規格、MPEG-2規格、MPEG-4規格等として国際標準の符号化方式となっている。また、さらに圧縮率を向上させる符号化方式として、H.264/AVC(Advanced Video Coding)規格等が定められている。これらの方式はディジタル衛星放送やDVD、携帯電話やデジタルカメラなどにおける符号化方式として採用され、現在ますます利用の範囲が広がり、身近なものとなってきている。
【０００３】
上述の符号化方式による符号化の際、ディザリングと呼ばれる階調変換を施す場合があることが知られている。例えばディザリングの手法として、単純法と誤差拡散法とが知られている。単純法は、例えば第１の階調（例えば２５６階調）の画像を画素ごとに第１の階調より低い第２の階調（例えば８階調）に丸めて量子化する階調処理方法であり、画素の量子化の際、その画素の周辺画素の誤差を考慮することはない。従って、第１の階調が同じ画素であれば必ず同じ第２の階調に丸められて量子化される。
【０００４】
一方、誤差拡散法は、画素の量子化の際、その画素の周辺画素で発生した誤差を考慮して階調処理を行うので、画面全体での視覚的な画質を向上させることができる。（例えば、非特許文献１参照）従って、第１の階調が同じ階調の画素であっても周辺画素の誤差の状況によっては異なる第２の階調に丸められて量子化される場合がある。
【０００５】
比較対象画像である、このような方式によって符号化された画像を復号した再生画像（以下単に「再生画像」と称する）は、原画像に比べて劣化する。符号化によってどの程度再生画像が劣化したかを評価する画像評価技術が知られている。一般的に画像評価技術は原画像と再生画像だけでなく、あらゆる種類の画像を比較対象として評価することが可能であるが、以下では原画像と比較対象画像としての再生画像とを比較して評価する例を挙げて説明する。
【０００６】
これまで画像評価の基準として最も広く使われていた方式は、SNR(Signal-to-Noise Ratio)及びPSNR (Peak Signal-to-Noise Ratio)がある。画像中のある評価対象画素の位置を(x,y)として、原画像の画素値をO(x,y)、再生画像の画素値をD(x,y)とした時、SNRは数１、PSNRは数２のようにして求められる。ここで、原画像の画素値と再生画像の画素値との差分が画素の誤差である。このようにして求められた評価対象画素の評価値は、画面全体／画像シーケンス全体の全画像に対して計算され、計算結果の平均値を画像評価値とすることが一般的である。（例えば特許文献１及び非特許文献２参照）
【０００７】
【数１】
2007116206.tif 000003
【０００８】
【数２】
2007116206.tif 000004
【０００９】
【特許文献１】特開平７−７４９６２号公報
【非特許文献１】安居院猛、長尾智晴: "Ｃ言語による画像処理入門", pp.15-16, 昭晃堂.
【非特許文献２】松本修一 : "ディジタル映像品質の客観評価技術", SAT99-71, CQ98-15, pp.29-36,電子情報通信学会技術報告, (July. 1999).
【発明の開示】
【発明が解決しようとする課題】
【００１０】
上記のような既存のSNRやPSNRを用いた画像評価では、評価値が高いほど高画質であることを示すが、評価値の大小が必ずしも人間の目で見た画像の良し悪しである視覚特性とは一致しない場合がある。
【００１１】
非特許文献２のWeighted PSNRは、画像符号化におけるDCT(Discrete Cosine Transform)変換時の誤差を評価するための評価値である。DCTブロック単位で原画像と比較対象画像である再生画像の差分、すなわち評価対象画素の誤差の二乗を計算し、これに対してマトリクスによる重み係数をかけることによって評価値を算出する。しかしこの方法では、画素の誤差の二乗を用いているため、誤差のプラスとマイナスを評価値に反映させることができていなかった。
【００１２】
一方、特許文献１の方法では、原画像と比較対象画像である再生画像のそれぞれの評価対象画素について周辺画素から重み係数を算出して補正を行い、補正した評価対象画素同士を比較して評価値を算出している。しかしこの算出方法は周辺画素の誤差を考慮していないので、周辺画素の誤差を評価に考慮することができない。特に上述の拡散誤差法を用いて符号化した画像の再生画像に対する画質評価を行うことが難しいことが分かった。
【００１３】
この理由として次のことが考えられる。上述の単純法では第１の階調が同じであれば第２の階調も必ず同じになるので、原画像の画素との比較において常に同じ評価値が算出される。一方、誤差拡散法では、第１の階調が同じであっても周辺画素の誤差の状況によって第２の階調がばらつくので、原画像の画素との比較において評価値もばらつく。つまり、この評価値のばらつき次第で、人間の視覚特性としては画質が高い画像を画質が低いと判定してしまう可能性がある。
【００１４】
本発明の目的は、従来よりも人間の視覚特性に近い再生画像の評価値を算出でき、精度の高い画像評価技術及び画像符号化技術を提供することにある。
【課題を解決するための手段】
【００１５】
上記課題を解決するために、本発明では、原画像と比較対象画像同士の誤差情報だけでなく、評価対象画素の周辺画素の誤差情報も利用して画像評価値を算出することとする。その一つとして、評価対象画素位置が同一である原画像の画素値と比較対象画像の画素値との差分を示す第1の差分データを生成し、前記評価対象画素位置の周辺に位置する原画像の画素の画素値と比較対象画像の画素の画素値との差分を示す第２の差分データを生成し、前記第１の差分データ及び前記第２の差分データに基づいて画像を評価する画像評価値を算出することとする。
【００１６】
また、入力された画像を保持し、入力画像を複数ブロックに分割し、ブロック単位の符号化処理を複数種類の手順で行い、前記複数種類の手順の符号化方式の中から１つの符号化モードを決定し、比較対象画像を保持し、入力画像と比較対象画像とを比較して動きベクトル探索を行う画像符号化技術に対して、評価対象画素位置が同一である前記入力画像の画素値と前記比較対象画像の画素値との差分を示す第1の差分データ及び前記評価対象画素位置の周辺に位置する前記入力画像の画素値と前記評価対象画像の画像の画素の画素値との差分を示す第２の差分データに基づいた画像評価値を用いて前記入力画像の符号化を行うこととする。
【発明の効果】
【００１７】
本発明によれば、従来よりも人間の視覚特性に近い再生画像の評価値を算出でき、精度の高い画像評価技術及び画像符号化技術を提供することができる。
【発明を実施するための最良の形態】
【００１８】
以下、本発明の実施例を、図面を参照して説明する。
【００１９】
図１は画素あるいは画像全体の画質の評価である画像評価方法における各画素の画像評価値を計算する方法について説明した図である。ステップ(101)に始まりステップ(109)に至る処理の流れを示している。図２は本実施例の画像評価値を算出する画像評価装置200を示している。画像評価装置200は、原画像の画素と比較対象画像である再生画像の画素から評価対象画素の差分データ及び周辺画素の差分データを生成して出力する減算部201、周辺画素の差分データに対して重み係数を乗算して乗算データを生成して出力する乗算部202、乗算部202からの出力される各周辺画素の乗算データを加算した第１の加算データ及び各周辺画素の重み係数を加算した第２の加算データを生成して出力する加算部203、減算部201の出力及び加算部203の出力に基づいて所定の演算を行って画像票価値を算出して出力する演算部204及び減算部201、乗算部202、加算部203、演算部204を制御する制御部205を備えている。
【００２０】
図３は画像評価値の算出処理の概念を示している。(301)は原画像を示し、(302)は再生画像を示す。(303)は評価対象画素（＊）とその周辺画素を含むマトリクスサイズの重み係数の分布を示し、(304)は原画像の評価対象画素Ｄに関するマトリクスサイズの画素分布、(305)は比較対象画像である再生画像の評価対象画素Ｄに関するマトリクスサイズの画素分布を示す。本実施例では５×５サイズのマトリクスを用いた場合の例を示す。マトリクスのサイズは任意でよい。
【００２１】
制御部205による制御の下、図２(a)の画像評価装置200は図１のステップ(101)から画像評価処理を開始する。
【００２２】
ステップ(102)では、減算部201にて評価対象画素に対する原画像301と再生画像302の画素値の差分を示す評価対象画素差分データを生成して演算部204に出力する。原画像(301)と評価画像(302)における画素の画像上の位置(x,y)で表す。ここで座標(x,y)の位置における原画像の画素値をO(x,y)、評価画像の画素値をD(x,y)とすると、評価対象画素差分データはO(x,y)  D(x,y)となる。次にステップ(103)に進む。
【００２３】
ステップ(103)では制御部205がマトリクス内の周辺画素に対する処理分岐を行う。これは、重み係数マトリクス(303)と原画像の周辺画素(304)、及び評価画像の周辺画素(304)について、位置(i,j)についてそれぞれ処理を行っていくことを示す。ここでは、(i,j)=(-2,-2)〜(2,2)について処理を行えばよい。次にステップ(104)に進む。
【００２４】
ステップ(104)では、減算部201は、評価対象画素（＊）のマトリクス内の周辺画素(304)の画素値と(305)の画素値の差分を示す周辺画素差分データを生成し、乗算部202に出力する。周辺画素差分データはO(x+i,y+i)  D(x+i,y+i)となる。次にステップ(105)に進む。
【００２５】
ステップ(105)では、乗算部203は、周辺画素差分データに対して重み係数マトリクス(303)として予め定義してある重み係数を乗算して乗算データを生成し、加算部203に出力する。重み係数マトリクス係数の例を(303)及び数３に示し、これをM(i,j)とする。この重み係数マトリクスの場合、例えばi=1、j=2であれば重み係数は３となる。重み係数マトリクス係数の値は任意でよいが、ここに示す値を使うことにより周辺の誤差の影響を考慮した人間の視覚特性に近い評価値を算出可能になる。評価対象画素（＊）に近い所ほど重みの数値または絶対値が大きく、離れた所ほど小さい値にすることが好ましい。マトリクス係数は他にも様々なものが応用可能で、一般的にディザリング手法や画像処理手法として用いられる係数を用いればよい。次にステップ(106)に進む。
【００２６】
【数３】
2007116206.tif 000005
【００２７】
ステップ(106)では、制御部205は、周辺画素位置のループ判定を行う。(i,j)についてマトリクス内の全ての周辺画素位置について上記の処理が終了した場合はステップ(107)へ進み、そうでない場合にはステップ(103)に進む。なお、画像の外周や、評価対象が画素単位ではなくブロック単位での処理である等の理由によって周辺画素の位置が参照できない場合には、ステップ(107)に進む。
【００２８】
ステップ(107)では、加算部203は、乗算部202からの出力される各周辺画素の乗算データを加算した第１の加算データ及び重み係数マトリクス303内の全ての重み係数を加算した第２の加算データを生成し、演算部204に出力する。次にステップ(108)に進む。
【００２９】
ステップ(108)では、演算部204は、上記ステップ(107)で得られた周辺画素全体に対する乗算結果の和を重み係数の和で除算し、これをステップ(102)にて求めた対象画素位置の原画像と評価画像の差分と加算する。この値をeとしたとき、数４のようになる。またこれを二乗した値をNeとすると数５のようになる。次にステップ(109)に進む。
【００３０】
【数４】
2007116206.tif 000006
【００３１】
【数５】
2007116206.tif 000007
【００３２】
ステップ(109)では、演算部204は、評価対象画素の画素評価値を画像評価値として出力する。ここで画素評価値は数４に示すe、数５に示すNeを用いてもよいし、ここで新たに定義する尺度である数６に示すEC-SNR、EC-PSNRを用いてもよい。ここでS及びSpは数１、２と同じである。
【００３３】
なお、画素評価値ではなく画像全体の画質を示す画質評価値を画像評価値として出力する場合は、画像内の全ての画素に対してそれぞれステップ(102)〜ステップ(109)を実行して画素評価値を生成し、平均値を算出して画像評価値とすればよい。
【００３４】
【数６】
2007116206.tif 000008
【００３５】
このようにして求めた画像評価値を用いることにより、既存の方式より人間の視覚特性に近い基準によって画像評価を行うことができる。特にここに示す評価値は、誤差拡散法を用いて階調数を減らした自然画像等、既存の方式では判定の難しかった画像においても正しい判定を行うことができる。上述の誤差拡散法は誤差を平面的に分散させ、少ない階調数で画面全体の画質を落とさずに表現するための手法であるが、既存の方式では画素単位の誤差を基準として判定するため、この方式で作成した画像を上述の単純法で量子化を行った画質の低い画像よりも低い評価値としてしまう傾向があった。しかし本実施例の方式は、周辺の誤差を考慮した評価値となっているため、誤差拡散法で作成した画像を他の画質の低い画像と比較して必ず高い評価値として判定することができる。
【００３６】
例えば、MPEG標準画像を用いて、単純法で量子化を行った画像と誤差拡散法で量子化を行った画像との画質評価を行った実験では、既存のPSNRと本発明によるEC-PSNRとの比較で表１のような結果が得られている。表１に示すとおり、PSNRでは単純法の方が数値が大きくなっているが、EC-PSNRでは誤差拡散法の方が数値が大きくなっており、EC-PSNRの方が人間の主観評価に近い結果が得られている。
【００３７】
【表１】
2007116206.tif 000009
【００３８】
上記では一例として数３に示すマトリクス係数を用いて、数４、数５のe、Neから数６による画質評価値を計算する方法を示した。その他の例としては、数７に示すようなラプラシアンを求めるマトリクス係数を用いてもよい。ラプラシアンは画像の各画素における二次微分の値であり、数７のマトリクス係数によってこれを求めることができる。ラプラシアンの値はその画素におけるエッジの強度となる。つまりマトリクス係数M(i,j)として数７を用いて数８、数９におけるe、Neを求め、数６の画素評価値を計算すると、各画素においてエッジ強度がどの程度再現されているかを考慮した画素評価値を求めることができる。ここでa,bは、エッジ強度の再現性を評価値にどの程度考慮するかを決定するためのパラメータであり、考慮具合に応じて任意に設定できる。この場合、図２(b)に示した画像評価装置200を用いる。原画像中の周辺画素の画素値O(x+i,y+i)と重み係数M(i,j)との第１の乗算データ、及び評価対象画像である再生画像の画素値D(x+i,y+i)と重み係数M(i,j)との第２の乗算データを乗算部202で生成する。そして、加算部203で、乗算部202からの出力される各周辺画素の第１の乗算データを加算した第１の加算データ、及び乗算部202からの出力される各周辺画素の第２の乗算データを加算した第２の加算データを生成し、演算部204で数８、９の演算を行えばよい。この方式でも同様に、既存方式では不十分であった人間の視覚特性を考慮した画像評価を行うことができる。
【００３９】
【数７】
2007116206.tif 000010
【００４０】
【数８】
2007116206.tif 000011
【００４１】
【数９】
2007116206.tif 000012
【００４２】
他の方式としてマトリクスを用いない方法を用いても良い。例えば、アクティビティと呼ばれる画像の一定領域における分散値を用いることによって、同様に視覚特性に応じた画像評価を行うことができる。数１０に示すOvがアクティビティを示す。数１１、数１２におけるe、Neを求め、数６の画素評価値を計算すると、各画素においてエッジ強度がどの程度再現されているかを考慮した画素評価値を求めることができる。ここでa,bは、エッジ強度の再現性を評価値にどの程度考慮するかを決定するためのパラメータである。
【００４３】
【数１０】
2007116206.tif 000013
【００４４】
【数１１】
2007116206.tif 000014
【００４５】
【数１２】
2007116206.tif 000015
【００４６】
本実施例の画像評価技術を画像符号化技術に応用することにより、人間の視覚特性にあった高画質の符号化、圧縮を行う画像符号化技術を実現することもできる。
【００４７】
図３に本実施例による画像符号化装置400の一実施例を示し、その特徴について説明する。
【００４８】
画像符号化装置400は、原画像メモリ401、参照画像メモリ402、ブロック分割部403、動き探索部404、誤差計算部405、符号化処理部406、モード判定部407、復号部408がある。また、画像符号化装置400は、制御部409の制御によって動作する。以下の説明において、制御部409の制御によって動作するものとして説明する。以下では画像全体を複数のブロックに分割して符号化するブロックベース符号化の例を用いて説明するが、本実施例による画像符号化装置400は誤差の計算に前記の評価値を用いることが特徴であり、この特徴を用いるのであれば、符号化自体の構成は、本実施例のブロックベース符号化以外の構成でも構わない。以下では特にH.264/AVCの符号化方式を例に説明する。
【００４９】
原画像メモリ401は、入力画像を取り込むメモリである。符号化する画像を記憶する。
【００５０】
ブロック分割部402は原画像メモリ401に格納された符号化する原画像をブロック単位に分割し、符号化処理の管理を行う。符号化対象となるブロック情報を動き探索部404と符号化処理部406に伝送する。
【００５１】
動き探索部404はブロック分割部302から得た符号化対象のブロック情報と参照画像メモリ402に記憶された参照画像とを比較して、動きベクトル探索を行う。なお、参照画像メモリ402に記憶される画像は、符号化処理部406、モード判定部407を経由して一度符号化された画像を復号部408で復号した画像である。原画像メモリ401に記憶される画像より時系列的に前の画像であってもよいし、原画像メモリ401に記憶される画像と時系列的に同一の画像であってもよい。動きベクトルの探索自体は通常の動画像符号化で用いられる方法を用いればよい。但し、ここで動きベクトルの誤差評価を行う際に誤差計算部405を通じて前記の数３，４，５，６あるいは７，８，９に示した画像評価値を用いることが本実施例の特徴である。動きベクトル探索では、参照画像の一定の探索範囲内について符号化対象のブロック情報と誤差を計算して比較を行う。ここで誤差評価が最も小さい探索位置をマッチング位置とし、符号化対象のブロック位置との差分を動きベクトルとして符号化する。既存方式では誤差の評価は各画素の絶対値誤差の和を用いるが、本実施例においては例えば数４に示すeの絶対値の和を用いればよい。
【００５２】
符号化処理部406はブロック分割部403から得た符号化対象のブロック情報と動き探索部404から得た動きベクトル情報を用いて符号化処理を行う。この符号化処理には、イントラ符号化モードやインター符号化モードなどの複数のモードに関する複数の処理プロセスを含む。例えば、インター符号化では、動きベクトル情報に基づいて予測ブロックを作成し、これと符号化対象のブロック情報との差分を取ってDCT変換などを行い、エントロピー符号化を行って符号化データを作成する。またイントラ符号化であれば、複数の予測方向に対して誤差の評価を行い、予測方向を決定して予測ブロックを作成し、符号化対象のブロック情報との差分を取って変換・符号化する。インター符号化及びイントラ符号化においてこのように作成された符号化データは一旦復号化され、再度符号化対象のブロック情報と比較され、誤差評価値が計算される。これらの処理はブロックサイズの異なる複数のモードに対して行われ、符号化データや誤差評価値など中間情報が格納される。
【００５３】
これらの方法については、通常の動画像符号化で用いられる方法を用いればよい。但し、本実施例の特徴は、イントラ予測における予測方向の評価に用いる誤差評価値、イントラ予測やインター予測における各モードの予測ブロックと符号化対象ブロック情報との誤差評価値、及び一旦復号化された符号化データと符号化対象ブロック情報との誤差評価値について、誤差計算部405を通じて前記の数３，４，５，６あるいは７，８，９に示した画像評価値を用いることにある。既存方式では誤差の評価に各画素の二乗誤差の和を用いるが、本実施例においては例えば数５に示すNeの和を用いればよい。
【００５４】
モード判定部407は、符号化処理部406において作成、格納された各モードの情報から、最も効率的に符号化対象ブロックを符号化できるモードを選択し、選択した符号化データとこれに関連する情報を出力する。また選択されたモードの復号された情報については、参照画像メモリ402に格納される。モード判定方法については、通常の動画像符号化で用いられる方法を用いればよい。但し、本実施例の特徴は、モード判定の基準となる、イントラ予測やインター予測における各モードの予測ブロックと符号化対象ブロック情報との誤差評価値や、一旦復号化された符号化データと符号化対象ブロック情報との誤差評価値について、誤差計算部405)を通じて前記の数３，４，５，６あるいは７，８，９に示した画像評価値を用いることにある。
【００５５】
モード判定を行うための計算式をH.264/AVCの例を用いて説明する。既存のH.264/AVCエンコーダでは、数１３を用いて符号化コストの計算を行い、これを最も小さくする符号化モードを選択していた。ここでSSDはマクロブロックの各画素について原画像と復号画像の二乗誤差を取り和を計算したものである。Rはマクロブロックの符号量を示し、QPは量子化パラメータ、λ_Modeはこの計算式に対して最適になるように定められたラグランジュパラメータである。
【００５６】
本発明によるモード判定方式では、これにかえて数１４を用いる。数１４におけるNeは、上記の数５及び数９のものを用いればよい。ここでΣ_MBは、マクロブロックの各画素について上記Neを求めることを示す。λ_modeはこの計算式に対して最適になるように定められたラグランジュパラメータであり、定数cは上記数５及び数９に合わせて適宜設定すればよい。例えば数５の場合は、0.4〜1.0程度、数９の場合は1.5程度である。
【００５７】
数１４によるモード判定方式を用いることによって、グラデーションの再現性のよい符号化モードや、エッジ状のノイズのない符号化モードを適切に選択することができ、符号化画像の主観画質を高めることができる。
【００５８】
【数１３】
2007116206.tif 000016
【００５９】
【数１４】
2007116206.tif 000017
【００６０】
参照画像メモリ402は復号化された符号化データの画像を格納するメモリである。
【００６１】
誤差計算部4305は誤差評価値の計算を行う部分である。動き探索部404、符号化処理部406、モード判定部407)からの指示に従い、原画像メモリ401および参照画像メモリ402からデータを取得し誤差評価値を計算して渡す。誤差評価値としては既存の評価値を渡してもよいが、数３，４，５，６あるいは７，８，９に示した画像評価値を計算することによって、既存方式よりも人間の視覚特性に近い画像符号化を行うことができる。画像評価値の計算方法については上記のとおりである。
【００６２】
例えば、モード判定における誤差の計算では、数３，４，５，６あるいは７，８，９において、原画像を符号化対象ブロック情報とし、評価画像を各モードの符号化データを復号化した画像データとすればよい。動きベクトル探索における誤差の計算では、原画像を符号化対象ブロック情報とし、評価画像をある動きベクトルを当てはめた位置における参照画像の対象ブロックとすればよい。
【００６３】
画像符号化においては、データの圧縮によって誤差が発生し画像が劣化する。既存の評価値を用いる場合、特にビットレートが低い場合には人間の目に見えるノイズの量と評価値の判定が必ずしも一致しないという問題点があった。誤差評価値として本実施例による画像評価値を用いることによって、人間の視覚特性に近い誤差判定を行うことができるため、既存方式と比べて同じ符号量に対して人間の見た目に画質の高い符号化を行うことができる。
【００６４】
特に本発明のメリットとしては、低ビットレートで符号化した時に発生するグラデーション部分の画質劣化や、擬似輪郭などのエッジ状のノイズを削減することができることが挙げられる。
【００６５】
さらに、本実施例の画像符号化技術を画像記録装置、プレーヤ、携帯電話、デジタルカメラ等の映像処理装置に適用することで、従来よりも人間の視覚特性に近い再生画像の評価値を算出でき、精度の高い映像処理装置を提供することができる。
【図面の簡単な説明】
【００６６】
【図１】本実施例で用いる画像評価値算出手順を示す図。
【図２】本実施例で用いる画像評価装置のブロック図。
【図３】本実施例による画質評価方法の概念を説明した図。
【図４】本実施例による画像符号化装置の一実施例を説明した図。
【符号の説明】
【００６７】
４００…画像符号化装置
４０１…原画像メモリ
４０２…参照画像メモリ
４０３…ブロック分割部
４０４…動き探索部
４０５…誤差計算部
４０６…符号化処理部
４０７…モード判定部
４０８…復号部
４０９…制御部
【図１】
2007116206.tif 000018
【図２】
2007116206.tif 000019
【図３】
2007116206.tif 000020
【図４】
2007116206.tif 000021