(57)【特許請求の範囲】
【請求項１】
複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化方法であって、
量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求め、
逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める
ことを特徴とする逆量子化方法。
【請求項２】
前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算し、
前記複数の量子化値と前記量子化値以外の信号とを用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める
ことを特徴とする請求項１に記載の逆量子化方法。
【請求項３】
前記複数の量子化値を用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算し、
前記複数の量子化値と前記量子化値以外の信号とを用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める
ことを特徴とする請求項１に記載の逆量子化方法。
【請求項４】
複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化方法であって、
前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算し、
前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める
ことを特徴とする逆量子化方法。
【請求項５】
ある前記量子化値以外の信号が対応する量子化値の逆量子化値の取り得る値の範囲に含まれる場合、該前記量子化値以外の信号との差分が小さい仮逆量子化値を前記複数の逆量子化値の組に含める
ことを特徴とする請求項１から請求項４のいずれかに記載の逆量子化方法。
【請求項６】
複数の量子化値を符号化する符号化方法であって、
複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化方法を用い、
前記逆量子化方法は、
量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求め、
逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める
ことを特徴とする符号化方法。
【請求項７】
複数の量子化値を符号化する符号化方法であって、
複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化方法を用い、
前記逆量子化方法は、
前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算し、
前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める
ことを特徴とする符号化方法。
【請求項８】
複数の量子化値を復号する復号方法であって、
複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化方法を用い、
前記逆量子化方法は、
量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求め、
逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める
ことを特徴とする復号方法。
【請求項９】
複数の量子化値を復号する復号方法であって、
複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化方法を用い、
前記逆量子化方法は、
前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算し、
前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める
ことを特徴とする復号方法。
【請求項１０】
現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化方法であって、
前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算ステップと、
前記映像要素計算ステップにて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算ステップと
を有することを特徴とする映像逆量子化方法。
【請求項１１】
現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化方法であって、
前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算ステップと、
前記映像要素計算ステップにて計算された初期逆量子化映像ベクトルを始点にして、前記量子化値ベクトルによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算ステップと
を有することを特徴とする映像逆量子化方法。
【請求項１２】
現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化方法であって、
前記量子化値ベクトルの要素を用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算ステップと、
前記映像要素計算ステップにて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算ステップと
を有することを特徴とする映像逆量子化方法。
【請求項１３】
前記映像ベクトル計算ステップは、前記相関が存在する他の映像ベクトルの要素が、対応する前記仮逆量子化映像ベクトルの集合の要素の値域に含まれる場合、該要素に関して前記相関が存在する他の映像ベクトルの要素との差分がより小さい、仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算することを特徴とする請求項１０から請求項１２のいずれかに記載の映像逆量子化方法。
【請求項１４】
量子化値ベクトルを符号化する映像符号化方法であって、
現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化方法を用い、
前記映像逆量子化方法は、
前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて前記処理対象の初期逆量子化映像ベクトルを要素単位で計算する映像要素計算ステップと、
前記映像要素計算ステップにて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定するベクトル空間から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算ステップと
を有することを特徴とする映像符号化方法。
【請求項１５】
量子化値ベクトルを復号する映像復号方法であって、
現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化方法を用い、
前記映像逆量子化方法は、
前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて前記処理対象の初期逆量子化映像ベクトルを要素単位で計算する映像要素計算ステップと、
前記映像要素計算ステップにて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定するベクトル空間から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算ステップと
を有することを特徴とする映像復号方法。
【請求項１６】
複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化装置であって、
量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求め、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める復元手段
を有することを特徴とする逆量子化装置。
【請求項１７】
前記復元手段は、
前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算する手段と、
前記複数の量子化値と前記量子化値以外の信号とを用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める手段と
を有することを特徴とする請求項１６に記載の逆量子化装置。
【請求項１８】
前記復元手段は、
前記複数の量子化値を用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算する手段と、
前記複数の量子化値と前記量子化値以外の信号とを用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める手段と
を有することを特徴とする請求項１６に記載の逆量子化装置。
【請求項１９】
複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化装置であって、
前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算し、前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める復元手段
を有することを特徴とする逆量子化装置。
【請求項２０】
前記復元手段は、ある前記量子化値以外の信号が対応する量子化値の逆量子化値の取り得る値の範囲に含まれる場合、該前記量子化値以外の信号との差分が小さい仮逆量子化値を前記複数の逆量子化値の組に含める
ことを特徴とする請求項１６から請求項１９のいずれかに記載の逆量子化装置。
【請求項２１】
複数の量子化値を符号化する符号化装置であって、
複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化装置を有し、
前記逆量子化装置は、
量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求め、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める手段を有する
ことを特徴とする符号化装置。
【請求項２２】
複数の量子化値を符号化する符号化装置であって、
複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化装置を有し、
前記逆量子化装置は、
前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算し、前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める手段を有する
ことを特徴とする符号化装置。
【請求項２３】
複数の量子化値を復号する復号装置であって、
複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化装置を有し、
前記逆量子化装置は、
量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求め、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める手段を有する
ことを特徴とする復号装置。
【請求項２４】
複数の量子化値を復号する復号装置であって、
複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化装置を有し、
前記逆量子化装置は、
前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算し、前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める手段を有する
ことを特徴とする復号装置。
【請求項２５】
現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化装置であって、
前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算手段と、
前記映像要素計算手段にて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算手段と
を有することを特徴とする映像逆量子化装置。
【請求項２６】
現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化装置であって、
前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算手段と、
前記映像要素計算手段にて計算された初期逆量子化映像ベクトルを始点にして、前記量子化値ベクトルによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算手段と
を有することを特徴とする映像逆量子化装置。
【請求項２７】
現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化装置であって、
前記量子化値ベクトルの要素を用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算手段と、
前記映像要素計算手段にて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算手段と
を有することを特徴とする映像逆量子化装置。
【請求項２８】
前記映像ベクトル計算手段は、前記相関が存在する他の映像ベクトルの要素が、対応する前記仮逆量子化映像ベクトルの集合の要素の値域に含まれる場合、該要素に関して前記相関が存在する他の映像ベクトルの要素との差分がより小さい、仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算することを特徴とする請求項２５から請求項２７のいずれかに記載の映像逆量子化装置。
【請求項２９】
量子化値ベクトルを符号化する映像符号化装置であって、
現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化装置を有し、
前記映像逆量子化装置は、
前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて前記処理対象の初期逆量子化映像ベクトルを要素単位で計算する映像要素計算手段と、
前記映像要素計算手段にて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定するベクトル空間から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算手段と
を有することを特徴とする映像符号化装置。
【請求項３０】
量子化値ベクトルを復号する映像復号装置であって、
現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化装置を有し、
前記映像逆量子化装置は、
前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて前記処理対象の初期逆量子化映像ベクトルを要素単位で計算する映像要素計算手段と、
前記映像要素計算手段にて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定するベクトル空間から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算手段と
を有することを特徴とする映像復号装置。
【請求項３１】
複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化のプログラムあって、
量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求める処理と、
逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める処理と
を情報処理装置に実行させることを特徴とするプログラム。
【請求項３２】
複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化のプログラムであって、
前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算する処理と、
前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める処理と
を情報処理装置に実行させることを特徴とするプログラム。
【請求項３３】
複数の量子化値を符号化する符号化のプログラムであって、
複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化処理を有し、
前記逆量子化処理は、
量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求める処理と、
逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める処理と
を情報処理装置に実行させることを特徴とするプログラム。
【請求項３４】
複数の量子化値を符号化する符号化のプログラムであって、
複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化処理を有し、
前記逆量子化処理は、
前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算する処理と、
前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める処理と
を情報処理装置に実行させることを特徴とするプログラム。
【請求項３５】
複数の量子化値を復号する復号方法のプログラムであって、
複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化処理を有し、
前記逆量子化処理は、
量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求める処理と、
逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める処理と
を情報処理装置に実行させることを特徴とするプログラム。
【請求項３６】
複数の量子化値を復号する復号のプログラムであって、
複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化処理を有し、
前記逆量子化処理は、
前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算する処理と、
前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める処理と
を情報処理装置に実行させることを特徴とするプログラム。
【請求項３７】
現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化のプログラムであって、
前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算処理と、
前記映像要素計算処理にて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算処理と
を情報処理装置に実行させることを特徴とするプログラム。
【請求項３８】
現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化のプログラムであって、
前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算処理と、
前記映像要素計算処理にて計算された初期逆量子化映像ベクトルを始点にして、前記量子化値ベクトルによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算処理と
を情報処理装置に実行させることを特徴とするプログラム。
【請求項３９】
現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化のプログラムであって、
前記量子化値ベクトルの要素を用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算処理と、
前記映像要素計算処理にて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算処理と
を情報処理装置に実行させることを特徴とするプログラム。
【請求項４０】
量子化値ベクトルを符号化する映像符号化のプログラムであって、
現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化処理を有し、
前記映像逆量子化処理は、
前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて前記処理対象の初期逆量子化映像ベクトルを要素単位で計算する映像要素計算処理と、
前記映像要素計算処理にて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定するベクトル空間から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算処理と
を情報処理装置に実行させることを特徴とするプログラム。
【請求項４１】
量子化値ベクトルを復号する映像復号のプログラムであって、
現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化処理を有し、
前記映像逆量子化処理は、
前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて前記処理対象の初期逆量子化映像ベクトルを要素単位で計算する映像要素計算処理と、
前記映像要素計算処理にて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定するベクトル空間から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算処理と
を情報処理装置に実行させることを特徴とするプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、逆量子化方法、逆量子化装置及びプログラムに関する。
【背景技術】
【０００２】
図１を参照して、関連する映像逆量子化技術について説明する。ただし、量子化器E1001は、映像逆量子化をする要素計算器E1002との入出力関係を示す目的で記載していること、すなわち、映像逆量子化技術は要素計算器E1002のみによって構成できることに注意されたい。【０００３】
また、垂直画素数ｍ、水平画素数ｎの1枚のグレースケールの映像フレームを映像信号ベクトルｘとする。ただし、以降の説明から明らかなように、カラーの映像信号にも関連技術と本発明は適用できる。また、前記映像信号ベクトルｘが映像フレームの部分領域であっても、関連技術と本発明を適用できる。尚、本稿では、”複数要素の組”および”複数要素の集合”を、”ベクトル”と呼ぶ。【０００４】
量子化器E1001は、映像信号ベクトルｘの各要素
0005447871.tif 000002
を量子化して量子化値ｑｉ，ｊを計算する。E1001の量子化器が量子化幅をＱｓとする線形量子化器であるとすると、
0005447871.tif 000003
となる。ただし、関数ｆｌｏｏｒ（）は床関数であり、実数値の入力値の中で最大の整数を返す関数である。以降では、前記量子化値ｑｉ，ｊの組 (集合)を量子化値ベクトルｑとする。【０００５】
要素計算器E1002は、前記量子化値ｑｉ，ｊと、映像信号ベクトルｘとの間に相関のある他の映像信号ベクトルｙ(補助情報ｙ)の各要素ｙｉ，ｊとを用いて、逆量子化値
0005447871.tif 000004
を計算する。前記量子化値ｑｉ，ｊに対応する半開区間を
0005447871.tif 000005
前記の相関に対応する条件付確率密度関数を、ｆＸ｜Ｙ（ｘ｜ｙ）とすると、要素計算器E1002は、逆量子化された映像信号ベクトル逆量子化映像信号ベクトル
0005447871.tif 000006
の平均二乗誤差が最小となる各要素(各逆量子化値)
0005447871.tif 000007
を、以下の条件付期待値によって計算する（図２）。
0005447871.tif 000008
なお、現実においては、「条件付確率分布ｆＸ｜ｙの完全な形状は分からない」および「式(2)の計算は積分が必要となる」という理由から、式(2)の代わりの近似計算(非特許文献1、2、3)が利用される。例えば、非特許文献1では、式(2)の代わりに、以下の式(2)’を利用することを提案している。
0005447871.tif 000009
近似計算が正確である限り、単純に逆量子化して逆量子化値を計算するよりも、前記補助情報ｙを利用して逆量子化値を計算することによって、逆量子化映像信号ベクトル
0005447871.tif 000010
の平均二乗誤差を低減できる。【０００６】
上述した要素計算器E1002の映像逆量子化によって、平均二乗誤差がより小さい逆量子化映像信号ベクトル
0005447871.tif 000011
を計算することができる。【０００７】
以上で、関連技術の説明を終了する。
【先行技術文献】
【非特許文献】
【０００８】
【非特許文献１】Aaron, R. Zhang and B. Girod, “Wyner-Ziv Coding for Motion Video,”Asilomar Conference, November 2002.
【非特許文献２】Y. Vatis, S. Klomp and J. Ostermann, “Enhanced reconstruction of the quantised transform coefficients for Wyner-Ziv coding,” ICME, July 2007.
【非特許文献３】D. Kubasov, J. Nayak and C. Guillemot, “Optimal Reconstruction in Wyner-Ziv Video Coding with Multiple Side Information,” MMSP, October, 2007.
【非特許文献４】S. Osher, L.I. Rudin, and E. Fatemi, “Nonlinear total variation based noise removal algorithms,” Physic D, vol. 60, pp. 259-268, 1992.
【非特許文献５】C. Tomasi and R. Manduchi, “Bilateral Filtering for Gray and Color Images,” ICCV, 1998.
【非特許文献６】F. Alter, S. Durand and J. Froment, “Adapted Total Variation for Artifact Free Decompression of JPEG Images,” Journal of Mathematical Imaging and Vision 23, pp. 199-211, September 2005.
【非特許文献７】A. Chambolle, “An algorithm for total variation minimization and applications,” J. Math. Imaging Vis., Vol. 20, No. 1, pp. 89 - 97, 2004.
【発明の概要】
【発明が解決しようとする課題】
【０００９】
関連技術の原理的な課題として、近似計算が正確であっても、逆量子化映像信号ベクトル
0005447871.tif 000012
の平均二乗誤差が低減される代わりに局所的に二乗誤差が大きくなり、それが局所劣化として目立つという課題があった。【００１０】
そこで、本発明は上記課題に鑑みて発明されたものであって、その目的は高品質な逆量子化方法、逆量子化装置及びプログラムを提供することを目的とする。
【課題を解決するための手段】
【００１１】
上記課題を解決する本発明は、複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化方法であって、量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求め、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求めることを特徴とする。【００１２】
上記課題を解決する本発明は、複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化方法であって、前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算し、前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求めることを特徴とする。【００１３】
上記課題を解決する本発明は、複数の量子化値を符号化する符号化方法であって、複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化方法を用い、前記逆量子化方法は、量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求め、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求めることを特徴とする。【００１４】
上記課題を解決する本発明は、複数の量子化値を符号化する符号化方法であって、複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化方法を用い、前記逆量子化方法は、前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算し、前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求めることを特徴とする。【００１５】
上記課題を解決する本発明は、複数の量子化値を復号する復号方法であって、複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化方法を用い、前記逆量子化方法は、量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求め、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求めることを特徴とする。【００１６】
上記課題を解決する本発明は、複数の量子化値を復号する復号方法であって、複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化方法を用い、前記逆量子化方法は、前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算し、前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求めることを特徴とする。【００１７】
上記課題を解決する本発明は、現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化方法であって、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算ステップと、前記映像要素計算ステップにて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算ステップとを有することを特徴とする。【００１８】
上記課題を解決する本発明は、現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化方法であって、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算ステップと、前記映像要素計算ステップにて計算された初期逆量子化映像ベクトルを始点にして、前記量子化値ベクトルによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算ステップとを有することを特徴とする。【００１９】
上記課題を解決する本発明は、現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化方法であって、前記量子化値ベクトルの要素を用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算ステップと、前記映像要素計算ステップにて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算ステップとを有することを特徴とする。【００２０】
上記課題を解決する本発明は、量子化値ベクトルを符号化する映像符号化方法であって、現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化方法を用い、前記映像逆量子化方法は、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて前記処理対象の初期逆量子化映像ベクトルを要素単位で計算する映像要素計算ステップと、前記映像要素計算ステップにて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定するベクトル空間から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算ステップとを有することを特徴とする。【００２１】
上記課題を解決する本発明は、量子化値ベクトルを復号する映像復号方法であって、現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化方法を用い、前記映像逆量子化方法は、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて前記処理対象の初期逆量子化映像ベクトルを要素単位で計算する映像要素計算ステップと、前記映像要素計算ステップにて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定するベクトル空間から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算ステップとを有することを特徴とする。【００２２】
上記課題を解決する本発明は、複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化装置であって、量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求め、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める復元手段を有することを特徴とする。【００２３】
上記課題を解決する本発明は、複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化装置であって、前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算し、前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める復元手段を有することを特徴とする。【００２４】
上記課題を解決する本発明は、複数の量子化値を符号化する符号化装置であって、複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化装置を有し、前記逆量子化装置は、量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求め、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める手段を有することを特徴とする。【００２５】
上記課題を解決する本発明は、複数の量子化値を符号化する符号化装置であって、複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化装置を有し、前記逆量子化装置は、前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算し、前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める手段を有することを特徴とする。【００２６】
上記課題を解決する本発明は、複数の量子化値を復号する復号装置であって、複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化装置を有し、前記逆量子化装置は、量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求め、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める手段を有することを特徴とする。【００２７】
上記課題を解決する本発明は、複数の量子化値を復号する復号装置であって、複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化装置を有し、前記逆量子化装置は、前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算し、前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める手段を有することを特徴とする。【００２８】
上記課題を解決する本発明は、現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化装置であって、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算手段と、前記映像要素計算手段にて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算手段とを有することを特徴とする。【００２９】
上記課題を解決する本発明は、現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化装置であって、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算手段と、前記映像要素計算手段にて計算された初期逆量子化映像ベクトルを始点にして、前記量子化値ベクトルによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算手段とを有することを特徴とする。【００３０】
上記課題を解決する本発明は、現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化装置であって、前記量子化値ベクトルの要素を用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算手段と、前記映像要素計算手段にて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算手段とを有することを特徴とする。【００３１】
上記課題を解決する本発明は、量子化値ベクトルを符号化する映像符号化装置であって、現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化装置を有し、前記映像逆量子化装置は、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて前記処理対象の初期逆量子化映像ベクトルを要素単位で計算する映像要素計算手段と、前記映像要素計算手段にて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定するベクトル空間から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算手段とを有することを特徴とする。【００３２】
上記課題を解決する本発明は、量子化値ベクトルを復号する映像復号装置であって、現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化装置を有し、前記映像逆量子化装置は、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて前記処理対象の初期逆量子化映像ベクトルを要素単位で計算する映像要素計算手段と、前記映像要素計算手段にて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定するベクトル空間から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算手段とを有することを特徴とする。【００３３】
上記課題を解決する本発明は、複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化のプログラムあって、量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求める処理と、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める処理とを情報処理装置に実行させることを特徴とする。【００３４】
上記課題を解決する本発明は、複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化のプログラムであって、前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算する処理と、前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める処理とを情報処理装置に実行させることを特徴とする。【００３５】
上記課題を解決する本発明は、複数の量子化値を符号化する符号化のプログラムであって、複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化処理を有し、前記逆量子化処理は、量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求める処理と、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める処理とを情報処理装置に実行させることを特徴とする。【００３６】
上記課題を解決する本発明は、複数の量子化値を符号化する符号化のプログラムであって、複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化処理を有し、前記逆量子化処理は、前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算する処理と、前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める処理とを情報処理装置に実行させることを特徴とする。【００３７】
上記課題を解決する本発明は、複数の量子化値を復号する復号方法のプログラムであって、複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化処理を有し、前記逆量子化処理は、量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求める処理と、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める処理とを情報処理装置に実行させることを特徴とする。【００３８】
上記課題を解決する本発明は、複数の量子化値を復号する復号のプログラムであって、複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化処理を有し、前記逆量子化処理は、前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算する処理と、前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める処理とを情報処理装置に実行させることを特徴とする。【００３９】
上記課題を解決する本発明は、現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化のプログラムであって、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算処理と、前記映像要素計算処理にて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算処理とを情報処理装置に実行させることを特徴とする。【００４０】
上記課題を解決する本発明は、現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化のプログラムであって、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算処理と、前記映像要素計算処理にて計算された初期逆量子化映像ベクトルを始点にして、前記量子化値ベクトルによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算処理とを情報処理装置に実行させることを特徴とする。【００４１】
上記課題を解決する本発明は、現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化のプログラムであって、前記量子化値ベクトルの要素を用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算処理と、前記映像要素計算処理にて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算処理とを情報処理装置に実行させることを特徴とする。【００４２】
上記課題を解決する本発明は、量子化値ベクトルを符号化する映像符号化のプログラムであって、現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化処理を有し、前記映像逆量子化処理は、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて前記処理対象の初期逆量子化映像ベクトルを要素単位で計算する映像要素計算処理と、前記映像要素計算処理にて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定するベクトル空間から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算処理とを情報処理装置に実行させることを特徴とする。【００４３】
上記課題を解決する本発明は、量子化値ベクトルを復号する映像復号のプログラムであって、現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化処理を有し、前記映像逆量子化処理は、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて前記処理対象の初期逆量子化映像ベクトルを要素単位で計算する映像要素計算処理と、前記映像要素計算処理にて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定するベクトル空間から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算処理とを情報処理装置に実行させることを特徴とする。
【発明の効果】
【００４４】
本発明によれば、高品質な逆量子化方法、逆量子化装置及びプログラムを提供することができる。
【図面の簡単な説明】
【００４５】
【図１】図１は関連技術の説明図である。
【図２】図２は要素の逆量子化概念図である。
【図３】図３は初期逆量子化映像信号ベクトル計算結果の概念図である。
【図４】図４は値域の概念図である。
【図５】図５は最終逆量子化映像信号ベクトル計算結果の概念図である。
【図６】図６は第1の実施の形態の構成図である。
【図７】図７は第1の実施の形態のフローチャートである。
【図８】図８は第２の実施の形態の構成図である。
【図９】図９は第２の実施の形態のフローチャートである。
【図１０】図１０は第３の実施の形態の構成図である。
【図１１】図１１は第３の実施の形態のフローチャートである。
【図１２】図１２は第４の実施の形態の構成図である。
【図１３】図１３は第４の実施の形態のフローチャートである。
【図１４】図１４は第１の実施の形態におけるその他の構成図である。
【図１５】図１５は第２の実施の形態におけるその他の構成図である。
【図１６】図１６は第３の実施の形態におけるその他の構成図である。
【図１７】図１７は第４の実施の形態におけるその他の構成図である。
【図１８】図１８は第１の実施の形態におけるその他の構成図である。
【図１９】図１９は第２の実施の形態におけるその他の構成図である。
【図２０】図２０は第３の実施の形態におけるその他の構成図である。
【図２１】図２１は第４の実施の形態におけるその他の構成図である。
【図２２】図２２は映像逆量子化器を用いた映像符号化器の構成図である。
【図２３】図２３は映像逆量子化器を用いた映像復号器の構成図である。
【図２４】図２４は本実施の形態における情報処理装置の構成図である。
【図２５】図２５は本実施の形態における効果の具体例を説明するための図である。
【発明を実施するための形態】
【００４６】
本発明の原理を簡単に説明する。
【００４７】
一般的に「映像信号は、信号値が緩やかに変化する平坦領域、信号値が急峻に変化するエッジ領域、および信号値が激しく振動するテクスチャ領域によって構成され、人間の視覚が、平坦領域やエッジ領域での雑音に敏感であり、テクスチャ領域での雑音に鈍感である」という性質がある。
【００４８】
ゆえに、前記の性質から、前記局所劣化が目立つ箇所は、映像信号の平坦領域やエッジ領域の箇所であると考えられる。本発明は、上述した関連技術によって要素毎に計算された逆量子化映像信号ベクトル(以後、初期逆量子化映像信号ベクトルと呼ぶ)を、その映像信号ベクトルの振動がより小さくなるような逆量子化映像信号ベクトル(以後、最終逆量子化映像信号ベクトルと呼ぶ)に更新することによって、前記局所劣化が目立つことを回避する。
【００４９】
ただし、本発明においては、(人間の視覚が敏感な)エッジ領域でのぼけが少ない前記最終逆量子化映像信号ベクトルを計算する手法として、全変分ノルム(Total variation norm)を最小化する非特許文献4の全変分最小化法(Total variation minimization methods)や、非特許文献5のバイラテラルフィルタ(Bilateral Filter)などを利用する。
【００５０】
また、本発明においては、量子化値、前記補助情報、および前記条件付確率密度関数を用いて、逆量子化映像信号ベクトル(オリジナルの映像信号ベクトル)の存在するベクトルの集合を正確に限定し(以後では、前記ベクトルの集合に対応するベクトル空間を、単純に、部分ベクトル空間と呼ぶ)、前記部分ベクトル空間の中で前記最終逆量子化映像信号ベクトルを計算する。これによって、前記エッジ領域でのぼけをより効果的に抑制できる。前記部分ベクトル空間を正確に限定する点が、前記全変分最小化法を用いてJPEG圧縮によるノイズを抑制する非特許文献6と大きく異なる点である。そもそも、非特許文献6は、前記補助情報を利用して逆量子化映像信号ベクトル
0005447871.tif 000013
の平均二乗誤差を低減する、という関連技術の手法を考慮できない。
【００５１】
続いて、図面を用いて本発明の原理を解説する。
【００５２】
本発明は、まず、前記初期逆量子化映像信号ベクトルを関連技術と同様に計算する（図３）。
【００５３】
続いて、本発明は、前記量子化値ｑｉ，ｊ、前記補助情報の要素ｙｉ，ｊ、および前記条件付確率密度関数ｆＸ｜Ｙから、オリジナルの映像ベクトルｘの各要素ｘｉ，ｊの値域(range)である
0005447871.tif 000014
を計算する(図４)。前記各要素ｘｉ，ｊの値域
0005447871.tif 000015
で定義される部分ベクトル空間を
0005447871.tif 000016
とする。ただし、Ｒｍ×ｎは、実数の要素を持つｍ行ｎ列の行列であり、映像ベクトルに対応する。
【００５４】
図４の例では、前記要素ｘｉ，ｊの値域である
0005447871.tif 000017
は、ｆＸ｜Ｙが定義域(domain)でその値が0よりも大きい区間と半開空間
0005447871.tif 000018
とのオーバーラップである。明らかに、オリジナルの映像信号ベクトルの存在する前記部分ベクトル空間Ｕは、前記量子化値ｑｉ，ｊで定義される部分ベクトル空間
0005447871.tif 000019
よりも、限定された部分ベクトル空間であること(つまり、ＵはＶの部分空間(sub-space)であること)に注意されたい。
【００５５】
最後に、本発明は、前記部分ベクトル空間Ｕの中で、前記初期逆量子化映像信号ベクトルを始点として、最終逆量子化映像信号ベクトルを計算し、その結果を逆量子化映像ベクトルとして出力する。例えば、図５は、垂直に隣接する各要素間の絶対値誤差の総和
0005447871.tif 000020
が小さくなるような最終逆量子化映像信号ベクトルを計算した例である。前記最終逆量子化映像ベクトルは、ぼけることなく、(人間の視覚が敏感な)平坦領域やエッジ領域における信号値の振動が抑制された映像ベクトルとなる。ゆえに、前記局所劣化が目立つことを回避できる。
【００５６】
以上で、本発明の原理の説明を終了する。
【００５７】
上述した本発明の原理に基づく映像逆量子化技術によって、上述した関連技術の課題を解決できる。
【００５８】
また、前記補助情報が逆量子化対象の映像信号ベクトルに時間方向で隣接するフレームの映像信号ベクトルであれば、時間方向の連続性が改善されるように逆量子化映像信号ベクトルを計算するべきである。このため、本発明の別の手段においては、前記補助情報の各要素ｙｉ，ｊと前記初期逆量子化映像信号ベクトルの要素
0005447871.tif 000021
の絶対差分値がある閾値よりも小さい場合、あるいは、前記補助情報の要素ｙｉ，ｊが前記部分ベクトル空間の対応する要素の値域に含まれる場合、前記最終逆量子化映像信号ベクトルの対応する要素ｘｉ，ｊが前記補助情報の要素ｙｉ，ｊと近い値をとるように、前記最終逆量子化映像信号ベクトルの計算に制約をつける。本発明によって、時間方向の連続性が改善し、映像のちらつきを抑制できる。
【００５９】
また、上述した本発明の手段らは、量子化値を符号化する映像符号化方法において、その映像信号のローカル復号の復号手段として利用することもできる。本発明によって、より高品質な映像符号化方法を提供できる。
【００６０】
また、上述した本発明の手段らは、量子化値を復号する映像復号方法において、その映像信号の復号手段として利用することもできる。本発明によって、より高品質な映像復号方法を提供できる。
【００６１】
以下、具体的な実施の形態を説明する。
【００６２】
＜発明の第1実施形態＞
図6を参照して、本実施形態における発明の映像逆量子化技術の構成について説明する。ただし、図6の量子化器E2001は、映像を逆量子化する映像逆量子化器E2000との入出力関係を示す目的で記載していること、すなわち、発明の映像逆量子化技術は映像逆量子化器E2000のみによって構成できることに注意されたい。
【００６３】
量子化器E2001(図１の関連技術のものと同じである)は、映像信号ベクトルｘの各要素
0005447871.tif 000022
を量子化して量子化値ｑｉ，ｊを計算する。E2001の量子化器が量子化幅をＱｓとする線形量子化器であるとすると、
0005447871.tif 000023
となる。以降では、前記量子化値ｑｉ，ｊの集合を量子化値ベクトルｑとする。
【００６４】
映像逆量子化器E2000は、要素計算器E2002とベクトル計算器E2003とで構成される。要素計算器E2002とベクトル計算器E2003は、前記量子化値ベクトルｑと、前記映像信号ベクトルｘとの間に相関のある他の映像信号ベクトルｙ(以後、補助情報ｙ)とを入力として、逆量子化映像信号ベクトル
0005447871.tif 000024
を計算する。それぞれを以下で説明する。
【００６５】
要素計算器E2002は、前記量子化値ベクトルｑと入力される前記補助情報ｙとを用いて、初期逆量子化映像信号ベクトルｕの各要素値ｕｉ，ｊを計算する。
【００６６】
具体的には、要素計算器E2002は、前記相関に対応する条件付確率密度関数をｆＸ｜ｙ（ｘ｜ｙ）、量子化値ｑｉ，ｊに対応する半開区間を
0005447871.tif 000025
とすると、要素計算器E2002は、各要素値ｕｉ，ｊを以下の条件付期待値によって計算する。
0005447871.tif 000026
ただし、要素計算器E2002は、式(4)の代わりに、以下の式(4)’を利用して各逆量子化値ｕｉ，ｊを計算してもよい。
0005447871.tif 000027
ところで、前記補助情報ｙが逆量子化対象の映像信号ベクトルｘに時間方向で隣接するフレームの映像信号ベクトルである時、時間方向の連続性が改善されるように逆量子化映像信号ベクトルを計算するべきである。その計算のために、要素計算器E2002は、前記補助情報の各要素ｙｉ，ｊと式(4)にて得られた要素ｕｉ，ｊの絶対差分値が所定の閾値より小さい場合、あるいは、前記補助情報の要素ｙｉ，ｊが対応する量子化値ｑｉ，ｊに対応する半開区間
0005447871.tif 000028
に含まれる場合では、式(4) または式(4)’によって計算されたｕｉ，ｊを以下の式(5)または式(5)’で更新してもよい。
0005447871.tif 000029
0005447871.tif 000030
なお、式(5)あるいは式(5)’によってｕｉ，ｊを更新する時には、前記補助情報ｙは、前記時間方向で隣接するフレームの映像信号ベクトルの各要素が動き補償予測によって映像信号ベクトルｘの各要素と位置合わせされた映像信号ベクトルであればなお良い。(つまり、前記補助情報ｙは、時間方向で隣接するフレームの映像信号ベクトルの各要素が動き補償予測によって映像信号ベクトルｘの各要素と位置合わせされた映像信号ベクトルであってもよい。)
ベクトル計算器E2003は、入力される補助情報ｙと量子化値ベクトルｑとに基づいて、入力される初期逆量子化映像信号ベクトルｕをより振動の少ない逆量子化映像信号ベクトル更新して、その更新の結果を最終逆量子化映像信号ベクトル
0005447871.tif 000031
として出力する。
【００６７】
先ず、ベクトル計算器E2003は、前記量子化値ｑｉ，ｊ、前記補助情報の要素ｙｉ，ｊ、および前記条件付確率密度関数ｆＸ｜Ｙから、各要素ｘｉ，ｊの値域(domain)である
0005447871.tif 000032
を以下の式(6)と式(7)によって計算する。
0005447871.tif 000033
0005447871.tif 000034
ただし、ｍｉｎ＿ｘは、前記条件付確率密度関数ｆＸ｜ｙが定義域において0と交わるｘの最小値、ｍａｘ＿ｘは、条件付前記確率密度関数ｆＸ｜Ｙが定義域において0と交わるｘの最大値である。尚、ｍｉｎ＿ｘと、ｍａｘ＿ｘとは、前記条件付確率密度関数ｆＸ｜Ｙの標準偏差から計算してもよい。
【００６８】
以後、式(6)と式(7)によって得られた各要素ｘｉ，ｊの値域で定義される部分ベクトル空間をＵ (ただし、
0005447871.tif 000035
とする。
【００６９】
続いて、ベクトル計算器E2003は、所定の回数ｋだけ、初期逆量子化映像信号ベクトルｕ (以後、ｕ０と記述する)を始点として、以下で記述する第1の射影と第2の射影を交互に繰り返し、前記部分ベクトル空間Ｕから、より振動の少ない逆量子化映像信号ベクトルを計算する。なお、以下で記述するｕｋの上付き文字(superscript)のｋは、ある時点での前記逐次繰り返しの回数に対応し、ｕｋは前記逐次繰り返しがｋ回適用された時点での逆量子化映像信号ベクトルを示す。また、ｕ０は初期逆量子化映像信号ベクトルである。
【００７０】
前記第1の射影は、入力される逆量子化映像信号ベクトルｕｋを、より振動の少ない逆量子化映像信号ベクトルｕｋ＋１に更新する処理である。具体的には、以下の式(8)で定義される全変分ノルムである目的関数Ｊ（ｓ）と、以下の式(11)で定義される制約関数Ｇ（ｓ，ｕｋ，λ）との和である式(12)の汎関数Ｆ（ｓ，ｕｋ，λ）を最小にする映像信号ベクトルｓを計算し、その解であるｓをｕｋ＋１とする。
0005447871.tif 000036
0005447871.tif 000037
0005447871.tif 000038
0005447871.tif 000039
0005447871.tif 000040
定式的には、第1の射影の結果(ｕｋ＋１)は、以下の式(13)を解くことで得られる。(つまり制約関数Ｇ（ｓ，ｕｋ，λ）の下で、目的関数Ｊ（ｓ）を最小化することになり、全変分ノルムが小さいｓが得られる。すなわち、振動の少ないｓが得られる)
0005447871.tif 000041
なお、式(13)を解く方法としては、非特許文献6などの劣勾配法(Sub-gradient methods)や非特許文献7などの射影法(Projection methods)を利用すればよい。また、上述したλは、量子化幅Ｑｓに依存する正の実数とすればよい。
【００７１】
前記第2の射影は、入力される逆量子化映像信号ベクトルｕｋ＋１を、前記部分ベクトル空間Ｕの中に制限する処理である。具体的には、以下の式(14)を逆量子化映像信号ベクトルｕｋ＋１のすべての要素ｕｉ，ｊに対して適用する。
0005447871.tif 000042
最後に、ベクトル計算器E2003は、Ｋ回だけ、上述した第1の射影と第2の射影を交互に繰り返すことによって得られたｕｋを前記最終逆量子化映像信号ベクトル
0005447871.tif 000043
として出力する。
【００７２】
以上で、本実施形態における発明の映像逆量子化技術の構成と動作の説明を終了する。
【００７３】
続いて、図７のフローチャートを参照して、発明の処理の流れを説明する。ただし、発明に関する映像逆量子化器E2000の内部のフローだけを説明する。
【００７４】
処理の開始に際して、カウンタをリセットする(ｋ＝０)。
【００７５】
ステップS2001では、上述した要素計算器E2002によって、初期逆量子化映像信号ベクトルｕを計算する。続いて、ステップS2002に進む。
【００７６】
ステップS2002では、上述したベクトル計算器E2003によって、部分ベクトル空間Ｕを計算する。続いて、ステップS2003に進む。
【００７７】
ステップS2003では、上述したベクトル計算器E2003によって、現在の逆量子化映像信号ベクトルｕｋを上述した第1の射影によって、より振動の少ない逆量子化映像信号ベクトルｕｋ＋１に更新する。続いて、ステップS2004に進む。
【００７８】
ステップS2004では、上述したベクトル計算器E2003によって、現在の逆量子化映像信号ベクトルｕｋ＋１を上述した第2の射影によって、部分ベクトル空間Ｕの中に制限する。続いて、ステップS2005に進む。
【００７９】
ステップS2005では、カウンタｋが所定の値Ｋと等しいかを判断する。等しい場合、処理を終了する。そうでなければカウンタｋを1だけインクリメントして、ステップS2003にもどる。なお、ステップS2003にもどる際には、上述した第1の射影の変数λをより小さな正の値に変更することが望ましい。
【００８０】
処理の終了後、ｕｋを最終逆量子化映像信号ベクトル
0005447871.tif 000044
として出力する。
【００８１】
以上で、本実施形態における発明のフローチャートの説明を終了する。
【００８２】
以上で、本実施形態の説明を終了する。
＜第２の実施の形態＞
本実施形態では、映像逆量子化器の入力である量子化値が、映像信号ベクトルを周波数変換した変換係数の量子化値である場合の本発明の映像逆量子化器について説明する。
【００８３】
図８を参照して、本実施形態における発明の映像逆量子化技術の構成について説明する。ただし、図８の変換器E3001と量子化器E3002は、映像を逆量子化する映像逆量子化器E3000との入出力関係を示す目的で記載していること、すなわち、発明の映像逆量子化技術は映像逆量子化器E3000のみによって構成できることに注意されたい。
【００８４】
変換器E3001は、映像信号ベクトルｘを周波数変換し、変換係数値
0005447871.tif 000045
を計算する。前記周波数変換としては、8x8ブロック単位のDCT(Discrete Cosine Transform)などが利用できる。以降では、前記変換係数値Ｘｉ，ｊの集合を変換係数値ベクトルＸとする。
【００８５】
量子化器E3002(図１の関連技術のものと同じ動作である)は、変換器E3001で得られた各変換係数値Ｘｉ，ｊを量子化して、量子化値ｑｉ，ｊを計算する。E3002の量子化器が量子化幅をＱｓとする線形量子化器であるとすると、
0005447871.tif 000046
となる。ただし、関数ｓｉｇｎ（）は、実数値の入力値の符号(±)を返す関数であり、また、関数ｆｌｏｏｒ（）は、実数値の入力値の中で最大の整数を返す関数である。以降では、前記量子化値ｑｉ，ｊの集合を量子化値ベクトルｑとする。
【００８６】
映像逆量子化器E3000は、変換器E3003、要素計算器E3004、逆変換器E3005、ベクトル計算器E3006で構成される。映像逆量子化器E3000の入力は、前記量子化値ベクトルｑと、周波数領域において映像信号ベクトルｘとの間に相関のある他の映像信号ベクトルｙである。
【００８７】
変換器E3003は、変換器E3001と同様に、入力される前記他の映像信号ベクトルｙを周波数変換して、その変換係数値ベクトルＹ(以後、補助情報Ｙ)を計算する。
【００８８】
続いて、要素計算器E3004は、前記補助情報Ｙと前記量子化値ベクトルｑとを入力として、逆量子化変換係数値ベクトル
0005447871.tif 000047
を計算する。具体的には、前記量子化値ｑｉ，ｊに対応する半開区間を
0005447871.tif 000048
要前記の相関に対応する条件付確率密度関数をｆＸ｜Ｙ（Ｘ｜Ｙ）とすると、要素計算器E3004は、各要素
0005447871.tif 000049
を以下の式(16)よって計算する。
0005447871.tif 000050
ただし、要素計算器E3004は、式(16)の代わりに、以下の式(16)’を利用して各要素
0005447871.tif 000051
を計算してもよい。
0005447871.tif 000052
ところで、前記他の映像信号ベクトルｙが逆量子化対象の映像信号ベクトルｘに時間方向で隣接するフレームの映像信号ベクトルである時、時間方向の連続性が改善されるように逆量子化映像信号ベクトルを計算するべきである。その計算のために、要素計算器E3004は、前記補助情報の各要素Ｙｉ，ｊと式(4)にて得られた要素
0005447871.tif 000053
の絶対差分値が所定の閾値より小さい場合、あるいは、前記補助情報の要素Ｙｉ，ｊが対応する量子化値ｑｉ，ｊに対応する半開区間
0005447871.tif 000054
に含まれる場合では、式(16) または式(16)’によって計算された
0005447871.tif 000055
を以下の式(17)または式(17)’で更新してもよい。
0005447871.tif 000056
0005447871.tif 000057
なお、式(17)あるいは式(17)’によって
0005447871.tif 000058
を更新する時、前記映像信号ベクトルｙは、前記時間方向で隣接するフレームの映像信号ベクトルの各要素が動き補償予測によって映像信号ベクトルｘの各要素と位置合わせされた映像信号ベクトルであればなお良い。(つまり、前記他の映像信号ベクトルｙは、時間方向で隣接するフレームの映像信号ベクトルの各要素が動き補償予測によって映像信号ベクトルｘの各要素と位置合わせされた映像信号ベクトルであってもよい。)
続いて、逆変換器E3005は、前記要素計算器E3004で得られた逆量子化変換係数値ベクトル
0005447871.tif 000059
を逆周波数変換して、初期逆量子化映像信号ベクトルｕを計算する。
【００８９】
さらに、ベクトル計算器E3006は、前記量子化値ベクトルｑと前記補助情報Ｙに基づいて、前記逆変換器E3005で得られた初期逆量子化映像信号ベクトルｕをより振動の少ない逆量子化映像信号ベクトル更新して、最終逆量子化映像信号ベクトル
0005447871.tif 000060
として出力する。
【００９０】
先ず、ベクトル計算器E3006は、前記量子化値ｑｉ，ｊ、前記補助情報の要素Ｙｉ，ｊ、および前記条件付確率密度関数ｆＸ｜Ｙから、周波数領域における映像信号ベクトルの各要素Ｘｉ，ｊの値域である
0005447871.tif 000061
を以下の式(18)と式(19)によって計算する。
0005447871.tif 000062
0005447871.tif 000063
ただし、ｍｉｎ＿ｘは、前記条件付確率密度関数ｆＸ｜Ｙが定義域において0と交わるＸの最小値、ｍａｘ＿ｘは、前記条件付確率密度関数ｆＸ｜Ｙが定義域において0と交わるＸの最大値である。なお、ｍｉｎ＿ｘとｍａｘ＿ｘとは、前記条件付確率密度関数ｆＸ｜Ｙの標準偏差から計算してもよい。
【００９１】
以後、式(18)と式(19)によって得られた変換係数値Ｘｉ，ｊの値域
0005447871.tif 000064
で定義される部分ベクトル空間
0005447871.tif 000065
とする。前記の定義から明らかなように、部分ベクトル空間Ｕは、オリジナルの映像信号ベクトルｘの周波数領域における値域である。
【００９２】
続いて、ベクトル計算器E3006は、所定の回数Ｋだけ、初期逆量子化映像信号ベクトルｕ (以後、ｕ０と記述する)を始点として、以下で記述する第1から第4の射影を順次繰り返し、前記部分ベクトル空間Ｕから、より振動の少ない逆量子化映像信号ベクトルを計算する。なお、以下で記述するｕｋの上付き文字(superscript)のｋは、ある時点での前記逐次繰り返しの回数に対応し、ｕｋは前記逐次繰り返しがｋ回適用された時点での逆量子化映像信号ベクトルを示す。また、ｕ０は初期逆量子化映像信号ベクトルである。
【００９３】
前記第1の射影は、入力される逆量子化映像信号ベクトルｕｋを、より振動の少ない逆量子化映像信号ベクトルｕｋ＋１に更新する処理である。具体的には、以下の式(20)で定義される全変分ノルムである目的関数Ｊ（ｓ）と、以下の式(23)で定義される制約関数Ｇ（ｓ，ｕｋ，λ）との和である式(24)の汎関数Ｆ（ｓ，ｕｋ，λ）を最小にする映像信号ベクトルｓを計算し、その解であるｓをｕｋ＋１とする。
0005447871.tif 000066
0005447871.tif 000067
0005447871.tif 000068
0005447871.tif 000069
0005447871.tif 000070
定式的には、第1の射影の結果(ｕｋ＋１)は、以下の式(25)を計算することで得られる。つまり制約関数Ｇ（ｓ，ｕｋ，λ）の下で、目的関数Ｊ（ｓ）を最小化することになり、全変分ノルムが小さいｓが得られる。すなわち、振動の少ないｓが得られる。
0005447871.tif 000071
なお、式(25)を計算する方法としては、非特許文献6などの劣勾配法(Sub-gradient methods)や非特許文献7などの射影法(Projection methods)を利用すればよい。また、上述したλは、量子化幅Ｑｓに依存する正の実数とすればよい。
【００９４】
前記第2の射影は、逆量子化映像信号ベクトルｕｋ＋１を周波数領域に射影する。具体的には、変換器E3003と同じように、ｕｋ＋１を周波数領域に周波数変換して逆量子化変換係数値ベクトルＵｋ＋１を計算する。
【００９５】
前記第3の射影は、入力される逆量子化変換係数値ベクトルＵｋ＋１を、前記部分ベクトル空間Ｕの中に制限する処理である。具体的には、すべての要素Ｕｉｊに対して以下の式を適用する。
0005447871.tif 000072
前記第4の射影は、逆量子化変換係数値ベクトルＵｋ＋１を空間領域に射影する。具体的には、逆変換器E3005と同じように、Ｕｋ＋１を逆周波数変換して逆量子化映像信号ベクトルｕｋ＋１を計算する。
【００９６】
最後に、ベクトル計算器E3006は、Ｋ回だけ、上述した第1から第4の射影を順次繰り返すことによって得られたｕｋを前記最終逆量子化映像信号ベクトル
0005447871.tif 000073
として出力する。
【００９７】
以上で、本実施形態における発明の映像逆量子化技術の構成と動作の説明を終了する。
【００９８】
続いて、図９のフローチャートを参照して、発明の処理の流れを説明する。ただし、発明に関する映像逆量子化器E3000の内部のフローだけを説明する。
【００９９】
まず、処理の開始に際して、カウンタをリセットする(ｋ＝０)。
【０１００】
ステップS3001では、上述した要素計算器E3004と逆変換器E3005によって、初期逆量子化映像信号ベクトルｕを計算する。続いて、ステップS3002に進む。
【０１０１】
ステップS3002では、上述したベクトル計算器E3006によって、部分ベクトル空間Ｕを計算する。続いて、ステップS3003に進む。
【０１０２】
ステップS3003では、上述したベクトル計算器E3006によって、現在の逆量子化映像信号ベクトルｕｋを上述した第1の射影によって、より振動の少ない逆量子化映像信号ベクトルｕｋ＋１に更新する。続いて、ステップS3004に進む。
【０１０３】
ステップS3004では、上述したベクトル計算器E3006によって、ステップS3003で得られた逆量子化映像信号ベクトルｕｋ＋１を上述した第2の射影によって、周波数領域に変換する。続いて、ステップS3005に進む。
【０１０４】
ステップS3005では、上述したベクトル計算器E3006によって、ステップS3004で得られた逆量子化変換係数値ベクトルＵｋ＋１を上述した第3の射影によって、前記部分ベクトル空間Ｕの中に制限する。続いて、ステップS3006に進む。
【０１０５】
ステップS3006では、上述したベクトル計算器E3006によって、ステップS3005で得られた逆量子化変換係数値ベクトルＵｋ＋１を上述した第4の射影によって、空間領域に射影する。続いて、ステップS3007に進む。
【０１０６】
ステップS3007では、カウンタｋが所定の値Ｋと等しいかを判断する。等しい場合、処理を終了する。そうでなければカウンタｋを1だけインクリメントして、ステップS3003にもどる。なお、ステップS3003にもどる際には、上述した第1の射影の変数λをより小さな正の値に変更することが望ましい。
【０１０７】
処理の終了後、ｕｋを最終逆量子化映像信号ベクトル
0005447871.tif 000074
として出力する。
【０１０８】
以上で、本実施形態における発明のフローチャートの説明を終了する。
【０１０９】
以上で、本実施形態の説明を終了する。
＜第３の実施の形態＞
本実施形態では、映像逆量子化器の入力である量子化値が、映像信号ベクトルが予測された予測誤差値の量子化値である場合の本発明の映像逆量子化器について説明する。
【０１１０】
図10を参照して、本実施形態における発明の映像逆量子化技術の構成について説明する。ただし、図10の減算器E4001と量子化器E4002は、映像を逆量子化する映像逆量子化器E4000との入出力関係を示す目的で記載していること、すなわち、発明の映像逆量子化技術は映像逆量子化器E4000のみによって構成できることに注意されたい。
【０１１１】
減算器E4001は、映像信号ベクトルｘの各要素ｘｉ，ｊから、予測信号ベクトルｐの各要素ｐｉ，ｊを減じて、予測誤差値
0005447871.tif 000075
0005447871.tif 000076
以降では、前記予測誤差値ｄｉ，ｊの集合を予測誤差値ベクトルｄとする。
【０１１２】
なお、映像逆量子化器E3000を映像フレームよりも細かい単位(例えば、1要素単位)で動作させるとすれば、前記予測信号ベクトルｐとして、現在の処理対象の要素に隣接する処理済みの要素
0005447871.tif 000077
から生成した予測信号などを利用できる。
【０１１３】
量子化器E4002(図１の関連技術のものと同じ動作である)は、映像信号ベクトルｄの各要素ｄｉ，ｊを量子化して、量子化値ｑｉ，ｊを計算する。E4002の量子化器が量子化幅をＱｓとする線形量子化器であるとすると、
0005447871.tif 000078
となる。ただし、関数ｓｉｇｎ（）は、実数値の入力値の符号(±)を返す関数であり、また、関数ｆｌｏｏｒ（）は、実数値の入力値の中で最大の整数を返す関数である。以降では、前記量子化値ｑｉ，ｊの集合を量子化値ベクトルｑとする。
【０１１４】
映像逆量子化器E4000の入力は、前記量子化値ベクトルｑ、映像信号ベクトルｘとの間に相関のある他の映像信号ベクトルｙ (以後、補助情報ｙ)、および前記予測信号ベクトルｐである。映像逆量子化器E4000は、要素計算器E4003とベクトル計算器E4004とで構成される、それぞれを以下で説明する。
【０１１５】
要素計算器E4003は、前記量子化値ベクトルｑ、前記補助情報ｙ、および前記予測信号ベクトルｐとを用いて、初期逆量子化映像信号ベクトルｕの各要素値ｕｉ，ｊを計算する。
【０１１６】
具体的には、要素計算器E4003は、前記量子化値ｑｉ，ｊに対応する半開区間を
0005447871.tif 000079
前記の相関に対応する条件付確率密度関数をｆＸ｜ｙ（ｘ｜ｙ）とすると、要素計算器E4003は、各要素値ｕｉ，ｊを以下の式(29)よって計算する。
0005447871.tif 000080
ただし、要素計算器E4003は、式(29)の代わりに、以下の式(29)’を利用して各逆量子化値ｕｉ，ｊを計算してもよい。
0005447871.tif 000081
ところで、前記補助情報ｙが逆量子化対象の映像信号ベクトルｘに時間方向で隣接するフレームの映像信号ベクトルである時、時間方向の連続性が改善されるように逆量子化映像信号ベクトルを計算するべきである。その計算のために、要素計算器E4003は、前記補助情報の各要素ｙｉ，ｊと式(29)にて得られた要素ｕｉ，ｊの絶対差分値が所定の閾値より小さい場合、あるいは、前記補助情報の要素ｙｉ，ｊから予測誤差値ベクトルの要素ｐｉ，ｊを減じた値が対応する量子化値ｑｉ，ｊに対応する半開区間
0005447871.tif 000082
に含まれる場合では、式(29) または式(29)’によって計算されたｕｉ，ｊを以下の式(30)または式(30)’で更新してもよい。
0005447871.tif 000083
0005447871.tif 000084
なお、式(30)あるいは式(30)’によってｕｉ，ｊを更新する時には、前記補助情報ｙは、前記時間方向で隣接するフレームの映像信号ベクトルの各要素が動き補償予測によって映像信号ベクトルｘの各要素と位置合わせされた映像信号ベクトルであればなお良い。つまり、前記補助情報ｙは、時間方向で隣接するフレームの映像信号ベクトルの各要素が動き補償予測によって映像信号ベクトルｘの各要素と位置合わせされた映像信号ベクトルであってもよい。
【０１１７】
ベクトル計算器E4004は、前記量子化値ベクトルｑ、前記補助情報ｙ、および前記予測信号ベクトルｐに基づいて、入力される初期逆量子化映像信号ベクトルｕをより振動の少ない逆量子化映像信号ベクトル更新して、最終逆量子化映像信号ベクトル
0005447871.tif 000085
として出力する。
【０１１８】
先ず、ベクトル計算器E4004は、前記量子化値ｑｉ，ｊ、前記補助情報の要素ｙｉ，ｊ、前記信号ベクトルの要素ｐｉ，ｊ、前記条件付確率密度関数ｆＸ｜Ｙから、各予測誤差ｄｉ，ｊの値域
0005447871.tif 000086
を以下の式(31)と式(32)によって計算する。
0005447871.tif 000087
0005447871.tif 000088
ただし、ｍｉｎ＿ｘは、前記条件付確率密度関数ｆＸ｜Ｙが定義域において0と交わるｘの最小値、ｍａｘ＿ｘは、前記条件付確率密度関数ｆＸ｜Ｙが定義域において0と交わるｘの最大値である。なお、ｍｉｎ＿ｘとｍａｘ＿ｘとは、前記条件付確率密度関数ｆＸ｜Ｙの標準偏差から計算してもよい。
【０１１９】
以後、式(31)と式(32)によって得られた予測誤差ｄｉ，ｊの値域
0005447871.tif 000089
と対応する予測値ｐｉ，ｊとで定義される部分ベクトル空間を
0005447871.tif 000090
とする。前記の定義から明らかなように、部分ベクトル空間Ｕは、オリジナルの映像信号ベクトルｘの値域である。
【０１２０】
続いて、ベクトル計算器E4004は、所定の回数Ｋだけ、初期逆量子化映像信号ベクトルｕ (以後、ｕ０と記述する)を始点として、以下で記述する第1の射影と第2の射影を交互に繰り返し、前記部分ベクトル空間Ｕから、より振動の少ない逆量子化映像信号ベクトルを計算する。なお、以下で記述するｕｋの上付き文字(superscript)のｋは、ある時点での前記逐次繰り返しの回数に対応し、ｕｋは前記逐次繰り返しがｋ回適用された時点での逆量子化映像信号ベクトルを示す。また、ｕ０は初期逆量子化映像信号ベクトルである。
【０１２１】
前記第1の射影は、入力される逆量子化映像信号ベクトルｕｋを、より振動の少ない逆量子化映像信号ベクトルｕｋ＋１に更新する処理である。具体的には、以下の式(33)の全変分ノルムＪ（ｓ）と、以下の式(36)の制約項Ｇ（ｓ，ｕｋ，λ）との和である式(37)の汎関数Ｆ（ｓ，ｕｋ，λ）を最小にする映像信号ベクトルｓを計算し、その解であるｓをｕｋ＋１とする。
0005447871.tif 000091
0005447871.tif 000092
0005447871.tif 000093
0005447871.tif 000094
0005447871.tif 000095
定式的には、第1の射影の結果(ｕｋ＋１)は、以下の式(38)を計算することで得られる。(つまり制約関数Ｇ（ｓ，ｕｋ，λ）の下で、目的関数Ｊ（ｓ）を最小化することになり、全変分ノルムが小さいｓが得られる。すなわち、振動の少ないｓが得られる。)
0005447871.tif 000096
なお、式(38)を計算する方法としては、非特許文献6などの劣勾配法(Sub-gradient methods)や非特許文献7などの射影法(Projection methods)を利用すればよい。また、上述したλは、量子化幅Ｑｓに依存する正の実数とすればよい。
【０１２２】
前記第2の射影は、入力される逆量子化映像信号ベクトルｕｋ＋１を、前記部分ベクトル空間Ｕの中に制限する処理である。
【０１２３】
具体的には、以下の式(14)を逆量子化映像信号ベクトルｕｋ＋１のすべての要素ｕｉ，ｊに対して適用する。
0005447871.tif 000097
最後に、ベクトル計算器E4004は、Ｋ回だけ、上述した第1の射影と第2の射影を交互に繰り返すことによって得られたｕｋを前記最終逆量子化映像信号ベクトル
0005447871.tif 000098
として出力する。
【０１２４】
以上で、本実施形態における発明の映像逆量子化技術の構成と動作の説明を終了する。
【０１２５】
続いて、図１１のフローチャートを参照して、発明の処理の流れを説明する。ただし、発明に関する映像逆量子化器E4000の内部のフローだけを説明する。
【０１２６】
まず、処理の開始に際して、カウンタをリセットする(ｋ＝０)。
【０１２７】
ステップS4001では、上述した要素計算器E4003によって、初期逆量子化映像信号ベクトルｕを計算する。続いて、ステップS4002に進む。
【０１２８】
ステップS4002では、上述したベクトル計算器E4004によって、部分ベクトル空間Ｕを計算する。続いて、ステップS4003に進む。
【０１２９】
ステップS4003では、上述したベクトル計算器E4004によって、現在の逆量子化映像信号ベクトルｕｋを上述した第1の射影によって、より振動の少ない逆量子化映像信号ベクトルｕｋ＋１に更新する。続いて、ステップS4004に進む。
【０１３０】
ステップS4004では、上述したベクトル計算器E4004によって、ステップS4003で得られたｕｋ＋１を上述した第2の射影によって、部分ベクトル空間Ｕの中に制限する。続いて、ステップS4005に進む。
【０１３１】
ステップS4005では、カウンタｋが所定の値Ｋと等しいかを判断する。等しい場合、処理を終了する。そうでなければカウンタｋを1だけインクリメントして、ステップS4003にもどる。なお、ステップS4003にもどる際には、上述した第1の射影の変数λをより小さな正の値に変更することが望ましい。
【０１３２】
処理の終了後、ｕＫを最終逆量子化映像信号ベクトル
0005447871.tif 000099
として出力する。
【０１３３】
以上で、本実施形態における発明のフローチャートの説明を終了する。
【０１３４】
以上で、本実施形態の説明を終了する。
＜第４の実施の形態＞
本実施形態では、映像逆量子化器の入力である量子化値が、映像信号ベクトルが予測された予測誤差を周波数変換した変換係数の量子化値である場合の本発明の映像逆量子化器について説明する。
【０１３５】
図12を参照して、本実施形態における発明の映像逆量子化技術の構成について説明する。ただし、図12の変換器E5002と量子化器E5002は、映像を逆量子化する映像逆量子化器E5000との入出力関係を示す目的で記載していること、すなわち、発明の映像逆量子化技術は映像逆量子化器E5000のみによって構成できることに注意されたい。
【０１３６】
減算器E5001は、映像信号ベクトルｘの各要素ｘｉ，ｊから、予測信号ベクトルｐの各要素ｐｉ，ｊを減じて、予測誤差値
0005447871.tif 000100
0005447871.tif 000101
以降では、前記予測誤差値ｄｉ，ｊの集合を予測誤差値ベクトルｄとする。
【０１３７】
なお、映像逆量子化器E5000を後述する周波数変換の単位(例えば、8x8ブロック単位)で動作させる場合、前記予測信号ベクトルｐとして、現在の処理対象の８ｘ８ブロックに隣接する処理済みの要素
0005447871.tif 000102
から生成した予測信号などを利用できる。
【０１３８】
変換器E5002は、前記予測誤差値ベクトルｄを周波数変換し、変換係数値
0005447871.tif 000103
を計算する。前記周波数変換としては、８ｘ８ブロック単位のDCT(Discrete Cosine Transform)などが利用できる。以降では、前記Ｄｉ，ｊの集合を変換係数値ベクトルＤとする。
【０１３９】
量子化器E5003(図１の関連技術のものと同じ動作である)は、変換器E5002で得られた各変換係数値Ｄｉ，ｊを量子化して、量子化値ｑｉ，ｊを計算する。E5002の量子化器が量子化幅をＱｓとする線形量子化器であるとすると、
0005447871.tif 000104
となる。ただし、関数ｓｉｇｎ（）は、実数値の入力値の符号(±)を返す関数であり、また、関数ｆｌｏｏｒ（）は、実数値の入力値の中で最大の整数を返す関数である。以降では、前記量子化値ｑｉ，ｊの集合を量子化値ベクトルｑとする。
【０１４０】
映像逆量子化器E5000は、変換器E5004、要素計算器E5005、逆変換器E5006、加算器E5007、ベクトル計算器E5008で構成される。
【０１４１】
映像逆量子化器E5000の入力は、前記量子化値ベクトルｑ、周波数領域において映像信号ベクトルｘとの間に相関のある他の映像信号ベクトルｙ、および前記予測信号ベクトルｐである。
【０１４２】
変換器E5004は、変換器E5002と同様に、前記他の映像信号ベクトルｙと前記予測信号ベクトルそれぞれを周波数変換して、変換係数値ベクトルＹ(以後、補助情報Ｙ)と予測変換係数値ベクトルＰを計算する。
【０１４３】
要素計算器E5005は、前記量子化値ベクトルｑ、前記補助情報Ｙ、および前記予測変換係数値ベクトルＰを入力として、逆量子化変換係数値ベクトル
0005447871.tif 000105
を計算する。
【０１４４】
具体的には、前記量子化値ｑｉ，ｊに対応する半開区間を
0005447871.tif 000106
前記の相関に対応する条件付確率密度関数をｆＸ｜Ｙ（Ｘ｜Ｙ）とすると、要素計算器E5005は、前記逆量子化変換係数値ベクトルの要素である各逆量子化変換係数
0005447871.tif 000107
を以下の式(42)よって計算する。
0005447871.tif 000108
ただし、要素計算器E5005は、式(42)の代わりに、以下の式(42)’を利用して各逆量子化変換係数
0005447871.tif 000109
を計算してもよい。
0005447871.tif 000110
ところで、前記他の映像信号ベクトルｙが逆量子化対象の映像信号ベクトルｘに時間方向で隣接するフレームの映像信号ベクトルである時には、時間方向の連続性が改善されるように逆量子化映像信号ベクトルを計算するべきである。その計算のために、要素計算器E5005は、前記補助情報Ｙから前記予測変換係数値ベクトルＰを減じた値と式(42)にて得られた逆量子化変換係数
0005447871.tif 000111
との絶対差分値が所定の閾値より小さい場合、あるいは、前記補助情報Ｙから前記予測変換係数値ベクトルＰを減じた値が対応する前記の半開区間
0005447871.tif 000112
に含まれる場合、式(42) または式(42)’によって計算された逆量子化変換係数
0005447871.tif 000113
を以下の式(43)または式(43)’で更新してもよい。
0005447871.tif 000114
0005447871.tif 000115
なお、式(43)あるいは式(43)’によって
0005447871.tif 000116
を更新する時、前記映像信号ベクトルｙは、前記時間方向で隣接するフレームの映像信号ベクトルの各要素が動き補償予測によって映像信号ベクトルｘの各要素と位置合わせされた映像信号ベクトルであればなお良い。つまり、前記他の映像信号ベクトルｙは、時間方向で隣接するフレームの映像信号ベクトルの各要素が動き補償予測によって映像信号ベクトルｘの各要素と位置合わせされた映像信号ベクトルであってもよい。
【０１４５】
続いて、逆変換器E5006は、前記要素計算器E5005で得られた逆量子化変換係数値ベクトル
0005447871.tif 000117
を逆周波数変換して、逆量子化予測誤差値ベクトル
0005447871.tif 000118
を計算する。
【０１４６】
さらに、加算器E5007は、前記逆量子化予測誤差値ベクトル
0005447871.tif 000119
に前記予測信号ベクトルｐを加算して、初期逆量子化映像信号ベクトルｕを計算する。なお、上述した要素計算器E5005が、逆量子化変換係数
0005447871.tif 000120
に前記予測変換係数値ベクトルＰを加算したベクトルを加算器E5007に供給する実施形態の場合には、加算器E5007は不要である。
【０１４７】
ベクトル計算器E5008は、前記量子化値ベクトルｑ、前記補助情報Ｙ、および前記予測変換係数値ベクトルＰに基づいて、前記逆変換器E5006で得られた初期逆量子化映像信号ベクトルｕをより振動の少ない逆量子化映像信号ベクトル更新して、最終逆量子化映像信号ベクトル
0005447871.tif 000121
として出力する。
【０１４８】
先ず、ベクトル計算器E5008は、前記量子化値ｑｉ，ｊ、前記補助情報の要素Ｙｉ，ｊ、前記予測変換係数値ベクトルの要素Ｐｉ，ｊ、および前記条件付確率密度関数ｆＸ｜Ｙから、各変換係数値Ｄｉ，ｊの値域である
0005447871.tif 000122
を以下の式(44)と式(45)によって計算する。
0005447871.tif 000123
0005447871.tif 000124
ただし、ｍｉｎ＿ｘは、前記条件付確率密度関数ｆＸ｜Ｙが定義域において0と交わるＸの最小値、ｍａｘ＿ｘは、前記条件付確率密度関数ｆＸ｜Ｙが定義域において0と交わるＸの最大値である。なお、ｍｉｎ＿ｘとｍａｘ＿ｘとは、前記条件付確率密度関数ｆＸ｜Ｙの標準偏差から計算してもよい。
【０１４９】
以後、式(44)と式(45)によって得られた変換係数値ｘｉ，ｊの値域
0005447871.tif 000125
と前記予測変換係数値ベクトルＰの対応する要素Ｐｉ，ｊとで定義される部分ベクトル空間を
0005447871.tif 000126
とする。前記の定義から明らかなように、部分ベクトル空間Ｕは、オリジナルの映像信号ベクトルｘの周波数領域における値域である。
【０１５０】
続いて、ベクトル計算器E5008は、所定の回数Ｋだけ、初期逆量子化映像信号ベクトルｕ (以後、ｕ０と記述する)を始点として、以下で記述する第1から第4の射影を順次繰り返し、前記部分ベクトル空間Ｕから、より振動の少ない逆量子化映像信号ベクトルを計算する。なお、以下で記述するｕｋの上付き文字(superscript)のｋは、ある時点での前記逐次繰り返しの回数に対応し、ｕｋは前記逐次繰り返しがｋ回適用された時点での逆量子化映像信号ベクトルを示す。また、ｕ０は初期逆量子化映像信号ベクトルである。
【０１５１】
前記第1の射影は、入力される逆量子化映像信号ベクトルｕｋを、より振動の少ない逆量子化映像信号ベクトルｕｋ＋１に更新する処理である。具体的には、以下の式(46)で定義される全変分ノルムである目的関数Ｊ（ｓ）と、以下の式(49)で定義される制約関数Ｇ（ｓ，ｕｋ，λ）との和である式(50)の汎関数Ｆ（ｓ，ｕｋ，λ）を最小にする映像信号ベクトルｓを計算し、その解であるｓをｕｋ＋１とする。
0005447871.tif 000127
0005447871.tif 000128
0005447871.tif 000129
0005447871.tif 000130
0005447871.tif 000131
定式的には、第1の射影の結果(ｕｋ＋１)は、以下の式を計算することで得られる。(つまり制約関数Ｇ（ｓ，ｕｋ，λ）の下で、目的関数Ｊ（ｓ）を最小化することになり、全変分ノルムが小さいｓが得られる。すなわち、振動の少ないｓが得られる。)
0005447871.tif 000132
なお、式(51)を計算する方法としては、非特許文献6などの劣勾配法(Sub-gradient methods)や非特許文献7などの射影法(Projection methods)を利用すればよい。また、上述したλは、量子化幅Ｑｓに依存する正の実数とすればよい。
【０１５２】
前記第2の射影は、逆量子化映像信号ベクトルｕｋ＋１を周波数領域に射影する。具体的には、変換器E5004と同じように、ｕｋ＋１を周波数領域に周波数変換して逆量子化変換係数値ベクトルＵｋ＋１を計算する。
【０１５３】
前記第3の射影は、入力される逆量子化変換係数値ベクトルＵｋ＋１を、前記部分ベクトル空間Ｕの中に制限する処理である。具体的には、すべての要素Ｕｉｊに対して以下の式を適用する。
0005447871.tif 000133
前記第4の射影は、逆量子化変換係数値ベクトルＵｋ＋１を空間領域に射影する。具体的には、逆変換器E5006と同じように、Ｕｋ＋１を逆周波数変換して逆量子化映像信号ベクトルｕｋ＋１を計算する。
【０１５４】
最後に、ベクトル計算器E5008は、Ｋ回だけ、上述した第1から第4の射影を順次繰り返すことによって得られたｕＫを前記最終逆量子化映像信号ベクトル
0005447871.tif 000134
として出力する。
【０１５５】
以上で、本実施形態における発明の映像逆量子化技術の構成と動作の説明を終了する。
【０１５６】
続いて、図13のフローチャートを参照して、発明の処理の流れを説明する。ただし、発明に関する映像逆量子化器E5000の内部のフローだけを説明する。
【０１５７】
まず、処理の開始に際して、カウンタをリセットする(ｋ＝０)。
【０１５８】
ステップS5001では、上述した変換機E5004、要素計算器E5005、逆変換器E5006、および加算器E5007よって、初期逆量子化映像信号ベクトルｕを計算する。続いて、ステップS5002に進む。
【０１５９】
ステップS5002では、上述したベクトル計算器E5008によって、部分ベクトル空間Ｕを計算する。続いて、ステップS5003に進む。
【０１６０】
ステップS5003では、上述したベクトル計算器E5008によって、現在の逆量子化映像信号ベクトルｕｋを上述した第1の射影によって、より振動の少ない逆量子化映像信号ベクトルｕｋ＋１に更新する。続いて、ステップS5004に進む。
【０１６１】
ステップS5004では、上述したベクトル計算器E5008によって、ステップS5003で得られた逆量子化映像信号ベクトルｕｋ＋１を上述した第2の射影によって、周波数領域に変換する。続いて、ステップS5005に進む。
【０１６２】
ステップS5005では、上述したベクトル計算器E5008によって、ステップS5004で得られた逆量子化変換係数値ベクトルＵｋ＋１を上述した第3の射影によって、前記部分ベクトル空間Ｕの中に制限する。続いて、ステップS5006に進む。
【０１６３】
ステップS5006では、上述したベクトル計算器E5008によって、ステップS5005で得られた逆量子化変換係数値ベクトルＵｋ＋１を上述した第4の射影によって、空間領域に射影する。続いて、ステップS5007に進む。
【０１６４】
ステップS5007では、カウンタｋが所定の値Ｋと等しいかを判断する。等しい場合、処理を終了する。そうでなければカウンタｋを1だけインクリメントして、ステップS5003にもどる。なお、ステップS5003にもどる際には、上述した第1の射影の変数λをより小さな正の値に変更することが望ましい。
【０１６５】
処理の終了後、ｕＫを最終逆量子化映像信号ベクトル
0005447871.tif 000135
として出力する。
【０１６６】
以上で、本実施形態における発明のフローチャートの説明を終了する。
【０１６７】
以上で、本実施形態の説明を終了する。
＜第５の実施の形態＞
上述した実施形態１から４においては、それぞれのベクトル計算器において、補助情報を用いて部分ベクトル空間Ｕをより正確に計算したが、補助情報を利用しないで計算する形態も考えられる。それぞれの実施形態に対応する図面を以下の図14, 図15, 図16, 図17に示す。この形態においては、部分ベクトル空間Ｕが正確ではないため、前記最終逆量子化映像ベクトルが、それぞれの要素計算器で得られた初期逆量子化映像ベクトルからなるべく変動しないことが望ましい。そのためには、それぞれのベクトル計算器における、前記第1の射影における汎関数Ｆ（ｓ，ｕｋ，λ）のλの初期値を、上述した実施形態1から4のものよりもより小さく設定する。
【０１６８】
また、上述した実施形態1から4においては、それぞれの要素計算器において補助情報を用いることで、初期逆量子化映像を計算したが、要素計算器において補助情報を利用しないで(単純に逆量子化を用いることで) 、初期逆量子化映像を計算することが考えられる。それぞれの実施形態に対応する図面を以下の図18,  図19   図20,  図21に示す。この形態においては、初期逆量子化映像が正確ではないため、それぞれの要素計算器で得られた初期逆量子化映像ベクトルをより変動させることが望ましい。そのためには、それぞれのベクトル計算器における、前記第1の射影における汎関数Ｆ（ｓ，ｕｋ，λ）のλの初期値を、上述した実施形態1から4のものよりもより大きく設定するか、あるいは、前記逐次繰り返しの回数Ｋを増加させる。
【０１６９】
また、上述した実施形態においては、前記第1の射影において全変分最小化法を利用する形態を説明したが、全変分最小化法の代わりにバイラテラルフィルタを利用してもよい。映像信号のある要素Ｉｉ，ｊに対するバイラテラルフィルタの結果
0005447871.tif 000136
は以下の式で定義される。
0005447871.tif 000137
0005447871.tif 000138
0005447871.tif 000139
ただし、σＳとσｒとは式(52)の２次元ガウスカーネルの形状を決定するバイラテラルフィルタのパラメータであり、ｗはバイラテラルフィルタの窓サイズを決定するパラメータである。特にσｒは、推定される量子化ノイズに応じて設定すればよく、また、前記逐次繰り返しの際にその値を徐々に小さくすることが望ましい。
【０１７０】
また、上述した映像逆量子化方法は、量子化値を符号化する映像符号化器において、その映像信号のローカル復号の復号手段として利用することもできる。一例として、実施形態4の映像逆量子化器を利用した映像符号化器の構成図を図２２に示す。
【０１７１】
また、上述した映像逆量子化方法は、量子化値を復号する映像復号方法において、その映像信号の復号手段として利用することもできる。一例として、第４の実施の形態の映像逆量子化器を利用した映像復号器の構成図を図２３に示す。
【０１７２】
さらには上述した発明の実施形態においては、上述した説明からも明らかなように、ハードウェアで構成することも可能であるが、コンピュータプログラムにより実現することも可能である。
【０１７３】
図２４に示す情報処理システムは、プロセッサA1001，プログラムメモリA1002，記憶媒体A1003およびA1004からなる。記憶媒体A1003およびA1004は、別個の記憶媒体であってもよいし、同一の記憶媒体からなる記憶領域であってもよい。記憶媒体としては、ハードディスク等の磁気記憶媒体を用いることができる。
【０１７４】
発明は、関連技術によって要素毎に逆量子化された逆量子化映像信号ベクトル(初期逆量子化映像信号ベクトル)を、その映像信号ベクトルの振動がより小さくなるような逆量子化映像信号ベクトル(最終逆量子化映像信号ベクトル)に更新する。特に、発明においては、入力される量子化値、補助情報、および前記条件付確率密度関数を用いてオリジナルの映像信号ベクトルの存在する部分ベクトル空間を正確に限定し、その部分ベクトル空間の中で前記最終逆量子化映像信号ベクトルを計算する。
【０１７５】
発明によって、前記最終逆量子化映像信号ベクトルのぼけを抑制しつつ、「復号映像信号ベクトルの平均二乗誤差が低減される代わりに局所的に二乗誤差が大きくなり、それが局所劣化として目立つ」という関連技術の原理的な課題を克服した高品質な映像逆量子化方法を提供できる。参考までに、発明の効果の具体例を以下に示す。
【０１７６】
図２５は、JPEG圧縮された映像を、単純な逆量子化(通常のJPEG伸張)、非特許文献6の技術、上述した関連技術、上述した実施形態2の発明技術によって逆量子化した結果である。図２５の横軸は、通常のJPEG伸張のPSNR(Peak Signal-Noise Ratio)であり、縦軸は、通常のJPEG伸張と前記それぞれの技術で逆量子化したときのPSNRである。発明技術は、関連技術の局所劣化に加えて、近似演算による映像劣化も抑制するため、関連技術よりもPSNRが高くなってことが確認できる。また、発明技術は、オリジナルの映像信号ベクトルの存在する部分ベクトル空間を正確に限定しているため、非特許文献6よりもPSNRが高くなってことが確認できる。
【０１７７】
また、発明は、補助情報が逆量子化対象の映像信号ベクトルに時間方向で隣接するフレームの映像信号ベクトルである場合、前記最終逆量子化映像信号ベクトルの対応する要素が前記補助情報の要素と近い値をとるように、前記最終逆量子化映像信号ベクトルを計算することによって、より高品質な映像逆量子化方法を提供できる。
【０１７８】
また、発明は、量子化値を符号化する映像符号化方法において、符号化済みの映像信号に対するローカル復号手段として利用することで、より高品質な映像符号化方法を提供できる。
【０１７９】
また、発明は、量子化値を復号する映像復号方法において、量子化値の復号手段として利用することで、より高品質な映像復号方法を提供できる。
【０１８０】
以上好ましい実施の形態、及び態様をあげて本発明を説明したが、本発明は必ずしも上記実施の形態及び態様に限定されるものではなく、その技術的思想の範囲内において様々に変形し実施することが出来る。
【０１８１】
本出願は、２００８年１２月２６日に出願された日本出願特願２００８−３３２００９号を基礎とする優先権を主張し、その開示の全てをここに取り込む。
【０１８２】
以下に、付記を記載する。
【０１８３】
（付記１）  複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化方法であって、
量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求め、
逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める
ことを特徴とする逆量子化方法。
【０１８４】
（付記２）  前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算し、
前記複数の量子化値と前記量子化値以外の信号とを用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める
ことを特徴とする付記１に記載の逆量子化方法。
【０１８５】
（付記３）  前記複数の量子化値を用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算し、
前記複数の量子化値と前記量子化値以外の信号とを用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める
ことを特徴とする付記１に記載の逆量子化方法。
【０１８６】
（付記４）  複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化方法であって、
前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算し、
前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める
ことを特徴とする逆量子化方法。
【０１８７】
（付記５）  ある前記量子化値以外の信号が対応する量子化値の逆量子化値の取り得る値の範囲に含まれる場合、該前記量子化値以外の信号との差分が小さい仮逆量子化値を前記複数の逆量子化値の組に含める
ことを特徴とする付記１から付記４のいずれかに記載の逆量子化方法。
【０１８８】
（付記６）  複数の量子化値を符号化する符号化方法であって、
複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化方法を用い、
前記逆量子化方法は、
量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求め、
逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める
ことを特徴とする符号化方法。
【０１８９】
（付記７）  複数の量子化値を符号化する符号化方法であって、
複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化方法を用い、
前記逆量子化方法は、
前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算し、
前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める
ことを特徴とする符号化方法。
【０１９０】
（付記８）  複数の量子化値を復号する復号方法であって、
複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化方法を用い、
前記逆量子化方法は、
量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求め、
逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める
ことを特徴とする復号方法。
【０１９１】
（付記９）  複数の量子化値を復号する復号方法であって、
複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化方法を用い、
前記逆量子化方法は、
前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算し、
前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める
ことを特徴とする復号方法。
【０１９２】
（付記１０）  現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化方法であって、
前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算ステップと、
前記映像要素計算ステップにて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算ステップと
を有することを特徴とする映像逆量子化方法。
【０１９３】
（付記１１）  現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化方法であって、
前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算ステップと、
前記映像要素計算ステップにて計算された初期逆量子化映像ベクトルを始点にして、前記量子化値ベクトルによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算ステップと
を有することを特徴とする映像逆量子化方法。
【０１９４】
（付記１２）  現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化方法であって、
前記量子化値ベクトルの要素を用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算ステップと、
前記映像要素計算ステップにて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算ステップと
を有することを特徴とする映像逆量子化方法。
【０１９５】
（付記１３）  前記映像ベクトル計算ステップは、前記相関が存在する他の映像ベクトルの要素が、対応する前記仮逆量子化映像ベクトルの集合の要素の値域に含まれる場合、該要素に関して前記相関が存在する他の映像ベクトルの要素との差分がより小さい、仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算することを特徴とする付記１０から付記１２のいずれかに記載の映像逆量子化方法。
【０１９６】
（付記１４）  量子化値ベクトルを符号化する映像符号化方法であって、
現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化方法を用い、
前記映像逆量子化方法は、
前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて前記処理対象の初期逆量子化映像ベクトルを要素単位で計算する映像要素計算ステップと、
前記映像要素計算ステップにて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定するベクトル空間から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算ステップと
を有することを特徴とする映像符号化方法。
【０１９７】
（付記１５）  量子化値ベクトルを復号する映像復号方法であって、
現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化方法を用い、
前記映像逆量子化方法は、
前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて前記処理対象の初期逆量子化映像ベクトルを要素単位で計算する映像要素計算ステップと、
前記映像要素計算ステップにて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定するベクトル空間から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算ステップと
を有することを特徴とする映像復号方法。
【０１９８】
（付記１６）  複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化装置であって、
量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求め、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める復元手段
を有することを特徴とする逆量子化装置。
【０１９９】
（付記１７）  前記復元手段は、
前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算する手段と、
前記複数の量子化値と前記量子化値以外の信号とを用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める手段と
を有することを特徴とする付記１６に記載の逆量子化装置。
【０２００】
（付記１８）  前記復元手段は、
前記複数の量子化値を用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算する手段と、
前記複数の量子化値と前記量子化値以外の信号とを用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める手段と
を有することを特徴とする付記１６に記載の逆量子化装置。
【０２０１】
（付記１９）  複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化装置であって、
前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算し、前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める復元手段
を有することを特徴とする逆量子化装置。
【０２０２】
（付記２０）  前記復元手段は、ある前記量子化値以外の信号が対応する量子化値の逆量子化値の取り得る値の範囲に含まれる場合、該前記量子化値以外の信号との差分が小さい仮逆量子化値を前記複数の逆量子化値の組に含める
ことを特徴とする付記１６から付記１９のいずれかに記載の逆量子化装置。
【０２０３】
（付記２１）  複数の量子化値を符号化する符号化装置であって、
複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化装置を有し、
前記逆量子化装置は、
量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求め、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める手段を有する
ことを特徴とする符号化装置。
【０２０４】
（付記２２）  複数の量子化値を符号化する符号化装置であって、
複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化装置を有し、
前記逆量子化装置は、
前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算し、前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める手段を有する
ことを特徴とする符号化装置。
【０２０５】
（付記２３）  複数の量子化値を復号する復号装置であって、
複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化装置を有し、
前記逆量子化装置は、
量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求め、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める手段を有する
ことを特徴とする復号装置。
【０２０６】
（付記２４）  複数の量子化値を復号する復号装置であって、
複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化装置を有し、
前記逆量子化装置は、
前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算し、前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める手段を有する
ことを特徴とする復号装置。
【０２０７】
（付記２５）  現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化装置であって、
前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算手段と、
前記映像要素計算手段にて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算手段と
を有することを特徴とする映像逆量子化装置。
【０２０８】
（付記２６）  現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化装置であって、
前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算手段と、
前記映像要素計算手段にて計算された初期逆量子化映像ベクトルを始点にして、前記量子化値ベクトルによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算手段と
を有することを特徴とする映像逆量子化装置。
【０２０９】
（付記２７）  現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化装置であって、
前記量子化値ベクトルの要素を用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算手段と、
前記映像要素計算手段にて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算手段と
を有することを特徴とする映像逆量子化装置。
【０２１０】
（付記２８）  前記映像ベクトル計算手段は、前記相関が存在する他の映像ベクトルの要素が、対応する前記仮逆量子化映像ベクトルの集合の要素の値域に含まれる場合、該要素に関して前記相関が存在する他の映像ベクトルの要素との差分がより小さい、仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算することを特徴とする付記２５から付記２７のいずれかに記載の映像逆量子化装置。
【０２１１】
（付記２９）  量子化値ベクトルを符号化する映像符号化装置であって、
現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化装置を有し、
前記映像逆量子化装置は、
前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて前記処理対象の初期逆量子化映像ベクトルを要素単位で計算する映像要素計算手段と、
前記映像要素計算手段にて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定するベクトル空間から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算手段と
を有することを特徴とする映像符号化装置。
【０２１２】
（付記３０）  量子化値ベクトルを復号する映像復号装置であって、
現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化装置を有し、
前記映像逆量子化装置は、
前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて前記処理対象の初期逆量子化映像ベクトルを要素単位で計算する映像要素計算手段と、
前記映像要素計算手段にて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定するベクトル空間から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算手段と
を有することを特徴とする映像復号装置。
【０２１３】
（付記３１）  複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化のプログラムあって、
量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求める処理と、
逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める処理と
を情報処理装置に実行させることを特徴とするプログラム。
【０２１４】
（付記３２）  複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化のプログラムであって、
前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算する処理と、
前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める処理と
を情報処理装置に実行させることを特徴とするプログラム。
【０２１５】
（付記３３）  複数の量子化値を符号化する符号化のプログラムであって、
複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化処理を有し、
前記逆量子化処理は、
量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求める処理と、
逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める処理と
を情報処理装置に実行させることを特徴とするプログラム。
【０２１６】
（付記３４）  複数の量子化値を符号化する符号化のプログラムであって、
複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化処理を有し、
前記逆量子化処理は、
前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算する処理と、
前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める処理と
を情報処理装置に実行させることを特徴とするプログラム。
【０２１７】
（付記３５）  複数の量子化値を復号する復号方法のプログラムであって、
複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化処理を有し、
前記逆量子化処理は、
量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求める処理と、
逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める処理と
を情報処理装置に実行させることを特徴とするプログラム。
【０２１８】
（付記３６）  複数の量子化値を復号する復号のプログラムであって、
複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化処理を有し、
前記逆量子化処理は、
前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算する処理と、
前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める処理と
を情報処理装置に実行させることを特徴とするプログラム。
【０２１９】
（付記３７）  現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化のプログラムであって、
前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算処理と、
前記映像要素計算処理にて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算処理と
を情報処理装置に実行させることを特徴とするプログラム。
【０２２０】
（付記３８）  現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化のプログラムであって、
前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算処理と、
前記映像要素計算処理にて計算された初期逆量子化映像ベクトルを始点にして、前記量子化値ベクトルによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算処理と
を情報処理装置に実行させることを特徴とするプログラム。
【０２２１】
（付記３９）  現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化のプログラムであって、
前記量子化値ベクトルの要素を用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算処理と、
前記映像要素計算処理にて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算処理と
を情報処理装置に実行させることを特徴とするプログラム。
【０２２２】
（付記４０）  量子化値ベクトルを符号化する映像符号化のプログラムであって、
現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化処理を有し、
前記映像逆量子化処理は、
前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて前記処理対象の初期逆量子化映像ベクトルを要素単位で計算する映像要素計算処理と、
前記映像要素計算処理にて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定するベクトル空間から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算処理と
を情報処理装置に実行させることを特徴とするプログラム。
【０２２３】
（付記４１）  量子化値ベクトルを復号する映像復号のプログラムであって、
現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化処理を有し、
前記映像逆量子化処理は、
前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて前記処理対象の初期逆量子化映像ベクトルを要素単位で計算する映像要素計算処理と、
前記映像要素計算処理にて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定するベクトル空間から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算処理と
を情報処理装置に実行させることを特徴とするプログラム。
【符号の説明】
【０２２４】
E2000      映像逆量子化器
E2001      量子化器
E2002      要素計算器
E2003      ベクトル計算器
【図１】
0005447871.tif 000140
【図２】
0005447871.tif 000141
【図３】
0005447871.tif 000142
【図４】
0005447871.tif 000143
【図５】
0005447871.tif 000144
【図６】
0005447871.tif 000145
【図７】
0005447871.tif 000146
【図８】
0005447871.tif 000147
【図９】
0005447871.tif 000148
【図１０】
0005447871.tif 000149
【図１１】
0005447871.tif 000150
【図１２】
0005447871.tif 000151
【図１３】
0005447871.tif 000152
【図１４】
0005447871.tif 000153
【図１５】
0005447871.tif 000154
【図１６】
0005447871.tif 000155
【図１７】
0005447871.tif 000156
【図１８】
0005447871.tif 000157
【図１９】
0005447871.tif 000158
【図２０】
0005447871.tif 000159
【図２１】
0005447871.tif 000160
【図２２】
0005447871.tif 000161
【図２３】
0005447871.tif 000162
【図２４】
0005447871.tif 000163
【図２５】
0005447871.tif 000164