【手続補正書】
【提出日】平成16年4月12日(2004.4.12)
【手続補正１】
【補正対象書類名】明細書
【補正対象項目名】０００２
【補正方法】変更
【補正の内容】
【０００２】
【従来の技術】
画像などの入力データを符号化するに際し、ＭＰＥＧ２（Moving Picture Experts Group２）のような符号化方法にあっては、パッケージメディアや通信容量などの制限によって、ある符号化処理単位、例えばＧＯＰ（Group Of Pictures）に対して予め定められた目標符号量以内に各ＧＯＰでの発生符号量を抑えなければならない。


【手続補正２】
【補正対象書類名】明細書
【補正対象項目名】０００８
【補正方法】変更
【補正の内容】
【０００８】
この目標符号量ＴＭＢｂとＤＣＴ係数がそれぞれＱサーチ手段３０に供給されてマクロブロック毎に得られるこの目標符号量ＴＭＢを越えない最小の量子化値が演算によって求められる。この最小量子化値とＤＣＴ係数がバックサーチ手段３２に供給される。この手段３２は符号化／復号化での画質劣化を防ぐためのバックサーチアルゴリズムによって処理されるブロックであり、ここで量子化のための最終的な量子化値が選択される。


【手続補正３】
【補正対象書類名】明細書
【補正対象項目名】００１３
【補正方法】変更
【補正の内容】
【００１３】
図３３は目標符号量割り当て手段１８の具体例を示す。図３３において、補間手段２２では、ＧＯＰ単位の目標符号量ＴＭＢが、８個の固定量子化器１４ａ〜１４ｈでのＧＯＰ単位での発生符号量のどこに位置しているのかを判定すると共に、目標符号量を越えない最小の量子化値が補間処理されて出力される。


【手続補正４】
【補正対象書類名】明細書
【補正対象項目名】００４５
【補正方法】変更
【補正の内容】
【００４５】
例えば、具体的には、
ｆ（ｘ）＝（ＧＯＰ単位のマクロブロック数）＊ｘ  ・・・（９ｂ）
ｇ（ｘ）＝（ＧＯＰ単位のマクロブロック数）＊ｘ  ・・・（９ｃ）
として、ＦＮＣ（）を図６のようにすることが考えられる。


【手続補正５】
【補正対象書類名】明細書
【補正対象項目名】０１１５
【補正方法】変更
【補正の内容】
【０１１５】
この発明では符号化／復号化がなされていないと判定されたときには、各マクロブロック間での量子化値の変動をできるだけ少なくなるようなフィードバックスレッショールド値が算出され、これとは逆に符号化／復号化されていると判定したときには、バックサーチ手段３２でのバックサーチアルゴリズムによって、最初に符号化した際の量子化値を見つけられるようなフィードバックスレッショールド値が算出される。
フィードバックスレッショールド値の算出は、以下に示すステップ（５ｄ−１）〜（５ｄ−４）によって求められる。


【手続補正６】
【補正対象書類名】明細書
【補正対象項目名】０１１６
【補正方法】変更
【補正の内容】
【０１１６】
・ステップ（５ｄ−１）
まず、図２２に示すように、８個の固定量子化器１４でのＧＯＰ単位の発生符号量からＧＯＰ単位の目標符号量１５２０ビットを挟む２つの量子化値を求める。図２２からも明らかなように、目標符号量を挟む２つの量子化値として「１８」と「２４」が選ばれる。


【手続補正７】
【補正対象書類名】明細書
【補正対象項目名】０１１７
【補正方法】変更
【補正の内容】
【０１１７】
・ステップ（５ｄ−２）
量子化値「１８」と「２４」は最小の量子化幅ではないので、最小量子化幅となる量子化値に対するＧＯＰ単位の発生符号量を、量子化値「１８」と「２４」でのＧＯＰ単位の発生符号量を利用して直線近似により求める。


【手続補正８】
【補正対象書類名】明細書
【補正対象項目名】０１１９
【補正方法】変更
【補正の内容】
【０１１９】
・ステップ（５ｄ−３）
量子化値「１８」と「２４」のＧＯＰ単位の発生符号量と、量子化値「２０」と「２２」に対して上述の近似式によって求めたＧＯＰ単位の発生符号量とから、改めてＧＯＰ単位の目標符号量１５２０ビットを挟む２つの量子化値を求めると、その値は上の数値から明らかなように「１８」と「２０」となる。そのときのＧＯＰ単位の発生符号量はそれぞれ整数化すると、１５７２ビットと１４９９ビットとなる。


【手続補正９】
【補正対象書類名】明細書
【補正対象項目名】０１２０
【補正方法】変更
【補正の内容】
【０１２０】
・ステップ（５ｄ−４）
ＧＯＰ単位の目標符号量とそれを挟む２つのＧＯＰ単位の発生符号量からフィードバックスレッショールド値を計算する。まずＵＮＣ，ＬＮＣという量を定義する。ＵＮＣはステップ（５ｄ−３）で求めた２つのＧＯＰ単位の発生符号量のうちの目標符号量を越える発生符号量１５７２ビットと、ＧＯＰ単位の目標符号量１５２０ビットとの差分値を示すものである。


【手続補正１０】
【補正対象書類名】明細書
【補正対象項目名】０１２１
【補正方法】変更
【補正の内容】
【０１２１】
ＬＮＣはＧＯＰ単位の目標符号量１５２０ビットと、ステップ（５ｄ−３）で求めた２つのＧＯＰ単位の発生符号量のうち目標符号量を越えない発生符号量１４９９ビットとの差分値であるから、以下のようになる。
ＵＮＣ＝１５７２−１５２０＝５２ビット      ・・・（３１）
ＬＮＣ＝１５２０−１４９９＝２１ビット      ・・・（３２）


【手続補正１１】
【補正対象書類名】明細書
【補正対象項目名】０１４４
【補正方法】変更
【補正の内容】
【０１４４】
実際に傾きＧＤを計算すると図２５のようになり、傾きは単調ではないので、判定手段４２では過去に符号化／復号化されているという判定結果が得られる。
次に、フィードバックコントロール手段４４ではこの判定結果を基づいて８個の固定量子化器１４でのＧＯＰ単位の発生符号量からフィードバックスレッショールド値を計算する。これは以下に示すステップ（６ｄ−１）〜（６ｄ−２）によって求められる。


【手続補正１２】
【補正対象書類名】明細書
【補正対象項目名】０１７１
【補正方法】変更
【補正の内容】
【０１７１】
次に（０，１０，１０，１０，１０，２０）に対して２回目の符号化での量子化について考える。まず、１回目の符号化と同じ量子化値１０を使い量子化を行なうと、（０．０，１．０，１．０，１．０，１．０，２．０）となり、四捨五入後（０，１，１，１，１，２）となる。逆量子化を１０で行なうと（０，１０，１０，１０，１０，２０）となる。また、２回目の符号化で１回目の符号化と同じ量子化値１０ではなく、１２で量子化することを考える。このときは、（０．０，５／６，５／６，５／６，５／６，５／３）となり、四捨五入後（０，１，１，１，１，２）となることがわかる。逆量子化を行なうと（０，１２，１２，１２，１２，２４）となる。


【手続補正１３】
【補正対象書類名】明細書
【補正対象項目名】０１７２
【補正方法】変更
【補正の内容】
【０１７２】
２回目の符号化で１０で量子化した場合の逆量子化後の値（０，１０，１０，１０，１０，２０）は１２で量子化した場合のそれ（０，１２，１２，１２，１２，２４）と明らかに違うが、発生符号量という観点から注目した場合には、１０，１２での量子化での差はなく、共に（０，１，１，１，１，２）となることがわかる。量子化後の値が同じということは、発生符号量が同じになるということである。つまり、２回目の符号化で１０で量子化しようが１２で量子化しようが同じ発生符号量になることがわかる。


【手続補正１４】
【補正対象書類名】明細書
【補正対象項目名】０１７８
【補正方法】変更
【補正の内容】
【０１７８】
実際の自然画像では、より複雑に係数が立ち上記のような完全に平坦な部分が表れることはまずない。しかしながら、各量子化値間での傾きを求めると、その傾きが連続（単調）ではない部分が表れるので、この傾きによって１回目の符号化か２回目の符号化であるかを判別できるものである。


【手続補正１５】
【補正対象書類名】図面
【補正対象項目名】図３１
【補正方法】変更
【補正の内容】
【図３１】
1998336652.tif 000001