(57)【特許請求の範囲】
【請求項１】
入力信号から前記入力信号と同じダイナミックレンジの予測信号をモジュロ減算して予測誤差信号を得る手段と、
前記入力信号と同じダイナミックレンジの予測誤差信号をブロック毎に直交変換して変換信号を出力する手段と、
予め定められた量子化特性に従って前記変換信号をブロック毎に量子化して仮の量子化レベルと１つ上のレベル及び１つ下のレベルの３出力を生成する量子化手段と、
前記量子化手段からの３出力のうち選択信号に基づき仮の量子化出力を導出する選択手段と、
前記量子化出力を逆直交変換して量子化された予測誤差信号を得る手段と、
予測信号と量子化された予測誤差信号とをモジュロ演算で加算して仮の局部復号信号を得る手段と、
前記仮の局部復号信号と入力信号とを比較して前記仮の局部復号信号がダイナミックレンジを越えて正しくない場合は、レンジ外信号を直交変換して得られた変換係数の情報を用いて、量子化雑音により局部復号信号がダイナミックレンジを越えないように、前記選択手段の選択信号を生成して前記仮の量子化出力の代わりに１つ上または１つ下の量子化レベルを代わりの仮の量子化出力として導出することにより、局部復号信号がダイナミックレンジ内に納まるまで前述の比較と選択制御を繰返し行ない、仮の局部復号信号が量子化雑音の影響によりダイナミックレンジを越えない真の量子化出力を得る様制御する制御判定手段と、
真の量子化出力を伝送路符号に変換して送り出す符号変換手段と、
真の量子化出力に対する局部復号信号から次のブロックの予測信号を得る手段とを含むことを特徴とする直交変換符号化用適応量子化装置。
【請求項２】
前記制御判定手段は、前記レンジ外信号を直交変換した変換係数の他に、前記予測誤差信号の変換係数を量子化して発生する量子化雑音の情報を用いて制御をなすようにしたこと特徴とする請求項１記載の直交変換符号化用適応量子化装置。
【請求項３】
前記制御判定手段は、前記レンジ外信号の値がオーバフローまたはアンダーフローのみの場合になったとき、直流成分の変換係数の量子化出力レベルを選択するように制御判定を行うようにしたことを特徴とする請求項１または２記載の直交変換符号化用適応量子化装置。
【請求項４】
前記制御判定手段は、前記レンジ外信号の変換係数の大きいほうから複数の変換係数を用い、該当する複数の変換係数の量子化出力に対してその量子化ステップを１つ小さくする判定制御を行うようにしたことを特徴とする請求項１〜３いずれか記載の直交変換符号化用適応量子化装置。
【請求項５】
入力信号から前記入力信号と同じダイナミックレンジの予測信号をモジュロ減算して予測誤差信号を得るステップと、前記入力信号と同じダイナミックレンジの予測誤差信号をブロック毎に直交変換して変換信号を出力するステップと、予め定められた量子化特性に従って前記変換信号をブロック毎に量子化して仮の量子化レベルと１つ上のレベル及び１つ下のレベルの３出力を生成する量子化ステップと、前記量子化ステップからの３出力のうち選択信号に基づき仮の量子化出力を導出する選択ステップと、前記量子化出力を逆直交変換して量子化された予測誤差信号を得るステップと、予測信号と量子化された予測誤差信号とをモジュロ演算で加算して仮の局部復号信号を得るステップと、前記仮の局部復号信号と入力信号とを比較して前記仮の局部復号信号がダイナミックレンジを越えて正しくない場合は、レンジ外信号を直交変換して得られた変換係数の情報を用いて、量子化雑音により局部復号信号がダイナミックレンジを越えないように、前記選択ステップの選択信号を生成して前記仮の量子化出力の代わりに１つ上または１つ下の量子化レベルを代わりの仮の量子化出力として導出することにより、局部復号信号がダイナミックレンジ内に納まるまで前述の比較と選択制御を繰返し行ない、仮の局部復号信号が量子化雑音の影響によりダイナミックレンジを越えない真の量子化出力を得る様制御する制御判定ステップと、真の量子化出力を伝送路符号に変換して送り出す符号変換ステップと、真の量子化出力に対する局部復号信号から次のブロックの予測信号を得るステップとを含むことを特徴とする直交変換符号化用適応量子化方法。
【請求項６】
前記制御判定ステップは、前記レンジ外信号を直交変換した変換係数の他に、前記予測後信号の変換係数を量子化して発生する量子化雑音の情報を用いて制御をなすようにしたこと特徴とする請求項５記載の直交変換符号化用適応量子化方法。
【請求項７】
前記制御判定ステップは、前記レンジ外信号の値がオーバフローまたはアンダーフローのみの場合になったとき、直流成分の変換係数の量子化出力レベルを選択するように制御判定を行うようにしたことを特徴とする請求項５または６記載の直交変換符号化用適応量子化方法。
【請求項８】
前記制御判定ステップは、前記レンジ外信号の変換係数の大きいほうから複数の変換係数を用い、該当する複数の変換係数の量子化出力に対してその量子化ステップを１つ小さくする判定制御を行うようにしたことを特徴とする請求項５〜７いずれか記載の直交変換符号化用適応量子化方法。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は直交変換符号化用適応量子化装置及び量子化方法に関し、特にテレビジョン映像信号をディジタル化して予測誤差信号を量子化し、データ圧縮符号化して伝送する予測符号化方式及び画像信号を直交変換して符号化する直交変換方式に関するものであり、更に、予測誤差信号を直交変換してから量子化を行って符号化伝送する装置の量子化の方式に関するものである。
【０００２】
【従来の技術】
従来知られている差分符号化（予測符号化）と直交変換符号化とを組合わせた符号化方式（予測誤差直交変換符号化方式）の概略ブロックは図３に示す構成である。図３において、予測誤差信号Ｅを直交変換器２にて直交変換し、この変換信号Ｅｔ  を量子化器１０にて量子化して符号変換器４により符号化しつつ伝送するようになっている。
【０００３】
一方、量子化器１０による量子化出力は逆直交変換器５にて逆直交変換され、加算器６にて予測器７の予測信号Ｐと加算され局部復号信号Ｙが生成される。この局部復号信号Ｙが予測器７へ入力されて予測器７から予測信号Ｐが導出され、減算器１にて入力信号Ｘとの減算が行われる。この減算出力が先の予測誤差信号Ｅとなっている。
【０００４】
この方式の代表的な例として、ＴＴＣ標準ＪＴ−Ｈ２６１（社団法人電信電話技術委員会発行、文献１と呼ぶ）がある。この方式は、８ビットの画像信号と８ビットの動き補償フレーム間予測信号との減算により９ビットの差分信号（予測誤差信号）を求め、差分信号を８×８のブロックでＤＣＴ（離散コサイン変換）による直交変換を行って、６４種の１２ビットの変換係数を求める。この変換係数は予め定められた量子化特性（最大１２ビットのダイナミックレンジで、その範囲は−２０４８〜２０４７）で量子化を行って、量子化された変換係数を符号変換して伝送するものである。
【０００５】
一方、従来知られている予測符号化用適応量子化の方式の概略ブロックは図４に示すものがあり、図３と同等部分は同一符号にて示している。その具体的な説明例としては特開平６−３４３０４７号公報に開示のものがあり、この例では８ビットの入力信号Ｘは減算器１と適応量子化器３に供給され、減算器１は８ビットのモジュロ演算で入力信号Ｘから予測信号Ρを減算して８ビットの予測誤差信号Ｅを求める。
【０００６】
適応量子化器３は、９ビットではなく、１ビット小さい８ビットのダイナミックレンジの量子化特性を有し、予測誤差信号Ｅを量子化して仮の量子化出力Ｑを得るとともに、量子化雑音Ｎと入力信号Ｘとを加算した仮の局部復号信号Ｙを内部で求めて、この値が８ビットのダイナミックレンジを上又は下に越えるかを判定し、上（下）に越える場合は仮の量子化出力より１つ下（上）の量子化レベルを選択して量子化出力として出力する様になっている。
【０００７】
【発明が解決しようとする課題】
画像品質を同等に保ちながら、量子化特性のダイナミックレンジを１ビット小さくした量子化器を用いて符号化伝送ビットレートを少なくできるようにするために、前述の図３に示した予測誤差直交変換符号化方式の量子化器に、図４に示した予測符号化用適応量子化器の方法を適用することを考える。この場合、予測誤差直交変換符号化方式においては、８×８のブロックごとに予測誤差の変換符号化が行われ、量子化器の前／後で直交変換／逆直交変換が行われているので、ブロック毎に復号される６４の画素の仮の局部復号信号は各々１画素がそれぞれ６４の変換係数の量子化雑音の影響を受けることになる。
【０００８】
このため、量子化誤差と画素信号とが１対１に対応せず、予測符号化用適応量子化の適応量子化の判定方法をそのまま予測誤差直交変換符号化の判定方法に適用することはできない。
【０００９】
また、１ブロックで画素信号がダイナミックレンジを越えたとき、どの変換係数の量子化雑音の影響でダイナミックレンジを越えているかを判定するために、単純な総当たり方法を用いるとすると、６４種の変換係数の組合わせについて、量子化雑音の影響を求める必要があり、判定回路の最悪の総当たりの計算量が膨大になり、またリアルタイムで行うには、判定回路の実現性に難点がある。
【００１０】
本発明の目的は、予測誤差直交変換符号化の量子化器に適応量子化器を適用する際に、判定回路を工夫することにより、装置規模が大とならない様にして、ダイナミックレンジが従来より１ビット小さい量子化特性で、過負荷雑音の劣化がなく従来の量子化と同等の画質の画像を符号化でき、従来に比べて少ない量子化レベル数（割当ビット数）で、すなわち少ない符号伝送ビット数で伝送可能な直交変換符号化用適応量子化装置及び量子化方法を提供することである。
【００１１】
【課題を解決するための手段】
本発明による直交変換符号化用適応量子化装置は、入力信号から前記入力信号と同じダイナミックレンジの予測信号をモジュロ減算して予測誤差信号を得る手段と、記入力信号と同じダイナミックレンジの予測誤差信号をブロック毎に直交変換して変換信号を出力する手段と、予め定められた量子化特性に従って前記変換信号をブロック毎に量子化して仮の量子化レベルと１つ上のレベル及び１つ下のレベルの３出力を生成する量子化手段と、前記量子化手段からの３出力のうち選択信号に基づき仮の量子化出力を導出する選択手段と、前記量子化出力を逆直交変換して量子化された予測誤差信号を得る手段と、予測信号と量子化された予測誤差信号とをモジュロ演算で加算して仮の局部復号信号を得る手段と、前記仮の局部復号信号と入力信号とを比較して前記仮の局部復号信号がダイナミックレンジを越えて正しくない場合は、レンジ外信号を直交変換して得られた変換係数の情報を用いて、量子化雑音により局部復号信号がダイナミックレンジを越えないように、前記選択手段の選択信号を生成して前記仮の量子化出力の代わりに１つ上または１つ下の量子化レベルを代わりの仮の量子化出力として導出することにより、局部復号信号がダイナミックレンジ内に納まるまで前述の比較と選択制御を繰返し行ない、仮の局部復号信号が量子化雑音の影響によりダイナミックレンジを越えない真の量子化出力を得る様制御する制御判定手段と、真の量子化出力を伝送路符号に変換して送り出す符号変換手段と、真の量子化出力に対する局部復号信号から次のブロックの予測信号を得る手段とを含むことを特徴とする。
【００１２】
本発明による直交変換符号化用適応量子化方法は、入力信号から前記入力信号と同じダイナミックレンジの予測信号をモジュロ減算して予測誤差信号を得るステップと、前記入力信号と同じダイナミックレンジの予測誤差信号をブロック毎に直交変換して変換信号を出力するステップと、予め定められた量子化特性に従って前記変換信号をブロック毎に量子化して仮の量子化レベルと１つ上のレベル及び１つ下のレベルの３出力を生成する量子化ステップと、前記量子化ステップからの３出力のうち選択信号に基づき仮の量子化出力を導出する選択ステップと、前記量子化出力を逆直交変換して量子化された予測誤差信号を得るステップと、予測信号と量子化された予測誤差信号とをモジュロ演算で加算して仮の局部復号信号を得るステップと、前記仮の局部復号信号と入力信号とを比較して前記仮の局部復号信号がダイナミックレンジを越えて正しくない場合は、レンジ外信号を直交変換して得られた変換係数の情報を用いて、量子化雑音により局部復号信号がダイナミックレンジを越えないように、前記選択ステップの選択信号を生成して前記仮の量子化出力の代わりに１つ上または１つ下の量子化レベルを代わりの仮の量子化出力として導出することにより、局部復号信号がダイナミックレンジ内に納まるまで前述の比較と選択制御を繰返し行ない、仮の局部復号信号が量子化雑音の影響によりダイナミックレンジを越えない真の量子化出力を得る様制御する制御判定ステップと、真の量子化出力を伝送路符号に変換して送り出す符号変換ステップと、真の量子化出力に対する局部復号信号から次のブロックの予測信号を得るステップとを含むことを特徴とする。
【００１３】
本発明の作用を述べる。予測誤差直交変換符号化の方式に予測符号化用適応量子化器を直接適用したときに、ダイナミックレンジを越えた画素信号に大きく影響を与える変換係数を求めて、その変換係数の仮量子化出力レベルを１つ小さくすることによって、仮の局部復号信号がダイナミックレンジを越えないようにできるかを調べる方法により、適応量子化の判定を行う。復号信号のダイナミックレンジオーバに大きく影響を与える変換係数は、レンジ外信号の変換係数の振幅値と量子化出力の量子化雑音の大きさから推定できる。
【００１４】
ここで、レンジ外信号としては、ダイナミックレンジ内の画素は０、上に越えた画素は越えた部分の正の振幅値をその画素点の振幅値とし、下に越えた画素は越えた部分の負の振幅値をその画素点の振幅値とすることにより、１ブロックの信号値が得られる。
【００１５】
次に、このレンジ外信号を逆直交変換して変換信号の振幅値を求め、振幅が大きい変換係数が量子化雑音の影響が大きいとして、その量子化ステップを１つ小さくまたは大きくして、仮の局部復号信号がダイナミックレンジを越えないか判定する。ダイナミックレンジを越える場合は、再度判定を繰り返す。この手順により、影響の大きい変換係数の量子化レベルを、強制的に近傍の量子化レベルに置き換えることにより、量子化雑音がレンジオーバの画素信号に対して反対の方向に補正する働きをすることになり、仮の局部復号信号がダイナミックレンジを越えなくなり、この量子化特性の切替え適応判定処理方法により、速やかにダイナミックレンジを越えないように判定をすることができる。
【００１６】
これにより、従来より１ビット少ないダイナミックレンジの量子化特性で量子化が行えるため少ないビット数で量子化が行えることになり、符号化伝送ビット数を少なくできる直交変換符号化用適応量子化方式を提供できる。よって、従来よりも１ビット少ないダイナミックレンジの量子化特性で、予測誤差信号の直交変換信号を量子化して符号化伝送でき、再生画像も過負荷が起こらず従来と同等の画像を復号できることになる。
【００１７】
【発明の実施の形態】
以下に図面を参照しつつ本発明の実施例について説明する。図１は本発明の第１の実施例を示すブロック図であり、図３，４と同等部分は同一符号により示している。図１において、８ビットのディジタル入力信号Ｘ（−１２８〜１２７）は８ビットのダイナミクレンジの減算器１に供給され、予測器７からの予測信号とモジュロ演算の減算が行われ、８ビットの予測誤差信号Ｅが算出されて直交変換器２に供給される。
【００１８】
直交変換器２は予測誤差信号Ｅを「８サンプル×８ライン」の６４画素（Ｅｉｊ＝Ｅ１１〜Ｅ１８，Ｅ２１〜Ｅ２８，Ｅ３１〜Ｅ３８，Ｅ４１〜Ｅ４８，Ｅ５１〜Ｅ５８，Ｅ６１〜Ｅ６８，Ｅ７１〜Ｅ７８，Ｅ８１〜Ｅ８８）を１ブロックとして、ブロック毎に直交変換して６４種類の変換係数（Ｅｔｉｊ  ＝Ｅｔ１１  〜Ｅｔ１８  ，Ｅｔ２１  〜Ｅｔ２８  ，Ｅｔ３１  〜Ｅｔ３８  ，Ｅｔ４１  〜Ｅｔ４８  ，Ｅｔ５１  〜Ｅｔ５８  ，Ｅｔ６１  〜Ｅｔ６８  ，Ｅｔ７１  〜Ｅｔ７８  ，Ｅｔ８１  〜Ｅｔ８８  ）を１ブロックとして出力する。これ等６４種の変換係数は１１ビットのダイナミックレンジを有し、適応量子化器３の量子化器１０へ供給される。
【００１９】
適応量子化器３は量子化器１０、選択器１１、レンジ判定器１５、直交変換器１６、制御判定器１７、出力スイッチ１８，１９からなる。また、逆直交変換器５及び加算器６も適応量子化器３の動作に寄与する。
【００２０】
量子化器１０は１１ビットのダイナミックレンジを有し、各変換係数に対応した量子化特性で各変換係数をブロック毎に量子化して各仮の量子化出力Ｑｉｊを選択器１１へ供給する。各仮の量子化出力Ｑｉｊより１つ上（Ｑ＋）及び１つ下（Ｑ−）のレベルの量子化出力も併せて出力して選択器１１へ供給する。
【００２１】
選択器１１は制御判定器１７からの制御信号により各変換係数の仮の量子化出力をＱｉｊ，Ｑ＋  ，Ｑ−  の３つの内から１つ選択してブロック毎に仮の量子化出力Ｑを得て逆直交変換器５及び出力スイッチ１８へ供給する。
【００２２】
逆直交変換器５は直交変換器２の逆変換特性を有し、仮の量子化出力Ｑをブロック毎に逆直交変換して８ビットのダイナミックレンジの仮に量子化された予測誤差信号Ｅｑ  を再生して加算器６へ供給する。加算器６は８ビットのモジュロ演算で予測器７から供給される予測信号Ρと仮の量子化予測誤差信号Ｅｑ  を加算して、８ビットの仮の局部復号信号Ｙを求めレンジ判定１５と出力スイッチ１９へ供給する。
【００２３】
レンジ判定器１５では、先ず入力信号Ｘと仮の局部復号信号Ｙとを比較して、局部復号信号Ｙがダイナミックレンジを越えているか判定する。この比較のために、９ビットの減算器で入力信号Χから仮の局部復号信号Ｙを減算して雑音信号Ｎを求める。そして、雑音信号Ｎがダイナミックレンジの半分より大きい時は、仮の局部復号信号Ｙは量子化雑音の影響により、８ビットのダイナミックレンジをオーバフローまたアンダーフローしており、正しい局部復号復号信号が得られていないと判定し、レンジ外信号として各画素のレンジ境界から越えた値をブロック毎に求める。
【００２４】
オーバフローの時は正の値、アンダーフローの場合は負の値となる。レンジ内にあると判定される画素の場合は、レンジ外信号は０の値とする。こうして求められた１ブロック６４画素からなるレンジ外信号は直交変換器１６と制御判定器１７へ供給される。
【００２５】
直交変換器１６は直交変換器２と同じ変換特性を有し、レンジ外信号をブロック毎に直交変換して変換係数を求めて制御判定器１７へ供給する。制御判定器１７では、まず最初は量子化器１０から出力されたそのままの量子化出力Ｑが仮の量子化出力として選択されるように制御が行われている。始めの比較判定で、制御判定器１７に供給されるレンジ外信号が１ブロック全て０の場合は、出力スイッチ１８，１９へ制御信号を送り、選択器１１から出力されている仮の量子化出力Ｑを最終選択された真の量子化出力として出力するようする。
【００２６】
出力スイッチ１８は出力可能の制御信号が入力されると、真の量子化出力信号を符号変換器４へ供給する。出力スイッチ１９は出力可能の制御信号が入力されると、真の量子化出力に対応する局部復号信号Ｙを真の局部復号信号として出力して予測器７へ供給する。
【００２７】
１ブロックのレンジ外信号の中で０ではない信号がある場合は、レンジ外信号の変換係数がー番大きい変換係数に対応する仮量子化出力のレベルを１つ上Ｑ＋  又は１つ下Ｑ−  を選択するように選択器１１に制御信号を送る。その他の変換係数の量子化出力はそのまま変化させない。
【００２８】
この結果、新たに出力された１ブロックの仮の量子化出力に対して、仮の局部復号信号がダイナミックレンジを越えないかを判定するため、上記の比較判定制御の処理が繰返される。レンジ外信号が全て０となると、仮の量子化出力は真の量子化出力と判定される。
【００２９】
制御判定器１７の変換係数に基づく量子化出力の制御方法として、直流成分の変換係数のみにより量子化の適応制御を行なう簡単な方法について説明する。変換係数の量子化雑音Ｎｔ  を逆直交変換した量子化雑音Ｎ（ｆ（ｘ，ｙ））は、後で述べる（１）式に従って与えられ、変換係数量子化雑音Ｎｔ  （  Ｆ（ｕ，ｖ）に１／８の係数が掛かった値となる。これより、オーバーフローする時は、変換係数の直流成分の量子化レベルを１つ下げる、アンダーフローする時は、量子化レベルを１つ上げる制御を行うことにより、局部復号信号がレンジ外に出るのを防ぐことができる。
【００３０】
レンジの外に出た部分の信号示すレンジ外信号の大きさが小さい時は、直流成分の補正のみで、複雑な判定を行わずに簡単にレンジを越えないように補正することもできる。振幅が大きいときは、１つのレベルの変動では１／８の係数が掛かっているため補正が効かずに２つ以上のレベルの補正が必要になる場合もある。しかし、直流分の量子化雑音はブロック歪みとして目につきやすくなるため、振幅が大きい場合は、交流成分の変換係数も含めた仮の量子化出力の量子化レベルの選択制御が必要である。符号変換器４は量子化出力の各レベルを伝送用符号にブロック毎に符号変換して他の情報と多重して伝送路に送り出す。
【００３１】
予測器７は予測特性に従って局部復号信号Ｙから次の予測信号Ρをブロック毎に求めて出力し、減算器１、加算器６へ供給する。予測器７は動き補償予測を行う機能を有し、ブロック毎に次の入力ブロックに対してマッチング法で最適な動きべクトルを求めて、動き補正した予測信号Ρを出力する。動きべクトルは量子化出力信号と共に符号化されて受信側に送られる。
【００３２】
適応量子化の判定回路の動作を説明する。まず、予測誤差信号Ｅを直交変換器２で直交変換した変換信号Ｅｔ  が量子化器１０で量子化されて仮の量子化出力がブロック毎に求まる。これを逆直交変換器５にて逆直交変換して予測信号Ρと加算すると、仮の局部復号信号Ｙがブロック毎に求まる。この求められたブロック毎の仮の局部復号信号Ｙが１１ビットのダイナミックレンジの範囲にすべて入っているかを判定し、すべて入っていれば仮の量子化出力及び仮の局部復号信号は真の量子化出力及び真の局部復号信号Ｙとしてブロック毎にそのまま出力される。
【００３３】
仮局部復号信号がダイナミックレンジを越えている場合は、ダイナミックレンジをこえた部分を示す信号（レンジ外信号）から、ダイナミックレンジを越えたことに影響を与えた変換係数を推定して、その変換係数に該当する量子化出力レベルを適応的に選択切替えて、局部復号信号が１１ビットのダイナミックレンジを越えないように以下の処理が行われる。
【００３４】
レンジ判定回路１５では、仮局部復号信号がレンジを越える時、１１ビットのレンジに対してどれだけオーバーフローまたはアンダーフローするかを求め、その越えた値を１ブロックのレンジ外信号とする。オーバフローする画素は越えた値が正のレンジ外信号値とする。アンダーフローした画素は、負の値を持つレンジ外信号となる。レンジを越えずダイナミックレンジ内の画素は０の値とする。
【００３５】
そして、直交変換器１６では、求められた１ブロックのレンジ外信号に対してどの変換係数の量子化誤差の影響でレンジ外信号が発生しているかを判定するため、レンジ外信号に対しての直交変換を行う。
【００３６】
制御判定回路１７では、判定方法のー例として、レンジ外信号の変換係数で、番信号の大きい変換係数を求める。求めた変換係数が正の場合、量子化器１０から選択器１１へ供給されている変換係数の量子化ステップを仮の量子化レベルＱより１つ下の量子化ステップＱ−  を選択し、負の場合は１つ上の量子化ステップＱ＋  を選択して、前の仮量子化出力に置き換えて新たな仮量子化出力とする。
【００３７】
新たな仮量子化出力が求められたら、この仮の量子化出力に対して逆直変換を行い、新たな仮局部複号信号を求め、再度、上述した最初の処理が行われる。
【００３８】
次に、直交変換器２，１６及び逆直交変換器５の特性について述べる。直交変換器の８行８列のＤＣＴ変換は、８×８の１次元の変換に分離可能な２次元離散コサイン変換を行う。８行８列の１ブロックの信号をｆ（ｘ，ｙ）（Ｘｉｊ：ｉ＝１〜８，ｊ＝１〜８に相当）、８行８列の変換出力係数をＦ（ｕ，ｖ）（Ｘｔｉｊ  ｉ＝１〜８，ｊ＝１〜８に相当）とすると、変換出力Ｆ（ｕ，ｖ）はＴＴＣ標準ＪＴ−Ｈ２６１に示される次式（１）で与えられるものを用いる。
【００３９】
0003576807.tif 000002
但し、ｘ，ｙ，ｕ，ｖ＝０，１，２，…，７
ｘ，ｙ＝画素領域における空間座標
ｕ，ｖ＝変換領域における座標
Ｃ（ｕ）＝１／√２      ｕ＝０の場合
Ｃ（ｖ）＝１／√２      ｖ＝０の場合
Ｃ（ｕ），Ｃ（ｖ）＝１  上記以外
とする。また、変換されるブロックに対してｘ＝０はブロックの左端、ｙ＝０はブロックの上端にそれぞれ対応する。
【００４０】
なお、逆直交変換器５が有する逆変換特性は、
ｆ（ｘ，ｙ）＝１／４ΣｕΣｖＣ（ｕ）Ｃ（ｖ）Ｆ（ｕ，ｖ）×cos （π（２ｘ＋１）ｕ／１６）×cos （π（２ｙ＋１）ｖ／１６）……（２）
の様になる。但し、この（２）式の各条件は（１）式のものと同様である。
【００４１】
この変換を行うと、変換係数Ｆは３ビット分ダイナミックレンジが広がった信号となる。すなわち信号ｆが８ビットの場合、変換係数Ｆは１１ビットのダイナミックレンジとなる。
【００４２】
従来の差分符号化では、８ビットの入力信号Ｘから８ビットの予測信号Ρを減算して求めた差分信号Ｅは９ビットであるので、９ビットの差分信号を直交変換した変換係数は１２ビットのダイナミックレンとなる。言い替えると、従来例では、差分変換係数は１２ビットのダイナミックレンジとなり、この変換係数を量子化するには量子化特性は１２ビットのダイナミックレンジが必要となった。
【００４３】
一方、本発明では、８ビットの入力信号Ｘから８ビットの予測信号Ρ８をビットのモジュロ演算で減算して８ビットの差分信号（予測誤差信号）を求める。８ビットの差分信号Ｅを直交変換した変換係数は１１ビットの変換係数となり、量子化器１０は１１ビットのダイナミックレンジの変換係数の信号を量子化すればよく、量子化特性のダイナミックレンジは従来に比べて半分の（１ビット少ない）１１ビットのレンジですむことになる。
【００４４】
レンジ判定器１５の動作について説明する。予測符号化においては、入力信号をＸ、局部復号信号をＹ、量子化雑音をＮとすると、Ｙ＝Ｘ＋Ｎの関係がある。一方、本発明では、予測誤差信号を入力信号（ｎ＝８ビット）と同じダイナミックレンジのモジュロ減算器で求め、局部復号信号も同じダイナミックレンジのモジュロ加算で求めている。このため局部復復号信号はＹｍ  ＝ＭＯＤ（Ｘ＋Ｎ，ｎ）（ｎビットを法とする値）で表され、−２（ｎ−１）〜２（ｎ−１）  −１の範囲の値となる。
【００４５】
従って、例えばＸがレンジの上限値Ｔ＝２（ｎ−１）−１に近い値の場合、量子化雑音ＮがＸＴ−Ｘより大きいと、局部復号信号はＹ−Ｘ＋Ｎはオーバフローしてダイナミックレンジを越えてしまい、実際の局部復号信号の値Ｙｍ  はＹｍ  ＝ＭＯＤ（Ｘ＋Ｎ，ｎ）＝Ｘ＋Ｎ−２ｎ  となり、下限Ｂ＝−２（ｎ−１）に近い負の値と量子化雑音Ｎによりアンダフローが生じた場合も、同様にして下限に近い入力信号に対して量子化雑音の影響によりオーバフローした局部復号信号は上限に近い値をとることになる。
【００４６】
オーバフローかアンダーフローかの判定は入力信号Ｘから局部復号信号Ｙｍ  を減算した雑音Ｎから判定できる。量子化器の量子化雑音は通常２（ｎ−１）の半分より小さく設定されるので、
Ｘ−Ｙｍ  ＞２（ｎ−１）の場合オーバフロー
Ｘ−Ｙｍ  ＜−２（ｎ−１）の場合アンダーフロー
であり、その他の場合はレンジ内で正しい局部復号信号が得られている。
【００４７】
簡単な判定はｎ＋１ビットの減算値（Ｘ−Ｙｍ  ）の上位２ビットをみて判定する。０１ならオーバフロー、１０ならアンダフロー、その他の１１または００の場合は正しい局部復号信号となる。
【００４８】
レンジ判定器１５は信号のレンジを比較判定し、レンジ外信号を求めて出力する。レンジ外信号を直交変換して変換係数を求めることにより、どの変換係数の量子化雑音の影響により局部復号信号がダイナミックレンジを越えたかを判断する。影響を与えている変換係数の量子化出力の量子化雑音により、局部復号信号がダイナミクレンジを越えないようにするため、制御判定器１７はその変換係数の量子化出力を、始めに選択された量子化レベルの代わりに、そのレベルより１つ上または１つ下の量子化レベルを選んで出力する様に制御する。
【００４９】
レンジを越えない信号は０、レンジを越える信号は越えた値を信号値として、レンジ外信号をブロック毎に求める。レンジを越えた時のレンジ外信号値は、オーバフローの場合は正の値、アンダーフローの場合は負の値となる。
【００５０】
制御判定器１７の判定制御動作について説明する。判定制御方法１では、１ブロックの局部復号信号の中で、ダイナミクレンジを越える場合、どの変換係数の量子化雑音の影響が大きいかを推定して、その変換係数に該当する仮の量子化出力を切替え制御する。ダイナミクレンジを越えた部分の信号を示すレンジ外信号をブロックごとに直交変換して変換係数を求める。求められた変換係数のうち、振幅のー番大きいものを求める。
【００５１】
オーバーフローの場合、振幅のー番大きい変換係数が正の値の時は、その変換係数に対応する仮の量子化出力の代わりに１つ下の量子化レベルを選択出力する様に制御し、負の値の時は、その変換係数に対応する仮の量子化出力の代わりに１つ上の量子化レベルを選択するように制御する。アンダーフローの場合、振幅のー番大きい変換係数が正の値の時は、その変換係数に対応する仮の量子化出力の代わりに１つ上の量子化レベルを選択出力するように制御し、負の値の時は、その変換係数に対応する仮の量子化出力の代わりに１つ下の量子化レベルを選択するように制御する。選択器１１は量子化器１０から出力される仮の量子化出力Ｑと１つ上（Ｑ＋  ）と１つ下（Ｑ−  ）の３つの量子化レベルの中で選択を行なうように制御される。
【００５２】
判定制御方法２の例として以下に示す。制御判定器１７の他の例の動作について示す。１ブロックの局部復号信号の中で、ダイナミクレンジを越える場合、正の変換係数の中でどの変換係数の量子化雑音の影響が大きいかを推定して、その変換係数に該当する仮の量子化出力を切り替え制御する。ダイナミクレンジを越えた部分の信号を示すレンジ外信号をブロックごとに直交変換して変換係数を求める。求められた変換係数のうち、振幅の一番大きいものを求める。
【００５３】
オーバーフローが生じている場合、正の変換係数で振幅が一番大きい変換係数を探す。その変換係数に対応する仮の量子化出力の代わりに１つ下の量子化レベルを選択出力するよう制御する。正の変換係数に限定したのは、変換係数が負の値の時に、その変換係数に対応する仮の量子化出力の代わりに１つ上のレベルを選択するように制御すると、変換係数の量子化雑音は正の値が加算されることになり、直流に近い成分については、画素に対して量子化雑音がさらに正の方向に加算されることが生じ、場合によってはさらにオーバフローを防ぐことができなくなるためである。
【００５４】
アンダーフローが生じている場合、正の変換係数で振幅がー番大きい変換係数を探す。その変換係数に対応する仮の量子化出力の替わりに１つ上の量子化レベルを選択出力する様に制御する。
【００５５】
正の変換係数に限定したのは、変換係数が負の値の時に、その変換係数に対応する仮の量子化出力の代わりに１つ下のレベルを選択するように制御すると、変換係数の量子化雑音は負の値が加算されることになり、直流に近い成分については、画素に対して量子化雑音がさらに負の方向に加算されることが生じ、場合によってはさらにアンダーフローを防ぐことができなくなるためである。
【００５６】
判定制御方法３としては、上記の制御判定方法１において、オーバフローした信号の変換係数の最大のものに対応する仮の量子化出力レベルをそれより１つ小さいレベルを量子化出力するように選択制御を仮局部復号信号がオーバフローしなくなるまで繰り返した時、なかなか収束せず、繰り返しが多くなる場合がある。この時は、繰り返しを短くするために、レンジ外信号の値がオーバフローまたはアンダーフローのみの場合になったら、直流成分の変換係数の量子化出力レベルを選択する，ように制御判定を行う。
【００５７】
また、判定制御方法４としては、判定制御方法１において、例えば、レンジ外信号の変換係数の振幅値の大きさが一番目と二番目とが差が無い場合は、−番目と二番目のに対応する予測誤差の変換係数の仮量子化出力レベルを１つ小さいレベル（１つ上又下のレベル）に置き換える判定を行うようにして、誤差変換係数の大きいほうから複数の変換係数の量子化出力に対してその量子化ステップを１つ小さくする判定制御処理を行う。
【００５８】
更に、判定制御方法５としては、直交変換器１６の処理で、予めブロックの１から６４の画素の単位ステップに対する変換係数を求めておき、ブロックのレンジ外信号の変換信号は単位ステップの重み付け総和として求める。直交変換を行わずに済ませることが出来、処理が簡単になる。
【００５９】
更にはまた、判定制御方法６としては、化誤差（雑音）の大きさも考慮して、制御判定を行う。量子化器入力と出力の差分によりブロック毎の量子化雑音を求め、制御判定器に供給し、制御判定器では、仮の量子化出力の量子化雑音の大きさと、レンジ外信号の変換係数の大きさとから、仮局部復号信号がダイナミックレンジを越える影響を与えている変換係数を推定して、ダイナミックレンジを越えないようにするために、その変換係数に該当ずる仮の量子化出力を選択制御する信号を発生する。
【００６０】
図２に第２の実施例を示す適応量子化器３の別の具体的構成例を示す。図１と同等部分同一符号にて示しており、本例では、図１に比較して変換信号Ｅｔ  の量子化雑音Ｎを求める機能として減算器１２が追加され、制御判定器１７の動作が変わるが、他は同じ機能動作をする。
【００６１】
本実施例では、制御判定器１７はレンジ外信号の変換係数の他に、量子化器１０でで変換係数に加えられる量子化雑音Ｎｔの大きさを考慮して制御を行う構成である。減算器１２は直交変換器２から供給される変換係数から量子化された変換係数を減算して量子化雑音を求め制御判定器１７へ供給する。
【００６２】
制御判定器１７はレンジ外信号の変換係数と、変換係数の量子化雑音Ｎｔ  との情報を元に量子化ステップの選択制御を行う。６４種類の変換係数について、両者の積の値が大きい物の係数による量子化雑音が仮の局部復号信号のオーバーフロー又はアンダーフローに大きく影響していると判定し、該当する変換係数の仮の量子化出力の代わりに１つ上又は１つ下の量子化レベルを選択するように制御する。
【００６３】
ＲＯＭ（読出し専用メモリ）に予め該当する量子化雑音を書込んでおけば、ＲＯＭだけで減算器は不要で、量子化器のＲＯＭのなかに共用して作ることが考えられ、Η／Ｗ（ハードウェア）構成が簡単になる。
【００６４】
量子化特性は各変換係数で別々のものを準備しても良いが、制御が複雑になる。例えば、先の文献１の４．２．５項に示される様に、フレーム内符号化用の直流成分用量子化特性と、それ以外の変換係数用に分ける方法もある。そして、ある範囲（マクロブロック）においては同一の量子化特性を適用する。
【００６５】
その他の方法としては、高域成分は、変換係数の成分が小さくなり、視覚的にあらく量子化して目立たなくなることより、変換係数に応じて予めビットシフト等でゲインをあげてから同一の量子化特性で量子化することにより、等価的に高域成分の変換係数は粗く量子化する方法もある。
【００６６】
各量子化レベルを可変長符号化（エントロピー符号化）する場合は、各レベルの発生頻度応じた可変長符号が用いられると、レベル数が多くなっても効率的な符号化が可能であるが、量子化レベル数の制限が必要となるのは、画面転換（シーンチェインジ）部分で情報が多く発生して情報の発生が多すぎる時に効率的な符号化を行うのに必要となる。
【００６７】
【発明の効果】
以上説明したように、本発明によれば、量子化器のダイナミックレンジが従来に比ベて１ビット少ない半分の量子化特性を用いて直交変換の変換係数を量子化することができるため、量子化出力を符号化するビット数が少なくでき、効率的な符号化伝送が行えるという効果がある。
【００６８】
従来は、入力信号から予測信号を減算した予測差分信号は信号のダイナミックレンジが１ビット増加するため、信号のダイナミックレンジが入力信号のダイナミックレンジの２倍になる。このため量子化を行う時、量子化特性のダイナミックレンジは２倍の広さが必要であった。
【００６９】
本発明では、予測符号化方式の予測差分信号を直交変換し、変換係数を量子化して符号化伝送する直交変換符号化装置において、少ないビット数で量子化特性のダイナミックレンジを改善でき過渡応答特性が優れた直交変換符号化用適応量子化方式となるのである。
【図面の簡単な説明】
【図１】本発明の一実施例のブロック図である。
【図２】本発明の他の実施例のブロック図である。
【図３】従来のフレーム間予測直交変換符号化方式の概略を示すブロック図である。
【図４】従来の適応量子化方式を使用した予測符号化方式の概略を示すブロック図である。
【符号の説明】
１，１２  減算器
２，１６  直交変換器
３  適応量子化器
４  符号変換器
５  逆直交変換器
６  加算器
７  予測器
１０  量子化器
１１  選択器
１５  レンジ判定器
１７  判定制御器
１８，１９  出力スイッチ
【図１】
0003576807.tif 000003
【図２】
0003576807.tif 000004
【図３】
0003576807.tif 000005
【図４】
0003576807.tif 000006