(57)【特許請求の範囲】
【請求項１】
４つの周波数領域（ＬＬ、ＬＨ、ＨＬ、ＨＨ）のウェーブレット係数に逆量子化を実行する逆量子化手段と、
前記逆量子化手段における逆量子化後のウェーブレット係数に、逆変換行列を乗算することで逆ウェーブレット変換して、画像データの成分値を得る逆ウェーブレット変換手段と、
前記成分値のうち、レンジの上限を超える成分値を有する画素の成分値をレンジ内に入るように減らして修正する第１の修正手段と、
前記第１の修正手段にて成分値を減らした量である第１の修正量を、当該成分値が減らされた画素の周波数領域に基づいて予め決められた規則を参照して決定される画素の成分値に配分する第１の配分手段と、を備え、
前記予め決められた規則は、
レンジの上限を超える成分値を有する画素の対応する周波数領域のウェーブレット係数を逆ウェーブレット変換する際に乗算する逆変換行列の要素の極性（正負）とは逆の極性を有する逆変換行列の要素と乗算されて逆ウェーブレット変換されるウェーブレット係数の周波数領域に対応する画素を前記修正量を配分する画素とする規則であることを特徴とする画像データ処理装置。
【請求項２】
４つの周波数領域（ＬＬ、ＬＨ、ＨＬ、ＨＨ）のウェーブレット係数に逆量子化を実行する逆量子化手段と、
前記逆量子化手段における逆量子化後のウェーブレット係数に、逆変換行列を乗算することで逆ウェーブレット変換して、画像データの成分値を得る逆ウェーブレット変換手段と、
前記成分値のうち、レンジの下限を下回る成分値を有する画素の成分値をレンジ内に入るように増やして修正する第１の修正手段と、
前記第１の修正手段にて成分値を増やした量である第１の修正量を、当該成分値が増やされた画素の周波数領域に基づいて予め決められた規則を参照して決定される画素の成分値に配分する第１の配分手段と、を備え、
前記予め決められた規則は、
レンジの下限を下回る成分値を有する画素の対応する周波数領域と、当該周波数領域のウェーブレット係数を逆ウェーブレット変換する際に乗算する逆変換行列の要素の極性（正負）とは逆の極性を有する逆変換行列の要素と乗算されて逆ウェーブレット変換されるウェーブレット係数の周波数領域に対応する画素を、前記修正量を配分する画素とする規則であることを特徴とする画像データ処理装置。
【請求項３】
前記第１の配分手段にて第１の修正量が配分された画素が、前記レンジの上限を越える画素又は前記レンジの下限を下回る画素に、垂直方向に隣接した画素又は水平方向に隣接した画素又は対角方向に隣接した画素であることを特徴とする請求項１又は２に記載の画像データ処理装置。
【請求項４】
前記画像データ処理装置はさらに、
前記第１の配分手段にて第１の修正量が配分された画素又は前記第２の配分手段にて第２の修正量が配分された画素の成分値を増やした結果、該成分値がさらにレンジの上限を越えた場合に該画素の該成分値をレンジ上限の値とする手段を有することを特徴とする請求項１に記載の画像データ処理装置。
【請求項５】
前記画像データ処理装置はさらに、
前記第１の配分手段にて第１の修正量が配分された画素又は前記第２の配分手段にて第２の修正量が配分された画素の成分値を減らした結果、該成分値がさらにレンジの下限を下回った場合に該画素の該成分値をレンジ下限の値とする手段を有することを特徴とする請求項２に記載の画像データ処理装置。
【請求項６】
前記逆ウェーブレット変換が画像データの色差成分に対してなされ、前記成分値がＲ値又はＧ値又はＢ値であることを特徴とする請求項１乃至５のいずれか１記載の画像データ処理装置。
【請求項７】
前記逆ウェーブレット変換が画像データの輝度成分に対してなされ、前記成分値がＧ値であることを特徴とする請求項１乃至５のいずれか１記載の画像データ処理装置。
【請求項８】
前記画像データ処理装置はさらに、
前記レンジ上限を越える成分値又は前記レンジ下限を下回る成分値がＧ値である場合に、Ｇの値を丸め処理する手段を有することを特徴とする請求項１乃至７のいずれか１記載の画像データ処理装置。
【請求項９】
前記画像データ処理装置はさらに、
前記周波数変換係数に対する量子化率によって、前記第１の配分手段にて第１の修正量が配分された画素の成分値を増減するか、丸め処理とするかを切り替える手段を有することを特徴とする請求項１乃至７のいずれか１記載の画像データ処理装置。
【請求項１０】
前記画像データ処理装置はさらに、
前記レンジ上限を越える成分値又は前記レンジ下限を下回る成分値がＧ値である場合に、前記周波数変換係数に対する量子化率によって、前記第１の配分手段にて第１の修正量が配分された画素のＧ値を増減するか、丸め処理とするかを切り替える手段を有することを特徴とする請求項１乃至７のいずれか１記載の画像データ処理装置。
【請求項１１】
４つの周波数領域（ＬＬ、ＬＨ、ＨＬ、ＨＨ）のウェーブレット係数に逆量子化を実行する逆量子化ステップと、
前記逆量子化ステップでの逆量子化後のウェーブレット係数に、逆変換行列を乗算することで逆ウェーブレット変換して、画像データの成分値を得る逆ウェーブレット変換ステップと、
前記成分値のうち、レンジの上限を超える成分値を有する画素の成分値をレンジ内に入るように減らして修正する第１の修正ステップと、
前記第１の修正ステップにて成分値を減らした量である第１の修正量を、当該成分値が減らされた画素の周波数領域に基づいて予め決められた規則を参照して決定される画素の成分値に配分する第１の配分ステップと、を有し、
前記予め決められた規則は、
レンジの上限を超える成分値を有する画素の対応する周波数領域のウェーブレット係数を逆ウェーブレット変換する際に乗算する逆変換行列の要素の極性（正負）とは逆の極性を有する逆変換行列の要素と乗算されて逆ウェーブレット変換されるウェーブレット係数の周波数領域に対応する画素を前記修正量を配分する画素とする規則であることを特徴とする画像データ処理方法。
【請求項１２】
４つの周波数領域（ＬＬ、ＬＨ、ＨＬ、ＨＨ）のウェーブレット係数に逆量子化を実行する逆量子化ステップと、
前記逆量子化ステップでの逆量子化後のウェーブレット係数に、逆変換行列を乗算することで逆ウェーブレット変換して、画像データの成分値を得る逆ウェーブレット変換ステップと、
前記成分値のうち、レンジの下限を下回る成分値を有する画素の成分値をレンジ内に入るように増やして修正する第１の修正ステップと、
前記第１の修正ステップにて成分値を増やした量である第１の修正量を、当該成分値が増やされた画素の周波数領域に基づいて予め決められた規則を参照して決定される画素の成分値に配分する第１の配分ステップと、を有し、
前記予め決められた規則は、
レンジの下限を下回る成分値を有する画素の対応する周波数領域と、当該周波数領域のウェーブレット係数を逆ウェーブレット変換する際に乗算する逆変換行列の要素の極性（正負）とは逆の極性を有する逆変換行列の要素と乗算されて逆ウェーブレット変換されるウェーブレット係数の周波数領域に対応する画素を、前記修正量を配分する画素とする規則であることを特徴とする画像データ処理方法。
【請求項１３】
前記第１の配分ステップにて第１の修正量が配分された画素が、前記レンジの上限を越える画素又は前記レンジの下限を下回る画素に、垂直方向に隣接した画素又は水平方向に隣接した画素又は対角方向に隣接した画素であることを特徴とする請求項１１又は１２に記載の画像データ処理方法。
【請求項１４】
前記画像データ処理方法はさらに、
前記第１の配分ステップにて第１の修正量が配分された画素又は前記第２の配分ステップにて第２の修正量が配分された画素の成分値を増やした結果、該成分値がさらにレンジの上限を越えた場合に該画素の該成分値をレンジ上限の値とするステップを有することを特徴とする請求項１１に記載の画像データ処理方法。
【請求項１５】
前記画像データ処理方法はさらに、
前記第１の配分ステップにて第１の修正量が配分された画素又は前記第２の配分ステップにて第２の修正量が配分された画素の成分値を減らした結果、該成分値がさらにレンジの下限を下回った場合に該画素の該成分値をレンジ下限の値とするステップを有することを特徴とする請求項１２に記載の画像データ処理方法。
【請求項１６】
前記逆ウェーブレット変換が画像データの色差成分に対してなされ、前記成分値がＲ値又はＧ値又はＢ値であることを特徴とする請求項１１乃至１５のいずれか１記載の画像データ処理方法。
【請求項１７】
前記逆ウェーブレット変換が画像データの輝度成分に対してなされ、前記成分値がＧ値であることを特徴とする請求項１１乃至１５のいずれか１記載の画像データ処理方法。
【請求項１８】
前記画像データ処理方法はさらに、
前記レンジ上限を越える成分値又は前記レンジ下限を下回る成分値がＧ値である場合に、Ｇの値を丸め処理するステップを有することを特徴とする請求項１１乃至１７のいずれか１記載の画像データ処理方法。
【請求項１９】
前記画像データ処理方法はさらに、
前記周波数変換係数に対する量子化率によって、前記第１の配分ステップにて第１の修正量が配分された画素の成分値を増減するか、丸め処理とするかを切り替えるステップを有することを特徴とする請求項１１乃至１７のいずれか１記載の画像データ処理方法。
【請求項２０】
前記画像データ処理方法はさらに、
前記レンジ上限を越える成分値又は前記レンジ下限を下回る成分値がＧ値である場合に、前記周波数変換係数に対する量子化率によって、前記第１の配分ステップにて第１の修正量が配分された画素のＧ値を増減するか、丸め処理とするかを切り替えるステップを有することを特徴とする請求項１１乃至１７のいずれか１記載の画像データ処理方法。
【請求項２１】
請求項１１乃至２０のいずれか１記載の画像データ処理方法をコンピュータに実行させるためのプログラム。
【請求項２２】
請求項２１記載のプログラムを記録したコンピュータ読み取り可能な記録媒体。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は、画像データ処理装置、画像データ処理方法、プログラム、及び記録媒体に関し、より詳細には、アプリケーションプログラム，プリンタドライバ等のデバイスドライバ，その他画像を扱う機器に応用可能な、カラー画像情報を復号化するための画像データ処理装置、画像データ処理方法、それらのプログラム、及びそのプログラムを記録したコンピュータ読み取り可能な記録媒体に関する。
【０００２】
【従来の技術】
カラー画像の伝送・蓄積の際には、データ量を削減するため、原画像の圧縮を行うのが一般的である。かかる圧縮を行う際には、画像を構成する成分に対し直交変換を施して情報量を偏らせ、変換後の成分に対して量子化を行い、情報量を削減するのが代表的な手法である。また、量子化を極端に行う場合には、画像を構成する特定成分を、全て破棄してしまう（０として扱う）といったことがよく行われる。
【０００３】
特公平７−６３１７７号公報に記載の技術は上記の代表例であり、カラー画像データをブロック単位毎に輝度（明度）信号と色差信号に変換し、さらに明度信号を直交変換して低周波直流成分を表す係数及び高周波交流成分を表す係数を得、その後、低周波の係数，高周波成分の係数に量子化を施している。他方、色差信号は、直交変換はされずに、ブロック内の代表色のみが量子化・符号化される。
【０００４】
さて、上記のような量子化によって圧縮された画像が伸張される場合には、逆量子化が施され、原画像と伸張後の画像との間には量子化誤差が生じる。かかる量子化誤差が大きい場合には、伸張後の画素の値が、本来の所定範囲を越えることがある。
【０００５】
例えば、一般的なフルカラー画像は、ＲＧＢが各８ｂｉｔ、すなわち０〜２５５の値をとる。しかし量子化誤差により、伸張後のＲＧＢの値が負になったり、２５５を越えたりするのである（以下、本出願明細書中ではこの現象をレンジオーバと呼ぶ）。
【０００６】
かかるレンジオーバが生じた場合は、負の値を０に置換し、２５５を越えた値を２５５に置換するという、いわゆる丸め処理（クリッピング処理）が従来から行われている。しかし、量子化が極端な場合等は、レンジオーバ分の値（所定範囲を逸脱した分の値）が大きくなり、単純な丸め処理では局所的に色味が変わってしまい、画質劣化を生じることがある。
【０００７】
以上の現象は、米国特許第５,７５７,９７５号明細書「Artifact reduction for large dynamic range input data in JPEG compression」にも記載のあるところであり、かかる問題に対し上記明細書では、「レンジオーバした画素の近隣（例えば３×３画素の範囲）において、その値が所定範囲内である近隣画素を探し、レンジオーバ値を該近隣画素に再配分する」ことによって局所的な平均値を保存し、色味の変化を抑えることを提案している。
【０００８】
【発明が解決しようとする課題】
上述の「局所的な平均値を保存」する処理は、画質劣化を抑える上で非常に有効であるが、「周囲３×３画素の範囲において、レンジオーバしておらず、かつその値が所定範囲内である近隣画素を探す」という処理は、オーバした１画素のために多くの（例えば周囲の８画素の）画素値を調べなければならず、計算量が多く煩雑である。
【０００９】
本発明は、上述のごとき実情に鑑みてなされたものであり、圧縮に使用する周波数変換に対し、周波数変換係数毎の量子化率や圧縮の主たる対象（例えば自然画像）を考慮することで、上述の「周囲３×３画素の範囲において、近隣画素を探す」処理のような煩雑な処理を行わずに画像データ成分の量子化誤差を修正し、逆変換後の色味の変化を抑えて高画質な処理を行うことが可能な画像データ処理装置、画像データ処理方法、プログラム、及び記録媒体を提供することをその目的とする。
【００１０】
【課題を解決するための手段】
請求項１の発明は、４つの周波数領域（ＬＬ、ＬＨ、ＨＬ、ＨＨ）のウェーブレット係数に逆量子化を実行する逆量子化手段と、前記逆量子化手段における逆量子化後のウェーブレット係数に、逆変換行列を乗算することで逆ウェーブレット変換して、画像データの成分値を得る逆ウェーブレット変換手段と、前記成分値のうち、レンジの上限を超える成分値を有する画素の成分値をレンジ内に入るように減らして修正する第１の修正手段と、前記第１の修正手段にて成分値を減らした量である第１の修正量を、当該成分値が減らされた画素の周波数領域に基づいて予め決められた規則を参照して決定される画素の成分値に配分する第１の配分手段と、を備え、前記予め決められた規則は、レンジの上限を超える成分値を有する画素の対応する周波数領域のウェーブレット係数を逆ウェーブレット変換する際に乗算する逆変換行列の要素の極性（正負）とは逆の極性を有する逆変換行列の要素と乗算されて逆ウェーブレット変換されるウェーブレット係数の周波数領域に対応する画素を前記修正量を配分する画素とする規則であることを特徴としたものである。
【００１１】
請求項２の発明は、４つの周波数領域（ＬＬ、ＬＨ、ＨＬ、ＨＨ）のウェーブレット係数に逆量子化を実行する逆量子化手段と、前記逆量子化手段における逆量子化後のウェーブレット係数に、逆変換行列を乗算することで逆ウェーブレット変換して、画像データの成分値を得る逆ウェーブレット変換手段と、前記成分値のうち、レンジの下限を下回る成分値を有する画素の成分値をレンジ内に入るように増やして修正する第１の修正手段と、前記第１の修正手段にて成分値を増やした量である第１の修正量を、当該成分値が増やされた画素の周波数領域に基づいて予め決められた規則を参照して決定される画素の成分値に配分する第１の配分手段と、を備え、前記予め決められた規則は、レンジの下限を下回る成分値を有する画素の対応する周波数領域と、当該周波数領域のウェーブレット係数を逆ウェーブレット変換する際に乗算する逆変換行列の要素の極性（正負）とは逆の極性を有する逆変換行列の要素と乗算されて逆ウェーブレット変換されるウェーブレット係数の周波数領域に対応する画素を、前記修正量を配分する画素とする規則であることを特徴としたものである。
【００１９】
請求項３の発明は、請求項１又は２の発明において、前記第１の配分手段にて第１の修正量が配分された画素が、前記レンジの上限を越える画素又は前記レンジの下限を下回る画素に、垂直方向に隣接した画素又は水平方向に隣接した画素又は対角方向に隣接した画素であることを特徴としたものである。
【００２０】
請求項４の発明は、請求項１の発明において、前記画像データ処理装置はさらに、前記第１の配分手段にて第１の修正量が配分された画素又は前記第２の配分手段にて第２の修正量が配分された画素の成分値を増やした結果、該成分値がさらにレンジの上限を越えた場合に該画素の該成分値をレンジ上限の値とする手段を有することを特徴としたものである。
【００２１】
請求項５の発明は、請求項２の発明において、前記画像データ処理装置はさらに、前記第１の配分手段にて第１の修正量が配分された画素又は前記第２の配分手段にて第２の修正量が配分された画素の成分値を減らした結果、該成分値がさらにレンジの下限を下回った場合に該画素の該成分値をレンジ下限の値とする手段を有することを特徴としたものである。
【００２３】
請求項６の発明は、請求項１乃至５のいずれか１の発明において、前記逆ウェーブレット変換が画像データの色差成分に対してなされ、前記成分値がＲ値又はＧ値又はＢ値であることを特徴としたものである。
【００２４】
請求項７の発明は、請求項１乃至５のいずれか１の発明において、前記逆ウェーブレット変換が画像データの輝度成分に対してなされ、前記成分値がＧ値であることを特徴としたものである。
【００２５】
請求項８の発明は、請求項１乃至７のいずれか１の発明において、前記画像データ処理装置はさらに、前記レンジ上限を越える成分値又は前記レンジ下限を下回る成分値がＧ値である場合に、Ｇの値を丸め処理する手段を有することを特徴としたものである。
【００２６】
請求項９の発明は、請求項１乃至７のいずれか１の発明において、前記画像データ処理装置はさらに、前記周波数変換係数に対する量子化率によって、前記第１の配分手段にて第１の修正量が配分された画素の成分値を増減するか、丸め処理とするかを切り替える手段を有することを特徴としたものである。
【００２７】
請求項１０の発明は、請求項１乃至７のいずれか１の発明において、前記画像データ処理装置はさらに、前記レンジ上限を越える成分値又は前記レンジ下限を下回る成分値がＧ値である場合に、前記周波数変換係数に対する量子化率によって、前記第１の配分手段にて第１の修正量が配分された画素のＧ値を増減するか、丸め処理とするかを切り替える手段を有することを特徴としたものである。
【００２８】
請求項１１の発明は、４つの周波数領域（ＬＬ、ＬＨ、ＨＬ、ＨＨ）のウェーブレット係数に逆量子化を実行する逆量子化ステップと、前記逆量子化ステップでの逆量子化後のウェーブレット係数に、逆変換行列を乗算することで逆ウェーブレット変換して、画像データの成分値を得る逆ウェーブレット変換ステップと、前記成分値のうち、レンジの上限を超える成分値を有する画素の成分値をレンジ内に入るように減らして修正する第１の修正ステップと、前記第１の修正ステップにて成分値を減らした量である第１の修正量を、当該成分値が減らされた画素の周波数領域に基づいて予め決められた規則を参照して決定される画素の成分値に配分する第１の配分ステップと、を有し、前記予め決められた規則は、レンジの上限を超える成分値を有する画素の対応する周波数領域のウェーブレット係数を逆ウェーブレット変換する際に乗算する逆変換行列の要素の極性（正負）とは逆の極性を有する逆変換行列の要素と乗算されて逆ウェーブレット変換されるウェーブレット係数の周波数領域に対応する画素を前記修正量を配分する画素とする規則であることを特徴としたものである。
請求項１２の発明は、４つの周波数領域（ＬＬ、ＬＨ、ＨＬ、ＨＨ）のウェーブレット係数に逆量子化を実行する逆量子化ステップと、前記逆量子化ステップでの逆量子化後のウェーブレット係数に、逆変換行列を乗算することで逆ウェーブレット変換して、画像データの成分値を得る逆ウェーブレット変換ステップと、前記成分値のうち、レンジの下限を下回る成分値を有する画素の成分値をレンジ内に入るように増やして修正する第１の修正ステップと、前記第１の修正ステップにて成分値を増やした量である第１の修正量を、当該成分値が増やされた画素の周波数領域に基づいて予め決められた規則を参照して決定される画素の成分値に配分する第１の配分ステップと、を有し、前記予め決められた規則は、レンジの下限を下回る成分値を有する画素の対応する周波数領域と、当該周波数領域のウェーブレット係数を逆ウェーブレット変換する際に乗算する逆変換行列の要素の極性（正負）とは逆の極性を有する逆変換行列の要素と乗算されて逆ウェーブレット変換されるウェーブレット係数の周波数領域に対応する画素を、前記修正量を配分する画素とする規則であることを特徴としたものである。
【００３０】
請求項１３の発明は、請求項１１又は１２の発明において、前記第１の配分ステップにて第１の修正量が配分された画素が、前記レンジの上限を越える画素又は前記レンジの下限を下回る画素に、垂直方向に隣接した画素又は水平方向に隣接した画素又は対角方向に隣接した画素であることを特徴としたものである。
請求項１４の発明は、請求項１１の発明において、前記画像データ処理方法はさらに、前記第１の配分ステップにて第１の修正量が配分された画素又は前記第２の配分ステップにて第２の修正量が配分された画素の成分値を増やした結果、該成分値がさらにレンジの上限を越えた場合に該画素の該成分値をレンジ上限の値とするステップを有することを特徴としたものである。
請求項１５の発明は、請求項１２の発明において、前記画像データ処理方法はさらに、前記第１の配分ステップにて第１の修正量が配分された画素又は前記第２の配分ステップにて第２の修正量が配分された画素の成分値を減らした結果、該成分値がさらにレンジの下限を下回った場合に該画素の該成分値をレンジ下限の値とするステップを有することを特徴としたものである。
【００３１】
請求項１６の発明は、請求項１１乃至１５のいずれか１の発明において、前記逆ウェーブレット変換が画像データの色差成分に対してなされ、前記成分値がＲ値又はＧ値又はＢ値であることを特徴としたものである。
請求項１７の発明は、請求項１１乃至１５のいずれか１の発明において、前記逆ウェーブレット変換が画像データの輝度成分に対してなされ、前記成分値がＧ値であることを特徴としたものである。
請求項１８の発明は、請求項１１乃至１７のいずれか１の発明において、前記画像データ処理方法はさらに、前記レンジ上限を越える成分値又は前記レンジ下限を下回る成分値がＧ値である場合に、Ｇの値を丸め処理するステップを有することを特徴としたものである。
【００３２】
請求項１９の発明は、請求項１１乃至１７のいずれか１の発明において、前記画像データ処理方法はさらに、前記周波数変換係数に対する量子化率によって、前記第１の配分ステップにて第１の修正量が配分された画素の成分値を増減するか、丸め処理とするかを切り替えるステップを有することを特徴としたものである。
請求項２０の発明は、請求項１１乃至１７のいずれか１の発明において、前記画像データ処理方法はさらに、前記レンジ上限を越える成分値又は前記レンジ下限を下回る成分値がＧ値である場合に、前記周波数変換係数に対する量子化率によって、前記第１の配分ステップにて第１の修正量が配分された画素のＧ値を増減するか、丸め処理とするかを切り替えるステップを有することを特徴としたものである。
【００３３】
請求項２１の発明は、請求項１１乃至２０のいずれか１記載の画像データ処理方法をコンピュータに実行させるためのプログラムである。
【００３４】
請求項２２の発明は、請求項２１記載のプログラムを記録したコンピュータ読み取り可能な記録媒体である。
【００３５】
【発明の実施の形態】
米国特許第５,７５７,９７５号明細書には、レンジオーバした画素の近隣（例えば３×３画素の範囲）において、その値が所定範囲内である近隣画素を探し、レンジオーバ値を該近隣画素に再配分することによって局所的な平均値を保存し、色味の変化を抑えることが可能な擬似信号削減方法が記載されている。ここでの「局所的な平均値を保存」する処理は、画質劣化を抑える上で非常に有効であるが、「周囲３×３画素の範囲において、レンジオーバしておらず、かつその値が所定範囲内である近隣画素を探す」という処理は、オーバした１画素のために多くの（例えば周囲の８画素の）画素値を調べなければならず、計算量が多く煩雑である。
【００３６】
しかしながら、圧縮に使用する直交変換をＳ変換に限定し、Ｓ変換係数毎の量子化率や圧縮の主たる対象（例えば、主に自然画像）を考慮することで、上記「周囲３×３画素の範囲において、近隣画素を探す」ような煩雑な処理を省略することが可能であることは特願２００１−５３７２１号明細書に記載した。
以下、この省略が可能な理由について説明する。
【００３７】
図１は、Ｓ変換を説明するための図で、図１（Ａ）はＳ変換を行う画素を示す図、図１（Ｂ）は図１（Ａ）の画素値をＳ変換するためのＳ変換式及びＳ変換式が示す各方向のエッジを示す図、図１（Ｃ）は図１（Ｂ）でＳ変換された各成分を逆Ｓ変換するための逆Ｓ変換式を示す図である。
まず、Ｓ変換とは、例えば図１に示すような２×２画素単位で、画素の値ａ，ｂ，ｃ，ｄを４つの係数ＬＬ，ＨＬ，ＬＨ，ＨＨに変換する処理である。ＬＬが低周波成分であり、その他が高周波成分であるが、図１（Ａ），（Ｂ）から明らかなように、ＨＬ，ＬＨ，ＨＨは順に縦方向，横方向，斜め方向のエッジに対して大きな値を示するものである。なお、ａ，ｂ，ｃ，ｄは、例えばＲＧＢのＲの値であったり、Ｇの値であったり、輝度の値や色差の値であったりする。
【００３８】
そして、４つの係数から、もとのａ〜ｄの値を求める逆Ｓ変換は以下の通りである（図１（Ｃ）参照）。
ａ＝ＬＬ＋（ＨＬ＋ＬＨ）／２＋ＨＨ／４  …  （１）
ｂ＝ＬＬ−（ＨＬ−ＬＨ）／２−ＨＨ／４  …  （２）
ｃ＝ＬＬ＋（ＨＬ−ＬＨ）／２−ＨＨ／４  …  （３）
ｄ＝ＬＬ−（ＨＬ＋ＬＨ）／２＋ＨＨ／４  …  （４）
【００３９】
通常、量子化を行う際には、画質への影響が大きい低周波成分、すなわちＬＬ成分の量子化率を最小にし、画質への影響が小さい高周波成分、すなわちＬＨ，ＨＬ，ＨＨ成分の量子化率を最大にする。なお、本出願明細書でいう量子化率とは、「原データに対する量子化後のデータの、情報量の削減の度合い」を意味し、８ｂｉｔのデータを１ｂｉｔ削減して７ｂｉｔにする場合には、量子化率は２であり、８ｂｉｔのデータを３ｂｉｔ削減して５ｂｉｔにする場合には、量子化率は２3＝８である。
【００４０】
その結果、量子化誤差も、ＬＬ成分について最小になり、ＬＨ，ＨＬ，ＨＨ成分については大きくなる。すなわち、通常の圧縮方式においては、圧縮・伸張の過程で式（１）〜（４）の右辺に生じる誤差は、ＬＨ，ＨＬ，ＨＨ成分の量子化誤差とみなすことができる。
【００４１】
今、ＨＬの量子化誤差がΔＥであるとする。式（１）〜（４）から明らかなように、ΔＥによって生じる誤差の極性（正負）は、「ａ，ｃには同一方向で、ｂ，ｄではａ，ｃとは反対方向」である。すなわち、量子化誤差でａ，ｃの値がΔＥ／２増えれば、ｂ，ｄの値はΔＥ／２減るのである。そしてａ，ｂ，ｃ，ｄの圧縮前の（オリジナルの）値のうち、レンジの上限・下限に近いものがあった場合、ΔＥ／２の値が十分大きい場合には、レンジオーバが生じるというわけである。
【００４２】
ここで、前述の「局所的な処理平均値を保存する処理」、例えば、ａ，ｂ，ｃ，ｄの総和を保存するような処理を行うことを考える。
例えば、ａがレンジ上限である２５５を越えて２６０として復号（伸張）されたとし、ａの値をレンジ上限の２５５に修正することを考える。この場合、修正の前後でａ，ｂ，ｃ，ｄの総和を保存するためには、２６０から減じたオーバ分の値５を、いずれかの画素、或いはいずれかの複数の画素に加える必要がある（以下、この処理をレンジオーバ補正とよぶ）。
【００４３】
前述の誤差の方向から明らかなように、オーバ分をｃに加えたのではｃの誤差がさらに増加してしまう。よってａのオーバ分は、「ｂ又はｄ（又はその両方）」に加えるべきである。つまり、オーバ分を吸収すべき画素を予め決めておくことができるのである。また、ａがレンジ下限を下回った場合にも、また、量子化誤差がＬＨ，ＨＨに生じた場合に関しても同様な議論が成立する。
【００４４】
図２は、Ｓ変換を行う画素間の方向の凡例を示す図である。図２のように、ａから見たｂ，ｃ，ｄを順に水平方向，垂直方向，対角方向とよぶ場合、上述の議論によって、量子化誤差が生じる係数と、オーバ分を配分すべき画素の位置の関係は以下の表１のようになる。
【００４５】
【表１】
0004137416.tif 000002
【００４６】
しかし、実際の個々の場面においては、どの係数の量子化誤差によってレンジオーバが生じているかを判断することはできない。通常、どの係数に量子化誤差が生じているかさえ判断できない。このため、どの係数に起因してもいいように対処するか、どの係数の量子化誤差に起因するレンジオーバなのかを確率的に考えて対処する必要がある。
【００４７】
例えば、レンジオーバ分を１画素で吸収しようとする場合、表１から明らかなように、ＨＬ，ＬＨいずれかの量子化誤差に起因する場合には、両者で共通な（＝どちらに起因してもよい）「対角画素」を選択すればよいことがわかる。
【００４８】
また表１は、ＨＨに起因するレンジオーバの場合には、対角画素への配分は得策ではないことを示している。しかし、ＨＨ起因のレンジオーバが、ＨＬ，ＬＨ起因のレンジオーバよりも確率的に起こりにくいのであれば、ＨＬ，ＬＨへの対処を優先して、例えば対角画素を選択するのが簡易かつ有効なのである。
【００４９】
ここで一般的な圧縮方式では、ＨＨ起因のレンジオーバが、ＨＬ，ＬＨ起因のレンジオーバよりも確率的に起こりにくい場合が多い。具体的には以下のような場合である。
【００５０】
（ケース１）
ＨＬ，ＬＨ，ＨＨを同じ量子化ステップ数で線形に量子化する場合：
量子化ステップ数が等しい場合、ＨＬ，ＬＨ，ＨＨに生じる量子化誤差は確率的には等しくできるが、式（１）〜（４）より明らかなように、レンジオーバの原因となる誤差は「ＨＬ，ＬＨの量子化誤差の１／２、ＨＨの量子化誤差の１／４」である。よって、ＨＨ起因のレンジオーバは、ＨＬ，ＬＨ起因のものよりも単純に少なくなる。
【００５１】
（ケース２）
圧縮対象が自然画像で、ＨＬ，ＬＨ，ＨＨを非線形に量子化する場合：
自然画像においては、縦横のエッジに比べ、斜めのエッジが弱いことがよく知られており（重力の影響であろうと言われている）、これはＨＬ，ＬＨの値に比べＨＨの値が小さいことが多いことを意味している（図１の式のように、ＨＨはＨＬ，ＬＨと違い２で除算されないが、それでも小さいのである）。
【００５２】
図３は、自然画像におけるＨＬ，ＬＨ，ＨＨの値のヒストグラムを示す図である。ＨＬ，ＬＨの値に比べＨＨの値が小さいことが多いので、自然画像におけるＨＬ，ＬＨ，ＨＨの値のヒストグラムは図３のようになり、ＨＨはより小さい値が頻出する形状をとる。こうしたヒストグラムの係数を非線形に量子化する場合には、出現頻度を考慮して、値が小さい範囲を密に（＝量子化区間を小さく）、大きい範囲を粗に（＝量子化区間を大きく）量子化するのが通常である。量子化区間が大きいほど、量子化誤差は大きくなるため、非線形な量子化の結果、ＨＨよりも大きな値をとるＬＨ，ＨＬの量子化誤差の方が大きくなるのである。よって、ＨＨ起因のレンジオーバは、ＨＬ，ＬＨ起因のものよりも遙かに少なくなる。
【００５３】
以上のように、レンジオーバ分をどの位置に配分すべきかは、「ＬＨ，ＨＬ，ＨＨ／２の量子化誤差の確率的な大小関係」でまず決定され、さらに「どの（いずれの）係数に起因してもいいように対処するか」否かで決定される。ここで「ＨＨ／２の量子化誤差」とは「ＨＨの量子化誤差の１／２」の意である。量子化ステップ数や量子化区間が、量子化器の設計時点で予め決定されることを考えれば、「ＨＬ，ＬＨ，ＨＨ／２の量子化誤差の確率的な大小関係」は設計時点で決定され、オーバ分の配分先も、設計時点で決定可能なのである。確率的な処理（ほとんどの場合に有効に働く処理）でかまわないのであれば、配分先を探す必要はないのである。
よって、この「確率的な大小関係」、特に量子化誤差が確率的に最大となる係数を主体に考慮した場合、予め決定される配分位置の例は、以下の表２のようになる。なお、「次に配分」の意味は後述する。
【００５４】
【表２】
0004137416.tif 000003
【００５５】
また、この「確率的な大小関係（量子化誤差が確率的に最小となる係数以外の２つの係数）」と「いずれの係数に起因してもいいように」の両方を考慮した場合、予め決定される配分位置の例は、以下の表３のようになる。
【００５６】
【表３】
0004137416.tif 000004
【００５７】
また以上の例は、逆Ｓ変換される量（例えばＲの値）とレンジオーバ補正される量が同じ場合（例えば、Ｓ変換だけで、輝度・色差への色変換をしない場合）で説明したが、逆Ｓ変換される量が輝度や色差で、レンジオーバ補正される量がＲＧＢ値であるような場合でも適用が可能である。
【００５８】
例えば、特公平７−６３１７７号公報に記載の技術の場合、ＲＧＢから成るカラー画像データをブロック単位毎に輝度信号と色差信号に変換し、さらに明度信号を直交変換して係数を得、その後、該係数に量子化を施している。他方、色差信号は、直交変換はされずに、ブロック内の代表値のみが量子化・符号化（圧縮）される。一方、伸張時には、逆直交変換の後、逆色変換が施され、ＲＧＢの値が復号される。
【００５９】
今、この直交変換がＳ変換であり、代表値として色差の平均値を用いる場合を考える。平均値とは、Ｓ変換で言うＬＬ成分に相当するため、実はこれは、輝度・色差の全てをＳ変換し、色差に関しては、ＨＬ，ＬＨ，ＨＨ成分を全て破棄する（＝無限大の量子化ステップ数で量子化する）ことに他ならない。そして圧縮の主たる対象が自然画像である場合には、輝度，色差ともＨＨ成分が最小である。
【００６０】
色差に生じた量子化誤差は、逆色変換の際に結局ＲＧＢの誤差へと伝搬されるため、色差成分のＳ変換係数の、確率的な量子化誤差の大小関係に基づいて、Ｒ値やＢ値に生じたレンジオーバ分の配分先を決定しておくことが可能である。
【００６１】
例えば、色変換がＲＣＴと呼ばれる下式で表される場合、
輝度Ｙ＝（Ｒ＋２Ｇ＋Ｂ）／４
色差Ｕ＝Ｒ−Ｇ
色差Ｖ＝Ｂ−Ｇ
その逆変換は、下式（５）〜（７）になる。
Ｒ＝Ｇ＋Ｕ              …  （５）
Ｇ＝Ｙ−（Ｕ＋Ｖ）／４  …  （６）
Ｂ＝Ｖ＋Ｇ              …  （７）
【００６２】
上述の色変換は、４での除算部をフロア関数を使って切り捨てた場合、或いはシーリング関数を使用して切り上げた場合には可逆な変換となるため、該２つの場合にＲＣＴ（Reversible Component Transform）と呼ばれている。本出願明細書においては簡単のため、可逆か否かに関わらずＲＣＴと略称することにする。
【００６３】
伸張時においては、輝度，色差のいずれについても逆Ｓ変換がなされるため、Ｕ成分を例にとった場合、図１でａと表記した画素位置のＵをＵａ、Ｕ成分をＳ変換したときの係数をＵＬＬ，ＵＨＬ等と表記すれば、
Ｕａ＝ＵＬＬ＋（ＵＨＬ＋ＵＬＨ）／２＋ＵＨＨ／４
Ｕｂ＝ＵＬＬ−（ＵＨＬ−ＵＬＨ）／２−ＵＨＨ／４
Ｕｃ＝ＵＬＬ＋（ＵＨＬ−ＵＬＨ）／２−ＵＨＨ／４
Ｕｄ＝ＵＬＬ−（ＵＨＬ＋ＵＬＨ）／２＋ＵＨＨ／４
となる。今、Ｕの高周波は一律に破棄するため、これまでの議論同様、Ｕａ〜Ｕｄのいずれにおいても、ＨＨ成分の量子化誤差が最小になる。
【００６４】
そして各Ｕａ〜Ｕｄは、式（５）によってＲａ〜Ｒｄへと逆ＲＣＴされ、
0004137416.tif 000005
なる計算がなされるが、通常の圧縮方式では、Ｙａに生じている誤差は、ＵａやＶａに生じている誤差に比べて小さい。伸張後の画質を上げるためには、輝度の量子化率を低くし、色差の量子化率を上げるのが常套手段であるからである。
【００６５】
その結果、式（８）を通じてＲａに生じる誤差は、Ｕａ，Ｖａの量子化誤差が支配的となる。Ｕａ，Ｖａの確率的な量子化誤差が等しく設計されているならば、係数３／４が掛かったＵａに起因する誤差が最大となることになるが、係数毎に見れば、やはりＵＨＨ起因の量子化誤差が最小となるのである。以上の議論はＶ成分とＢ値の関係にも当てはまる。
したがって、色差成分のＳ変換係数の、確率的な量子化誤差の大小関係に基づいて、Ｒ値やＢ値に生じたレンジオーバ分の配分先を決定しておくことが可能なのである。
【００６６】
またＧ成分への支配的な寄与は、輝度Ｙと色差Ｕ，Ｖの量子化率の違い（＝設計方針）によっていずれの場合もありえる。輝度のＨＨ成分又は色差のＨＨ成分からの量子化誤差が最小となるのは同様である。よって、輝度成分又は色差成分のＳ変換係数の確率的な量子化誤差の大小関係に基づいて、Ｇ値に生じたレンジオーバ分の配分先を決定しておくことが可能なのである。
【００６７】
また、以上ではＲＣＴを例にとったが、ＪＰＥＧ等で使用される公知のＹＣｂＣｒ変換等でも同様な議論が成立するのは明らかである。また、圧縮後の伸張時を例にとって説明したが、Ｓ変換係数の量子化後に、逆Ｓ変換がなされる処理であれば、伸張・復号に関わらず適用可能なことも明らかである。
【００６８】
本出願人による特願２００１−５３７２１号明細書に記載の画像データ処理では、逆Ｓ変換後の画像データ成分を処理する際に、レンジの上限を越える（下限を下回る）成分値を有する画素を探し、該画素の該成分値をレンジ内に入るように減らし（増やし）、Ｓ変換係数ＬＨ，ＨＬ，ＨＨ／２の量子化誤差の確率的な大小関係に基づいて予め決定された画素の、前記成分値を増やす（減らす）よう提案している。
【００６９】
以上の議論は、Ｓ変換を前提としたものではあったが、その根底を貫く考え方は、符号化に使用する周波数領域への変換一般（直交変換及びそれに類する変換一般）に適用可能である。すなわち、本出願人による特願２００１−５３７２１号明細書における「レンジオーバ分をどの位置に配分すべきかは、「ＬＨ，ＨＬ，ＨＨ／２の量子化誤差の確率的な大小関係」でまず決定される」との議論は、「レンジオーバ分をどの位置に配分すべきかは、周波数領域への変換の逆変換に使用される行列の各要素の値（これは定数である）と各要素に乗じられる周波数変換係数の各量子化誤差の積の、確率的な大小関係」でまず決定される」と一般化することが可能である。したがって、出願人は特願２００１−１７５００９号明細書において、以下のように述べた。
【００７０】
通常の画像データは、高周波に比べ低周波成分を多く持つ。よって画像を周波数領域で扱うと、成分の偏りに応じて符号を割り当てることができ、データ量を削減することができる。上述の直交変換及びこれに類する変換とは、画像データを周波数領域の値（直交変換においては直交変換係数に相当）に変換する変換である。
【００７１】
まず、ｎ個の画像データｆ０，ｆ１，…，ｆn-1から、ｎ個の係数Ｆ０、Ｆ１、…、Ｆn-1への線形な変換Ａ：
【００７２】
【数１】
0004137416.tif 000006
【００７３】
を考え、この逆変換Ｂを
【００７４】
【数２】
0004137416.tif 000007
【００７５】
とする。符号化は、画像データｆ０，ｆ１，…，ｆn-1から係数Ｆ０，Ｆ１，…，Ｆn-1を求め、必要に応じて係数を量子化し、さらに必要に応じて量子化後の係数にエントロピー符号化を施す、というのが通常の流れである。
【００７６】
一方、復号する場合には、エントロピー符号を復号して量子化後の係数を得、その係数に逆量子化を行い、上述の逆変換Ｂを施して画像データを得ることができる。
【００７７】
ここで、ｎ個の係数Ｆ０，Ｆ１，…，Ｆn-1の逆量子化後の値（量子化誤差を含んだ値）を、Ｆ０′，Ｆ１′，…，Ｆn-1′とし、それぞれに生じた量子化誤差をｅＦ０′，ｅＦ１′，…，ｅＦn-1′とすると、
ｆ０＝ｂ１１・Ｆ０′＋ｂ１２・Ｆ１′＋…＋ｂ１ｎ・Ｆn-1′
であるから、
ｅｆ０＝ｂ１１・ｅＦ０′＋ｂ１２・ｅＦ１′＋…＋ｂ１ｎ・ｅＦn-1′…  （９）
である。ここで、ｅｆ０はデータｆ０に生じた誤差である。
【００７８】
同様な表記法を用いれば、
ｅｆ１＝ｂ２１・ｅＦ０′＋ｂ２２・ｅＦ１′＋…＋ｂ２ｎ・ｅＦn-1′…  （１０）
である。
【００７９】
ここで注意すべきは、逆変換Ｂの要素ｂｉｊは常に定数であり、量子化誤差Ｆ０′，ｅＦ１′，…，ｅＦn-1′の平均的な（確率的な）大小関係は決まっていることが多いということである。
【００８０】
例えば、線形な量子化の場合、量子化ステップ数（線形量子化の除算の分母）が大きいほど量子化誤差は大きくなり、量子化ステップ数は、係数ごとに、すなわちＦ０，Ｆ１，…，Ｆｎ−１ごとに決められることが多い。つまり、復号する側にとってみれば、
ｅｆ０＝ｂ１１・ｅＦ０′＋ｂ１２・ｅＦ１′＋…＋ｂ１ｎ・ｅＦn-1′
の右辺の項、すなわち要素ｂｉｊと量子化誤差ｅＦｉｊの積の、どれが最大かは、最初から予想がつくのである。言い換えれば、右辺のうちの支配的な項は、確率的には最初から決まっているのである。
【００８１】
今仮に、式（９）の右辺の支配的な項がｂ１ｎ・ｅＦn-1′とすると、
ｅｆ０≒ｂ１ｎ・ｅＦn-1′              …  （１１）
と近似できるとする。同様に、式（１０）の右辺の支配的な項がｂ２ｎ・ｅＦn-1′とすると、
ｅｆ１  ≒  ｂ２ｎ・ｅＦn-1′          …  （１２）
と近似できるとする。
【００８２】
逆変換Ｂの要素に特殊性があり、例えばｂ１ｎ＝−ｂ２ｎである場合には、式（１１），（１２）より、
ｅｆ０≒−ｅｆ１
が成立する。これは、画像データｆ０に誤差ｅが生じている場合、近似的には、画像データｆ１に−ｅだけの誤差が生じていることを意味する。
【００８３】
よって、画像データｆ０の値がレンジ上限（例えば２５５）に近く、復号後のｆ０がレンジオーバを起こした場合（例えば２６０になった場合）、レンジを超えた部分（２６０−２５５＝５）を誤差と見なしうるならば、これを画像データｆ１の復号値に加えてよいことになる。
【００８４】
また、ｂ１ｎ＝−ｂ２ｎが成立しない場合でも、ｂ１ｎとｂ２ｎの極性が違う場合には、画像データｆ０に生じている誤差と画像データｆ１に生じている誤差は、逆の極性になる。
【００８５】
よって、同様に復号後のｆ０がレンジオーバを起こした場合、レンジを超えた部分を誤差と見なしうるならば、これ（或いはこれの一部）を画像データｆ１の復号値に加えると、ｆ１自体の誤差も改善される可能性があることになる。
【００８６】
以上のように、逆変換行列の同じ列の要素中に、絶対値が同じで極性が逆であるペアが存在する例としては、アダマール変換やスラント変換、Ｓ変換、ウェーブレット変換（後述する５×３，９×７のウェーブレット変換等）等、多くの例を挙げることができる。なお、本発明の効果が成立するためには、極性だけが逆であればよく、絶対値が同じである必要は必ずしもない。
【００８７】
従って、Ｓ変換に限らず、上述した逆変換行列の要素に特殊性がある場合は、広く「周波数領域への変換の逆変換に使用される行列の要素の値と、該要素に乗じられる周波数変換係数に生じる量子化誤差との積の、確率的な大小関係を利用して決定される所定の画素に対して、レンジオーバ分を配分する」ことが可能なのである。
【００８８】
以下、一般的な周波数領域への変換として、ＪＰＥＧ２０００で規定されているウェーブレット変換をとりあげ、本発明に係る原理を具体的に説明するが、一般的な周波数領域への変換にも適用できることは言及するまでもない。
【００８９】
図４は、本発明に係る画像データ処理装置及び方法を説明するためのブロック図で、ＪＰＥＧ２０００におけるＤＷＴ方式の画像圧縮／伸張アルゴリズムを説明するための図である。
色空間変換・逆変換部１からの入力又は色空間変換・逆変換部１への出力として、さらにはタグ処理部５からの入力又はタグ処理部５への出力として、２次元ウェーブレット変換・逆変換部２，量子化・逆量子化部３，エントロピー符号化・復号化部４のそれぞれが備えられている。各部は正逆方向で別構成としても良いことは言及するまでもないが、各部における処理はコンポーネント毎に実行するような構成としてもよい。
【００９０】
ＪＰＥＧ２０００は、２００１年に国際標準になったＪＰＥＧ後継の画像圧縮伸張方式であり、図４のように、２次元ウエーブレット変換・逆変換部２、量子化・逆量子化部３、エントロピー符号化・復号化部４等で構成されている。このうち本発明に関する部分は、２次元ウエーブレット逆変換部である。
【００９１】
ＪＰＥＧ２０００で規定されているウェーブレット変換には、５×３ウェーブレット変換及び９×７ウェーブレット変換の２種類があり、ウェーブレット変換に関してはこれらの変換のみを説明するが、他のウェーブレット変換にも適用可能である。
【００９２】
５×３ウェーブレット変換では、画像に対してまず垂直方向に、偶数番目の画素の画素値（Ｐ（２ｉ）等と表記）と奇数番目の画素値（Ｐ（２ｉ＋１）等と表記）に下式（１３）を適用して（中間段階の）ウェーブレット係数（Ｃ（２ｉ＋１）等と表記）を得た後、偶数番目の画素値（Ｐ（２ｉ）等と表記）と、先に求めた奇数番目のウェーブレット係数を用いて、下式（１４）で（やはり中間段階の）ウェーブレット係数を求める。なお、下式における記号|_  _|は、フロア関数を示す。
C(2i+1)=P(2i+1)-|_(P(2i)+P(2i+2))/2_|          …  （１３）
C(2i)=P(2i)+|_(C(2i-1)+C(2i+1)+2)/4_|          …  （１４）
【００９３】
次に、水平方向に、奇数及び偶数番目の画素の係数値に式（１３）（ここではＰ（２ｉ）等は、一度垂直方向への変換を受けたものであるから、係数を指す）を適用してウェーブレット係数を得た後、偶数番目の係数値と、先に求めた奇数番目のウェーブレット係数を用いて、式（１４）でウェーブレット係数を求める。
【００９４】
図５は、ウェーブレット係数の２次元配列とその種類を説明するための図である。
上述の垂直及び水平方向の変換が終わった後には、最終的なウェーブレット係数の２次元配列が得られる。今これをＣ（ｘ，ｙ）と表記すると、Ｃ（２ｉ，２ｊ）がＬＬ（１１）、Ｃ（２ｉ＋１，２ｊ）がＨＬ（１２）、Ｃ（２ｉ＋１，２ｊ）がＬＨ（１３）、Ｃ（２ｉ＋１，２ｊ＋１）がＨＨ（１４）と呼ばれる係数である。ただし、ｉ≧０，ｊ≧０とする。このようにウェーブレット変換では、１回の変換（デコンポジション）で、ＬＬ，ＨＬ，ＬＨ，ＨＨ４種類の係数が、各々原画像の画素数の１／４の数だけ得られる。なお、ここでの「デコンポジション」に関し、ＪＰＥＧ２０００  ＰａｒｔI  ＦＤＩＳ（Final Draft international Standard）には、以下のように定義されている。
decomposition level：
A collection of wavelet subbands where each coefficient has the same spatial impact or span with respect to the source component samples. These include the HL,LH,and HH subbands of the same two dimensional subband decomposition. For the last decomposition level the LL subband is also included.
【００９５】
逆変換時には、これら４種類の係数に対して逆変換を実施する。逆変換時には、係数の２次元配列に対してまず水平方向に、偶数及び奇数番目の係数値（Ｃ（２ｉ），Ｃ（２ｉ＋１）等と表記）に下式（１５）を適用して（中間段階の）ウェーブレット係数を得た後、奇数番目の係数値（Ｃ（２ｉ＋１）等と表記）と、先に求めた偶数番目のウェーブレット係数を用いて、下式（１６）で（やはり中間段階の）ウェーブレット係数を求める。下式における記号|_  _|は、フロア関数を示す。
P(2i)=C(2i)−|_(C(2i-1)+C(2i+1)+2)/4_|        …  （１５）
P(2i+1)=C(2i+1)+|_(P(2i)+P(2i+2))/2_|        …  （１６）
【００９６】
次に、垂直方向に、偶数及び奇数番目の係数値に式（１５）を適用して画素値を得た後、奇数番目の係数値と、先に求めた偶数番目の画素値を用いて、式（１６）で最終的な画素値を求める。これにより、周波数領域の係数の２次元配列が、画素値の２次元配列Ｐ（ｘ，ｙ）へと逆変換される。
【００９７】
このように、ウェーブレット変換の逆変換においても、各画素値はウェーブレット係数の線形和として与えられ、その式は画素位置によって４種類に分かれる。
図６乃至図９は、５×３ウェーブレット逆変換に使用される定数の例を示す図で、各図（Ａ）で画素位置毎の画素値を、各図（Ｂ）で対応する係数位置を示している。
まず、画素値Ｐ（２ｉ，２ｊ）は、その画素位置を取り囲む９つの係数の線形和として与えられる。図６は、その９つの係数に乗じられる定数（前述した、逆変換行列の要素の値に相当する）を、係数の位置に対応させて示したものであり、例えば画素値Ｐ（２ｉ，２ｊ）の画素位置２１に対応する係数の位置を位置２２（ＬＬの位置）として表している。すなわち、次のように逆変換される。
【００９８】
Ｐ（２ｉ，２ｊ）＝０.０６２５・Ｃ（２ｉ−１，２ｊ−１）−０.２５・Ｃ（２ｉ，２ｊ−１）＋０.０６２５・Ｃ（２ｉ＋１，２ｊ−１）−０.２５・Ｃ（２ｉ−１，２ｊ）＋Ｃ（２ｉ，２ｊ）−０.２５・Ｃ（２ｉ＋１，２ｊ）＋０.０６２５・Ｃ（２ｉ−１，２ｊ＋１）−０.２５・Ｃ（２ｉ，２ｊ＋１）＋０.０６２５・Ｃ（２ｉ＋１，２ｊ＋１）−０.７５
【００９９】
５×３の場合、式（１５）中に定数項２が存在するため、逆変換の式にも定数項−０.７５が存在する。また正確には、式中にフロア関数が入るが、本発明の議論には影響を与えないので簡単のため省略している。
【０１００】
ここで、Ｃ（２ｉ，２ｊ）等の係数が逆量子化後のものであり、その量子化誤差をＣ（２ｉ，２ｊ）′とすれば、これまで同様、以下のようになる。なお、下式の定数項は、誤差を議論する場合には無関係となる。
Ｐ（２ｉ，２ｊ）′＝０.０６２５・Ｃ（２ｉ−１，２ｊ−１）′−０.２５・Ｃ（２ｉ，２ｊ−１）′＋０.０６２５・Ｃ（２ｉ＋１，２ｊ−１）′−０.２５・Ｃ（２ｉ−１，２ｊ）′＋Ｃ（２ｉ，２ｊ）′−０.２５・Ｃ（２ｉ＋１，２ｊ）′＋０.０６２５・Ｃ（２ｉ−１，２ｊ＋１）′−０.２５・Ｃ（２ｉ，２ｊ＋１）′＋０.０６２５・Ｃ（２ｉ＋１，２ｊ＋１）′
【０１０１】
同様に、図７乃至図９は、それぞれＰ（２ｉ＋１，２ｊ），Ｐ（２ｉ，２ｊ＋１），Ｐ（２ｉ＋１，２ｊ＋１）について逆変換に使用される定数値を示したものであり、図６と同様に、それぞれ画素値の位置を画素位置２３，２５，２７で表し、対応する係数の位置をそれぞれ位置２４，２６，２８（ＨＬ，ＬＨ，ＨＨの位置）として表している。
【０１０２】
これまでの議論では、復号側にとって、確率的なＣ（２ｉ，２ｊ）′等が既知であることが必要である。ここで、Ｃ（２ｉ，２ｊ）はＬＬ、Ｃ（２ｉ＋１，２ｊ）はＨＬ、Ｃ（２ｉ＋１，２ｊ）はＬＨ、Ｃ（２ｉ＋１，２ｊ＋１）はＨＨと呼ばれる係数であった。ウェーブレット変換を使用する符号化において線形量子化を行う場合、上述の４種類の係数ごとに量子化ステップ数（係数を除算するときの分母）を設定するのが通常であり、ＪＰＥＧ２０００でも同様である。ＪＰＥＧ２０００の場合、線形量子化を行う場合には、符号中にその量子化ステップ数を埋め込む仕様になっているため、復号の際にこれを容易に知ることができる。また、線形量子化とは別の手法、例えばトランケートとよばれる符号削減による量子化などで量子化されている場合にも、当然ながら復号時には量子化ステップ数相当の量を知ることができる。
【０１０３】
今ここで、ＬＬ，ＨＬ，ＬＨ，ＨＨに対する量子化ステップ数を、順に１，４，３２，３２，６４（１：８：８：１６）としたとする。通常、確率的な量子化誤差は、量子化ステップ数に比例すると近似してよいので、次のようになる。
Ｃ（２ｉ，２ｊ）′：Ｃ（２ｉ＋１，２ｊ）′：Ｃ（２ｉ＋１，２ｊ）′：Ｃ（２ｉ＋１，２ｊ＋１）′＝１：８：８：１６
【０１０４】
図５のように、ＬＬ係数は多数存在するが、それら全てに対する確率的な量子化誤差は、量子化ステップ数で決まるため等しくなる。
なお、逆量子化時には、逆量子化後のウェーブレット係数に前記量子化ステップ数を乗じるのが最も単純な方法であり、この場合には、
〔量子化前のウェーブレット係数〕≧〔逆量子化後のウェーブレット係数〕
となり、明らかに上述の近似が成立する。
【０１０５】
一方、より正確な逆量子化のため、実験的にもとめた定数α（例えば０.５）を用いて、
〔逆量子化後のウェーブレット係数〕＝（〔量子化後のウェーブレット係数〕±α）×〔前記量子化ステップ数〕
とするのも一般的である。この場合には、量子化誤差は、正、負、０のいずれの値もとるが、やはり上述の近似が成立する。
【０１０６】
図１０乃至図１３は、それぞれ図６乃至図９の定数から得た、４種類の位置の画素に生じる誤差に対する、各位置の寄与度を示す図である。
図６乃至図９の定数に上述の確率的な量子化誤差の比を乗じると、４種類の位置（ＬＬ，ＨＬ，ＬＨ，ＨＨの位置）の画素に生じる誤差に対する、各位置の寄与度は、それぞれ図１０乃至図１３に示すようになる。なお、図１０乃至図１３においては、各図（Ａ）で画素値を、各図（Ｂ）で対応する係数位置を示し、各図（Ａ）において寄与度の最も大きい係数の位置に網掛けをして示している。
【０１０７】
ここで、図１３に注目すると、ＨＨ位置の画素の誤差への寄与は、ＨＨ位置からの寄与が最大である。よってＨＨ位置の画素がレンジオーバ（＝レンジを越える、或いは下回る）した場合、それはＨＨ位置にあった係数（＝ＨＨ係数）の誤差によるものである確率が最も大きいと推測できる。もちろん、実際の個々の場合においては、ＨＨ係数の単独の誤差だけでなく、計２５個の（係数の誤差×定数）の和によってレンジオーバが生じるため、本推測が成立しない場合もある。そうした場合をも考慮に入れた確率的観点から、別の推測をすることも可能であろう。しかしながら、上述の簡易な推測が妥当な場合も多いのである。
【０１０８】
さて、ではＨＨ係数の誤差が原因でＨＨ位置の画素がレンジを越えた場合、該ＨＨ係数の誤差が、他の画素にどう作用するかを考える。図１３と図１１を比較すると、ＨＨ位置の寄与度は、図１３で９であるのに対して、図１１で逆の極性の−３である。しかもこの−３という寄与度は、図１１中の寄与度の内、上から２番目のものである。
【０１０９】
よって、ＨＨ位置の画素がレンジを越えた場合、ＨＬ位置の画素はレンジを下回る可能性が高いといえる。従って、ＨＨ位置の画素のレンジを越えた分は、ＨＬ位置の画素に配分すべきであると推測可能である。ＨＨ位置の画素がレンジを下回った場合にも、同様に考えて、ＨＬ位置の画素から配分すべきであると推測可能である。
【０１１０】
ただし、図１３と図１２の比較においても、「９」「−３」という同様な議論が成り立つため、ＨＨ位置の画素のレンジオーバ分は、ＬＨ位置の画素に配分すべきであると推測することも、同じ確率で可能である。
【０１１１】
同様な議論で、ＨＬ位置の画素に誤差が生じると、それはＨＬ位置（寄与度６）の係数の誤差であると推測でき、その誤差はＬＬ位置の画素に反対かつ最大（寄与度−２）に働くため、ＬＨ位置の画素のレンジオーバはＬＬ位置に配分すべきとなる。また、ＬＬ位置の次としては、寄与度が−１であるＬＨ位置の画素が配分すべき候補となる。また、ＬＨ位置の次の第３候補としては、「６」の次に大きいＨＨ位置の寄与度「−３」によるレンジオーバと考え、同じＨＨ位置での寄与度が「９」であるＨＨ位置に配分することとなろう。
また、ＬＬ位置のレンジオーバの配分は、寄与度「−２」の逆極性の「６」を有するＨＬ又はＬＨである。
【０１１２】
図１４は、レンジオーバに際し、確率的観点からあらかじめ決定された配分先の例を示す図である。
以上の議論をまとめれば、レンジオーバに際し、確率的観点からあらかじめ決定された配分先の例としては、ＬＬ位置の画素がレンジオーバした場合はＨＬ又はＬＨ位置の画素へ配分し、ＨＬ位置の画素がレンジオーバした場合はＬＬ位置（次候補はＬＨ位置）の画素へ配分し、ＬＨ位置の画素がレンジオーバした場合はＬＬ位置（次候補はＨＬ位置）の画素へ配分し、ＨＨ位置の画素がレンジオーバした場合はＨＬ又はＬＨ位置の画素へ配分するようにすればよい。
【０１１３】
なお、以上の議論では、量子化ステップ数の比を１：８：８：１６としたが、これを１：１：１：１とした場合の寄与度は当然異なる。
図１５は、量子化ステップ数の比を１：１：１：１とした場合の寄与度を示す図である。なお、図１５においては簡単のため各位置ごとに寄与度の最大値のみを記載しており、図１０乃至図１３を省略して表現したものである。同様な考え方を適用すれば、やはり図１４を得ることができる。従って、個々の量子化ステップ数の比を考慮して配分先を変えることも可能ではあるが、比によらず、ある程度配分先を固定しておくことも可能である。
【０１１４】
これまでの説明では、ＬＬ位置からみると、図１４でいうＨＬ位置の画素は「水平方向右に隣接した画素」であり、ＬＨ画素の位置は「垂直方向下に隣接した画素」である。しかし、図１０乃至図１３の寄与度の対称性を考えれば、図１４でいうＨＬ位置を「水平方向左に隣接した画素」を指すものとし、ＬＨ画素の位置を「垂直方向上に隣接した画素」を指すものとしてもよい。つまり、左右上下を区別しない方法もある。
【０１１５】
なお、以上では５×３ウェーブレットを具体例として説明したが、次に９×７ウェーブレットを具体例として説明する。
図１６乃至図１９は、９×７ウェーブレット逆変換に使用される定数の例を示す図である。図１６乃至図１９においては、それぞれ、画素値Ｐ（２ｉ，２ｊ），Ｐ（２ｉ＋１，２ｊ），Ｐ（２ｉ，２ｊ＋１），Ｐ（２ｉ＋１，２ｊ＋１）が、画素位置３１，３２，３３，３４に表され、それらは、それぞれ係数位置ＬＬ，ＨＬ，ＬＨ，ＨＨに対応している。
図２０は量子化ステップ数の比を１：８：８：１６とした場合の寄与度を示す図で、図２１は量子化ステップ数の比を１：１：１：１とした場合の寄与度を示す図である。なお、図２０及び図２１においては簡単のため各位置ごとに寄与度の最大値のみを記載している。
【０１１６】
９×７ウェーブレットの場合も５×３ウェーブレットの場合と同様に、図１６乃至図１９を得、量子化誤差の比を考慮した図２０、図２１をもとに同様な議論をすると、やはり図１４の表を配分例として採用することができる。なお、９×７ウェーブレット変換の方法等は直接本発明の原理には関係しないので、公知のＪＰＥＧ２０００の標準仕様書等を参照されたい。
【０１１７】
本出願人による特願２００１−１７５００９号明細書に記載の画像データ処理では、所定の周波数領域への変換の逆変換により、周波数領域から逆変換された画像データ成分を処理する際に、レンジの上限を越える（下限を下回る）成分値を有する画素を探し、該画素の該成分値をレンジ内に入るように減らし（増やし）、前記逆変換に使用される行列の各要素と各要素に乗じられる周波数変換係数に生じる各量子化誤差との積の、確率的な大小関係を利用して予め決定された画素の、前記成分値を増やす（減らす）よう提案している。
【０１１８】
このように、レンジオーバ分を予め規定した所定の画素に配分する場合、配分後のこの所定画素の値もレンジ内に収まるのが通常である。しかし、係数間の誤差の累積等により、配分後の所定画素の値が、レンジを越えたり、下回ったりすることがある。かかる場合には、再配分か、丸め処理が必要である。表２、表３のところで述べた「次に配分」とは、この再配分のことである。
【０１１９】
そこで、他の実施形態に係る画像データ処理装置においては、予め決定された画素の成分値を増やした結果、その成分値がさらにレンジの上限（下限）を越えた場合に、その画素の成分値をレンジ内に入るように減らし（増やし）、上述の確率的な大小関係を利用して予め決定された第２の画素の、その成分値を増やす（減らす）よう提案している。
【０１２０】
図２２は、レンジオーバに際し、確率的観点からあらかじめ決定された配分先の例を示す図である。この例では、図２２に示した位置の画素に対してレンジオーバ分の値の配分を行う。これは図１４と類似のものであるが、第２配分先とは、第１配分先への配分の結果、第１配分先自体がレンジオーバを起こしてしまった場合、その第１配分先のレンジオーバ分をさらに配分すべき位置を示している。これは、「確率的観点から第一配分先が妥当」という仮定が完全には成立しなかった場合に、確率的観点から第２配分先へ配分するものである。すなわち、レンジオーバに際し、確率的観点からあらかじめ決定された第１配分先の例として、（１）ＬＬ位置の画素がレンジオーバした場合はＨＬ位置の画素へ配分し、（２）ＨＬ位置の画素がレンジオーバした場合はＬＬ位置の画素へ配分し、（３）ＬＨ位置の画素がレンジオーバした場合はＬＬ位置の画素へ配分し、（４）ＨＨ位置の画素がレンジオーバした場合はＬＨ位置の画素へ配分するようにする。さらに、第１配分先自体がレンジオーバを起こしてしまった場合には、第２配分先としてそれぞれ（１）ＬＬ位置へ、（２）ＬＨ位置へ、（３）ＬＨ位置へ、（４）ＨＬ位置へ、配分するとよい。第２配分先の決定法は図２２を見れば明らかであるが、ここでは簡単のため、ＬＨ位置の第２配分先を同じＬＨ位置としている。１回目の配分後ＬＬ位置がオーバした場合には、ＨＬ又はＬＨのどちらかからの配分によるオーバと考えられ、配分もとの位置情報を保持しておけば、どちらからかを判別することも可能である。しかし、ここでは、簡易にＨＬからと仮定して、ＨＬの第２配分先のＬＨへ配分することとしている。
【０１２１】
また、以上の説明では、確率的な観点のみから図１４及び図２２の配分例を導出したが、観点として、プログラムの実装上の都合や処理速度、或いは特願２００１−５３７２１号明細書に記載した『どの（いずれの）係数に起因してもいいように対処するか』といった別の観点を加え、図１４及び図２２とは別の配分先をあらかじめ決定しておくことも容易である。本出願明細書において「利用して」とは、確率的観点のみに基づくことを意味しておらず、かかる別の観点を加味してもよいことを意味している。
【０１２２】
以上の議論は、「レンジオーバ分をどの位置に配分すべきかは、周波数領域への変換の逆変換に使用される行列の要素の値(これは定数である)と、該要素に乗じられる周波数変換係数の量子化誤差の積の、確率的な大小関係でまず決定される」との立場に立った議論であるが、より簡易な方法も存在する。上述したように「本発明の効果が成立するためには、極性だけが逆であればよく、絶対値が同じである必要は必ずしもない」からである。つまり、量子化誤差を考慮せずとも、逆変換行列の要素がもつ極性の違いさえ利用すれば、最大あるいは最適ではないにしろレンジオーバ分を補正する効果が得られるからである。
【０１２３】
また、上述したように「個々の量子化ステップ数の比を考慮して配分先を変えることも可能ではあるが、比によらず、ある程度配分先を固定しておくことも可能」である。つまり、量子化誤差を考慮せずに、逆変換行列の要素の極性及びその要素の絶対値の大きさだけを利用しても、レンジオーバ分を補正する効果が得られるのである。
以上をもとに、本発明の実施形態を説明する。
【０１２４】
図２３乃至図２６は、それぞれ図１０乃至図１３に示した５×３ウェーブレット変換の逆変換時の定数から、極性だけを取り出して表した図であり、各図（Ａ）で画素値の極性を、各図（Ｂ）で対応する係数位置を示し、各図（Ａ）において寄与度の最も大きい係数の位置に網掛けをして示している。画素値Ｐ（２ｉ，２ｊ）は、その画素位置を取り囲む９つの係数の線形和として与えられ、図２３においては、その９つの係数に乗じられる定数（前述した、逆変換行列の要素の値に相当する）の極性を、係数の位置に対応させて示したものであり、例えば画素値Ｐ（２ｉ，２ｊ）の画素位置４１に対応する係数の位置を位置４２（ＬＬの位置）として表している。同様に、図２４乃至図２６は、それぞれＰ（２ｉ＋１，２ｊ），Ｐ（２ｉ，２ｊ＋１），Ｐ（２ｉ＋１，２ｊ＋１）について逆変換に使用される定数の極性を示したものであり、図２３と同様に、それぞれ画素値の位置を画素位置４３，４５，４７で表し、対応する係数の位置をそれぞれ位置４４，４６，４８（ＨＬ，ＬＨ，ＨＨの位置）として表している。
【０１２５】
ここで極性が＋とは、その定数に乗じられるウェーブレット係数の量子化誤差の極性が＋である場合に、画素値へも＋の誤差が伝達されることを意味し、−の場合は、逆の極性の誤差が伝達されることを意味する。これらの極性をまとめると図２７となる。図２７には、５×３ウェーブレット逆変換における、各位置の係数のレンジオーバへの寄与の方向（極性）を示しており、９×７ウェーブレット逆変換の場合にも極性をまとめると図２７と同じになる。
【０１２６】
例えば、ＬＬ位置の画素がレンジをオーバし、それがＨＬ位置の係数の誤差に起因する場合、その係数の誤差はＨＨ位置の画素に対しては、逆極性に働く。また、そのレンジオーバがＬＨ位置の係数の誤差に起因する場合にも、該係数の誤差は同様にＨＨ位置の画素に対して逆極性に働く。つまり、２つのケースのどちらの場合でも効果を発揮する配分法として、ＬＬ位置の画素のレンジオーバ分の値を、ＨＨ位置に配分する方法が存在する。これは正に、先の特願２００１−５３７２１号明細書に記載の『どの（いずれの）係数に起因してもいいように対処する』といった観点での決定法である。ＨＬ位置の画素とＬＨ位置の画素の関係も同様であり、『どの（いずれの）係数に起因してもいいように対処する』ような決定が可能である。
【０１２７】
図２８は、レンジオーバに際し、極性のみから予め決定された配分先の例を示す図である。
先の特願２００１−１７５００９号明細書に記載の発明と同様に、省メモリのため、図５の太線で示した４画素単位でレンジオーバ補正処理を行うとすれば、極性のみを考慮した簡易な方法では、図２８のように第１の配分先を対角画素と規定することができる。すなわち、レンジオーバした画素が、ＬＬ位置，ＨＬ位置，ＬＨ位置，ＨＨ位置であった場合に、それぞれ、ＨＨ位置（対角）へ，ＬＨ位置（対角）へ，ＨＬ位置（対角）へ，ＬＬ位置（対角）へ、第１の配分を行うようにする。また、第１の配分によって配分先にレンジオーバが生じた場合には、上記“起因”の仮定が不適切であった可能性が高いため、ＨＨ位置に起因すると考えて、ＬＬ位置とＬＨ位置間、ＨＬ位置とＨＨ位置間で再配分を行うことが可能である。
【０１２８】
図２９乃至図３１は、それぞれレンジオーバに際し、極性のみから予め決定された配分先の他の例を示す図である。
図２８の配分先の決定方法と同様に極性のみを考慮する場合、第２の配分先に関して、図２９に示した選択も可能である。すなわち、第１の配分を図２８にしたがって行い、第１の配分によって配分先にレンジオーバが生じた場合には、上記“起因”の仮定が不適切であった可能性が高いため、ＨＨ位置に起因すると考えて、ＬＬ位置とＨＬ位置間、ＬＨ位置とＨＨ位置間で再配分を行う。
【０１２９】
また同様な考え方で、図３０や図３１に示した選択も可能である。
図３０においては、レンジオーバした画素が、ＬＬ位置，ＨＬ位置，ＬＨ位置，ＨＨ位置であった場合に、それぞれ、ＬＨ位置（垂直）へ，ＨＨ位置（垂直）へ，ＬＬ位置（垂直）へ，ＨＬ位置（垂直）へ、第１の配分を行うようにする。第１の配分によって配分先にレンジオーバが生じた場合には、上記“起因”の仮定が不適切であった可能性が高いため、ＬＨ位置に起因すると考えて、ＬＬ位置，ＨＬ位置，ＬＨ位置，ＨＨ位置でのレンジオーバそれぞれに対し、ＨＬ位置（水平）又はＨＨ（対角）へ，ＬＬ位置（水平）又はＬＨ（対角）へ，ＨＨ位置（水平）又はＨＬ（対角）へ，ＬＨ位置（水平）又はＬＬ（対角）へ、第２の配分を行うようにする。
【０１３０】
図３１においては、レンジオーバした画素が、ＬＬ位置，ＨＬ位置，ＬＨ位置，ＨＨ位置であった場合に、それぞれ、ＨＬ位置（水平）へ，ＨＨ位置（水平）へ，ＬＬ位置（水平）へ，ＬＨ位置（水平）へ、第１の配分を行うようにする。第１の配分によって配分先にレンジオーバが生じた場合には、上記“起因”の仮定が不適切であった可能性が高いため、ＨＬ位置に起因すると考えて、ＬＬ位置，ＨＬ位置，ＬＨ位置，ＨＨ位置でのレンジオーバそれぞれに対し、ＬＨ位置（垂直）又はＨＨ（対角）へ，ＨＨ位置（垂直）又はＬＨ（対角）へ，ＬＬ位置（垂直）又はＨＬ（対角）へ，ＨＬ位置（垂直）又はＬＬ（対角）へ、第２の配分を行うようにする。
【０１３１】
以上は、確率的観点を無視して簡易さを優先した方法であるが、続いて、逆変換行列の要素の極性に加えその要素の絶対値の大きさにも基づき、寄与度を考慮して決めた例を示す。この場合、上述した図１５が、まさに「逆変換行列の要素の極性と、その要素の絶対値の大きさに基いた寄与度」を示した物となる。よって５×３ウェーブレット変換の場合、「逆変換行列の要素の極性と、その要素の絶対値の大きさに基いた寄与度」のみを利用してあらかじめ決定される配分先は、図１４或いは図２２に示すようになるのである。
同様に、９×７ウェーブレットの場合は図２１が寄与度を示し、図２２がその配分先となるのである。
【０１３２】
図３２は、本発明に係る画像データ処理装置を説明するためのブロック図である。
本発明の一実施形態に係る画像データ処理装置５０は、所定の周波数領域への変換の逆変換により周波数領域から逆変換された画像データ成分（例えば前述のＲ値やＢ値、さらには輝度や色差でもよい）を処理する装置であり、レンジオーバ画素チェック手段５１と、成分値修正手段５２と、成分値配分手段５３とを有するものとする。レンジオーバ画素チェック手段５１は、レンジの上限を越える成分値を有する画素を探す手段である。また、成分値修正手段５２は、レンジオーバ画素チェック手段５１で探した画素の成分値をレンジ内に入るように減らす手段である。成分値配分手段５３は、成分値修正手段５２で減らす成分値に対して他の画素の同じ成分値を増やす手段である。ここで、他の画素とは、この逆変換に使用される行列の各要素の極性（又は極性及び絶対値）を利用して、予め決定された画素のことである。本実施形態によれば、レンジ上限オーバ時に、簡易な手法で逆変換後（伸張・復号時）の色味の変化を抑え、高画質な処理（伸張・復号処理）を行うことが可能となる。
なお、後述する各実施形態においては図３２を参照して各手段を、本実施形態での各手段と同じものとして説明してあるが、当然同一手段である必要はなく、さらに、各手段が各実施形態での機能のみを備えていても、他の実施形態での機能を兼ね備えていてもよい。
【０１３３】
また、本発明の他の実施形態に係る画像データ処理装置は、所定の周波数領域への変換の逆変換により周波数領域から逆変換された画像データ成分（例えば前述のＲ値やＢ値、さらには輝度や色差でもよい）を処理する装置であり、レンジオーバ画素チェック手段５１と、成分値修正手段５２と、成分値配分手段５３とを有するものとする。レンジオーバ画素チェック手段５１は、レンジの下限を下回る成分値を有する画素を探す手段である。また、成分値修正手段５２は、レンジオーバ画素チェック手段５１で探した画素の成分値をレンジ内に入るように増やす手段である。成分値配分手段５３は、成分値修正手段５２で増やす成分値に対して他の画素の同じ成分値を減らす手段である。ここで、他の画素とは、この逆変換に使用される行列の各要素の極性（又は極性及び絶対値）を利用して、予め決定された画素のことである。本実施形態によれば、レンジ下限を下回ったときに、簡易な手法で逆換後（伸張・復号時）の色味の変化を抑え、高画質な処理（伸張・復号処理）を行うことが可能となる。
【０１３４】
以上のように、レンジオーバ分を予め規定した所定の画素に配分する場合、配分後のこの所定画素の値もレンジ内に収まるのが通常である。しかし、係数間の誤差の累積等により、配分後の所定画素の値が、レンジを越えたり、下回ったりすることがある。かかる場合には、再配分か、丸め処理が必要である。表２、表３のところで述べた「次に配分」とは、この再配分のことである。
【０１３５】
そこで、本発明の他の実施形態に係る画像データ処理装置においては、予め決定された画素の成分値を増やした結果、その成分値がさらにレンジの上限を越えた場合に、成分値修正手段５２により、その画素の成分値をレンジ内に入るように減らし、成分値配分手段５３により、極性（又は極性及び絶対値）を利用して予め決定された第２の画素の、その成分値を増やす。本実施形態によれば、レンジ上限オーバが繰り返されたときに、より簡易な手法で逆変換後（伸張・復号時）の色味の変化を抑え、高画質な処理（伸張・復号処理）を行うことが可能となる。
【０１３６】
ここで、本発明の他の実施形態として、値を増やした画素の成分値、すなわち予め決定された画素又は第２の画素の成分値が、さらにレンジの上限を越えた場合に、その画素の成分値をレンジ上限の値とする（丸め処理）手段を備えてもよい。本実施形態によれば、レンジオーバが繰り返されたときの対処を、より簡易に行うことが可能となる。
【０１３７】
また、本発明の他の実施形態に係る画像データ処理装置においては、予め決定された画素の成分値を減らした結果、その成分値がさらにレンジの下限を下回った場合に、成分値修正手段５２により、その画素の成分値をレンジ内に入るように増やし、成分値配分手段５３により、極性（又は極性及び絶対値）を利用して予め決定された第２の画素の、その成分値を減らす。本実施形態によれば、レンジ下限をオーバ（下回る）が繰り返されたときに、より簡易な手法で逆変換後（伸張・復号時）の色味の変化を抑え、高画質な処理（伸張・復号処理）を行うことが可能となる。
【０１３８】
ここで、本発明の他の実施形態として、値を減らした画素の成分値、すなわち予め決定された画素又は第２の画素の成分値が、さらにレンジの下限を下回った場合に、その画素の成分値をレンジ下限の値とする（丸め処理）手段を備えてもよい。本実施形態によれば、レンジオーバが繰り返されたときの対処を、簡易に行うことが可能となる。
【０１３９】
本発明の他の実施形態に係る画像データ処理装置は、上述の予め決定された画素が、レンジの上限を越える画素又はレンジの下限を下回る画素に、垂直方向に隣接した画素であり、且つ、上述の予め決定された第２の画素が、さらにレンジの上限を越えた画素又はさらにレンジの下限を下回った画素に、水平方向に隣接した画素又は対角方向に隣接した画素であるようにしたものである。本実施形態によれば、画像の復号時において、レンジオーバ（レンジの上限又は下限のオーバ）が繰り返されたときの対処を簡易に行うことが可能となる。
【０１４０】
また、本発明の他の実施形態に係る画像データ処理装置は、上述の予め決定された画素が、レンジの上限を越える画素又はレンジの下限を下回る画素に、水平方向に隣接した画素であり、且つ、上述の予め決定された第２の画素が、さらにレンジの上限を越えた画素又はさらにレンジの下限を下回った画素に垂直方向に隣接した画素又は対角方向に隣接した画素であるようにしたものである。本実施形態によれば、画像の復号時において、レンジオーバが繰り返されたときの対処を簡易に行うことが可能となる。
【０１４１】
また、本発明の他の実施形態に係る画像データ処理装置は、上述の予め決定された画素が、レンジの上限を越える画素又はレンジの下限を下回る画素に、対角方向に隣接した画素であり、且つ、上述の予め決定された第２の画素が、さらにレンジの上限を越えた画素又はさらにレンジの下限を下回った画素に垂直方向に隣接した画素又は水平方向に隣接した画素であるようにしたものである。本実施形態によれば、画像の復号時において、レンジオーバが繰り返されたときの対処を簡易に行うことが可能となる。
【０１４２】
また、本発明の他の実施形態に係る画像データ処理装置は、上述の予め決定された画素が、レンジの上限を越える画素又はレンジの下限を下回る画素に、垂直方向に隣接した画素又は水平方向に隣接した画素又は対角方向に隣接した画素であるようにしたものである。本実施形態によれば、画像の復号時において、より簡易な手法で逆変換後（伸張・復号時）の色味の変化を抑え、高画質な処理（伸張・復号処理）を行うことが可能となる。
【０１４３】
また、本発明の他の実施形態として、上述の各実施形態の画像データ処理装置において、減らす値の大きさと増やす値の大きさを一致させるようにしてもよい。本実施形態によれば、増減させる成分値の総和（平均値）を保持することで、色味の変化を精密に抑え、高画質な処理（伸張・復号処理）を行うことが可能となる。
【０１４４】
また、特願２００１−５３７２１号明細書に記載の考察と同様の考察により、該明細書で記した『色差成分のＳ変換係数の、確率的な量子化誤差の大小関係に基づいて、Ｒ値やＢ値に生じたレンジオーバ分の配分先を決定しておくことが可能』という事実は、本発明においては『色差成分の逆変換に使用される行列の要素の極性、又は極性及びその絶対値を利用して、Ｒ値やＢ値に生じたレンジオーバ分の配分先を決定しておくことが可能』と読み替えられる。同様に、該明細書の『輝度成分又は色差成分のＳ変換係数の確率的な量子化誤差の大小関係に基づいて、Ｇ値に生じたレンジオーバ分の配分先を決定しておくことが可能』という事実は、『輝度成分又は色差成分の逆変換に使用される行列の要素の極性、又は極性およびその絶対値を利用して、Ｇ値に生じたレンジオーバ分の配分先を決定しておくことが可能』と読み替えることができる。
【０１４５】
したがって、本発明の他の実施形態として、上述の各実施形態の画像データ処理装置において、上述の逆変換が画像データの色差成分に対してなされるものとし、且つ、補正する成分値をＲ値又はＧ値又はＢ値としてもよい。本実施形態によれば、逆変換後に逆色変換がなされる典型的な復号化経路において、ＲＧＢ値のレンジオーバへの対処を、上述の逆変換に使用される行列の各要素の極性（及び絶対値）を利用して簡易に行うことが可能となる。
【０１４６】
また、本発明の他の実施形態として、上述の各実施形態の画像データ処理装置において、上述の逆変換が画像データの輝度成分に対してなされるものとし、且つ、補正する成分値をＧ値としてもよい。本実施形態によれば、逆変換後に逆色変換がなされる典型的な復号化経路において、Ｇ値のレンジオーバへの対処を、前記逆変換に使用される行列の各要素の極性（及び絶対値）を利用して簡易に行うことが可能となる。
【０１４７】
また、先の出願で記したように、復号後（伸張後）の画質を維持するためには、輝度の量子化率を色差の量子化率よりも低くするのが通常であるが、かかる場合は、前述のＲＣＴの式（５）〜（７）の例からも明らかなように、Ｇに生じる誤差は、Ｒ，Ｂに生じる誤差よりも小さくなる。その結果Ｇの場合、レンジオーバが生じたとしても、オーバ分の値は小さい。
【０１４８】
そこで、本発明の他の実施形態として、上述の各実施形態の画像データ処理装置において、上述したレンジ上限を越える成分値又はレンジ下限を下回る成分値がＧである場合に、Ｇの値を丸め処理する手段を備えてもよい。本実施形態によれば、オーバ分の値が小さいと想定される成分値の場合には丸め処理にすることにより、レンジオーバへの対処を簡易化することが可能となる。
【０１４９】
また、特願２００１−５３７２１号明細書において記載したように、画像データの圧縮率を可変にするために符号化時の量子化率が可変であるのも一般的だが、量子化率が低い場合には、レンジオーバ自体も少なくなり、オーバ分の値も小さくなる。
【０１５０】
そこで、本発明の他の実施形態として、上述の各実施形態の画像データ処理装置において、上述した周波数変換係数に対する量子化率によって、上述の予め決定された画素の成分値を増減するか、或いは、丸め処理とするかを切り替える手段を有するようにしてもよい。本実施形態によれば、オーバ分の値が小さいと想定される場合には丸め処理にすることにより、レンジオーバへの対処を簡易化することが可能となる。
【０１５１】
また、本発明の他の実施形態として、上述の各実施形態の画像データ処理装置において、上述したレンジ上限を越える成分値又はレンジ下限を下回る成分値がＧである場合に、上述の周波数変換係数の量子化率によって、上述した予め決定された画素のＧ値を増減するか、丸め処理とするかを切り替える手段を有するようにしてもよい。本実施形態によれば、オーバ分の値が小さいと想定される場合及び成分値の場合に丸め処理にすることにより、レンジオーバへの対処を簡易化することが可能となる。
【０１５２】
また、前述のとおり、本発明はＪＰＥＧ２０００で採用されているような、ウェーブレット変換に好適に応用することができる。
そこで、本発明の他の実施形態に係る画像データ処理装置においては、変換としてウェーブレット変換（ＪＰＥＧ２０００で規定された５×３ウェーブレット変換又は９×７ウェーブレット変換を含む）を採用し、上述の各実施形態に適用するものとする。本実施形態によれば、ウェーブレット変換がなされた画像（ＪＰＥＧ２０００画像など）の復号時におけるレンジオーバに際し、色味の変化を抑え、高画質な復号を行うことが可能となる。
【０１５３】
本発明の一実施形態に係る画像データ処理方法は、周波数領域から逆変換された画像データ成分を処理する方法であって、レンジの上限を越える成分値を有する画素を探すステップと、その画素の成分値をレンジ内に入るように減らすステップと、上述の逆変換に使用される行列の各要素の極性（又は、極性及び絶対値）を利用して予め決定された画素の、その成分値を増やすステップを有するものとする。本実施形態によれば、レンジ上限オーバ時に、最も簡易な手法で逆変換後（伸張・復号時）の色味の変化を抑え、高画質な処理（伸張・復号処理）を行うことが可能となる。
【０１５４】
また、本発明の他の実施形態として、周波数領域から逆変換された画像データ成分を処理する方法であって、レンジの下限を下回る成分値を有する画素を探すステップと、その画素の成分値をレンジ内に入るように増やすステップと、上述の逆変換に使用される行列の各要素の極性（又は、極性及び絶対値）を利用して予め決定された画素の、その成分値を減らすステップを有するものとする。本実施形態によれば、レンジ下限オーバ時に、最も簡易な手法で逆変換後（伸張・復号時）の色味の変化を抑え、高画質な処理（伸張・復号処理）を行うことが可能となる。
なお、その他の実施形態としては、上述した各実施形態の画像データ処理装置における処理手順からなる画像データ処理方法が挙げられるが、省略する。
【０１５５】
以上、本発明の画像データ処理装置及び画像データ処理方法を中心に各実施形態を説明してきたが、本発明は、コンピュータをそれら装置として又はそれらの装置の各手段として機能させるための、或いはコンピュータにそれら方法を実行させるためのプログラム（それらの処理内容が実装されているコンピュータプログラム）としても、或いは、そのプログラムを記録したコンピュータ読み取り可能な記録媒体（それらの処理内容が記録されているコンピュータ読み取り可能な情報記録媒体）としての形態も可能である。このプログラムにより、上述の各実施形態に対応した処理によって、逆変換後（伸張・復号時）の色味の変化を抑え、高画質な処理（伸張・復号処理）を行うことが可能なシステムを提供することが可能となる。また、この記録媒体により、上述の各実施形態に対応した構成で、逆変換後（伸張・復号時）の色味の変化を抑え、高画質な処理（伸張・復号処理）を行うシステムを提供することが可能となる。
【０１５６】
本発明による画像データ処理の機能を実現するためのプログラムやデータを記憶した記録媒体の実施形態を説明する。記録媒体としては、具体的には、ＣＤ−ＲＯＭ、光磁気ディスク、ＤＶＤ−ＲＯＭ、ＦＤ、フラッシュメモリ、及びその他各種ＲＯＭやＲＡＭ等が想定でき、これら記録媒体に上述した本発明の各実施形態に係る機能をコンピュータに実行させ、画像データ処理の機能を実現するためのプログラムを記録して流通させることにより、当該機能の実現を容易にする。そしてコンピュータ等の情報処理装置に上記のごとくの記録媒体を装着して情報処理装置によりプログラムを読み出すか、若しくは情報処理装置が備えている記憶媒体に当該プログラムを記憶させておき、必要に応じて読み出すことにより、本発明に関わる画像データ処理の機能を実行することができる。
【０１５７】
以下、本発明の実施形態をより具体的に説明する。
図３３は、本発明の一実施形態に係る画像データ処理装置の構成例を示す図である。
ここで説明する画像データ処理装置は、データバス６３を介して、ＲＡＭ６１，ＣＰＵ６２，ＨＤＤ６４が接続された構成となっており、以下の流れで、オリジナル画像（原画像）の圧縮処理（符号化処理）を行う。
【０１５８】
ＨＤＤ６４上に記録されたオリジナル画像は、ＣＰＵ６２からの命令によってＲＡＭ６１上に読み込まれる（i）。次に、圧縮ステップとして、ＣＰＵ６２はＲＡＭ６１上の画像を部分的に読み込み（ii）、後述する一般的な符号化方法を適用して圧縮を行う。ＣＰＵ６２は、圧縮後のデータをＲＡＭ６１上の別の領域に書き込む（iii）。全てのオリジナル画像が圧縮されると、ＣＰＵ６２からの命令によって、圧縮後のデータがＨＤＤ６４上に記録される（iv）。
【０１５９】
また、同一の装置構成において、以下の流れで、圧縮された画像の伸張処理（復号化処理）がなされる。ＨＤＤ６４上に記録された圧縮された画像は、ＣＰＵ６２からの命令によってＲＡＭ６１上に読み込まれる（ivの逆）。次に、伸張ステップとして、ＣＰＵ６２はＲＡＭ６１上の圧縮された画像を部分的に読み込み（iiiの逆）、本発明に係る復号（伸張）処理を適用して伸張を行う。ＣＰＵ６２は、伸張後のデータをＲＡＭ６１上の別の領域に書き込む（iiの逆）。全ての圧縮された画像が伸張されると、ＣＰＵ６２からの命令によって、伸張後のデータがＨＤＤ６４上に記録される（iの逆）。
【０１６０】
図３４は、本発明の一実施形態に係る画像データ処理装置の他の構成例を示す図である。
ここで説明する画像データ処理装置は、データバス７３を介して、ＰＣ内のＲＡＭ７１，ＰＣ内のＣＰＵ７２，ＨＤＤ７４，プリンタ７５が接続された構成となっている。オリジナル画像のプリントアウトに際し、画像の圧縮がなされ、圧縮後のデータがプリンタ７５に送信される。プリンタ７５への送信データ量が低減されるため、送信時間が短縮され、圧縮・伸張に要する時間を加味しても、高速なプリントが可能になる。
【０１６１】
ＨＤＤ７４上に記録されたオリジナル画像は、ＣＰＵ７２からの命令によってＲＡＭ７１上に読み込まれる（i）。次に、圧縮ステップとして、ＣＰＵ７２は、ＲＡＭ７１上の画像を部分的に読み込み（ii）、後述する一般的な符号化方法を適用して圧縮を行う。ＣＰＵ７２は、圧縮後のデータをＲＡＭ７１上の別の領域に書き込む（iii）。ＣＰＵ７２からの命令によって、圧縮後のデータがプリンタ７５内のＲＡＭ７７上に記録される（iv）。伸張ステップとして、プリンタ７５内のＣＰＵ７６は、圧縮後のデータを読み込み（v）、本発明に係る伸張（復号）処理を適用して画像の伸張を行う。ＣＰＵ７６は、伸張後のデータをＲＡＭ７７上に書き込む（vi）。プリンタ７５は、全てのデータが伸張された後、その伸張後のデータを所定の手順でプリントアウトする。
【０１６２】
図３５は、図４の画像データ処理装置における色変換部・逆色変換部を詳細に示した図であり、本発明による画像データ処理装置の一実施例を示す図である。
ＪＰＥＧ２０００の伸張処理の概要は図４に示した通りであり、ここに本発明を適用した場合、色変換部・逆色変換部８０は次のような構成となる。すなわち、色変換部・逆色変換部８０においては、圧縮過程において色変換部８１で色変換され、伸張過程において逆色変換部８２で逆色変換され、レンジオーバ補正部８３でレンジオーバした画素を補正する。なお、レンジオーバ補正部８３は、本発明の中心をなすものであり、図３２で説明したレンジオーバチェック手段５１、成分値修正手段５２、成分値配分手段５３等を含むものとする。また、前述のごとく、本発明の変換として５×３ウェーブレット又は９×７ウェーブレットが適用可能である。また、ＪＰＥＧ２０００でＲＧＢ値から輝度・色差への色変換を行う場合、５×３ウェーブレットを使用する場合にはＲＣＴが使用され、９×７ウェーブレットを使用する場合には、従来のＪＰＥＧと同じＹＣｂＣｒ変換（ＪＰＥＧ２０００ではＩＣＴと略称する。Ｉはｉｒｒｅｖｅｒｓｉｂｌｅの略である）が使用されるよう規定されている。
【０１６３】
ＪＰＥＧ２０００の処理の流れ自体は、前述した「画像データｆ０，ｆ１，…，ｆn-1から係数Ｆ０，Ｆ１，…，Ｆn-1を求め、必要に応じて係数を量子化し、さらに必要に応じてその量子化後の係数にエントロピー符号化を施す」という典型的なものであり、伸張時にはほぼ逆の流れの処理がなされる。本発明が適用されるのは逆色変換後（色変換自体がなされない場合は逆色変換は不要であるが）、ＲＧＢ値等のレンジオーバを補正する部分である（この処理は圧縮時にはない）。より正確には、通常ＪＰＥＧ２０００では、ＲＧＢ値等にオフセットをはかせてから圧縮を行う（ＪＰＥＧ２０００では，ＤＣレベルシフトと呼ばれる）ため、本発明では、そのオフセットが相殺された後に処理を行っている。
【０１６４】
図３６は、本発明の一実施例の画像データ処理装置の処理の流れを説明するためのフロー図で、本発明を適用した復号化の基本的な流れを説明するためのフロー図である。また、図３７乃至図４１は、図３６のレンジオーバ補正処理を詳細に説明するためのフロー図である。
本実施例の画像データ処理装置は、以上のような装置構成のもと、まずエントロピー符号の復号化を行い（ステップＳ１）、復号終了後、全てのウェーブレット係数に逆量子化を施す（ステップＳ２）。次に、逆量子化後のウェーブレット係数を用いて、逆ウェーブレット変換を行い、全画素に対応する輝度，色差を計算する（ステップＳ３）。その後、各画素の輝度，色差に逆色変換を施し、各画素のＲＧＢ値を求める（ステップＳ４）。最後に、丸め・補正量保持処理，補正処理，丸め処理で構成されるレンジオーバ補正処理を施す（ステップＳ５）。本発明の各実施形態の違いは、レンジオーバ補正部の違いとして反映される。本実施例のレンジオーバ補正部は、丸め・補正量保持処理（従来の丸め処理後、レンジオーバした分の値を保持する処理）、補正処理（あらかじめ規定された画素に対して補正量を加える処理）、丸め処理（従来の丸め処理と同じもの）で構成され、図３７乃至図４０にその詳細な処理の流れを示す。
また以下の実施例では、図５の太線で示した４画素単位でレンジオーバ補正処理を行う。これは、省メモリのためである。
【０１６５】
図３７を参照して丸め・補正量保持処理の流れを説明する。
本実施例では、ＲＣＴやＩＣＴが行われているものとし、成分値ｘとは、Ｒ，Ｇ，Ｂのいずれかを指している。まず、４画素（ＬＬ，ＨＬ，ＬＨ，ＨＨ位置の４画素）の全ての補正量を０にセットする（ステップＳ１１）。ステップＳ１２にて成分値ｘが０未満であればｘ＝０とし、オーバした位置（ＬＬ，ＨＬ，ＬＨ，ＨＨ）と補正量ｘ−０を保持し（ステップＳ１３）、ステップＳ１４にて成分値ｘが２５５を越えていればｘ＝２５５とし、オーバした位置（ＬＬ，ＨＬ，ＬＨ，ＨＨ）と補正量ｘ−２５５を保持する（ステップＳ１５）。この処理を４画素分のｘについて繰り返す（ステップＳ１６）。
【０１６６】
図３８を参照して補正量処理の流れを説明する。
補正先の画素位置は、保持してあるオーバした画素位置を元に、図２８乃至図３１のいずれかによって規定されている。まず、ステップＳ２１にて補正量が０であるか否かを判定する。補正量が０でなければステップＳ２２へ進み、保持してあるオーバした位置と配分先の表（上記図２８乃至図３１のいずれか）を参照して、第１の配分先の成分値に補正量を加算する。この処理を４画素分の補正量について繰り返す（ステップＳ２３）。また、補正先の画素位置を極性に加え絶対値を利用した図１４又は図２２で規定してもよい。
【０１６７】
図３９を参照して２回目の補正量処理の流れを説明する。
第２の配分先の画素位置は、保持してある（１回目の補正によって）オーバした画素位置を元に、図２８乃至図３１のいずれかをたどることによって決定される。まず、ステップＳ３１にて補正量が０であるか否かを判定する。補正量が０でなければステップＳ３２へ進み、保持してあるオーバした位置と配分先の表（上記図２８乃至図３１のいずれか）を参照して、第２の配分先の成分値に補正量を加算する。この処理を４画素分の補正量について繰り返す（ステップＳ３３）。また、同様に、補正先の画素位置を極性に加え絶対値を利用した図１４又は図２２で規定してもよい。
【０１６８】
図４０を参照して通常の丸め処理の流れを説明する。
まず、ステップＳ４１にて成分値ｘが０未満であればｘ＝０とし（ステップＳ４２）、ステップＳ４３にて成分値ｘが２５５を越えていればｘ＝２５５とする（ステップＳ４４）。この処理を４画素分のｘについて繰り返す（ステップＳ４５）。
【０１６９】
図４１を参照して、画像データ成分がＲＧＢであるときのレンジオーバ補正処理を説明する。
ＲＧＢ値の全てについて、図５の太線に記載した４画素単位で、各画素の補正量を計算、保持する。まず、Ｒ，Ｇ，Ｂ全てについて丸め・補正量保持処理を行い（ステップＳ５１）、Ｒ，Ｇ，Ｂ全てについて第１配分先への補正処理を行う（ステップＳ５２）。なお、図３７のように、補正量＝レンジオーバ分の値とする。そして配分先は図２８乃至図３１のいずれかに規定された、水平又は垂直又は対角方向に隣接した位置とする。そして次に、Ｇのみを丸め処理とするため、Ｒ，Ｂについて丸め・補正量保持処理を行い、Ｒ，Ｂについてのみ補正量を求め（ステップＳ５３）、その補正量を第２配分先へ加算することにより、Ｒ，Ｂについて第２配分先への補正処理を行う（ステップＳ５４）。最後にＲ，Ｇ，Ｂ全てについて丸め処理を行う（ステップＳ５５）。この処理を画像中の全４画素単位について行う（ステップＳ５６）。
【０１７０】
図４２は、本発明の他の実施例の画像データ処理装置におけるレンジオーバ補正処理の流れを説明するためのフロー図である。
本実施例においては、ステップＳ６１において、ＨＬ，ＬＨ，ＨＨの３つの係数の量子化率のいずれかが閾値Ｔｈ１より大きい場合には、ＲＧＢ全てについて図３７に記載した各画素の補正量を計算、保持し（ステップＳ６２）、さらにＲＧＢ全てについて第１配分先への補正処理を行い（ステップＳ６３）、ＲＧＢ全てについて丸め処理を行う（ステップＳ６７）。また、ステップＳ６１において量子化率が閾値Ｔｈ１以下の場合にはステップＳ６４へ進む。ステップＳ６４では、同じく量子化率が閾値Ｔｈ２（Ｔｈ１＞Ｔｈ２）より大きい場合には、Ｒ，Ｂについて図３７に記載した各画素の補正量を計算、保持し（ステップＳ６５）、さらにＲ，Ｂについて第１配分先への補正処理を行い（ステップＳ６６）、ＲＧＢ全てについて丸め処理を行う（ステップＳ６７）。そして係数全体の量子化率が閾値Ｔｈ２以下の場合には、ステップＳ６５，Ｓ６６を飛ばし、ステップＳ６７へ進む。なお、ここでの処理の詳細は図３７乃至図４０を参照して説明済みであり、省略する。
なお、先述のように、各係数の量子化ステップ数は、符号中に埋め込まれており、これにより閾値との大小関係を判断することができる。
【０１７１】
【発明の効果】
本発明によれば、レンジの上限或いは下限をオーバした時に、最も簡易な手法で逆変換後（伸張・復号時）の色味の変化を抑え、高画質な処理（伸張・復号処理）を行うことが可能となる。また、レンジオーバが繰り返されたときに、簡易な手法で逆変換後（伸張・復号時）の色味の変化を抑え、高画質な処理（伸張・復号処理）を行うことが可能となる。
【図面の簡単な説明】
【図１】  Ｓ変換を説明するための図である。
【図２】  Ｓ変換を行う画素間の方向の凡例を示す図である。
【図３】  自然画像におけるＨＬ，ＬＨ，ＨＨの値のヒストグラムを示す図である。
【図４】  本発明に係る画像データ処理装置及び方法を説明するためのブロック図で、ＪＰＥＧ２０００におけるＤＷＴ方式の画像圧縮／伸張アルゴリズムを説明するための図である。
【図５】  ウェーブレット係数の２次元配列とその種類を説明するための図である。
【図６】  ５×３ウェーブレット逆変換に使用される定数の例を示す図である。
【図７】  ５×３ウェーブレット逆変換に使用される定数の例を示す図である。
【図８】  ５×３ウェーブレット逆変換に使用される定数の例を示す図である。
【図９】  ５×３ウェーブレット逆変換に使用される定数の例を示す図である。
【図１０】  図６の定数から得た、４種類の位置の画素に生じる誤差に対する、各位置の寄与度を示す図である。
【図１１】  図７の定数から得た、４種類の位置の画素に生じる誤差に対する、各位置の寄与度を示す図である。
【図１２】  図８の定数から得た、４種類の位置の画素に生じる誤差に対する、各位置の寄与度を示す図である。
【図１３】  図９の定数から得た、４種類の位置の画素に生じる誤差に対する、各位置の寄与度を示す図である。
【図１４】  レンジオーバに際し、確率的観点からあらかじめ決定された配分先の例を示す図である。
【図１５】  量子化ステップ数の比を１：１：１：１とした場合の寄与度を示す図である。
【図１６】  ９×７ウェーブレット逆変換に使用される定数の例を示す図である。
【図１７】  ９×７ウェーブレット逆変換に使用される定数の例を示す図である。
【図１８】  ９×７ウェーブレット逆変換に使用される定数の例を示す図である。
【図１９】  ９×７ウェーブレット逆変換に使用される定数の例を示す図である。
【図２０】  量子化ステップ数の比を１：８：８：１６とした場合の寄与度を示す図である。
【図２１】  量子化ステップ数の比を１：１：１：１とした場合の寄与度を示す図である。
【図２２】  レンジオーバに際し、確率的観点からあらかじめ決定された配分先の例を示す図である。
【図２３】  図１０に示した５×３ウェーブレット変換の逆変換時の定数から、極性だけを取り出して表した図である。
【図２４】  図１１に示した５×３ウェーブレット変換の逆変換時の定数から、極性だけを取り出して表した図である。
【図２５】  図１２に示した５×３ウェーブレット変換の逆変換時の定数から、極性だけを取り出して表した図である。
【図２６】  図１３に示した５×３ウェーブレット変換の逆変換時の定数から、極性だけを取り出して表した図である。
【図２７】  ５×３ウェーブレット逆変換における、各位置の係数のレンジオーバへの寄与の方向（極性）を示す図である。
【図２８】  レンジオーバに際し、極性のみから予め決定された配分先の例を示す図である。
【図２９】  レンジオーバに際し、極性のみから予め決定された配分先の他の例を示す図である。
【図３０】  レンジオーバに際し、極性のみから予め決定された配分先の他の例を示す図である。
【図３１】  レンジオーバに際し、極性のみから予め決定された配分先の他の例を示す図である。
【図３２】  本発明に係る画像データ処理装置を説明するためのブロック図である。
【図３３】  本発明の一実施形態に係る画像データ処理装置の構成例を示す図である。
【図３４】  本発明の一実施形態に係る画像データ処理装置の他の構成例を示す図である。
【図３５】  図４の画像データ処理装置における色変換部・逆色変換部を詳細に示した図であり、本発明による画像データ処理装置の一実施例を示す図である。
【図３６】  本発明の一実施例の画像データ処理装置の処理の流れを説明するためのフロー図で、本発明を適用した復号化の基本的な流れを説明するためのフロー図である。
【図３７】  図３６のレンジオーバ補正処理を詳細に説明するためのフロー図である。
【図３８】  図３６のレンジオーバ補正処理を詳細に説明するためのフロー図である。
【図３９】  図３６のレンジオーバ補正処理を詳細に説明するためのフロー図である。
【図４０】  図３６のレンジオーバ補正処理を詳細に説明するためのフロー図である。
【図４１】  図３６のレンジオーバ補正処理をＲＧＢ成分に対して説明するためのフロー図である。
【図４２】  本発明の他の実施例の画像データ処理装置の処理の流れを説明するためのフロー図である。
【符号の説明】
１，８０…色変換・逆色変換部、２…２次元ウェーブレット変換・逆変換部、３…量子化・逆量子化部、４…エントロピー符号化・復号化部、５…タグ処理部、５０…画像データ処理装置、５１…レンジオーバ画素チェック手段、５２…成分値修正手段、５３…成分値配分手段、６１，７１，７７…ＲＡＭ、６２，７２，７６…ＣＰＵ、６３，７３…データバス、６４，７４…ＨＤＤ、７５…プリンタ、８１…色変換部、８２…逆色変換部、８３…レンジオーバ補正部。
【図１】
0004137416.tif 000008
【図２】
0004137416.tif 000009
【図３】
0004137416.tif 000010
【図４】
0004137416.tif 000011
【図５】
0004137416.tif 000012
【図６】
0004137416.tif 000013
【図７】
0004137416.tif 000014
【図８】
0004137416.tif 000015
【図９】
0004137416.tif 000016
【図１０】
0004137416.tif 000017
【図１１】
0004137416.tif 000018
【図１２】
0004137416.tif 000019
【図１３】
0004137416.tif 000020
【図１４】
0004137416.tif 000021
【図１５】
0004137416.tif 000022
【図１６】
0004137416.tif 000023
【図１７】
0004137416.tif 000024
【図１８】
0004137416.tif 000025
【図１９】
0004137416.tif 000026
【図２０】
0004137416.tif 000027
【図２１】
0004137416.tif 000028
【図２２】
0004137416.tif 000029
【図２３】
0004137416.tif 000030
【図２４】
0004137416.tif 000031
【図２５】
0004137416.tif 000032
【図２６】
0004137416.tif 000033
【図２７】
0004137416.tif 000034
【図２８】
0004137416.tif 000035
【図２９】
0004137416.tif 000036
【図３０】
0004137416.tif 000037
【図３１】
0004137416.tif 000038
【図３２】
0004137416.tif 000039
【図３３】
0004137416.tif 000040
【図３４】
0004137416.tif 000041
【図３５】
0004137416.tif 000042
【図３６】
0004137416.tif 000043
【図３７】
0004137416.tif 000044
【図３８】
0004137416.tif 000045
【図３９】
0004137416.tif 000046
【図４０】
0004137416.tif 000047
【図４１】
0004137416.tif 000048
【図４２】
0004137416.tif 000049