(57)【要約】  本発明は、圧縮済領域中の画像データの操作、および特にフィルタリングに関係する。ウェーブレットに基づく変換アルゴリズムによって、空間領域中の画像データから変換された圧縮済領域中の画像データを操作することができる方法および装置が提供される。本発明の概念の利点は、フィルタリングを時間において高速化することによって、装置の計算能力、記憶装置、メモリ、および電力消費において内在する制約条件を、画像操作／画像フィルタリングに適用することができるようにすることである。
2008533787.tif 000002
【特許請求の範囲】
【請求項１】
圧縮済領域中の画像データを補正するための方法であって、
圧縮済画像データは、特にウェーブレット変換に基づくサブバンドエンコーダによって、空間領域中の画像データから取得され、
前記方法は、
少なくとも１つの線形オフセットKおよび少なくとも１つの線形スケールファクタλを備えるグループからの少なくとも１つで構成される線形関数f(k)であって、前記空間領域中の画像データに適用可能な該線形関数f(k)を提供するステップと、
前記線形関数f(k)を前記圧縮済領域へ変換するステップと、
前記変換済線形関数f(k)を前記圧縮済画像データの定義済個数のサブバンドに適用し、結果として補正済サブバンドを得ることによって、前記空間領域中の画像データに前記線形関数f(k)を適用した場合の近似を取得するステップと、を備える方法。
【請求項２】
前記線形関数f(k)を圧縮済領域へ変換するステップは、
少なくとも１つの線形オフセットKを前記圧縮済領域へ変換することによって、結果として少なくとも１つの変換済オフセット値KJ-l(k)を得るステップを備える請求項１に記載の方法。
【請求項３】
前記Kは、定義済空間解像度レベルJにおける前記空間領域中の画像データに適用される一定の線形オフセットを表す請求項２に記載の方法。
【請求項４】
前記補正済サブバンドのコードブロックは、
前記定義済個数のサブバンドをエントロピ復号化するステップと、
前記定義済個数のサブバンドの前記コードブロックに前記変換済線形関数f(k)を適用することによって、すなわち、前記少なくとも１つの変換済オフセット値KJ-l(k)を前記コードブロックの各値に加算すること、および、前記少なくとも１つの線形スケールファクタλを前記コードブロックの各値に乗算することによって、結果として補正済サブバンドを得るステップと、
前記コードブロックを含む前記補正済サブバンドをエントロピ再符号化するステップと、によってすべて再符号化される請求項２に記載の方法。
【請求項５】
前記補正済サブバンドのコードブロックは、
前記コードブロックの定義済個数（msb-k）のビット平面をエントロピ復号化するステップと、
前記ビット平面にオリジナルサンプル値の小数部を表す前記変換済オフセット値KJ-l(k)を適用するステップと、によって部分的に再符号化される請求項２に記載の方法。
【請求項６】
前記関数f(k)は、前記画像データに適用する線形フィルタ関数を定義することができ、該線形フィルタ関数は、特に、明るさ補正、コントラスト補正、または両方を含む請求項１に記載の方法。
【請求項７】
前記方法は、
前記空間領域中の画像データに適用可能な汎用関数を提供するステップと、
前記汎用関数を、前記少なくとも１つの線形オフセットKおよび前記少なくとも１つの線形スケールファクタλを備えるグループからの少なくとも１つにおける前記線形関数f(k)に線形分解するステップと、を備える請求項１に記載の方法。
【請求項８】
前記線形分解するステップは、前記汎用関数に基づいて線形的に近似した関数を生成するステップを備える請求項７に記載の方法。
【請求項９】
前記方法は、
前記変換済線形関数f(k)を適用するコードブロックを含むパケットのパケットヘッダを適応させるステップを備える請求項１に記載の方法。
【請求項１０】
前記変換済線形関数f(k)は、前記画像データの高周波情報を表すサブバンド（ＬＬ）を備える少なくとも第１レベルのベースバンドに適用される請求項１に記載の方法。
【請求項１１】
前記汎用関数は、少なくとも鮮鋭化フィルタリングおよび平滑化フィルタリングに対処する請求項７に記載の方法。
【請求項１２】
特にウェーブレット変換に基づくサブバンドエンコーダによって、空間領域中の画像データから取得される圧縮済領域中の画像データの補正を可能にするコンピュータ読み取り可能媒体上に記録されたプログラムコードを有する該コンピュータ読み取り可能媒体を備えるコンピュータプログラムプロダクトであって、該プログラムコードは、
少なくとも１つの線形オフセットKおよび少なくとも１つの線形スケールファクタλを備えるグループからの少なくとも１つで構成される線形関数f(k)であって、前記空間領域中の画像データに適用可能な該線形関数f(k)を提供するためのコード部と、
前記線形関数f(k)を前記圧縮済領域へ変換するためのコード部と、
前記変換済線形関数f(k)を前記圧縮済画像データの定義済個数のサブバンドに適用し、結果として補正済サブバンドを得ることによって、前記空間領域中の画像データに前記線形関数f(k)を適用した場合の近似を取得するためのコードセクションと、を備えるコンピュータプログラムプロダクト。
【請求項１３】
前記線形関数f(k)を圧縮済領域へ変換するためのコード部は、
少なくとも１つの線形オフセットKを前記圧縮済領域へ変換することによって、結果として少なくとも１つの変換済オフセット値KJ-l(k)を得るためのコード部を備える請求項１２に記載のコンピュータプログラムプロダクト。
【請求項１４】
前記Kは、定義済空間解像度レベルJにおける前記空間領域中の画像データに適用される一定の線形オフセットを表す請求項１３に記載のコンピュータプログラムプロダクト。
【請求項１５】
前記補正済サブバンドのコードブロックは、
前記定義済個数のサブバンドをエントロピ復号化するためのコード部と、
前記定義済個数のサブバンドの前記コードブロックに前記変換済線形関数f(k)を適用することによって、すなわち、前記少なくとも１つの変換済オフセット値KJ-l(k)を前記コードブロックの各値に加算すること、および、前記少なくとも１つの線形スケールファクタλを前記コードブロックの各値に乗算することによって、結果として前記補正済サブバンドを得るためのコード部と、
前記コードブロックを含む前記補正済サブバンドをエントロピ再符号化するためのコード部と、によってすべて再符号化される請求項１３に記載のコンピュータプログラムプロダクト。
【請求項１６】
前記補正済サブバンドのコードブロックは、
前記コードブロックの定義済個数（msb-k）のビット平面をエントロピ復号化するためのコード部と、
前記ビット平面にオリジナルサンプル値の小数部を表す前記変換済オフセット値KJ-l(k)を適用するためのコード部と、によって部分的に再符号化される請求項１３に記載のコンピュータプログラムプロダクト。
【請求項１７】
前記コンピュータプログラムプロダクトは、
前記変換済線形関数f(k)を適用するコードブロックを含むパケットのパケットヘッダを適応させるためのコード部を備える請求項１２に記載のコンピュータプログラムプロダクト。
【請求項１８】
前記関数f(k)は、前記画像データに適用する線形フィルタ関数を定義することができ、該線形フィルタ関数は、特に、明るさ補正、コントラスト補正、または両方を含む請求項１２に記載のコンピュータプログラムプロダクト。
【請求項１９】
前記コンピュータプログラムプロダクトは、
前記空間領域中の画像データに適用可能な汎用関数を提供するためのコード部と、
前記汎用関数を、前記少なくとも１つの線形オフセットKおよび前記少なくとも１つの線形スケールファクタλを備えるグループからの少なくとも１つにおける前記線形関数f(k)に線形分解するためのコード部と、を備える請求項１２に記載のコンピュータプログラムプロダクト。
【請求項２０】
前記線形分解するのは、前記汎用関数に基づいて線形的に近似した関数を生成するのを備える請求項１９に記載のコンピュータプログラムプロダクト。
【請求項２１】
前記変換済線形関数f(k)は、前記画像データの高周波情報を表すサブバンド（ＬＬ）を備える少なくとも第１レベルのベースバンドに適用される請求項１２に記載のコンピュータプログラムプロダクト。
【請求項２２】
前記汎用関数は、少なくとも鮮鋭化フィルタリングおよび平滑化フィルタリングに対処する請求項１９に記載のコンピュータプログラムプロダクト。
【請求項２３】
画像取得可能な電子装置であって、該画像処理装置は、空間領域中の画像データを圧縮済領域中の画像データへ変換するための特にウェーブレット変換に基づくサブバンドエンコーダを備え、該画像処理装置は、
少なくとも１つの線形オフセットKおよび少なくとも１つの線形スケールファクタλを備えるグループからの少なくとも１つで構成される線形関数f(k)であって、前記空間領域中の画像データに適用可能な該線形関数f(k)と、
前記線形関数f(k)を前記圧縮済領域へ変換するため、および、前記変換済線形関数f(k)を前記圧縮済画像データの定義済個数のサブバンドに適用し、結果として補正済サブバンドを得ることによって、前記空間領域中の画像データに前記線形関数f(k)を適用した場合の近似を取得するための画像操作モジュールと、を備える装置。
【請求項２４】
前記装置は、
少なくとも１つの線形オフセットKを前記圧縮済領域へ変換することによって、結果として少なくとも１つの変換済オフセット値KJ-l(k)を得るよう適応する前記画像操作モジュールを備える請求項２３に記載の装置。
【請求項２５】
前記Kは、定義済空間解像度レベルJにおける前記空間領域中の画像データに適用される一定の線形オフセットを表す請求項２４に記載の装置。
【請求項２６】
前記画像操作モジュールは、前記補正済サブバンドのコードブロック上で動作し、前記コードブロックをすべて再符号化するよう適応し、
エントロピデコーダは、前記定義済個数のサブバンドを復号化するよう適応し、
前記画像操作モジュールは、前記定義済個数のサブバンドの前記コードブロックに前記変換済線形フィルタ関数f(k)を適用することによって、
すなわち、前記少なくとも１つの変換済オフセット値KJ-l(k)を前記コードブロックの各値に加算すること、および、
前記少なくとも１つの線形スケールファクタλを前記コードブロックの各値に乗算することによって、結果として前記補正済サブバンドを得るよう適応し、
エントロピエンコーダは、前記コードブロックを含む前記補正済サブバンドを再符号化するよう適応する請求項２４に記載の装置。
【請求項２７】
前記画像操作モジュールは、前記補正済サブバンドのコードブロック上で動作し、前記コードブロックを部分的に再符号化するよう適応し、
エントロピデコーダは、前記コードブロックの定義済個数（msb-k）のビット平面を復号化するよう適応し、
前記画像操作モジュールは、前記ビット平面にオリジナルサンプル値の小数部を表す前記変換済オフセット値KJ-l(k)を適用するよう適応する請求項２４に記載の装置。
【請求項２８】
前記画像操作モジュールは、前記変換済線形関数f(k)を適用するコードブロックを含むパケットのパケットヘッダを更新するよう適応する請求項２４に記載の装置。
【請求項２９】
前記関数f(k)は、前記画像データに適用する線形フィルタ関数を定義することができ、該線形フィルタ関数は、特に、明るさ補正、コントラスト補正、または両方を含む請求項２４に記載の装置。
【請求項３０】
前記装置は、
前記空間領域中の画像データに適用可能な汎用関数と、
前記汎用関数を、前記少なくとも１つの線形オフセットKおよび前記少なくとも１つの線形スケールファクタλを備えるグループからの少なくとも１つにおける前記線形関数f(k)に線形分解するよう適応する画像操作モジュールと、を備える請求項２４に記載の装置。
【請求項３１】
前記線形分解するのは、
前記汎用関数に基づいて線形的に近似した関数を生成するのを備える請求項２４に記載の装置。
【請求項３２】
前記変換済線形関数f(k)は、前記画像データの高周波情報を表すサブバンド（ＬＬ）を備える少なくとも第１レベルのベースバンドに適用される請求項２４に記載の装置。
【請求項３３】
前記汎用関数は、少なくとも鮮鋭化フィルタリングおよび平滑化フィルタリングに対処する請求項３２に記載の装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、画像処理の分野に関する。特に、本発明は、圧縮済領域における静止画像の処理に関する。
【背景技術】
【０００２】
音声やビデオを使って動作するマルチメディアアプリケーションを特徴とする携帯装置の数は、増え続けている。このようなマルチメディアアプリケーションは、ますます顧客達を惹きつけ、顧客達は、新しいマルチメディア機能を熱心に享受している。特に、携帯電話、すなわち、移動電話の市場には、マルチメディア機能を搭載した装置が急速に受け入れられている。画像処理電話、すなわち、画像取得機能を有する携帯電話は、携帯電話の１つのクラスを代表するが、この製品クラスを導入してから非常に短期間のうちに、標準規格を代表するものになりつつある。画像処理電話の発展は、デジタルカメラの同等の成功とともに大成功を遂げた。
【０００３】
これまで、マルチメディアアプリケーション、特に画像取得アプリケーションの分野における開発では、記録／撮影の品質、メモリ要求量、ストリーミング性能（ビット伝送速度要件）、および再生／表示性能に対処してきた。これに呼応して、マルチメディアアプリケーションに関する研究の大部分では、圧縮標準規格、同期の問題、記憶表現、およびセンサ設計に着目してきた。例えば、（明るさ調整、コントラスト補正、およびシャープニング（鮮鋭化）などの）編集、フィルタリング、合成、および特殊効果の実現を含む画像操作などのデジタル画像処理の技術分野は、あまり注目されなかった。
【０００４】
画像処理の分野があまり注目されなかったのは、画像処理で要求される複雑さ、すなわち、計算の複雑さおよびデータ量が原因である。一般に、携帯装置は、圧縮モードでデジタル画像を処理することによって、特に計算能力および記憶容量などの携帯装置の制約だけでなく、画像の（無線による）受信／送信、ストリーミング性能などを含む画像処理から生じる要件も満たす。画像処理は、その複雑さ故、最新のワークステーションおよびパーソナルコンピュータ上で実現される代表的なタスクである。これらの高性能処理装置によって、圧縮モードのデジタル画像を非圧縮してから、非圧縮領域において画像を処理、すなわち、操作し、操作された画像を圧縮して、最後に再び圧縮モードのデジタル画像を取得する処理を含む力任せのアルゴリズムを処理することができる。前に述べたように、画像圧縮に使用される現代の圧縮技術は、主として、圧縮モードにした結果のデジタル画像のサイズを考慮して最適化を行う。こうして、非常に複雑な計算を取り入れることによって、デジタル画像の品質を落とさずに、またはデジタル画像の品質低下を許容限度内に抑えて圧縮を行う。
【０００５】
それにもかかわらず、さらに多くのマルチメディアアプリケーションが取り入れられるに従って、ユーザ／顧客は、今日の高性能ホームコンピュータ上で使用することができる画像操作を要求するようになるだろう。
【０００６】
したがって、制約されたコンピュータ性能および制約された記憶容量を含む制約された処理能力しか持たない処理装置上で、デジタル画像の操作、編集、および処理を効率的に行う効果的な技術および方法を提供する必要がある。特に、提示される技術および方法は、画像上の明るさ調整、コントラスト補正、フィルタリング、およびシャープニングなどの画像の操作、編集、および処理を行うとき、ユーザが所望する効果を適用する。
【発明の開示】
【発明が解決しようとする課題】
【０００７】
本発明の目的は、圧縮済領域におけるデジタル画像の操作および編集という意味において、デジタル画像処理に関する技術および方法論を提供することによって解決される。こうして、デジタル画像を処理する前の非圧縮とデジタル画像を処理した後の再圧縮とを含む従来の要件を克服する。主な利点は、計算の複雑さが著しく減少することである。
【課題を解決するための手段】
【０００８】
本発明の第１実施形態によれば、圧縮済領域中の画像データを補正するための方法が提供される。圧縮済画像データ、すなわち、圧縮済領域中の画像データは、ウェーブレット変換および特に離散ウェーブレット変換（ＤＷＴ）などのサブバンドに基づく変換を使用するエンコーダによって、（例えば、画像取得センサによって提供される）空間領域中の画像データから取得される。代表的なエンコーダは、将来の標準規格になると想定されるＪＰＥＧ２０００エンコーダである。線形フィルタ関数として適用することができる（オリジナル）線形関数f(k)が提供される。この線形関数f(k)は、加数とファクタの任意の１次結合によって構成される。すなわち、線形関数f(k)は、０個、１個、または複数の線形オフセットKJと、０個、１個、または複数の線形スケールファクタλとを備えることを意味する。空間領域中の前記画像データに適用可能な線形関数f(k)が提供されることによって、画像データの画像表現上に、例えば、関数固有のフィルタリング効果を得ることができる。線形関数f(k)は、圧縮済領域へ変換される。その後、変換済線形関数f(k)は、例えば、前記圧縮済画像データのベースバンド（ＬＬ）、またはベースバンドの任意の定義済個数のサブバンド上の変換済画像データの特定のサブバンドに適用される。
【０００９】
変換済線形関数f(k)を適用することによって、近似が得られる。適用するため選択した変換済画像のサブバンドの個数によって、結果として得られる近似の品質が決まる。選択したサブバンドの個数が多いほど、変換済線形関数f(k)を適用することによって得られる結果が、空間領域中の画像データに線形関数f(k)を適用することによって得られる画像表現に対応する最終的画像表現に近くなる。結果として得られる（すなわち、圧縮済領域において変換済線形関数を適用し、空間領域においてオリジナル関数を適用することによって得られる）両方の画像表現の相違点は、通常、小さな効果にすぎない。したがって、変換済線形関数f(k)を単に特定のサブバンド、および、特に前記圧縮済画像データのベースバンド（ＬＬ）に適用することによって、高速計算という利点を持ちながら正確な近似を示すことができる。当業者であれば、ベースバンド（ＬＬサブバンド）によって、（空間領域中の画像データに対応する）解像度の低い非圧縮画像データを表現し、その結果コンピュータの処理時間が短くなるようサポートすることを評価するだろう。
【００１０】
本発明の第２実施形態によれば、圧縮済領域中の画像データを補正するためのコンピュータプログラムプロダクトが提供される。このコンピュータプログラムプロダクトは、処理装置によって実行される命令を備えるコード部を含むコンピュータ読み取り可能媒体に記録されたプログラム論理を有するコンピュータ読み取り可能媒体を備える。（オリジナル）線形関数f(k)が提供される。この線形関数f(k)は、加数とファクタの任意の１次結合で構成される。すなわち、線形関数f(k)は、０個、１個、または複数の線形オフセットKJと、０個、１個、または複数の線形スケールファクタλとを備えることを意味する。空間領域中の前記画像データに適用可能な線形関数f(k)が提供されることによって、画像データの画像表現上に関数固有のフィルタリング効果を得ることができる。コード部によって、線形関数f(k)を圧縮済領域へ変換し、結果として変換済線形関数f(k)を得ることができる。他のコード部は、特に、圧縮済画像データのベースバンド（ＬＬ）における圧縮済画像データの特定の予め定義された個数のサブバンドに、前記変換済線形関数f(k)を適用するよう適応している。
【００１１】
本発明の第３実施形態によれば、画像取得機能を有するＣＥ（Consumer Electronics）装置が提供される。この装置は、画像データ処理のため、ウェーブレット変換、特に、離散ウェーブレット変換（ＤＷＴ）、およびより詳細にはＪＰＥＧ２０００コーデックなどのサブバンドに基づく変換を使用するエンコーダを備える。このエンコーダは、空間領域中の画像データを圧縮済領域中の画像データへ変換することによって、未処理画像データの保存とは対照的に、記憶容量を節約することができる。画像処理装置は、線形関数f(k)を備える。この線形関数f(k)は、加数とファクタの任意の１次結合で構成される。すなわち、線形関数f(k)は、０個、１個、または複数の線形オフセットKJと、０個、１個、または複数の線形スケールファクタλとを備えることを意味する。空間領域中の前記画像データに適用可能な線形関数f(k)が提供されることによって、画像データの画像表現上に、例えば、関数固有のフィルタリング効果を得ることができる。画像操作モジュールは、線形関数f(k)を圧縮済領域へ変換し、結果として変換済線形関数f(k)を得るよう適応している。さらに、画像操作モジュールによって、例えば、圧縮済画像データのベースバンド（ＬＬ）上の圧縮済画像データの特定のサブバンドに、前記変換済線形関数f(k)を適用することができる。
【発明を実施するための最良の形態】
【００１２】
本発明の他の実施形態は、以下の説明の過程で、および添付図面を参照することによって、明白になるであろう。
【００１３】
以下の様々な実施例の説明において、実施例の一部を構成する添付図面を参照する。これらの添付図面には、本発明を実施することができる様々な実施例が例示されている。本発明の範囲を逸脱しない限り、他の実施例を使用することができ、構造および機能の変更を行うことができることを理解されたい。図面および説明において可能な限り、同様または類似の部分を参照するのに同じ参照番号が使用されている。
【実施例】
【００１４】
図１ａのブロック図に、携帯家庭用電子（ＣＥ）装置１００の主要な構造構成要素を示す。これは、本発明を使って利用することができる任意の種類の携帯家庭用電子（ＣＥ）装置の例を代表するものである。本発明は、例示したＣＥ装置１００に限定されず、また、他の特定の種類の携帯ＣＥ装置にも限定されないことを理解されたい。
【００１５】
例示した携帯ＣＥ装置１００は、例えば、一般に画像取得センサによって画像を取得することができる携帯電話を代表するカメラ付き携帯電話として実現される。特に、装置１００は、プロセッサまたはマイクロコントローラに基づく装置として実現され、中央処理装置（ＣＰＵ）１１０と、データ記憶装置１２０と、アプリケーション記憶装置１３０と、無線周波数アンテナ（図示省略）を有する移動無線周波数インターフェイス（Ｉ／Ｆ）１８０および加入者識別モジュール（ＳＩＭ）１７０を含む移動通信手段と、音声入力／出力（Ｉ／Ｏ）手段１４０（一般にマイクおよびスピーカ）、キー入力制御装置（Ｃｔｒｌ）１５０を有するキー、キーパッド、および／またはキーボード、ならびにディスプレイ制御装置（Ｃｔｒｌ）１６０を有するディスプレイを含むユーザインターフェイス入力／出力手段と、一般に画像射影のための光学部品（図示省略）を有するＣＣＤ（電荷結合素子）センサ（図示省略）を含む画像取得センサ１０と、画像処理のため必要とされるいくつかの従属モジュールおよび独立モジュール、ならびに構成要素の実現方法の例を代表する画像処理モジュール２０と、を備える。
【００１６】
一般に、ＣＥ装置１００の処理は、中央処理装置（ＣＰＵ）１１０によって、オペレーティングシステムまたは基本制御アプリケーションに基づいて制御される。こうして、ＣＥ装置の仕様および機能が制御されるので、ＣＥ装置のユーザがＣＥ装置の仕様および機能を利用することができる。ディスプレイおよびディスプレイ制御装置（Ｃｔｒｌ）１６０は、中央処理装置（ＣＰＵ）１１０によって制御され、ユーザに情報を提供する。キーパッドおよびキーパッド制御装置（Ｃｔｒｌ）１５０が提供されることによって、ユーザは、情報を入力することができる。キーパッドを介して入力された情報は、キーパッド制御装置（Ｃｔｒｌ）によって中央処理装置（ＣＰＵ）１１０に供給される。この入力情報に従って、中央処理装置の指示および／または制御を行うことができる。音声入力／出力（Ｉ／Ｏ）手段１４０には、少なくとも音声信号を再生するためのスピーカと音声信号を記録するためのマイクとが含まれる。中央処理装置（ＣＰＵ）１１０は、音声データの音声出力信号への変換と、音声入力信号の音声データへの変換とを制御することができる。この場合、例えば、音声データは、伝送および保存に適したフォーマットを有する。デジタル音声の音声信号への音声信号変換、およびその逆の音声信号変換は、従来、デジタル−アナログ回路およびアナログ−デジタル回路によってサポートされている。
【００１７】
さらに、図１ａに例示した詳細な実施例による携帯ＣＥ装置１００は、無線周波数アンテナに結合された移動通信インターフェイス（Ｉ／Ｆ）１８０をオプションとして含み、加入者識別モジュール（ＳＩＭ）１７０を使って操作することができる。移動通信インターフェイス（Ｉ／Ｆ）１８０は、移動トランシーバとして配置され、移動通信アンテナから信号を受信し、これらの信号を復号し、復調し、ベースバンド周波数に低減する。移動通信インターフェイス１８０は、オーバーザエアーインターフェイスのため提供される。そして、公衆移動通信網（ＰＬＭＮ）の無線アクセスネットワーク（ＲＡＮ）における対応する基地局（ＢＳ）との移動通信のため、加入者識別モジュール（ＳＩＭ）１７０と共に使用される。こうして、移動通信インターフェイス（Ｉ／Ｆ）１８０の出力は、データストリームで構成されるが、中央処理装置（ＣＰＵ）１１０によってさらに処理をしなければならない場合もある。また、移動トランシーバとして配置される移動通信インターフェイス（Ｉ／Ｆ）１８０は、中央処理装置（ＣＰＵ）１１０からデータを受信するよう適応している。これらのデータは、オーバーザエアーインターフェイスを介して、無線アクセスネットワーク（ＲＡＮ）の基地局（ＢＳ）に送信される。したがって、移動通信インターフェイス（Ｉ／Ｆ）１８０によって、信号を具現するデータを符号化し、変調し、アップコンバートして、使用のための無線周波数にする。その後、移動通信アンテナによって、これらの結果として得られる無線周波数信号を公衆移動通信網（ＰＬＭＮ）の無線アクセスネットワーク（ＲＡＮ）において対応する基地局（ＢＳ）に送信する。
【００１８】
画像取得センサ１０は、一般にＣＣＤ（電荷結合素子）および光学部品によって実現される。ピクセルのグリッドを含む電荷結合素子は、デジタルカメラ、デジタル光学スキャナ、およびデジタルビデオカメラにおいて、デジタル画像を取得するため、光検知装置として使用される。コンデンサ列（ＣＣＤ）上の光学部品（１枚のレンズまたは複数のレンズを配置したもの）によって画像を射影することによって、その位置の光度に比例する電荷が各コンデンサに蓄積される。デジタルビデオおよびデジタルスチールカメラにおいて使用される２次元配列によって、画像全体または画像の一部の長方形が取得される。一旦、この配列が画像に対して露光すると、制御回路によって、各コンデンサが隣のコンデンサに内容を伝達するよう作動する。配列中の最後のコンデンサが、電荷を電圧に変換する増幅器に電荷を放出する。この処理を繰り返すことによって、制御回路によって、配列のすべての内容を異なる電圧に変換し、この電圧を抽出し、デジタル化し、画像処理モジュール２０によってさらに処理するための未処理画像データを提供する。画像処理モジュール２０によって、ＣＥ装置１００のユーザは、デジタル静止画像および最終的には一連の動画も撮影することができる。従来、未処理画像データは、画像処理モジュール２０によって圧縮され、データ記憶装置に保存される。画像処理モジュール２０は、特に、デジタル静止画像処理（および動画処理）のため必要とされるコーデックモジュール、すなわち、符号化および復号化モジュールを実現する。画像処理モジュール２０の実現される各構成要素は、ソフトウェアアプリケーションの構成要素であることが好ましい。これらのアプリケーション構成要素の処理は、画像処理モジュール２０の処理能力および機能を改善するのに有利な特定のハードウェアの実現によってサポートされる。
【００１９】
最近、画像取得に関して、ＣＭＯＳイメージセンサが普及し、一般に、ＣＣＤに取って代わろうとしている。すべてのチップ製造において支配的技術であるＣＭＯＳ製造工程によって、ＣＭＯＳ画像センサを製造することができる。また、ＣＭＯＳ画像センサは、安価に製造することができ、信号処理回路機構を同一の装置に組み込むことができる。本発明が特定の画像取得センサタイプに限定されないことを理解されたい。
【００２０】
代表的な代替の携帯ＣＥ装置には、携帯情報端末（ＰＤＡ）、ハンドヘルドコンピュータなどが含まれることがある。これらは、また、画像取得センサを装備したり、画像処理機能を有したりしてもよい。代表的マイクロプロセッサに基づくＣＥ装置の実現方法は当分野で周知であるため、実現方法の詳細は、本発明の範囲外とする。
【００２１】
図１ｂのブロック図に、携帯家庭用電子（ＣＥ）装置１０１の主要な構造構成要素を例示する。このブロック図によって、本発明と共に使用することができる任意の種類の携帯家庭用電子（ＣＥ）装置を例示する。
【００２２】
ここに例示された携帯ＣＥ装置１０１は、例えば、ユーザがデジタル画像を取得することができるデジタルカメラとして実現される。特に、装置１０１は、マイクロコントローラ（μＣ）１１１と、画像データ記憶装置１２１と、キー入力制御装置（Ｃｔｒｌ）１５１を介してマイクロコントローラ（μＣ）１１１に結合されるキー、およびディスプレイ制御装置（Ｃｔｒｌ）１６１を有するディスプレイを含むユーザインターフェイス入力／出力手段と、画像射影のための光学部品（図示省略）を有するＣＣＤ（電荷結合素子）またはＣＭＯＳ画像センサ（図示省略）を一般に含む画像取得センサ１０と、例として画像処理に必要ないくつかの従属モジュールおよび独立モジュール、ならびに構成要素の実現方法を表す画像処理モジュール２０と、を備えるマイクロコントローラ（μＣ）に基づく装置として実施される。ＣＥ装置１０１の処理操作は、実現される各構成要素の動作を制御するマイクロコントローラ（μＣ）１１１によって制御される。ユーザは、キー入力によってＣＥ装置１０１と対話することができ、こうして、ＣＥ装置１０１の機能に影響を及ぼす。従来、このようなＣＥ装置１０１は、処理に基づくＣＥ装置とは対照的に、処理操作において規定されている。デジタルカメラの実現方法は、当分野において周知であるため、実現方法の詳細に関しては、本発明の範囲外とする。
【００２３】
それにもかかわらず、配線またはソフトウェアアプリケーションのいずれかに基づいて画像取得センサ１０を実現することによって、ユーザに同様の機能を提供することができる。
【００２４】
以下の説明は、本発明の概念を中心に論じる。この概念とは、一般に、ＣＥ装置１００および１０１（図１ａおよび１ｂを参照、画像処理モジュール２０において実現される）において実現される画像処理に関する。特に、本発明の概念は、ユーザインストラクションに従って、あるいは、自律的および／または独自に操作することができる画像の操作、編集、フィルタリングなどに関する。
【００２５】
図２を参照すると、画像の操作、編集、フィルタリングなどの代表的な処理が例示されている。１つの画像が提供され、この画像を、ユーザがコントラスト補正に関して調整するところであると想定する。明るさ調整、コントラスト補正またはカラーフィルタリングなどの代表的で簡単な画像補正および／または処理では、ＣＥ装置１００で圧縮済画像表現を完全に復号化し、空間領域においてこれらの処理を適用し、それから編集／補正済画像を圧縮済画像表現に完全に再圧縮する必要がある。計算能力およびメモリが制約されている携帯ＣＥ装置に関して、特に画像が高解像度である場合、これらの画像処理によって計算コストが高くなることがある。また、計算能力およびメモリの規定条件によって、携帯ＣＥ装置の重量およびサイズと、計算時間、計算負荷、および（モジュールを選択して活性化／非活性化する場合の）モジュールエンパワーメントによる電力消費とを観点とする携帯ＣＥ装置の総合的デザインが決まる。同様に、本発明が関係する代表的な種類の携帯ＣＤ装置を製造するデジタルカメラ製造業者およびカメラ付き携帯電話製造業者は、撮影する画像の解像度を上げるため競争していることに留意されたい。
【００２６】
現在、電話には２メガピクセルものセンサ、代表的なデジタルカメラには５メガピクセルものセンサが搭載されている。これらの数字は、さらに増大すると仮定される。画像を編集／処理する場合、ユーザは、通常、明るさを調整したり、コントラストを補正したり、他のフィルタリング処理を適用したりすることによって、視覚的画質を補正する。前述のように、これらの処理は、調整するデジタル画像を非圧縮したり再圧縮したりすることによって実現されるので、かなりの時間および能力を費やす。小さいサイズに分けられたカラーデジタル画像を圧縮するのに、（使用する圧縮アルゴリズムの計算の複雑さと携帯ＣＥ装置が提供する計算能力とによって決まる）１単位時間を要すると想定する。例えばＶＧＡ（６４０×４８０ピクセル）にカラー画像サイズを拡大するのに、結果として、対応する圧縮時間は約４倍になる。これらの測定から単純に線形的に拡張すると、１メガピクセルのカラーデジタル画像を符号化するための時間は、(小さいサイズに分けられたカラーデジタル画像と比較して)１３倍より長くなる。実際、画像解像度において１メガピクセル増加するごとに、結果として、符号化のための時間は、入出力解像度の倍数に従ってさらに増加するであろう。
【００２７】
以下に、ＪＰＥＧにおける優れた画像圧縮と、解像度および品質における拡張性などの画像アプリケーションのための新しい重要な特性とによって、将来、標準の圧縮アルゴリズムになると予想されているＪＰＥＧ２０００圧縮アルゴリズムについて説明する。図３に、ＪＰＥＧ２０００の圧縮（符号化ともいう）およびＪＰＥＧ２０００の非圧縮（復号化ともいう）を概略的に例示する。
【００２８】
図３によって、代表的なＪＰＥＧ２０００のエンコーダ２００の処理フローを推測することができる。圧縮手順において先行するエンコーダ２００の第１モジュール（図示省略）は、分割モジュールであって、従来、巨大なデジタル画像に関して必要とされる画像を処理可能な断片に切り分ける機能を有する。巨大なデジタル画像は、空間的に重複しない均一サイズのタイルに分割される。その後、各コンポーネントを別々に処理する。続いて、デジタルカラー画像の色成分を非相関化する機能を有する非相関化ステージモジュール２１０が提供される。複数成分の画像に関しては、特定のカラー画像において、成分の非相関化を行うため成分変換が実行される。例えば、ＲＧＢ（赤、緑、青）成分を有するカラー画像を、ＹＣｒＣｂ（輝度、赤色差、および青色差）成分空間またはＲＣＴ（可逆成分変換）成分空間へ変換することができる。（デジタル画像およびデジタル画像成分のそれぞれの）画像データは、画像データをウェーブレット領域へ変換するよう適応している変換モジュール２２０に供給される。変換後、ウェーブレット領域中の画像データは、量子化モジュール２３０によって量子化される。その後、エントロピ符号化モジュール２４０によって、量子化処理の結果得られた量子化係数を再グループ化し、局所的空間および解像度アクセスを容易にする。
【００２９】
量子化係数の各サブバンドは、重複しない長方形ブロックに分割される。空間的に同じ場所に配置される３つの長方形（所定の解像度レベルにおける各サブバンドから１つずつ）によって、１つのパケット区分を形成する。各パケット区分は、さらにコードブロックに分割され、コードブロックの各々は、記録済レート歪曲線を使って埋込みビットストリームに圧縮される。このコードブロックの埋込みビットストリームは、ビットストリーム組立モジュール２５０によって、パケットに組み立てられる。パケットの各々は、１つの空間位置における解像度レベル１の品質向上を表す。最後に、すべてのタイルおよびすべてのコンポーネントのすべての解像度レベルのすべてのパケット区分からパケットを収集することによって１つのレイヤを形成する。こうして、画像全体の品質向上を表すレイヤがフル解像度になる。最終的なＪＰＥＧ２０００ビットストリームが複数のレイヤから構成されることがあることに留意されたい。
【００３０】
また、図３から、類推によって、代表的なＪＰＥＧ２０００のデコーダ３００の処理フローを推測することができる。ＪＰＥＧ２００による圧縮済画像表現の復号化および非圧縮において、ＪＰＥＧ２０００のエンコーダ２００を参照して上記で説明したそれぞれのモジュール関数に関して逆関数を実行するモジュールが提供される。圧縮済画像表現は、ビットストリーム分析モジュール３１０に供給され、必要なコンポーネントおよびタイル、ならびに、最終的にその中に組み込まれたパケットに含まれるコードブロックを分離および／または抽出する。エントロピ復号化モジュール３２０は、エントロピ符号化モジュール３１０によって行われた再グループ化を逆に行うよう適応している。
【００３１】
逆量子化モジュール３３０によって、量子化係数からウェーブレット領域中の画像データを再構成する。そして、ウェーブレット領域中の画像データは、逆変換モジュール３４０に供給される。逆変換モジュール３４０は、空間領域中の画像データを結果として求める逆ウェーブレット変換を実行するよう適応している。次に、逆非相関化ステージモジュール３５０によって、非相関化された成分を再変換する。すなわち、例えば、ＹＣｒＣｂ（輝度、赤色差、および青色差）成分空間またはＲＣＴ（可逆成分変換）成分空間のカラー画像を、ＲＧＢ（赤、緑、青）成分を有するカラー画像に変換することを意味する。画像サイズのために、空間的に重複しない均一サイズのタイルに分割する場合、非相関化ステージモジュール３５０の後続のデコーダ３００の最終モジュール（図示省略）によって、復号化処理中別々に処理されたコンポーネントをマージする。
【００３２】
ＪＰＥＧ２０００は、ＪＰＥＧ（Joint Photographic Experts Group）によって開発され、国際標準化機構（ＩＳＯ）によってＩＳＯ／ＩＥＣ１５４４４−１：２０００として発行された標準画像圧縮アルゴリズムであることに留意されたい。技術背景として参照するためこれを本明細書に組み入れることとする。
【００３３】
ＪＰＥＧ２０００標準規格による符号化／圧縮は、復号化／非圧縮の約１．２倍かかる。以下の数は、符号化に関する各処理にかかる時間のおおよそのパーセンテージである（このリストによってすべてを網羅しているとはいえない。すなわち、時間のかかる主な処理のみ示しているにすぎない）。
−画像データの読取：  〜５％
−カラー非相関化（必要な場合）：  〜５％
−ウェーブレット変換：  〜１０％
分解する数によって多少異なる場合がある。
−エントロピ符号化：  ７０％
対象のピクセルごとのビット数によって異なる場合がある。
ＪＰＥＧ２０００標準規格は、ビット平面に基づくエンコーダである。
符号化するビット平面の数を増やすと、画像品質が向上し、かつ計算が複雑になる。
−レート割当およびビットストリーム組立：  〜１０％
【００３４】
非圧縮に関する各処理は、実質的に対称的な計算能力を必要とする（このリストによってすべてを網羅しているとはいえない。すなわち、時間のかかる主な処理のみ示しているにすぎない）。
−ビットストリーム分析：  〜５％
−逆カラー非相関化（必要な場合）：  〜５％
−逆ウェーブレット変換：  〜１０％
分解する数によって多少異なる場合がある。
−逆エントロピ復号化：  〜７０％
対象のピクセルごとのビット数によって異なる場合がある。
ＪＰＥＧ２０００標準規格は、ビット平面に基づくコーダである。
符号化および復号化するビット平面の数をそれぞれ増やすと、画像品質が向上し、かつ計算が複雑になる。
−画像データの書込：  〜１０％
【００３５】
処理性能を向上させるため、画像内容を補正した後、画像を再符号化するのを回避する必要がある。これは、基本的に、符号化処理、すなわち、エントロピ符号化処理および復号化処理において時間のかかる主要な処理を回避することを意味する。上記のリストおよび図２から分かるように、計算時間においてかなりの改善を図ると同時にオリジナル画像を補正して補正済画像を作成する処理を実行するには、エントロピ符号化／エントロピ復号化の部分をできるだけ回避する必要がある。計算の複雑さという観点において、エントロピ符号化／エントロピ復号化は、ボトルネックとなる。これらを回避することによって、計算コストにおいてかなりの改善が得られる。
【００３６】
アプリケーションにおいて既存の高性能画像エンコーダのほとんどは、変換に基づくコーダである。変換によって、ピクセルを非相関化し、これらのエネルギを少数の係数に集約し、結果として、変換係数を効率良く符号化する。エネルギの大部分は、少数の大きな変換係数に集約されるので、エントロピ符号化方式を使用して効率良く符号化することができる。
【００３７】
ウェーブレット変換は、全画像（または、大容量のカラー画像の場合、画像の一部、コンポーネントのタイル）上を処理する。ウェーブレット変換では、例えば離散コサイン変換より効果的にエネルギを集約し、符号化後のブロッキングアーティファクトがない。また、図４に示すように、ウェーブレット変換によって、画像は、Ｌ−レベルのダイアディックウェーブレットピラミッドに分解される。結果として得られるウェーブレット係数は、最も精密なＭレベルのウェーブレット係数を使用しないで解像度におけるスケーリングを容易に行うことができ、オリジナル画像より２M倍も小さい画像を再構成することができる。ウェーブレット変換は、多重解像度で実行可能であるため、理論的にはスケーラブル画像符号化に適している。
【００３８】
ウェーブレットとは、ローパス係数によって、ゆっくり変化する長いデータセグメントを表し、ハイパス係数によって、短いデータセグメントにおける局所的変化を表す信号表現である。図５ａおよび図５ｂに１次元ウェーブレット変換のフレームワークを示す。入力列は、ローパスおよびハイパス解析ＦＩＲ（有限インパルス応答）フィルタを介して分解することができ、フィルタリング結果にファクタ２でサブサンプリングを行うことができる。オリジナルの入力列を再構成するには、ローパス係数およびハイパス係数にファクタ２でアップサンプリングを行い、別の１組のローパスおよびハイパス合成ＦＩＲフィルタに通す。
【００３９】
以下のセクションでは、デジタル画像上で行われる操作演算の数学的意味について紹介する。表記として、オリジナル画像はＩ（ｎ、ｍ）と示し、結果として得られる操作（処理、編集など）済画像は、Ｉ'（ｎ、ｍ）と示す。
【００４０】
明るさ調整−スカラ加算／スカラ減算
画像操作演算において、Ｉ（ｎ、ｍ）とＩ'（ｎ、ｍ）との間の関係は、次のように与えられる。
【００４１】
【数１】
2008533787.tif 000003
ただし、Ｋ∈Ｄ、Ｄは、整数の集合。例えば、代表的デジタルカラー画像は、８ビットの輝度表現を有する場合がある。この場合、輝度は、異なる２５６レベルを有する。したがって、Ｄ＝［−２５５，２５５］。数式（１）において、Ｉ'（ｎ、ｍ）が範囲Ｄを超える場合、Ｄの中の最も近い値に切り取られる。
【００４２】
条件Ｋ＞０は、明るさを増すことと同等であり、その結果、画像をより明るくする。一方、Ｋ＜０は、明るさを減少させることと同等であり、その結果、画像をより暗くする。明るさ処理の前後に、画像ヒストグラムを見ることによって、明るさ調整のデジタル画像への効果が分かる。（図６を参照）。以下のセクションでは、圧縮済領域中のデジタル画像に明るさの処理を適用する方法を検討する。
【００４３】
ＪＰＥＧ２０００標準規格では、空間における画像の画像データをよりエネルギを集約している他の領域へ変換するのにウェーブレット変換を利用している。標準規格のベースラインにおいて許可されるフィルタリングは、５−３ウェーブレットフィルタまたは９−７ウェーブレットフィルタのどちらかであり、分解タイプは、ダイアディック（Ｍａｌｌａｔとしても知られる）である。
【００４４】
明るさ処理およびコントラスト処理（後で説明）を空間領域からウェーブレット領域（すなわち、変換先圧縮済領域と同等）に変換するのに必要とされる処理を決定するため、まず、下記で簡潔に定義される離散ウェーブレット変換（ＤＷＴ）として知られる変換処理を理解する必要がある。
【００４５】
任意の連続関数Ｉ（ｔ）は、スケーリング関数およびそれから導かれるウェーブレット関数の項で定義される以下の展開式で表される。
【００４６】
【数２】
2008533787.tif 000004
【００４７】
スケールjにおけるスケーリング係数およびウェーブレット係数は、以下の２つの関係によってスケールj+1におけるスケーリング係数と関係している。
【００４８】
【数３】
2008533787.tif 000005
【００４９】
【数４】
2008533787.tif 000006
【００５０】
上記の数式によると、より高いスケールのスケーリング係数は、スケーリングフィルタおよびウェーブレットフィルタ、それぞれ、h(k)およびh'(k)と共に使用することによって、より低いスケールのウェーブレット係数およびスケーリング係数、すなわち、離散ウェーブレット変換係数を算出することができることが示されている。
【００５１】
実際、オリジナル解像度における離散信号は、対応するスケーリング係数であると想定される。したがって、j=Jがオリジナル解像度におけるスケールである場合、
【００５２】
【数５】
2008533787.tif 000007
【００５３】
次の１組の数式を使用することによって、より低いスケールの離散ウェーブレット変換係数を得る。
【００５４】
【数６】
2008533787.tif 000008
【００５５】
【数７】
2008533787.tif 000009
【００５６】
信号のＤＷＴを数式にすることによって、ウェーブレット領域において明るさ調整を適用することができる。上記のように、空間領域における明るさの処理は、以下と対応する。
【００５７】
【数８】
2008533787.tif 000010
ここで、定数KJは、画像のレベルJ（オリジナルの空間解像度）において適用される明るさのオフセットを意味する。プライム記号「'」を使って明るさの処理を行った信号を意味することによって、異なるスケールjのウェーブレット領域において対応する明るさの処理は、スケーリング係数およびウェーブレット係数（離散ウェーブレット変換（ＤＷＴ）係数）の項において、次によって与えられる。
【００５８】
スケールj=Jの場合、
数式（５）および（８）を使って、
【００５９】
【数９】
2008533787.tif 000011
【００６０】
スケールj=J-1の場合、
【００６１】
【数１０】
2008533787.tif 000012
【００６２】
スケールj=J-2の場合、
【００６３】
【数１１】
2008533787.tif 000013
【００６４】
この方法を続けることによって、一般のスケールj=J-lに関するスケーリング係数は、次のように与えられる。
【００６５】
【数１２】
2008533787.tif 000014
【００６６】
【数１３】
2008533787.tif 000015
【００６７】
すなわち、スケーリング係数cj(k)にKJ-l(k)の項を加えることによって、ウェーブレット領域における明るさの処理を実行することができる。h(k)の項は、スケーリングフィルタを意味する。
【００６８】
同様の解析を行うことによって、ウェーブレット係数dj(k)を評価することができる。説明を簡潔にするためおよび反復を避けるため（この解析は非常に類似しているので）、解析のステップをすべて列記せず、最終的結果を提供するだけにする。一般のスケールj=J-lに関して、ウェーブレット係数は、次によって与えられる。
【００６９】
【数１４】
2008533787.tif 000016
【００７０】
【数１５】
2008533787.tif 000017
【００７１】
すなわち、ウェーブレット係数dj(k)にKJ-l(k)の項を加えることによって、ウェーブレット領域における明るさの処理を行うことができる。h'(k)の項は、ウェーブレットフィルタを意味する。
【００７２】
KJ-l(k)の項は、ウェーブレット領域における画像のＤＣシフトを表す。ウェーブレット変換済係数は、すべてのサブバンドにおいてオリジナルのウェーブレット変換済画像から変更される。しかしながら、エネルギの大部分が変換済画像のＬＬサブバンドに集中するため、単にＬＬサブバンドにのみ変更を適用するだけで、空間領域における明るさの処理に関して一番正確な近似を得ることができる。このように、空間領域におけるＤＣファクタの加算（／減算）は、ウェーブレット領域のベースバンド（ＬＬサブバンド）における対応するＤＣファクタの加算（／減算）とほぼ同等である。
【００７３】
したがって、最初のステップとして、明るさ調整を空間領域に適用する代わりに、ウェーブレット領域に適用することができる。尚、性能における改善は、（離散ウェーブレット変換による計算コストが上記で示されるほど高くないという事実によって）約１０〜１５％である。他のバンドの復号化を実行しない場合、改善は、下記のように１０倍より大きくなる。ここで、大体の変化は、ＬＬサブバンドだけで生じる。したがって、他のサブバンドを再符号化する必要はない。サブバンドの符号化および特にウェーブレット変換（例えば、離散ウェーブレット変換）に基づくＪＰＥＧ２０００標準規格および他のエンコーダは、バンド間の相関関係を全く使用しないため、他のバンドに関して同じコードストリームを保持することができる。
【００７４】
したがって、圧縮済領域中の画像データにおいてＬＬサブバンドだけを補正することによって、性能をかなり向上させることができる。
【００７５】
量子化の後、（離散ウェーブレット変換の結果得られる）各サブバンドは、長方形のブロック、すなわち、重複しない長方形に分割されることに留意されたい。空間的に一致する３つの長方形（各解像度レベルにおける各サブバンドから１つずつ）は、パケット区分位置、すなわち、プレシンクトを備える（図７を参照）。各パケット区分位置は、さらに、「コードブロック」と呼ばれる重複しない長方形に分割され、上記で図２を参照して説明したエントロピコーダへの入力となる。各コードブロックのコードデータは、コードストリームにおいて１つまたは複数のレイヤに跨がって分散される。レイヤごとに、画像品質が連続的かつ単調に改良されるので、デコーダによって、各レイヤ中に順に含まれるコードブロックの寄与度を復号化することができる。特定のタイル、レイヤ、コンポーネント、解像度、およびプレシンクトを表すデータは、パケットと呼ばれる連続するセグメントにおけるコードストリーム中に出現する。パケットデータは、８ビット（１バイト）境界で整列している。パケット中のデータは、ＬＬ、ＨＬ、ＬＨ、およびＨＨサブバンドからの寄与度が、この順で出現するよう並べられる。各サブバンド内では、コードブロックの寄与度が、関連するプレシンクトによって設定される境界の範囲内でラスタ順に出現する。関連するサブバンドからのサンプルを含むコードブロックのみが、プレシンクトの範囲内でパケット中に表れる。
【００７６】
１２８０×９６０ピクセル、すなわち、１．２メガピクセルと同等の解像度を有するデジタル画像を想定する。この画像を５つのレベルに分解すると、６４０×４８０、３２０×２４０、１６０×１２０、８０×６０、および４０×３０ピクセルサイズのサブバンドになる。画像を圧縮するのに使用されるコードブロックが３２×３２ピクセル（最も一般的に使用されるブロックサイズ）である場合、この画像におけるコードブロックの数は、１２００ブロックになる。ＬＬサブバンド中のブロック数は４にすぎない。これらの4ブロックのみ補正し、他のブロックは補正しないでおく場合、エントロピ符号化済ブロックデータのうちの０．３３％（＝４／１２００）のみ変更すればよい。画像読込み処理、カラー変換処理、ウェーブレット変換処理を省略し、エントロピ符号化処理の０．３３％およびビットストリーム形成処理の一部を実行する場合、全所要時間は、画像全体を再符号化する場合の１０％未満まで減少する。
【００７７】
画像の解像度がより高い場合にも、同様の解析法が適用される。実際、ＬＬサブバンドが画像全体に対してより小さな割合になる場合が多いため、処理時間においてかなりの改善が得られる。また、ビットストリーム形成処理には、より少ない計算能力しか必要としない。以下で、図８、すなわち、本発明の一実施例によるＬＬサブバンド補正のための処理手順の概略図を参照しながら、この処理の結果、ビットストリーム生成処理において必要とされる変更について説明する。
【００７８】
図８を参照すると、処理Ｓ９０において、補正するデジタル画像のＬＬサブバンドが提供される。
【００７９】
第１のサブ処理Ｓ１００において、ＬＬサブバンド中のコードブロックをすべて再符号化しなければならない。ＬＬサブバンドを再符号化するのに実行可能な方法は、２通りある。第１の実行可能な方法は、例示された処理手順において、処理Ｓ１０１、Ｓ１０２、およびＳ１０３を含む第１分岐によって示されている。一方、第２の実行可能な方法は、例示された処理手順において、処理Ｓ１０４、Ｓ１０５、およびＳ１０６を含む第２分岐によって例示されている。
【００８０】
第１分岐の処理を参照すると、ＬＬサブバンドすべてを再符号化する。ＬＬサブバンドでは、逆ウェーブレット変換を必要としない。非圧縮済データは、数式（１２）〜（１５）に従ってスカラ加算（または、スカラ減算）を適用した後、復号化し、サブバンドに配置することができる。ＤＣシフト値を表すKJ-l(k)は、正または負の値であってもよいことに留意されたい。
【００８１】
第２分岐の処理を参照すると、ＬＬサブバンドは、ブロックの一部を復号化および再符号化することによって、部分的に再符号化される。図９に示すように、加算または減算するＤＣシフト値を表すKJ-l(k)は、ビット平面ｋから始まってもよい。明るさを調整するとき、加算または減算するＤＣシフト値は、通常、オリジナルサンプル値の小数部である。したがって、下位のk+lビット平面のみ数式（１２）〜（１５）に基づいて補正する。上位のmsb-k（msbは最も有意なビットであることを示す）ビットは、すべて、同じ値のままである。その結果、補正のため考慮されるビット平面、すなわち、下位のk+lビット平面のみを復号化したり、操作したり、および再符号化したりすることができる。これを部分的復号化ともいう。そうでない場合、すなわち、ＤＣシフトファクタがオリジナルサンプル値の小数部でない場合、上記で説明した第１分岐で例示されるように、数式（１２）〜（１５）に従って計算を実行する。ＪＰＥＧ２０００標準規格または任意の他のサブバンドに基づくエンコーダの符号化速度をさらに速くするため、オプションの算術演算による符号化を省略してもよい。代わりに、圧縮性能における多少の機能低下を犠牲にして、kビット平面を未処理ビットで送信する。
【００８２】
第２のサブ処理Ｓ１１０において、補正済ブロックを備えるパケットは、すべて変更する必要がある。これらのブロックに属する圧縮済データを包含し、パケットヘッダを変更する（処理Ｓ１１１およびＳ１１２を参照）。
【００８３】
処理Ｓ１２４において、データを包含するためヘッダ情報を更新しなければならない。以下の処理は、必要とされるパケットヘッダの補正の詳細に関する。
【００８４】
パケットヘッダにおける「包含する／包含しない」ビットは、補正済ブロックがＬＬサブバンド中のパケット中に存在し、オリジナルのビットストリームにおいて上位（下位）ではなかったが、一定のビット平面において上位（または下位）になる場合、包含ビットを補正しなければならない。
【００８５】
（タグツリーでコード化された）コードブロック包含情報を補正しなければならない。
【００８６】
補正済コードブロックにおける空のビット平面の数を更新する必要がある。
【００８７】
明るさ調整によって圧縮済データが補正されるので、コードブロック長を変更する。
【００８８】
パケットヘッダにおける変更は、あまり複雑でない。ＪＰＥＧ２０００標準規格では、これらの効果を取り入れるアプリケーションが、ビットストリーム中の補正が必要なパケットだけアクセスすることができるようにするランダムアクセス機能が提供されている。それにもかかわらず、アプリケーションがさらに新たなレート歪最適化を実行しようとする場合、簡単な処理によって実行することができる。これらの変化が最悪の場合における符号化時間の約５％と同等であると推定することができる。したがって、約２０倍の高速化を達成することができる。
【００８９】
グレイスケール画像に関して、明るさ調整は、単一成分画像自体に適用される。カラー画像に関して、明るさ調整は、画像の輝度成分に適用されるのみである。色差コンポーネントを変更する必要はない。
【００９０】
数式（１２）〜（１５）において定義されるように、ＤＣシフト値を表すKJ-l(k)を他のサブバンドに適用するよう拡張することによって、近似をより正確にすることができることに留意されたい。
【００９１】
コントラスト補正−スカラ乗法／スカラ除算
対照的な操作において、処理は、画像のヒストグラムの伸張／収縮に基づく。図１０に、コントラスト操作の例を示す。画像のヒストグラムは、画像におけるグレイレベルの出現頻度を表す。一定のプロパティについてヒストグラムをモデル化することによって、所望の効果を実現することができる。
【００９２】
p(I)によって、画像I(n、m)のヒストグラムを表すこととする。すると、p(I)は、I(n、m)において輝度i∈[0,255]を有するピクセルの個数を表す。ヒストグラム補正という観点では、所望のヒストグラムPd(Ip)を有する画像Ip(n、m)を生成することになる。これは、画像I(n、m)から画像Ip(n、m)を得るため、p(I)をPd(Ip)に写像する関数／変換を見つけることによって実現される。
【００９３】
コントラスト調整を適用する一般的な線形手法は、画像の輝度に次の変換を適用することである（図１１を参照）。
【００９４】
【数１６】
2008533787.tif 000018
ただし、一般に、L=255、a=[L*1/3]、b=[L*2/3]。パラメータα、β、およびγは、それぞれ、画像の暗い領域、中間の領域、および明るい領域に対応し、画像における相対的コントラスト調整を決定する。α>1、β>1、およびγ>1は、コントラストを伸張し、一方、α<1、β<1、およびγ<1は、コントラストを収縮する。したがって、単に適切なファクタを適用してピクセルの輝度を変倍することによって、コントラスト調整を適用することができることが分かる。
【００９５】
コントラスト調整のより簡単な方法では、画像全体に対して単一のコントラスト調整ファクタλを使用する。ηが画像ピクセルの輝度の平均である場合、
【００９６】
【数１７】
2008533787.tif 000019
【００９７】
解析は、明るさ処理に関して上記で行った解析に似ている。空間領域におけるコントラスト調整の数式は、次によって与えられる。
【００９８】
【数１８】
2008533787.tif 000020
ここで、定数KJは、画像のレベルJ（オリジナルの空間解像度）において適用される。プライム記号「'」を使ってコントラスト処理を行った信号を意味することによって、異なるスケールjのウェーブレット領域において対応するコントラスト処理は、スケーリング係数およびウェーブレット係数（離散ウェーブレット変換）の項において、次によって与えられる。
【００９９】
スケールj=Jの場合、
数式（５）および（１８）を使って、
【０１００】
【数１９】
2008533787.tif 000021
【０１０１】
スケールj=J-1の場合、
【０１０２】
【数２０】
2008533787.tif 000022
【０１０３】
スケールj=J-2の場合、
【０１０４】
【数２１】
2008533787.tif 000023
【０１０５】
この方法を続けることによって、一般のスケールj=J-lに関するスケーリング係数は、次によって与えられる。
【０１０６】
【数２２】
2008533787.tif 000024
【０１０７】
【数２３】
2008533787.tif 000025
【０１０８】
すなわち、コントラストスケールファクタλによってスケーリング係数Cj(k)を変倍し、それにKJ-l(k)の項を加えることによって、ウェーブレット領域におけるコントラスト処理を実行することができる。h(k)の項は、スケーリングフィルタを意味する。
【０１０９】
同様の解析を行うことによって、ウェーブレット係数dj(k)を評価することができる。説明を簡潔にするためおよび反復を避けるため（この解析は非常に類似しているので）、解析のステップをすべて列記せず、最終的結果を提供するだけにする。一般のスケールj=J-lに関して、ウェーブレット係数は、次によって与えられる。
【０１１０】
【数２４】
2008533787.tif 000026
【０１１１】
【数２５】
2008533787.tif 000027
【０１１２】
すなわち、コントラストスケールファクタλによってウェーブレット係数dj(k)を変倍し、それにKJ-l(k)の項を加えることによって、ウェーブレット領域におけるコントラスト処理を実行することができる。h'(k)の項は、ウェーブレットフィルタを意味する。
【０１１３】
上記の数式から分かるように、ウェーブレット変換済係数は、すべてのサブバンドにおいてオリジナルのウェーブレット変換済画像から変更される。しかしながら、エネルギの大部分が変換済画像のＬＬサブバンドに集中するため、単にＬＬサブバンドにのみ変更を適用するだけで、空間領域におけるコントラスト処理に関して一番正確な近似を得ることができる。このように、空間領域におけるコントラストファクタλの乗算は、実際に、ウェーブレット領域のベースバンド（ＬＬサブバンド）における補正とほぼ同等である。したがって、コントラスト調整を空間領域に適用する代わりに、ウェーブレット領域に適用することができる。尚、前に説明したように、性能における改善は、約１０〜１５％である。
【０１１４】
ここで、大体の変化は、ＬＬサブバンドだけで生じる。したがって、他のサブバンドを再符号化する必要はない。ＪＰＥＧ２０００標準規格および場合によっては他のコーダ、特にウェーブレット変換エンコーダは、バンド間の相関関係を全く使用しないため、他のバンドに関して同じコードストリームを保持することができる。したがって、単にＬＬサブバンドの圧縮済データを補正することによって、処理の性能をかなり向上することができる。実現方法と複雑さの問題に関する限り、明るさ調整の方法と同様の議論を再度当てはめることができる。したがって、コントラスト調整処理の性能は、ＬＬサブバンドの圧縮済データだけを補正することによってかなり向上させることができる。
【０１１５】
コントラスト調整の複雑さの解析および実現方法の形態は、明るさ調整の方法と非常に類似した方法であるので、説明を簡潔にするため、ここで詳細について繰り返さないこととする。図１２は、本発明の一実施例によるＬＬサブバンド補正のための処理手順を例示する概略図である。
【０１１６】
図１２を参照すると、処理Ｓ９０において、補正するデジタル画像のＬＬサブバンドが提供される。
【０１１７】
第１のサブ処理Ｓ１００'において、ＬＬサブバンド中のコードブロックをすべて再符号化しなければならない。ＬＬサブバンドを再符号化するのに実行可能な方法は、２通りある。第１の実行可能な方法は、例示された処理手順において、処理Ｓ１０１、Ｓ１０２'、およびＳ１０３を含む第１分岐によって例示されている。一方、第２の実行可能な方法は、例示された処理手順において、処理Ｓ１０４、Ｓ１０５'、およびＳ１０６を含む第２分岐によって例示されている。
【０１１８】
第１分岐の処理を参照すると、ＬＬサブバンド全体を再符号化する。ＬＬサブバンドでは、逆ウェーブレット変換を必要としない。非圧縮済データは、数式（２２）〜（２５）に従って、スカラ乗算（またはスカラ除算）、および、スカラ加算（またはスカラ減算）を適用した後、復号化し、サブバンドに配置することができる。ファクタλは、１より大きいか、または、小さい（それぞれ乗法演算および除法演算と同等になる）場合があることに留意されたい。シフト値を表すKJ-l(k)は、正または負の値でもよいことに留意されたい。
【０１１９】
第２分岐の処理を参照すると、ＬＬサブバンドは、ブロックの一部を復号化および再符号化することによって、部分的に再符号化される。一定の状況において、すなわちファクタλと加数KJ-l(k)に従って、補正は、上記の処理Ｓ１０５に関する説明と同等のビット平面kから開始することができる。したがって、下位のk+lビット平面のみ数式（２２）〜（２５）に基づいて補正する。上位のmsb-k（msbは最上位ビットを示す）ビットは、すべて、同じ値のままである。その結果、補正のため考慮されるビット平面、すなわち、下位のk+lビット平面のみを復号化したり、操作したり、および再符号化したりすることができる。これを部分的復号化ともいう。そうでない場合、上記で説明した第１分岐で例示されるように、数式（２２）〜（２５）に従って計算を実行する。ＪＰＥＧ２０００標準規格および任意のウェーブレット変換に基づくエンコーダの符号化速度をさらに速くするため、オプションの算術演算による符号化を省略してもよい。代わりに、圧縮性能における多少の機能低下を犠牲にして、kビット平面を未処理ビットで送信する。
【０１２０】
第２のサブ処理Ｓ１１０において、補正済ブロックを備えるパケットは、すべて変更する必要がある。これらのブロックに属する圧縮済データを包含し、パケットヘッダを変更する（処理Ｓ１１１およびＳ１１２を参照）。
【０１２１】
他の処理において、データを包含するためヘッダ情報を更新しなければならない。以下の処理は、必要とされるパケットヘッダの補正の詳細に関する。
【０１２２】
パケットヘッダにおける「包含する／包含しない」ビットは、補正済ブロックがＬＬサブバンド中のパケット中に存在し、オリジナルのビットストリームにおいて上位（下位）ではなかったが、一定のビット平面において上位（または下位）になる場合、包含ビットを補正しなければならない。
【０１２３】
（タグツリーでコード化された）コードブロック包含情報を補正しなければならない。
【０１２４】
補正済コードブロックにおける空のビット平面の数を更新する必要がある。
【０１２５】
明るさ調整によって圧縮済データが補正されるので、コードブロック長を変更する。
【０１２６】
数式（２２）〜（２５）において定義されるように、線形ファクタを表すKJ-l(k)を他のサブバンドに適用するよう拡張することによって、近似をより正確にすることができることに留意されたい。
【０１２７】
汎用線形フィルタリング
入力画像I(n,m)上に汎用N-タップ線形フィルタリングを行ったフィルタ済画像I'(n,m)は、次のように記述することができる。
【０１２８】
【数２６】
2008533787.tif 000028
ここで、インデックスlは、インデックスの組(n、m)と次の適切な変換Γによる関係を有する。
【０１２９】
【数２７】
2008533787.tif 000029
【０１３０】
N個のスケーリングパラメータf(k)は、N-タップフィルタのフィルタ係数である。数式（２６）は、静止画像の線形フィルタリングの汎用化形式であり、多種多様な線形画像フィルタリング処理について記述するのに使用することができる。これらのうちの最も一般的なもののいくつかは、平滑化（ローパスフィルタリング）、鮮鋭化（ハイパスフィルタリング）、平均化（算術平均フィルタ）などである。
【０１３１】
明るさ調整およびコントラスト調整に関する説明から、圧縮済領域において、ＪＰＥＧ２０００で符号化された静止画像のピクセル係数の加算（または減算）ならびに乗算（または変倍）の両方を実行することができることが分かる。数式（２６）から、汎用線形フィルタリングは、これらの２つの基本演算を単純に拡張したものであることが分かる。すなわち、有限の加法演算および乗法演算に線形分解することによって所望の結果を達成することができる。したがって、明るさ調整およびコントラスト調整の結果と、線形処理の重ね合せの原理とによって、本発明の概念を使用して圧縮済領域において任意の線形画像処理操作を実行することができる。特に、２つの重要なフィルタリング処理について、以下で検討する。
【０１３２】
鮮鋭化処理
鮮鋭化とは、画像におけるエッジを増強することによって、画像が以前より鮮明に見えるようにする画像処理操作である。画像の鮮鋭化は、画像に関する（エッジなどの）高周波情報の増強と類似している。ウェーブレット変換済画像の高周波サブバンドにおけるウェーブレット係数には、エッジに関する情報が含まれる。したがって、高周波サブバンドにおける係数を増強しなければならない。３レベルのウェーブレット分解を行った画像を想定する（図４を参照）。変換済画像のレベル１の係数によって、画像における最も強い高周波成分が示される。一方、次のレベル（レベル２）の係数によって、次に強い高周波成分が示される、などである。したがって、高周波情報を増強するには、必然的に、レベル１の係数を最も増強しなければならない。係数は、定数ファクタλ>1で掛けることによって、増強することができる。
【０１３３】
また、どの程度の強さの鮮鋭化処理を行うかに従って、次のレベルのサブバンドにおける係数の増強も行う場合がある。弱い鮮鋭化処理しか必要としない場合、レベル１のサブバンドの係数のみ増強すればよい。より強い鮮鋭化を必要とする場合、次のレベル（レベル２）のサブバンドの係数も増強する、などである。こうして、ウェーブレットピラミッドにおける各レベルの高周波サブバンドを増強することができ、ピラミッドの最高レベルに達するまで増強が行われる。しかしながら、変換済画像のＬＬサブバンドには、低周波成分しか含まれないため、変更されない。
【０１３４】
前のセクションで説明したように、係数を変更したサブバンドは、エントロピ符号化を行う必要がある。したがって、高速化の改善は、変更しなければならないサブバンドの個数に依存する。サブバンドの個数は、今度は、どの程度の強さの鮮鋭化処理を所望するかに依存する。
【０１３５】
平滑化処理
画像の平滑化は、画像の高周波成分を抑制するのに類似している。ウェーブレット変換済画像の高周波サブバンドにおけるウェーブレット係数には、エッジに関する情報および同様の高周波情報が含まれる。この高周波情報を抑制することによって、エッジを平滑化することができる。したがって、高周波サブバンドにおける係数を抑制することによって、ＪＰＥＧ２０００標準規格における平滑化処理を実現することができる。３レベルのウェーブレット分解を行った画像を想定する（図４を参照）。変換済画像のレベル１の係数によって、画像における最も強い高周波成分が示される。一方、次のレベル（レベル２）の係数によって、次に強い高周波成分が示される、などである。したがって、高周波情報を増強するには、必然的に、レベル１の係数を最も抑制しなければならない。そこで、最初のステップでは、レベル１の係数をゼロと等しくなるよう抑制する。
【０１３６】
また、どの程度の強さの平滑化処理を行うかに従って、次のレベルのサブバンドにおける係数の抑制も行う場合がある。弱い平滑化処理しか必要としない場合、レベル１のサブバンドの係数のみ抑制すればよい。より強い平滑化を必要とする場合、次のレベル（レベル２）のサブバンドの係数も抑制する、などである。こうして、ウェーブレットピラミッドにおける各レベルの高周波サブバンドを抑制することができ、ピラミッドの最高レベルに達するまで抑制が行われる。しかしながら、変換済画像のＬＬサブバンドには、低周波成分しか含まれないため、変更されない。
【０１３７】
前のセクションで説明したように、係数を変更したサブバンドは、エントロピ符号化を行う必要がある。したがって、高速化の改善は、変更するサブバンドの個数に依存する。サブバンドの個数は、今度は、どの程度の強さの平滑化処理を所望するかに依存する。
【０１３８】
実施例の実現方法
図１３を参照すると、上記で詳細に説明した方法の実現例が示されている。図３に詳細に示すＪＰＥＧ２０００エンコーダ／デコーダの実現方法の一部として、上記で参照しながら詳細に説明したように実現してもよい。本発明の概念によると、圧縮済領域（すなわち、符号化済領域または圧縮済画像表現）における画像データは、ビットストリーム分析モジュール３１０'に提供される。このモジュールは、図８および図１２の処理Ｓ９０を参照して定義される特定の必要機能を有する図３のビットストリーム分析モジュール３１０でもよく、圧縮済領域中の画像データのＬＬサブバンドを提供することができる。こうして、ＬＬサブバンド画像データは、エントロピデコーダ３２０'に送られる。このエントロピデコーダは、図８および図１２の処理Ｓ１００およびＳ１００'を参照して定義される特定の必要機能を有する図３のエントロピデコーダ３２０でもよい。画像操作は、数式（１２）〜（１５）、および／または、数式（２２）〜（２５）を適用するよう作用する（図８の処理１０２および１０５と図１２の１０２'および１０５'とをそれぞれ参照）。
【０１３９】
操作５００の後、圧縮済領域中の補正済画像データは、エントロピエンコーダ２４０'に送られる。このエントロピエンコーダは、図８および図１２の処理Ｓ１００およびＳ１００'を参照して定義される特定の必要機能を有する図３のビットストリーム分析モジュール２４０でもよい。最後に、補正済画像データは、補正済画像の圧縮済画像表現を形成する画像データの中に再度包含される。ビットストリーム組立モジュール２５０'は、再組立を行うよう作用する。この場合、ビットストリーム組立モジュール２５０'は、図８および図１２の処理Ｓ１１０を参照して定義される特定の必要機能を有する図３のビットストリーム組立モジュール２５０でもよい。
【０１４０】
図１３に例示したモジュールは、図１ａまたは図１ｂを参照して説明した画像処理モジュールのうちの１つなどの画像処理モジュールにおいて実現されるのが好ましい。
【０１４１】
本発明は、離散ウェーブレット変換（ＤＷＴ）に基づいて動作するＪＰＥＧ２０００標準規格を参照して詳細に説明したが、当業者であれば、本発明の概念が、任意のサブバンドに基づく符号化方法を使って適用することができ、特にウェーブレット変換符号化方法を使って処理することができることを評価するであろう。したがって、本発明は、ＪＰＥＧ２０００標準規格および離散ウェーブレット変換のそれぞれのエンコーダ／デコーダに限定されると理解すべきでない。
【産業上の利用可能性】
【０１４２】
本発明の本実施例に関連して説明したモジュール、構成要素、および、機能は、本発明の実施例による画像取得機能を有するＣＥ装置に含まれるものであり、携帯ＣＥ装置に備えられることもあるマイクロプロセッサまたはマイクロコントローラなどのデータ処理装置によって構成されてもよいことに留意されたい。さらに、これらのモジュール、構成要素、および機能は、１つまたは複数のデータ処理装置（マイクロプロセッサ、マイクロコントローラまたは専用集積回路（ＡＳＩＣ））上で実行し、機能および処理を実行するのに必要な処理演算を実行するための命令を含むコード部によって構成することができる。代替または追加の方法として、専用集積回路（ＡＳＩＣ）などの１つまたは複数のハードウェアモジュールに基づいて、モジュール、構成要素、および機能または機能の一部を実現してもよい。本発明の概念を実現する方法は、ソフトウェアおよび／またはハードウェアによる実現方法を含む特定の実現方法のいずれにも限定されない。
【０１４３】
本発明のいくつかの特徴と実施形態について、特定の実施例を参照しながら例示し詳細に説明してきたが、これらは例にすぎず、限定を意図するものではない。当業者であれば、開示された実施例に対する代替の実現方法および様々な変更が、本発明の範囲および考慮の中にあることを評価するであろう。したがって、本発明は、添付の請求の範囲によってのみ限定されるとみなされることとする。
【図面の簡単な説明】
【０１４４】
【図１ａ】本発明の一実施例による画像を取得することができる第１実施例の携帯家庭用電子（ＣＥ（Consumer Electronics））装置を示す概略図である。
【図１ｂ】本発明の一実施例による画像を取得することができる第２実施例の携帯ＣＥ装置を示す概略図である。
【図２】絵画画像の補正処理の代表的かつシンプルな状態を示す図である。
【図３】本発明の一実施例による静止画像の圧縮／非圧縮のためのウェーブレット変換エンコーダおよびウェーブレット変換デコーダの処理モジュールを示す概略図である。
【図４】サブバンド分割および周波数フィルタリングによるウェーブレット変換の結果であるデジタル画像の３レベルウェーブレット変換を示す概略図である。
【図５ａ】図３のウェーブレット変換エンコーダの周波数解析の一例を示す概略図である。
【図５ｂ】図３のウェーブレット変換エンコーダの周波数合成の一例を示す概略図である。
【図６】本発明の一実施例による明るさ調整を行う画像のヒストグラム図におけるシフトを示す概略図である。
【図７】プレシンクトおよびコードブロックに細分化されたデジタル画像の３レベルウェーブレット変換を示す概略図である。
【図８】本発明の一実施例によるスカラ和算／スカラ減算による画像操作の処理手順を示す概略図である。
【図９】本発明の一実施例によるＬＬサブバンドのビット平面の符号化を示す概略図である。
【図１０】本発明の一実施例によるコントラスト補正を行う画像のヒストグラム図におけるシフトを示す概略図である。
【図１１】本発明の一実施例によるコントラストを伸張する変換の一例を示す概略図である。
【図１２】本発明の一実施例によるスカラ乗法／スカラ除算による画像操作の処理手順を示す概略図である。
【図１３】本発明の一実施例による画像操作モジュールの実現方法の一例を示す図である。
【図１ａ】
2008533787.tif 000030
【図１ｂ】
2008533787.tif 000031
【図２】
2008533787.tif 000032
【図３】
2008533787.tif 000033
【図４】
2008533787.tif 000034
【図５ａ】
2008533787.tif 000035
【図５ｂ】
2008533787.tif 000036
【図６】
2008533787.tif 000037
【図７】
2008533787.tif 000038
【図８】
2008533787.tif 000039
【図９】
2008533787.tif 000040
【図１０】
2008533787.tif 000041
【図１１】
2008533787.tif 000042
【図１２】
2008533787.tif 000043
【図１３】
2008533787.tif 000044
【手続補正書】
【提出日】平成19年10月24日(2007.10.24)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
圧縮済領域中の画像データを補正するための方法であって、
圧縮済画像データは、特にウェーブレット変換に基づくサブバンドエンコーダによって、空間領域中の画像データから取得され、
前記方法は、
少なくとも１つの線形オフセットKおよび少なくとも１つの線形スケールファクタλを備えるグループからの少なくとも１つで構成される線形関数f(k)であって、前記空間領域中の画像データに適用可能な該線形関数f(k)を提供するステップと、
前記線形関数f(k)を前記圧縮済領域へ変換するステップと、
前記変換済線形関数f(k)を前記圧縮済画像データの定義済個数のサブバンドに適用し、結果として補正済サブバンドを得ることによって、前記空間領域中の画像データに前記線形関数f(k)を適用した場合の近似を取得するステップと、を備える方法。
【請求項２】
前記線形関数f(k)を圧縮済領域へ変換するステップは、
少なくとも１つの線形オフセットKを前記圧縮済領域へ変換することによって、結果として少なくとも１つの変換済オフセット値KJ-l(k)を得るステップを備える請求項１に記載の方法。
【請求項３】
前記Kは、定義済空間解像度レベルJにおける前記空間領域中の画像データに適用される一定の線形オフセットを表す請求項２に記載の方法。
【請求項４】
前記補正済サブバンドのコードブロックは、
前記定義済個数のサブバンドをエントロピ復号化するステップと、
前記定義済個数のサブバンドの前記コードブロックに前記変換済線形関数f(k)を適用することによって、すなわち、前記少なくとも１つの変換済オフセット値KJ-l(k)を前記コードブロックの各値に加算すること、および、前記少なくとも１つの線形スケールファクタλを前記コードブロックの各値に乗算することによって、結果として前記補正済サブバンドを得るステップと、
前記コードブロックを含む前記補正済サブバンドをエントロピ再符号化するステップと、によってすべて再符号化される請求項２に記載の方法。
【請求項５】
前記補正済サブバンドのコードブロックは、
前記コードブロックの定義済個数のビット平面をエントロピ復号化するステップと、
前記ビット平面にオリジナルサンプル値の小数部を表す前記変換済オフセット値KJ-l(k)を適用するステップと、によって部分的に再符号化される請求項２に記載の方法。
【請求項６】
前記関数f(k)は、前記画像データに適用する線形フィルタ関数を定義することができ、該線形フィルタ関数は、特に、明るさ補正、コントラスト補正、または両方を含む請求項１に記載の方法。
【請求項７】
前記方法は、
前記空間領域中の画像データに適用可能な汎用関数を提供するステップと、
前記汎用関数を、前記少なくとも１つの線形オフセットKおよび前記少なくとも１つの線形スケールファクタλを備えるグループからの少なくとも１つにおける前記線形関数f(k)に線形分解するステップと、を備える請求項１に記載の方法。
【請求項８】
前記線形分解するステップは、前記汎用関数に基づいて線形的に近似した関数を生成するステップを備える請求項７に記載の方法。
【請求項９】
前記方法は、
前記変換済線形関数f(k)を適用するコードブロックを含むパケットのパケットヘッダを適応させるステップを備える請求項１に記載の方法。
【請求項１０】
前記変換済線形関数f(k)は、前記画像データの低周波情報を表すサブバンド（ＬＬ）を備える少なくとも第１レベルのベースバンドに適用される請求項１に記載の方法。
【請求項１１】
前記汎用関数は、少なくとも鮮鋭化フィルタリングおよび平滑化フィルタリングに対処する請求項７に記載の方法。
【請求項１２】
特にウェーブレット変換に基づくサブバンドエンコーダによって、空間領域中の画像データから取得される圧縮済領域中の画像データの補正を可能にするコンピュータ読み取り可能媒体上に記録されたプログラムコードを有する該コンピュータ読み取り可能媒体を備えるコンピュータプログラムプロダクトであって、該プログラムコードは、
少なくとも１つの線形オフセットKおよび少なくとも１つの線形スケールファクタλを備えるグループからの少なくとも１つで構成される線形関数f(k)であって、前記空間領域中の画像データに適用可能な該線形関数f(k)を提供するためのコード部と、
前記線形関数f(k)を前記圧縮済領域へ変換するためのコード部と、
前記変換済線形関数f(k)を前記圧縮済画像データの定義済個数のサブバンドに適用し、結果として補正済サブバンドを得ることによって、前記空間領域中の画像データに前記線形関数f(k)を適用した場合の近似を取得するためのコードセクションと、を備えるコンピュータプログラムプロダクト。
【請求項１３】
前記線形関数f(k)を圧縮済領域へ変換するためのコード部は、
少なくとも１つの線形オフセットKを前記圧縮済領域へ変換することによって、結果として少なくとも１つの変換済オフセット値KJ-l(k)を得るためのコード部を備える請求項１２に記載のコンピュータプログラムプロダクト。
【請求項１４】
前記Kは、定義済空間解像度レベルJにおける前記空間領域中の画像データに適用される一定の線形オフセットを表す請求項１３に記載のコンピュータプログラムプロダクト。
【請求項１５】
前記補正済サブバンドのコードブロックは、
前記定義済個数のサブバンドをエントロピ復号化するためのコード部と、
前記定義済個数のサブバンドの前記コードブロックに前記変換済線形関数f(k)を適用することによって、すなわち、前記少なくとも１つの変換済オフセット値KJ-l(k)を前記コードブロックの各値に加算すること、および、前記少なくとも１つの線形スケールファクタλを前記コードブロックの各値に乗算することによって、結果として前記補正済サブバンドを得るためのコード部と、
前記コードブロックを含む前記補正済サブバンドをエントロピ再符号化するためのコード部と、によってすべて再符号化される請求項１３に記載のコンピュータプログラムプロダクト。
【請求項１６】
前記補正済サブバンドのコードブロックは、
前記コードブロックの定義済個数のビット平面をエントロピ復号化するためのコード部と、
前記ビット平面にオリジナルサンプル値の小数部を表す前記変換済オフセット値KJ-l(k)を適用するためのコード部と、によって部分的に再符号化される請求項１３に記載のコンピュータプログラムプロダクト。
【請求項１７】
前記コンピュータプログラムプロダクトは、
前記変換済線形関数f(k)を適用するコードブロックを含むパケットのパケットヘッダを適応させるためのコード部を備える請求項１２に記載のコンピュータプログラムプロダクト。
【請求項１８】
前記関数f(k)は、前記画像データに適用する線形フィルタ関数を定義することができ、該線形フィルタ関数は、特に、明るさ補正、コントラスト補正、または両方を含む請求項１２に記載のコンピュータプログラムプロダクト。
【請求項１９】
前記コンピュータプログラムプロダクトは、
前記空間領域中の画像データに適用可能な汎用関数を提供するためのコード部と、
前記汎用関数を、前記少なくとも１つの線形オフセットKおよび前記少なくとも１つの線形スケールファクタλを備えるグループからの少なくとも１つにおける前記線形関数f(k)に線形分解するためのコード部と、を備える請求項１２に記載のコンピュータプログラムプロダクト。
【請求項２０】
前記線形分解するのは、前記汎用関数に基づいて線形的に近似した関数を生成するのを備える請求項１９に記載のコンピュータプログラムプロダクト。
【請求項２１】
前記変換済線形関数f(k)は、前記画像データの低周波情報を表すサブバンド（ＬＬ）を備える少なくとも第１レベルのベースバンドに適用される請求項１２に記載のコンピュータプログラムプロダクト。
【請求項２２】
前記汎用関数は、少なくとも鮮鋭化フィルタリングおよび平滑化フィルタリングに対処する請求項１９に記載のコンピュータプログラムプロダクト。
【請求項２３】
画像取得可能な電子装置であって、該画像処理装置は、空間領域中の画像データを圧縮済領域中の画像データへ変換するための特にウェーブレット変換に基づくサブバンドエンコーダを備え、該画像処理装置は、
少なくとも１つの線形オフセットKおよび少なくとも１つの線形スケールファクタλを備えるグループからの少なくとも１つで構成される線形関数f(k)であって、前記空間領域中の画像データに適用可能な該線形関数f(k)と、
前記線形関数f(k)を前記圧縮済領域へ変換するため、および、前記変換済線形関数f(k)を前記圧縮済画像データの定義済個数のサブバンドに適用し、結果として補正済サブバンドを得ることによって、前記空間領域中の画像データに前記線形関数f(k)を適用した場合の近似を取得するための画像操作モジュールと、を備える装置。
【請求項２４】
前記装置は、
少なくとも１つの線形オフセットKを前記圧縮済領域へ変換することによって、結果として少なくとも１つの変換済オフセット値KJ-l(k)を得るよう適応する前記画像操作モジュールを備える請求項２３に記載の装置。
【請求項２５】
前記Kは、定義済空間解像度レベルJにおける前記空間領域中の画像データに適用される一定の線形オフセットを表す請求項２４に記載の装置。
【請求項２６】
前記画像操作モジュールは、前記補正済サブバンドのコードブロック上で動作し、前記コードブロックをすべて再符号化するよう適応し、
エントロピデコーダは、前記定義済個数のサブバンドを復号化するよう適応し、
前記画像操作モジュールは、前記定義済個数のサブバンドの前記コードブロックに前記変換済線形フィルタ関数f(k)を適用することによって、
すなわち、前記少なくとも１つの変換済オフセット値KJ-l(k)を前記コードブロックの各値に加算すること、および、
前記少なくとも１つの線形スケールファクタλを前記コードブロックの各値に乗算することによって、結果として前記補正済サブバンドを得るよう適応し、
エントロピエンコーダは、前記コードブロックを含む前記補正済サブバンドを再符号化するよう適応する請求項２４に記載の装置。
【請求項２７】
前記画像操作モジュールは、前記補正済サブバンドのコードブロック上で動作し、前記コードブロックを部分的に再符号化するよう適応し、
エントロピデコーダは、前記コードブロックの定義済個数のビット平面を復号化するよう適応し、
前記画像操作モジュールは、前記ビット平面にオリジナルサンプル値の小数部を表す前記変換済オフセット値KJ-l(k)を適用するよう適応する請求項２４に記載の装置。
【請求項２８】
前記画像操作モジュールは、前記変換済線形関数f(k)を適用するコードブロックを含むパケットのパケットヘッダを更新するよう適応する請求項２４に記載の装置。
【請求項２９】
前記関数f(k)は、前記画像データに適用する線形フィルタ関数を定義することができ、該線形フィルタ関数は、特に、明るさ補正、コントラスト補正、または両方を含む請求項２４に記載の装置。
【請求項３０】
前記装置は、
前記空間領域中の画像データに適用可能な汎用関数と、
前記汎用関数を、前記少なくとも１つの線形オフセットKおよび前記少なくとも１つの線形スケールファクタλを備えるグループからの少なくとも１つにおける前記線形関数f(k)に線形分解するよう適応する画像操作モジュールと、を備える請求項２４に記載の装置。
【請求項３１】
前記線形分解するのは、
前記汎用関数に基づいて線形的に近似した関数を生成するのを備える請求項２４に記載の装置。
【請求項３２】
前記変換済線形関数f(k)は、前記画像データの低周波情報を表すサブバンド（ＬＬ）を備える少なくとも第１レベルのベースバンドに適用される請求項２４に記載の装置。
【請求項３３】
前記汎用関数は、少なくとも鮮鋭化フィルタリングおよび平滑化フィルタリングに対処する請求項３２に記載の装置。
【手続補正２】
【補正対象書類名】明細書
【補正対象項目名】００１１
【補正方法】変更
【補正の内容】
【００１１】
本発明の第３実施形態によれば、画像取得機能を有するＣＥ（Consumer Electronics）装置が提供される。この装置（画像処理装置）は、画像データ処理のため、ウェーブレット変換、特に、離散ウェーブレット変換（ＤＷＴ）、およびより詳細にはＪＰＥＧ２０００コーデックなどのサブバンドに基づく変換を使用するエンコーダを備える。このエンコーダは、空間領域中の画像データを圧縮済領域中の画像データへ変換することによって、未処理画像データの保存とは対照的に、記憶容量を節約することができる。画像処理装置は、線形関数f(k)を備える。この線形関数f(k)は、加数とファクタの任意の１次結合で構成される。すなわち、線形関数f(k)は、０個、１個、または複数の線形オフセットKJと、０個、１個、または複数の線形スケールファクタλとを備えることを意味する。空間領域中の前記画像データに適用可能な線形関数f(k)が提供されることによって、画像データの画像表現上に、例えば、関数固有のフィルタリング効果を得ることができる。画像操作モジュールは、線形関数f(k)を圧縮済領域へ変換し、結果として変換済線形関数f(k)を得るよう適応している。さらに、画像操作モジュールによって、例えば、圧縮済画像データのベースバンド（ＬＬ）上の圧縮済画像データの特定のサブバンドに、前記変換済線形関数f(k)を適用することができる。
【手続補正３】
【補正対象書類名】明細書
【補正対象項目名】００２５
【補正方法】変更
【補正の内容】
【００２５】
図２を参照すると、画像の操作、編集、フィルタリングなどの代表的な処理が例示されている。１つの画像が提供され、この画像を、ユーザがコントラスト補正に関して調整するところであると想定する。明るさ調整、コントラスト補正またはカラーフィルタリングなどの代表的で簡単な画像補正および／または処理では、ＣＥ装置１００で圧縮済画像表現を完全に復号化し、空間領域においてこれらの処理を適用し、それから編集／補正済画像を圧縮済画像表現に完全に再圧縮する必要がある。計算能力およびメモリが制約されている携帯ＣＥ装置に関して、特に画像が高解像度である場合、これらの画像処理によって計算コストが高くなることがある。また、計算能力およびメモリの規定条件によって、携帯ＣＥ装置の重量およびサイズと、計算時間、計算負荷、および（モジュールを選択して活性化／非活性化する場合の）モジュールエンパワーメントによる電力消費とを観点とする携帯ＣＥ装置の総合的デザインが決まる。同様に、本発明が関係する代表的な種類の携帯ＣＥ装置を製造するデジタルカメラ製造業者およびカメラ付き携帯電話製造業者は、撮影する画像の解像度を上げるため競争していることに留意されたい。
【手続補正４】
【補正対象書類名】明細書
【補正対象項目名】００３０
【補正方法】変更
【補正の内容】
【００３０】
また、図３から、類推によって、代表的なＪＰＥＧ２０００のデコーダ３００の処理フローを推測することができる。ＪＰＥＧ２０００による圧縮済画像表現の復号化および非圧縮において、ＪＰＥＧ２０００のエンコーダ２００を参照して上記で説明したそれぞれのモジュール関数に関して逆関数を実行するモジュールが提供される。圧縮済画像表現は、ビットストリーム分析モジュール３１０に供給され、必要なコンポーネントおよびタイル、ならびに、最終的にその中に組み込まれたパケットに含まれるコードブロックを分離および／または抽出する。エントロピ復号化モジュール３２０は、エントロピ符号化モジュール３１０によって行われた再グループ化を逆に行うよう適応している。
【手続補正５】
【補正対象書類名】明細書
【補正対象項目名】００３１
【補正方法】変更
【補正の内容】
【００３１】
逆量子化モジュール３３０によって、量子化係数からウェーブレット領域中の画像データを再構成する。そして、ウェーブレット領域中の画像データは、逆変換モジュール３４０に供給される。逆変換モジュール３４０は、空間領域中の画像データを結果として求める逆ウェーブレット変換を実行するよう適応している。次に、逆非相関化ステージモジュール３５０によって、非相関化された成分を再変換する。すなわち、例えば、ＹＣｒＣｂ（輝度、赤色差、および青色差）成分空間またはＲＣＴ（可逆成分変換）成分空間のカラー画像を、ＲＧＢ（赤、緑、青）成分を有するカラー画像に変換することを意味する。画像サイズのために、空間的に重複しない均一サイズのタイルに分割する場合、逆非相関化ステージモジュール３５０の後続のデコーダ３００の最終モジュール（図示省略）によって、復号化処理中別々に処理されたコンポーネントをマージする。
【手続補正６】
【補正対象書類名】明細書
【補正対象項目名】００４１
【補正方法】変更
【補正の内容】
【００４１】
【数１】
2008533787.tif 000045
ただし、Ｋ∈Ｄ、Ｄは、整数の集合。例えば、代表的デジタルカラー画像は、８ビットの輝度表現を有する場合がある。この場合、輝度は、異なる２５６レベルを有する。したがって、Ｄ＝［０，２５５］。数式（１）において、Ｉ'（ｎ、ｍ）が範囲Ｄを超える場合、Ｄの中の最も近い値に切り取られる。
【手続補正７】
【補正対象書類名】明細書
【補正対象項目名】００８３
【補正方法】変更
【補正の内容】
【００８３】
処理Ｓ１１２において、データを包含するためヘッダ情報を更新しなければならない。以下の処理は、必要とされるパケットヘッダの補正の詳細に関する。
【手続補正８】
【補正対象書類名】明細書
【補正対象項目名】００９１
【補正方法】変更
【補正の内容】
【００９１】
コントラスト補正−スカラ乗算／スカラ除算
対照的な操作において、処理は、画像のヒストグラムの伸張／収縮に基づく。図１０に、コントラスト操作の例を示す。画像のヒストグラムは、画像におけるグレイレベルの出現頻度を表す。一定のプロパティについてヒストグラムをモデル化することによって、所望の効果を実現することができる。
【手続補正９】
【補正対象書類名】明細書
【補正対象項目名】００９４
【補正方法】変更
【補正の内容】
【００９４】
【数１６】
2008533787.tif 000046
ただし、一般に、L=255、a=[L*1/3]、b=[L*2/3]。パラメータα、β、およびγは、それぞれ、画像の暗い領域、中間の領域、および明るい領域に対応し、画像における相対的コントラスト調整を決定する。α>1、β>1、およびγ>1は、コントラストを伸張し、一方、α<1、β<1、およびγ<1は、コントラストを収縮する。したがって、単に適切なファクタを適用してピクセルの輝度を変倍することによって、コントラスト調整を適用することができることが分かる。
【手続補正１０】
【補正対象書類名】明細書
【補正対象項目名】００９６
【補正方法】変更
【補正の内容】
【００９６】
【数１７】
2008533787.tif 000047
【手続補正１１】
【補正対象書類名】明細書
【補正対象項目名】０１２５
【補正方法】変更
【補正の内容】
【０１２５】
コントラスト調整によって圧縮済データが補正されるので、コードブロック長を変更する。
【手続補正１２】
【補正対象書類名】明細書
【補正対象項目名】０１３９
【補正方法】変更
【補正の内容】
【０１３９】
操作５００の後、圧縮済領域中の補正済画像データは、エントロピエンコーダ２４０'に送られる。このエントロピエンコーダは、図８および図１２の処理Ｓ１００およびＳ１００'を参照して定義される特定の必要機能を有する図３のエントロピ符号化モジュール２４０でもよい。最後に、補正済画像データは、補正済画像の圧縮済画像表現を形成する画像データの中に再度包含される。ビットストリーム組立モジュール２５０'は、再組立を行うよう作用する。この場合、ビットストリーム組立モジュール２５０'は、図８および図１２の処理Ｓ１１０を参照して定義される特定の必要機能を有する図３のビットストリーム組立モジュール２５０でもよい。
【手続補正１３】
【補正対象書類名】明細書
【補正対象項目名】０１４４
【補正方法】変更
【補正の内容】
【０１４４】
【図１ａ】本発明の一実施例による画像を取得することができる第１実施例の携帯家庭用電子（ＣＥ（Consumer Electronics））装置を示す概略図である。
【図１ｂ】本発明の一実施例による画像を取得することができる第２実施例の携帯ＣＥ装置を示す概略図である。
【図２】絵画画像の補正処理の代表的かつシンプルな状態を示す図である。
【図３】本発明の一実施例による静止画像の圧縮／非圧縮のためのウェーブレット変換エンコーダおよびウェーブレット変換デコーダの処理モジュールを示す概略図である。
【図４】サブバンド分割および周波数フィルタリングによるウェーブレット変換の結果であるデジタル画像の３レベルウェーブレット変換を示す概略図である。
【図５ａ】図３のウェーブレット変換エンコーダの周波数解析の一例を示す概略図である。
【図５ｂ】図３のウェーブレット変換エンコーダの周波数合成の一例を示す概略図である。
【図６】本発明の一実施例による明るさ調整を行う画像のヒストグラム図におけるシフトを示す概略図である。
【図７】プレシンクトおよびコードブロックに細分化されたデジタル画像の３レベルウェーブレット変換を示す概略図である。
【図８】本発明の一実施例によるスカラ和算／スカラ減算による画像操作の処理手順を示す概略図である。
【図９】本発明の一実施例によるＬＬサブバンドのビット平面の符号化を示す概略図である。
【図１０】本発明の一実施例によるコントラスト補正を行う画像のヒストグラム図におけるシフトを示す概略図である。
【図１１】本発明の一実施例によるコントラストを伸張する変換の一例を示す概略図である。
【図１２】本発明の一実施例によるスカラ乗算／スカラ除算による画像操作の処理手順を示す概略図である。
【図１３】本発明の一実施例による画像操作モジュールの実現方法の一例を示す図である。
【手続補正１４】
【補正対象書類名】図面
【補正対象項目名】図１ａ
【補正方法】変更
【補正の内容】
【図１ａ】
2008533787.tif 000048
【手続補正１５】
【補正対象書類名】図面
【補正対象項目名】図１ｂ
【補正方法】変更
【補正の内容】
【図１ｂ】
2008533787.tif 000049
【手続補正１６】
【補正対象書類名】図面
【補正対象項目名】図２
【補正方法】変更
【補正の内容】
【図２】
2008533787.tif 000050
【手続補正１７】
【補正対象書類名】図面
【補正対象項目名】図８
【補正方法】変更
【補正の内容】
【図８】
2008533787.tif 000051
【手続補正１８】
【補正対象書類名】図面
【補正対象項目名】図１２
【補正方法】変更
【補正の内容】
【図１２】
2008533787.tif 000052
【国際調査報告】
2008533787.tif 000053
2008533787.tif 000054
2008533787.tif 000055
2008533787.tif 000056