(57)【要約】【課題】オリジナル画像に記憶された撮影条件情報に基づいて、圧縮された画像データのデータ容量を大きくせず且つ画像データのサムネイルを高速に出力する可能な圧縮画像データを生成する画像圧縮装置を提供する。【解決手段】画像圧縮装置２０は、画像データを画像読込部２１で読み込み、サムネイル設定部２２でサムネイル情報を設定し、画質圧縮部２３にて画像を圧縮する。次に、撮影条件設定部２５により撮影条件を設定し、サムネイル情報付加部２４にて設定したサムネイル情報に撮影条件の情報を付加する。なお、サムネイル設定部２２に対し、撮影条件設定部２５により撮影条件を設定し、撮影条件を入力して、併せてサムネイル情報を付加してもよい。また撮影条件情報をそのままヘッダ部分に記録するようにしてもよい。次に、サムネイル情報付加部２４にて設定に応じたサムネイル情報を付加し、符号生成部２７にて符号データを生成する。【選択図】        図１２
2004254131.tif 000002
【特許請求の範囲】
【請求項１】
画像の圧縮符号データを生成する画像圧縮装置において、画像の撮影条件を設定する撮影条件設定手段と、該設定された撮影条件に応じて、画像のサムネイル情報を、１又は複数形態設定するサムネイル設定手段と、該設定された形態のサムネイル情報を、符号データ形成時にヘッダ部分に付加するサムネイル情報付加手段と、を有することを特徴とする画像圧縮装置。
【請求項２】
前記撮影条件設定手段は、入力画像から撮影条件を読み取る手段を有することを特徴とする請求項１記載の画像圧縮装置。
【請求項３】
前記サムネイル情報として、画像の解像度情報を用いることを特徴とする請求項１又は２記載の画像圧縮装置。
【請求項４】
前記解像度情報として、画像のデコンポジションレベル情報を用いることを特徴とする請求項３記載の画像圧縮装置。
【請求項５】
前記サムネイル情報として、画像の位置情報を用いることを特徴とする請求項１乃至４のいずれか１記載の画像圧縮装置。
【請求項６】
前記位置情報として、タイル情報，プレシンクト情報，コードブロック情報，画素位置情報のうち、いずれか１又は複数を用いることを特徴とする請求項５記載の画像圧縮装置。
【請求項７】
前記サムネイル情報として、画像のコンポーネント情報を用いることを特徴とする請求項１乃至６のいずれか１記載の画像圧縮装置。
【請求項８】
前記サムネイル情報として、画像の画質情報を用いることを特徴とする請求項１乃至７のいずれか１記載の画像圧縮装置。
【請求項９】
前記画質情報として、レイヤ情報及び／又はビットプレーン情報を用いることを特徴とする請求項８記載の画像圧縮装置。
【請求項１０】
前記サムネイル情報として、画像のサブバンド情報を用いることを特徴とする請求項１乃至９のいずれか１記載の画像圧縮装置。
【請求項１１】
画像の圧縮符号データは、ＪＰＥＧ２０００で規定された方式に基づいて生成され、ヘッダ部分に、前記撮影条件の項目として、撮影時の露光時間、Ｆナンバ、露出プログラム、スペクトル感度、ＩＳＯスピードレート、光電変換関数、シャッタスピード、絞り値、輝度値、露光補正値、レンズ最小Ｆ値、被写体距離、測光方式、光源、フラッシュ、レンズ焦点距離、フラッシュ強度、空間周波数応答、焦点面の幅の解像度、焦点面の高さの解像度、焦点面解像度単位、被写体位置、露出インデックス、センサ方式、の情報のうちのいずれか１又は複数を記述したものであることを特徴とする請求項１乃至１０のいずれか１記載の画像圧縮装置。
【請求項１２】
画像の圧縮符号データは、ＪＰＥＧ２０００で規定された方式に基づいて生成され、ヘッダ部分に、前記撮影条件の項目として、ＧＰＳによる撮影位置に関する情報すなわち緯度経度、高度、高度の単位、ＧＰＳ時間、測位に使った生成信号、ＧＰＳ受信機の状態、ＧＰＳの測位方法、測位の信頼性、速度の単位、速度、進行方向の単位、進行方向、撮影した画像の方向の単位、撮影した画像の方向、測位に用いた地図データ、目的地の緯度経度、目的地の方角の単位、目的地の方角、目的地までの距離の単位、目的地までの距離、の情報のうちのいずれか１又は複数を記述したものであることを特徴とする請求項１乃至１０のいずれか１記載の画像圧縮装置。
【請求項１３】
画像のサムネイルを取り出す画像処理装置であって、請求項１乃至１２のいずれか１記載の画像圧縮装置で生成した圧縮符号データから、該圧縮符号データのサムネイル情報を元に、符号データの一部を切り出す手段を有することを特徴とする画像処理装置。
【請求項１４】
画像のサムネイルを出力する画像伸張装置であって、請求項１乃至１２のいずれか１記載の画像圧縮装置で生成した圧縮符号データから、該圧縮符号データのサムネイル情報を元に、符号データからサムネイル部分のみを伸張し出力する手段を有することを特徴とする画像伸張装置。
【請求項１５】
画像の圧縮符号データを生成する画像圧縮方法において、画像の撮影条件を設定する撮影条件設定ステップと、該設定された撮影条件に応じて、画像のサムネイル情報を、１又は複数形態設定するサムネイル設定ステップと、該設定された形態のサムネイル情報を、符号データ形成時にヘッダ部分に付加するサムネイル情報付加ステップと、を有することを特徴とする画像圧縮方法。
【請求項１６】
前記撮影条件設定ステップは、入力画像から撮影条件を読み取るステップを有することを特徴とする請求項１５記載の画像圧縮方法。
【請求項１７】
前記サムネイル情報として、画像の解像度情報を用いることを特徴とする請求項１５又は１６記載の画像圧縮方法。
【請求項１８】
前記解像度情報として、画像のデコンポジションレベル情報を用いることを特徴とする請求項１７記載の画像圧縮方法。
【請求項１９】
前記サムネイル情報として、画像の位置情報を用いることを特徴とする請求項１５乃至１８のいずれか１記載の画像圧縮方法。
【請求項２０】
前記位置情報として、タイル情報，プレシンクト情報，コードブロック情報，画素位置情報のうち、いずれか１又は複数を用いることを特徴とする請求項１９記載の画像圧縮方法。
【請求項２１】
前記サムネイル情報として、画像のコンポーネント情報を用いることを特徴とする請求項１５乃至２０のいずれか１記載の画像圧縮方法。
【請求項２２】
前記サムネイル情報として、画像の画質情報を用いることを特徴とする請求項１５乃至２１のいずれか１記載の画像圧縮方法。
【請求項２３】
前記画質情報として、レイヤ情報及び／又はビットプレーン情報を用いることを特徴とする請求項２２記載の画像圧縮方法。
【請求項２４】
前記サムネイル情報として、画像のサブバンド情報を用いることを特徴とする請求項１５乃至２３のいずれか１記載の画像圧縮方法。
【請求項２５】
画像の圧縮符号データはＪＰＥＧ２０００で規定された方式に基づいて生成され、ヘッダ部分に、前記撮影条件の項目として、撮影時の露光時間、Ｆナンバ、露出プログラム、スペクトル感度、ＩＳＯスピードレート、光電変換関数、シャッタスピード、絞り値、輝度値、露光補正値、レンズ最小Ｆ値、被写体距離、測光方式、光源、フラッシュ、レンズ焦点距離、フラッシュ強度、空間周波数応答、焦点面の幅の解像度、焦点面の高さの解像度、焦点面解像度単位、被写体位置、露出インデックス、センサ方式、の情報のうちのいずれか１又は複数を記述したことを特徴とする請求項１５乃至２４のいずれか１記載の画像圧縮装置。
【請求項２６】
画像の圧縮符号データはＪＰＥＧ２０００で規定された方式に基づいて生成され、ヘッダ部分に、前記撮影条件の項目として、ＧＰＳによる撮影位置に関する情報すなわち緯度経度、高度、高度の単位、ＧＰＳ時間、測位に使った生成信号、ＧＰＳ受信機の状態、ＧＰＳの測位方法、測位の信頼性、速度の単位、速度、進行方向の単位、進行方向、撮影した画像の方向の単位、撮影した画像の方向、測位に用いた地図データ、目的地の緯度経度、目的地の方角の単位、目的地の方角、目的地までの距離の単位、目的地までの距離、の情報のうちのいずれか１又は複数を記述したことを特徴とする請求項１５乃至２４のいずれか１記載の画像圧縮装置。
【請求項２７】
画像のサムネイルを取り出す画像処理方法であって、請求項１５乃至２６のいずれか１記載の画像圧縮方法で生成した圧縮符号データから、該圧縮符号データのサムネイル情報を元に、符号データの一部を切り出すステップを有することを特徴とする画像処理方法。
【請求項２８】
画像のサムネイルを出力する画像伸張方法であって、請求項１５乃至２６のいずれか１記載の画像圧縮方法で生成した圧縮符号データから、該圧縮符号データのサムネイル情報を元に、符号データからサムネイル部分のみを伸張し出力するステップを有することを特徴とする画像伸張方法。
【請求項２９】
請求項１乃至１２のいずれか１記載の画像圧縮装置として、或いは、請求項１３記載の画像処理装置として、或いは請求項１４記載の画像伸張装置として、コンピュータを機能させるためのプログラム。
【請求項３０】
請求項１５乃至２６のいずれか１記載の画像圧縮方法、或いは、請求項２７記載の画像処理方法、或いは請求項２８記載の画像伸張方法を、コンピュータに実行させるためのプログラム。
【請求項３１】
請求項２９又は３０記載のプログラムを記録したコンピュータ読み取り可能な記録媒体。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は、画像圧縮装置、画像処理装置、画像伸張装置、画像圧縮方法、画像処理方法、画像伸張方法、プログラム、及び記録媒体に関する。
【０００２】
【従来の技術】
近年、高精細画像の普及が著しい。これは、デジタルスチルカメラやスキャナ等の入力デバイス、インクジェットプリンタやディスプレイ等の出力デバイスにおける高精細化に拠るところが大きい。そして、こうした高精細静止画像を扱う画像圧縮伸張アルゴリズムとして、現在のところ、ＪＰＥＧ（Ｊｏｉｎｔ  Ｐｈｏｔｏｇｒａｐｈｉｃ  Ｅｘｐｅｒｔｓ  Ｇｒｏｕｐ）が最も広く使われている。ＪＰＥＧでは、空間領域の冗長度を除去するために、二次元離散コサイン変換を用いている。
【０００３】
この方式の基本機能は「静止画像を圧縮し伸張する」ことだけである。圧縮ファイルの状態で画像を操作したり、伸張する時に特定領域だけを見たりすることはできない。また、階層を持たない「フラットな構造」として画像を扱っている。従って、画像に新たな処理を加えるためには、符号データは必ず完全に復号化される必要がある。
【０００４】
ＪＰＥＧアルゴリズムにおいては、画像の高精細化や大規模化に伴い、すなわち原画像の画素数が増えるに従い、符号化された画像データを伸張し画像値を表示デバイス上に画像として表示させるのに必要な時間も、並行して増えていく。最近は、入力デバイスの高性能化によって原画像の高精細化や大面積化が進み、無視できないレベルになりつつある。また、衛星・航空写真や医療・科学分野の画像、そして文化財を記録した画像を扱う分野においては、既に解決すべき不具合として認識されている。なお、ＪＰＥＧ圧縮画像を伸張する際には、それに要する時間が、縮小率とは無関係に一定の値をとるという特徴があるが、この理由は、上述したように、ＪＰＥＧ方式で符号化されたデータは縮小率に関わり無く必ず完全に復号化されるからである。
【０００５】
通常、こうした大きい画像の全画素をディスプレイに表示することは、表示デバイスの表示可能画素数に制約があるので難しい。実際には、画面上に縮小して表示することにより対処している。しかし、従来のＪＰＥＧアルゴリズムでは、縮小画像を表示させる場合においても、原画像全てを伸張し全画素値を求め、そこから間引き処理を行ってディスプレイ上に表示していた。原画像の全画素値を求めるために要する伸張処理時間は、画像のピクセル数に比例して増大する。ＭＰＵの性能やメモリの容量にも依るが、例えば、画像が表示されるまでに、数分から数十分の時間を要している。
【０００６】
また、ＪＰＥＧアルゴリズムにおいては、完全な復号処理を行わなくても使い手にとって十分な情報を得られる場合でも、従来のＪＰＥＧ方式では復号処理を全て行わなければならず、伸張時に伸張する画像領域や色成分或いは伸張動作順序を指定できない。例えば、カラー画像をグレイスケールの画像で表示したい、或る特定領域の画像だけを見たい、サムネイルの大きさで見たい、画像コンテンツを高速に閲覧したい、Ｍｏｔｉｏｎ静止画像の早送り表示を見たい、等々の要求に応えることは、従来のＪＰＥＧアルゴリズムでは困難である。従来のＪＰＥＧアルゴリズムでは、まず原画像を圧縮した符号データに対し、完全な伸張を行った画像データを生成する。その後、その画像データをグレイスケール表示用の画像データ、特定領域表示用の画像データ、サムネイル表示用の画像データなどに変換することにより、所望の表示画像を得る。
【０００７】
近年、ＪＰＥＧの次世代の画像符号化方式としてＪＰＥＧ２０００方式（ＩＳＯ／ＩＥＣ  ＦＣＤ  １５４４４−１）が規格化されたが、ＪＰＥＧ２０００方式では、画像を高精細な状態で保存しておき、その画像符号データから特定の解像度の画像や特定の画質を持つ画像を取り出すことなどが可能であることを利用して、サムネイル画像の出力（表示，印刷，伝送）を高速にしている。
【０００８】
従来から、画像表示装置においては、画像のサムネイルを表示することがよくあったが、ＪＰＥＧ２０００によりサムネイル画像の高速な出力が可能になったことを受けて、さらに、表示に限らず、印刷，伝送等、サムネイルの出力を行なう機会が増えてくる。
【０００９】
【発明が解決しようとする課題】
上述のごときサムネイル出力の機会が増加するに従って、サムネイルに対する様々な要求が生じてくる。サムネイル出力の処理速度や、そのオリジナル画像に記憶された情報に基づくサムネイル出力などである。
【００１０】
処理速度に関しては、ＪＰＥＧ方式に対してＥｘｉｆ（Ｅｘｃｈａｎｇｅａｂｌｅ  ｉｍａｇｅ  ｆｉｌｅ  ｆｏｒｍａｔ）などで標準化されているように、保存するサムネイル画像（小画像）のデータそのものを主画像の圧縮データのヘッダ部分に格納しておくことが一般的であり、サムネイル画像を別に保存しておき出力する際にその保存した画像を読み出して行うので、出力速度は速くなるが、圧縮データの容量が大きくなってしまう。
【００１１】
オリジナル画像に記憶された情報に基づくサムネイル出力は、圧縮方式がＪＰＥＧ２０００方式に移行してくることにより、様々な可能性を秘めているが、未だその具体的な提案には至っていない。
【００１２】
実際、ＪＰＥＧ２０００の規格によれば、符号中に、サブサンプリングを判別するパラメータ，量子化テーブルを計算するパラメータ，画素数，コンポーネントの意味（ＲＧＢかＹＣｂＣｒか），１画素あたりのビット数などの符号を記述することが挙げられ、さらに、ＪＰＥＧ２０００ファイルフォーマットの規格によれば、解像度，使用する色空間の情報記述を行うことになっている。しかしながら、ＪＰＥＧ２０００による圧縮を撮影時にカメラ上で行う場合、圧縮されたファイルにこれら以外の各種撮影条件などの情報を記載したい場合があり、各種撮影条件などの情報に基づく処理に関しては、その記載に関しても、さらにはその記載に基づくサムネイル出力処理に関しても提案がなされていない。
【００１３】
本発明は、上述のごとき実情に鑑みてなされたものであり、オリジナル画像に記憶された情報、特に撮影条件に関する情報に基づいて、圧縮された画像データのデータ容量を大きくすることなく且つ画像データのサムネイルを高速に出力する可能な圧縮画像データを生成する、画像圧縮装置、画像圧縮方法、コンピュータ読み取り可能なプログラム、並びに、そのプログラムを記録したコンピュータ読み取り可能な記録媒体を提供することをその目的とする。
【００１４】
また、本発明は、オリジナル画像に記憶された情報、特に撮影条件に関する情報に基づいて、入力する圧縮画像データのデータ容量を大きくすることなく且つ画像データのサムネイルを高速に出力することが可能な、画像処理装置及び画像伸張装置、画像処理方法及び画像伸張方法、コンピュータ読み取り可能なプログラム、並びに、そのプログラムを記録したコンピュータ読み取り可能な記録媒体を提供することを他の目的とする。
【００１５】
【課題を解決するための手段】
本発明においては、ＪＰＥＧ２０００方式（ＩＳＯ／ＩＥＣ  ＦＣＤ  １５４４４−１）が、画像を高精細な状態で保存しておき、その画像符号データから特定の解像度の画像や特定の画質を持つ画像を取り出すことなどが可能であることを利用して、サムネイル画像の出力（表示，印刷，伝送）を高速にしている。本発明においては、それに加えて、再生時に撮影時の情報を用いてＪＰＥＧ２０００特有の操作、特にサムネイル出力を行うことができるようにしている。本発明では、特に、撮影条件などの情報をＪＰＥＧ２０００方式で圧縮されたデータファイルのヘッダ部分に記載することを特徴とする。本発明は、ＪＰＥＧ２０００符号でなくとも、解像度，位置，画質，色コンポーネントなどで、画像を容易に切り出すことが可能である符号データにおいて、低解像度データ以外のデータをサムネイルとして用いる場合に有益である。
【００１６】
撮影条件などの情報としては、圧縮にＪＰＥＧ２０００を用いた場合の静止画のヘッダに、従来からのＥｘｉｆで定義されている撮影条件などを記述することもできる。
【００１７】
本発明は、以下の各技術手段により構成される。
第１の技術手段は、画像の圧縮符号データを生成する画像圧縮装置において、画像の撮影条件を設定する撮影条件設定手段と、該設定された撮影条件に応じて、画像のサムネイル情報を、１又は複数形態設定するサムネイル設定手段と、該設定された形態のサムネイル情報を、符号データ形成時にヘッダ部分に付加するサムネイル情報付加手段と、を有することを特徴とし、撮影条件に応じて画質のサムネイル情報が容易に取り出せるようにしている。また、画像の圧縮符号データを生成する画像圧縮方法において、画像の撮影条件を設定する撮影条件設定ステップと、該設定された撮影条件に応じて、画像のサムネイル情報を、１又は複数形態設定するサムネイル設定ステップと、該設定された形態のサムネイル情報を、符号データ形成時にヘッダ部分に付加するサムネイル情報付加ステップと、を有するようにしてもよい。また、この技術手段は、コンピュータ読み取り可能なプログラムとしての形態や、そのプログラムを記録したコンピュータ読み取り可能な記録媒体としての形態も実現できる。
【００１８】
第２の技術手段は、第１の技術手段において、前記撮影条件設定手段は、入力画像から撮影条件を読み取ることを特徴としたものである。
【００１９】
第３の技術手段は、第１又は第２の技術手段において、前記サムネイル情報として、画像の解像度情報を用いることを特徴としたものである。
【００２０】
第４の技術手段は、第３の技術手段において、前記解像度情報として、画像のデコンポジションレベル情報を用いることを特徴としたものである。
【００２１】
第５の技術手段は、第１乃至第４のいずれか１の技術手段において、前記サムネイル情報として、画像の位置情報を用いることを特徴としたものである。
【００２２】
第６の技術手段は、第５の技術手段において、前記位置情報として、タイル情報，プレシンクト情報，コードブロック情報，画素位置情報のうち、いずれか１又は複数を用いることを特徴としたものである。
【００２３】
第７の技術手段は、第１乃至第６のいずれか１の技術手段において、前記サムネイル情報として、画像のコンポーネント情報を用いることを特徴としたものである。
【００２４】
第８の技術手段は、第１乃至第７のいずれか１の技術手段において、前記サムネイル情報として、画像の画質情報を用いることを特徴としたものである。
【００２５】
第９の技術手段は、第８の技術手段において、前記画質情報として、レイヤ情報及び／又はビットプレーン情報を用いることを特徴としたものである。
【００２６】
第１０の技術手段は、第１乃至第９のいずれか１の技術手段において、前記サムネイル情報として、画像のサブバンド情報を用いることを特徴としたものである。
【００２７】
第１１の技術手段は、第１乃至第１０のいずれか１の技術手段において、画像の圧縮符号データは、ＪＰＥＧ２０００で規定された方式に基づいて生成され、ヘッダ部分に、前記撮影条件の項目として、撮影時の露光時間、Ｆナンバ、露出プログラム、スペクトル感度、ＩＳＯスピードレート、光電変換関数、シャッタスピード、絞り値、輝度値、露光補正値、レンズ最小Ｆ値、被写体距離、測光方式、光源、フラッシュ、レンズ焦点距離、フラッシュ強度、空間周波数応答、焦点面の幅の解像度、焦点面の高さの解像度、焦点面解像度単位、被写体位置、露出インデックス、センサ方式、の情報のうちのいずれか１又は複数を記述したものであることを特徴としたものである。
【００２８】
第１２の技術手段は、第１乃至第１０のいずれか１の技術手段において、画像の圧縮符号データは、ＪＰＥＧ２０００で規定された方式に基づいて生成され、ヘッダ部分に、前記撮影条件の項目として、ＧＰＳによる撮影位置に関する情報すなわち緯度経度、高度、高度の単位、ＧＰＳ時間、測位に使った生成信号、ＧＰＳ受信機の状態、ＧＰＳの測位方法、測位の信頼性、速度の単位、速度、進行方向の単位、進行方向、撮影した画像の方向の単位、撮影した画像の方向、測位に用いた地図データ、目的地の緯度経度、目的地の方角の単位、目的地の方角、目的地までの距離の単位、目的地までの距離、の情報のうちのいずれか１又は複数を記述したものであることを特徴としたものである。
【００２９】
第１３の技術手段は、画像のサムネイルを取り出す画像処理装置であって、第１乃至第１２のいずれか１の技術手段で生成した圧縮符号データから、該圧縮符号データのサムネイル情報を元に、符号データの一部を切り出す手段を有することを特徴としたものである。また、画像のサムネイルを取り出す画像処理方法として、第１乃至第１２のいずれか１の技術手段で生成した圧縮符号データから、該圧縮符号データのサムネイル情報を元に、符号データの一部を切り出すステップを有するようにしてもよい。また、この技術手段は、コンピュータ読み取り可能なプログラムとしての形態や、そのプログラムを記録したコンピュータ読み取り可能な記録媒体としての形態も実現できる。
【００３０】
第１４の技術手段は、画像のサムネイルを出力する画像伸張装置であって、第１乃至第１２のいずれか１の技術手段で生成した圧縮符号データから、該圧縮符号データのサムネイル情報を元に、符号データからサムネイル部分のみを伸張し出力する手段を有することを特徴としたものである。また、画像のサムネイルを出力する画像伸張方法として、第１乃至第１２のいずれか１の技術手段で生成した圧縮符号データから、該圧縮符号データのサムネイル情報を元に、符号データからサムネイル部分のみを伸張し出力するステップを有するようにしてもよい。また、この技術手段は、コンピュータ読み取り可能なプログラムとしての形態や、そのプログラムを記録したコンピュータ読み取り可能な記録媒体としての形態も実現できる。
【００３１】
【発明の実施の形態】
以下、本発明の各実施形態において処理される符号化データ（以下、圧縮符号データとも呼ぶ）が、ＪＰＥＧ２０００（ＩＳＯ／ＩＥＣ  ＦＣＤ  １５４４４−１）の静止画像の符号化データと、Ｍｏｔｉｏｎ−ＪＰＥＧ２０００（ＩＳＯ／ＩＥＣ  ＦＣＤ  １５４４４−３）の動画像の符号化データであるとして説明を行う。Ｍｏｔｉｏｎ−ＪＰＥＧ２０００は、連続した複数の静止画像のそれぞれをフレームとして動画像を扱い、各フレームの符号化データはＪＰＥＧ２０００に準拠しており、ファイルフォーマットがＪＰＥＧ２０００と一部異なるのみである。
【００３２】
ＪＰＥＧ２０００は、２００１年に国際標準になったＪＰＥＧ後継の画像圧縮伸張方式であり、そのアルゴリズムについては、例えば書籍「次世代画像符号化方式  ＪＰＥＧ２０００」（野水泰之著、株式会社トリケップス）などに詳しいが、以下の実施の形態の説明に必要な範囲でＪＰＥＧ２０００のアルゴリズムについて説明する。
【００３３】
図１は、ＪＰＥＧ２０００の基本となる階層符号化・復号化アルゴリズムを説明するためのブロック図で、本発明の一実施形態に係る画像処理装置を説明するためのブロック図でもある。
ＪＰＥＧ２０００の基本となる階層符号化・復号化アルゴリズムは、２次元ウェーブレット変換・逆変換部２、量子化・逆量子化部３、エントロピー符号化・復号化部４、タグ処理部５で構成されている。このうち本発明の特徴部分は、主としてタグ処理部５或いは生成されたＪＰＥＧ２０００符号への処理である。色空間変換・逆変換部（色変換・逆変換部）１からの入力又は色空間変換・逆変換部１への出力として、さらにはタグ処理部５からの入力又はタグ処理部５への出力として、２次元ウェーブレット変換・逆変換部２，量子化・逆量子化部３，エントロピー符号化・復号化部４のそれぞれが備えられている。各部は正逆方向で別構成としても良いことは言及するまでもないが、各部における処理はコンポーネント毎に実行するような構成としてもよい。
【００３４】
図２は、ＪＰＥＧ２０００のアルゴリズムを説明するための簡略化されたフロー図である。
図１に示すＪＰＥＧ２０００での圧縮・伸張の処理の概要としては、圧縮時には、ステップＳ１，Ｓ２において色空間変換がなされた各コンポーネントをウェーブレット変換してウェーブレット係数を求め（ステップＳ３）、プログレッシブサブビットプレーン符号化（ステップＳ４）、エントロピー符号化（ステップＳ５）が施される。一方、伸張時には、ステップＳ５，Ｓ６においてエントロピー復号、逆量子化を経て得られたコンポーネント毎のウェーブレット係数に対して、逆ウェーブレット変換が施され（ステップＳ３）、その後逆色変換がなされて（ステップＳ２）、原画像のＲＧＢ画素値に戻る（ステップＳ１）といった流れになる。
【００３５】
以下、ＪＰＥＧ２０００アルゴリズムの特徴について、詳細に説明する。
ＪＰＥＧ２０００アルゴリズムが、ＪＰＥＧアルゴリズムと比較して最も大きく異なる点の一つは、変換方法である。ＪＰＥＧでは離散コサイン変換（ＤＣＴ：Ｄｉｓｃｒｅｔｅ  Ｃｏｓｉｎｅ  Ｔｒａｎｓｆｏｒｍ）を、ＪＰＥＧ２０００の階層符号化圧縮伸張アルゴリズムでは離散ウェーブレット変換（ＤＷＴ：Ｄｉｓｃｒｅｔｅ  Ｗａｖｅｌｅｔ  Ｔｒａｎｓｆｏｒｍ）を、各々用いている。ＤＷＴはＤＣＴに比べて、高圧縮領域における画質が良いという長所が、ＪＰＥＧの後継アルゴリズムであるＪＰＥＧ２０００で採用された大きな理由の一つとなっている。また、他の大きな相違点は、後者では、最終段に符号形成をおこなうために、タグ処理部５と呼ばれる機能ブロックが追加されていることである。この部分で、圧縮動作時には圧縮データがコードストリームとして生成され、伸張動作時には伸張に必要なコードストリームの解釈が行われる。そして、コードストリームによって、ＪＰＥＧ２０００は様々な便利な機能を実現できるようになった。ＪＰＥＧ２０００のアルゴリズムは高圧縮率（低ビットレート）での画質が良好であるほか、多くの特徴を有する。
【００３６】
その１つが、符号化データの符号の削除（トランケーション）によるポスト量子化によって、再圧縮を行うことなく全体の符号量を調整できることである。この符号削除は、タイルやプレシンクトなどの領域、コンポーネント、デコンポジションレベル（もしくは解像度レベル）、ビットプレーン、サブビットプレーン、パケット、マルチレイヤ構成の場合にはレイヤなど、多様な単位で行うことができる。
【００３７】
例えば、図３はデコンポジションレベル数が３の場合の、各デコンポジションレベルにおけるサブバンドを示す図であるが、図３に示したブロックベースでのＤＷＴにおけるオクターブ分割の階層に対応した任意の階層で、静止画像の圧縮伸張処理を停止させることができる。なお、デコンポジションレベルと解像度レベルとの関係であるが、各サブバンドに対し、３ＬＬの解像度レベルが０、３ＨＬ，３ＬＨ，３ＨＨの解像度レベルが１、２ＨＬ，２ＬＨ，２ＨＨの解像度レベルが２、１ＨＬ，１ＬＨ，１ＨＨの解像度レベルが３となっている。また、ここでの「デコンポジション」に関し、ＪＰＥＧ２０００  ＰａｒｔＩ  ＦＤＩＳ（Ｆｉｎａｌ  Ｄｒａｆｔ  ｉｎｔｅｒｎａｔｉｏｎａｌ  Ｓｔａｎｄａｒｄ）には、以下のように定義されている。
【００３８】
ｄｅｃｏｍｐｏｓｉｔｉｏｎ  ｌｅｖｅｌ：
Ａ  ｃｏｌｌｅｃｔｉｏｎ  ｏｆ  ｗａｖｅｌｅｔ  ｓｕｂｂａｎｄｓ  ｗｈｅｒｅ  ｅａｃｈ  ｃｏｅｆｆｉｃｉｅｎｔ  ｈａｓ  ｔｈｅ  ｓａｍｅ  ｓｐａｔｉａｌ  ｉｍｐａｃｔ  ｏｒ  ｓｐａｎ  ｗｉｔｈ  ｒｅｓｐｅｃｔ  ｔｏ  ｔｈｅ  ｓｏｕｒｃｅ  ｃｏｍｐｏｎｅｎｔ  ｓａｍｐｌｅｓ．  Ｔｈｅｓｅ  ｉｎｃｌｕｄｅ  ｔｈｅ  ＨＬ，ＬＨ，ａｎｄ  ＨＨ  ｓｕｂｂａｎｄｓ  ｏｆ  ｔｈｅ  ｓａｍｅ  ｔｗｏ  ｄｉｍｅｎｓｉｏｎａｌ  ｓｕｂｂａｎｄ  ｄｅｃｏｍｐｏｓｉｔｉｏｎ．  Ｆｏｒ  ｔｈｅ  ｌａｓｔ  ｄｅｃｏｍｐｏｓｉｔｉｏｎ  ｌｅｖｅｌ  ｔｈｅ  ＬＬ  ｓｕｂｂａｎｄ  ｉｓ  ａｌｓｏ  ｉｎｃｌｕｄｅｄ．
【００３９】
もう１つは、符号化データのレイヤの再構成を符号状態のままで行うことができることである。もう１つは、あるプログレッション順序の符号化コードを、符号状態のままで別のプログレッション順序の符号化データに再構成することが可能であることである。もう１つは、マルチレイヤの符号化データを、符号状態のまま、レイヤ単位で２以上の符号化コードに分割可能であることである。
【００４０】
以下、ＪＰＥＧ２０００アルゴリズムについて、順を追って詳細に説明する。
原画像の入出力部分には、図１のように色空間変換部１が接続されることが多い。例えば、原色系のＲ（赤）／Ｇ（緑）／Ｂ（青）の各コンポーネントからなるＲＧＢ表色系や、補色系のＹ（黄）／Ｍ（マゼンタ）／Ｃ（シアン）の各コンポーネントからなるＹＭＣ表色系から、ＹＵＶ或いはＹＣｂＣｒ表色系への変換又は逆の変換を行う部分がこれに相当する。
【００４１】
図４は、タイル分割されたカラー画像の各コンポーネントの例を示す図である。
カラー画像は、一般に図４に示すように、原画像の各コンポーネント７Ｒ，７Ｇ，７Ｂ（ここではＲＧＢ原色系）が、矩形をした領域（タイル）７Ｒｔ，７Ｇｔ，７Ｂｔによって分割される。そして、個々のタイル、例えば、Ｒ００，Ｒ０１，．．．，Ｒ１５／Ｇ００，Ｇ０１，．．．，Ｇ１５／Ｂ００，Ｂ０１，．．．，Ｂ１５が、圧縮伸張プロセスを実行する際の基本単位となる。このように、圧縮処理の対象となる画像データ（動画を扱う場合には各フレームの画像データ）は、コンポーネント毎にタイルと呼ばれる重複しない矩形領域に分割され、コンポーネント毎にタイルを単位として処理される。すなわち、圧縮伸張動作は、コンポーネント毎、そしてタイル毎に、独立に行なわれる。ただし、タイルサイズを画像サイズと同一にすること、つまりタイル分割を行わないことも可能である。
【００４２】
このように、符号化時には、各コンポーネントの各タイルのデータが、圧縮率の向上を目的として図１の色空間変換部１に入力され、ＲＧＢデータやＣＭＹデータからＹＣｒＣｂデータへの色空間変換を施されたのち、色空間変換後の各コンポーネントの各タイル画像に対し２次元ウェーブレット変換部２で２次元ウェーブレット変換（順変換）が適用されて周波数帯に空間分割される。なお、この色空間変換が省かれる場合もある。
【００４３】
図３を参照して、デコンポジションレベル数が３の場合の、２次元ウェーブレット変換部２での処理を説明する。２次元ウェーブレット変換部２では、まず、原画像のタイル分割によって得られた原画像タイル（０ＬＬ）（デコンポジションレベル０（６０））に対して２次元ウェーブレット変換を施し、デコンポジションレベル１（６１）に示すサブバンド１ＬＬ，１ＨＬ，１ＬＨ，１ＨＨを分離する。すなわち、原画像タイル（６０）がデコンポジションレベル１（６１）に示すサブバンドに分割される。そして引き続き、この階層における低周波成分１ＬＬに対して、２次元ウェーブレット変換を施し、デコンポジションレベル２（６２）に示すサブバンド２ＬＬ，２ＨＬ，２ＬＨ，２ＨＨを分離する。順次同様に、低周波成分２ＬＬに対しても、２次元可逆ウェーブレット変換を施し、デコンポジションレベル３（６３）に示すサブバンド３ＬＬ，３ＨＬ，３ＬＨ，３ＨＨを分離する。ここで、各デコンポジションレベルにおいて符号化の対象となるサブバンドは、例えば、デコンポジションレベル数を３とした時、サブバンド３ＨＬ，３ＬＨ，３ＨＨ，２ＨＬ，２ＬＨ，２ＨＨ，１ＨＬ，１ＬＨ，１ＨＨが符号化対象となり、３ＬＬサブバンドは符号化されない。
【００４４】
次いで、指定した符号化の順番で符号化の対象となるビットが定められ、図１の量子化部３で対象ビット周辺のビットからコンテキストが生成される。つまり、上述したような低周波成分（ＬＬサブバンド係数）の再帰的分割（オクターブ分割）により得られたウェーブレット係数は、サブバンド毎に量子化・逆量子化部３にて量子化されることとなる。ＪＰＥＧ２０００ではロスレス（可逆）圧縮とロッシー（非可逆）圧縮のいずれも可能であり、ロスレス圧縮の場合には量子化ステップ幅は常に１であり、この段階では量子化されない。量子化の処理が終わったウェーブレット係数は、例えば８ｂｉｔの原画像に対し１２ｂｉｔに増える。
【００４５】
続いて、エントロピー符号化部４では、コンテキストと対象ビットから確率推定によって、各コンポーネントのタイルに対する符号化を行う。こうして、原画像の全てのコンポーネントについて、タイル単位で符号化処理が行われる。量子化後の各サブバンド係数に対するこのエントロピー符号化には、ブロック分割、係数モデリング及び２値算術符号化からなるＥＢＣＯＴ（Ｅｍｂｅｄｄｅｄ  Ｂｌｏｃｋ  Ｃｏｄｉｎｇ  ｗｉｔｈ  Ｏｐｔｉｍｉｚｅｄ  Ｔｒｕｎｃａｔｉｏｎ）と呼ばれる符号化方式が用いられ、量子化後の各サブバンド係数のビットプレーンが上位プレーンから下位プレーンへ向かって、コードブロックと呼ばれるブロック毎に符号化される。
【００４６】
最後にタグ処理部５は、符号形成プロセスを行う。タグ処理部５で行う符号形成プロセスにおいては、エントロピー符号化部４からの全符号化データを１本のコードストリームに結合するとともに、それにタグを付加する処理を行う。タグ処理部５では、まず、エントロピー符号化部４で生成されたコードブロックの符号をまとめてパケットが生成され、ここで生成されたパケットがプログレッション順序に従って並べられるとともに必要なタグ情報が付加されることにより、所定のフォーマットの符号化データが作成される。なお、ＪＰＥＧ２０００では、符号順序制御に関して、解像度レベル、プレシンクト（ｐｏｓｉｔｉｏｎ）、レイヤ、コンポーネント（色成分）の組み合わせによる５種類のプログレッション順序が定義されている。
【００４７】
ここで、エントロピー符号化部４におけるエントロピー符号化、及びタグ処理部５における符号形成プロセスの詳細を例を挙げて説明する。
量子化の処理が終わったウェーブレット係数は、個々のサブバンド毎に、「プレシンクト」と呼ばれる重複しない矩形に分割される。これは、インプリメンテーションでメモリを効率的に使うために導入されたものである。更に、個々のプレシンクトは、重複しない矩形の「コードブロック」に分けられる。
【００４８】
ここで、プレシンクト、コードブロック、パケット、レイヤについて簡単に説明する。画像≧タイル≧サブバンド≧プレシンクト≧コードブロックの大きさ関係がある。
プレシンクトとは、サブバンドの矩形領域で、同じデコンポジションレベルのＨＬ，ＬＨ，ＨＨサブバンドの空間的に同じ位置にある３つの領域の組が１つのプレシンクトとして扱われる。ただし、ＬＬサブバンドでは、１つの領域が１つのプレシンクトとして扱われる。プレシンクトのサイズをサブバンドと同じサイズにすることも可能である。また、プレシンクトを分割した矩形領域がコードブロックである。プレシンクトに含まれる全てのコードブロックの符号の一部（例えば最上位から３ビット目までの３枚のビットプレーンの符号）を取り出して集めたものがパケットである。符号が空（から）のパケットも許される。コードブロックの符号をまとめてパケットを生成し、所望のプログレッション順序に従ってパケットを並べることにより符号データを形成する。なお、後述するが、図９の各タイルに関するＳＯＤ以下の部分がパケットの集合である。全てのプレシンクト（つまり、全てのコードブロック、全てのサブバンド）のパケットを集めると、画像全域の符号の一部（例えば、画像全域のウェーブレット係数の最上位のビットプレーンから３枚目までのビットプレーンの符号）ができるが、これがレイヤである（ただし、次に示す例のように、必ずしも全てのプレシンクトのパケットをレイヤに含めなくともよい）。したがって、伸張時に復号されるレイヤ数が多いほど再生画像の画質は向上する。つまり、レイヤは画質の単位とも言える。全てのレイヤを集めると、画像全域の全てのビットプレーンの符号になる。
【００４９】
図５は、プレシンクトとコードブロックの関係を説明するための図である。また、図６乃至図８は、デコンポジションレベル数が２（解像度レベル数＝３）の場合のパケットとレイヤの一例を示す図で、図６は一般的なレイヤ構成例を、図７は複数の機器のそれぞれに応じたサムネイル出力が可能なレイヤ構成例を、図８は伝送路容量に応じたサムネイル出力が可能なレイヤ構成例を、それぞれ示している。
【００５０】
量子化の処理が終わったウェーブレット係数は、個々のサブバンド毎にプレシンクトに分割されるが、図５に示したように、一つのプレシンクト（例えばプレシンクト８ｐ４）は、空間的に一致した３つの矩形領域からなっている。プレシンクト８ｐ６も同様である。すなわち、図５中のプレシンクトと記された空間的に同じ位置にある３つの領域の組が１つのプレシンクトとして扱われる。なお、ここで原画像８はデコンポジションレベル１でタイル８ｔ０，８ｔ１，８ｔ２，８ｔ３の４つのタイルに分割されている。更に、個々のプレシンクトは、重複しない矩形の「コードブロック」（プレシンクト８ｐ４に対してはコードブロック８４ｂ０，８４ｂ１，．．．）に分けられる。これは、エントロピー符号化部４にてエントロピーコーディングを行う際の基本単位となる。
【００５１】
符号化効率を上げるために、図６乃至図８で後に例示するように、係数値をビットプレーン単位に分解し、画素或いはコードブロック毎にビットプレーンに順序付けを行い、１又は複数のビットプレーンからなる層（レイヤ）を構成することもある。すなわち係数値のビットプレーンから、その有意性に基づいた層（レイヤ）を構成し、そのレイヤごとに符号化を行う。最も有意なレイヤである最上位レイヤ（ＭＳＢ）とその下位レイヤを数レイヤだけ符号化し、最も有意でないレイヤ（ＭＬＢ）を含んだそれ以外のレイヤをトランケートすることもある。
【００５２】
図６を参照して、デコンポジションレベル数＝２（解像度レベル数＝３）の場合のパケットとレイヤの構成例（レイヤ数＝１０）を示す。図中の縦長の小さな矩形がパケットであり、その内部に示した数字はパケット番号である。レイヤを濃淡を付けた横長矩形領域として図示してある。すなわち、この例では、パケット番号０〜５１のパケットの符号からなるレイヤ０、パケット番号５２〜７２のパケットの符号からなるレイヤ１、パケット番号７３〜９３のパケットの符号からなるレイヤ２、パケット番号９４〜１１４のパケットの符号からなるレイヤ３、パケット番号１１５〜１３５のパケットの符号からなるレイヤ４、パケット番号１３６〜１５６のパケットの符号からなるレイヤ５、パケット番号１５７〜１７７のパケットの符号からなるレイヤ６、パケット番号１７８〜１９８のパケットの符号からなるレイヤ７、パケット番号１９９〜２１５のパケットの符号からなるレイヤ８、及び、残りのパケット番号２１６〜２２８のパケットの符号からなるレイヤ９の１０レイヤに分割されている。なお、パケットとプレシンクトとの対応関係などは、プログレッション順序の違いやレイヤ分割数等により様々に変化するものであり、上に示したレイヤ構成はあくまで一例である。
【００５３】
図７を参照して、複数の機器のそれぞれに応じたサムネイル出力が可能なレイヤ構成例を説明する。この例では、図６の構成例と同様のレイヤ構成をとるが、本発明の特徴部分であるヘッダ部分に、同一の濃淡で示したパケット番号２，１０，１８，２６，５４，７５のパケットの符号からなるサムネイル情報（パケット番号２，１０，１８，２６，５４，７５）を、例えばデジタルカメラのサムネイル出力用に記録しておく。同様に、画像ビューワソフトのサムネイル表示用のサムネイル情報として、情報「パケット番号９６，１１７」をヘッダ部分に記録しておく。また、同様に、携帯電話における表示用のサムネイル情報として、情報「２ＬＬ」をヘッダ部分に記録しておく。なお、本発明においては、後述するが、さらにこれらの情報は、撮影条件情報に基づいて記録されることとなる。
【００５４】
図８を参照して、デコンポジションレベル数＝２（解像度レベル数＝３）の場合のパケットとレイヤの構成例として、伝送路容量に応じたサムネイル出力が可能なレイヤ構成例（レイヤ数＝１３）を説明する。この例では、同一の濃淡で示したパケット番号０〜３のパケットの符号からなるレイヤ０、同一の濃淡で示したパケット番号４〜１１のパケットの符号からなるレイヤ１、同一の濃淡で示したパケット番号４〜７，１２〜１９のパケットの符号からなるレイヤ２、同一の濃淡で示したパケット番号１２〜１５，２０〜５１のパケットの符号からなるレイヤ３、同一の濃淡で示したパケット番号５２〜７２のパケットの符号からなるレイヤ４、同一の濃淡で示したパケット番号７３〜９３のパケットの符号からなるレイヤ５、同一の濃淡で示したパケット番号９４〜１１４のパケットの符号からなるレイヤ６、同一の濃淡で示したパケット番号１１５〜１３５のパケットの符号からなるレイヤ７、同一の濃淡で示したパケット番号１３６〜１５６のパケットの符号からなるレイヤ８、同一の濃淡で示したパケット番号１５７〜１７７のパケットの符号からなるレイヤ９、同一の濃淡で示したパケット番号１７８〜１９８のパケットの符号からなるレイヤ１０、同一の濃淡で示したパケット番号１９９〜２１５のパケットの符号からなるレイヤ１１、及び、同一の濃淡で示した残りのパケット番号２１６〜２２８のパケットの符号からなるレイヤ１２の１３レイヤに分割されている。なお、パケットとプレシンクトとの対応関係などは、プログレッション順序の違いやレイヤ分割数等により様々に変化するものであり、上に示したレイヤ構成はあくまで一例である。
【００５５】
図６乃至図８のいずれのレイヤ構成例も、パケットとして、符号データを分割しておき、パケット番号の小さいものから順番に所定サイズになるまでパケットを追加していき、所定サイズになったところまでを１レイヤとしている。また、ここで示したレイヤ構成例では、サブビットプレーンとして１ｂｉｔをＲｅｆｉｎｅｍｅｎｔ，Ｓｉｇｎｉｆｉｃａｎｔ，Ｃｌｅａｎｕｐの３つに分割した例を示しているが、サブビットプレーンでさらに細かく分割しておけば、より細かい制御が可能である。さらに、パケットの優先度の順番を入れ替えることにより、解像度を重視した順番、画質を重視した順番、位置を重視した順番などに変更可能となる。なお、図６乃至図８で示したレイヤ構成例は、図２のステップＳ５と共に図示したものに対応している。
【００５６】
図９には、符号形成プロセスにて生成されるＪＰＥＧ２０００の符号化データのフォーマット（コードストリームの構造）を簡単に示している。この符号化データは、各種のタグ情報が付加されている。すなわち、図９に見られるように、符号化データは、コードストリームの始まりを示すＳＯＣマーカ９ｓで始まり、その後に符号化パラメータや量子化パラメータ等を記述したメインヘッダ（Ｍａｉｎ  Ｈｅａｄｅｒ）９ｈが続き、その後に各タイル毎の符号データが続く。各タイル毎の符号データは、ＳＯＴマーカ９ｓｔで始まり、タイルヘッダ（Ｔｉｌｅ  Ｈｅａｄｅｒ）９ｔｈ、ＳＯＤマーカ９ｓｄ、タイルデータ（Ｔｉｌｅ  Ｄａｔａ；符号化データ（ビットストリーム９ｂ））で構成される。そして、コードストリームの終端（最後のタイルデータの後）には、再び、終了を示すタグ（ＥＯＣタグ９ｅ）が置かれる。
【００５７】
図１０は、図９のメインヘッダの構成を示す図である。
図１０に示すように、図９のメインヘッダ９ｈは、画像とタイルのサイズ（ＳＩＺ）に続いて、デフォルト符号スタイル（ＣＯＤ；必須）、符号スタイル成分（ＣＯＣ）、デフォルト量子化（ＱＣＤ；必須）、量子化成分（ＱＣＣ）、ＲＯＩ（ＲＧＮ）、デフォルトプログレッシブ順序（ＰＯＣ）、集約パケット（ＰＰＭ）、タイル長（ＴＬＭ）、パケット長（ＰＬＭ）、色定義（ＣＲＧ）、コメント（ＣＯＭ）から構成される。ＳＩＺ及び必須と示したマーカセグメント（ＣＯＤ，ＱＣＤ）以外は、オプションとなる。
【００５８】
図１１は、ＪＰＥＧ２０００の基本方式のファイルフォーマットの構成を示す図である。
ＪＰＥＧ２０００の基本方式のファイルフォーマットはＪＰ２ファイルフォーマットと称し、図９で説明したＪＰＥＧ２０００符号フォーマットを包含するものであり、画像データやメタデータ、階調数や色空間等の画像の性質を表す情報、知的所有権情報等の情報を含むことを目的としたフォーマットである。ＪＰ２ファイルフォーマットで構成されたＪＰ２ファイルの情報構造は、ｂｏｘと称する情報の区切りから構成され、ｍｅｔａｄａｔａと称するアプリケーションに特化した情報を含む。ＪＰ２ファイルの情報構造は、図１１に実線（必須）と破線（オプション）で示すように、ＪＰＥＧ２０００  Ｓｉｇｎａｔｕｒｅ  ｂｏｘ，Ｆｉｌｅ  Ｔｙｐｅ  ｂｏｘ，ＪＰ２  Ｈｅａｄｅｒ  ｂｏｘ，Ｃｏｎｔｉｇｕｏｕｓ  Ｃｏｄｅｓｔｒｅａｍ  ｂｏｘからなる。詳細は図示の通りである。
【００５９】
一方、復号化時には、符号化時とは逆に、各コンポーネントの各タイルのコードストリームから画像データを生成する。図１を用いて簡単に説明する。この場合、タグ処理部５は、外部より入力したコードストリームに付加されたタグ情報を解釈し、コードストリームを各コンポーネントの各タイルのコードストリームに分解し、その各コンポーネントの各タイルのコードストリーム毎に復号化処理が行われる。コードストリーム内のタグ情報に基づく順番で復号化の対象となるビットの位置が定められるとともに、逆量子化部３で、その対象ビット位置の周辺ビット（既に復号化を終えている）の並びからコンテキストが生成される。エントロピー復号化部４で、このコンテキストとコードストリームから確率推定によって復号化を行い対象ビットを生成し、それを対象ビットの位置に書き込む。
【００６０】
このようにして復号化されたデータは各周波数帯域毎に空間分割されているため、これを２次元ウェーブレット逆変換部２で２次元ウェーブレット逆変換を行うことにより、画像データの各コンポーネントの各タイルが復元される。復元されたデータは色空間逆変換部１によって元の表色系のデータに変換される。
【００６１】
以下、本発明の実施の形態について詳細に説明する。
図１２は、本発明の一実施形態に係る画像圧縮装置の構成例を説明するための機能ブロック図で、図１３は、図１２における画像圧縮方法を説明するためのフロー図である。なお、図１３は、本発明の一実施形態に係る画像圧縮方法の手順例を説明するためのフロー図でもある。
【００６２】
本発明に係る画像圧縮装置は、画像の圧縮符号データを生成する装置であり、撮影条件設定手段及びサムネイル設定手段及びサムネイル情報付加手段を含むものとする。また、画像圧縮装置として説明するが、非圧縮データに限らず圧縮された画像データを本発明に係るサムネイル出力が容易なように変換することが可能であるため画像変換装置ともいえ、またデジタルカメラ（スチル／ビデオ）等の画像入力装置への適用も含む。図１２では、画像圧縮装置（画像変換装置）２０が、画像読込部２１、サムネイル設定手段をもつサムネイル設定部２２、画質圧縮部２３、サムネイル情報付加手段をもつサムネイル情報付加部２４、撮影条件設定手段をもつ撮影条件設定部２５、撮影条件情報をヘッダ部分に付加する撮影条件情報付加部２６、符号生成部２７より構成されているものとして説明する。
【００６３】
サムネイル設定手段では、画像のサムネイル情報を、１又は複数形態設定する。また、サムネイル情報付加手段では、設定された形態（設定された形態のうち１又は複数形態としてもよい）のサムネイル情報を、符号データ形成時にヘッダ部分に付加する。ここで付加するサムネイル情報は、例えば、図７で例示したような情報である。撮影条件設定手段では、画像の撮影条件を設定する。例えば既に圧縮された画像であればそのヘッダ部分に記録されている撮影条件情報を画像読込部２１で読み込んでおくなどして、その読み込んだ撮影条件情報のうち、サムネイル表示等、サムネイル出力に適用する撮影条件をユーザ側で設定するとよい。このように、撮影条件設定手段は、入力画像から撮影条件を読み取る手段を有するようにすればよい。サムネイル設定手段では、ここで設定された撮影条件に応じて、画像のサムネイル情報を、１又は複数形態設定することとなり、サムネイル情報付加手段では、設定された形態のサムネイル情報を、符号データ形成時にヘッダ部分に付加することとなる。
【００６４】
画像圧縮装置２０は、画像データを画像読込部２１で読み込み（ステップＳ１１）、サムネイル設定部２２でサムネイル情報を設定する（ステップＳ１２）。勿論、サムネイル設定部２２にて予め設定するサムネイル情報を設定しておいてもよい。続いて、画質圧縮部２３にて画像を圧縮する（ステップＳ１３）。次に、撮影条件設定部２５により撮影条件を設定し（ステップＳ１４）、サムネイル情報付加部２４にて設定したサムネイル情報に、ステップＳ１４で設定した撮影条件の情報を付加する（ステップＳ１５）。なお、ステップＳ１４，Ｓ１５に関しては、ステップＳ１２においてサムネイル設定部２２に対し、撮影条件設定部２５により撮影条件を設定し、撮影条件を入力して、併せてサムネイル情報を付加（撮影条件情報付加部２６の処理を同時に行なう）するようにしてもよい。他の形態として、撮影条件情報をそのままヘッダ部分に記録するようにしてもよい。次に、サムネイル情報付加部２４にて設定に応じたサムネイル情報を付加し、符号生成部２７にて符号データを生成する（ステップＳ１６）。なお、ここでは、サムネイル情報を付加した後に、符号生成部２７にて符号を生成するような構成例を説明しているが、符号生成中にサムネイル情報を付加してもよい。
【００６５】
また、サムネイル情報（や撮影条件情報）の記録場所の候補例としては、図１０におけるＣＯＭマーカ、図１１におけるファイルフォーマットＸＭＬｂｏｘｅｓ、同じくファイルフォーマットＵＵＩＤｂｏｘｅｓなどが挙げられるが、他の記録場所を採用してもよい。ＸＭＬの記述例を以下に示す。
【００６６】
2004254131.tif 000003
【００６７】
図１４は、Ｅｘｉｆ規格におけるタグの種類と対応レベル（プライベートタグ）の表を示す図である。
上述の撮影条件情報やサムネイル情報などは、図１４に示すようにＥｘｉｆ（Ｅｘｃｈａｎｇｅａｂｌｅ  ｉｍａｇｅ  ｆｉｌｅ  ｆｏｒｍａｔ）などで標準化されているタグに記載してもよい。例えば、この表３０中のユーザコメントのタグ情報として記載してもよい。また、Ｅｘｉｆの規格に従った方法だけでなく、それと同様の方法で、写真のファイルの先頭部分（ヘッダ部分）に撮影リストの保存されているＵＲＬやＩＰアドレスを記述する。なお、Ｅｘｉｆ  ２．１  規格書は、ｈｔｔｐ：／／ｉｔ．ｊｅｉｔａ．ｏｒ．ｊｐ／ｄｏｃｕｍｅｎｔ／ｐｕｂｌｉｃａ／ｓｔａｎｄａｒｄ／ｅｘｉｆ＿ｊａｐ／ｊｅｉｄａ４９ｊａｐ．ｈｔｍにある。
【００６８】
また、逆に、本発明に係る画像の圧縮符号データは、ＪＰＥＧ２０００で規定された方式に基づいて生成され、ヘッダ部分に、図１４で示したような、撮影時の露光時間、Ｆナンバ、露出プログラム、スペクトル感度、ＩＳＯスピードレート、光電変換関数、シャッタスピード、絞り値、輝度値、露光補正値、レンズ最小Ｆ値、被写体距離、測光方式、光源、フラッシュ、レンズ焦点距離、フラッシュ強度、空間周波数応答、焦点面の幅の解像度、焦点面の高さの解像度、焦点面解像度単位、被写体位置、露出インデックス、センサ方式、の情報のうちのいずれか１又は複数を記述したものであるようにしてもよい。同様に、画像の圧縮符号データはＪＰＥＧ２０００で規定された方式に基づいて生成され、ヘッダ部分に、ＧＰＳによる撮影位置に関する情報すなわち緯度経度、高度、高度の単位、ＧＰＳ時間、測位に使った生成信号、ＧＰＳ受信機の状態、ＧＰＳの測位方法、測位の信頼性、速度の単位、速度、進行方向の単位、進行方向、撮影した画像の方向の単位、撮影した画像の方向、測位に用いた地図データ、目的地の緯度経度、目的地の方角の単位、目的地の方角、目的地までの距離の単位、目的地までの距離、の情報のうちのいずれか１又は複数を記述したようにしてもよい。すなわち、主画像の圧縮方式としてＪＰＥＧ２０００準拠の方法をとり、ヘッダ部分に、Ｅｘｉｆ規格の情報のうちのいずれかを記述した圧縮データファイルを作成するようにしてもよい。この方法により作成したファイルを格納した画像記憶媒体により、様々な撮影条件に基づくサムネイル出力処理が可能となる。また、後述するように、この方法により作成された撮影時の情報を用いて、再生時に重要な画像のみ高周波部分に至る詳細な展開を行い、それ以外の画像については低周波部分のみの展開にとどめるなどの処理も行なえる。
【００６９】
図１５は、図１２の画像圧縮装置において設定するサムネイル情報の一例を示す図である。また、図１６は、原画像、及びその原画像を本発明に係る画像圧縮装置で圧縮し、画像処理装置又は画像伸張装置で出力した結果の画像を示す図である。
【００７０】
画像圧縮装置２０では、撮影条件に対するサムネイル情報として、画像の解像度情報、画像の位置情報、画像のコンポーネント情報、画像の画質情報、画像のサブバンド情報のうちいずれかを用いるようにするとよい。また、いずれか１ではなく、複数の情報を組み合わせて用いてもよい。
【００７１】
解像度情報としては、例えば、画像のデコンポジションレベル情報を用いればよい。また、位置情報としては、例えば、タイル情報，プレシンクト情報，コードブロック情報，画素位置情報のうち、いずれか１又は複数を用いるようにすればよい。さらに、画質情報としては、例えば、レイヤ情報及び／又はビットプレーン情報を用いるようにすればよい。
【００７２】
図１５では、撮影条件３２に対応するサムネイル３３の対応表３１を例示しているが、例えば、シャッタスピードを速くして撮影（自動制御にて）した画像に対しては、綺麗に撮影されていることが多いことを鑑みて、全フレーム及び／又はデコンポジションレベル３を設定しておけばよい。この場合、図１６（Ａ）の原画像４１に対し、例えばそれと同等の画像が出力されることとなる。同様に、被写体位置が全体にある画像（例えば画像読込部２１などでエッジを検出するなどして被写体位置を求めればよい）に対しては、サムネイルとしては全体が必要となることが多く、レイヤ３を設定しておけばよい（図１６（Ｂ）の画像４２を参照）。また、シャッタスピードを遅くして撮影（自動制御にて）した画像に対しては、綺麗に撮影されていることが少ないことを鑑みて、デコンポジションレベル５を設定しておけばよい（図１６（Ｃ）の画像４３を参照）。また、被写体位置が真中にある画像（例えば画像読込部２１などでエッジを検出するなどして被写体位置を求めればよい）に対しては、サムネイルとしては中心部分しか必要ないことが多く、中心部タイル及び／又はレイヤ３を設定しておけばよい（図１６（Ｄ）の画像４４を参照）。なお、ここで示した例の組み合わせは、単なる一例でありその他の組み合わせも適宜行われるべきである。例えば、撮影条件や撮影技術の進歩、表示装置（或いは印刷装置や伝送装置）の処理速度の進化により適宜変更されるべきものである。
【００７３】
また、図１２で例示した画像圧縮装置２０において生成した圧縮符号データは、画像のサムネイルを取り出す画像処理装置でサムネイルを取り出すようにすればよい（取り出した結果が図１６で例示した画像である）。この本発明の一実施形態に係る画像処理装置は、この圧縮符号データから、そのヘッダ部分に記録されたサムネイル情報を元に、符号データの一部を切り出す手段を有するようにしておくとよい。この手段は、サムネイル情報に基づいたサムネイルを伸張して出力するだけでなく、原画像又はサムネイル以外の縮小画像や拡大画像なども伸張して出力することを可能とした手段であり、上述のヘッダ部分を解釈可能なよう構成すればよい。なお、サムネイル情報（や撮影条件情報）が複数の形態で記録されている圧縮符号データを出力する際にはユーザ側で選択可能にしておけばよい。また、この画像処理装置は画像圧縮装置２０の画像圧縮機能を備えてもよい。
【００７４】
この画像処理装置（画像再生装置）によれば、図１５及び図１６で例示したように、画像の撮影時の位置情報をファイルヘッダに記述することにより、例えば複数箇所で撮影した大量の画像の中から、特定の箇所で撮影した画像だけを取り出し、これを詳細に表示するとともに、それ以外の画像についてはさしあたりサムネイル程度の画質の展開にとどめることにより、必要な画像を効率よく展開でき、同時にその他の画像についてもある程度の情報を得ることが可能となる。ＪＰＥＧ２０００においては、圧縮データから低解像度の全体画像を得ることが容易であるため、撮影時の条件を用いて詳細な展開を行うか否かをわけることにより、複数画像全体の展開にかかる時間を効率的に利用することが可能となる。また、同様に、撮影時の条件によっても再生時のふるい分けが可能である。例えばシャッタスピードが一定以下で撮影された画像については手ぶれによる画像のぶれが想定されるため、さしあたり低解像度での展開にとどめるなどである。
【００７５】
さらに、図１２で例示した画像圧縮装置２０において生成した圧縮符号データは、画像のサムネイルを出力する画像伸張装置でサムネイルを出力するようにしてもよい。この本発明の一実施形態に係る画像伸張装置は、この圧縮符号データから、そのヘッダ部分に記録されたサムネイル情報を元に、符号データからサムネイル部分のみを伸張し出力する手段を有するようにしておくとよい。この手段は、上述のヘッダ部分を解釈可能なよう構成すればよい。なお、サムネイル情報（や撮影条件情報）が複数の形態で記録されている圧縮符号データを出力する際にはユーザ側で選択可能にしておけばよい。
【００７６】
以上、本実施形態に係る画像圧縮装置によれば、オリジナル画像に記憶された情報、特に撮影条件に関する情報に基づいて、圧縮された画像データのデータ容量を大きくすることなく且つ画像データのサムネイルを高速に出力する可能な圧縮画像データを生成することが可能となる。さらに、ヘッダ情報に複数の形態のサムネイル情報（や撮影条件情報）を記録しておくことで、複数の形態のサムネイルを出力可能な圧縮符号データを生成することが可能となる。また、本発明に係る画像処理装置又は画像伸張装置によれば、オリジナル画像に記憶された情報、特に撮影条件に関する情報に基づいて、入力する圧縮画像データのデータ容量を大きくすることなく、画像データのサムネイルを高速に出力することが可能となる。これらの装置はネットワークを介して画像を配信する画像配信システムなどに適用できる。
【００７７】
以上、本発明の画像圧縮装置、画像処理装置、及び画像伸張装置を中心に各実施形態を説明してきたが、本発明は、一部フロー図としても説明したように、それらの装置における処理手順を含んでなる画像圧縮方法、画像処理方法、画像伸張方法としても、或いは、コンピュータをそれら装置として又はそれらの装置の各手段として機能させるための、又はコンピュータにそれら方法を実行させるためのプログラム（それらの処理内容が実装されているコンピュータプログラム）としても、或いは、そのプログラムを記録したコンピュータ読み取り可能な記録媒体（それらの処理内容が記録されているコンピュータ読み取り可能な情報記録媒体）としての形態も可能である。また、このプログラムや記録媒体により、上述の各実施形態に対応した処理によって、オリジナル画像に記憶された情報、特に撮影条件に関する情報に基づいて、画像データ全体の容量を多くすることなく、サムネイル画像を生成することなどが可能なシステムなど、上述した装置と同様の効果を持ったシステムを提供することができる。これらのプログラムや記録媒体は、上述した実施形態に加え、後述する実施例を元に容易に実施できることは明らかである。
【００７８】
本発明による画像圧縮又は画像処理又は画像伸張の機能を実現するためのプログラムやデータを記憶した記録媒体の実施形態を説明する。記録媒体としては、具体的には、ＣＤ−ＲＯＭ、光磁気ディスク、ＤＶＤ−ＲＯＭ、ＦＤ、フラッシュメモリ、及びその他各種ＲＯＭやＲＡＭ等が想定でき、これら記録媒体に上述した本発明の各実施形態に係る機能をコンピュータに実行させ、画像の圧縮，処理，伸張のいずれか１又は複数の機能を実現するためのプログラムを記録して流通させることにより、当該機能の実現を容易にする。そしてコンピュータ（汎用コンピュータやその他の機器）等の情報処理装置に上記のごとくの記録媒体を装着して情報処理装置によりプログラムを読み出し、そのまま起動させるか機器に伝送するか、若しくは情報処理装置が備えている記憶媒体に当該プログラムを記憶させておき、必要に応じて読み出すことにより、本発明に関わる機能を実行することができる。
【００７９】
ここで上述した各実施形態に適用可能な装置の構成例を説明する。
図１７は、本発明に係る画像圧縮装置の一構成例を示す図である。
ここで例示する本発明に係る画像圧縮装置は、データバス５３を介して、ＲＡＭ５１，ＣＰＵ５２，ＨＤＤ５４が接続された構成となっており、以下の流れで、原画像の画像データから、撮影条件情報に基づくサムネイル情報が付加された圧縮画像データが生成され、ＨＤＤ５４に保存されることとなる。
【００８０】
ＨＤＤ５４上に記録された原画像の画像データ（又は圧縮された画像データ）が、ＣＰＵ５２からの命令によってＲＡＭ５１上に読み込まれる（ｉ）。次に、ＣＰＵ５２はＲＡＭ５１上の画像データを読み込み、ウェーブレット係数を求め、本発明に係るサムネイル情報付加処理（撮影条件情報付加処理も含む）を適用して圧縮画像データを生成する（ｉｉ）。ＣＰＵ５２は、生成された圧縮画像データをＲＡＭ５１上の別の領域に書き込む（ｉｉｉ）。ＣＰＵ５２からの命令によって、圧縮画像データがＨＤＤ５４上に記録される（ｉｖ）。画像処理装置又は画像伸張装置側では、この圧縮画像データを表示，印刷，伝送など出力する際にヘッダ部分に記載されたサムネイル情報（や撮影条件情報）からサムネイル出力が可能となる。図１７で例示した画像圧縮装置は画像処理装置又は画像伸張装置を兼ねてもよいし、また、画像処理装置又は画像伸張装置は図１７で例示した画像圧縮装置と同様の構成を持つものでもよい。
【００８１】
【発明の効果】
本発明によれば、オリジナル画像に記憶された情報、特に撮影条件に関する情報に基づいて、圧縮された画像データのデータ容量を大きくすることなく且つ画像データのサムネイルを高速に出力する可能な圧縮画像データを生成することが可能となる。
【００８２】
また、本発明によれば、オリジナル画像に記憶された情報、特に撮影条件に関する情報に基づいて、入力する圧縮画像データのデータ容量を大きくすることなく、画像データのサムネイルを高速に出力することが可能となる。
【図面の簡単な説明】
【図１】ＪＰＥＧ２０００の基本となる階層符号化・復号化アルゴリズムを説明するためのブロック図である。
【図２】ＪＰＥＧ２０００のアルゴリズムを説明するための簡略化されたフロー図である。
【図３】デコンポジションレベル数が３の場合の、各デコンポジションレベルにおけるサブバンドを示す図である。
【図４】タイル分割されたカラー画像の各コンポーネントの例を示す図である。
【図５】プレシンクトとコードブロックの関係を説明するための図である。
【図６】デコンポジションレベル数が２（解像度レベル数＝３）の場合のパケットとレイヤの一例を示す図で、一般的なレイヤ構成例を示す図である。
【図７】デコンポジションレベル数が２（解像度レベル数＝３）の場合のパケットとレイヤの一例を示す図で、複数の機器のそれぞれに応じたサムネイル出力が可能なレイヤ構成例を示す図である。
【図８】デコンポジションレベル数が２（解像度レベル数＝３）の場合のパケットとレイヤの一例を示す図で、伝送路容量に応じたサムネイル出力が可能なレイヤ構成例を示す図である。
【図９】符号形成プロセスにて生成されるＪＰＥＧ２０００の符号化データのフォーマット（コードストリームの構造）を簡単に示す図である。
【図１０】図９のメインヘッダの構成を示す図である。
【図１１】ＪＰＥＧ２０００の基本方式のファイルフォーマットの構成を示す図である。
【図１２】本発明の一実施形態に係る画像圧縮装置の構成例を説明するための機能ブロック図である。
【図１３】図１２における画像圧縮方法を説明するためのフロー図で、本発明の一実施形態に係る画像圧縮方法の手順例を説明するためのフロー図でもある。
【図１４】Ｅｘｉｆ規格におけるタグの種類と対応レベル（プライベートタグ）の表を示す図である。
【図１５】図１２の画像圧縮装置において設定するサムネイル情報の一例を示す図である。
【図１６】原画像、及びその原画像を本発明に係る画像圧縮装置で圧縮し、画像処理装置又は画像伸張装置で出力した結果の画像を示す図である。
【図１７】本発明に係る画像圧縮装置の一構成例を示す図である。
【符号の説明】
１…色空間変換・逆変換部（色変換・逆変換部）、２…２次元ウェーブレット変換・逆変換部、３…量子化・逆量子化部、４…エントロピー符号化・復号化部、５…タグ処理部、２０…画像圧縮装置（画像変換装置）、２１…画像読込部、２２…サムネイル設定部、２３…画質圧縮部、２４…サムネイル情報付加部、２５…撮影条件設定部、２６…撮影条件情報付加部、２７…符号生成部、５１…ＲＡＭ、５２…ＣＰＵ、５３…データバス、５４…ＨＤＤ。
【図１】
2004254131.tif 000004
【図２】
2004254131.tif 000005
【図３】
2004254131.tif 000006
【図４】
2004254131.tif 000007
【図５】
2004254131.tif 000008
【図６】
2004254131.tif 000009
【図７】
2004254131.tif 000010
【図８】
2004254131.tif 000011
【図９】
2004254131.tif 000012
【図１０】
2004254131.tif 000013
【図１１】
2004254131.tif 000014
【図１２】
2004254131.tif 000015
【図１３】
2004254131.tif 000016
【図１４】
2004254131.tif 000017
【図１５】
2004254131.tif 000018
【図１６】
2004254131.tif 000019
【図１７】
2004254131.tif 000020