(57)【要約】【課題】静止画像の連続としての動画像に対し、動画としてのサムネイルを高速に出力することが可能な動画像データを生成する画像処理装置を提供する。【解決手段】画像処理装置２０は、複数の画像データ（或いはそれらからなる動画データ）を画像読込部２１で読み込み、サムネイル設定部２２でサムネイル情報を設定する。続いて画質圧縮部２３にて画像を圧縮する。次にサムネイル情報付加部２４にて設定に応じたサムネイル情報を付加する。次に動画用サムネイル設定部２５では、複数の静止画像の中から動画像のサムネイルとして使用する静止画像を動画用サムネイル情報として設定する。そして動画用サムネイル情報付加部２６にて動画用サムネイル設定部２５で設定された動画用サムネイル情報を、画像データの纏まりとしてのファイルのヘッダ部分に付加する。最後に、このファイルに対し符号生成部２７にて符号データを生成する。【選択図】        図１２
2004289374.tif 000002
【特許請求の範囲】
【請求項１】
複数の静止画像から１つの動画像ファイルを生成する画像処理装置であって、複数の静止画像の再生順序を設定する画像順序設定手段と、該設定された順序に従って個々の静止画像の格納位置などを示したデータを前記ファイルのヘッダ部分に付加するデータ付加手段と、を有することを特徴とする画像処理装置。
【請求項２】
前記画像順序設定手段は、前記複数の静止画像の中から動画像のサムネイルとして使用する静止画像を、動画用サムネイル情報として設定する動画用サムネイル設定手段を有し、前記データ付加手段は、前記動画用サムネイル設定手段で設定された動画用サムネイル情報を、前記ファイルのヘッダ部分に付加する動画用サムネイル情報付加手段を有することを特徴とする請求項１記載の画像処理装置。
【請求項３】
当該画像処理装置は、静止画像の圧縮符号データを生成する画像圧縮手段を有し、前記データ付加手段は、個々の静止画像のサムネイル情報を、１又は複数形態設定するサムネイル設定手段と、該設定された形態のサムネイル情報を、個々の静止画像の符号データ形成時にヘッダ部分に付加するサムネイル情報付加手段と、を有することを特徴とする請求項１又は２記載の画像処理装置。
【請求項４】
前記サムネイル情報として、画像の解像度情報を用いることを特徴とする請求項３記載の画像処理装置。
【請求項５】
前記解像度情報として、画像のデコンポジションレベル情報を用いることを特徴とする請求項４記載の画像処理装置。
【請求項６】
前記サムネイル情報として、画像の位置情報を用いることを特徴とする請求項３乃至５のいずれか１記載の画像処理装置。
【請求項７】
前記位置情報として、タイル情報，プレシンクト情報，コードブロック情報，画素位置情報のうち、いずれか１又は複数を用いることを特徴とする請求項６記載の画像処理装置。
【請求項８】
前記サムネイル情報として、画像のコンポーネント情報を用いることを特徴とする請求項３乃至７のいずれか１記載の画像処理装置。
【請求項９】
前記サムネイル情報として、画像の画質情報を用いることを特徴とする請求項３乃至８のいずれか１記載の画像処理装置。
【請求項１０】
前記画質情報として、レイヤ情報及び／又はビットプレーン情報を用いることを特徴とする請求項９記載の画像処理装置。
【請求項１１】
前記サムネイル情報として、画像のサブバンド情報を用いることを特徴とする請求項３乃至１０のいずれか１記載の画像処理装置。
【請求項１２】
画像のサムネイルを出力する画像伸張装置であって、請求項３乃至１１のいずれか１記載の画像処理装置で生成した一連の圧縮符号データから、各圧縮符号データのサムネイル情報を元に、符号データからサムネイル部分のみを伸張し出力する手段を有することを特徴とする画像伸張装置。
【請求項１３】
画像のサムネイルを取り出す画像出力装置であって、請求項３乃至１１のいずれか１記載の画像処理装置で生成した一連の圧縮符号データから、各圧縮符号データのサムネイル情報を元に、符号データの一部を切り出す手段を有することを特徴とする画像出力装置。
【請求項１４】
請求項１乃至１１のいずれか１記載の画像処理装置で生成されたファイルを、前記再生順序に従って出力する画像出力装置。
【請求項１５】
請求項２記載の画像処理装置で生成されたファイルを、前記動画用サムネイル情報に基づき、サムネイル動画像を出力する画像出力装置。
【請求項１６】
複数の静止画像から１つの動画像ファイルを生成する画像処理方法であって、複数の静止画像の再生順序を設定する画像順序設定ステップと、該設定された順序に従って個々の静止画像の格納位置などを示したデータを前記ファイルのヘッダ部分に付加するデータ付加ステップと、を有することを特徴とする画像処理方法。
【請求項１７】
前記画像順序設定ステップは、前記複数の静止画像の中から動画像のサムネイルとして使用する静止画像を、動画用サムネイル情報として設定する動画用サムネイル設定ステップを有し、前記データ付加ステップは、前記動画用サムネイル設定ステップで設定された動画用サムネイル情報を、前記ファイルのヘッダ部分に付加する動画用サムネイル情報付加ステップを有することを特徴とする請求項１６記載の画像処理方法。
【請求項１８】
当該画像処理方法は、静止画像の圧縮符号データを生成する画像圧縮ステップを有し、前記データ付加ステップは、個々の静止画像のサムネイル情報を、１又は複数形態設定するサムネイル設定ステップと、該設定された形態のサムネイル情報を、個々の静止画像の符号データ形成時にヘッダ部分に付加するサムネイル情報付加ステップと、を有することを特徴とする請求項１６又は１７記載の画像処理方法。
【請求項１９】
前記サムネイル情報として、画像の解像度情報を用いることを特徴とする請求項１８記載の画像処理方法。
【請求項２０】
前記解像度情報として、画像のデコンポジションレベル情報を用いることを特徴とする請求項１９記載の画像処理方法。
【請求項２１】
前記サムネイル情報として、画像の位置情報を用いることを特徴とする請求項１８乃至２０のいずれか１記載の画像処理方法。
【請求項２２】
前記位置情報として、タイル情報，プレシンクト情報，コードブロック情報，画素位置情報のうち、いずれか１又は複数を用いることを特徴とする請求項２１記載の画像処理方法。
【請求項２３】
前記サムネイル情報として、画像のコンポーネント情報を用いることを特徴とする請求項１８乃至２２のいずれか１記載の画像処理方法。
【請求項２４】
前記サムネイル情報として、画像の画質情報を用いることを特徴とする請求項１８乃至２３のいずれか１記載の画像処理方法。
【請求項２５】
前記画質情報として、レイヤ情報及び／又はビットプレーン情報を用いることを特徴とする請求項２４記載の画像処理方法。
【請求項２６】
前記サムネイル情報として、画像のサブバンド情報を用いることを特徴とする請求項１８乃至２５のいずれか１記載の画像処理方法。
【請求項２７】
画像のサムネイルを出力する画像伸張方法であって、請求項１８乃至２６のいずれか１記載の画像処理方法で生成した一連の圧縮符号データから、各圧縮符号データのサムネイル情報を元に、符号データからサムネイル部分のみを伸張し出力するステップを有することを特徴とする画像伸張方法。
【請求項２８】
画像のサムネイルを取り出す画像出力方法であって、請求項１８乃至２６のいずれか１記載の画像処理方法で生成した一連の圧縮符号データから、各圧縮符号データのサムネイル情報を元に、符号データの一部を切り出すステップを有することを特徴とする画像出力方法。
【請求項２９】
請求項１６乃至２６のいずれか１記載の画像処理方法で生成されたファイルを、前記再生順序に従って出力する画像出力方法。
【請求項３０】
請求項１７記載の画像処理方法で生成されたファイルを、前記動画用サムネイル情報に基づき、サムネイル動画像を出力する画像出力方法。
【請求項３１】
請求項１乃至１１のいずれか１記載の画像処理装置として、或いは請求項１２記載の画像伸張装置として、或いは請求項１３乃至１５のいずれか１記載の画像出力装置として、コンピュータを機能させるためのプログラム。
【請求項３２】
請求項１６乃至２６のいずれか１記載の画像処理方法、或いは請求項２７記載の画像伸張方法、或いは請求項２８乃至３０のいずれか１記載の画像出力方法、をコンピュータに実行させるためのプログラム。
【請求項３３】
請求項３１又は３２記載のプログラムを記録したコンピュータ読み取り可能な記録媒体。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は、画像処理装置、画像伸張装置、画像出力装置、画像処理方法、画像伸張方法、画像出力方法、プログラム、及び記録媒体に関する。
【０００２】
【従来の技術】
近年、高精細画像の普及が著しい。これは、デジタルスチルカメラ，デジタルビデオカメラやスキャナ等の入力デバイス、インクジェットプリンタやディスプレイ等の出力デバイスにおける高精細化に拠るところが大きい。そして、こうした高精細静止画像（或いはその連続としての動画像）を扱う画像圧縮伸張アルゴリズムとして、現在のところ、ＪＰＥＧ（Ｊｏｉｎｔ  Ｐｈｏｔｏｇｒａｐｈｉｃ  Ｅｘｐｅｒｔｓ  Ｇｒｏｕｐ）が最も広く使われている。ＪＰＥＧでは、空間領域の冗長度を除去するために、二次元離散コサイン変換を用いている。
【０００３】
この方式の基本機能は「静止画像を圧縮し伸張する」ことだけである。圧縮ファイルの状態で画像を操作したり、伸張する時に特定領域だけを見たりすることはできない。また、階層を持たない「フラットな構造」として画像を扱っている。従って、画像に新たな処理を加えるためには、符号データは必ず完全に復号化される必要がある。
【０００４】
ＪＰＥＧアルゴリズムにおいては、画像の高精細化や大規模化に伴い、すなわち原画像の画素数が増えるに従い、符号化された画像データを伸張し画像値を表示デバイス上に画像として表示させるのに必要な時間も、並行して増えていく。最近は、入力デバイスの高性能化によって原画像の高精細化や大面積化が進み、無視できないレベルになりつつある。また、衛星・航空写真や医療・科学分野の画像、そして文化財を記録した画像を扱う分野においては、既に解決すべき不具合として認識されている。なお、ＪＰＥＧ圧縮画像を伸張する際には、それに要する時間が、縮小率とは無関係に一定の値をとるという特徴があるが、この理由は、上述したように、ＪＰＥＧ方式で符号化されたデータは縮小率に関わり無く必ず完全に復号化されるからである。
【０００５】
通常、こうした大きい画像の全画素をディスプレイに表示することは、表示デバイスの表示可能画素数に制約があるので難しい。実際には、画面上に縮小して表示することにより対処している。しかし、従来のＪＰＥＧアルゴリズムでは、縮小画像を表示させる場合においても、原画像全てを伸張し全画素値を求め、そこから間引き処理を行ってディスプレイ上に表示していた。原画像の全画素値を求めるために要する伸張処理時間は、画像のピクセル数に比例して増大する。ＭＰＵの性能やメモリの容量にも依るが、例えば、画像が表示されるまでに、数分から数十分の時間を要している。
【０００６】
また、ＪＰＥＧアルゴリズムにおいては、完全な復号処理を行わなくても使い手にとって十分な情報を得られる場合でも、従来のＪＰＥＧ方式では復号処理を全て行わなければならず、伸張時に伸張する画像領域や色成分或いは伸張動作順序を指定できない。例えば、カラー画像をグレイスケールの画像で表示したい、或る特定領域の画像だけを見たい、サムネイルの大きさで見たい、画像コンテンツを高速に閲覧したい、Ｍｏｔｉｏｎ静止画像の早送り表示を見たい、等々の要求に応えることは、従来のＪＰＥＧアルゴリズムでは困難である。従来のＪＰＥＧアルゴリズムでは、まず原画像を圧縮した符号データに対し、完全な伸張を行った画像データを生成する。その後、その画像データをグレイスケール表示用の画像データ、特定領域表示用の画像データ、サムネイル表示用の画像データなどに変換することにより、所望の表示画像を得る。
【０００７】
一方、画像表示装置においては、画像のサムネイルを表示することがよくある。従来技術によるサムネイルの表示においては、画像全体を伸張し、必要解像度に落とし、表示する方法や、サムネイル画像を別に保持しておく方法などがある。いずれの場合も、ＪＰＥＧの規格に基づいて、その基本機能や場合によっては拡張機能を用いた画像の圧縮・伸張が行われる。
【０００８】
【発明が解決しようとする課題】
しかしながら、サムネイル表示に限らず、サムネイルの印刷，伝送等、サムネイルの出力を、画像全体を伸張し必要解像度に落としてから行う方法を採用すると、サムネイル画像が出力されるまでにかなりの時間を要する。
【０００９】
また、サムネイル画像を別に保存しておき、出力する際にその保存した画像を読み出して行う方法では、Ｅｘｉｆ（Ｅｘｃｈａｎｇｅａｂｌｅ  ｉｍａｇｅ  ｆｉｌｅ  ｆｏｒｍａｔ）などで標準化されているように、保存するサムネイル画像（小画像）のデータそのものを主画像の圧縮データのヘッダ部分に格納しておくことが一般的であり、出力速度は速くなるが、圧縮データの容量が大きくなってしまう。
【００１０】
以上のことは、静止画像の連続としての動画像を取り扱う際に、さらに顕著な問題として現われる。
【００１１】
本発明は、上述のごとき実情に鑑みてなされたものであり、静止画像の連続としての動画像に対し、動画としてのサムネイルを高速に出力することが可能な動画像データを生成する、画像処理装置、画像処理方法、コンピュータ読み取り可能なプログラム、並びに、そのプログラムを記録したコンピュータ読み取り可能な記録媒体を提供することをその目的とする。
【００１２】
また、本発明は、静止画像の連続としての動画像に対し、個々の圧縮画像データのデータ容量を大きくすることなく、個々の画像データのサムネイルの連続としてのサムネイル動画を高速に出力することが可能な、画像出力装置及び画像伸張装置、画像出力方法及び画像伸張方法、コンピュータ読み取り可能なプログラム、並びに、そのプログラムを記録したコンピュータ読み取り可能な記録媒体を提供することを他の目的とする。
【００１３】
【課題を解決するための手段】
本発明においては、ＪＰＥＧの次世代の画像符号化方式として提案されているＪＰＥＧ２０００方式（ＩＳＯ／ＩＥＣ  ＦＣＤ  １５４４４−１）が、画像を高精細な状態で保存しておき、その画像符号データから特定の解像度の画像や特定の画質を持つ画像を取り出すことなどが可能であることを利用して、サムネイル画像の出力（表示，印刷，伝送）、さらにはサムネイル動画の出力を高速にしている。
【００１４】
請求項１の発明は、複数の静止画像から１つの動画像ファイルを生成する画像処理装置であって、複数の静止画像の再生順序を設定する画像順序設定手段と、該設定された順序に従って個々の静止画像の格納位置などを示したデータを前記ファイルのヘッダ部分に付加するデータ付加手段と、を有することを特徴としたものである。
【００１５】
請求項２の発明は、請求項１の発明において、前記画像順序設定手段は、前記複数の静止画像の中から動画像のサムネイルとして使用する静止画像を、動画用サムネイル情報として設定する動画用サムネイル設定手段を有し、前記データ付加手段は、前記動画用サムネイル設定手段で設定された動画用サムネイル情報を、前記ファイルのヘッダ部分に付加する動画用サムネイル情報付加手段を有することを特徴としたものである。
【００１６】
請求項３の発明は、請求項１又は２の発明において、当該画像処理装置は、静止画像の圧縮符号データを生成する画像圧縮手段を有し、前記データ付加手段は、個々の静止画像のサムネイル情報を、１又は複数形態設定するサムネイル設定手段と、該設定された形態のサムネイル情報を、個々の静止画像の符号データ形成時にヘッダ部分に付加するサムネイル情報付加手段と、を有することを特徴としたものである。
【００１７】
請求項４の発明は、請求項３の発明において、前記サムネイル情報として、画像の解像度情報を用いることを特徴としたものである。
【００１８】
請求項５の発明は、請求項４の発明において、前記解像度情報として、画像のデコンポジションレベル情報を用いることを特徴としたものである。
【００１９】
請求項６の発明は、請求項３乃至５のいずれか１の発明において、前記サムネイル情報として、画像の位置情報を用いることを特徴としたものである。
【００２０】
請求項７の発明は、請求項６の発明において、前記位置情報として、タイル情報，プレシンクト情報，コードブロック情報，画素位置情報のうち、いずれか１又は複数を用いることを特徴としたものである。
【００２１】
請求項８の発明は、請求項３乃至７のいずれか１の発明において、前記サムネイル情報として、画像のコンポーネント情報を用いることを特徴としたものである。
【００２２】
請求項９の発明は、請求項３乃至８のいずれか１の発明において、前記サムネイル情報として、画像の画質情報を用いることを特徴としたものである。
【００２３】
請求項１０の発明は、請求項９の発明において、前記画質情報として、レイヤ情報及び／又はビットプレーン情報を用いることを特徴としたものである。
【００２４】
請求項１１の発明は、請求項３乃至１０のいずれか１の発明において、前記サムネイル情報として、画像のサブバンド情報を用いることを特徴としたものである。
【００２５】
請求項１２の発明は、画像のサムネイルを出力する画像伸張装置であって、請求項３乃至１１のいずれか１記載の画像処理装置で生成した一連の圧縮符号データから、各圧縮符号データのサムネイル情報を元に、符号データからサムネイル部分のみを伸張し出力する手段を有することを特徴としたものである。
【００２６】
請求項１３の発明は、画像のサムネイルを取り出す画像出力装置であって、請求項３乃至１１のいずれか１記載の画像処理装置で生成した一連の圧縮符号データから、各圧縮符号データのサムネイル情報を元に、符号データの一部を切り出す手段を有することを特徴としたものである。
【００２７】
請求項１４の発明は、請求項１乃至１１のいずれか１記載の画像処理装置で生成されたファイルを、前記再生順序に従って出力する画像出力装置である。
【００２８】
請求項１５の発明は、請求項２記載の画像処理装置で生成されたファイルを、前記動画用サムネイル情報に基づき、サムネイル動画像を出力する画像出力装置である。
【００２９】
請求項１６の発明は、複数の静止画像から１つの動画像ファイルを生成する画像処理方法であって、複数の静止画像の再生順序を設定する画像順序設定ステップと、該設定された順序に従って個々の静止画像の格納位置などを示したデータを前記ファイルのヘッダ部分に付加するデータ付加ステップと、を有することを特徴としたものである。
【００３０】
請求項１７の発明は、請求項１６の発明において、前記画像順序設定ステップは、前記複数の静止画像の中から動画像のサムネイルとして使用する静止画像を、動画用サムネイル情報として設定する動画用サムネイル設定ステップを有し、前記データ付加ステップは、前記動画用サムネイル設定ステップで設定された動画用サムネイル情報を、前記ファイルのヘッダ部分に付加する動画用サムネイル情報付加ステップを有することを特徴としたものである。
【００３１】
請求項１８の発明は、請求項１６又は１７の発明において、当該画像処理方法は、静止画像の圧縮符号データを生成する画像圧縮ステップを有し、前記データ付加ステップは、個々の静止画像のサムネイル情報を、１又は複数形態設定するサムネイル設定ステップと、該設定された形態のサムネイル情報を、個々の静止画像の符号データ形成時にヘッダ部分に付加するサムネイル情報付加ステップと、を有することを特徴としたものである。
【００３２】
請求項１９の発明は、請求項１８の発明において、前記サムネイル情報として、画像の解像度情報を用いることを特徴としたものである。
【００３３】
請求項２０の発明は、請求項１９の発明において、前記解像度情報として、画像のデコンポジションレベル情報を用いることを特徴としたものである。
【００３４】
請求項２１の発明は、請求項１８乃至２０のいずれか１の発明において、前記サムネイル情報として、画像の位置情報を用いることを特徴としたものである。
【００３５】
請求項２２の発明は、請求項２１の発明において、前記位置情報として、タイル情報，プレシンクト情報，コードブロック情報，画素位置情報のうち、いずれか１又は複数を用いることを特徴としたものである。
【００３６】
請求項２３の発明は、請求項１８乃至２２のいずれか１の発明において、前記サムネイル情報として、画像のコンポーネント情報を用いることを特徴としたものである。
【００３７】
請求項２４の発明は、請求項１８乃至２３のいずれか１の発明において、前記サムネイル情報として、画像の画質情報を用いることを特徴としたものである。
【００３８】
請求項２５の発明は、請求項２４の発明において、前記画質情報として、レイヤ情報及び／又はビットプレーン情報を用いることを特徴としたものである。
【００３９】
請求項２６の発明は、請求項１８乃至２５のいずれか１の発明において、前記サムネイル情報として、画像のサブバンド情報を用いることを特徴としたものである。
【００４０】
請求項２７の発明は、画像のサムネイルを出力する画像伸張方法であって、請求項１８乃至２６のいずれか１記載の画像処理方法で生成した一連の圧縮符号データから、各圧縮符号データのサムネイル情報を元に、符号データからサムネイル部分のみを伸張し出力するステップを有することを特徴としたものである。
【００４１】
請求項２８の発明は、画像のサムネイルを取り出す画像出力方法であって、請求項１８乃至２６のいずれか１記載の画像処理方法で生成した一連の圧縮符号データから、各圧縮符号データのサムネイル情報を元に、符号データの一部を切り出すステップを有することを特徴としたものである。
【００４２】
請求項２９の発明は、請求項１６乃至２６のいずれか１記載の画像処理方法で生成されたファイルを、前記再生順序に従って出力する画像出力方法である。
【００４３】
請求項３０の発明は、請求項１７記載の画像処理方法で生成されたファイルを、前記動画用サムネイル情報に基づき、サムネイル動画像を出力する画像出力方法である。
【００４４】
請求項３１の発明は、請求項１乃至１１のいずれか１記載の画像処理装置として、或いは請求項１２記載の画像伸張装置として、或いは請求項１３乃至１５のいずれか１記載の画像出力装置として、コンピュータを機能させるためのプログラムである。
【００４５】
請求項３２の発明は、請求項１６乃至２６のいずれか１記載の画像処理方法、或いは請求項２７記載の画像伸張方法、或いは請求項２８乃至３０のいずれか１記載の画像出力方法、をコンピュータに実行させるためのプログラムである。
【００４６】
請求項３３の発明は、請求項３１又は３２記載のプログラムを記録したコンピュータ読み取り可能な記録媒体である。
【００４７】
【発明の実施の形態】
以下、本発明の各実施形態において処理される符号化データ（以下、圧縮符号データとも呼ぶ）が、ＪＰＥＧ２０００（ＩＳＯ／ＩＥＣ  ＦＣＤ  １５４４４−１）の静止画像の符号化データと、Ｍｏｔｉｏｎ−ＪＰＥＧ２０００（ＩＳＯ／ＩＥＣ  ＦＣＤ  １５４４４−３）の動画像の符号化データであるとして説明を行う。Ｍｏｔｉｏｎ−ＪＰＥＧ２０００は、連続した複数の静止画像のそれぞれをフレームとして動画像を扱い、各フレームの符号化データはＪＰＥＧ２０００に準拠しており、ファイルフォーマットがＪＰＥＧ２０００と一部異なるのみである。
【００４８】
ＪＰＥＧ２０００は、２００１年に国際標準になったＪＰＥＧ後継の画像圧縮伸張方式であり、そのアルゴリズムについては、例えば書籍「次世代画像符号化方式  ＪＰＥＧ２０００」（野水泰之著、株式会社トリケップス）などに詳しいが、以下の実施の形態の説明に必要な範囲でＪＰＥＧ２０００のアルゴリズムについて説明する。
【００４９】
図１は、ＪＰＥＧ２０００の基本となる階層符号化・復号化アルゴリズムを説明するためのブロック図で、本発明の一実施形態に係る画像処理装置を説明するためのブロック図でもある。
ＪＰＥＧ２０００の基本となる階層符号化・復号化アルゴリズムは、２次元ウェーブレット変換・逆変換部２、量子化・逆量子化部３、エントロピー符号化・復号化部４、タグ処理部５で構成されている。色空間変換・逆変換部（色変換・逆変換部）１からの入力又は色空間変換・逆変換部１への出力として、さらにはタグ処理部５からの入力又はタグ処理部５への出力として、２次元ウェーブレット変換・逆変換部２，量子化・逆量子化部３，エントロピー符号化・復号化部４のそれぞれが備えられている。各部は正逆方向で別構成としても良いことは言及するまでもないが、各部における処理はコンポーネント毎に実行するような構成としてもよい。
【００５０】
図２は、ＪＰＥＧ２０００のアルゴリズムを説明するための簡略化されたフロー図である。
図１に示すＪＰＥＧ２０００での圧縮・伸張の処理の概要としては、圧縮時には、ステップＳ１，Ｓ２において色空間変換がなされた各コンポーネントをウェーブレット変換してウェーブレット係数を求め（ステップＳ３）、プログレッシブサブビットプレーン符号化（ステップＳ４）、エントロピー符号化（ステップＳ５）が施される。一方、伸張時には、ステップＳ５，Ｓ６においてエントロピー復号、逆量子化を経て得られたコンポーネント毎のウェーブレット係数に対して、逆ウェーブレット変換が施され（ステップＳ３）、その後逆色変換がなされて（ステップＳ２）、原画像のＲＧＢ画素値に戻る（ステップＳ１）といった流れになる。
【００５１】
以下、ＪＰＥＧ２０００アルゴリズムの特徴について、詳細に説明する。
ＪＰＥＧ２０００アルゴリズムが、ＪＰＥＧアルゴリズムと比較して最も大きく異なる点の一つは、変換方法である。ＪＰＥＧでは離散コサイン変換（ＤＣＴ：Ｄｉｓｃｒｅｔｅ  Ｃｏｓｉｎｅ  Ｔｒａｎｓｆｏｒｍ）を、ＪＰＥＧ２０００の階層符号化圧縮伸張アルゴリズムでは離散ウェーブレット変換（ＤＷＴ：Ｄｉｓｃｒｅｔｅ  Ｗａｖｅｌｅｔ  Ｔｒａｎｓｆｏｒｍ）を、各々用いている。ＤＷＴはＤＣＴに比べて、高圧縮領域における画質が良いという長所が、ＪＰＥＧの後継アルゴリズムであるＪＰＥＧ２０００で採用された大きな理由の一つとなっている。また、他の大きな相違点は、後者では、最終段に符号形成をおこなうために、タグ処理部５と呼ばれる機能ブロックが追加されていることである。この部分で、圧縮動作時には圧縮データがコードストリームとして生成され、伸張動作時には伸張に必要なコードストリームの解釈が行われる。そして、コードストリームによって、ＪＰＥＧ２０００は様々な便利な機能を実現できるようになった。ＪＰＥＧ２０００のアルゴリズムは高圧縮率（低ビットレート）での画質が良好であるほか、多くの特徴を有する。
【００５２】
その１つが、符号化データの符号の削除（トランケーション）によるポスト量子化によって、再圧縮を行うことなく全体の符号量を調整できることである。この符号削除は、タイルやプレシンクトなどの領域、コンポーネント、デコンポジションレベル（もしくは解像度レベル）、ビットプレーン、サブビットプレーン、パケット、マルチレイヤ構成の場合にはレイヤなど、多様な単位で行うことができる。
【００５３】
例えば、図３はデコンポジションレベル数が３の場合の、各デコンポジションレベルにおけるサブバンドを示す図であるが、図３に示したブロックベースでのＤＷＴにおけるオクターブ分割の階層に対応した任意の階層で、静止画像の圧縮伸張処理を停止させることができる。なお、デコンポジションレベルと解像度レベルとの関係であるが、各サブバンドに対し、３ＬＬの解像度レベルが０、３ＨＬ，３ＬＨ，３ＨＨの解像度レベルが１、２ＨＬ，２ＬＨ，２ＨＨの解像度レベルが２、１ＨＬ，１ＬＨ，１ＨＨの解像度レベルが３となっている。また、ここでの「デコンポジション」に関し、ＪＰＥＧ２０００  ＰａｒｔＩ  ＦＤＩＳ（Ｆｉｎａｌ  Ｄｒａｆｔ  ｉｎｔｅｒｎａｔｉｏｎａｌ  Ｓｔａｎｄａｒｄ）には、以下のように定義されている。
【００５４】
ｄｅｃｏｍｐｏｓｉｔｉｏｎ  ｌｅｖｅｌ：
Ａ  ｃｏｌｌｅｃｔｉｏｎ  ｏｆ  ｗａｖｅｌｅｔ  ｓｕｂｂａｎｄｓ  ｗｈｅｒｅ  ｅａｃｈ  ｃｏｅｆｆｉｃｉｅｎｔ  ｈａｓ  ｔｈｅ  ｓａｍｅ  ｓｐａｔｉａｌ  ｉｍｐａｃｔ  ｏｒ  ｓｐａｎ  ｗｉｔｈ  ｒｅｓｐｅｃｔ  ｔｏ  ｔｈｅ  ｓｏｕｒｃｅ  ｃｏｍｐｏｎｅｎｔ  ｓａｍｐｌｅｓ．  Ｔｈｅｓｅ  ｉｎｃｌｕｄｅ  ｔｈｅ  ＨＬ，ＬＨ，ａｎｄ  ＨＨ  ｓｕｂｂａｎｄｓ  ｏｆ  ｔｈｅ  ｓａｍｅ  ｔｗｏ  ｄｉｍｅｎｓｉｏｎａｌ  ｓｕｂｂａｎｄ  ｄｅｃｏｍｐｏｓｉｔｉｏｎ．  Ｆｏｒ  ｔｈｅ  ｌａｓｔ  ｄｅｃｏｍｐｏｓｉｔｉｏｎ  ｌｅｖｅｌ  ｔｈｅ  ＬＬ  ｓｕｂｂａｎｄ  ｉｓ  ａｌｓｏ  ｉｎｃｌｕｄｅｄ．
【００５５】
もう１つは、符号化データのレイヤの再構成を符号状態のままで行うことができることである。もう１つは、あるプログレッション順序の符号化コードを、符号状態のままで別のプログレッション順序の符号化データに再構成することが可能であることである。もう１つは、マルチレイヤの符号化データを、符号状態のまま、レイヤ単位で２以上の符号化コードに分割可能であることである。
【００５６】
以下、ＪＰＥＧ２０００アルゴリズムについて、順を追って詳細に説明する。
原画像の入出力部分には、図１のように色空間変換部１が接続されることが多い。例えば、原色系のＲ（赤）／Ｇ（緑）／Ｂ（青）の各コンポーネントからなるＲＧＢ表色系や、補色系のＹ（黄）／Ｍ（マゼンタ）／Ｃ（シアン）の各コンポーネントからなるＹＭＣ表色系から、ＹＵＶ或いはＹＣｂＣｒ表色系への変換又は逆の変換を行う部分がこれに相当する。
【００５７】
図４は、タイル分割されたカラー画像の各コンポーネントの例を示す図である。
カラー画像は、一般に図４に示すように、原画像の各コンポーネント７Ｒ，７Ｇ，７Ｂ（ここではＲＧＢ原色系）が、矩形をした領域（タイル）７Ｒｔ，７Ｇｔ，７Ｂｔによって分割される。そして、個々のタイル、例えば、Ｒ００，Ｒ０１，．．．，Ｒ１５／Ｇ００，Ｇ０１，．．．，Ｇ１５／Ｂ００，Ｂ０１，．．．，Ｂ１５が、圧縮伸張プロセスを実行する際の基本単位となる。このように、圧縮処理の対象となる画像データ（動画を扱う場合には各フレームの画像データ）は、コンポーネント毎にタイルと呼ばれる重複しない矩形領域に分割され、コンポーネント毎にタイルを単位として処理される。すなわち、圧縮伸張動作は、コンポーネント毎、そしてタイル毎に、独立に行なわれる。ただし、タイルサイズを画像サイズと同一にすること、つまりタイル分割を行わないことも可能である。
【００５８】
このように、符号化時には、各コンポーネントの各タイルのデータが、圧縮率の向上を目的として図１の色空間変換部１に入力され、ＲＧＢデータやＣＭＹデータからＹＣｒＣｂデータへの色空間変換を施されたのち、色空間変換後の各コンポーネントの各タイル画像に対し２次元ウェーブレット変換部２で２次元ウェーブレット変換（順変換）が適用されて周波数帯に空間分割される。なお、この色空間変換が省かれる場合もある。
【００５９】
図３を参照して、デコンポジションレベル数が３の場合の、２次元ウェーブレット変換部２での処理を説明する。２次元ウェーブレット変換部２では、まず、原画像のタイル分割によって得られた原画像タイル（０ＬＬ）（デコンポジションレベル０（６０））に対して２次元ウェーブレット変換を施し、デコンポジションレベル１（６１）に示すサブバンド１ＬＬ，１ＨＬ，１ＬＨ，１ＨＨを分離する。すなわち、原画像タイル（６０）がデコンポジションレベル１（６１）に示すサブバンドに分割される。そして引き続き、この階層における低周波成分１ＬＬに対して、２次元ウェーブレット変換を施し、デコンポジションレベル２（６２）に示すサブバンド２ＬＬ，２ＨＬ，２ＬＨ，２ＨＨを分離する。順次同様に、低周波成分２ＬＬに対しても、２次元可逆ウェーブレット変換を施し、デコンポジションレベル３（６３）に示すサブバンド３ＬＬ，３ＨＬ，３ＬＨ，３ＨＨを分離する。ここで、各デコンポジションレベルにおいて符号化の対象となるサブバンドは、例えば、デコンポジションレベル数を３とした時、サブバンド３ＨＬ，３ＬＨ，３ＨＨ，２ＨＬ，２ＬＨ，２ＨＨ，１ＨＬ，１ＬＨ，１ＨＨが符号化対象となり、３ＬＬサブバンドは符号化されない。
【００６０】
次いで、指定した符号化の順番で符号化の対象となるビットが定められ、図１の量子化部３で対象ビット周辺のビットからコンテキストが生成される。つまり、上述したような低周波成分（ＬＬサブバンド係数）の再帰的分割（オクターブ分割）により得られたウェーブレット係数は、サブバンド毎に量子化・逆量子化部３にて量子化されることとなる。ＪＰＥＧ２０００ではロスレス（可逆）圧縮とロッシー（非可逆）圧縮のいずれも可能であり、ロスレス圧縮の場合には量子化ステップ幅は常に１であり、この段階では量子化されない。量子化の処理が終わったウェーブレット係数は、例えば８ｂｉｔの原画像に対し１２ｂｉｔに増える。
【００６１】
続いて、エントロピー符号化部４では、コンテキストと対象ビットから確率推定によって、各コンポーネントのタイルに対する符号化を行う。こうして、原画像の全てのコンポーネントについて、タイル単位で符号化処理が行われる。量子化後の各サブバンド係数に対するこのエントロピー符号化には、ブロック分割、係数モデリング及び２値算術符号化からなるＥＢＣＯＴ（Ｅｍｂｅｄｄｅｄ  Ｂｌｏｃｋ  Ｃｏｄｉｎｇ  ｗｉｔｈ  Ｏｐｔｉｍｉｚｅｄ  Ｔｒｕｎｃａｔｉｏｎ）と呼ばれる符号化方式が用いられ、量子化後の各サブバンド係数のビットプレーンが上位プレーンから下位プレーンへ向かって、コードブロックと呼ばれるブロック毎に符号化される。
【００６２】
最後にタグ処理部５は、符号形成プロセスを行う。タグ処理部５で行う符号形成プロセスにおいては、エントロピー符号化部４からの全符号化データを１本のコードストリームに結合するとともに、それにタグを付加する処理を行う。タブ処理部５では、まず、エントロピー符号化部４で生成されたコードブロックの符号をまとめてパケットが生成され、ここで生成されたパケットがプログレッション順序に従って並べられるとともに必要なタグ情報が付加されることにより、所定のフォーマットの符号化データが作成される。なお、ＪＰＥＧ２０００では、符号順序制御に関して、解像度レベル、プレシンクト（ｐｏｓｉｔｉｏｎ）、レイヤ、コンポーネント（色成分）の組み合わせによる５種類のプログレッション順序が定義されている。
【００６３】
ここで、エントロピー符号化部４におけるエントロピー符号化、及びタグ処理部５における符号形成プロセスの詳細を例を挙げて説明する。
量子化の処理が終わったウェーブレット係数は、個々のサブバンド毎に、「プレシンクト」と呼ばれる重複しない矩形に分割される。これは、インプリメンテーションでメモリを効率的に使うために導入されたものである。更に、個々のプレシンクトは、重複しない矩形の「コードブロック」に分けられる。
【００６４】
ここで、プレシンクト、コードブロック、パケット、レイヤについて簡単に説明する。画像≧タイル≧サブバンド≧プレシンクト≧コードブロックの大きさ関係がある。
プレシンクトとは、サブバンドの矩形領域で、同じデコンポジションレベルのＨＬ，ＬＨ，ＨＨサブバンドの空間的に同じ位置にある３つの領域の組が１つのプレシンクトとして扱われる。ただし、ＬＬサブバンドでは、１つの領域が１つのプレシンクトとして扱われる。プレシンクトのサイズをサブバンドと同じサイズにすることも可能である。また、プレシンクトを分割した矩形領域がコードブロックである。プレシンクトに含まれる全てのコードブロックの符号の一部（例えば最上位から３ビット目までの３枚のビットプレーンの符号）を取り出して集めたものがパケットである。符号が空（から）のパケットも許される。コードブロックの符号をまとめてパケットを生成し、所望のプログレッション順序に従ってパケットを並べることにより符号データを形成する。なお、後述するが、図９の各タイルに関するＳＯＤ以下の部分がパケットの集合である。全てのプレシンクト（つまり、全てのコードブロック、全てのサブバンド）のパケットを集めると、画像全域の符号の一部（例えば、画像全域のウェーブレット係数の最上位のビットプレーンから３枚目までのビットプレーンの符号）ができるが、これがレイヤである（ただし、次に示す例のように、必ずしも全てのプレシンクトのパケットをレイヤに含めなくともよい）。したがって、伸張時に復号されるレイヤ数が多いほど再生画像の画質は向上する。つまり、レイヤは画質の単位とも言える。全てのレイヤを集めると、画像全域の全てのビットプレーンの符号になる。
【００６５】
図５は、プレシンクトとコードブロックの関係を説明するための図である。また、図６乃至図８は、デコンポジションレベル数が２（解像度レベル数＝３）の場合のパケットとレイヤの一例を示す図で、図６は一般的なレイヤ構成例を、図７は複数の機器のそれぞれに応じたサムネイル出力が可能なレイヤ構成例を、図８は伝送路容量に応じたサムネイル出力が可能なレイヤ構成例を、それぞれ示している。
【００６６】
量子化の処理が終わったウェーブレット係数は、個々のサブバンド毎にプレシンクトに分割されるが、図５に示したように、一つのプレシンクト（例えばプレシンクト８ｐ４）は、空間的に一致した３つの矩形領域からなっている。プレシンクト８ｐ６も同様である。すなわち、図５中のプレシンクトと記された空間的に同じ位置にある３つの領域の組が１つのプレシンクトとして扱われる。なお、ここで原画像８はデコンポジションレベル１でタイル８ｔ０，８ｔ１，８ｔ２，８ｔ３の４つのタイルに分割されている。更に、個々のプレシンクトは、重複しない矩形の「コードブロック」（プレシンクト８ｐ４に対してはコードブロック８４ｂ０，８４ｂ１，．．．）に分けられる。これは、エントロピー符号化部４にてエントロピーコーディングを行う際の基本単位となる。
【００６７】
符号化効率を上げるために、図６乃至図８で後に例示するように、係数値をビットプレーン単位に分解し、画素或いはコードブロック毎にビットプレーンに順序付けを行い、１又は複数のビットプレーンからなる層（レイヤ）を構成することもある。すなわち係数値のビットプレーンから、その有意性に基づいた層（レイヤ）を構成し、そのレイヤごとに符号化を行う。最も有意なレイヤである最上位レイヤ（ＭＳＢ）とその下位レイヤを数レイヤだけ符号化し、最も有意でないレイヤ（ＭＬＢ）を含んだそれ以外のレイヤをトランケートすることもある。
【００６８】
図６を参照して、デコンポジションレベル数＝２（解像度レベル数＝３）の場合のパケットとレイヤの構成例（レイヤ数＝１０）を示す。図中の縦長の小さな矩形がパケットであり、その内部に示した数字はパケット番号である。レイヤを濃淡を付けた横長矩形領域として図示してある。すなわち、この例では、パケット番号０〜５１のパケットの符号からなるレイヤ０、パケット番号５２〜７２のパケットの符号からなるレイヤ１、パケット番号７３〜９３のパケットの符号からなるレイヤ２、パケット番号９４〜１１４のパケットの符号からなるレイヤ３、パケット番号１１５〜１３５のパケットの符号からなるレイヤ４、パケット番号１３６〜１５６のパケットの符号からなるレイヤ５、パケット番号１５７〜１７７のパケットの符号からなるレイヤ６、パケット番号１７８〜１９８のパケットの符号からなるレイヤ７、パケット番号１９９〜２１５のパケットの符号からなるレイヤ８、及び、残りのパケット番号２１６〜２２８のパケットの符号からなるレイヤ９の１０レイヤに分割されている。なお、パケットとプレシンクトとの対応関係などは、プログレッション順序の違いやレイヤ分割数等により様々に変化するものであり、上に示したレイヤ構成はあくまで一例である。
【００６９】
図７を参照して、複数の機器のそれぞれに応じたサムネイル出力が可能なレイヤ構成例を説明する。この例では、図６の構成例と同様のレイヤ構成をとるが、本発明の特徴部分であるヘッダ部分に、同一の濃淡で示したパケット番号２，１０，１８，２６，５４，７５のパケットの符号からなるサムネイル情報（パケット番号２，１０，１８，２６，５４，７５）を、例えばデジタルカメラのサムネイル出力用に記録しておく。同様に、画像ビューワソフトのサムネイル表示用のサムネイル情報として、情報「パケット番号９６，１１７」をヘッダ部分に記録しておく。また、同様に、携帯電話における表示用のサムネイル情報として、情報「２ＬＬ」をヘッダ部分に記録しておく。
【００７０】
図８を参照して、デコンポジションレベル数＝２（解像度レベル数＝３）の場合のパケットとレイヤの構成例として、伝送路容量に応じたサムネイル出力が可能なレイヤ構成例（レイヤ数＝１３）を説明する。この例では、同一の濃淡で示したパケット番号０〜３のパケットの符号からなるレイヤ０、同一の濃淡で示したパケット番号４〜１１のパケットの符号からなるレイヤ１、同一の濃淡で示したパケット番号４〜７，１２〜１９のパケットの符号からなるレイヤ２、同一の濃淡で示したパケット番号１２〜１５，２０〜５１のパケットの符号からなるレイヤ３、同一の濃淡で示したパケット番号５２〜７２のパケットの符号からなるレイヤ４、同一の濃淡で示したパケット番号７３〜９３のパケットの符号からなるレイヤ５、同一の濃淡で示したパケット番号９４〜１１４のパケットの符号からなるレイヤ６、同一の濃淡で示したパケット番号１１５〜１３５のパケットの符号からなるレイヤ７、同一の濃淡で示したパケット番号１３６〜１５６のパケットの符号からなるレイヤ８、同一の濃淡で示したパケット番号１５７〜１７７のパケットの符号からなるレイヤ９、同一の濃淡で示したパケット番号１７８〜１９８のパケットの符号からなるレイヤ１０、同一の濃淡で示したパケット番号１９９〜２１５のパケットの符号からなるレイヤ１１、及び、同一の濃淡で示した残りのパケット番号２１６〜２２８のパケットの符号からなるレイヤ１２の１３レイヤに分割されている。なお、パケットとプレシンクトとの対応関係などは、プログレッション順序の違いやレイヤ分割数等により様々に変化するものであり、上に示したレイヤ構成はあくまで一例である。
【００７１】
図６乃至図８のいずれのレイヤ構成例も、パケットとして、符号データを分割しておき、パケット番号の小さいものから順番に所定サイズになるまでパケットを追加していき、所定サイズになったところまでを１レイヤとしている。また、ここで示したレイヤ構成例では、サブビットプレーンとして１ｂｉｔをＲｅｆｉｎｅｍｅｎｔ，Ｓｉｇｎｉｆｉｃａｎｔ，Ｃｌｅａｎｕｐの３つに分割した例を示しているが、サブビットプレーンでさらに細かく分割しておけば、より細かい制御が可能である。さらに、パケットの優先度の順番を入れ替えることにより、解像度を重視した順番、画質を重視した順番、位置を重視した順番などに変更可能となる。なお、図６乃至図８で示したレイヤ構成例は、図２のステップＳ５と共に図示したものに対応している。
【００７２】
図９には、符号形成プロセスにて生成されるＪＰＥＧ２０００の符号化データのフォーマット（コードストリームの構造）を簡単に示している。この符号化データは、各種のタグ情報が付加されている。すなわち、図９に見られるように、符号化データは、コードストリームの始まりを示すＳＯＣマーカ９ｓで始まり、その後に符号化パラメータや量子化パラメータ等を記述したメインヘッダ（Ｍａｉｎ  Ｈｅａｄｅｒ）９ｈが続き、その後に各タイル毎の符号データが続く。各タイル毎の符号データは、ＳＯＴマーカ９ｓｔで始まり、タイルヘッダ（Ｔｉｌｅ  Ｈｅａｄｅｒ）９ｔｈ、ＳＯＤマーカ９ｓｄ、タイルデータ（Ｔｉｌｅ  Ｄａｔａ；符号化データ（ビットストリーム９ｂ））で構成される。そして、コードストリームの終端（最後のタイルデータの後）には、再び、終了を示すタグ（ＥＯＣタグ９ｅ）が置かれる。
【００７３】
図１０は、図９のメインヘッダの構成を示す図である。
図１０に示すように、図９のメインヘッダ９ｈは、画像とタイルのサイズ（ＳＩＺ）に続いて、デフォルト符号スタイル（ＣＯＤ；必須）、符号スタイル成分（ＣＯＣ）、デフォルト量子化（ＱＣＤ；必須）、量子化成分（ＱＣＣ）、ＲＯＩ（ＲＧＮ）、デフォルトプログレッシブ順序（ＰＯＣ）、集約パケット（ＰＰＭ）、タイル長（ＴＬＭ）、パケット長（ＰＬＭ）、色定義（ＣＲＧ）、コメント（ＣＯＭ）から構成される。ＳＩＺ及び必須と示したマーカセグメント（ＣＯＤ，ＱＣＤ）以外は、オプションとなる。
【００７４】
図１１は、ＪＰＥＧ２０００の基本方式のファイルフォーマットの構成を示す図である。
ＪＰＥＧ２０００の基本方式のファイルフォーマットはＪＰ２ファイルフォーマットと称し、図９で説明したＪＰＥＧ２０００符号フォーマットを包含するものであり、画像データやメタデータ、階調数や色空間等の画像の性質を表す情報、知的所有権情報等の情報を含むことを目的としたフォーマットである。ＪＰ２ファイルフォーマットで構成されたＪＰ２ファイルの情報構造は、ｂｏｘと称する情報の区切りから構成され、ｍｅｔａｄａｔａと称するアプリケーションに特化した情報を含む。ＪＰ２ファイルの情報構造は、図１１に実線（必須）と破線（オプション）で示すように、ＪＰＥＧ２０００  Ｓｉｇｎａｔｕｒｅ  ｂｏｘ，Ｆｉｌｅ  Ｔｙｐｅ  ｂｏｘ，ＪＰ２  Ｈｅａｄｅｒ  ｂｏｘ，Ｃｏｎｔｉｇｕｏｕｓ  Ｃｏｄｅｓｔｒｅａｍ  ｂｏｘからなる。詳細は図示の通りである。
【００７５】
一方、復号化時には、符号化時とは逆に、各コンポーネントの各タイルのコードストリームから画像データを生成する。図１を用いて簡単に説明する。この場合、タグ処理部５は、外部より入力したコードストリームに付加されたタグ情報を解釈し、コードストリームを各コンポーネントの各タイルのコードストリームに分解し、その各コンポーネントの各タイルのコードストリーム毎に復号化処理が行われる。コードストリーム内のタグ情報に基づく順番で復号化の対象となるビットの位置が定められるとともに、逆量子化部３で、その対象ビット位置の周辺ビット（既に復号化を終えている）の並びからコンテキストが生成される。エントロピー復号化部４で、このコンテキストとコードストリームから確率推定によって復号化を行い対象ビットを生成し、それを対象ビットの位置に書き込む。
【００７６】
このようにして復号化されたデータは各周波数帯域毎に空間分割されているため、これを２次元ウェーブレット逆変換部２で２次元ウェーブレット逆変換を行うことにより、画像データの各コンポーネントの各タイルが復元される。復元されたデータは色空間逆変換部１によって元の表色系のデータに変換される。
【００７７】
以下、本発明の実施の形態について詳細に説明する。
図１２は、本発明の一実施形態に係る画像処理装置の構成例を説明するための機能ブロック図で、図１３は、図１２における画像処理方法を説明するためのフロー図である。なお、図１３は、本発明の一実施形態に係る画像処理方法の手順例を説明するためのフロー図でもある。
【００７８】
本発明に係る画像処理装置は、複数の静止画像から１つの動画像ファイルを生成する画像処理装置であり、複数の静止画像の再生順序を設定する画像順序設定手段と、該設定された順序に従って個々の静止画像の格納位置などを示したデータをファイルのヘッダ部分に付加するデータ付加手段と、を有するものとする。ここで、再生順序としての表示順序と共に、各静止画像の表示間隔を設定することも可能とすることで１枚当りの表示時間を設定できる。ここで、画像順序設定手段は、複数の静止画像の中から動画像のサムネイルとして使用する静止画像を、動画用サムネイル情報として設定する動画用サムネイル設定手段を有し、さらに、データ付加手段は、動画用サムネイル設定手段で設定された動画用サムネイル情報を、ファイルのヘッダ部分に付加する動画用サムネイル情報付加手段を有するようにするとよい。
【００７９】
本実施形態で説明するより好適な例では、画像処理装置２０が、静止画像の圧縮符号データを生成する画像圧縮手段を有するものとする。さらに、データ付加手段は、サムネイル設定手段及びサムネイル情報付加手段を含むものとする。サムネイル設定手段では、個々の静止画像のサムネイル情報を、１又は複数形態設定する。また、サムネイル情報付加手段では、設定された形態のサムネイル情報を、個々の静止画像の符号データ形成時にヘッダ部分に付加する。ここで付加するサムネイル情報は、例えば、図７で例示したような情報である。図１２では、画像処理装置２０が、画像読込部２１、サムネイル情報設定手段をもつサムネイル設定部２２、画質圧縮部２３、サムネイル情報付加手段をもつサムネイル情報付加部２４、画像順序設定手段をもつ動画用サムネイル設定部２５、動画用サムネイル情報付加手段をもつ動画用サムネイル情報付加部２６、及び、符号生成部２７より構成されているものとして説明する。
【００８０】
画像処理装置２０は、複数の画像データ（或いはそれらからなる動画データ）を画像読込部２１で読み込み（ステップＳ１１）、サムネイル設定部２２でサムネイル情報を設定する（ステップＳ１２）。勿論、サムネイル設定部２２にて予め設定するサムネイル情報を設定しておいてもよい。続いて、画質圧縮部２３にて画像を圧縮する（ステップＳ１３）。次に、サムネイル情報付加部２４にて設定に応じたサムネイル情報を付加する（ステップＳ１４）。次に、動画用サムネイル設定部２５では、複数の静止画像の中から動画像のサムネイルとして使用する静止画像を、動画用サムネイル情報として設定（ユーザ設定でもよい）する（ステップＳ１５）。そして、動画用サムネイル情報付加部２６にて動画用サムネイル設定部２５で設定された動画用サムネイル情報を、画像データの纏まりとしてのファイルのヘッダ部分（パケットヘッダ）に付加する（ステップＳ１６）。最後に、このファイルに対し、符号生成部２７にて符号データを生成する（ステップＳ１７）。ステップＳ１４，Ｓ１５は任意のタイミングで行なってもよく、例えば、ステップＳ１１の後で行なってサムネイル設定の際の制限（動画用サムネイルで使用する静止画像に対してのみサムネイルを作成しておく等の制限）などを与えてもよい。なお、ここでは、サムネイル情報付加手段がサムネイル情報付加部２４にあり、サムネイル情報を付加した後に、符号生成部２７にて符号を生成するような構成例を説明するが、符号生成中にサムネイル情報を付加してもよい。これらにより、動画のサムネイル表示を結果的に高速に行なうことができるだけでなく、実施の形態によっては、カメラの液晶などの表示画面などの１つのビューワで、動画と静止画を同時にサムネイル表示することも可能である。さらに、撮影画像のサムネイルは静止画である場合が多いが、動画を撮影した場合は動画でサムネイルされていれば、どのような映像であったかを確かめることもできる。
【００８１】
また、個々の静止画像に対するサムネイル情報の記録場所の候補例としては、図１０におけるＣＯＭマーカ、図１１におけるファイルフォーマットＸＭＬｂｏｘｅｓ、同じくファイルフォーマットＵＵＩＤｂｏｘｅｓなどが挙げられるが、他の記録場所を採用してもよい。ＸＭＬの記述例を以下に示す。
【００８２】
2004289374.tif 000003
【００８３】
図１４は、図１２の画像処理装置において設定するサムネイル情報の一例を示す図である。
画像処理装置２０では、個々の静止画像のサムネイル情報として、画像の解像度情報、画像の位置情報、画像のコンポーネント情報、画像の画質情報、画像のサブバンド情報のうちいずれかを用いるようにするとよい。また、いずれか１ではなく、複数の情報を組み合わせて用いてもよい。
【００８４】
解像度情報としては、例えば、画像のデコンポジションレベル情報を用いればよい。また、位置情報としては、例えば、タイル情報，プレシンクト情報，コードブロック情報，画素位置情報のうち、いずれか１又は複数を用いるようにすればよい。さらに、画質情報としては、例えば、レイヤ情報及び／又はビットプレーン情報を用いるようにすればよい。図１４では、表示装置（処理速度ｂｐｓ）３１に対応するサムネイル３２の対応表３０を例示しているが、例えば、デジタルカメラに対しては、中心部タイル及び／又はレイヤ３を設定しておけばよい。同様に、画像ビューワソフトに対してはデコンポジションレベル３及び／又はレイヤ５を設定し、携帯電話に対してはデコンポジションレベル５を設定し、デジタルビデオカメラに対してはフレーム番号２Ｎ＋１及び／又はデコンポジションレベル３を設定し、ＴＶ放送に対しては全フレーム、タイル６，７，１０，１１、デコンポジションレベル３のうちいずれか１又は複数を設定し、ハイビジョン放送に対しては全フレーム及び／又はデコンポジションレベル３を設定しておけばよい。ここで示した例の組み合わせは、単なる一例でありその他の組み合わせも適宜行われるべきである。例えば、表示装置（或いは印刷装置や伝送装置）の処理速度の進化により適宜変更されるべきものである。
【００８５】
図１５及び図１６は、本発明の一実施形態に係る画像出力装置又は画像伸張装置における処理結果を示すための図である。図１５は、原画像の一例を示し、図１６は図１５の原画像を本発明に係る画像処理装置で圧縮し、画像出力装置又は画像伸張装置で出力した結果の１枚の静止画像を示している。
【００８６】
図１５の原画像４０に対し、サムネイルとして低解像度画像を指定した場合、図１６（Ａ）の画像４１のように出力される。同様に、例えば、サムネイルとして１コンポーネントを指定した場合には図１６（Ｂ）の画像４２が出力され、サムネイルとしてレイヤ０のみを指定した場合には図１６（Ｃ）の画像４３が出力され、サムネイルとして中心部タイルを指定した場合には図１６（Ｄ）の画像４４が出力される。
【００８７】
本実施形態に係る画像処理装置によれば、各静止画像に対し、圧縮された画像データのデータ容量を大きくすることなく、画像データのサムネイルを高速に出力する可能な圧縮画像データを生成することが可能となる。さらに、ヘッダ情報に複数の形態のサムネイル情報を記録しておくことで、複数の形態のサムネイルを出力可能な一連の圧縮符号データを生成することが可能となる。また、本発明に係る画像出力装置又は画像伸張装置によれば、各静止画像に対し、入力する圧縮画像データのデータ容量を大きくすることなく、画像データのサムネイルを高速に出力することが可能となる。これらの装置はネットワークを介して画像を配信する画像配信システムなどに適用できる。
【００８８】
図１７は、本発明の他の実施形態に係る画像処理装置を説明するための概略図で、図１７（Ａ）は画像ビューワでの表示例を、図１７（Ｂ）は本発明に係る動画像データのデータ構造を、図１７（Ｃ）は図１７（Ｂ）の個々の静止画像のデータ構造を、それぞれ示している。
【００８９】
また、図１２で例示した画像処理装置２０において生成した動画像データ５１は、画像のサムネイルを取り出す画像出力装置でサムネイルを取り出すようにすればよい。動画像データ（動画ファイル）５１は、そのヘッダ部分５１ｈに動画像サムネイルの情報を含み、その後に、個々の一連の静止画像データ５１１，５１２，５１３，．．．が続く。各静止画像データ（１枚目の静止画像データ５１１，２枚目の静止画像データ５１２，３枚目の静止画像データ５１３，）は、それぞれ、ヘッダ情報５１ａ，５１ｂ，５１ｃと、画像データ５１Ａ，５１Ｂ，５１Ｃとからなっている。図１７（Ｃ）に示すように、個々の静止画像データは、ヘッダ情報（ＪＰ２  Ｈｅａｄｅｒ），ＪＰＥＧ２０００符号情報（静止画）の他に、映像表示用のメタデータ（ｍｏｏｖ），ｍｏｏｖの補足データ（ｍｏｏｆ），映像・音声の符号情報（ｍｄａｔ）からなっている。
【００９０】
この本発明の一実施形態に係る画像出力装置は、画像処理装置で生成した一連の圧縮符号データから、各圧縮符号データのヘッダ部分に記録されたサムネイル情報を元に、符号データの一部を切り出す手段を有するようにしておくとよい。この手段は、サムネイル情報に基づいたサムネイルを伸張して出力するだけでなく、原画像又はサムネイル以外の縮小画像や拡大画像なども伸張して出力することを可能とした手段であり、上述のヘッダ部分を解釈可能なよう構成すればよい。なお、サムネイル情報が複数の形態で記録されている圧縮符号データを出力する際にはユーザ側で選択可能にしておけばよい。
【００９１】
さらに、図１２で例示した画像処理装置２０において生成した動画像データは、画像のサムネイルを出力する画像伸張装置でサムネイルを出力するようにしてもよい。この本発明の一実施形態に係る画像伸張装置は、画像処理装置で生成した一連の圧縮符号データから、各圧縮符号データのヘッダ部分に記録されたサムネイル情報を元に、符号データからサムネイル部分のみを伸張し出力する手段を有するようにしておくとよい。この手段は、上述のヘッダ部分を解釈可能なよう構成すればよい。なお、サムネイル情報が複数の形態で記録されている圧縮符号データを出力する際にはユーザ側で選択可能にしておけばよい。
【００９２】
また、本発明は、画像処理装置２０の圧縮機能の有無に拘らず、そこで生成されたファイルを、その再生順序に従って出力する画像出力装置としての形態も採用可能である。さらに、画像処理装置２０の圧縮機能の有無に拘らず、そこで生成されたファイルを、動画用サムネイル情報に基づき、サムネイル動画像を出力する画像出力装置としての形態も採用可能である。
【００９３】
いずれの形態でも、動画としてのサムネイル（サムネイル動画）も出力（表示等）することが可能となる。サムネイル動画としては、所定の場所の複数枚の静止画像からなってもよいし、一部又は全部の静止画像サムネイルからなってもよい。後者の場合には、上述した画像圧縮手段を兼ね備えることでより高速に出力が可能となる。このように高速なサムネイル動画の表示が可能となるので、図１７（Ａ）の表示例で示す画像ビューワのように、動画データ５１，５４と静止画データ５２，５３との同時表示も見栄えよくできる。
【００９４】
以上、本発明の画像処理装置、画像出力装置（画像表示装置を含む）、及び画像伸張装置を中心に各実施形態を説明してきたが、本発明は、一部フロー図としても説明したように、それらの装置における処理手順を含んでなる画像処理方法、画像出力方法（画像表示方法を含む）、画像伸張方法としても、或いは、コンピュータをそれら装置として又はそれらの装置の各手段として機能させるための、又はコンピュータにそれら方法を実行させるためのプログラム（それらの処理内容が実装されているコンピュータプログラム）としても、或いは、そのプログラムを記録したコンピュータ読み取り可能な記録媒体（それらの処理内容が記録されているコンピュータ読み取り可能な情報記録媒体）としての形態も可能である。また、このプログラムや記録媒体により、上述の各実施形態に対応した処理によって、上述した装置と同様の効果を持ったシステムを提供することができる。これらのプログラムや記録媒体は、上述した実施形態に加え、後述する実施例を元に容易に実施できることは明らかである。
【００９５】
本発明による画像処理又は画像出力又は画像伸張の機能を実現するためのプログラムやデータを記憶した記録媒体の実施形態を説明する。記録媒体としては、具体的には、ＣＤ−ＲＯＭ、光磁気ディスク、ＤＶＤ−ＲＯＭ、ＦＤ、フラッシュメモリ、及びその他各種ＲＯＭやＲＡＭ等が想定でき、これら記録媒体に上述した本発明の各実施形態に係る機能をコンピュータに実行させ、画像の処理，出力，伸張のいずれか１又は複数の機能を実現するためのプログラムを記録して流通させることにより、当該機能の実現を容易にする。そしてコンピュータ（汎用コンピュータやその他の機器）等の情報処理装置に上記のごとくの記録媒体を装着して情報処理装置によりプログラムを読み出し、そのまま起動させるか機器に伝送するか、若しくは情報処理装置が備えている記憶媒体に当該プログラムを記憶させておき、必要に応じて読み出すことにより、本発明に関わる機能を実行することができる。
【００９６】
ここで上述した各実施形態に適用可能な装置の構成例を説明する。
図１８は、本発明に係る画像処理装置の一構成例を示す図である。
ここで例示する本発明に係る画像処理装置は、データバス６３を介して、ＲＡＭ６１，ＣＰＵ６２，ＨＤＤ６４が接続された構成となっており、以下の流れで、原画像の画像データ（ここでは動画像データを例示）から、サムネイル情報及び動画サムネイル情報が付加された圧縮画像データが生成され、ＨＤＤ６４に保存されることとなる。
【００９７】
ＨＤＤ６４上に記録された原画像の画像データ（又は圧縮された画像データ；ここでは静止画の連続としての動画像データ）が、ＣＰＵ６２からの命令によってＲＡＭ６１上に読み込まれる（ｉ）。次に、ＣＰＵ６２はＲＡＭ６１上の画像データを読み込み、ウェーブレット係数を求め、本発明に係る動画又は動画及び静止画のサムネイル情報付加処理を適用して圧縮画像データを生成する（ｉｉ）。ＣＰＵ６２は、生成された圧縮画像データをＲＡＭ６１上の別の領域に書き込む（ｉｉｉ）。ＣＰＵ６２からの命令によって、圧縮画像データ（動画又は動画及び静止画のサムネイル情報付きのＭＪ２データ）がＨＤＤ６４上に記録される（ｉｖ）。画像出力装置又は画像伸張装置側では、この圧縮画像データを表示，印刷，伝送など出力する際にヘッダ部分に記載されたサムネイル情報からサムネイル出力が可能となる。図１８で例示した画像処理装置は、画像出力装置又は画像伸張装置を兼ねてもよいし、また、画像出力装置又は画像伸張装置は図１８で例示した画像処理装置と同様の構成を持つものでもよい。
【００９８】
【発明の効果】
本発明によれば、静止画像の連続としての動画像に対し、動画としてのサムネイルを高速に出力することが可能な動画像データを生成することが可能となる。
【００９９】
また、本発明によれば、静止画像の連続としての動画像に対し、個々の圧縮画像データのデータ容量を大きくすることなく、個々の画像データのサムネイルの連続としてのサムネイル動画を高速に出力することが可能となる。
【図面の簡単な説明】
【図１】ＪＰＥＧ２０００の基本となる階層符号化・復号化アルゴリズムを説明するためのブロック図である。
【図２】ＪＰＥＧ２０００のアルゴリズムを説明するための簡略化されたフロー図である。
【図３】デコンポジションレベル数が３の場合の、各デコンポジションレベルにおけるサブバンドを示す図である。
【図４】タイル分割されたカラー画像の各コンポーネントの例を示す図である。
【図５】プレシンクトとコードブロックの関係を説明するための図である。
【図６】デコンポジションレベル数が２（解像度レベル数＝３）の場合のパケットとレイヤの一例を示す図で、一般的なレイヤ構成例を示す図である。
【図７】デコンポジションレベル数が２（解像度レベル数＝３）の場合のパケットとレイヤの一例を示す図で、複数の機器のそれぞれに応じたサムネイル出力が可能なレイヤ構成例を示す図である。
【図８】デコンポジションレベル数が２（解像度レベル数＝３）の場合のパケットとレイヤの一例を示す図で、伝送路容量に応じたサムネイル出力が可能なレイヤ構成例を示す図である。
【図９】符号形成プロセスにて生成されるＪＰＥＧ２０００の符号化データのフォーマット（コードストリームの構造）を簡単に示す図である。
【図１０】図９のメインヘッダの構成を示す図である。
【図１１】ＪＰＥＧ２０００の基本方式のファイルフォーマットの構成を示す図である。
【図１２】本発明の一実施形態に係る画像処理装置の構成例を説明するための機能ブロック図である。
【図１３】図１２における画像処理方法を説明するためのフロー図で、本発明の一実施形態に係る画像処理方法の手順例を説明するためのフロー図でもある。
【図１４】図１２の画像処理装置において設定するサムネイル情報の一例を示す図である。
【図１５】原画像の一例を示す図である。
【図１６】図１５の原画像を本発明に係る画像処理装置で圧縮し、画像出力装置又は画像伸張装置で出力した結果の１枚の静止画像を示す図である。
【図１７】本発明の他の実施形態に係る画像処理装置を説明するための概略図である。
【図１８】本発明に係る画像処理装置の一構成例を示す図である。
【符号の説明】
１…色空間変換・逆変換部、２…２次元ウェーブレット変換・逆変換部、３…量子化・逆量子化部、４…エントロピー符号化・復号化部、５…タグ処理部、２０…画像処理装置、２１…画像読込部、２２…サムネイル設定部、２３…画質圧縮部、２４…サムネイル情報付加部、２５…動画用サムネイル設定部、２６…動画用サムネイル情報付加部、２７…符号生成部、６１…ＲＡＭ、６２…ＣＰＵ、６３…データバス、６４…ＨＤＤ。
【図１】
2004289374.tif 000004
【図２】
2004289374.tif 000005
【図３】
2004289374.tif 000006
【図４】
2004289374.tif 000007
【図５】
2004289374.tif 000008
【図６】
2004289374.tif 000009
【図７】
2004289374.tif 000010
【図８】
2004289374.tif 000011
【図９】
2004289374.tif 000012
【図１０】
2004289374.tif 000013
【図１１】
2004289374.tif 000014
【図１２】
2004289374.tif 000015
【図１３】
2004289374.tif 000016
【図１４】
2004289374.tif 000017
【図１５】
2004289374.tif 000018
【図１６】
2004289374.tif 000019
【図１７】
2004289374.tif 000020
【図１８】
2004289374.tif 000021