(57)【要約】【課題】本発明はＪＰＭの符号データをオブジェクト単位でプログレッシブ再生することで早い段階で画像データの全体的な概要を知ることができ、あるオブジェクトの処理を省略して高速な再生を実現できる。【解決手段】本発明は画像データを符号化した符号データをクライアントへ転送する機能を有するサーバと、符号データを受信して復号化した画像を表示する機能を有するクライアントとを有する。クライアントはサーバへ符号データを受信する要求をする要求送信手段と、サーバから転送された符号データを受信する受信手段と、受信した符号データを復号する復号手段と、復号化の画像データを再生する再生手段とを具備する。サーバはクライアントからの要求を受信する要求受信手段と、サーバから転送要求されたＪＰＭファイルの全部又は一部の符号データを選択する選択手段と、選択された符号データをクライアントへ送信する符号データ送信手段とを具備する。【選択図】        図２９
2008244539.tif 000002
【特許請求の範囲】
【請求項１】
画像データを符号化した符号データをクライアントへ転送する機能を有するサーバと、前記符号データを受信して復号化した画像を表示する機能を有するクライアントとを有して構築するクライアント・サーバシステムにおいて、
前記クライアントは、前記サーバへ符号データを受信する要求をする要求送信手段と、前記サーバから転送された符号データを受信する受信手段と、受信した符号データを復号する復号手段と、復号された画像データを再生する再生手段とを具備し、
前記サーバは、前記クライアントからの要求を受信する要求受信手段と、前記サーバから転送要求されたＪＰＭファイルの全部又は一部の符号データを選択する選択手段と、選択された符号データを前記クライアントへ送信する符号データ送信手段とを具備し、
クライアント・サーバシステムで送受信される前記符号データは、ＪＰＭファイルの全部又は一部の符号データであって、ＪＰＭファイルの全部又は一部の符号データは、ＪＰＭファイルを構成する一部のオブジェクトの符号データであることを特徴とするクライアント・サーバシステム。
【請求項２】
前記サーバは、前記クライアントから要求された符号データを構成する１つのオブジェクトを送信した後前記クライアントから要求された前記符号データの残りのオブジェクトを送信することを特徴とする請求項１記載のクライアント・サーバシステム。
【請求項３】
前記クライアントから要求された符号データを構成する全てのオブジェクトをオブジェクト単位で順次送信し、前記クライアントは前記オブジェクト単位で順次復号再生することを特徴とする請求項１記載のクライアント・サーバシステム。
【請求項４】
前記クライアントは前記サーバに送信停止要求信号を送り、前記サーバは送信停止要求信号を受信したとき前記クライアントへ前記オブジェクトの送信を停止することを特徴とする請求項１〜３のいずれか１項に記載のクライアント・サーバシステム。
【請求項５】
前記サーバが前記クライアントへ転送するオブジェクトの順番は、オブジェクトの優先順位に基づいて決められることを特徴とする請求項２〜４のいずれか１項に記載のクライアント・サーバシステム。
【請求項６】
前記サーバは元画像の文字領域と絵柄領域の割合を算出する手段を有し、前記オブジェクトの優先順位は元画像の文字領域と絵柄領域の割合によって決められることを特徴とする請求項５記載のクライアント・サーバシステム。
【請求項７】
ＪＰＭファイルは複数ページの画像データより構成され、前記サーバはＪＰＭファイルに含まれる複数ページの画像データの全部又は一部の符号データを選択する選択手段を有し、かつ前記クライアントは前記複数ページの画像データを復号再生する手段を有し、ＪＰＭファイルの全部又は一部の符号データはＪＰＭファイルを構成する一部のオブジェクトの符号データであることを特徴とする請求項１〜６のいずれか１項に記載のクライアント・サーバシステム。
【請求項８】
ＪＰＩＰ（JPEG2000 image coding system-Part9:Interactivity tools, APIs and protocols）のプロトコル規格に基づき、前記符号データが送受信されることを特徴とする請求項１〜７のいずれか１項に記載のクライアント・サーバシステム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明はクライアント・サーバシステムに関し、詳細にはマルチオブジェクトの中から１つのオブジェクトだけを選択して復号再生するための技術に関する。
【背景技術】
【０００２】
ＪＰＩＰ（JPEG2000  Interactive  Protocol）は、ＪＰＥＧ２０００の圧縮画像データを対象としたサーバ・クライアント環境における圧縮画像データの転送プロトコルである。このＪＰＩＰでは、ＪＰＭ符号データをアクセスすることもできる。なお、ＪＰＭ符号データは、複数個のオブジェクトデータにより構成され、例えば、前景画像データ、背景画像とマスクを持ち、マスク画像によって前景背景といった複数個のオブジェクトよりなるマルチオブジェクト構成をもつ符号データである。
【０００３】
ＪＰＩＰでは、ユーザからの要求に従って、最初に画像全体の概要がわかるように出力する。例えば、解像度の高くないデータを再生する。そして、使用者は、その画像を見て、要求を切り替えて、ある特定領域の部分符号データを再ロードして復号再生する。そのため、最初の画像出力（表示）は試験的なものであり、最初に概要の画像を出力するための処理時間を短くできることが望ましい。そこで、従来例としての特許文献１では、マルチオブジェクトで構成される符号化されたデータ（ＪＰＭファイ）から部分符号データを抽出してＪＰＭファイルを部分的に送信する提案がなされている。
【特許文献１】特開２００５−０３３８０１号公報
【発明の開示】
【発明が解決しようとする課題】
【０００４】
しかしながら、上記特許文献１によれば、ＪＰＭ符号データはマルチオブジェクトにより構成されているが故に、仮に解像度の低い画像を再生する場合であっても、複数個のオブジェクトの復号処理を必要とするため、データ転送や復号再生処理に時間がかかることが問題であった。
【０００５】
本発明はこれらの問題点を解決するためのものであり、マルチオブジェクトの中からシングルオブジェクトを選択して復号再生し、時間経過後にユーザからの必要とされる画像あるいは部分画像の指示に基づいて、残りのオブジェクトを合わせて出力すると共に、ＪＰＭの符号データをオブジェクト単位でプログレッシブ再生することで、早い段階で画像データの全体的な概要を知ることができ、あるオブジェクトの処理を省略することでさらに高速な再生を実現することができるクライアント・サーバシステムを提供することを目的とする。
【課題を解決するための手段】
【０００６】
前記問題点を解決するために、本発明のクライアント・サーバシステムは、画像データを符号化した符号データをクライアントへ転送する機能を有するサーバと、符号データを受信して復号化した画像を表示する機能を有するクライアントとを有して構築している。そして、本発明のクライアント・サーバシステムにおけるクライアントは、サーバへ符号データを受信する要求をする要求送信手段と、サーバから転送された符号データを受信する受信手段と、受信した符号データを復号する復号手段と、復号された画像データを再生する再生手段とを具備している。また、サーバは、クライアントからの要求を受信する要求受信手段と、サーバから転送要求されたＪＰＭファイルの全部又は一部の符号データを選択する選択手段と、選択された符号データをクライアントへ送信する符号データ送信手段とを具備している。本発明のクライアント・サーバシステムで送受信される符号データは、ＪＰＭファイルの全部又は一部の符号データであって、ＪＰＭファイルの全部又は一部の符号データは、ＪＰＭファイルを構成する一部のオブジェクトの符号データである。よって、ＪＰＭをマルチオブジェクトではなく、シングルオブジェクトとして処理することで処理量を軽減することで高速化が実現できる。
【０００７】
また、サーバは、クライアントから要求された符号データを構成する１つのオブジェクトを送信した後クライアントから要求された符号データの残りのオブジェクトを送信することにより、最初の画像提示段階では概要がわかるだけでよいのでシングルオブジェクトの再生だけで済ますことができる。
【０００８】
更に、クライアントから要求された符号データを構成する全てのオブジェクトをオブジェクト単位で順次送信し、クライアントはオブジェクト単位で順次復号再生する。よって、オブジェクト単位でプログレシブに再生することで、早い段階で全体的な概要がわかる。
【０００９】
また、クライアントはサーバに送信停止要求信号を送り、サーバは送信停止要求信号を受信したときクライアントへオブジェクトの送信を停止することにより、例えば時間がなくなった場合にクライアント側からサーバ側へユーザが割り込みをかけ、オブジェクト単位でプログレシブに処理している途中で中断することができる。
【００１０】
更に、サーバがクライアントへ転送するオブジェクトの順番は、オブジェクトの優先順位に基づいて決められることにより、情報が意味のないオブジェクトの再生をしないで済ますことで高速化を図ることができる。
【００１１】
また、サーバは元画像の文字領域と絵柄領域の割合を算出する手段を有し、オブジェクトの優先順位は元画像の文字領域と絵柄領域の割合によって決める。よって、早い段階で画像全体の概要がわかるオブジェクトを選択でき、高速化が図れる。
【００１２】
更に、ＪＰＭファイルは複数ページの画像データより構成され、サーバはＪＰＭファイルに含まれる複数ページの画像データの全部又は一部の符号データを選択する選択手段を有し、かつクライアントは複数ページの画像データを復号再生する手段を有し、ＪＰＭファイルの全部又は一部の符号データはＪＰＭファイルを構成する一部のオブジェクトの符号データである。よって、一部のオブジェクトだけが先に復号再生されるため、早い段階で画像データの全体的な概要を知ることができる。
【００１３】
また、ＪＰＩＰ（JPEG2000 image coding system-Part9:Interactivity tools, APIs and protocols）のプロトコル規格に基づき、符号データが送受信されることにより、標準化され汎用性を図れる。
【発明の効果】
【００１４】
本発明のクライアント・サーバシステムで送受信される符号データは、ＪＰＭファイルの全部又は一部の符号データであって、ＪＰＭファイルの全部又は一部の符号データは、ＪＰＭファイルを構成する一部のオブジェクトの符号データである。よって、ＪＰＭをマルチオブジェクトではなく、シングルオブジェクトとして処理することで処理量を軽減することで高速化が実現できる。
【発明を実施するための最良の形態】
【００１５】
はじめに、ＪＰＥＧ２０００による符号化について以下に説明する。
ＪＰＥＧ２０００の標準仕様においては、画像領域をタイル領域単位あるいは、プレシンクト領域単位に符号データが区別できるような形式で符号データが形成される。ＪＰＥＧ２０００(ISO/IEC 15444-1)規格の符号化は、おおよそ以下の手順でなされる。
【００１６】
先ず、インターレース画像のフレームデータを、Ｙ，Ｃｒ，Ｃｂの色成分毎のデータに変換する。そして、各色成分の色データに対しては、２次元離散ウェーブレット変換を施す。次に、得られるウェーブレット係数に、ＪＰＥＧ２０００に規定のスカラ量子化処理を施し、スカラ量子化されたデータに対しＪＰＥＧ２０００に規定のエントロピー符号化処理（いわゆる係数モデリングによる算術符号化処理）を施す。また、全ての色データに対しては、２次元離散ウェーブレット変換を施す。次に、得られるウェーブレット係数に、ＪＰＥＧ２０００に規定のスカラ量子化処理を施して、スカラ量子化されたデータに対しＪＰＥＧ２０００に規定のエントロピー符号化処理を施す。その後、ＪＰＥＧ２０００で規定する符号列を生成する。なお、復号化処理はこの逆の手順である。もちろん、これらの処理は、ハードウェア回路により実現しても良い。処理の高速化が図られる。また、ＪＰＥＧ２０００に準拠する符号化処理を全てハードウェア回路で実現する画像処理装置は、既に存在する。
【００１７】
図１はＪＰＥＧ２０００の基本となる階層符号化アルゴリズムを説明するためのブロック図である。同図に示すように、階層符号化・復号化部は、色空間変換・逆変換部１１、２次元ウェーブレット変換・逆変換部１２、量子化・逆量子化部１３、エントロピー符号化・復号化部１４、タグ処理部１５で構成されている。ＪＰＥＧアルゴリズムと比較して、最も大きく異なる点の一つは変換方法である。ＪＰＥＧでは離散コサイン変換(ＤＣＴ:Discrete Cosine Transform)を、階層符号化圧縮伸長アルゴリズムでは離散ウェーブレット変換(ＤＷＴ:Discrete Wavelet Transform)を、各々用いている。ＤＷＴはＤＣＴに比べて、高圧縮領域における画質が良いという長所が、ＪＰＥＧの後継アルゴリズムであるＪＰＥＧ２０００で採用された大きな理由の一つとなっている。また、他の大きな相違点は、後者では最終段に符号形成を行うために、タグ処理部１５と呼ばれる機能ブロックが追加されていることである。この部分で、圧縮動作時には圧縮データがコード・ストリームとして生成され、伸長動作時には伸長に必要なコード・ストリームの解釈が行われる。そして、コード・ストリームによって、ＪＰＥＧ２０００は様々な便利な機能を実現できるようになった。例えば、後述する図３に示すように、ブロック・ベースでのＤＷＴにおけるオクターブ分割に対応した任意の階層(デコンポジション・レベル)で、静止画像の圧縮伸長動作を自由に停止させることができるようになる。
【００１８】
なお、原画像の入出力部分には、色空間変換部が接続されることが多い。例えば、原色系のＲ(赤)／Ｇ(緑)／Ｂ(青)の各コンポーネントからなるＲＧＢ表色系や、補色系のＹ(黄)／Ｍ(マゼンタ)／Ｃ(シアン)の各コンポーネントからなるＹＭＣ表色系から、ＹＵＶあるいはＹＣｂＣｒ表色系への変換又は逆の変換を行う部分がこれに相当する。
【００１９】
以下、ＪＰＥＧ２０００アルゴリズムについて説明する。
カラー画像は、一般に、図２に示すように、原画像の各コンポーネント(ここではＲＧＢ原色系)が、矩形をした領域(タイル)によって分割される。そして、個々のタイル、例えば、R00,R01,・・・R15／G00,G01,・・・,G15／B00,B01,・・・,B15が、圧縮伸長プロセスを実行する際の基本単位となる。従って、圧縮伸長動作は、コンポーネント毎、そしてタイル毎に、独立に行なわれる。
【００２０】
符号化時には、各コンポーネントの各タイルのデータが、図１の色空間変換・逆変換部１１に入力され、色空間変換を施された後、２次元ウェーブレット変換・逆変換部１２で２次元ウェーブレット変換(順変換)が適用されて周波数帯に空間分割される。
【００２１】
図３はデコンポジション・レベル数が３の場合の各デコンポジション・レベルにおけるサブ・バンドを示す図である。すなわち、原画像のタイル分割によって得られたタイル原画像(0LL)(デコンポジション・レベル0)に対して、２次元ウェーブレット変換を施し、デコンポジション・レベル１に示すサブ・バンド(1LL,1HL,1LH,1HH)を分離する。そして、引き続き、この階層における低周波成分１LLに対して、２次元ウェーブレット変換を施し、デコンポジション・レベル２に示すサブ・バンド(2LL,2HL,2LH,2HH)を分離する。順次同様に、低周波成分２LLに対しても、２次元ウェーブレット変換を施し、デコンポジション・レベル３に示すサブ・バンド(3LL,3HL,3LH,3HH)を分離する。更に、図３では、各デコンポジション・レベルにおいて符号化の対象となるサブ・バンドを、グレーで表してある。例えば、デコンポジション・レベル数を３とした時、グレーで示したサブ・バンド(3HL,3LH,3HH,2HL,2LH,2HH,1HL,1LH,1HH)が符号化対象となり、サブ・バンド（3LL）は符号化されない。
【００２２】
次いで、指定した符号化の順番で符号化の対象となるビットが定められ、図１の量子化・逆量子化部１３で対象ビット周辺のビットからコンテキストが生成される。量子化の処理が終わったウェーブレット係数は、個々のサブ・バンド毎に、「プレシンクト」と呼ばれる重複しない矩形に分割される。これは、インプリメンテーションでメモリを効率的に使うために導入されたものである。図４に示すように、一つのプレシンクトは、空間的に一致した３つの矩形領域からなっている。更に、個々のプレシンクトは、重複しない矩形の「コード・ブロック」に分けられる。これは、エントロピー・コーディングを行う際の基本単位となる。
【００２３】
図１のエントロピー符号化・復号化部１４では、コンテキストと対象ビットから確率推定によって、各コンポーネントのタイルに対する符号化を行う。このようにして、原画像の全てのコンポーネントについて、タイル単位で符号化処理が行われる。エントロピー符号化・復号化部１４で形成される符号データの最小単位は、パケットと呼ばれる。パケットは、図５に示すように、プログレッシブ順にシーケンス化され、これが画像ヘッダセグメントの中の１つで示される。全てのプレシンクトのパケットを集めると画像全域の符号の一部（例えば、画像全域のウェーブレット係数のＭＳＢから３枚目までのビットプレーンの符号）ができるが、それをレイヤと呼ぶ。レイヤは画像全体のビットプレーン符号の一部であり、復号されるレイヤ数が増えると画質が向上する。全てのレイヤを集めると、画像全域の全てのビットプレーンの符号となる。
【００２４】
図６は画像全域のビットプレーン符号化例についてサブ・バンドをプレシンクトとした時のレイヤとパケットとの関係を示す図である。この例では、ウェーブレット変数の階層数（デコンポジション・レベル）が２でありデコンポジション・レベル２のサブ・バンドは４つのコードブロックに、デコンポジション・レベル１のサブ・バンドは９個のコードブロックにそれぞれ分割されている。パケットはプレシンクトを単位としていくつかのプレシンクトにより構成され、図６の例では、プレシンクトはサブ・バンドであるので、パケットはいくつかのサブ・バンドＨＬからＨＨサブ・バンドまでをまたいだものとなっている。
【００２５】
パケットは、あるプログレッシブ順データといえば、それぞれ、領域、解像度、レイヤ、および色成分によって配列される。即ち、ＪＰＥＧ２０００規格では、画質(レイヤ(L))、解像度(R)、コンポーネント(C)、位置(プレシンクト(P))という４つの画像の要素の優先順位を変更することによって、以下に示す５通りのプログレッションが定義されている。
【００２６】
・LRCP  プログレッション：プレシンクト、コンポーネント、解像度レベル、レイヤの順序に復号されるため、レイヤのインデックスが進む毎に画像全面の画質が改善されることになり、画質のプログレッションが実現できる。レイヤプログレッションとも呼ばれる。
・RLCP  プログレッション：プレシンクト、コンポーネント、レイヤ、解像度レベルの順序に復号されるため、解像度のプログレッションが実現できる。
・RPCL  プログレッション：レイヤ、コンポーネント、プレシンクト、解像度レベルの順序に復号されるため、RLCP同様、解像度のプログレッションであるが、特定位置の優先度を高くすることができる。
・PCRL  プログレッション：レイヤ、解像度レベル、コンポーネント、プレシンクトの順序に復号されるため、特定部分の復号が優先されるようになり空間位置のプログレッションが実現できる。
・CPRL  プログレッション：レイヤ、解像度レベル、プレシンクト、コンポーネントの順序に復号されるため、例えばカラー画像のプログレッシブ復号の際に最初にグレーの画像を再現するようなコンポーネントのプログレッションが実現できる。
【００２７】
このようにＪＰＥＧ２０００規格では、画像は領域（タイルまたはプレシンクトといった画像構成要素）、解像度、階層（レイヤ）、色成分に分割され、それぞれが独立してパケットとして符号化される。これらのパケットはデコードすることなしに、コード・ストリームから識別され抽出され得るところに特徴がある。
【００２８】
図７の（ａ）は、ＬＲプログレッション（レイヤプログレッション）のプログレッシブ順序を模式的に表した図である。図７の（ｂ）は、ＲＬプログレッション（解像度プログレッション）のプログレッシブ順序を模式的に表した図である。
【００２９】
最後に、図１のタグ処理部１５は、エントロピー符号化・復号化部１４からの全符号化データを１本のコード・ストリームに結合するとともに、それにタグを付加する処理を行う。図８には、コード・ストリームの構造を示す。コード・ストリームの先頭と各タイルを構成する部分タイルの先頭にはヘッダと呼ばれるタグ情報が付加され、その後に、各タイルの符号化データが続く。そして、コード・ストリームの終端には、再びタグが置かれる。
【００３０】
一方、復号化時には、符号化時とは逆に、各コンポーネントの各タイルのコード・ストリームから画像データを生成する。図１を用いて簡単に説明する。この場合、タグ処理部１５は、外部より入力したコード・ストリームに付加されたタグ情報を解釈し、コード・ストリームを各コンポーネントの各タイルのコード・ストリームに分解し、その各コンポーネントの各タイルのコード・ストリーム毎にエントロピー符号化・復号化部１４で復号化処理が行われる。コード・ストリーム内のタグ情報に基づく順番で復号化の対象となるビットの位置が定められるとともに、量子化・逆量子化部１３で、その対象ビット位置の周辺ビット(既に復号化を終えている)の並びからコンテキストが生成される。エントロピー符号化・復号化部１４で、このコンテキストとコード・ストリームから確率推定によって復号化を行い、対象ビットを生成し、それを対象ビットの位置に書き込む。このようにして復号化されたデータは各周波数帯域毎に空間分割されているため、これを２次元ウェーブレット変換・逆変換部１２で２次元ウェーブレット逆変換を行うことにより、画像データの各コンポーネントの各タイルが復元される。復元されたデータは色空間変換・逆変換部１１によって元の表色系のデータに変換される。
【００３１】
次に、ＪＰＩＰにおける符号データのやり取りについて説明する。
本発明の実施の形態における別の特徴として、遠隔地に表示された部分画像データをアクセスして、遠隔地から遠隔操作対象である複写機（画像処理装置）に保存された階層符号データの一部または全部をアップロードして再表示する機能がある。典型的には、最初は転送効率を高めるために符号データを一部削減した部分符号データを受信し再生し、その後、さらに詳しく調べるために、残りの符号データを受信（アップロード）して再表示する。そのような機能を実現するために、画像符号化データのプロトコルとしてＪＰＩＰ（ＪＰＥＧ２０００ image coding system-Part9:Interactivity tools, APIs and protocols）がある。
【００３２】
ここで、サーバにあるＪＰＥＧ２０００符号から、必要な符号だけを受信するためのプロトコルとして国際規格ＪＰＩＰ（ＪＰＥＧ２０００ ｉｍａｇｅ ｃｏｄｉｎｇ ｓｙｓｔｅｍ − Ｐａｒｔ ９： Ｉｎｔｅｒａｃｔｉｖｉｔｙ ｔｏｏｌｓ， ＡＰＩｓ ａｎｄ ｐｒｏｔｏｃｏｌｓ）がある。このような、階層的な画像を部分的にアクセスするためのプロトコルは、古くは、画像の多重解像度表現であるFlash Pixと、それにアクセスするためのプロトコルであるIIP（Internet Imaging Protocol）に見ることができる。
【００３３】
図９はＪＰＩＰにおける典型的なクライアント・サーバ間のプロトコル概要を示す図である。先ず、クライアントからサーバへ画像符号データの送信要求が出され、サーバはその応答としてクライアントへ対応する画像符号化データを転送する。クライアントは送られてきた画像符号化データを再生した後、当該画像の部分画像を指示し、指示された部分画像に対応する符号データの転送要求をサーバに送る。サーバはそれに応答し、要求に対応する部分符号データをクライアントに送り、クライアントは送られてきた画像符号化データを再生するというものである。このように、ＪＰＩＰにおけるプロトコルでは、クライアントからサーバへ要求を出し、サーバがクライアントに要求に対応する応答をするというプロトコルを形成する。すなわち、ＪＰＩＰにおいては、クライアントからの要求（リクエスト）に応じて、サーバは完全な画像ファイル、タイルパートストリーム（ＪＰＴ−ストリーム）またはプレシンクトストリーム（ＪＰＰ−ストリーム）の形式をもつ符号データを戻す（応答する）。ＪＰＴ−ストリームは、ＪＰＥＧ２０００パート１規格で規定されるタイルパートの組としてサブ画像の符号データを戻す方法である。一方、ＪＰＰ−ストリームは、ＪＰＥＧ２０００パート１規格で規定されるプレシンクトの組としてサブ画像の符号データを戻す方法である。ＪＰＴ−ストリームにより順次アクセスした符号データを再生する場合は、タイル分割されたタイル領域毎に順次完全に再生するのに対して、ＪＰＰ−ストリームにより順次アクセスした符号データを再生する場合は、タイル領域に跨った広い領域で、小さい領域（プレシンクト）単位に徐々に再生することができる。すなわち、ＪＰＴ−ストリームのアクセスによる再生では、一時に再生する範囲が画像全体の中であるタイル領域に限定されているのに対し、ＪＰＰ−ストリームのアクセスによる再生では、一時に再生する範囲はタイル領域に限定されず画像全体での再生が可能なのである。
【００３４】
このように、ＪＰＩＰのクライアントは、受信された符号データの部分を識別でき、それらの部分を復号し、かつ画像を生成することのできるように、タイルパートストリーム又はプレシンクトストリームの形式で、ＪＰＥＧ２０００コード・ストリームのサブセットを戻す機能を提供する。すなわち、ＪＰＰ−ストリームはＪＰＥＧ２０００コード・ストリームへ変換されＪＰＥＧ２０００デコーダで復号することができる。前記変換は、復号されるデータと共に、メインヘッダの全てとタイルヘッダの全てを受信すれば十分である。図１０はＪＰＥＧ２０００ファイルとデータビンとの関係を例示している。ＪＰＰ−ストリームは、図１１に示すように、メッセージのシーケンスより構成される。各メッセージは、含まれるデータビン情報の形式を示す（メインヘッダ、メタデータ、プレシンクト、又はタイルヘッダ）。各メッセージは、データビン内の開始位置とメッセージの長さも示す。各メッセージは、その形式、その形式内のインデックス、その形式とインデックスを有する“データビン”へのメッセージのオフセット、及びメッセージ長を識別するヘッダを有する。メッセージは、典型的には、データビン全てを含まず、データビンの一部を含む。メッセージには、データビンがどのタイル、コンポーネント、位置及び解像度データビンに対してであるかを示す識別子を含む。
【００３５】
本発明では、タイル、コンポーネント、位置及び解像度を階層としており、データビンに含まれる符号列（パケット）は、各階層のどのレベル（階層レベル）のデータであるかという情報が対応している。例えば、データビンに含まれるある符号列がタイルＡでコンポーネントが、Ｃｂでかつ位置４で、解像度１レベルであることが示されている。
【００３６】
プレシンクト・データビンは、図１２に示すように、一連のパケットヘッダ（ＰＨ）とパケットデータ（ＰＤ）より構成される。パケットヘッダは、どのコードブロックがパケットのパケットデータ部分内のデータを有するかに関する情報、各符号ブロックに格納されたバイト数に関する情報、及び各符号ブロックについての符号化パスの数を含む。JPIPの標準仕様では、パケットヘッダには、どのコンポーネント、位置、解像度、タイル、あるいは、それが属するレイヤを識別する情報（階層レベル情）はもってない。本発明の一実施の形態として、先に示したメッセージデータを解析して、パケット単位の階層レベル情報をパケットヘッダに記録してもかまわない。クライアント側でＪＰＰ−ストリーム受信後、これらの情報を記録することもできる。
【００３７】
同様に、JPIPの標準仕様では、パケットヘッダの長さに関する明確な情報も持たない。パケットデータの長さは、パケット内の全てのコードブロックにデータの長さを加算することにより決定できる。本発明の一実施例として、パケットヘッダにこれらのデータ長を計算した結果を保存する構成にすることができる。ＪＰＰ−ストリームに規定された構成によりパケットを抽出することができる。
【００３８】
また、ＪＰＩＰのプロトコルは、二つの異なるタイプの要求をもっている。サーバがキャッシュモデルを維持する必要がないという意味におけるステートレスリクエストとそれ以外のリクエストがある。サーバのキャッシュモデルには、それまでにサーバに送信したことについての情報の記録がなされている。クライアントのキャッシュには、サーバから受信した符号データが保存され、サーバはキャッシュモデルを用いることによって、既に転送した符号データをクライントに転送することなく、再利用できる。典型的には、クライアントは、断片的に受信したＪＰＥＧ２０００の符号データを、受信した順番にデータをアペンドしキャッシュに保存する。続いて、前述したようにキャッシュしたデータからＪＰＥＧ２０００のシンタックスに準拠したビットストリームを作成し、そのビットストリームをデコードする。
【００３９】
次に、ＪＰＩＰにおけるクライアント、サーバ及びネットワークについて説明する。ここで、図１３はＪＰＩＰにおけるキャッシュを持ったクライアントサーバモデル構成例であり、図１４はＪＰＩＰにおけるクライアントサーバネットワークモデルの構成例である。
【００４０】
図１３の（ａ）に示すように、サーバ２２は、ある種のネットワークを介してクライアント２１のような少なくとも１つのクライアントに接続されている。クライアント２１は、しばしば、人間のユーザにより制御される“プログラム”であるが、完全に自動化されたシステムでも良い。クライアント２１は、ある画像のサブセットに対する要求のような、要求（リクエスト）を発行し、この要求に示された方法で対応する符号データを含む、応答のような応答を受信する。ネットワークの帯域幅又はサーバ２２の資源又はファイル要求の構造のために、クライアント２１は要求された画像の部分符号データ以外のおおよその符号データを受信し得る。クライアント２１は、典型的には、キャッシュを用いて、画像の異なる部分の出力に対する要求を発行し、前に受信された符号データに対する追加分の符号データを受信する。
【００４１】
ここで、ＪＰＩＰの基本的特徴の一つは、クライアントが既に受信した符号データを繰返すことを避ける能力である。この符号データの再送信を避ける２つの方法がある。第１の方法としては、図１３の（ａ）に示すように、クライアント２１が、サーバ２２へ送信されクライアント２１で既に受信された符号データについての情報を持つことで、クライント２１は冗長なデータの配信をサーバ２２に要求しないで済ませ、それにより、サーバ２２は冗長な符号データを送信しないで済ます方法がある。サーバ２２が、“ステートレス”で動作する場合にあっては、それまでの相互動作を記憶することなく動作する。サーバが、それまでの相互動作を記憶する特別なキャッシュモデルを維持する必要がないことから、一般的には、ステートレスで動作しているということが多い。
【００４２】
また、第２の方法としては、図１３の（ａ）に示すように、クライアント２１とサーバ２２は、“セッション”を確立し、サーバ２２は、クライアント２１へ送られた符号データを記憶しておくキャッシュモデル２６をもっている。すなわち、サーバ２２のキャッシュモデル２６には、それまでにサーバ２２に送信したことについての情報の記録がなされている。クライアント２１のキャッシュ２３には、サーバ２２から受信した符号データが保存され、サーバ２２は、キャッシュモデル２６を用いることによって、既に転送した符号データをクライント２１に転送することなく、再利用できる。典型的には、クライアント２１は、断片的に受信したＪＰＥＧ２０００の符号データを、受信した順番にデータをアペンドしキャッシュ２３に保存する。続いて、前述したようにキャッシュしたデータからＪＰＥＧ２０００のシンタックスに準拠したビットストリームを作成し、そのビットストリームをデコードする。
【００４３】
また、本発明は、主に、図１３の（ｂ）に示すようなステートレスな要求を処理するに係り、キャッシュ管理部２８を有することで、キャッシュ２３のキャッシュデータを管理するところに特徴がある。クライアント２１は、それまでに要求した符号データの全てを受信する前にさえも、興味のある画像の部分に対応する符号データを変更し得る。あるサーバは、これらの変更を扱うために、前の要求に対する応答を割り込みすることができる。
【００４４】
図１４は典型的なネットワークを示す図である。同図に示すように、ネットワークは、複数のクライアント、例えばクライアント３１〜３５と複数のサーバ、例えばサーバ３６，３７を含んで構成されている。単一のサーバは、数１００万の異なるクライアントへ同じ画像の異なる部分を扱い得る。単一のクライアントは、画像と他のデータ（例えば、ＨＴＭＬページ）を、幾つかのサーバから受信する。プロキシサーバは、オリジナルサーバと通信すること無しにいくつかの要求への素早い応答を可能とするために、ネットワーク内に存在しうる。有効な帯域幅と帯域幅のコストは、異なるクライアントと同じサーバの間で又は、異なるサーバの間で広く変わる。
【００４５】
最も一般的に使用されるネットワークは、インターネット又はワールドワイドウェブである。しかし、ＪＰＩＰは、ローカルエリアネットワーク又は、どのような一般的な相互接続システムに適用できる。同様に、ＪＰＩＰは、ハイパーテキスト転送プロトコル（ＨＴＴＰ）の上で”最も一般的に転送されるが、ＴＣＰ／ＩＰ及びＵＤＰを含む他の転送プロトコルと共に使用されると予想される。
【００４６】
以上のことから、ＪＰＩＰストリームの符号フォーマット（メッセージ）を分析することで、コンポーネント数、レイヤ数、プレシンクトサイズ、デコンポジション分割数などの階層符号データを構成する各階層のレベル数がわかる。また、プログレッション順序についても知ることができる。
【００４７】
図１５はＪＰＩＰを使用した場合の出力表示画面例を示す図である。最上位画面では、２つのタイルからなるデータが表示されていて、例えば、図１５の（ａ）に示すようにそれぞれのタイルをクリックすることによって画像データが表示され、図１５の（ｂ）のような画質の劣ったタイル４枚からなる画像となる。更に、右下の画像をクリックすることによって、図１５の（ｃ）に示すようにクリックしたタイルの部分画像の解像度が変倍され、部分画質レベルが向上する。このように、部分画像データを参照する場合に使用される。部分画像データを参照する都度、表示クライント側からサーバ側へ符号データを転送要求し再生する。
【００４８】
このようにＪＰＩＰにおいては、クライアント（出力側）では、全ての（階層）符号データではなく、部分符号データを必要としていることを前提としている。そのため、部分符号データからオリジナルの符号データの階層構造を知ることができないという問題があった。
【００４９】
なお、ＪＰＩＰの“主な使用事例”は、２００２年７月１５日に発行されたＩＳＯ／ＩＥＣＪＴＣ１／ＳＣ２９／ＷＧ１Ｎ２６５６に詳細に記載されている。ＪＰＩＰの主要な応用例としては、大きな画像のブラウジングである。ＪＰＩＰは、航空画像、医療画像及び、プリプレス画像を代表とする大きな画像の低解像度版又は部分を小さな携帯表示装置（例えば、携帯電話、携帯情報端末等）で見る方法を提供する。
【００５０】
次に、ＪＰＥＧ２０００のコード・ストリームのフォーマットについて説明する。
ＪＰＥＧ２０００のコード・ストリームは、画像についての全てのエントロピー符号化されたデータと、その符号化されたデータを復号するために使用されるべき方法を記述するデータを含む。コード・ストリームは、使用されるウェーブレット変換に関する情報、タイルのサイズ、プレシンクトのサイズ、解像度に関する情報、ファイル内のパケットの順序等を含む。コード・ストリームは、エントロピー符号化されたデータを画像サンプルに復号するのに必要な全てのパラメータを含まなければならない。コード・ストリームは、例えばパケットの長さのような、符号化されたデータの部分への高速アクセスを提供する情報も含み得る。
【００５１】
図１６の（ａ）はＪＰＥＧ２０００のコード・ストリームのフォーマットの概略構成を示す図である。ＪＰＥＧ２０００の“コード・ストリーム”には、いくつかのマーカセグメントをもっている。マーカセグメントとは、一つの２バイト長よりなるマーカとそれに付随するパラメータ群から構成されている。各マーカセグメントには機能、用途、データ長が表されている。コード・ストリームのフォーマットは符号データの始まりを示すＳＯＣ（Ｓｔａｒｔ ｏｆ Ｃｏｄｅｓｔｒｅａｍ）マーカで始まる。ＳＯＣマーカの後には、符号化のパラメータや量子化のパラメータ等を記述したメインヘッダが続き、その後に実際の符号データが続く。
【００５２】
図１６の（ｂ）はメインヘッダの概略構成を示す図である。メインヘッダはＣＯＤ，ＱＣＤの必須マーカセグメントとＣＯＣ，ＱＣＣ，ＲＧＮ，ＰＯＣ，ＰＰＭ，ＴＬＭ，ＰＬＭ，ＣＲＧ，ＣＯＭのオプションマーカセグメントで構成される。ここで、ＳＩＺマーカセグメントには、コンポーネント数とかタイルサイズなどの非圧縮時の画像の情報が記述され画像コンポーネントの幅と高さについての情報を含む。ＣＯＤとＣＯＣマーカセグメントは、圧縮されたデータはどの様に復号されるべきかを示すパラメータを含む。ＣＯＤマーカにはプログレッション順序、レイヤ数、プレシンクトサイズ、デコンポジション分割数が記述されている。ＱＣＤマーカは量子化に係る情報が記載されている。また、ＣＯＭマーカはコメント等の情報を付加したいときに利用するマーカで、メインヘッダ、タイルヘッダの双方で使用することが可能である。メインヘッダの後に、一連の“タイルパート”がある。各タイルパートは、特定のタイルと部分を識別する“ＳＯＴ”マーカセグメントで始まる。各タイルパートについて符号化されたデータには、“ＳＯＴ”マーカセグメントが先行する。“ＳＯＴ”マーカセグメントには、タイルパート数に係る情報を含んでいる。
【００５３】
図１７に示すような実際の符号データは、ＳＯＴ（Ｓｔａｒｔ ｏｆ Ｔｉｌｅ−ｐａｒｔ）マーカで始まり、タイルヘッダ、ＳＯＤ（Ｓｔａｒｔｏｆ ｄａｔａ）マーカ、タイルデータ（符号）で構成される。これら画像全体に相当する符号データの後に、符号の終了を示すＥＯＣ（Ｅｎｄ ｏｆ Ｃｏｄｅｓｔｒｅａｍ）マーカが付加される。メインヘッダはＣＯＤ，ＱＣＤの必須マーカセグメントとＣＯＣ，ＱＣＣ，ＲＧＮ，ＰＯＣ，ＰＰＭ，ＴＬＭ，ＰＬＭ，ＣＲＧ，ＣＯＭのオプションマーカセグメントで構成される。
【００５４】
図１６の（ｃ）に示すタイルヘッダ構成は、タイルデータの先頭に付加されるマーカセグメント列であり、ＣＯＤ，ＣＯＣ，ＱＣＤ，ＱＣＣ，ＲＧＮ，ＰＯＣ，ＰＰＴ，ＰＬＴ，ＣＯＭのマーカセグメントが使用可能である。一方、図１６の（ｄ）は、タイル内が複数に分割されている場合における分割されたタイルパートの先頭に付加されるマーカセグメント列であり、ＰＯＣ，ＰＰＴ，ＰＬＴ，ＣＯＭのマーカセグメントが使用可能である。タイルヘッダでは必須マーカセグメントはなく、全てオプションである。タイルデータ（符号）は、連続したパケットで構成される。コード・ストリーム中のパケットの順番をプログレッション順序と呼んでいる。
【００５５】
以上のことから、ＪＰＥＧ２０００コードフォーマットを分析することで、コンポーネント数、レイヤ数、プレシンクトサイズ、デコンポジション分割数などの階層符号データを構成する各階層のレベル数がわかる。また、プログレッション順序についても知ることができる。
【００５６】
図１８は本発明における文書画像データが３つのオブジェクトの画像データで構成されている例を示す概略図である。同図に示すように、文書画像データは独立した複数個のオブジェクトの画像データに分割され、それぞれを独立に符号化しマルチオブジェクト構成をもつ符号データが生成される。マルチオブジェクト構成をもつ符号データは互いに独立したそれぞれのオブジェクトの符号データにより構成され、各オブジェクト単位で独立に復号することができる。最終的に、複数オブジェクトを合成して１つの文書データが再生される。本発明は、この観点に着目し、オブジェクトを選択して単独のオブジェクトであっても独立に復号再生することができる構成とした。なお、本発明では１つのオブジェクトのことをシングルオブジェクトと記し、複数個のオブジェクトのことをマルチオブジェクトという。
【００５７】
図１９は本発明の典型的なシステム処理を示すフローチャートである。同図に示すように、本発明にあるようなＪＰＭのようなマルチオブジェクト構成をもつ符号データをオブジェクト単位の部分符号データを選択的に転送し復号再生するときに、オブジェクト単位でプログレッシブに処理する。同図において、最初にクライアント側から、サーバ側に、サーバにある符号データを指定し（ステップＳ１０１）、その符号データの全部または一部のオブジェクトを再生することをサーバ側に要求する（ステップＳ１０２）。ユーザが符号データを指定する場合には、プログレシブに再生するか、プログレシブではなく一度に再生するかを指定することもできる。サーバ側は指定された符号データのオブジェクトを選択し（ステップＳ１０３，Ｓ１０４）、そのオブジェクトの符号データから復号可能な符号ストリームを生成する。符号データはマルチオブジェクト構成をもつ符号データであり、この図の例では、１つのオブジェクト（図１９ではシングルオブジェクトと記している）を自動的に選択している。自動的に選択する処理については後述する。サーバ側は生成した符号ストリームをクライアント側へ転送する（ステップＳ１０５）。クライアント側は、サーバ側から転送された符号ストリームに基づいてシングルオブジェクトを復号再生する（ステップＳ１０６）。
【００５８】
図２０はＪＰＩＰにおけるＪＰＭオブジェクト選択処理を示すフローチャートである。同図において、サーバ側はクライアント側から符号データを受信する要求を受けると（ステップＳ２０１；ＹＥＳ）、当該要求を解析する（ステップＳ２０２）。そして、当該要求に基づいて指定された符号データのマルチ・シングルオブジェクトを選択し（ステップＳ２０３）、そのオブジェクトの符号データから復号可能な符号ストリームを生成する（ステップＳ２０４）。サーバ側は生成した符号ストリームをクライアント側へ転送する（ステップＳ２０５）。クライアント側は、サーバ側から転送された要求を解析し（ステップＳ２０６）、符号ストリームを入力する（ステップＳ２０７）。そして、受信した符号ストリームに基づいてマルチオブジェクトを復号再生する（ステップＳ２０８）。
【００５９】
図２１は本発明の別な構成をもつシステム処理を示すフローチャートである。シングルオブジェクトの画像データが復号再生された後、画像の全領域あるいは部分領域のマルチオブジェクトの符号データが再生される構成になっている。同図において、最初にクライアント側から、サーバ側に、サーバにある符号データを指定し（ステップＳ３０１）、その符号データの全部または一部のオブジェクトを再生することをサーバ側に要求する（ステップＳ３０２）。ユーザが符号データを指定する場合には、プログレシブに再生するか、プログレシブではなく一度に再生するかを指定することもできる。サーバ側は指定された符号データのオブジェクトを選択し（ステップＳ３０３，Ｓ３０４）、そのオブジェクトの符号データから復号可能な符号ストリームを生成する。サーバ側は生成した符号ストリームをクライアント側へ転送する（ステップＳ３０５）。クライアント側は、サーバ側から転送された符号ストリームに基づいてシングルオブジェクトを復号再生する（ステップＳ３０６）。その後、クライアント側から部分画像アクセスの要求をサーバ側に送信すると（ステップＳ３０７）、サーバ側は指定された符号データのオブジェクトを選択し（ステップＳ３０８，Ｓ３０９）、そのオブジェクトの符号データから復号可能な符号ストリームを生成する。サーバ側は生成した符号ストリームをクライアント側へ転送する（ステップＳ３１０）。クライアント側は、サーバ側から転送された符号ストリームに基づいてマルチオブジェクトを復号再生する（ステップＳ３１１）。すなわち、最初に全てのオブジェクトを転送し処理するのではなく、シングルオブジェクトだけ転送され再生されることから、早く処理をすることができることから、早い段階で再生画像の概要を把握することができる。
【００６０】
図２２は本発明の別な構成のＪＰＩＰにおけるＪＰＭオブジェクト選択処理を示すフローチャートである。同図において、サーバ側はクライアント側から符号データを受信する要求を受けると（ステップＳ４０１；ＹＥＳ）、当該要求を解析する（ステップＳ４０２）。そして、当該要求に基づいて指定された符号データのオブジェクトを選択し（ステップＳ４０３）、そのオブジェクトの符号データから復号可能な符号ストリームを生成する（ステップＳ４０４）。サーバ側は生成した符号ストリームをクライアント側へ転送する（ステップＳ４０５）。クライアント側は、サーバ側から転送された要求を解析し（ステップＳ４０６）、符号ストリームを入力する（ステップＳ４０７）。そして、受信した符号ストリームに基づいてマルチオブジェクトを復号再生する（ステップＳ４０８）。
【００６１】
次に、ＪＰＭ仕様に基づく画像再生について説明する。
マルチオブジェクトで構成される符号化では、入力画像（文字画像混在文書画像）は複数の画像データに分離され、それぞれに適した符号化が施される。分離されたそれぞれを本発明ではオブジェクトと記し、複数のオブジェクトにより構成されていることをマルチオブジェクトと記している。例えば、マルチオブジェクト構成をもつ符号データ生成についての概念図である図２３の例では、入力画像は、前景画像、背景画像、マスクデータに分離される。通常、マスク画像は、前景か背景かのいずれかを表す２値データで表され、マスクの値が１の画素領域では、前景画像が再生され、マスクの値が０の画素領域では、背景画像が再生される。マスク画像が０か１かで前景画像と背景画像のいずれかを選択するように分離されている。一方、前景あるいは背景画像は一般に多値データで表される。図２３の例では、それぞれのオブジェクトである前景画像、背景画像、マスクデータが互いに独立に符号化され、マルチオブジェクトで構成される符号化された符号データが形成される。
【００６２】
図２４はマスクデータとその前景データを抽出する方法の概念を説明するための図である。同図からわかるように、元画像データの文字は、色とか模様（グラデーション）をもっていて、それが２値データのマスクデータと色とか模様（グラデーション）の前景画像データとに分離している。よって、画像情報（文字画像混在文書画像）の公知の領域属性判別手段を用いて抽出した文字領域情報を使用することで、マスクデータが算出できる。
【００６３】
図２５は本発明の分離画像データ生成に係る処理を示すフローチャートである。同図において、画像データを読み込み（ステップＳ５０１）、例えば領域属性判別手段により画像の属性領域を識別する（ステップＳ５０２）。そして、文字だけの二値画像データをマスクデータとして生成し（ステップＳ５０３）、更には文字領域を除いた文字なしの画像データを作成する（ステップＳ５０４）。最後に、文字の色を表す画像データを作成する（ステップＳ５０５）。このように、典型的な実施例では、入力画像に対する文字領域の領域判別結果を使用して、マスクデータと前景画像データだけでなく、背景画像データも同時に生成する。よって、オブジェクト毎に独立なイメージデータとして分離し符号化され、図２３に示すように、マルチオブジェクトで構成される符号化がなされる。
【００６４】
一方、画像データの再生では、図２６に示すように、それぞれの符号化されたオブジェクトは復号され、オブジェクト毎のイメージデータが再生された後、合成処理が施されて元の画像が再生される。この合成処理はオブジェクトごとに分離の方法に対応している。このマルチオブジェクトで構成される符号化の一つとして、JPEG2000 Part6に係るJPM(ISO/IEC FDIS 15444-6)がある。
【００６５】
ここで、JPMによる実現方式について説明するための式を下記に示す。この式は画像再現の方法を示している。式中のPage Imageが再現画像を表している。JPMでの画像データの分解は、背景画像に相当するBase Imageデータと、Mmと記載されているマスクデータと、前景画像に相当するImと記載されている（マスク上の）イメージデータに分解する。
【００６６】
【数１】
2008244539.tif 000003
【００６７】
但し、Mm：ｍ番目のLayout ObjectにおけるMask Objectの画素値、Im：ｍ番目のLayout ObjectにおけるImage Objectの画素値、c：コンポーネント、x,y：画像の座標、Sm：Mm（マスク）の最大値（２のべき乗）、n：当該ページに含まれるLayout Objectの数である。
【００６８】
また、下記にJPMの適応例を示す。
【００６９】
【数２】
2008244539.tif 000004
【００７０】
JPMの規定によれば、マスクデータ（Mm）は、イメージデータ（Im）の不透明度を表しているが、図２３を用いて説明した本発明の典型的な実施例では、先に説明したようにマスクデータの値は１又は０に限定する。なお、この例においては、Base Imageデータを背景画像データとして、マスクデータ（Mm）と、イメージデータ（Im）は１組のデータしかもたない構成に分解している。別の元画像データの分解として、Base Imageデータを透明データとして、背景画像データである。これらの式に基づいて、合成処理がなされ画像データが再生される。
【００７１】
ＰＤＦも、マルチオブジェクト構造をもつ符号データに符号化されるファイルフォーマットであり、ＰＤＦであってもかまわない。ＰＤＦはＪＰＥＧ２０００コード・ストリームを許容するように最近更新され、ＰＤＦファイルフォーマットを構成するオブジェクトはＪＰＥＧ２０００で符号化することもできる。
【００７２】
次に、ＪＰＭオブジェクトをプログレッシブに処理する場合について以下に説明する。
図２７は本発明のＪＰＭのオブジェクト単位でプログレシブに処理される考え方を示す図である。同図において、タイプ１は、図１８で示した、プログレシブ処理をしない場合の再生について示している。最初に、シングルオブジェクトの画像が再生される。典型的な再生は、画像の全体像を把握できるように、シングルオブジェクトの全領域の画像が再生される。その後、部分領域あるいは全領域のマルチオブジェクトの符号データが再生される。図１８を用いて説明したように、クライアント側からサーバ側への再生要求により、サーバ側からクライアント側へ部分符号データが転送され復号再生される。この例では、画像データはブロック単位で符号化されていることを想定している。全てのオブジェクトで同じようにブロック単位で符号化することで、ＪＰＭなどのマルチオブジェクト構成の符号データをブロック単位で符号化することができる。
【００７３】
また、タイプ２は、アクセスされた部分符号データがプログレシブ処理される場合を示している。タイプ２では、最初に、シングルオブジェクトの画像が再生され、続いて、部分領域あるいは全領域の野マルチオブジェクトを構成するそれぞれのオブジェクトの部分符号データが順次プログレシブに処理している。オブジェクト単位でプログレシブに処理している。
【００７４】
更に、タイプ３は、時間がなくなった場合に、図２８に示す処理フローのステップＳ５０７にあるように、クライアント側からサーバ側へユーザが割り込みをかけ、オブジェクト単位でプログレシブに処理している途中で処理を中断する。図２８に示されるように、サーバ側は、プログレシブ処理中に送信停止要求を受けることができて、途中で再生を中断することができる。このことによりプログレシブ表示中に必要がなくなったと使用者が判断したとき、処理を中断することができる。
【００７５】
また、ＪＰＭ符号データの再生について、図２３及び図２６で説明したように、複数オブジェクトを再生するには、各オブジェクトを合成することにより再生される。
【００７６】
図２９はプログレッション処理システムの構成を示すブロック図である。同図に示すプログレッション処理システムは、図１３でＪ２Ｋファイル２７と表されているところが、ＪＰＭファイルになった構成をとっている。最も通常使用されるネットワークは、インターネット又はワールドワイドウェブ（ＷＷＷ）であるが、ここに説明される技法は、ローカルエリアネットワーク（ＬＡＮ）又は任意の一般的な相互接続システムに適用可能である。同図に示すように、ネットワーク４０には、クライアント４１、サーバ４２以外に、画像データを入力する入力装置４３、符号データを生成する符号処理装置４４が接続されている。入力装置４３で入力された文書画像データがネットワーク４０を通して、符号処理装置４４に転送され、符号処理装置４４では、文書画像データを符号化して符号データを生成する。生成された符号データがネットワーク４０を通してサーバ４２に転送される。なお、クライアント４１は、データ送受信部４６、符号データ保存部４７、符号データ編集部４８及び復号処理部４９を含んで構成されている。サーバ４２は、データ送受信部５０、符号データ保存部５１及び符号データ編集部５２を含んで構成されている。また、同図に示すように、ネットワーク４０には、表示装置あるいはプリンタなどの出力装置４５が接続されている。クライアント４１で生成された画像データはネットワーク４０を介して出力装置４５へ転送され文書画像が出力される。また、クライアントシステムには、表示をするための表示装置とキーボードなどからデータを入力するための入力装置が直接接続されている。先に示した画像データの表示は、この表示装置になされる。また、ユーザの指示も入力装置からなされ、信号データに変換されデータ送受信部を通してサーバ側へ送信される。ここで、クライアントシステムにおける復号処理部は、図３０に示すような構成を有している。
【００７７】
次に、プログレッション処理について説明する。
図３１はJPEG2000コード・ストリームを示す図である。同図に示すように、通常符号データは、このように、先頭に先頭記号があり、終端に終端符号が付いていて、符号データ間の区別をしている。また、符号データにはヘッダが付加されていて、ヘッダに続いて符号データの本体である符号列により構成されている。
【００７８】
図３２はパケットとよばれる符号列により構成される符号データの構成例を示す図である。JPEG2000の仕様による符号データもこのようなパケット構成をしている。この例では、符号データを構成するパケットは、４つのレイヤと３つの画像領域（プレシンクト単位）に対応した計１２個のパケットにより構成されている。
【００７９】
図３３、図３４で示すような符号ストリームを、部分符号データ毎に順次プログレッシブ復号する。符号ストリームは、図３３、図３４で示すような領域毎の要素符号データ単位に並べた符号ストリームである場合もあれば、層毎の要素符号データ単位に並べた符号ストリームである場合もある。例えば、出力種別情報がプリンタの場合は、領域毎の要素符号データ単位に並べた符号ストリームを生成し、復号再生する。一方、出力種別情報が表示装置の場合は、層毎の要素符号データ単位に並べた符号ストリームを生成し、復号再生する。
【００８０】
以下、プログレッシブ復号する処理について図３０を用いて説明する。図３０に示す復号処理部４９は、符号ストリーム保存部４９−１、部分符号データ選択部４９−２、算術符号復号化部４９−３、符号データ一部保存部４９−４、逆WT変換部４９−５によって構成されている。ＪＰＥＧ２０００の符号ストリームの復号処理を行うことができる。図３５はプログレシブな復号処理の概略を示すブロック図である。図３０の符号ストリーム保存部４９−１には、処理対象としている符号ストリームを保存する。部分符号データ選択部４９−２は、符号データを、先頭の要素符号データから順に選択して抽出する。算術符号復号化部４９−３は、抽出された要素符号データを取り出して、該要素符号データを算術符号復号しＷＴ係数データを算出する。符号データ一部保存部４９−４は、部分符号データ単位で復号する場合に使用される。符号データ一部保存部４９−４には、抽出したＷＴ係数データが書き込まれる。このＷＴ係数データを保存する符号データ一部保存部４９−４は、ＷＴ係数データが順次書き込み追加される。逆WT変換部４９−５は、ＷＴ係数符号データを逆ウェーブレット変換し再生する。層単位の要素符号データを復号する場合には、既に符号データ一部保存部４９−４に保存されていたＷＴ係数データを使用して逆WT変換する。
【００８１】
次に、プログレシブ復号処理について当該処理フローを示す図３６に従って説明する。同図において、先ず保存部のデータはクリアする（ステップＳ６０１）。そして、符号ストリームを読み込み（ステップＳ６０２）、符号ストリームの部分符号データを順次選択する（ステップＳ６０３）。全ての部分符号データがあるか否かを判断し、ない場合は処理を終了する（ステップＳ６０４；ＮＯ）。全ての部分符号データがあれば、部分符号データを算術符号復号しＷＴ係数データを算出する（ステップＳ６０５）。そして、ＷＴ係数データを算出する（ステップＳ６０６）。層単位の符号データストリームの場合は、該ＷＴ係数データと、一部保存されたＷＴ係数データを用いて、ＷＴ係数データを算出する。最後に、逆ウェーブレット変換し画像を再生する（ステップＳ６０７）。なお、ここでは、カラーである場合や、ＪＰＥＧ２０００のＤＣ変換については省略し簡略に説明したが、カラーである場合や、ＪＰＥＧ２０００のＤＣ変換についても同様に処理される。
【００８２】
図３７及び図３８は、プログレシブ処理される符号データの流れを説明するための図である。図３７は画像領域に対応する部分符号データ単位でプログレシブ処理する場合の処理の過程における符号データの流れに示し、図３８は層に対応する部分符号データ単位でプログレシブ処理する場合の処理の過程における符号データの流れに示している。なお、プログレシブ処理は、部分符号データの構成によって再生の態様が異なってくる。図３７では、領域区分容易な領域単位で符号ストリームは生成され、一方、図３８である場合は、層区分容易な層単位で符号ストリームが生成されている。ＪＰＥＧ２０００は、スケーラブルな構成を持つ階層符号であるので、どちらの符号ストリームをも生成することができるし、どちらか一方の区分をもつ部分符号データ単位を、もう一方の区分をもつ部分符号データ単位に変換することができる。符号ストリームを構成する要素符号データはプログレシブに順次復号される。図３６に示すように、画像領域に対応する部分符号データ単位でプログレシブ処理する場合には、領域単位に順次復号され、領域単位に順次再生される。プリンタでは、プリンタの処理の順番であるラスタ順に再生し、処理効率を高めることができる。一方、図３８に示すように、層に対応する部分符号データ単位でプログレシブ処理する場合は、層単位に順次復号され、層単位に順次再生される。表示装置では、全体的に徐々に詳しく再生するような場合で、画像の全体像を早く知ることができる。
【００８３】
次に、ＪＰＩＰにおけるＪＰＭオブジェクトの選択について説明する。
プログレシブ再生においては、より重要度の高い画像から徐々に再生されることが望ましく、オブジェクト単位の優先順位の設定が課題となる。図３９〜図４２は、オブジェクト単位の優先順位の設定処理を示すフローチャートである。オブジェクト単位の優先順位情報は、先に示した符号処理装置で設定され、符号データのヘッダに書きこまれ保持される。サーバはクライアントから、指定された符号データのヘッダを参照することで、係るオブジェクト単位の優先順位情報を知ることができる。
【００８４】
図３９において、ＪＰＭ符号データの各オブジェクトのヘッダの先頭アドレスを取り出す（ステップＳ７０１）。そして、オブジェクト単位の部分符号データの絵柄文字領域の割合を算出し（ステップＳ７０２）、文字絵柄領域の割合によってマルチオブジェクトのオブジェクト単位の優先順位を設定する（ステップＳ７０３）。ここで、領域属性判別手段における、文字領域の抽出は、画像データ全体の二値化処理（二値画像生成処理）を行った後、二値化処理結果を分析して文字領域を抽出（文字領域抽出処理）する。二値画像生成処理では、まず、ブロック単位に入力されたＲＧＢ信号に対して輝度信号であるＹ信号に変換する。ＲＧＢ信号からＹ信号への変換は、種々の方法があり特に限定されないが、最も簡単な変換式の一例としてJPEG2000に採用されている変換式を以下に示す。
【００８５】
Ｙ＝（Ｒ＋２×Ｇ＋Ｂ＋２）／４
【００８６】
変換されたＹ信号は、ブロック単位に決定されたしきい値に応じて、二値化が行われる。ここでのしきい値決定処理方法としては、例えば、特開２００２−７７６３号公報にて開示されているようなヒストグラムをとって平均、分散等の統計的性質を利用した方法や、簡易な方法としてはブロック内全画素の輝度(Y)値の平均値を用いたり、平均値に所定の重みを演算することによって決定する方法等が考えられる。
【００８７】
なお、二値化処理は以上の計算方法に特定されず、Ｙ信号変換処理をすることなくＲＧＢ信号各々でしきい値を決定し二値化処理を行っても良い。
【００８８】
次に、文字領域抽出処理では、二値画像生成処理によって得られた二値画像データから文字領域の抽出を行う。ＯＣＲ処理などでは良く行われる技術であり、例えば、特開２００２−７７６３１号公報にて開示されているように二値画像データの黒画素の輪郭線追跡を行い、全てをラベリングして縦、横の幅がしきい値以下の黒画素の集まりのみ文字として文字領域を抽出する。また、前述のように画像データを解析するという方法によらず使用者が直接領域を指定することにより設定してもかまわない。別の一例として、例えば、各々文書画像データが入力されるエッジ領域検出回路及び白地領域検出回路と、これらの検出回路の検出結果に応じて文書画像データの処理対象領域が文字領域であるか絵柄領域であるかを判定して画像判別（像域分離）するという構成にすることができる。テキスト絵柄割合は、領域属性判別手段を用いて、元文書画像データに含まれるテキスト及び絵柄の割合を調べることで算出することができる。典型的には、画像データをスキャンしながら、画像の小領域ごとに領域属性判別しながら、テキストおよび絵柄である領域の数を集計し、合計値により割合を算出する。例えば、図４３の（ａ）に示すような文字領域６０と絵柄領域６１とが混在する単純な原稿６２による文書画像データを処理対象とする場合では、文書画像データを図４３の（ｂ）に示すように複数のラスタラインｙ０、ｙ１、・・・に分割し、そのラスタライン単位でテキスト絵柄領域の数をカウントしていく。なお、これ以外にも、オブジェクトの優先順位を設定するいくつかの方式がある。
【００８９】
次に、図４０において、ＪＰＭ符号データの各オブジェクトのヘッダの先頭アドレスを取り出す（ステップＳ８０１）。そして、オブジェクト単位の部分符号データの符号量を算出し（ステップＳ８０２）、符号量によってマルチオブジェクトのオブジェクト単位の優先順位を設定する（ステップＳ８０３）。また、図４１においては、ＪＰＭ符号データの各オブジェクトのヘッダの先頭アドレスを取り出す（ステップＳ９０１）。そして、オブジェクト単位の優先順位情報を算出し（ステップＳ９０２）、当該優先順位情報によってマルチオブジェクトのオブジェクト単位の優先順位を設定する（ステップＳ９０３）。このように、図４１に示すオブジェクト単位の優先順位の設定処理は、優先順位オブジェクト単位の優先順位が使用者により設定される場合である。更に、図４２においては、ＪＰＭ符号データの各オブジェクトのヘッダの先頭アドレスを取り出す（ステップＳ１００１）。そして、マスク画像が全て０又は１であることの識別データを抽出する（ステップＳ１００２）。抽出した識別データからマスク画像が全て０であれば（ステップＳ１００３；ＹＥＳ）背景画像のシングルオブジェクト符号データを選択する（ステップＳ１００４）。このように、図４２に示すオブジェクト単位の優先順位の設定処理は、マルチオブジェクトを構成するマスク画像によって判別する場合である。
【００９０】
次に、本発明におけるマルチページの場合のプログレシブ復号再生処理について当該処理フローを示す図４４に従って説明する。
【００９１】
図４４において、符号データが入力された場合（ステップＳ１１０１；ＹＥＳ）、符号データを読み込む（ステップＳ１１０２）。第１の符号ストリームを復号し（ステップＳ１１０３）、第１の符号ストリームの再生画像を保存する（ステップＳ１１０４）。第１の符号ストリームの画像を再生する（ステップＳ１１０５）。そして、第２の符号ストリームの入力があれば（ステップＳ１１０６；ＹＥＳ）、残りの符号ストリームを再生せずに、第２の符号ストリームを読み込む（ステップＳ１１０７，Ｓ１１０８）。読み込んだ第２の符号ストリームを復号する（ステップＳ１１０９）。次に、第１、第２の符号ストリームの再生画像をＪＰＭ合成して再生する（ステップＳ１１１０，Ｓ１１１１）。
【００９２】
以上の実施の形態では、ＪＰＭファイルには１画像データ分含まれている構成について説明した。ところで、ＪＰＭあるいはＰＤＦファイルフォーマットは複数ページを有するドキュメントにも多く使用されている。上述した１画像データ分に適応される技法は、複数ページにも適応されることは言うまでもない。しかし、複数ページ処理では、処理量の負担が大きいため、処理量を軽減し高速化を図ることが重要な課題となる。
【００９３】
図４５は複数ページ処理する典型的な処理を示すフローチャートである。同図において、最初にクライアント側から、サーバ側に、サーバにある符号データを指定し（ステップＳ１２０１）、その符号データの全部または一部のオブジェクトを再生することをサーバ側に要求する（ステップＳ１２０２）。ユーザが符号データを指定する場合には、プログレシブに再生するか、プログレシブではなく一度に再生するかを指定することもできる。サーバ側はマルチページの指定された符号データのオブジェクトを選択し（ステップＳ１２０３，Ｓ１２０４）、そのオブジェクトの符号データから復号可能な符号ストリームを生成する。サーバ側は生成した符号ストリームをクライアント側へ転送する（ステップＳ１２０５）。クライアント側は、サーバ側から転送された符号ストリームに基づいてシングルオブジェクトを復号再生する（ステップＳ１２０６）。その後、クライアント側から部分画像アクセスの要求をサーバ側に送信すると（ステップＳ１２０７）、サーバ側はあるページの指定された符号データのオブジェクトを選択し（ステップＳ１２０８，Ｓ１２０９）、そのオブジェクトの符号データから復号可能な符号ストリームを生成する。サーバ側は生成した符号ストリームをクライアント側へ転送する（ステップＳ１２１０）。クライアント側は、サーバ側から転送された符号ストリームに基づいてマルチオブジェクトを復号再生する（ステップＳ１２１１）。このように、最初に複数個の画像データを復号し、各ページの画像データ毎にオブジェクトを選択し表示する。時間経過後、使用者は複数ページの再生画像を見て、１つの符号データを指定して、クライアント側からサーバ側へ、指定されて符号データを構成する残りのオブジェクトの部分符号データの転送を促し、部分符号データを再生する。指定されたページの画像を詳しく再生することができる。各ページの画像データ毎にオブジェクトを選択して処理する。図示はしないが、指定されたページの画像を詳しく再生する場合に、前述したような仕組みで、オブジェクト単位でプログレシブに再生することもできる。
【００９４】
なお、本発明は上記実施の形態に限定されるものではなく、特許請求の範囲内の記載であれば多種の変形や置換可能であることは言うまでもない。
【図面の簡単な説明】
【００９５】
【図１】ＪＰＥＧ２０００の基本となる階層符号化アルゴリズムを説明するためのブロック図である。
【図２】タイル分割の基本を示す図である。
【図３】デコンポジション・レベルとサブ・バンドを示す図である。
【図４】プレシンクトとコード・フロックを示す図である。
【図５】ＪＰＥＧ２０００のパケットを示す図である。
【図６】画像全域のビットプレーン符号化例についてサブ・バンドをプレシンクトとした時のレイヤとパケットとの関係を示す図である。
【図７】本発明のプログレッシブ順を制御する処理を示す図である。
【図８】コード・ストリームの構造を示す図である。
【図９】ＪＰＩＰにおける典型的なクライアント・サーバ間のプロトコル概要を示す図である。
【図１０】ＪＰＥＧ２０００ファイルとデータビンとの関係を示す図である。
【図１１】プレシンクト・データビンとメッセージとの関係を示す図である。
【図１２】プレシンクト・データビンの一例を示す図である。
【図１３】ＪＰＩＰにおけるキャッシュを持ったクライアントサーバモデル構成例を示す図である。
【図１４】ＪＰＩＰにおけるクライアントサーバネットワークモデルの構成例を示す例である。
【図１５】ＪＰＩＰを使用した場合の出力表示画面例を示す図である。
【図１６】ＪＰＥＧ２０００のコード・ストリームのフォーマットの概略構成とメインヘッダの概略構成を示す図である。
【図１７】ＪＰＥＧ２０００のコード・ストリーム例を示す図である。
【図１８】本発明における文書画像データが３つのオブジェクトの画像データで構成されている例を示す概略図である。
【図１９】本発明の典型的なシステム処理を示すフローチャートである。
【図２０】ＪＰＩＰにおけるＪＰＭオブジェクト選択処理を示すフローチャートである。
【図２１】本発明の別な構成をもつシステム処理を示すフローチャートである。
【図２２】本発明の別な構成のＪＰＩＰにおけるＪＰＭオブジェクト選択処理を示すフローチャートである。
【図２３】マルチオブジェクト構成をもつ符号データ生成についての概念図である。
【図２４】マスクデータとその前景データを抽出する方法の概念を説明するための図である。
【図２５】本発明の分離画像データ生成に係る処理を示すフローチャートである。
【図２６】マルチオブジェクト構成をもつ符号データの合成処理についての概念図である。
【図２７】本発明のＪＰＭのオブジェクト単位でプログレシブに処理される考え方を示す図である。
【図２８】プログレシブ処理を中断する場合のシステム処理を示すフローチャートである。
【図２９】プログレッション処理システムの構成を示すブロック図である。
【図３０】図２９の復号処理部の構成を示すブロック図である。
【図３１】JPEG2000コード・ストリームを示す図である。
【図３２】パケットの符号データの構成例を示す図である。
【図３３】プログレッションの一例を示す図である。
【図３４】プログレッションの他の例を示す図である。
【図３５】プログレシブな復号処理の概略を示すブロック図である。
【図３６】プログレシブ復号処理を示すフローチャートである。
【図３７】画像領域に対応する部分符号データ単位でプログレシブ処理する場合の処理の過程における符号データの流れを示す図である。
【図３８】層に対応する部分符号データ単位でプログレシブ処理する場合の処理の過程における符号データの流れを示す図である。
【図３９】オブジェクト単位の優先順位の設定処理を示すフローチャートである。
【図４０】オブジェクト単位の優先順位の設定処理を示すフローチャートである。
【図４１】オブジェクト単位の優先順位の設定処理を示すフローチャートである。
【図４２】オブジェクト単位の優先順位の設定処理を示すフローチャートである。
【図４３】テキスト絵柄割合の算出について説明するための図である。
【図４４】本発明におけるマルチページの場合のプログレシブ復号再生処理を示すフローチャートである。
【図４５】複数ページ処理する典型的な処理を示すフローチャートである。
【符号の説明】
【００９６】
４０；ネットワーク、４１；クライアント、４２；サーバ、
４３；入力装置、４４；符号処理装置、４５；出力装置、
４６，５０；データ送受信部、４７，５１；符号データ保存部、
４８，５２；符号データ編集部、４９；復号処理部、
６０；文字領域、６１；絵柄領域、６２；原稿。
【図１】
2008244539.tif 000005
【図２】
2008244539.tif 000006
【図３】
2008244539.tif 000007
【図４】
2008244539.tif 000008
【図５】
2008244539.tif 000009
【図６】
2008244539.tif 000010
【図７】
2008244539.tif 000011
【図８】
2008244539.tif 000012
【図９】
2008244539.tif 000013
【図１０】
2008244539.tif 000014
【図１１】
2008244539.tif 000015
【図１２】
2008244539.tif 000016
【図１３】
2008244539.tif 000017
【図１４】
2008244539.tif 000018
【図１５】
2008244539.tif 000019
【図１６】
2008244539.tif 000020
【図１７】
2008244539.tif 000021
【図１８】
2008244539.tif 000022
【図１９】
2008244539.tif 000023
【図２０】
2008244539.tif 000024
【図２１】
2008244539.tif 000025
【図２２】
2008244539.tif 000026
【図２３】
2008244539.tif 000027
【図２４】
2008244539.tif 000028
【図２５】
2008244539.tif 000029
【図２６】
2008244539.tif 000030
【図２７】
2008244539.tif 000031
【図２８】
2008244539.tif 000032
【図２９】
2008244539.tif 000033
【図３０】
2008244539.tif 000034
【図３１】
2008244539.tif 000035
【図３２】
2008244539.tif 000036
【図３３】
2008244539.tif 000037
【図３４】
2008244539.tif 000038
【図３５】
2008244539.tif 000039
【図３６】
2008244539.tif 000040
【図３７】
2008244539.tif 000041
【図３８】
2008244539.tif 000042
【図３９】
2008244539.tif 000043
【図４０】
2008244539.tif 000044
【図４１】
2008244539.tif 000045
【図４２】
2008244539.tif 000046
【図４３】
2008244539.tif 000047
【図４４】
2008244539.tif 000048
【図４５】
2008244539.tif 000049