(57)【要約】【課題】データ伝送に負荷をかけることなく、配信される画像のとりこぼしを受信側で検出することができる画像配信方法及びそのシステムと、サーバ、端末及びプログラムを提供すること。【解決手段】本発明は、配信側は、配信される画像の高解像度画像と、前記配信する画像の全体の低解像度画像とを配信し、受信側は、前記低解像度画像を用いて、高解像度画像の表示の不整合を検出する。【選択図】図１
2009219073.tif 000002
【特許請求の範囲】
【請求項１】
配信側は、配信される画像の高解像度画像と、前記配信される画像の全体の低解像度画像とを配信し、
受信側は、前記低解像度画像を用いて、高解像度画像の表示の不整合を検出する
画像配信方法。
【請求項２】
前記高解像度画像は、前記配信される画像における時間経過に伴い変化した領域の画像の高解像度画像である請求項１に記載の画像配信方法。
【請求項３】
前記受信側は、高解像度画像の不整合が検出された場合、不整合領域の高解像度画像の送信を前記配信側に要求し、
前記配信側は、前記送信要求に応答して、不整合領域の高解像度画像を前記受信側に送信する
請求項１又は請求項２に記載の画像配信方法。
【請求項４】
前記受信側は、高解像度画像の不整合が所定回数検出された場合、不整合領域の高解像度画像の送信を前記配信側に要求する請求項３に記載の画像配信方法。
【請求項５】
前記受信側は、高解像度画像の不整合が検出された場合、配信される画像全体の高解像度画像の送信を前記配信側に要求し、
前記配信側は、前記送信要求に応答して、配信される画像全体の高解像度画像を前記受信側に送信する
請求項１又は請求項２に記載の画像配信方法。
【請求項６】
前記受信側は、高解像度画像の不整合が検出された場合、前記配信側から送信される不整合領域又画面全体の高解像度画像を表示できるまで、前記低解像度画像で不整合領域の画像を代用する請求項１から請求項５のいずれかに記載の画像配信方法。
【請求項７】
前記配信側は、前記低解像度画像と前記高解像度画像とを共に配信する請求項１から請求項６のいずれかに記載の画像配信方法。
【請求項８】
前記配信側は、所定時間毎に前記低解像度画像を配信する請求項１から請求項６のいずれかに記載の画像配信方法。
【請求項９】
前記配信側は、前記高解像画像の所定配信回数毎に前記低解像度画像を配信する請求項１から請求項６のいずれかに記載の画像配信方法。
【請求項１０】
前記配信側は、配信する画像を階層符号化方式によりエンコードし、エンコードされたデータの低解像度画像成分を前記低解像度画像として配信する請求項１から請求項９のいずれかに記載の画像配信方法。
【請求項１１】
前記配信側は、配信する画像を階層符号化方式によりエンコードし、エンコードされたデータの低解像度画像分を省略した高解像度画像成分を、前記受信側から送信要求された高解像度画像として送信する請求項１から請求項１０のいずれかに記載の画像配信方法。
【請求項１２】
配信される画像の高解像度画像と、前記配信される画像の全体の低解像度画像とを配信する配信手段を有する配信サーバと、
前記低解像度画像を用いて、高解像度画像の表示の不整合を検出する不整合検出手段を有する端末と
を有する画像配信システム。
【請求項１３】
前記配信手段は、前記配信される画像における時間経過に伴い変化した領域の画像の高解像度画像を配信する請求項１２に記載の画像配信システム。
【請求項１４】
前記端末は、前記不整合検出手段により高解像度画像の不整合が検出された場合、不整合領域の高解像度画像の送信を前記配信サーバに要求する送信要求手段を有し、
前記配信サーバは、前記送信要求に応答して、不整合領域の高解像度画像を前記端末に送信する送信手段を有する
請求項１２又は請求項１３に記載の画像配信システム。
【請求項１５】
前記送信要求手段は、前記不整合検出手段により高解像度画像の不整合が所定回数検出された場合、不整合領域の高解像度画像の送信を前記配信サーバに要求する請求項１４に記載の画像配信システム。
【請求項１６】
前記端末は、前記不整合検出手段により高解像度画像の不整合が検出された場合、配信される画像全体の高解像度画像の送信を前記配信サーバに要求する送信要求手段を有し、
前記配信サーバは、前記送信要求に応答して、配信される画像全体の高解像度画像を前記端末に送信する送信手段を有する
請求項１２又は請求項１３に記載の画像配信システム。
【請求項１７】
前記端末は、前記不整合検出手段により高解像度画像の不整合が検出された場合、前記配信サーバから送信される不整合領域又画面全体の高解像度画像を表示できるまで、前記低解像度画像で不整合領域の画像を代用する画像代用手段を有する
請求項１２から請求項１６のいずれかに記載の画像配信システム。
【請求項１８】
前記配信手段は、前記低解像度画像と前記高解像度画像とを共に配信する請求項１２から請求項１７のいずれかに記載の画像配信システム。
【請求項１９】
前記配信手段は、所定時間毎に前記低解像度画像を配信する請求項１２から請求項１７のいずれかに記載の画像配信システム。
【請求項２０】
前記配信手段は、前記高解像画像の所定配信回数毎に前記低解像度画像を配信する請求項１２から請求項１７のいずれかに記載の画像配信システム。
【請求項２１】
前記配信手段は、階層符号化方式により配信する画像がエンコードされたデータの低解像度画像成分を前記低解像度画像として配信する請求項１２から請求項２０のいずれかに記載の画像配信システム。
【請求項２２】
前記配信手段は、階層符号化方式により配信する画像がエンコードされたデータの低解像度画像分を省略した高解像度画像成分を、前記受信側から送信要求された高解像度画像として送信する請求項１２から請求項２１のいずれかに記載の画像配信システム。
【請求項２３】
配信される画像の高解像度画像と、前記高解像画像の端末の表示不整合検出の為の前記配信される画像全体の低解像度画像とを配信する配信手段を有する配信サーバ。
【請求項２４】
前記配信手段は、前記配信される画像における時間経過に伴い変化した領域の画像の高解像度画像を配信する請求項２４に記載の配信サーバ。
【請求項２５】
前記配信サーバは、高解像度画像の不整合に伴う高解像度画像の送信要求に応答して、不整合領域の高解像度画像を前記端末に送信する送信手段を有する
請求項２３又は請求項２４に記載の画像配信サーバ。
【請求項２６】
前記配信サーバは、高解像度画像の不整合に伴う高解像度画像の送信要求に応答して、配信される画像全体の高解像度画像を前記端末に送信する送信手段を有する
請求項２３又は請求項２４に記載の画像配信サーバ。
【請求項２７】
前記配信手段は、前記低解像度画像と前記高解像度画像とを共に配信する請求項２３から請求項２６のいずれかに記載の画像配信サーバ。
【請求項２８】
前記配信手段は、所定時間毎に前記低解像度画像を配信する請求項２３から請求項２６のいずれかに記載の画像配信サーバ。
【請求項２９】
前記配信手段は、前記高解像画像の所定配信回数毎に前記低解像度画像を配信する請求項２３から請求項２６のいずれかに記載の画像配信サーバ。
【請求項３０】
前記配信手段は、階層符号化方式により配信する画像がエンコードされたデータの低解像度画像成分を前記低解像度画像として配信する請求項２３から請求項２９のいずれかに記載の画像配信サーバ。
【請求項３１】
前記配信手段は、階層符号化方式により配信する画像がエンコードされたデータの低解像度画像分を省略した高解像度画像成分を、前記受信側から送信要求された高解像度画像として送信する請求項２３から請求項３０のいずれかに記載の画像配信サーバ。
【請求項３２】
配信される画像の高解像度画像と、前記配信される画像の全体の低解像度画像とを受信する受信手段と、
前記低解像度画像を用いて、前記高解像度画像の表示の不整合を検出する不整合検出手段と
を有する端末。
【請求項３３】
前記端末は、前記不整合検出手段により高解像度画像の表示の不整合が検出された場合、不整合領域の高解像度画像の送信を前記配信サーバに要求する送信要求手段を有する請求項３３に記載の端末。
【請求項３４】
前記送信要求手段は、前記不整合検出手段により高解像度画像の不整合が所定回数検出された場合、不整合領域の高解像度画像の送信を前記配信サーバに要求する請求項３３に記載の端末。
【請求項３５】
前記端末は、前記不整合検出手段により高解像度画像の不整合が検出された場合、配信される画像全体の高解像度画像の送信を前記配信サーバに要求する送信要求手段を有する請求項３３に記載の端末。
【請求項３６】
前記端末は、前記不整合検出手段により高解像度画像の不整合が検出された場合、前記配信サーバから送信される不整合領域又画面全体の高解像度画像を表示できるまで、前記低解像度画像で不整合領域の画像を代用する画像代用手段を有する請求項３３から請求項３５のいずれかに記載の端末。
【請求項３７】
配信される画像の高解像度画像と、前記高解像画像の端末の表示不整合検出の為の前記配信される画像全体の低解像度画像とを配信する処理を情報処理装置に実行させるプログラム。
【請求項３８】
配信される画像の高解像度画像と、前記配信される画像の全体の低解像度画像とを受信する処理と、
前記低解像度画像を用いて、前記高解像度画像の表示の不整合を検出する処理と
情報処理装置に実行させるプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は画像配信方法及びそのシステムと、サーバ、端末及びプログラムとに関する。
【背景技術】
【０００２】
ネットワークの発達に伴い、ＰＣのデスクトップ画面の画像を、ネットワークを介して配信し、遠隔地からＰＣの画面表示と操作とを行うシンクライアントシステムや、動画や静止画データをサーバから受信して閲覧する画像配信システムが広く用いられるようになってきている。
【０００３】
しかし、配信するクライアントの数が増えてくると大量のデータ通信が発生するため、サーバ、および、途中経路のネットワーク帯域が枯渇するという問題があった。
【０００４】
これを解決するために、同じデスクトップ画面を共有する場合や、同じ画像データを閲覧する端末に対してはブロードキャストやマルチキャストにより、接続する端末が増えても配信するデータ量が増加しない配信方式が用いられることがある。
【０００５】
別の方法として、デスクトップ画面や画像全体を送信するのではなく、画面中で時間の経過とともに変化があった部分の画像データ（以下、差分画像データと記載する）だけを配信することで、配信データを削減するという差分伝送方法も良く用いられている。
【０００６】
しかし、差分伝送方法では、配信される全ての差分画像データを確実に受信しないと、画面の更新が正しく行われないという問題が発生する。これを避けるためには、複数の端末に対してブロードキャストやマルチキャストで差分伝送を行う場合、全てのクライアントがデータを受信できたことを全ての配信データに対して確認を行う必要があるため、処理速度の遅いクライアントが混ざっている時には、データ伝送の効率が上げられないという問題があった。
【０００７】
これを避けるために、特許文献１に記載されているシステムでは、データをとりこぼした端末向けに画面全体を含んだイントラフレームと呼ばれるデータを送信する方式が提案されている。
【０００８】
また、特許文献２に記載されているシステムでは、画面を分割し、一部の領域についてはイントラフレームとして伝送し、時間の経過とともに、イントラフレームを送信する領域の場所をずらすことで、データをとりこぼしても、一定時間経てば、イントラフレームを受信することで画面の乱れを修復する技術が提案されている。
【特許文献１】特開平０５−２５２５１１号公報
【特許文献２】特開平０８−３７６６０号公報
【発明の開示】
【発明が解決しようとする課題】
【０００９】
しかしながら、データをとりこぼした端末向けにイントラフレームを送信する特許文献１のような方法では、データをとりこぼしたことを検出する必要がある。しかし、送達確認を行わない通信の場合、あるデータの一部ではなく、データ全体が消失したような場合に、とりこぼしを確実に検出することはできないため、イントラフレームの送信が行われないという問題があった。
【００１０】
また、一定の時間間隔でイントラフレーム領域を送信する特許文献２のような方法では、イントラフレームを送信する間隔を長くすると、データをとりこぼした際に復旧するまでの時間がかかり、逆に、間隔を短くするとイントラフレームを頻繁に送信することになるため、伝送効率が下がるという問題があった。
【００１１】
また、イントラフレームを送信する方法では、イントラフレーム用と通常の送信用との２つのデータ圧縮をサーバ側で行う必要があり、サーバ負荷が増大するという問題があった。
【００１２】
そこで、本発明は上記課題に鑑みて発明されたものであって、その目的は、データ伝送に負荷をかけることなく、配信される画像のとりこぼしを受信側で検出することができる画像配信方法及びそのシステムと、サーバ、端末及びプログラムを提供することにある。
【課題を解決するための手段】
【００１３】
上記課題を解決する本発明は、配信側は、配信される画像の高解像度画像と、前記配信される画像の全体の低解像度画像とを配信し、受信側は、前記低解像度画像を用いて、高解像度画像の表示の不整合を検出する画像配信方法である。
【００１４】
上記課題を解決する本発明は、配信される画像の高解像度画像と、前記配信される画像の全体の低解像度画像とを配信する配信手段を有する配信サーバと、前記低解像度画像を用いて、高解像度画像の表示の不整合を検出する不整合検出手段を有する端末とを有する画像配信システムである。
【００１５】
上記課題を解決する本発明は、配信される画像の高解像度画像と、前記高解像画像の端末の表示不整合検出の為の前記配信される画像全体の低解像度画像とを配信する配信手段を有する配信サーバである。
【００１６】
上記課題を解決する本発明は、配信される画像の高解像度画像と、前記配信される画像の全体の低解像度画像とを受信する受信手段と、前記低解像度画像を用いて、前記高解像度画像の表示の不整合を検出する不整合検出手段とを有する端末である。
【００１７】
上記課題を解決する本発明は、配信される画像の高解像度画像と、前記高解像画像の端末の表示不整合検出の為の前記配信される画像全体の低解像度画像とを配信する処理を情報処理装置に実行させるプログラムである。
【００１８】
上記課題を解決する本発明は、配信される画像の高解像度画像と、前記配信される画像の全体の低解像度画像とを受信する処理と、前記低解像度画像を用いて、前記高解像度画像の表示の不整合を検出する処理と情報処理装置に実行させるプログラムである。
【発明の効果】
【００１９】
本発明によれば、クライアントでデータの取りこぼしがあったとしても、低解像度画像を用いて、その取りこぼしをクライアントで検出することができるという効果がある。
【発明を実施するための最良の形態】
【００２０】
＜第１の実施の形態＞
第１の実施の形態を説明する。
【００２１】
図１は第１の実施の形態のブロック図である。
【００２２】
図１を参照すると、本発明の第１の実施の形態の画像配信システムは、サーバ１と少なくとも一以上のクライアント２とから構成される。
【００２３】
サーバ１は、ブロードキャストやマルチキャスト等の送達確認を行わない通信方式で画像を配信する際、クライアント２で表示させる画像のうち画面中で時間の経過とともに変化があった更新部分の画像の高解像度画像（以下、差分高解像度画像データと記載する）を送信する。また、クライアント２において差分画像データの受信失敗に伴う表示画像の不整合の検出のため、クライアント２で表示させる画像全体の低解像度画像も共に送信する。
【００２４】
クライアント２では、送信されてきた差分画像データをデコード、表示するとともに、画面全体の低解像度データを使って、現在、クライアント２で表示されている画面全体の中で正しく更新されていない領域があるかどうかを検出する。
【００２５】
上記機能を達成するため、サーバ１は、クライアント２で表示させる画像全体の高解像度画像を生成する送信画像生成部１０と、送信画像生成部１０で生成された高解像度画像から低解像度画像を生成する低解像度画像生成部１１と、低解像度画像生成部１１で生成された低解像度画像をエンコードする低解像度画像エンコード部１２と、送信画像生成部１０で生成された前後の高解像度画像を比較し、画像の更新があった差分領域を検出する差分検出部１３と、検出された差分領域の高解像度画像をエンコードする差分画像エンコード部１４と、エンコードされた低解像度画像データ及び差分高解像度画像データをクライアント２に送信するデータ送信部１５とを備える。
【００２６】
また、クライアント２は、低解像度画像データ及び差分高解像度画像データを受信するデータ受信部２０と、受信した低解像度画像データ及び差分高解像度画像データをデコードする画像デコード部２１と、差分高解像度画像データを用いて、クライアント２において表示されている高解像度画像の更新を行う差分画像データ表示部２２と、低解像画像データを用いて不整合領域を検出する不整合検出部２３とを備える。
【００２７】
次に、図２を参照して第１の実施の形態のサーバ１の動作について詳細に説明する。
【００２８】
まず、送信画像生成部１０は、スクリーンキャプチャやカメラからの映像取り込みなどにより、クライアント２で表示させる画像全体の高解像度画像を生成する（Ｓｔｅｐ  １００）。
【００２９】
低解像度画像生成部１１は、高解像度画像から画像全体の低解像度画像を生成する（Ｓｔｅｐ  １０１）。そして、低解像度画像エンコード部１２は、所定の符号化形式で低解像度画像をエンコードする（Ｓｔｅｐ  １０２）。
【００３０】
一方、差分検出部１３は、上記処理と並行して、前回の送信画像と今回の送信画像との間で更新（変化）している領域を検出し、その更新領域の位置情報と更新領域の高解像度画像を差分画像エンコード部１４に出力する（Ｓｔｅｐ  １０３）。差分画像エンコード部１４は、更新領域の高解像度画像を、所定の符号化形式でエンコードする（Ｓｔｅｐ  １０４）。
【００３１】
データ送信部１５は、低解像度画像データと差分高解像度画像データとを、クライアント２にＵＤＰプロトコルで送信する（Ｓｔｅｐ  １０５）。尚、ブロードキャスト、マルチキャスト、ユニキャストのいずれの場合も同様である。
【００３２】
続いて、図３を参照して第１の実施の形態のクライアント２の動作について詳細に説明する。
【００３３】
まず、データ受信部２０は、低解像度画像データ及び差分高解像度画像データを受信する（Ｓｔｅｐ  ２００）。
【００３４】
画像デコード部２１は、受信した低解像度画像データ及び更新領域の差分高解像度画像データをデコードする（Ｓｔｅｐ  ２０１）。
【００３５】
差分画像データ表示部２２は、差分高解像度画像データに含まれる領域の位置情報に基づき更新領域の画像を更新して表示を行う（Ｓｔｅｐ  ２０２）。
【００３６】
不整合検出部２３は、デコードされた低解像度画像データと、前回受信した低解像度画像データとのデコード結果を比較し、今回、差分高解像度画像データが送られてきている領域以外の領域で異なる値を持っている画素（不整合領域）があるかどうかを照合し、クライアント２で表示されている画像の不整合を検出する（Ｓｔｅｐ  ２０４）。
【００３７】
次に、上述した第１の実施の形態における画像配信システムの具体的な実施例を説明する。
【００３８】
図４から図６は第１の実施の形態における画像配信システムの具体例を示した図である。
【００３９】
図４に示すごとく、画像配信システムはサーバ１とクライアント２１〜クライアント２３とから構成され、サーバ１からクライアント２１〜クライアント２３に画像をマルチキャスト配信している。
【００４０】
まず、サーバ１は、更新領域の差分高解像度画像１（１回目の配信は全ての領域で画像が異なるので、画像全体となる。）を生成し、この差分高解像度画像１をクライアント２１〜クライアント２３に配信する。また、サーバ１は、差分高解像度画像１と共に画像全体の低解像度画像１も、クライアント２１〜クライアント２３に配信する。
【００４１】
続いて、図５に示す如く、時間の経過とともに画面に変化が起きたとすると、サーバ１は、変化があった部分の領域の差分高解像度画像２（ウインドウ２の画像）を生成し、この差分高解像度画像２をクライアント２１〜クライアント２３に配信する。また、サーバ１は、差分高解像度画像２と共に画面全体の低解像度画像２も、クライアント２１〜クライアント２３に配信する。このとき、クライアント２１、クライアント２２では、差分高解像度画像２及び低解像度画像データ２を受信することはできたが、クライアント２３は差分高解像度画像２及び低解像度画像２を受信できなかったものとする。
【００４２】
新たな差分高解像度画像２及び低解像度画像２を受信したクライアント２１、クライアント２２は、前回受信した低解像度画像１と今回受信した低解像度画像２との照合を行い、不整合を検出する。しかし、クライアント２１、クライアント２２では差分高解像度画像２を受信しており、新たに受信した差分高解像度画像２のウィンドウ２の画像以外は異なる所はなく、不整合は検出されない。一方、クライアント２３は、新たな差分高解像度画像２及び低解像度画像２を受信していないので、不整合の検出は行われない。
【００４３】
続いて、図６に示すごとく、ウィンドウ３が更新されると、サーバ１は、変化のあった更新領域の差分高解像度画像３（ウィンドウ３の画像）を生成し、この差分高解像度画像３をクライアント２１〜クライアント２３に配信する。また、サーバ１は、差分高解像度画像３と共に画面全体の低解像度画像３も、クライアント２１〜クライアント２３に配信する。このとき、クライアント２１〜クライアント２３では、差分高解像度画像２及び低解像度画像データを受信することはできたものとする。
【００４４】
新たな差分高解像度画像３及び低解像度画像３を受信したクライアント２１、クライアント２２は、前回受信した低解像度画像２と今回受信した低解像度画像３との照合を行い、不整合を検出する。しかし、クライアント２１、クライアント２２では差分高解像度画像３を受信しており、新たに受信した差分高解像度画像３のウィンドウ３の画像以外は異なる所はなく、不整合は検出されない。
【００４５】
一方、新たな差分高解像度画像３及び低解像度画像３を受信したクライアント２３は、前回受信した低解像度画像１と今回受信した低解像度画像３との照合を行い、不整合を検出する。クライアント２３では差分高解像度画像３を受信しているが、差分高解像度画像２は受信していないので、新たに受信した差分高解像度画像３のウィンドウ３の画像以外にもウィンドウ２が不整合を起こしており、ウィンドウ２の領域で不整合が起こっていることが検出される。
【００４６】
このように、第１の実施の形態によれば、ブロードキャストやマルチキャストを含む通信方式で差分伝送による画像は威信を行う際、クライアントでデータの取りこぼしがあったとしても、低解像度画像データを用いて、その取りこぼしをクライアントで検出することができる。
【００４７】
尚、上述した例では、低解像度画像と差分高解像度画像とを共に配信する構成としたが、これに限られない。例えば、画像全体の低解像度画像は、所定の時間毎に配信するように構成しても良い。また、差分高解像度画像の配信回数が一定回数に達したら、画像全体の低解像度画像を配信するように構成しても良い。このような、構成にすることで、通信帯域を更に有効に利用することができる。
＜第２の実施の形態＞
第２の実施の形態を説明する。
【００４８】
第２の実施の形態は、第１の実施の形態に加えて、受信側で検出した不整合の領域の画像を再送することを特徴とする。
【００４９】
上記特徴を実現するため、図７に示すごとく、不整合が検出された際にサーバ１に画像の再送を要求する再送リクエストを送信するデータリクエスト部２４をクライアント２に設け、クライアント２からの再送リクエストを受信する再送リクエスト受信部１６をサーバ１に設ける。また、サーバ１の差分画像エンコード部１４は、再送リクエスト受信部１６で受信した再送リクエストに記載されている領域(不整合領域)の差分高解像度画像を生成し、データ送信部１５に出力する。尚、上述の如く、再送リクエスト受信部１６は、再送リクエストがある度にその領域の差分高解像度画像を生成しても良いが、ある所定期間、更新された差分高解像度画像を記憶しておき、その中から該当する差分高解像度画像をデータ送信部１５に出力するようにしても良い。
【００５０】
図８を用いて、第２の実施の形態におけるクライアント２の動作について詳細に説明する。
【００５１】
第２の実施の形態の動作が第１の実施の形態と異なる所は、不整合検出後の動作である。
【００５２】
不整合が検出された場合(Ｓｔｅｐ  ２１０)、その不整合の領域に対する高解像度データの再送をサーバにリクエストする(Ｓｔｅｐ  ２１１)。この時、再送リクエストには、不整合の領域を特定する領域情報も含める。
【００５３】
サーバ１から差分高解像度画像の再送が開始されると、サーバ１から送られてきた差分高解像度画像データを受信する(Ｓｔｅｐ  ２１２)。そして、差分高解像度画像データをデコードし(Ｓｔｅｐ  ２１３)、不整合領域の高解像度画像を反映する(Ｓｔｅｐ  ２１４)。
【００５４】
次に、図９を参照して第２の実施の形態のサーバ１の動作について詳細に説明する。
【００５５】
第２の実施の形態の動作が第１の実施の形態と異なる所は、不整合領域の画像の再送リクエストを受信後の動作である。
【００５６】
まず、不整合領域の再送リクエストを受信すると(Ｓｔｅｐ  １１０)、再送リクエストに含まれている不整合領域の領域情報に基づいて、不整合領域の画像の高解像度画像を生成し、その高解像度画像をエンコードしてデータを生成する(Ｓｔｅｐ  １１１)。そして、不整合領域の高解像度画像データをクライアントに送信する(Ｓｔｅｐ  １１２)。
【００５７】
このように、検出された不整合の領域の画像の高解像度画像データを、サーバにリクエストすることで、定期的にイントラフレームを送信しなくても、クライアントの画面の復旧を行うことができる。
【００５８】
尚、上述した第２の実施の形態では、クライアント側で不整合が検出する毎に再送リクエストをサーバに送信する構成としたが、これに限られない。例えば、クライアント側での不整合の検出回数が所定回数を超えた場合、再送リクエストを送信するように構成し、サーバ側は全ての不整合領域の画像の高解像度画像データを送信するようにしても良い。
【００５９】
また、上述した第２の実施の形態では、クライアント側で不整合が検出された場合、不整合領域の画像を送信するように構成したが、これに限られない。例えば、不整合領域の画像ではなく、画面全体の高解像度画像データ、すなわち、イントラフレームを送るようにしても良い。
＜第３の実施の形態＞
第３の実施の形態を説明する。
【００６０】
第３の実施の形態は、不整合が検出されてリクエスト後、不整合領域の高解像度データを受信するまでの間、低解像度画像で不整合領域の画像を代用することを特徴とする。
【００６１】
これを達成するため、第３の実施の形態は、図１０に示す如く、第２の実施の形態に加えて、拡大表示部２５を備える。この拡大表示部２５は、不整合検出部２３により不整合が検出されると、その不整合領域に対応する低解像度画像の領域の画像を補完して拡大し、不整合領域に表示する。
【００６２】
次に、図１１を用いて、第３の実施の形態におけるクライアント２の動作について詳細に説明する。
【００６３】
第３の実施の形態の動作が第２の実施の形態と異なる所は、不整合領域検出後の動作である。
【００６４】
拡大表示部２５は、不整合検出部２３により不整合が検出されると、その不整合領域に対応する低解像度画像の領域の画像を補完して拡大し、図１２の点線に囲まれる部分で示されるように、不整合領域に表示する(Ｓｔｅｐ  ２２０)。
【００６５】
続いて、サーバ１からの不整合領域の高解像度画像データの受信後の動作は、第２の実施の形態と同様である。
【００６６】
上述の如く、不整合のある領域に対応するデータをサーバに再送リクエストし、データが送信されてくるまでの間に、不整合検出に用いた低解像度画像を拡大表示するように構成することで、解像度の粗い画像ではあるが、先行して正しい表示を行うことができるという効果がある。
＜第４の実施の形態＞
第４の実施の形態を説明する。
【００６７】
第４の実施の形態では、画像エンコードの方法として、ＪＰＥＧ２０００、プログレシシッブＪＰＥＧの様な階層符号化方式によりエンコードし、高解像画像と低解像度画像とのエンコード処理の負担を軽減することを特徴とする。
【００６８】
図１３は第４の実施の形態の配信システムのブロック図である。
【００６９】
第４の実施の形態が上述した実施の形態と異なる所は、低解像度画像生成部１１と低解像度画像エンコード部１２と差分画像エンコード部１４との代わりに、送信画像生成部１０で生成された高解像度画像を階層符号化方式によりエンコードする階層符号化画像エンコード部３０と、階層符号化画像エンコード部３０でエンコードされた画像データから低解像度の画像データを抽出する低解像度画像データ抽出部３１と、階層符号化画像エンコード部３０でエンコードされた画像データから画像の更新があった差分領域の画像データを抽出する差分画像データ抽出部３２とをサーバ１が備える所である。また、画像デコード部２１の代わりに、階層符号化方式でエンコードされた画像データから差分高解像度データと低解像度データとをデコードする階層符号化画像デコード部４０をクライアント２に備える。
【００７０】
階層符号化画像エンコード部３０は、配信する画像をＪＰＥＧ２０００のように、領域分割（以下、タイル分割と呼ぶ）と階層符号化とが可能なエンコード方式でエンコードする。
【００７１】
低解像度画像データ抽出部３１は、全てのタイルのエンコード結果から低解像度部分のデータだけを抽出する。
【００７２】
差分画像データ抽出部３２は、検出された差分領域を包含するタイル（差分領域のサイズに応じて、１つ、もしくは、複数となる）を選択する。そして、クライアントへの差分高解像度画像は、選択されたタイルに対応するエンコード結果を抽出することで行う。また、クライアントからの再送リクエストに対しては、リクエストされた領域を包含するタイルを選択し、選択されたタイルのエンコード結果を抽出する。尚、低解像度部分のデータについては、すでにクライアントに配信済みであるので、省略することも可能である。
【００７３】
次に、第４の実施の形態のサーバ１の動作を説明する。
【００７４】
図１４は第４の実施の形態のサーバ１の動作フローチャートである。
【００７５】
第４の実施の形態の動作が上述した実施の形態と異なることは、画像のエンコード処理の動作であるので、他の動作については説明を省略する。
【００７６】
まず、階層符号化画像エンコード部３０が送信画像生成部１０で生成された高解像度画像を階層符号化方式によりエンコードする（Ｓｔｅｐ  １２０）。そして、低解像度画像データ抽出部３１は、エンコードされた画像データから低解像度の画像データを抽出する（Ｓｔｅｐ  １２１）。
【００７７】
一方、差分検出部１３は、上記処理と並行して、前回の送信画像と今回の送信画像との間で更新（変化）している領域を検出し、その更新領域の領域情報を差分画像データ抽出部３２に出力する（Ｓｔｅｐ  １０３）。そして、差分画像データ抽出部３２は、階層符号化画像エンコード部３０でエンコードされた画像データから画像の更新があった差分領域の画像データを抽出する（Ｓｔｅｐ  １２２）。
【００７８】
また、クライアントから再送リクエストを送信された場合、再送リクエストの不整合領域の領域情報に基づいて、階層符号化画像エンコード部３０でエンコードされた画像データから不整合領域の高解像度の画像データを抽出する（Ｓｔｅｐ  １２３）。
【００７９】
このように、画像のエンコードに階層符号化方式を使用し、不整合検出用には、階層符号化方式でエンコードされた結果から、低解像度分のデータを用いるように構成することで、サーバ側でのエンコード処理を１回だけにしてしまうことができる。
【００８０】
さらに、画像のエンコードに階層符号化方式を用い、不整合が生じた領域に対してサーバが送信する画像データに、低解像度データ分を省略するように構成することで、通信帯域を更に有効に利用することもできる。
＜第５の実施の形態＞
第５の実施の形態は、上述した第１から第４の実施の形態における配信サーバ１とクライアント２とをプログラムにより動作するコンピュータで構成した例である。
【００８１】
図１５は、本発明によるサーバ１又はクライアント２をインプリメントしたコンピュータの一般的ブロック構成図である。
【００８２】
図１５に示すコンピュータは、プロセッサ５０、プログラムメモリ５１，記憶媒体５２からなる。
【００８３】
プログラムメモリ５１には、例えば、コンピュータがサーバ１ならば、送信画像生成部１０、低解像度画像生成部１１、低解像度画像エンコード部１２、差分検出部１３、差分画像エンコード部１４、データ送信部１５、再送リクエスト受信部１６、階層符号化画像エンコード部３０、低解像度画像データ抽出部３１、及び差分画像データ抽出部３２の一部又は全部の処理を、プロセッサ５０に行わせるプログラムが格納されており、このプログラムによってプロセッサ５０は動作する。
【００８４】
また、コンピュータがクライアント２ならば、データ受信部２０、画像デコード部２１、差分画像データ表示部２２、不整合検出部２３、データリクエスト部２４、及び階層符号化画像デコード部４０の一部又は全部の処理を、プロセッサ５０に行わせるプログラムが格納されており、このプログラムによってプロセッサ５０は動作する。
【００８５】
記憶媒体５２は、処理に必要な画像データ等が格納される記録媒体である。尚、記憶媒体５２は、別個の記憶媒体であってもよいし、同一の記憶媒体からなる記憶領域であってもよい。記憶媒体としては、ＲＡＭや、ハードディスク等の磁気記憶媒体を用いることができる。
【００８６】
このような構成により、上述した第１から第４の実施の形態と同様な動作を得ることができる。
【００８７】
尚、上述した第１から第５の実施の形態においては、ブロードキャストやマルチキャスト等の送達確認を行わない通信方式で、差分画像を配信する配信方法の例を説明したが、本発明はこれに限られない。例えば、送達確認を行う通信方式であっても良い。
【００８８】
また、差分画像を配信する配信方法でなくても良く、例えば、高解像度画像を配信する通信経路と低解像度画像を配信する通信経路とが異なり、差分画像でなく、画像全体の高解像度画像を配信する配信方法であっても、上述した効果と同様な効果を得ることができる。この場合、不整合検出用の低解像画像を送信する通信経路の信頼性が高ければなお良い。
【産業上の利用可能性】
【００８９】
本発明によれば、シンクライアントや画像配信システムの配信方法で、特に、ＵＤＰのように送達確認が行われないデータ通信方法を用いて画像配信を行う際に、差分伝送による効率的な配信を実現するといった用途に適用できる。
【図面の簡単な説明】
【００９０】
【図１】図１は第１の実施の形態の画像配信システムのブロック図である。
【図２】図２は第１の実施の形態のサーバ１の動作フローチャートである。
【図３】図３は第１の実施の形態のクライアント２の動作フローチャートである。
【図４】図４は第１の実施の形態における画像配信システムの具体例を示した図である。
【図５】図５は第１の実施の形態における画像配信システムの具体例を示した図である。
【図６】図６は第１の実施の形態における画像配信システムの具体例を示した図である。
【図７】図７は第２の実施の形態の画像配信システムのブロック図である。
【図８】図８は第２の実施の形態のクライアント２の動作フローチャートである。
【図９】図９は第２の実施の形態のサーバ１の動作フローチャートである。
【図１０】図１０は第３の実施の形態の画像配信システムのブロック図である。
【図１１】図１１は第３の実施の形態のクライアント２の動作フローチャートである。
【図１２】図１２は第３の実施の形態を説明する為の図である。
【図１３】図１３は第４の実施の形態の配信システムのブロック図である。
【図１４】図１４は第４の実施の形態のサーバ１の動作フローチャートである。
【図１５】図１５は第５の実施の形態のブロック図である。
【符号の説明】
【００９１】
１        サーバ
２        クライアント
１０      送信画像生成部
１１      低解像度画像生成部
１２      低解像度画像エンコード部
１３      差分検出部
１４      差分画像エンコード部
１５      データ送信部
２０      データ受信部
２１      画像デコード部
２２      差分画像データ表示部
２３      不整合検出部
【図１】
2009219073.tif 000003
【図２】
2009219073.tif 000004
【図３】
2009219073.tif 000005
【図４】
2009219073.tif 000006
【図５】
2009219073.tif 000007
【図６】
2009219073.tif 000008
【図７】
2009219073.tif 000009
【図８】
2009219073.tif 000010
【図９】
2009219073.tif 000011
【図１０】
2009219073.tif 000012
【図１１】
2009219073.tif 000013
【図１２】
2009219073.tif 000014
【図１３】
2009219073.tif 000015
【図１４】
2009219073.tif 000016
【図１５】
2009219073.tif 000017