(57)【特許請求の範囲】
【請求項１】
ベストエフォート型のネットワークに接続された２つの端末装置間で動画像データを送受信し、リアルタイムによる双方向のコミュニケーションを実現するコミュニケーションシステムにおいて、
端末装置のそれぞれに、
相手先の端末装置より受信したパケットに損失があった場合、パケットの再送要求を相手先の端末装置に送信する再送要求送信部と、
相手先の端末装置より前記再送要求を受信した場合、再送すべきパケットに対応する動画像データを再びパケット化して相手先の端末装置に送信させる再送要求処理部と、
前記再送要求送信部で前記再送要求を送信した場合、相手先の端末装置からのパケットの再送動作が完了した後に、相手先の端末装置より受信したパケットから動画像データを再構成し、パケットに損失があった場合、再生画像の品質を判定し、再生画質情報として相手先に通知する再生画質判定部と、
自装置側での確認用に表示する送信画像の画質を、相手先の端末装置からの前記再生画質情報で通知された再生画質に制御する再生画質制御部とを搭載した
コミュニケーションシステム。
【請求項２】
請求項１に記載のコミュニケーションシステムにおいて、
前記再生画質情報は、最終的に復号化できた画像データの階層情報として与えられ、
前記再生画質制御部は、自装置側での確認用に表示する送信画像の画質を、相手先の端末装置からの前記再生画質情報で通知された階層までの画質に制御する
コミュニケーションシステム。
【請求項３】
請求項１に記載のコミュニケーションシステムにおいて、
前記再生画質情報は、欠落したフレームを特定する情報として与えられる
コミュニケーションシステム。
【請求項４】
請求項１に記載のコミュニケーションシステムにおいて、
前記再生画質情報は、欠落したパケットを特定する情報として与えられる
コミュニケーションシステム。
【請求項５】
請求項１に記載のコミュニケーションシステムにおいて、
前記再生画質情報は、欠落したフレーム間符号化フレームを特定する情報である
コミュニケーションシステム。
【請求項６】
請求項１に記載のコミュニケーションシステムにおいて、
前記再生画質情報は、欠落したフレーム内符号化フレームを特定する情報である
コミュニケーションシステム。
【請求項７】
請求項１に記載のコミュニケーションシステムにおいて、
前記再生画質制御部は、画質の制御対象である画像フレームが前記再生画質情報で指定された画像フレームに一致するように、自装置内部における送信画像の読み出しを制御する
コミュニケーションシステム。
【請求項８】
請求項１に記載のコミュニケーションシステムにおいて、
前記再生画質制御部は、前記再生画質情報の受信時点に自装置側で表示されている任意の画像フレームの画質を制御する
コミュニケーションシステム。
【請求項９】
請求項１に記載のコミュニケーションシステムにおいて、
前記端末装置は、無線通信機能を搭載する
コミュニケーションシステム。
【請求項１０】
請求項１に記載のコミュニケーションシステムにおいて、
前記端末装置は、テレビ会議サービス用の端末装置である
コミュニケーションシステム。
【請求項１１】
請求項１に記載のコミュニケーションシステムにおいて、
前記端末装置は、テレビ電話サービス用の端末装置である
コミュニケーションシステム。
【請求項１２】
ベストエフォート型のネットワークに接続された相手方の端末装置との間で動画像データを送受信し、リアルタイムによる双方向のコミュニケーションを実現する端末装置において、
相手先の端末装置より受信したパケットに損失があった場合、パケットの再送要求を相手先の端末装置に送信する再送要求送信部と、
相手先の端末装置より前記再送要求を受信した場合、再送すべきパケットに対応する動画像データを再びパケット化して相手先の端末装置に送信させる再送要求処理部と、
前記再送要求送信部で前記再送要求を送信した場合、相手先の端末装置からのパケットの再送動作が完了した後に、相手先の端末装置より受信したパケットから動画像データを再構成し、パケットに損失があった場合、再生画像の品質を判定し、再生画質情報として相手先に通知する再生画質判定部と、
自装置側での確認用に表示する送信画像の画質を、相手先の端末装置からの前記再生画質情報で通知された再生画質に制御する再生画質制御部とを搭載した
端末装置。
【請求項１３】
請求項１２に記載の端末装置において、
前記再生画質情報は、最終的に復号化できた画像データの階層情報として与えられ、
前記再生画質制御部は、自装置側での確認用に表示する送信画像の画質を、相手先の端末装置からの前記再生画質情報で通知された階層までの画質に制御する
端末装置。
【請求項１４】
ベストエフォート型のネットワークに接続された相手方の端末装置との間で動画像データを送受信し、リアルタイムによる双方向のコミュニケーションを実現する端末装置に搭載されるコンピュータに、
相手先の端末装置より受信したパケットに損失があった場合、パケットの再送要求を相手先の端末装置に送信する第１の処理と、
相手先の端末装置より前記再送要求を受信した場合、再送すべきパケットに対応する動画像データを再びパケット化して相手先の端末装置に送信させる第２の処理と、
前記第１の処理で前記再送要求を送信した場合、相手先の端末装置からのパケットの再送動作が完了した後に、相手先の端末装置より受信したパケットから動画像データを再構成し、パケットに損失があった場合、再生画像の品質を判定し、再生画質情報として相手先に通知する第３の処理と、
自装置側での確認用に表示する送信画像の画質を、相手先の端末装置からの前記再生画質情報で通知された再生画質に制御する第４の処理と
を実行させるコンピュータプログラム。
【請求項１５】
請求項１４に記載のコンピュータプログラムにおいて、
前記再生画質情報は、最終的に復号化できた画像データの階層情報として与えられ、
前記第４の処理では、自装置側での確認用に表示する送信画像の画質を、相手先の端末装置からの前記再生画質情報で通知された階層までの画質に制御する
コンピュータプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
この明細書で説明する発明は、動画像の送受信による双方向コミュニケーションを支援する技術に関する。
なお、発明者らが提案する発明は、コミュニケーションシステム、端末装置及びコンピュータプログラムとしての側面を有する。
【背景技術】
【０００２】
従来のデジタル回線におけるＴＶ会議システムにおいては、通信回線にＩＳＤＮが用いられていた。ＩＳＤＮでは通信帯域が保証されている。従って、通信レートが一定であり、データ損失が起こり難い。
しかし近年、帯域幅の狭いＩＳＤＮに代わって、通信回線としてＩＰ（internet protocol ）ベースのインターネット網の利用が急激に増加している。
【０００３】
インターネット網を利用するＡＤＳＬ（asymmetric digital subscriber line）や光回線では、帯域が保証されないベストエフォート型のサービス（以下、この種のサービスが提供されるネットワークをベストエフォート型のネットワークをいう。）が提供される。ところが、この種のネットワークは、通信状態が時々刻々と変化する。
このため、輻輳やビットエラーによるパケット損失が発生する可能性がある。
【０００４】
その結果、伝送される画像、音声データに破損、乱れ、スキップ等が発生する。
この他、インターネット網では、上り回線の回線品質と下り回線の回線品質が一般に一致しない。
このため、従来のＴＶ会議システムやＴＶ電話システムでは、一方の画像は損失無く受信できていても、他方ではまったく受信できないという状況が発生することがある。
【０００５】
この場合、自らの受信状況が良好である使用者Ａは、受信状況が不安定な使用者Ｂの状況に気づくことなく、一方的に会話を続け、しばらくした後相手側の状況に気がつくことになる。
そこで、伝送路上での通信異常の発生を検出して受信状況が良好な使用者Ａに通知する仕組みが提案されている。
【特許文献１】特開２００５−２１０１６０号公報
【発明の開示】
【発明が解決しようとする課題】
【０００６】
ところが、従来提案されている技術は、相手先で送信画像が表示できているか否かを送信者側に知らせる技術である。すなわち、受信状況が良好か不良かを２値的に知らせる技術である。
【課題を解決するための手段】
【０００７】
そこで、発明者は、ベストエフォート型のネットワークに接続された相手方の端末装置との間で動画像データを送受信し、リアルタイムによる双方向のコミュニケーションを実現する端末装置に、以下の処理デバイスを搭載する
（ａ）相手先の端末装置より受信したパケットに損失があった場合、パケットの再送要求を相手先の端末装置に送信する再送要求送信部
（ｂ）相手先の端末装置より前記再送要求を受信した場合、再送すべきパケットに対応する動画像データを再びパケット化して相手先の端末装置に送信させる再送要求処理部
（ｃ）前記再送要求送信部で前記再送要求を送信した場合、相手先の端末装置からのパケットの再送動作が完了した後に、相手先の端末装置より受信したパケットから動画像データを再構成し、パケットに損失があった場合、再生画像の品質を判定し、再生画質情報として相手先に通知する再生画質判定部
（ｄ）自装置側での確認用に表示する送信画像の画質を、相手先の端末装置からの前記再生画質情報で通知された再生画質に制御する再生画質制御部
【発明の効果】
【０００８】
発明者の提案する発明を採用すれば、相手先で現に再生表示されている送信画像の画質を送信側においてリアルタイムで再現表示することができる。このため、コミュニケーションシステムの利用者は、お互いの通信状態をリアルタイムで確認することができ、スムーズなコミュニケーション実現できる。
【発明を実施するための最良の形態】
【０００９】
以下、相手先で表示されている受信画像の画質を送信側で再現表示できる技術を搭載するコミュニケーションシステムの形態例を説明する。
なお、本明細書で特に図示又は記載されない部分には、当該技術分野の周知又は公知技術を適用する。
また以下に説明する形態例は、発明の一つの形態例であって、これらに限定されるものではない。
【００１０】
（Ａ）テレビ会議システム
（ａ）システム構成
図１に、テレビ会議システムの構成例を示す。
図１は、ベストエフォート型のネットワークに接続される２台の端末装置Ａ及びＢで構成されるテレビ会議システムを示す。実際には、３台以上の端末装置がネットワークに接続されることも可能であるが、発明者が提案する処理機能は、図１に示す１対１の接続形態として実現される。なお、以下の説明では、ベストエフォート型のネットワークとして、パケット通信網１０４を使用する場合について説明する。
【００１１】
端末装置Ａは、テレビ会議の参加者を撮像する撮像装置１０１と、ネットワーク端末１０３と、受信画像を表示する表示デバイス１０２で構成される。
端末装置Ｂは、同じくテレビ会議の参加者を撮像する撮像装置１０６と、ネットワーク端末１０５と、受信画像を表示する表示デバイス１０７で構成される。
ここでは、端末装置が、撮像装置と、ネットワーク端末と、表示デバイスの複合システムとして構成されるものとして説明するが、これらの全て又は一部を１つの装置内に搭載することも可能である。
【００１２】
ネットワーク端末には、以下に示す複数の処理機能を搭載する。なお、ネットワーク端末１０３とネットワーク端末１０５の内部構成は同一である。従って、以下ではネットワーク端末１０３を例に各処理機能を列記する。
処理機能の１つは、撮像装置１０１から受け取った動画像データを圧縮符号化する処理機能である。この処理機能は、伝送効率の向上や記憶領域を有効活用のために搭載される。
【００１３】
処理機能の１つは、圧縮符号化された動画像データをパケット化し、パケット通信網１０４に出力する処理機能である。この処理機能は、パケット通信網１０４を通じたデータ転送のために搭載される。
処理機能の１つは、撮像装置１０１から受け取った動画像データ（送信画像）を表示デバイス１０２に表示する処理機能である。この処理機能は、送信画像の内容を送信元で確認することができるように搭載される。また、この処理機能は、相手先での送信画像の画質を確認するのにも使用される。
【００１４】
処理機能の一つは、相手先から受信した動画像データ（受信画像）を復号化して表示デバイス１０２に表示する処理機能である。この処理機能は、受信画像の確認用に搭載される。
処理機能の１つは、復号結果としての受信画像の再生画質に関する情報（再生画質情報）を、通信相手であるネットワーク端末１０５に送信する処理機能である。
【００１５】
なお、これらの処理機能に加え、ネットワーク端末１０３には、パケットの損失に対して再送要求を行う処理機能やその反対に再送要求に応じて特定のパケットを再送する処理機能を必要に応じて搭載する。
なお、表示デバイスは、ブラウン管、フラットパネルディスプレイ、プロジェクタのいずれでも良い。また、表示デバイスの台数は、１台に限る必要はなく、複数台とすることもできる。
【００１６】
例えば、表示デバイスを１台とする場合、受信画像の表示領域の一部に自装置が相手方に送信している送信画像を表示すれば良い。また例えば、表示デバイスを複数台とする場合、受信画像の表示用と送信画像の表示用とで別々に使用しても良い。表示デバイスの台数や使用方法は、システム利用者の使用目的や運用ポリシーに依存する。
また、このシステム例では、動画像（映像）をネットワーク端末に供給する送信装置として撮像装置１０１を例示するが、画像再生装置でも良い。
【００１７】
（ｂ）ネットワーク端末の内部構成（機能構成）
図２に、ネットワーク端末の内部構成例を説明する。なお、図２には図１との対応部分に同一符号を付して示す。もっとも、ネットワーク端末の内部構成はいずれも同じであるので、端末装置Ａ側か端末装置Ｂ側かに関わらず、ネットワーク端末を構成する処理機能部には同一符号を付して示す。
【００１８】
エンコーダ２０１は、撮像装置から入力される動画像データをエンコードする処理デバイスである。この例の場合、エンコーダ２０１は、階層的な圧縮符号化方式を利用して動画像データを圧縮する。ここでいう階層的な圧縮符号化方式には、例えばＪＰＥＧ２０００（Joint Photographic Experts Group）、ＭＰＥＧ（Moving Picture Experts Group）などが考えられる。前者はフレーム内圧縮符号化の代表例であり、後者はフレーム間圧縮符号化方式の代表例である。
【００１９】
送信バッファ２０３は、エンコーダ２０１で圧縮符号化された動画像データを送信用に保持する記憶領域である。
ローカルバッファ２０５は、エンコーダ２０１で圧縮符号化された動画像データ（送信画像）を自装置側での確認用に保持する記憶領域である。
ＲＴＰ（Realtime Transport Protocol ）パケット作成部２０７は、送信バッファ２０３に保持されている動画像データをＲＴＰパケットに変換する処理デバイスである。
【００２０】
ＲＴＰパケット送信部２０９は、ＲＴＰパケットをパケット通信網１０４に送信する処理デバイスである。
再送要求処理部２１１は、ＲＴＰパケットの送信先（相手先）であるネットワーク端末１０５より再送要求が受信された場合に、再送すべきＲＴＰパケットに対応する動画像データを送信バッファ２０３より探し、再びＲＴＰパケット化してパケット通信網１０４に送信させる一連の処理を制御する処理デバイスである。
【００２１】
ＲＴＰパケット受信部２１３は、パケット通信網１０４よりＲＴＰパケットを受信する処理デバイスである。なお、ＲＴＰパケットが冗長符号化されている場合、ＲＴＰパケット受信部２１３は誤り訂正処理も実行する。誤り訂正処理により、伝送路の損失はある程度回復することができる。
ＲＴＰパケット解析部２１５は、ＲＴＰパケット受信部２１３から転送されたＲＴＰパケットを解析し、損失があった場合には再送要求送信部２１７に通知する処理デバイスである。
【００２２】
なお、ＲＴＰパケットは、例えば図３に示す階層構造に符号化される。図３の場合、動画像データは階層Ｌ０〜Ｌ２の３段階に階層符号化されており、各階層Ｌ０〜Ｌ２は更に３つの解像度に階層化されている。各解像度にはパケット番号（図３は、ＪＰＥＧ２０００の例）が付されており、伝送路上で損失したＲＴＰパケットはパケット番号を通じて特定される。
【００２３】
再送要求送信部２１７は、ＲＴＰパケット解析部２１５での解析により損失が確認されたＲＴＰパケットの再送を送信側に要求するパケットを送信する処理デバイスである。一般には、タイムアウトが設定されており、タイムアウト時間を経過しても正常なＲＴＰパケットが受信されない場合には、該当パケットの再送要求が管理対象から削除される。
受信バッファ２１９は、受信したＲＴＰパケットを保持する記憶領域である。
再生画質判定部２２１は、１フレームの画像を再生する際に、再生画質を判定する処理デバイスである。判定結果は、パケット通信網１０４を通じて、送信側のネットワーク端末に通知される。
【００２４】
デコーダ２２３は、受信バッファ２１９から読み出したフレームデータを復号し、受信画像として表示デバイスに出力する処理デバイスである。なお、デコーダ２２３は、相手先からの再生画質情報が届いている場合に、当該再生画質情報に従ってローカルバッファ２０５から読み出された自装置側のフレームデータを復号し、送信画像として表示デバイスに出力する処理を実行する。この例の場合、送信画像は小画面として表示される。
【００２５】
なお、ローカルバッファ２０５からデコーダ２２３に読み出されるフレームデータは、送信画像の表示サイズに応じた解像度データだけで良い。
再生画質制御部２２５は、相手先から通知された再生画質情報に基づいて、ローカルバッファ２０５からデコーダ２２３に転送するデータの階調を制御する処理デバイスである。
【００２６】
（ｃ）ＪＰＥＧ２０００の階層符号化について
ここでは、ＪＰＥＧ２０００の階層符号化について補足する。
図３に、ＪＰＥＧ２０００の階層構造を示す。図中、「Ｊ２Ｋパケット」は、ＪＰＥＧ２０００で階層符号化されたパケットを意味する。図３は、ＳＮＲプログレッシブ順序でＪ２Ｋパケット化された例である。
【００２７】
この例の場合、パケット番号の３番以降のパケットは届かなくとも、レイヤ０のパケットには損失が無いため、レイヤ０に対応する受信画像を再生することができる。
一方、パケット番号の５番までのパケットが届けば、レイヤ１までに対応する受信画像を再生することができる。
このようにＪＰＥＧ２０００においては全てのパケットが届かなくとも、再生可能なレイヤまでの画像を再生することができる。
【００２８】
また、子画面のように解像度の低い画像を表示する場合、全てのＪ２Ｋパケットを用いる必要は無い。例えばパケット番号０、３、６を用いることで低解像度の画像を再生することができる。すなわち、送信画像確認用（子画面用）のローカルバッファ２０５は、全てのデータを保持する必要は無い。
【００２９】
また、再生画質制御部２２５は、相手先から受信した再生画質情報に基づいてデコード処理に用いるパケットをパケット０のみ、又はパケット０と１などと選択する。これにより、送信画像の確認に適した解像度で任意のレイヤまでの画質を得ることができる。
【００３０】
（ｄ）動画像データの送信処理手順
図４に、端末装置が相手先の端末装置に動画像データを送信する際の処理手順を説明する。
まず、ネットワーク端末１０３は、撮像装置１０１で撮像された動画像データを１フレーム分キャプチャし、エンコーダ２０１で圧縮符号化する（処理４０１）。
ネットワーク端末１０３は、圧縮符号化された動画像データを送信バッファ２０３に転送し、読み出しまで保持する（処理４０２）。
【００３１】
また、ネットワーク端末１０３は、自装置内での送信画像の確認用（小画面表示用）に、圧縮符号化された動画像データの一部を選択的にローカルバッファ２０５に保持する（処理４０３、処理４０４）。
前述したように、ＪＰＥＧ２０００等のコーデックを利用する場合において、送信画像の確認用（子画面表示用）に解像度の低い画像を残す場合には、全てのデータを保存せず、子画面に必要な解像度分のデータだけが保存される。
【００３２】
この後、ネットワーク端末１０３は、再送要求の有無を判定する（処理４０５）。再送要求がある場合、ネットワーク端末１０３は、要求されたパケットを送信バッファ２０３に転送する（処理４０６）。再送要求が無い場合又は再送パケットの送信バッファ２０３への転送が終了すると、ネットワーク端末１０３は、送信バッファ２０３に保存されたデータをＲＴＰパケット化し、パケット通信網１０４に送信する（処理４０７、処理４０８）。
【００３３】
（ｅ）動画像データの受信処理手順
図５に、端末装置が相手先の端末装置から動画像データを受信する際に実行される一連の処理手順を説明する。
まず、ネットワーク端末１０５は、ＲＴＰパケット受信部２１３においてパケットを受信し、ＲＴＰパケット解析部２１５においてＲＴＰパケットのヘッダを解析する（処理５０１、処理５０２）。
【００３４】
ここで、ネットワーク端末１０５は、シーケンス番号の欠落などによって損失があったと判定した場合（処理５０３で肯定結果）、該当するＲＴＰパケットの再送を送信元であるネットワーク端末１０３に要求する（処理５０４）。
ＲＴＰパケットの再送を要求する場合は、再送動作が完了するまで受信画像の再生タイミングを待つ必要がある。このため、ネットワーク端末１０５は、画像再生タイミングまでこのループ処理を繰り返す（処理５０５）。
【００３５】
フレーム画像の再生タイミングが到来すると、ネットワーク端末１０５は、ＲＴＰパケットから再生するフレームのデータを再構成し、ＲＴＰパケットの損失の有無を判定する（処理５０６）。
ＲＴＰパケットに損失があった場合、ネットワーク端末１０５は再生画像の品質を判定し、再生画質情報を送信元のネットワーク端末１０３に送信すると共に、再生した動画像データをデコーダ２２３に転送する（処理５０７）。
【００３６】
図６に、この処理内容を示す。図６は、レイヤ０、レイヤ１、レイヤ２の３つのレイヤから構成される動画像データを送信する場合を示している。図中、四角で示す枠は、Ｊ２Ｋパケットに対応し、枠内の数字はレイヤ情報を示す。
図６に示すように、最上位のレイヤ２まで再生できる場合には、再生画質情報の送信はない。これに対し、レイヤ１又はレイヤ０まで、又は全く再生できない場合には、再生可能であったレイヤ数に関する情報が再生画質情報パケットとして画像の送信元に送信される。
なお、「再生画質」とは、この例に示すようなレイヤ情報の他、カラーコンポーネント情報であったり、解像度情報でも良い。
【００３７】
この後、ネットワーク端末１０５は、受信画像の再生に先立って、通信相手であるネットワーク端末１０３から再生画質情報を受信しているか否かを判定する（処理５０８）。
再生画質情報を受信している場合、ネットワーク端末１０５は、送信画像の確認に使用する画像データを整形し、デコーダ２２３に出力する（処理５０９）。一方、再生画質情報を受信していない場合、ネットワーク端末１０５は、ローカルバッファ２０５に保持している確認用の画像データをそのままデコーダ２２３に出力する（処理５１０）。
【００３８】
図７に、送信画像の確認用に再生される再生画質が、再生画質情報の受信の前後でどのように変化するかを例示する。
ローカルバッファ２０５にレイヤ０、レイヤ１、レイヤ２の３つのレイヤからなるフレームデータが保存されている場合において、再生画質情報が受信されなかったとき、再生画質制御部２２５は、レイヤ２までの解像度で送信画像の再生を指示する。
【００３９】
一方、ローカルバッファ２０５にレイヤ０、レイヤ１、レイヤ２の３つのレイヤからなるフレームデータが保存されている場合において、再生画質情報が受信されたとき、再生画質制御部２２５は、再生画質情報で通知された階層、例えばレイヤ０又はレイヤ１まで又はそのフレームを損失させるといった画質での送信画像の再生を指示する。図７は、レイヤ１まで再生する場合である。
【００４０】
（ｆ）再生画質情報のフォーマット例
図８に、再生画質情報のフォーマット例を示す。なお、図８は、送信単位がフレームの場合である。
このフォーマットでは、画像フレームを特定する識別子（すなわちフレームＩＤ）と、再生できたレイヤ数のフィールドのみを持つ。画像を特定する識別子が存在しない場合には、このフィールドを“０”とする。また、ある画像について再生できたレイヤがない場合には、レイヤのフィールドに“０”を入れる。
【００４１】
前述した再生画質制御部２２５は、これらの情報に基づいて、自装置の送信画像に対応する画像データが格納されているローカルバッファ２０５からデコーダ２２３に読み出すデータを選択する。
なお、レイヤフィールドに“０”が入った再生画質情報を受け取った場合、再生画質制御部２２５は、前回デコードした画像データを再度デコード対象に選択することで送信画像確認用の画像を静止（フリーズ）させる。
【００４２】
（ｇ）受信側での再生画質が送信元の確認画面に反映される様子
図９に、テレビ会議中の表示画面例を示す。図９（Ａ）は、端末装置Ａの表示デバイスに表示される画面例であり、図９（Ｂ）は、端末装置Ｂの表示デバイスに表示される画面例である。
図９（Ａ）に示す表示画面９０１は、主画面９０２と小画面９０３で構成される。主画面９０２には、端末装置Ｂからパケット通信網経由で受信された受信画像が表示される。また、小画面９０３には、端末装置Ｂにパケット通信網経由で送信した送信画像が表示される。
【００４３】
図９（Ｂ）に示す表示画面９０４は、主画面９０５と小画面９０６で構成される。主画面９０５には、端末装置Ａからパケット通信網経由で受信された受信画像が表示される。また、小画面９０６には、端末装置Ａにパケット通信網経由で送信した送信画像が表示される。
通常、小画面に表示される送信画像は、自装置内での処理であるためパケット通信網上での通信状態の影響を受けない。しかし、この具体例のように再生画質制御部２２５を搭載したことで、端末装置Ｂ側での受信画像（図９（Ｂ））の画質低下の程度と同じ画質の低下が端末装置Ａ側の子画面（図９（Ａ））にて確認できる。
【００４４】
このため、端末装置Ａの利用者は、相手先画面の乱れ又は低下を確認することができる。すなわち、テレビ会議システムの利用者間でお互いの受信画像に関する共通の認識の下でのコミュニケーションを実現することができる。このことは、説明の繰り返しや誤解の発生を低減するのに有効である。
なお、小画面に表示する送信画像の表示タイミングを制御すれば、画面の乱れ又は欠落の生じた画像フレームを一致させることができる。もっとも、画面の乱れの発生を双方が認識できれば良いという限りにおいては、相手先で画質の低下等が発生した画像フレームと、自装置側の小画面で画質が低下する画像フレームとの間には時間的なズレが発生しても良い。
【００４５】
（ｈ）テレビ会議システムでの効果
以上のように、通信相手側での表示画像の画質の低下等に連動して、自装置側でも小画面に表示している送信画像の画質を低下させる機能を搭載することにより、ベストエフォート型のネットワーク経由でテレビ会議を開催する場合にも、より正確なコミュニケーションを実現することができる。
すなわち、従来システムのように、自装置側での小画面には常に同一画質の送信画像が表示されることで、相手方の受信状態を認識できない不都合を解決することができる。
【００４６】
例えば、受信画像の画質低下に伴う会話の不成立とこれに起因した同じ発言の繰り返しを無くすことができる。
また例えば、会話を再開する場合にも、送信側ではどの時点から会話を再開すれば良いかを容易に認識できるため、お互いが共通の認識の下に会話を再開することができる。
この結果、非常に使い勝手の良いテレビ会議システムを実現することができる。
【００４７】
（Ｂ）他の形態例
（ａ）前述したシステム例の動作説明では、主にＪＰＥＧ２０００方式でフレーム内符号化した動画像データを相手先に送信する場合を例に説明したが、ＭＰＥＧ等でフレーム間符号化した動画像データを相手先に送信する場合にも適用できる。
図１０にこの場合の例を示す。ＭＰＥＧ等のフレーム間符号化方式は、１フレームの損失が他の複数フレームに影響する可能性がある。
【００４８】
この場合も、フレームの損失（欠落）を送信側のネットワーク端末にフィードバックすることにより、影響を受けるフレームの画質低下を小画面に表示する送信画像の画質に反映させることができる。
図１０は、上段が送信側の画像表示例であり、下段が受信側の画面表示例である。図１０に示すように、再生画質情報のフィードバックにより送信側で確認用に表示される送信画像の画質は、受信側での画質低下に連動していることが分かる。
【００４９】
（ｂ）前述したシステム例の動作説明では、再生画質情報として最終的に復号化できた画像データの階層情報、すなわちレイヤ情報を送信側の端末装置に送信する場合について説明した。
ただし、再生画質情報には、欠落フレーム（フレーム内符号化されたフレームやフレーム間符号化されたフレームを含む。）を特定する情報、欠落パケットを特定する情報その他を用いることもできる。これらの情報を用いても、前述したシステム例と同様の効果を実現することができる。
【００５０】
（ｃ）前述の説明では、テレビ会議システムに発明を応用する場合について説明したが、テレビ電話システムにも応用できる。
（ｄ）前述のシステム例を構成する端末装置は、据え置き型の装置でも携帯型の装置でも良い。また、ベストエフォート型のネットワークとの接続は、有線ケーブルを用いても良いし、無線波を用いても良い。
【００５１】
なお、端末装置の商品形態は任意であり、例えばテレビ会議専用端末、テレビ電話専用端末、コンピュータ、印刷装置、ビデオカメラ、デジタルカメラ、ゲーム機器、スキャナ、携帯情報端末（携帯型のコンピュータ、携帯電話機、携帯型ゲーム機、電子書籍等）、時計、画像再生装置（例えば、光ディスク装置、ホームサーバー）、モニタ、テレビジョン受像器、発明に係る機能を搭載した処理ボードや処理カードとしても実現できる。
【００５２】
（ｅ）ネットワーク端末を構成する個々の処理機能は、ハードウェアとしてもソフトウェアとしても実現できる。
また、これらの処理機能の全てをハードウェア又はソフトウェアで実現するだけでなく、その一部はハードウェア又はソフトウェアを用いて実現しても良い。すなわち、ハードウェアとソフトウェアの組み合わせ構成としても良い。
（ｆ）前述の形態例には、発明の趣旨の範囲内で様々な変形例が考えられる。また、本明細書の記載に基づいて創作される又は組み合わせられる各種の変形例及び応用例も考えられる。
【図面の簡単な説明】
【００５３】
【図１】テレビ会議システムの構成例を示す図である。
【図２】ネットワーク端末の内部構成例を示す図である。
【図３】ＲＴＰパケットの階層構造例を示す図である。
【図４】動画像データの送信処理手順例を示す図である。
【図５】動画像データの受信処理手順例を示す図である。
【図６】再生画質情報の送信タイミングを示す図である。
【図７】再生画質情報の受信タイミングと送信画像に反映される画質との関係を示す図である。
【図８】再生画質情報のフォーマット例を示す図である。
【図９】テレビ会議中の表示画面例を示す図である。
【図１０】動画像データの伝送にフレーム間符号化方式を採用する場合の再生画質情報の送信タイミングと送信画像に反映される画質との関係を示す図である。
【符号の説明】
【００５４】
２１５        ＲＴＰパケット解析部
２１７        再送要求送信部
２２１        再生画質判定部
２２５        再生画質制御部
９０２        主画面（受信画像）
９０３        小画面（送信画像）
９０５        主画面（受信画像）
９０６        小画面（送信画像）
【図１】
0004479650.tif 000002
【図２】
0004479650.tif 000003
【図３】
0004479650.tif 000004
【図４】
0004479650.tif 000005
【図５】
0004479650.tif 000006
【図６】
0004479650.tif 000007
【図７】
0004479650.tif 000008
【図８】
0004479650.tif 000009
【図９】
0004479650.tif 000010
【図１０】
0004479650.tif 000011