(57)【特許請求の範囲】
【請求項１】
ローカルエリアネットワークまたはディジタル通信回線を用いて端末側カメラからの映像信号を受信しながら、コンピュータデータを端末から受信して送信側端末と共有利用するテレビ会議システムにおいて、
前記受信したコンピュータデータをＲＧＢ表示するモニタディスプレイと、
前記受信した映像信号を前記モニタディスプレイにスーパーインポーズ表示するスーパーインポーズ表示手段と、
送信側端末に設けた表示レイアウト指示を映像信号のＣＯＤＥに重ね合わせる重ね合わせ手段と、
受信側端末に設けた映像信号から前記重ね合わせ手段によって重ね合わせられた表示レイアウト指示を分離する分離手段と、
前記重ね合わせ手段および前記分離手段を用いて前記送信側端末から前記受信側端末の画面表示を遠隔操作する画面表示遠隔操作手段と、
前記送信側端末に設けられた前記受信側端末の表示能力の読み出し要求を映像信号のＣＯＤＥに重ね合わせて送信する能力読み出し要求手段と、
前記送信側端末に設けられた前記受信側端末からの前記能力読み出し要求に対する返送を受信して内容を解析する返送解析手段と、
前記送信側端末に設けられた前記受信側端末に前記画面表示遠隔操作手段によって画面表示を遠隔操作するＧＵＩを生成するＧＵＩ生成手段と、
前記受信側端末に設けられた表示能力の情報を記憶する記憶手段と、
前記受信側端末に設けられた前記送信側端末からの前記能力読み出し要求が重ね合わせられた映像信号を受信した場合には、前記記憶手段から読み出した前記表示能力の情報を返送する能力返送手段とを備え、
前記ＧＵＩ生成手段は、前記返送解析手段による解析に基づき、前記受信側端末の表示能力があらかじめパターン化されたテンプレート情報を読み出し、前記受信側端末の画面表示を遠隔操作するＧＵＩを当該送信側端末に表示することを特徴とするテレビ会議システム。
【請求項２】
ローカルエリアネットワークまたはディジタル通信回線を用いて端末側カメラからの映像信号を受信しながら、コンピュータデータを端末から受信して送信側端末と共有利用するテレビ会議システムにおいて、
受信したコンピュータデータをＲＧＢ表示するモニタディスプレイと、
前記受信した映像信号をＲＧＢ表示する第１のモニタディスプレイ入力手段と、
前記受信したコンピュータデータをＲＧＢ表示する第２のモニタディスプレイ入力手段と、
前記第１のモニタディスプレイ入力手段および前記第２のモニタディスプレイ入力手段からの入力を切り替える切り替え手段と、
送信側端末に設けた表示レイアウト指示を映像信号のＣＯＤＥに重ね合わせる重ね合わせ手段と、
受信側端末に設けた映像信号から前記重ね合わせ手段によって重ね合わせられ表示レイアウト指示を分離する分離手段と、
前記重ね合わせ手段および前記分離手段を用いて前記送信側端末から前記受信側端末の画面表示を遠隔操作する画面表示遠隔操作手段と、
前記送信側端末に設けられた前記受信側端末の表示能力の読み出し要求を映像信号のＣＯＤＥに重ね合わせて送信する能力読み出し要求手段と、
前記送信側端末に設けられた前記受信側端末からの前記能力読み出し要求に対する返送を受信して内容を解析する返送解析手段と、
前記送信側端末に設けられた前記受信側端末に前記画面表示遠隔操作手段によって画面表示を遠隔操作するＧＵＩを生成するＧＵＩ生成手段と、
前記受信側端末に設けられた表示能力の情報を記憶する記憶手段と、
前記受信側端末に設けられた前記送信側端末からの前記能力読み出し要求が重ね合わせられた映像信号を受信した場合には、前記記憶手段から読み出した前記表示能力の情報を返送する能力返送手段とを備え、
前記ＧＵＩ生成手段は、前記返送解析手段による解析に基づき、前記受信側端末の表示能力があらかじめパターン化されたテンプレート情報を読み出し、前記受信側端末の画面表示を遠隔操作するＧＵＩを当該送信側端末に表示することを特徴とするテレビ会議システム。
【請求項３】
前記表示能力の情報は、少なくとも画像解析度の能力を含み、
前記返送解析手段によって前記受信側端末の画像解像度が前記送信側端末と一致しないと判定された場合は、共有アプリケーションの伝送後、受信側端末または送信側端末の音響を用いて警告を与えることを特徴とする請求項１または２に記載のテレビ会議システム。
【請求項４】
前記受信した映像信号を前記モニタディスプレイにスーパーインポーズ表示する映像信号スーパーインポーズ表示手段と、
受信した音声情報からスーパーインポーズ表示指示を認識するスーパーインポーズ指示認識手段と、
前記スーパーインポーズ指示認識手段が認識した表示指示に従ってスーパーインポーズ表示するスーパーインポーズ表示手段とを備えたことを特徴とする請求項１または２に記載のテレビ会議システム。
【請求項５】
受信した映像信号をＲＧＢ表示する第１のモニタディスプレイ入力手段と、
受信したコンピュータデータをＲＧＢ表示する第２のモニタディスプレイ入力手段と、
前記第１のモニタディスプレイ入力手段および前記第２のモニタディスプレイ入力手段の入力を切り替え表示する切り替え手段と、
受信した音声情報から表示の切り替え指示を認識する切り替え指示認識手段と、
前記切り替え指示認識手段が認識した切り替え指示に従って切り替えを行う切り替え手段とを備えたことを特徴とする請求項１または２に記載のテレビ会議システム。
【請求項６】
受信した映像信号をモニタディスプレイにスーパーインポーズ表示するスーパーインポーズ表示手段と、
受信した音声情報からスーパーインポーズ表示トリガー指示を音声認識する音声指示認識手段と、
前記受信した映像信号からスーパーインポーズ指示をゼスチャー認識するゼスチャー指示認識手段とを備えたことを特徴とする請求項１または２に記載のテレビ会議システム。
【請求項７】
受信した映像信号をＲＧＢ表示する第１のモニタディスプレイ入力手段と、
受信したコンピュータデータをＲＧＢ表示する第２のモニタディスプレイ入力手段と、
前記第１のモニタディスプレイ入力手段および前記第２のモニタディスプレイ入力手段からの入力を切り替える切り替え手段と、
受信した音声情報から表示切り替えトリガー指示を音声認識する音声指示認識手段と、
前記受信した映像信号から表示切り替え指示をゼスチャー認識するゼスチャー指示認識手段とを備えたことを特徴とする請求項１または２に記載のテレビ会議システム。
【請求項８】
受信した映像信号をＲＧＢ表示する第１のモニタディスプレイ入力手段と、
受信したコンピュータデータをＲＧＢ表示する第２のモニタディスプレイ入力手段と、
前記第１のモニタディスプレイ入力手段および前記第２のモニタディスプレイ入力手段からの入力を切り替える切り替え手段と、
前記受信したコンピュータデータをＲＧＢ表示するＲＧＢモニタディスプレイと、
前記受信した映像信号を前記ＲＧＢモニタディスプレイにスーパーインポーズ表示するスーパーインポーズ表示手段と、
受信した映像信号から送信側のゼスチャーを認識するゼスチャー指示認識手段と、
表示入力を切り替え表示またはスーパーインポーズ表示する表示制御手段とを備えたことを特徴とする請求項１または２に記載のテレビ会議システム。
【請求項９】
ローカルエリアネットワークまたはディジタル通信回線を用いて端末側カメラからの映像信号を受信しながら、コンピュータデータを端末から受信して送信側端末と共有利用するテレビ会議システムの制御方法において、
前記受信したコンピュータデータをＲＧＢ表示するモニタディスプレイと、
前記受信した映像信号を前記モニタディスプレイにスーパーインポーズ表示するスーパーインポーズ表示工程と、
送信側端末に設けた表示レイアウト指示を映像信号のＣＯＤＥに重ね合わせる重ね合わせ工程と、
受信側端末に設けた映像信号から前記重ね合わせ工程によって重ね合わせられた表示レイアウト指示を分離する分離工程と、
前記重ね合わせ工程および前記分離工程を用いて前記送信側端末から前記受信側端末の画面表示を遠隔操作する画面表示遠隔操作工程と、
前記送信側端末に設けられた前記受信側端末の表示能力の読み出し要求を映像信号のＣＯＤＥに重ね合わせて送信する能力読み出し要求工程と、
前記送信側端末に設けられた前記受信側端末からの前記能力読み出し要求に対する返送を受信して内容を解析する返送解析工程と、
前記送信側端末に設けられた前記受信側端末に前記画面表示遠隔操作工程によって画面表示を遠隔操作するＧＵＩを生成するＧＵＩ生成工程と、
前記受信側端末に設けられた表示能力の情報を記憶する記憶工程と、
前記受信側端末に設けられた前記送信側端末からの前記能力読み出し要求が重ね合わせられた映像信号を受信した場合には、前記記憶工程から読み出した前記表示能力の情報を返送する能力返送工程とを備え、
前記ＧＵＩ生成工程は、前記返送解析工程による解析に基づき、前記受信側端末の表示能力があらかじめパターン化されたテンプレート情報を読み出し、前記受信側端末の画面表示を遠隔操作するＧＵＩを当該送信側端末に表示することを特徴とするテレビ会議システムの制御方法。
【請求項１０】
ローカルエリアネットワークまたはディジタル通信回線を用いて端末側カメラからの映像信号を受信しながら、コンピュータデータを端末から受信して送信側端末と共有利用するテレビ会議システムの制御方法において、
受信したコンピュータデータをＲＧＢ表示するモニタディスプレイと、
前記受信した映像信号をＲＧＢ表示する第１のモニタディスプレイ入力工程と、
前記受信したコンピュータデータをＲＧＢ表示する第２のモニタディスプレイ入力工程と、
前記第１のモニタディスプレイ入力工程および前記第２のモニタディスプレイ入力工程からの入力を切り替える切り替え工程と、
送信側端末に設けた表示レイアウト指示を映像信号のＣＯＤＥに重ね合わせる重ね合わせ工程と、
受信側端末に設けた映像信号から前記重ね合わせ工程によって重ね合わせられ表示レイアウト指示を分離する分離工程と、
前記重ね合わせ工程および前記分離工程を用いて前記送信側端末から前記受信側端末の画面表示を遠隔操作する画面表示遠隔操作工程と、
前記送信側端末に設けられた前記受信側端末の表示能力の読み出し要求を映像信号のＣＯＤＥに重ね合わせて送信する能力読み出し要求工程と、
前記送信側端末に設けられた前記受信側端末からの前記能力読み出し要求に対する返送を受信して内容を解析する返送解析工程と、
前記送信側端末に設けられた前記受信側端末に前記画面表示遠隔操作工程によって画面表示を遠隔操作するＧＵＩを生成するＧＵＩ生成工程と、
前記受信側端末に設けられた表示能力の情報を記憶する記憶工程と、
前記受信側端末に設けられた前記送信側端末からの前記能力読み出し要求が重ね合わせられた映像信号を受信した場合には、前記記憶工程から読み出した前記表示能力の情報を返送する能力返送工程とを備え、
前記ＧＵＩ生成工程は、前記返送解析工程による解析に基づき、前記受信側端末の表示能力があらかじめパターン化されたテンプレート情報を読み出し、前記受信側端末の画面表示を遠隔操作するＧＵＩを当該送信側端末に表示することを特徴とするテレビ会議システムの制御方法。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は、テレビ会議システムに関し、特にコンピュータデータを主体に映像情報をあわせて表示可能なテレビ会議システムに関する。
【０００２】
【従来の技術】
テレビ会議システムに関する基本動作説明は、楳田発明 特開平５−１８３６５４号公報の「ｌＳＤＮ端末装置の制御方法」および角田発明 特開平８−３０７８４５号公報の「テレビ会診通信端末装置の制御方法」にある。図１に、従来のテレビ会議システムの構成装置の例を、図２に、その構成装置各部の接続の例を示す。テレビ会議システムは、ＰＴＺカメラを含むテレビ会議システム本体と、マイク兼スピーカ装置と、相手ＰＴＺカメラ操作用の電話回線に接続されるリモコン装置と、メインのテレビモニタと、テレビ会議システム本体とＩＰ接続（Ｉｎｔｅｒｎｅｔ ＰｒｏｔｏｃｏｌＣｏｎｎｅｃｔｉｏｎ）されたパソコンなどで構成される。図３にテレビ会議システム本体の構成を表すブロック図を示す。また、図４にテレビ会議システム本体にＩＰ接続されたパソコンにおけるアプリケーション共有のブロック図を示す。これらの内容についてはすでに公知であるのでここではとくに述べない。ところで、従来のテレビ会議システムは優先的に配信する情報は映像情報であることは公知のことである。優先的に配信するとは通信回線では伝送帯域を他のメディアである音声、データ領域と比較して極端に広く取り、またはローカルエリアネットワーク（ＬＡＮ）においてはデータパケット量を同様に極端に多く取ることである。これらは、相手に伝える主情報がビデオ情報と音声であることから当然といえる。このため受信側では一般的にＱＣＩＦまたはＣＩＦ形式で受信したビデオ情報をＮＴＳＣなどのビデオ情報に変換してテレビモニターに表示し音声をスピーカーで拡声聴取する。
【０００３】
このビデオ情報を重視する趣旨で従来提案された技術として、特開平６−１４１３１２号公報は、送信側の同席複数人物の顔を静止画データで送信し、主プレゼンターの映像を動画像で伝送し、受信側でテレビモニタに合成することを、動画像コーディックの出力ビデオ信号に静止画像の小サイズをビデオ信号でピクチャーインピクチャーする方式で提案している。ここで一般的に２つのビデオ信号をピクチャーインピクテヤーで片方を小さく表示する技術についてはＮＨＫにおいて昭和４０年代に開発され、既に公知の技術である。
【０００４】
また、別のケースとして、相手動画像に自画像を小さくはめ込み表示する技術として、特開平６−２５３２９９号公報では、受信側で送信側から送られたビデオ画像に自席カメラの画像をモニター表示するために、ＣＩＦデータをメモリ上で合成する手段を用いて行う方法が提案されている。また、別のケースとして相手動画像に、複数の自画像を小さくはめ込み表示するサイズとレイアウト位置の自由度を与える技術として、特開平７−４６５６４号公報では、小画面のサイズ縮小率と合成位置を入力、指示する手段を用いて行う方法が提案されている。
【０００５】
また、ビデオ会議の模様をＶＴＲに録画したり、その場のメンバーがビデオモニターを見ているときに、相手側の発言場面か自分側の発言場面かを判りやすくする技術として、特開平７−２６４５６８号公報では、相手側か自分側かを対向で会議をして発言している両者の音声信号のレベルの高低で判定して、両者のビデオ信号のうち、どちら側を親画面として大きく表示するかを制御し、ビデオ信号でピクチャーインピクテヤーする方法が提案されている。また、相手画像に自画像をモニター表示する場合に発生する両者の画質差と時間遅れを補償するため、自画像を劣化させ、または遅延させる技術として、特開平８−１２５９９２号公報では、自画像を送信するためにＣＩＦ変換した際のコーデックからの劣化フレームデータをデジタル合成し、通信相手からの画質に合わせ、なおかつ時聞遅れも発生させることにより、自然な画像にする試みも提案されている。
【０００６】
また、安価なＭＣＵ装置の実現として、複数の通信相手からの映像情報を分割合成する技術として、特開平８−２５１５６７号公報では、各端末から受信したＱＣＩＦ情報を自画像ＱＣＩＦと共に配置合成し、各端末に送り返すことで多地点会議システム装置を構成することを提案している。これらの技術は、テレビ会議装置内のディジタル映像データを外部表示に適する形式、例えば、ＮＴＳＣ信号などに変換する部分において画像合成しようとするもので、欠点は専用装置化して他社装置との互換性が取れないという点である。
【０００７】
また、多地点会議において、各地点の発言者（発言地点）の発言回数を受信画像にスーパーインポーズし、会議全体の発言数の均一化、活性化を行う方法として特開平５−２０７４５６号公報があり、別途、モニターに表示する方法が提案されている。また、遠隔側カメラの方向調整時に、操作ガイドとして相手映像にカメラの位置情報をスーパーインボーズする技術として、特開平５−２７６５１０号公報では撮像位置表示メモリの内容と受信画像情報を合成表示し、操作の手助けを行う方法が提案されている。
【０００８】
また、グラフィック表示データ（コンピュータデータと解される）と動画データをスーパーインポーズする技術として、特開平１０−１９１２９２号公報では動画デコード用のメモリを共用して構成部品を減少させる方法が提案されている。これらの技術も、映像信号を主体に、少々のカウンタ数字、文字、絵文字などを合成表示する主旨での技術提案である。欠点は、専用会議端末となり機能的に他社互換が損なわれること。また基本的に映像、音声主体で補完的表示としてデータ（ガイダンス）を合成表示するものであるという点である。
【０００９】
このような従来の映像主体のテレビ会議の使い方ではなく、パソコンでのブレゼンを遠隔端末に伝える「データ会議」を主体とした利用方法を実現しようというのが本発明の主旨である。図３３に、ＣＣＩＴＴ勧告のデータ会議プロトコル構成を例示する。ここでは、表示モニタとして用いる図５にその一例を示すような大画面のコンピュータモニタ表示装置としては、
Ａ プラズマディスプレイ
Ｂ リヤプロジェクション・ディスプレイ（液晶、ＤＭＡ、ＴＭＡ）
Ｃ フロントプロジェクター（液晶、ＤＭＡ、ＴＭＡ）
Ｄ ＳＥＤ
Ｅ ＦＥＤ
Ｆ ＰＡＬＣ
など、図６に示す公知のＲＧＢの３原色セルの集合体パネルと、３管式ＣＲＴプロジェクターおよび従来のＲＧＢ−ＣＲＴモニタの利用などを考えている。これら大型パネルは、複数入力信号の切り替え、ＲＧＢのほかＮＴＳＣ、ＰＡＬなどの映像信号も使用することが出来るようになされるものである。
【００１０】
ここで、遠隔会議の一般的シナリオと使用メディアを記すると
１．挨拶（映像＋音声）
２．導入説明（映像＋音声）
３．具体的プレゼン（コンピュータデータ［パワーポイント資料］の提示）
４．質疑応答（映像＋音声＋パワーポイント資料の再提示）
５．しめくくり（映像＋音声）
となる。従来タイプのテレビ会議では、プレゼン資料を事前にＦＡＸなどで送り、相手側で出席者にコピー配布し、これを元にテレビでプレゼンテータの顔を伝送して説明を行うものであった。本発明では、遠隔会議のシナリオをすべてディスプレイで行い、ペーパーレスな会議を行うものである。とくに、上記の２．〜５．のシナリオで使用するメディアの映像、コンピュータデータの表示切り替えをスムーズに行い、１台の大型ディスプレイでまかなう利用方法を提供するものである。
【００１１】
【発明が解決しようとする課題】
上述のごとく、従来のテレビ会議では、プレゼン資料を事前に出席者に配布し、これを元にテレビでプレゼンテータの顔を伝送して説明する物で、事前の処理が必要であった。本発明は、コンピュータデータなどの資料提示とメディアの映像による会議の進行とを１台のディスプレイで行い、画面表示の制御、処理を容易にしたテレビ会議システムの実現を課題とする。
【００１２】
【課題を解決するための手段】
上記課題を達成するため、本発明は、ローカルエリアネットワークまたはディジタル通信回線を用いて端末側カメラからの映像信号を受信しながら、コンピュータデータを端末から受信して送信側端末と共有利用するテレビ会議システムにおいて、前記受信したコンピュータデータをＲＧＢ表示するモニタディスプレイと、前記受信した映像信号を前記モニタディスプレイにスーパーインポーズ表示するスーパーインポーズ表示手段と、送信側端末に設けた表示レイアウト指示を映像信号のＣＯＤＥに重ね合わせる重ね合わせ手段と、受信側端末に設けた映像信号から前記重ね合わせ手段によって重ね合わせられた表示レイアウト指示を分離する分離手段と、前記重ね合わせ手段および前記分離手段を用いて前記送信側端末から前記受信側端末の画面表示を遠隔操作する画面表示遠隔操作手段と、前記送信側端末に設けられた前記受信側端末の表示能力の読み出し要求を映像信号のＣＯＤＥに重ね合わせて送信する能力読み出し要求手段と、前記送信側端末に設けられた前記受信側端末からの前記能力読み出し要求に対する返送を受信して内容を解析する返送解析手段と、前記送信側端末に設けられた前記受信側端末に前記画面表示遠隔操作手段によって画面表示を遠隔操作するＧＵＩを生成するＧＵＩ生成手段と、前記受信側端末に設けられた表示能力の情報を記憶する記憶手段と、前記受信側端末に設けられた前記送信側端末からの前記能力読み出し要求が重ね合わせられた映像信号を受信した場合には、前記記憶手段から読み出した前記表示能力の情報を返送する能力返送手段とを備え、前記ＧＵＩ生成手段は、前記返送解析手段による解析に基づき、前記受信側端末の表示能力があらかじめパターン化されたテンプレート情報を読み出し、前記受信側端末の画面表示を遠隔操作するＧＵＩを当該送信側端末に表示することを特徴とする。
【００１３】
また、ローカルエリアネットワークまたはディジタル通信回線を用いて端末側カメラからの映像信号を受信しながら、コンピュータデータを端末から受信して送信側端末と共有利用するテレビ会議システムにおいて、受信したコンピュータデータをＲＧＢ表示するモニタディスプレイと、前記受信した映像信号をＲＧＢ表示する第１のモニタディスプレイ入力手段と、前記受信したコンピュータデータをＲＧＢ表示する第２のモニタディスプレイ入力手段と、前記第１のモニタディスプレイ入力手段および前記第２のモニタディスプレイ入力手段からの入力を切り替える切り替え手段と、送信側端末に設けた表示レイアウト指示を映像信号のＣＯＤＥに重ね合わせる重ね合わせ手段と、受信側端末に設けた映像信号から前記重ね合わせ手段によって重ね合わせられ表示レイアウト指示を分離する分離手段と、前記重ね合わせ手段および前記分離手段を用いて前記送信側端末から前記受信側端末の画面表示を遠隔操作する画面表示遠隔操作手段と、前記送信側端末に設けられた前記受信側端末の表示能力の読み出し要求を映像信号のＣＯＤＥに重ね合わせて送信する能力読み出し要求手段と、前記送信側端末に設けられた前記受信側端末からの前記能力読み出し要求に対する返送を受信して内容を解析する返送解析手段と、前記送信側端末に設けられた前記受信側端末に前記画面表示遠隔操作手段によって画面表示を遠隔操作するＧＵＩを生成するＧＵＩ生成手段と、前記受信側端末に設けられた表示能力の情報を記憶する記憶手段と、前記受信側端末に設けられた前記送信側端末からの前記能力読み出し要求が重ね合わせられた映像信号を受信した場合には、前記記憶手段から読み出した前記表示能力の情報を返送する能力返送手段とを備え、前記ＧＵＩ生成手段は、前記返送解析手段による解析に基づき、前記受信側端末の表示能力があらかじめパターン化されたテンプレート情報を読み出し、前記受信側端末の画面表示を遠隔操作するＧＵＩを当該送信側端末に表示することを特徴とする。これらにより、資料提示とメディアの映像による会議の進行とを１台のディスプレイで行うことが可能なテレビ会議システムを実現することができる。
【００１４】
【発明の実施の形態】
以下、本発明にかかるテレビ会議システムを添付図面を参照にして詳細に説明する。
【００１５】
第１の実施の形態（本発明における参考例）では、表示ディスプレイに入力される複数の入力信号を「操作ボタン」で選択し、図２５に示すセレクタおよび図２６に示すスーパーインポーズを用いて構成する。一方の入力にコンピュータ信号（例えばＲＧＢ信号）を入力し、別の入力にテレビ信号（例えばＮＴＳＣ／ＰＡＬ／ＳＥＣＡＭ信号）を入力する。コンピュータ信号はＲＧＢ信号のほか、ＤＶＩ（Ｄｉｇｉｔａｌ Ｖｉｄｅｏ Ｉｎｔｅｒｆａｃｅ）信号であっても良いし、テレビ信号はＩＥＥＥ１３９４やデジタル映像信号（Ｄ３、Ｄ５）であっても良い。受信側の「操作ボタン」でテレビ信号を縮小し、コンピュータ信号の表示画面にスーパーインポーズして図８のように表示する。図７にこの実施の形態の構成を示す。これにより、受信側の操作によって、表示をディスプレイ１台で兼用することができ、装置を節約することができる。
【００１６】
第２の実施の形態（本発明における参考例）では、表示ディスプレイに入力される複数の入力信号を「操作ボタン」で選択できる構成にし、一方の入力にコンピュータ信号（例えばＲＧＢ信号）を入力し、別の入力にテレビ信号を入力する。コンピュータ信号はＲＧＢ信号のほか、ＤＶＩ信号であっても良いし、テレビ信号はＩＥＥＥ１３９４やデジタル映像信号であっても良い。図９にこの実施の形態の構成を示す。この構成により、受信側の「操作ボタン」でテレビ信号の選択とコンピュータ信号のいずれかの選択を行って、一般会議シナリオにあったメディアをディスプレイ画面に優先表示する。これにより、受信側の操作によって、表示をディスプレイ１台で兼用することができ、装置を節約することができる。
【００１７】
図１０および図１３に第３の実施の形態（本発明における参考例）の構成を、図１１にその受信側ＰＣ（Ｐｅｒｓｏｎａｌ Ｃｏｍｐｕｔｅｒ）の、図１２にその送信側ＰＣの構成を示す。第３の実施の形態では、図１２に示す送信側ＰＣからキーボード（ＫＹＢ）マウスの操作により、「レイアウト指示処理タスク」を起動し、通信相手端末に図３３のＣＣＩＴ勧告で規定されたＴ１２３トランスポート・プロトコルを使い、相手側の表示構成の変更を指示する。ＫＹＢマウスの操作の替わりに自端末に備えたタツチパネルからの操作で指示することも可能である。受信端末は、図１０および図１１に示すように、ＩＰ接続（ＩｎｔｅｒｎｅｔＰｒｏｔｏｃｏｌ Ｃｏｎｎｅｃｔｉｏｎ）で、テレビ会議システム本体と接続されている。図１１では、「ＴＣＰ／ＩＰ（Ｔｒａｎｓｍｉｓｓｉｏｎ Ｃｏｎｔｒｏｌ Ｐｒｏｔｏｃｏｌ／Ｉｎｔｅｒｎｅｔ Ｐｒｏｔｏｃｏｌ）」ポートから出力される送信側から送られてきた「表示構成の変更の指示」を「レイアウト指示受信処理タスク」によって処理し、「スーパーインポーズ操作指示」を行う。この指示は図１０の「パソコン」から「スーパーインポーズ回路」に伝えられ、この回路の働きで、図８の表示がなされる。「パソコン」と「スーパーインポーズ回路」への接続は、ＲＳ２３２Ｃ、ＲＳ４２２、ＵＳＢ、ＩＥＥＥ１３９４、ＳＣＳＩ、別のＬＡＮなどで構成されてもよい。
【００１８】
また、別の構成例として、図１３のように、受信端末側において通信相手端末に図３３のＣＣＩＴＴ勧告で既定されたＴ１２３トランスポート・プロトコルを「通信制御統合部」で処理し「スーパーインポーズ回路」へ伝え、同回路が動作して図８の表示がなされるケースも考えられる。さらにＰＴＺカメラを使用しない場合は、この制御ポートを画面制御に転用することも可能である。これにより、遠隔端末の画面表示を制御することができ、ディスプレイ１台ですべての表示を兼用することができ、またプレゼン聴取者が理解しやすい表示が行えて円滑に会議シナリオを運用することができる。
【００１９】
図１４および図１６に第４の実施の形態（本発明における参考例）の構成を、図１５にその受信側ＰＣの、図１２にその送信側ＰＣの構成を示す。第４の実施の形態は、第３の実施の形態の「スーパーインポーズ回路」を「セレクタ」と読み替え、表示を「映像信号」と「コンピュータ画面」とに切り替えることで説明できる。これにより、遠隔端末の画面表示を制御でき、ディスプレイが１台で表示をすべての兼用することができ、またプレゼン聴取者が理解しやすい表示が行えて円滑に会議シナリオを運用することができる。
【００２０】
図１７および図１８に第５の実施の形態の受信側の構成を、図２１〜図２４にはその送信側の構成を示す。第５の実施の形態は、送受信側端末において、これまで説明したＣＣＩＴＴ勧告で既定されたＴ１２３トランスポート・プロトコルを使わずに、相手端末の画面構成の変更指示コードを送信映像信号コードに重ね合わせる手段で実現したものである。
【００２１】
受信端末でのこの指示コードの取り出し方法は図１７、図１８に示すような２通り考えられる。まず、図１７には、映像信号の垂直ブランキング期間に限りなく近い部分でＮＴＳＣなどのビデオ信号に重ね合わせたコードを、「制御信号分離」で取り出して、これにより「スーパーインポーズ回路」を動作させ、映像信号をコンピュータ表示画面にスーパーインポーズする方法を示している。また、図１８には、ＣＩＦまたはＱＣＩＦコードに「透かしコード」として混入されたデータを解凍する「制御信号解凍」の手段の構成を示す。
【００２２】
これに対応する送信側には、図２１、図２２、図２３、図２４の４通りの手段が考えられる。図２１では「リモコン」から指示した内容を「レイアウト指示信号発生」手段を使い、カメラからの映像信号の垂直ブランキング期間に限りなく近い部分でＮＴＳＣなどのビデオ信号中に重ね合わせる方法を示している。図２２では、「リモコン」から指示した内容を「レイアウト指示コード発生」手段を使い、映像信号をＣＩＦまたはＱＣＩＦコードに変換する際に「透かしコード」として重ね合わせを行う方法を示している。図２３では、パソコンからの指示を図２１のように「レイアウト指示信号発生」手段を使ってビデオ信号中に重ね合わせる方法を、また、図２４ではパソコンからの指示を図２２のように「レイアウト指示コード発生」手段を使い重ね合わせを行う方法を示している。ここで、まとめておくと、図２１、図２３の「レイアウト指示信号発生」手段を使用した場合は、受信側では、図１７の「制御信号分離」で取り出し、図２２、図２４の「レイアウト指示コード発生」手段を使用した場合は、図１８の「制御信号解凍」で取り出すことになる。これらの方法により、制御ポートを使用せずに受信端末の画面制御を実現することができる。
【００２３】
図１９および図２０に第６の実施の形態の受信側の構成を、図２１〜図２４にはその送信側の構成を示す。第６の実施の形態では、第５の実施の形態の「スーパーインポーズ回路」を「セレクタ」と読み替え、表示を「映像信号」と「コンピュータ画面」とに切り替えることで説明することができる。これらの方法により、制御ポートを使用せずに受信端末の画面制御を実現することができる。
【００２４】
ところで、以上の方法では、送信側では受信端末側のエンターテイメント能力がどのようなものか判らないので、自動的にその能力を確認し、それにあった表示／拡声指示を行う方法を第７の実施の形態として示す。まず受信端末には、初期設定時に、あらかじめ決められた能力情報を設定し記憶させておく。この能力情報荷は多元性が含まれ、表示能力では、表示入力がスーパーインポーズできる能力、画面切り替えができる能力、画面解像度の能力（ＳＶＧＡ、ＸＧＡ、ＳＸＧＡ、ＳＸＧＡＰｌｕｓ、ＵＸＧＡ、ＱＵＸＧＡ）、色再現能力（２５６色、１６ビット、２４ビット、３２ビツト）、また音響能力（モノラル、ステレオ、デジタル、３Ｄサラウンド、５．１チャネル）などの能力が含まれる。さらに、スーパーインポーズでは子画面サイズ種類、表示位置、同時表示個数が含まれる。
【００２５】
図２７に示すように受信側端末では、これらの自己データを電源投入後の初期設定であるイニシャライズで記憶エリアから読みだし、「能力宣言」エリアに一時退避させる。送信側からの「能力読みだし要求」をＣＣＩＴＴ Ｔ．１２０手順や前出の画像情報コードに重ね合わせたコマンドにより受信した場合は、「応答返送」する。送信側端末では「返送受信」内容を解析し、相手端末の能力を、あらかじめパターン化したテンプレート情報を格納域（通常はディスク）から読みだし、相手端末の画面構成を変更するグラフィック・ユーザ・インタフェース（ＧＵＩ）を自分の端末の画面上に表示し、操作者からの指示を容易にする。図２７に示すＧＵＩはその一例であって、相手端末画面を模した表示、スタジオ調整卓を模したＧＵＩでも良い。さらに、音響能力の指示も同様にＧＵＩ表示する。例えば、スピーカの個数、２個、３個、５個、サラウンド効果絵など多彩にテンプレート格納し、これを選択表示する。また、画面解像度が相手端末と一致しない場合は、共有アプリケーションの伝送後、相手端末での表示に支障が発生するため、ユーザ画面または自端末の音響を使いユーザにアラーム警告を与える。これにより、相手端末の画面表示能力に合った指示を出すことができる。
【００２６】
図２８に第８の実施の形態の受信側の構成を示す。これまでの第１〜第６の実施の形態までは、受信側の表示を切り替える方法として「コマンドコード」を相手端末に伝送する方法を示してきた。第８の実施の形態では特別なコマンドコードを用いずに受信表示の切り替えを行う方法を提示する。送信側では遠隔会議の一般的シナリオに基づき、音声でプレゼンする場合の各段階での説明を行う。
【００２７】
受信側ではあらかじめ決められたシナリオによる遷移で表示切替を行うように設定されている。例えば、１．コンピュータ表示→２．コンピュータ＋子ビデオ（スーパーインポーズ）→１．コンピュータ表示にもどる。のシーケンシャルな遷移で移行変化する。この組み合わせはパターンとしてあらかじめディスクなどに記憶されている。送信側のプレゼンテータは、受信側のこのパターンをあらかじめ知っているものとする。ここで、送信側では、各遷移時期において、「それでは」と発声する。この音声はとぎれることなくＣＯＤＥ化伝送され、相手端末では図２８のようにＤＥＣＯＤＥされる。このＤＥＣＯＤＥされた音声情報を「音声認識」により認識し、「スーパーインポーズ回路」に伝えられ、画面のスーパーインポーズ処理が行われ、表示が行われる。音声認識はワード検出を主に行うことによって実現できる。「それでは」の言葉のほかに、「それじゃ」「ほんじゃらま」「ウェルヒアウィゴウ」など、少数複数の言葉を、男女の声の音質で、ホルマント分析した情報で所持していても、直接サンプリングしたパターンとして持っていても利用可能である。これにより、送信側に特別な回路を設けることなく、受信側の画面にスーパーインポーズを一定の順序で行うことができる。
【００２８】
図２９に第９の実施の形態の受信側の構成を示す。図２９のように第８の実施の形態の「スーパーインポーズ回路」を「セレクタ」と読み替え、遷移を、例えば、１．ビデオ→２．コンピュータ→１．ビデオにもどる。のシーケンシャルな遷移で移行変化することができる。表示を「映像信号」と「コンピュータ画面」とに切り替えることで説明可能である。これにより、送信側に特別な回路を設けることなく、受信側の画面を切り替えを一定の順序で行うことができる。
【００２９】
図３０に第１０の実施の形態の受信側の構成を、図３１に第１１の実施の形態の受信側の構成を示す。第１０および第１１の実施の形態では、第８および第９の実施の形態のシーケンシャルな遷移を自由な遷移にするため「音声認識」と「画像認識」の２つの手段を使用した例である。図３２に示すようにプレゼンテーターは、遷移させたい場面で音声で「それでは」と発声し、あらかじめ決められたタイミング範囲でカメラに向かって所定のゼスチャーを行う。受信側端末では、図３０に示すように「音声認識」手段では「それでは」の音声がトリガとなり、「画像認識」手段を起動させ、あらかじめ決められたタイミング範囲で受信画像の中から「スーパーインポーズ」指示のゼスチャーコマンドを認識する。音声認識はワード検出を主に行うことによって実現できる。「それでは」の言葉のほかに、「それじゃ」「ほんじゃらま」「ウェルヒアウィゴウ」など、少数複数の言葉を、男女の声の音質で、ホルマント分析した情報で所持していても、直接サンプリングしたパターンとして持っていても利用可能である事は前述の通りである。
【００３０】
ゼスチャーコマンドは公知の技術を画像送信先の受信端末側で応用することで可能になる。この例では、画面の右上空間をプレゼンテーターが手で差し示すと「スーパーインポーズ」指示となり、左上空間を差し示すと「入力切り替え」指示となり、また、両手で右上空間および左上空間を差すとコンピュータ画面のみとなる。このゼスチャーは腕の動作だけでなく、ウィンクや顔全体を左右に振る動作を行い、これを検出することでも実現できる。これにより、送信側では特別な回路手段なしに、受信側の画面でのスーパーインポーズまたは切り替えが自由な順序で行える。
【００３１】
図３６およびに図３７に第１２の実施の形態の送信側の構成を、図３９および図４０に第１２の実施の形態の受信側の構成を示す。また、図３４にこの実施の形態の送信側のゼスチャーパターン動作例を、図３５にこの実施の形態の送信側の動作時間を、さらに、図３８に受信側でのゼスチャーパターン検出動作フローチャートを示す。
【００３２】
ゼスチャーコマンドの認識は、通常フレーム内の特定位置検出、またはフレーム内の特定形状検出、または動きベクトル検出で行う。しかし、会議プレゼンテーション映像を送信しているフレーム内で特別のゼスチャーを行うことは視聴側に若干の不快感を与えることになる。図３４に示すように、カメラ撮像範囲外に身体の一部または指示棒等の物品を「はみ出させる動作」を行って、これでゼスチャーを行う方法を考える。この「はみ出し」「戻し」動作を連続的に行うと、図３５に示すように「はみ出し」を行う画像フレームの境界付近では「はみ出し」がクロス、「戻し」状態はオープンの状態となり、単位時間Δｔではオン、オフと変化する。この画像を連続的に受信側でＱＣＩＦまたはＣＩＦ形式で受信し、図３９または図４０の「画像認識」部でゼスチャー判定を行う。
【００３３】
図３６に示すようにゼスチャーの画像領域をΔｔ時間毎にサンプリングし、直前のサンプリング画像と比較検出する。この結果を「ゼスチャーパターン検出」部で判定し、送信側で指示しているゼスチャーコマンドを認識する。ゼスチャーパターンの認識処理は、図３８に示すように、比較検出の結果が割り込み起動されることから開始され、信号オンオフ一時記憶処理サブルーチンで時系列的にゼスチャー動作が記録ビットに記録される。前記サブルーチンは一時記録エリアの内容を順次シフトし、現イベントを記録する。一時記録エリアの「動作指示パターンＴＢＬ」にあらかじめ登録しているゼスチャーパターンと、一時記録エリアの現イベントパターンとが一致した場合に、その検出したパターンに対応したように「セレクタ」または「スーパーインポーズ回路」を動作させ、所望の表示を行わせる。
【００３４】
なお、ゼスチャーを行う領域を分割し、さらに動作指示をワンタッチで、または細かく設定することもできる。この場合は図３７に示すように、比較検出対象を「Ａ、Ｂ、Ｃ」のように複数設けることができる。これにより、同時に２つの動作、例えば両手でのゼスチャー指示が可能となる。これにより、視聴側に不快な印象を与えることなく、標準的なテレビ会議システムである送信側から受信側に対して高機能な画像表示を円滑に行わせることができる。
【００３５】
【発明の効果】
以上説明したように本発明の請求項１及び９の発明によると、受信側の操作により、一台のディスプレイにスーパーインポーズで映像とコンピュータデータとを表示することができ、装置を節約することができる。また、制御ポートを使用せずに一台のディスプレイにスーパーインポーズで映像とコンピュータデータとを表示することができると共に、相手端末の画面表示能力に合った指示をすることができる。
【００３６】
請求項２及び１０の発明によると、受信側の操作により、一台のディスプレイに切り替えによって映像とコンピュータデータとを表示することができ、装置を節約することができる。また、制御ポートを使用せずに一台のディスプレイに切り替えによって映像とコンピュータデータとを表示することができると共に、相手端末の画面表示能力に合った指示をすることができる。
【００３８】
請求項４の発明によると、送信側に特別な回路手段を設けることなしに、受信側の画面にスーパーインポーズを順序で行うことができる。
【００３９】
請求項５の発明によると、送信側に特別な回路手段を設けることなしに、受信側の画面の切り替えを順序で行うことができる。
【００４０】
請求項６の発明によると、送信側に特別な回路手段を設けることなしに、受信側の画面にスーパーインポーズを自由な順序で行うことができる。
【００４１】
請求項７の発明によると、送信側に特別な回路手段を設けることなしに、受信側の画面の切り替えを自由な順序で行うことができる。
【００４２】
請求項８の発明によると、視聴側に深いナイン証を与えることなく、送信側の標準的なテレビ会議システムで、受信側の高機能な画面表示を円滑に行わせることができる。
【図面の簡単な説明】
【図１】従来のテレビ会議システムの構成装置の一例を示す外観図。
【図２】従来のテレビ会議システムの接続の一例を示す説明図。
【図３】従来のテレビ会議システムの構成の一例を示すブロック図。
【図４】従来のテレビ会議システムでのアプリケーションの共有の一例を示す説明図。
【図５】本発明で用いられる大型マルチメディアディスプレイの外観図。
【図６】大型ＲＧＢ表示パネル方式の諸元を示す一覧図。
【図７】本発明の一実施の形態の構成を示すブロック図。
【図８】本発明の一実施の形態でのスーパーインポーズ表示の例。
【図９】本発明の他の実施の形態の構成を示すブロック図。
【図１０】本発明の他の実施の形態の構成を示すブロック図。
【図１１】図１０の実施の形態での受信側タスク処理の構成図。
【図１２】図１０の実施の形態での送信側タスク処理の構成図。
【図１３】本発明の他の実施の形態の構成を示すブロック図。
【図１４】本発明の他の実施の形態の構成を示すブロック図。
【図１５】図１４の実施の形態での受信側タスク処理の構成図。
【図１６】本発明の他の実施の形態の構成を示すブロック図。
【図１７】本発明の他の実施の形態の受信側の構成を示すブロック図。
【図１８】本発明の他の実施の形態の受信側の構成を示すブロック図。
【図１９】本発明の他の実施の形態の受信側の構成を示すブロック図。
【図２０】本発明の他の実施の形態の受信側の構成を示すブロック図。
【図２１】図１７ないし図２０の実施の形態の送信側の構成の一例を示すブロック図。
【図２２】図１７ないし図２０の実施の形態の送信側の構成の他の例を示すブロック図。
【図２３】図１７ないし図２０の実施の形態の送信側の構成の他の例を示すブロック図。
【図２４】図１７ないし図２０の実施の形態の送信側の構成の他の例を示すブロック図。
【図２５】本発明に用いられるセレクタの構成の一例を示すブロック図。
【図２６】本発明に用いられるスーパーインポーズの構成の一例を示すブロック図。
【図２７】本発明の他の実施の形態でのシーケンス処理を示すフローチャート。
【図２８】本発明の他の実施の形態の受信側の構成を示すブロック図。
【図２９】本発明の他の実施の形態の受信側の構成を示すブロック図。
【図３０】本発明の他の実施の形態の受信側の構成を示すブロック図。
【図３１】本発明の他の実施の形態の受信側の構成を示すブロック図。
【図３２】本発明の他の実施の形態での音声指示とゼスチヤー指示の一例を示す説明図。
【図３３】ＣＣＩＴＴ Ｔ．１２０に記述されているデータ会議システムのプロトコル構成の一部。
【図３４】本発明の他の実施の形態でのゼスチヤー指示の一例を示す説明図。
【図３５】図３４の実施の形態でのゼスチヤー動作の動作時間例。
【図３６】図３４の実施の形態でのゼスチヤー指示認識装置の一例のブロック図。
【図３７】図３４の実施の形態でのゼスチヤー指示認識装置の他の例のブロック図。
【図３８】図３４の実施の形態でのゼスチヤーパターン検出動作のフローチャート。
【図３９】図３４の実施の形態の受信側の構成を示すブロック図。
【図４０】図３４の実施の形態の受信側の構成を示すブロック図。
【図１】
0004568442.tif 000002
【図２】
0004568442.tif 000003
【図３】
0004568442.tif 000004
【図４】
0004568442.tif 000005
【図５】
0004568442.tif 000006
【図６】
0004568442.tif 000007
【図７】
0004568442.tif 000008
【図８】
0004568442.tif 000009
【図９】
0004568442.tif 000010
【図１０】
0004568442.tif 000011
【図１１】
0004568442.tif 000012
【図１２】
0004568442.tif 000013
【図１３】
0004568442.tif 000014
【図１４】
0004568442.tif 000015
【図１５】
0004568442.tif 000016
【図１６】
0004568442.tif 000017
【図１７】
0004568442.tif 000018
【図１８】
0004568442.tif 000019
【図１９】
0004568442.tif 000020
【図２０】
0004568442.tif 000021
【図２１】
0004568442.tif 000022
【図２２】
0004568442.tif 000023
【図２３】
0004568442.tif 000024
【図２４】
0004568442.tif 000025
【図２５】
0004568442.tif 000026
【図２６】
0004568442.tif 000027
【図２７】
0004568442.tif 000028
【図２８】
0004568442.tif 000029
【図２９】
0004568442.tif 000030
【図３０】
0004568442.tif 000031
【図３１】
0004568442.tif 000032
【図３２】
0004568442.tif 000033
【図３３】
0004568442.tif 000034
【図３４】
0004568442.tif 000035
【図３５】
0004568442.tif 000036
【図３６】
0004568442.tif 000037
【図３７】
0004568442.tif 000038
【図３８】
0004568442.tif 000039
【図３９】
0004568442.tif 000040
【図４０】
0004568442.tif 000041