(57)【要約】【課題】異なるメーカや異なる機種の端末装置を接続でき、音声及び字幕付き映像の議事録作成を可能にすると共に該議事録作成に際して、会議参加者（話者）の言語を特定言語に限定する必要の無いテレビ会議システムを提供すること。【解決手段】議事録情報（映像情報及び音声情報）を、テレビ会議参加者の居室に設置した端末１１〜１ｎ（他図）の各々で採取し、この情報を基にＭＣＵ３１の議事録作成部３０８において音声及び字幕付き映像の議事録を作成する。議事録作成に必要な音声情報の認識処理も、ＭＣＵ３１の音声認識部３０７において上記の各端末分毎にリアルタイムで行う。この音声認識結果は、字幕作成部３０９を介して映像情報に字幕として添付することができる。【選択図】図３
2013201505.tif 000002
【特許請求の範囲】
【請求項１】
会議に使用する複数の端末装置の各々は、
多地点接続装置との双方向通信が可能な通信接続を確立する手段と、
自己の設置場所において採取された映像情報及び音声情報を多地点接続装置に送信する手段と、
前記多地点接続装置から議事録情報を受信する手段と、
前記議事録情報を再生する手段と、
前記通信接続を切断する手段と
を備え、
前記多地点接続装置は、
前記複数の端末装置の各々との双方向通信が可能な通信接続を確立する手段と、
前記通信接続を確立した通信相手である端末装置の各々を管理する接続相手管理手段と、
前記端末装置の各々から映像情報及び音声情報を受信する手段と、
前記複数の端末装置の各々から受信した音声情報の各々を所定の文字コード列に変換する手段と、
前記所定の文字コード列の内容を、必要に応じて所定の言語の情報に翻訳して翻訳済の文字コード列を生成する手段と、
前記文字コード列に対して、前記端末装置に対応する発言者の識別名及び発言時刻を追記して議事録情報を作成する手段と、
前記受信した映像情報と音声情報とを合成して議事録情報を作成する手段と、
前記議事録情報に対して、必要に応じて前記文字コード列を字幕情報として付加する手段と、
前記議事録情報を前記複数の端末装置の各々に送信する手段と、
前記通信接続を切断する手段と
を備えるテレビ会議システム。
【請求項２】
会議に使用する複数の端末装置の各々との双方向通信が可能な通信接続を確立する手段と、
前記通信接続を確立した通信相手である端末装置の各々を管理する接続相手管理手段と、
前記端末装置の各々から映像情報及び音声情報を受信する受信手段と、
前記複数の端末装置の各々から受信した音声情報の各々を所定の文字コード列に変換する音声認識手段と、
前記所定の文字コード列の内容を、必要に応じて所定の言語の情報に翻訳して翻訳済の文字コード列を生成する手段と、
前記文字コード列に対して、前記端末装置に対応する発言者の識別名及び発言時刻を追記して議事録情報を作成する手段と、
前記受信した映像情報と音声情報とを合成して議事録情報を作成する手段と、
前記議事録情報に対して、必要に応じて前記文字コード列を字幕情報として付加する手段と、
前記議事録情報を前記複数の端末装置の各々に送信する手段と、
前記通信接続を切断する手段と
を備える多地点接続装置。
【請求項３】
前記音声認識手段は、前記受信した音声情報の音声認識処理を並列に行うことが可能な並列処理構造を有する
請求項２に記載の多地点接続装置。
【請求項４】
前記端末装置に対応する発言者の識別名は、前記接続相手管理手段及び前記受信手段での処理結果を参照して決定する
請求項２に記載の多地点接続装置。
【請求項５】
多地点接続装置の制御をコンピュータに実行させるためのコンピュータプログラムであって、
会議に使用する複数の端末装置の各々との双方向通信が可能な通信接続を確立するステップと、
前記通信接続を確立した通信相手である端末装置の各々を管理する接続相手管理ステップと、
前記端末装置の各々から映像情報及び音声情報を受信する受信ステップと、
前記複数の端末装置の各々から受信した音声情報の各々を所定の文字コード列に変換する音声認識ステップと、
前記所定の文字コード列の内容を、必要に応じて所定の言語の情報に翻訳して翻訳済の文字コード列を生成するステップと、
前記文字コード列に対して、前記端末装置に対応する発言者の識別名及び発言時刻を追記して議事録情報を作成するステップと、
前記受信した映像情報と音声情報とを合成して議事録情報を作成するステップと、
前記議事録情報に対して、必要に応じて前記文字コード列を字幕情報として付加するステップと、
前記議事録情報を前記複数の端末装置の各々に送信するステップと、
前記通信接続を切断するステップと
を備えるコンピュータプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明はテレビ会議システム及び多地点接続装置並びにコンピュータプログラムに係る。特に、異なるメーカや異なる機種の端末装置を接続できると共に、音声及び字幕付き映像の記録も可能であり、翻訳による言語を問わないテレビ会議システム及び多地点接続装置並びにコンピュータプログラムに関する。
【背景技術】
【０００２】
近年、テレビ会議システムを構築するに際して、異なるメーカや異なる機種の端末装置を接続したいとの要望が高まっている。このため、このような異種装置間の接続性を高めるための様々な試みが実施されている。しかし、既存のテレビ会議における議事録作成手段は、端末装置毎の機能に依存するものであり、前述のような、異なるメーカや異なる機種の端末装置が混在するテレビ会議システムを構築すると、現状のままでは議事録の作成ができなくなるという問題点があった。
【０００３】
この分野の公知技術として、例えば特許文献１には、映像と音声の通信で互いに言語の異なる人がディスクトップ会議を行うときに、言語の違いによっても円滑なコミュニケーションを図れることを意図した技術が開示されている。具体的には、会議出席者の音声を、通信システムを介して受信し、この出席者の音声信号に対応した受信者が理解できる言語の文字データを音声理解装置７に得、この文字データを受信者が理解できる言語の文字または音声で受け取るかを切換モード部で設定する。そして、この設定に応じて２つの翻訳変換処理部のいずれかにより文字データを該言語の文字データ又は音声データに翻訳し、翻訳した文字または音声データを該言語の文章又は音声に変換して受信映像と共にディスプレイに字幕表示又はエディタに記録表示する。さらには音声合成装置で合成して音声で出力する。
【０００４】
また、例えば特許文献２には、会議において本人が発言した内容を否認することを不可能とし、議事録の作成の効率化を図ることが可能なテレビ会議におけるマルチメディア議事録作成方法及びシステムが開示されている。具体的には、会議における発言内容を音声情報として取得して音声情報処理を行い、音声情報処理が施された情報に、デジタル透かし技術を用いて発言者の情報を埋め込んでおき、発言者の情報が埋め込まれた情報に基づいて議事録を生成する。
【０００５】
また、例えば特許文献３には、多地点会議システムで、会議参加者が会議中の議事録を無劣化、高画質、高音質、リアルタイム、オンデマンド形式で閲覧する技術が開示されている。また、特許文献３には、任意の会議参加者が任意の映像資料を無劣化、高画質、高音質、リアルタイム、オンデマンド形式で閲覧したり、他の会議参加者に閲覧させたりする技術が開示されている。具体的には、サーバ装置が会議端末装置から受信した会議参加者の映像及び音声を議事録として記録し、議事録の再生を要求した会議端末装置に対して送信する。また、会議サーバ装置が会議端末装置から映像資料登録指示を受けた場合に、該映像資料を記録し、映像資料の再生を要求した会議端末装置や全ての会議端末装置に対して送信する。
【０００６】
また、例えば特許文献４には、撮像した映像データを複数の端末の少なくとも１つに表示し、入力音声をテキストデータに変換し、これを所定の議事録に記録し、記録した議事録を複数の端末に表示可能とする技術が開示されている。具体的には、音声入力手段と、表示部とを備えた会議端末装置と、少なくとも１つの撮像手段と、前記会議端末装置が通信回線を介して複数接続された映像会議システムとしている。その構成は、記撮像手段が撮像した映像データを前記接続された複数の会議端末の少なくとも１つの会議端末装置の表示部に表示する映像表示手段と、前記音声入力手段に入力された音声をテキストデータに変換する音声変換手段とを備える。また、該変換されたテキストデータを所定の議事録フォーマットに記録する音声テキスト記録手段と、該記録された議事録フォーマットを前記接続された複数の会議端末装置の表示部に表示可能とする議事録表示手段とを備える。
【０００７】
また、例えば特許文献５には、実際の会議進行と同様の会議進行を可能にすると共に第三者が会議内容をリアルに体験可能な議事録の作成を実現するネットワーク会議システムが開示されている。具体的には、Ｗｅｂ会議サーバは、クライアント端末装置から送信されるＩＰアドレスに基づいて発言者及び発言時刻を特定し、特定された発言者の音声がテキスト化された議事録テキストファイルを発言時刻と共に記憶する。また、ネットワーク会議の資料として使用される画像ファイル及び画像ファイルの表示時刻を記憶し、議事録テキストファイル、発言時刻、画像ファイル及び表示時刻に関連付けされた議事録要約ファイルを作成する。
【０００８】
また、例えば特許文献６には、特殊なアプリケーションを使用すること無く、通常のＰＣ程度の処理パワーであっても、発話内容をリアルタイムで字幕提示すると共に、受講者の漢字の読み能力に応じてルビを付加することのできる装置等が開示されている。具体的には、話者の発話した内容に基づいてリアルタイムで入力された仮名漢字混じり文の文字コードを受信する手段と、所定の学習レベルに応じた漢字仮名辞書を用いて、受信した文字コードを所定の学習レベルでルビを付加する処理を行う手段を備える。また、付加されたルビの書式を設定する手段と、書式設定されたルビ付きの仮名漢字混じり文を字幕として出力するための手段とを備え、発話内容をリアルタイムで仮名漢字交じり文に変換すると共に、ルビを自動的に付加して提示する。
【０００９】
また、例えば特許文献７には、共有の画像上に、会議における発言者の音声を文字列化したものを自由に配置させることなどができ、会議参加者による会議のメモ作成を効果的に補助することができる情報処理装置が開示されている。具体的には、発言者が用いる端末装置にて、マイクで音声を入力して音声認識処理及び形態素解析を行ない、解析の結果得られる文字列を所定の条件にて抽出し、会議サーバ装置を介して他の複数の端末装置へと送信する。この他の端末装置では、受信した抽出された文字列を表示し、選択可能とすると共に、選択した文字列は、共有ドキュメントデータの画像上に重畳して表示する。
【００１０】
また、例えば特許文献８には、発言者の発言内容を、聞き手が容易に、且つ正確に理解することができる会議システム、情報処理装置、会議支援方法、情報処理方法、及びコンピュータプログラムが開示されている。具体的には、発言者が英語で発言した音声が音声認識される。聞き手が使用するディスプレイの字幕表示領域は、上半分が訳振り領域として用いられ、下半分が原文領域として用いられる。訳振り領域には、音声認識結果である原文に、該原文を日本語に翻訳した訳文がルビ状に併記された訳振り字幕が表示される。このように、原文及び訳文の両方を表示し、しかも、原文に含まれる単語または連語に、訳文として、この単語又は連語を翻訳した語句を表示するため、聞き手が理解し易く、また、誤訳に気付き易いとしている。更に、原文領域には、まだ翻訳されていない原文を含む原文字幕が表示する。
【００１１】
さらに、例えば特許文献９には、会議参加者の発話を所望の１又は複数の言語にリアルタイム翻訳する多言語多地点ビデオ会議システムが開示されている。具体的には、発話を含む音声ストリームがテキストに変換され、ビデオストリームに字幕として挿入される。発話は或る言語から別の言語に翻訳され、翻訳された発話がビデオストリームに挿入され、字幕を選ぶか、若しくは音声合成エンジンによって生成された別の言語の発話に、元の音声ストリームを置き換える。種々の会議参加者は、それぞれ会議参加者により提供された所望の言語の情報に基づく同じ発話の種々の翻訳を受信する。
【先行技術文献】
【特許文献】
【００１２】
【特許文献１】特開平１０−１３６３２７号公報
【特許文献２】特許第３４４６５３０号公報
【特許文献３】特開２００２−２６２２５１号公報
【特許文献４】特開２００５−２９５０１７号公報
【特許文献５】特開２００７−１８０８２８号公報
【特許文献６】特開２００８−１９１９７６号公報
【特許文献７】特開２０１１−０４３７１６号公報
【特許文献８】特開２０１１−１８２１２５号公報
【特許文献９】特開２０１１−２０９７３１号公報
【発明の概要】
【発明が解決しようとする課題】
【００１３】
ところで、上記背景技術で述べた従来のテレビ会議システムにあっては、テレビ会議の際に自動的に議事録を作成するためには、端末装置に固有の機能を利用して議事録を作成する手段が採用されている。即ち、このような端末装置に固有の機能を利用して議事録を作成する手段の場合、上記固有機能を統合するような標準規格が規定されていない。そのため、議事録作成手段は、メーカ毎、若しくは端末装置毎の固有機能に依存する形態となり、装置構成が異なるテレビ会議システム間では互換性が無かった。このため、例えば、メーカの異なる端末装置同士を同一の会議システムの構成要素として使用する際には、議事録を作成できなくなったり、会議での発言者の情報が入手できなくなったりするなどの、様々な制限を受ける場面が発生するという問題点が有った。
【００１４】
なお、前述の特許文献１に開示された技術は、音声を文字に変換して字幕表示したり、テキストとしてエディタに出力したりする周知の仕事を、端末装置側で処理するものである。また、前述の特許文献２に開示された技術は、端末装置側から発信する音声にデジタル透かしを含めることで、発言者情報を特定するものであり、端末装置側で処理していて、テレビ会議では一般的に用いられないデジタル透かし機能が必要となる。そのため、他機種との接続性が低くなる。また、前述の特許文献３に開示された技術は、会議の映像、音声を、サーバ側で保存するものである。また、音声認識手段による音声の文字化（テキストデータ化）は行っていないため、文字での議事録は作成されない。
【００１５】
また、前述の特許文献４に開示された技術は、テレビ会議において議事録を作成するものであるが、映像データの他に議事録データの送受信インタフェースが必要になり、この点において端末装置の機能に依存し、他機種との接続性が低い。また、前述の特許文献５に開示された技術では、議事録フォーマットに記録されるテキストデータと撮像した映像データとが分離されたまま、両者は各々異なる手段に依って表示される。また、前述の特許文献６に開示された技術では、テレビ会議の発言内容等のリアルタイムで入力された仮名漢字混じり文の文字コード（サーバ等で既に音声認識された結果）を受信して字幕提示する周知の仕事を、端末装置側の機能で処理している。そのため、他機種との接続性が低い。
【００１６】
また、前述の特許文献７に開示された技術では、テレビ会議の発言内容を音声認識によりテキストデータに変換するが、他の映像情報との編集機能までは有していない。また、音声認識等の仕事を、端末装置側の機能で処理しているため、他機種との接続性が低い。また、前述の特許文献８に開示された技術では、テレビ会議の英語の発言を訳し、字幕として表示する周知の仕事を、端末装置側で処理しているため、他機種との接続性が低い。さらに、前述の特許文献９に開示された技術は、会議参加者の発話を所望の１又は複数の言語にリアルタイム翻訳し、字幕または音声で表示する会議用の同時翻訳システムである。
【００１７】
本発明は、上記従来の問題点に鑑みてなされたものであって、異なるメーカや異なる機種の端末装置を接続することを可能にしたテレビ会議システム及び多地点接続装置並びにコンピュータプログラムを提供することを目的としている。本発明他の目的は、音声及び字幕付き映像の議事録作成を可能にすると共に該議事録作成に際して、会議参加者（話者）の言語を特定言語に限定する必要の無いテレビ会議システム及び多地点接続装置並びにコンピュータプログラムを提供することにある。
【課題を解決するための手段】
【００１８】
上記課題を解決するために、本発明に係るテレビ会議システムは、会議に使用する複数の端末装置の各々は、多地点接続装置との双方向通信が可能な通信接続を確立する手段と、自己の設置場所において採取された映像情報及び音声情報を多地点接続装置に送信する手段と、前記多地点接続装置から議事録情報を受信する手段と、前記議事録情報を再生する手段と、前記通信接続を切断する手段と、を備え、前記多地点接続装置は、前記複数の端末装置の各々との双方向通信が可能な通信接続を確立する手段と、前記通信接続を確立した通信相手である端末装置の各々を管理する接続相手管理手段と、前記端末装置の各々から映像情報及び音声情報を受信する手段と、前記複数の端末装置の各々から受信した音声情報の各々を所定の文字コード列に変換する手段と、前記所定の文字コード列の内容を、必要に応じて所定の言語の情報に翻訳して翻訳済の文字コード列を生成する手段と、前記文字コード列に対して、前記端末装置に対応する発言者の識別名及び発言時刻を追記して議事録情報を作成する手段と、前記受信した映像情報と音声情報とを合成して議事録情報を作成する手段と、前記議事録情報に対して、必要に応じて前記文字コード列を字幕情報として付加する手段と、前記議事録情報を前記複数の端末装置の各々に送信する手段と、前記通信接続を切断する手段と、を備えたことを特徴とする。
【００１９】
また、本発明に係る多地点接続装置は、会議に使用する複数の端末装置の各々との双方向通信が可能な通信接続を確立する手段と、前記通信接続を確立した通信相手である端末装置の各々を管理する接続相手管理手段と、前記端末装置の各々から映像情報及び音声情報を受信する受信手段と、前記複数の端末装置の各々から受信した音声情報の各々を所定の文字コード列に変換する音声認識手段と、前記所定の文字コード列の内容を、必要に応じて所定の言語の情報に翻訳して翻訳済の文字コード列を生成する手段と、前記文字コード列に対して、前記端末装置に対応する発言者の識別名及び発言時刻を追記して議事録情報を作成する手段と、前記受信した映像情報と音声情報とを合成して議事録情報を作成する手段と、前記議事録情報に対して、必要に応じて前記文字コード列を字幕情報として付加する手段と、前記議事録情報を前記複数の端末装置の各々に送信する手段と、前記通信接続を切断する手段と、を備えたことを特徴とする。
【００２０】
さらに、本発明のコンピュータプログラムは、多地点接続装置の制御をコンピュータに実行させるためのコンピュータプログラムであって、会議に使用する複数の端末装置の各々との双方向通信が可能な通信接続を確立するステップと、前記通信接続を確立した通信相手である端末装置の各々を管理する接続相手管理ステップと、前記端末装置の各々から映像情報及び音声情報を受信する受信ステップと、前記複数の端末装置の各々から受信した音声情報の各々を所定の文字コード列に変換する音声認識ステップと、前記所定の文字コード列の内容を、必要に応じて所定の言語の情報に翻訳して翻訳済の文字コード列を生成するステップと、前記文字コード列に対して、前記端末装置に対応する発言者の識別名及び発言時刻を追記して議事録情報を作成するステップと、前記受信した映像情報と音声情報とを合成して議事録情報を作成するステップと、前記議事録情報に対して、必要に応じて前記文字コード列を字幕情報として付加するステップと、前記議事録情報を前記複数の端末装置の各々に送信するステップと、前記通信接続を切断するステップと、を備えたことを特徴とする。
【発明の効果】
【００２１】
以上説明したように、本発明のテレビ会議システムによれば、異なるメーカや異なる機種の端末装置を接続することができる。また、音声及び字幕付き映像の議事録作成を可能にすると共に該議事録作成に際して、会議参加者（話者）の言語を特定言語に限定する必要の無いテレビ会議システムを提供することができる。
【図面の簡単な説明】
【００２２】
【図１】本発明の実施形態に係るテレビ会議システムの全体構成を示す構成図である。
【図２】本発明の実施形態に係るテレビ会議システムで使用される端末装置の構成を示す構成図である。
【図３】本発明の実施形態に係る多地点接続装置の構成を示す構成図である。
【図４】本発明の実施形態に係るテレビ会議システムの処理手順を１例として示すフローチャート図である。
【発明を実施するための形態】
【００２３】
本発明のテレビ会議システムは、テレビ会議の際に、テレビ会議参加者の居室に設置した複数の端末装置から出力された音声情報等の会議情報を多地点接続装置（以下、「ＭＣＵ」と略称する）で一括収集して議事録を作成するものである。より具体的には、ＭＣＵは接続する複数の端末装置の各々から収集した映像情報及び音声情報を基に、音声情報についてはテキストデータに変換する。そして、発言内容、発言者（氏名の他、愛称等の識別名であって良い）、及び発言時刻を記載した議事録を作成・記録する。また、テキストデータの議事録だけでなく、音声・映像の記録も可能であり、テキストデータを翻訳する場合には言語の制限無しで翻訳して議事録を作成すると共に、議事録内容を上記端末装置へ配信して会議映像として字幕付きで表示することも可能にしている。
【００２４】
以下、本発明のテレビ会議システム及び多地点接続装置並びにコンピュータプログラムについて、図面を参照して詳細に説明する。図１は、本発明の実施形態に係るテレビ会議システムの全体構成を示す構成図である。同図において、本実施形態のテレビ会議システムは、ＭＣＵ３１（本発明の実施形態に係る多地点接続装置）、テレビ会議参加者の居室に設置され、ＭＣＵ３１に接続された複数の端末装置（ここでは端末１１〜１ｎ）と、を備えて構成する。以下、本実施形態のテレビ会議システムの機能について説明する。本発明のテレビ会議システムは、議事録情報（映像情報及び音声情報）を端末１１〜１ｎで採取し、この採取した情報を基にＭＣＵ３１において音声情報及び字幕付き映像の議事録を作成する。即ち、テレビ会議に参加する全端末装置（ここでは端末１１〜１ｎ）の接続先はＭＣＵ３１である。このため、上記端末装置の機能には依存しないで議事録作成の課題を解決するものである。
【００２５】
他地点を結ぶテレビ会議に際しては、テレビ会議参加者の居室に設置された各端末装置（ここでは端末１１〜１ｎ）は、図１に示すようにＭＣＵ３１に接続する。但し、上記各端末装置同士の接続は無いものとする。図１に示す構成において、ＭＣＵ３１には会議に参加する全端末装置（ここでは端末１１〜１ｎ）から、映像情報と共に音声情報が送られて来る。ＭＣＵ３１では、この音声情報に基づく発言内容・発言者・発言時刻などの情報を取得して議事録を作成する。なお、この音声情報から、個々の具体的な発言内容を取得する際には、該音声情報に対して、ＭＣＵ３１が備える音声認識部３０７（後述）での処理を適用する。
【００２６】
図２は、本発明の実施形態に係るテレビ会議システムで使用される端末装置の構成を示す構成図である。同図に示す端末装置（ここでは端末１１〜１ｎ）は、映像・音声関連の処理を担う処理部として、送信部１０１、受信部１０２、及び再生部１０３を備える。また、接続関連の処理を担う処理部として、接続部１０４、切断部１０５、及び接続相手管理部１０６を備える。また、この他に図示しない制御部を備えるものとする。送信部１０１は、自装置で採取した映像・音声情報をＭＣＵ３１（図１）に送信する。また、受信部１０２は、ＭＣＵ３１から送信されて来た映像・音声情報を受信する。さらに、再生部１０３は、受信部１０２で受信した映像・音声情報を再生する。なお、接続部１０４は、ＭＣＵ３１との間の接続を行うことによってテレビ会議が実施できるようにし、切断部１０５は、ＭＣＵ３１との間の接続を切断することによってテレビ会議を閉鎖する。また、接続相手管理部１０６は、ＭＣＵ３１との接続状態（セッション）を管理する。
【００２７】
図３は、本発明の実施形態に係る多地点接続装置の構成を示す構成図である。同図に示す多地点接続装置（ここではＭＣＵ３１）は、映像・音声関連の処理を担う処理部として、送信部３０１、受信部３０２、及び合成部３０３を備える。また、接続関連の処理を担う処理部として、接続部３０４、切断部３０５、及び接続相手管理部３０６を備える。さらに、議事録・字幕関連の処理を担う処理部として、音声認識部３０７、議事録作成部３０８、及び字幕作成部３０９を備える。また、この他に図示しない制御部を備えるものとする。
【００２８】
送信部３０１は、自装置で採取した映像・音声情報を上記各端末装置（ここでは端末１１〜１ｎ）に送信する。また、受信部３０２は、上記各端末装置から送信されて来た映像・音声情報を受信する。なお、合成部３０３は、上記各端末装置（ここでは端末１１〜１ｎ）の各々から送られて来て受信部３０２にて受信した上記映像・音声情報を合成するものである。ここで合成した映像・音声情報は、送信部３０１を介して上記各端末装置（ここでは端末１１〜１ｎ）に送信する。なお、接続部３０４は、上記各端末装置（ここでは端末１１〜１ｎ）との間の接続を行うことによってテレビ会議が実施できるようにし、切断部３０５は、テレビ会議が閉鎖された際に、上記各端末装置（ここでは端末１１〜１ｎ）との間の接続を切断する。
【００２９】
また、接続相手管理部３０６は、上記各端末装置（ここでは端末１１〜１ｎ）との接続状態（セッション）を管理する。但し、接続相手管理部３０６による接続相手管理機能は、上記各端末装置（ここでは端末１１〜１ｎ）の、どの端末装置から、どの映像・音声情報が送られてきたかも併せて管理するものとする。音声認識部３０７は、並列処理構造を有し、受信部３０２が受信した上記各端末装置（ここでは端末１１〜１ｎ）からの音声情報の各々に対してリアルタイムでの音声認識を行い、その各々の結果をテキストデータとして取得する。また、それぞれ所定の文字コードに変換する。また、議事録作成部３０８は、上記の文字コードを基に、議事録を作成し、字幕作成部３０９は上記の文字コードを基に、字幕を作成する。このようにして作成した議事録若しくは字幕付き議事録は、リアルタイムに更新されることになるが、常時、アクセスを要求したユーザに対して、送信部３０１を介し、参照させることを可能にする。
【００３０】
この議事録の内容としては、発言者・発言内容・発言時刻などのリアルタイムに更新される情報に加え、会議開催時間など、会議全体の共通情報を含むことができる。さらに、この議事録には、議事録の内容に対応させて、発言者・発言内容に対応する上記文字コードを基にした文字情報を、上記の映像情報に併記することができる（字幕として合成することもできる）。これらの処理は、周知の映像の合成機能を利用して実現することができる。
【００３１】
以下、本発明の実施形態に係るテレビ会議システムの動作を説明する。各端末装置（ここでは端末１１〜１ｎ）はＭＣＵ３１に接続する。上記各端末装置が接続中、この各端末装置とＭＣＵ３１とは以下の（１）〜（４）項の処理を随時繰り返す。（１）各端末装置は、自己が設置されている場所で採取した映像・音声情報をＭＣＵ３１に送る。（２）ＭＣＵ３１は、上記各端末装置から送られた映像情報と音声情報との合成を行う。（３）ＭＣＵ３１は、合成された映像・音声情報を上記各端末装置に送信する。（４）上記各端末装置は、ＭＣＵ３１から送られた映像・音声情報を再生する。（５）会議終了と共に、上記各端末装置は、ＭＣＵ３１との接続を切断する。
【００３２】
図４は、本発明の実施形態に係るテレビ会議システムの処理手順を１例として示すフローチャート図である。以下、図１〜３を参照しながら、図４に示すフローチャートを使用して、本実施形態に係るテレビ会議システムの１例としての処理手順を説明する。（ステップＳ１）：まず、ステップＳ１では、ＭＣＵ３１の接続部３０４と、各端末装置（ここでは端末１１〜１ｎ）の接続部１０４とが、ＭＣＵ３１と上記各端末装置との間が互いに通信可能となるように通信接続を行う。（ステップＳ２）：次に、ステップＳ２では、ＭＣＵ３１は、議事録の作成を準備し、議事録の作成を開始する。（ステップＳ３）：次に、ステップＳ３では、ＭＣＵ３１は、受信部３０２を介して、上記各端末装置から映像情報と音声情報とを受信する。この映像・音声情報は、個々の端末装置が設置されている場所から当該端末装置によって採取されたものである。
【００３３】
（ステップＳ４）：次に、ステップＳ４では、ＭＣＵ３１は、受信した上記音声情報を所定のコード規格の文字コード列に変換する。（ステップＳ５）：次に、ステップＳ５では、ＭＣＵ３１は、上記変換で得られた文字コード列について、その所定言語への翻訳が必要か否かを検証し、上記所定言語への翻訳が必要な場合はステップＳ１４に移る。また、上記所定言語への翻訳が不要な場合はステップＳ６に進む。（ステップＳ６）：ステップＳ６では、ＭＣＵ３１は、議事録作成部３０８が、上記変換で得られた文字コード列の発言内容に、発言者・発言時刻を挿入し、議事録を作成する。この発言者は、話者認識手段を用いることなく、接続相手管理部３０６と受信部３０２との管理情報から議事録作成部３０８が判定する。
【００３４】
（ステップＳ７）：ステップＳ７では、ＭＣＵ３１は、合成部３０３が、受信した映像情報と音声情報とを合成する。（ステップＳ８）：ステップＳ８では、ＭＣＵ３１は、議事録作成部３０８が、上記作成した議事録の発言内容に字幕が必要か否かを検証し、上記字幕が必要である場合にはステップＳ１５に移る。また、上記字幕が不要である場合にはステップＳ９に進む。（ステップＳ９）：ステップＳ９では、ＭＣＵ３１は、上記議事録（即ち合成された映像・音声情報）を、上記各端末装置に送信する。（ステップＳ１０）：ステップＳ１０では、上記各端末装置は、受信部１０２が上記議事録を受信し、再生部１０３が上記受信した議事録を再生する。
【００３５】
（ステップＳ１１）：ステップＳ１１では、上記各端末装置は、テレビ会議が終了したか否かを検証し、テレビ会議か終了したと判断するとステップＳ１２に移る。また、テレビ会議が終了していないと判断するとステップＳ３に戻って、上記の一連の処理を繰り返す。（ステップＳ１２）：ステップＳ１２では、上記各端末装置の切断部１０５が、ＭＣＵ３１との通信接続を切断する。（ステップＳ１３）：ステップＳ１３では、ＭＣＵ３１が、切断部３０５によって上記各端末装置との通信接続を切断した後、上記議事録を編集及び整形し、その後、処理を終了する。（ステップＳ１４）：ステップＳ１４では、ＭＣＵ３１の議事録作成部３０８が、上記変換で得られた文字コード列について、その所定言語への翻訳を行い、その後、ステップＳ６に移る。（ステップＳ１５）：ステップＳ１５では、ＭＣＵ３１の合成部３０３が、上記議事録に対して字幕情報の合成を行い、その後、ステップＳ９に移る。
【００３６】
この実施形態に係るテレビ会議システムによれば、議事録作成に必要な処理はＭＣＵ３１にて一括して行うので、ＭＣＵ３１に接続する端末装置の種類や機能に依存しないで議事録を作成することができる効果が有る。また、端末装置側には議事録作成のための機能が不要となる効果が有る。より詳細には、ＭＣＵ３１にて発言者や発言内容をテレビ会議の映像に合成する（埋め込む）ことにより、端末装置の種類や機能に依存しないで発言者の発言内容を字幕表示することができる効果が有る。このため、端末装置としては、映像中の字幕の有無に関わらず、ＭＣＵ３１から送られてくる映像情報を処理するだけで良く、字幕処理のための特別な追加機能は必要が無くなる効果が得られる。
【００３７】
また、音声情報を文字化する際の確度を向上させることができる効果や、発言者を判別する際の判別精度を向上させることができる効果が有る。一般に、端末装置で議事録を作成する場合、テレビ会議システムの方式（ＭＣＵの有無など）にもよるが、各端末装置からの音声も合成された合成済みの音声情報に対して音声認識を行うことになる。しかし、この合成済みの音声情報は、ノイズが多く、またノイズレベルも大きいので、複数の発言者の発言が混ざるため、文字化・発言者の判別の精度が落ちる傾向が有る。
【００３８】
一方、本発明のテレビ会議システムの場合、ＭＣＵ３１にて議事録を作成する際には、各端末装置からの音声情報（よって未だ合成されていない）に対して、並列処理構造により、それぞれ音声認識を行うことができる。このようにして、認識精度が高くなり、信頼性の高い文字化が可能となる効果が得られる。また、ＭＣＵ３１では、接続相手管理部３０６を介して、どの音声情報がどの端末装置から入力されたかが認識できるため、端末装置対応の発言者の特定も可能となる効果が有る。さらに、議事録に加えて、音声・映像も交えた会議データの記録が可能となる効果が有る。即ち、これまでの各端末装置に分散した管理ではなく、中央で一括して集中管理することにより、会議データの効率的な管理が可能となる効果が有る。
【００３９】
なお、本発明に係るテレビ会議システムの各構成要素の処理の少なくとも一部をコンピュータ制御により実行するものとする。かつ、上記処理を、図４のフローチャートで示した手順によりコンピュータに実行せしめるプログラムは、半導体メモリを始め、ＣＤ−ＲＯＭや磁気テープなどのコンピュータ読み取り可能な記録媒体に格納して配付してもよい。そして、少なくともマイクロコンピュータ、パーソナルコンピュータ、汎用コンピュータを範疇に含むコンピュータが、上記の記録媒体から上記プログラムを読み出して、実行するものとしてもよい。
【００４０】
上記の実施形態の一部、又は全部は、以下の付記のようにも記載され得るが、以下には限られない。
【００４１】
（付記１）会議に使用する複数の端末装置の各々は、多地点接続装置との双方向通信が可能な通信接続を確立する手段と、自己の設置場所において採取された映像情報及び音声情報を多地点接続装置に送信する手段と、前記多地点接続装置から議事録情報を受信する手段と、前記議事録情報を再生する手段と、前記通信接続を切断する手段とを備え、前記多地点接続装置は、前記複数の端末装置の各々との双方向通信が可能な通信接続を確立する手段と、前記通信接続を確立した通信相手である端末装置の各々を管理する接続相手管理手段と、前記端末装置の各々から映像情報及び音声情報を受信する手段と、前記複数の端末装置の各々から受信した音声情報の各々を所定の文字コード列に変換する手段と、前記所定の文字コード列の内容を、必要に応じて所定の言語の情報に翻訳して翻訳済の文字コード列を生成する手段と、前記文字コード列に対して、前記端末装置に対応する発言者の識別名及び発言時刻を追記して議事録情報を作成する手段と、前記受信した映像情報と音声情報とを合成して議事録情報を作成する手段と、前記議事録情報に対して、必要に応じて前記文字コード列を字幕情報として付加する手段と、前記議事録情報を前記複数の端末装置の各々に送信する手段と、前記通信接続を切断する手段とを備えるテレビ会議システム。
【００４２】
（付記２）会議に使用する複数の端末装置の各々との双方向通信が可能な通信接続を確立する手段と、前記通信接続を確立した通信相手である端末装置の各々を管理する接続相手管理手段と、前記端末装置の各々から映像情報及び音声情報を受信する受信手段と、前記複数の端末装置の各々から受信した音声情報の各々を所定の文字コード列に変換する音声認識手段と、前記所定の文字コード列の内容を、必要に応じて所定の言語の情報に翻訳して翻訳済の文字コード列を生成する手段と、前記文字コード列に対して、前記端末装置に対応する発言者の識別名及び発言時刻を追記して議事録情報を作成する手段と、前記受信した映像情報と音声情報とを合成して議事録情報を作成する手段と、前記議事録情報に対して、必要に応じて前記文字コード列を字幕情報として付加する手段と、前記議事録情報を前記複数の端末装置の各々に送信する手段と、前記通信接続を切断する手段とを備える多地点接続装置。
【００４３】
（付記３）前記音声認識手段は、前記受信した音声情報の音声認識処理を並列に行うことが可能な並列処理構造を有する請求項２に記載の多地点接続装置。
【００４４】
（付記４）前記端末装置に対応する発言者の識別名は、前記接続相手管理手段及び前記受信手段での処理結果を参照して決定する請求項２に記載の多地点接続装置。
【００４５】
（付記５）多地点接続装置の制御をコンピュータに実行させるためのコンピュータプログラムであって、会議に使用する複数の端末装置の各々との双方向通信が可能な通信接続を確立するステップと、前記通信接続を確立した通信相手である端末装置の各々を管理する接続相手管理ステップと、前記端末装置の各々から映像情報及び音声情報を受信する受信ステップと、前記複数の端末装置の各々から受信した音声情報の各々を所定の文字コード列に変換する音声認識ステップと、前記所定の文字コード列の内容を、必要に応じて所定の言語の情報に翻訳して翻訳済の文字コード列を生成するステップと、前記文字コード列に対して、前記端末装置に対応する発言者の識別名及び発言時刻を追記して議事録情報を作成するステップと、前記受信した映像情報と音声情報とを合成して議事録情報を作成するステップと、前記議事録情報に対して、必要に応じて前記文字コード列を字幕情報として付加するステップと、前記議事録情報を前記複数の端末装置の各々に送信するステップと、前記通信接続を切断するステップとを備えるコンピュータプログラム。
【符号の説明】
【００４６】
１１〜１ｎ  端末装置
３１  ＭＣＵ（本発明の実施形態に係る多地点接続装置）
１０１  送信部
１０２  受信部
１０３  再生部
１０４  接続部
１０５  切断部
１０６  接続相手管理部
３０１  送信部
３０２  受信部
３０３  合成部
３０４  接続部
３０５  切断部
３０６  接続相手管理部
３０７  音声認識部
３０８  議事録作成部
３０９  字幕作成部
【図１】
2013201505.tif 000003
【図２】
2013201505.tif 000004
【図３】
2013201505.tif 000005
【図４】
2013201505.tif 000006