(57)【要約】【課題】リアルタイムでの要約筆記を実現するに際しての、導入障壁の緩和と、データ保証とを図り得る、要約筆記支援システム、要約筆記支援サーバ、要約筆記支援方法、及びプログラムを提供する。【解決手段】要約筆記支援サーバ１００、要約筆記を行なう筆記者が使用する筆記者用端末装置４００、利用者が使用する利用者用端末装置３００、データ配信用端末装置２００を用いる。データ配信用端末装置２００は、音声データ及び映像データを、自身が発行した番号と共に、各装置に同時に送信する。筆記者用端末装置４００は、テキストデータを、自身が発行した番号と共に、各装置に同時に送信する。要約筆記支援サーバ１００は、送信番号が登録済の番号よりも大きい場合は、それを登録して全端末装置に通知し、送信番号が登録済みの番号以下である場合は、１を加算した加算値を登録し、これを全端末装置に通知する。【選択図】図１
2014191703.tif 000002
【特許請求の範囲】
【請求項１】
話者の発話の要約筆記を支援するためのシステムであって、
要約筆記支援サーバと、前記要約筆記を行なう筆記者が使用する筆記者用端末装置と、前記要約筆記の利用者が使用する利用者用端末装置と、データ配信用端末装置と、を備え、
前記データ配信用端末装置は、
前記発話の音声データ及び前記話者に関連する映像データを、自身が発行した番号と共に、前記要約筆記支援サーバ、前記筆記者用端末装置、及び前記利用者用端末装置に同時に送信し、
前記筆記者用端末装置は、
前記筆記者によって入力されたテキストデータを、自身が発行した番号と共に、前記要約筆記支援サーバ、前記データ配信用端末装置、及び前記利用者用端末装置に同時に送信し、
前記要約筆記支援サーバは、
前記音声データ、前記映像データ、又は前記テキストデータを受信すると、共に送信されてきた番号を登録し、
その際、送信されてきた番号が登録済の最新の番号よりも大きい場合は、送信されてきた前記番号を登録された番号として、全ての端末装置に通知し、
一方、送信されてきた番号が登録済みの最新の番号以下である場合は、送信されてきた番号の登録を行なわずに、代わりに、送信されてきた番号に１を加算して得られた加算値を登録し、登録した加算値を全ての端末装置に通知する、
ことを特徴とする要約筆記支援システム。
【請求項２】
前記要約筆記支援サーバ、前記筆記者用端末装置、前記利用者用端末装置、及び前記データ配信用端末装置ぞれぞれは、ＵＤＰで規定されたデータ通信を実行できる機能を備え、
前記データ配信用端末装置は、前記機能を用いて、前記音声データ及び前記映像データを送信し、
前記筆記者用端末装置は、前記機能を用いて、前記テキストデータを送信し、
前記要約筆記支援サーバは、前記機能を用いて、全ての端末装置に通知を行なう、
請求項１に記載の要約筆記支援システム。
【請求項３】
前記データ配信用端末装置が、前記機能を用いて、前記音声データ及び前記映像データを前記筆記者用端末装置に送信できない場合に、前記要約筆記支援サーバを経由して、前記音声データ及び前記映像データを前記筆記者用端末装置に送信する、
請求項２に記載の要約筆記支援システム。
【請求項４】
前記データ配信用端末装置、前記筆記者用端末装置、及び前記利用者用端末装置それぞれが、前記要約筆記支援サーバによって通知された番号を登録し、
番号を発行する場合は、自身が登録している最新の番号に１を加算した値を番号として発行し、
更に、その後、前記要約筆記支援サーバによって通知された番号が、自身が発行した番号と異なる場合は、他の端末装置にデータの再送信を要求する、
請求項１〜３のいずれかに記載の要約筆記支援システム。
【請求項５】
前記要約筆記支援サーバが、前記筆記者用端末装置、前記利用者用端末装置、及び前記データ配信用端末装置それぞれの接続先を取得し、それぞれに他の端末装置の接続先を通知する、
請求項１〜４のいずれかに記載の要約筆記支援システム。
【請求項６】
話者の発話の要約筆記を支援するためのサーバであって、データ順序管理部を備え、
前記データ順序管理部は、
データ配信用端末装置が、前記発話の音声データ及び前記話者に関連する映像データを、自身が発行した番号と共に送信してきた場合、及び、前記要約筆記を行なう筆記者が使用する筆記者用端末装置が、前記筆記者によって入力されたテキストデータを、自身が発行した番号と共に送信してきた場合に、送信されてきた番号を登録し、
その際、送信されてきた番号が登録済の最新の番号よりも大きい場合は、送信されてきた前記番号を登録された番号として、前記データ配信用端末装置、前記筆記者用端末装置、及び前記要約筆記の利用者が使用する利用者用端末装置に通知し、
一方、送信されてきた番号が登録済みの最新の番号以下である場合は、送信されてきた番号の登録を行なわずに、代わりに、送信されてきた番号に１を加算して得られた加算値を登録し、登録した加算値を、前記データ配信用端末装置、前記筆記者用端末装置、及び前記利用者用端末装置に通知する、
ことを特徴とする要約筆記支援サーバ。
【請求項７】
話者の発話の要約筆記を支援するための方法であって、
要約筆記支援サーバと、前記要約筆記を行なう筆記者が使用する筆記者用端末装置と、前記要約筆記の利用者が使用する利用者用端末装置と、データ配信用端末装置とを用いて、
（ａ）前記データ配信用端末装置によって、
前記発話の音声データ及び前記話者に関連する映像データを、自身が発行した番号と共に、前記要約筆記支援サーバ、前記筆記者用端末装置、及び前記利用者用端末装置に同時に送信する、ステップと、
（ｂ）前記筆記者用端末装置によって、
前記筆記者によって入力されたテキストデータを、自身が発行した番号と共に、前記要約筆記支援サーバ、前記データ配信用端末装置、及び前記利用者用端末装置に同時に送信する、ステップと、
（ｃ）前記要約筆記支援サーバによって、
前記音声データ、前記映像データ、又は前記テキストデータを受信すると、共に送信されてきた番号を登録し、
その際、送信されてきた番号が登録済の最新の番号よりも大きい場合は、送信されてきた前記番号を登録された番号として、全ての端末装置に通知し、
一方、送信されてきた番号が登録済みの最新の番号以下である場合は、送信されてきた番号の登録を行なわずに、代わりに、送信されてきた番号に１を加算して得られた加算値を登録し、登録した加算値を全ての端末装置に通知する、ステップと、
を有することを特徴とする要約筆記支援方法。
【請求項８】
コンピュータによって、話者の発話の要約筆記を支援するためのプログラムであって、
前記コンピュータに、
（ａ）データ配信用端末装置が、前記発話の音声データ及び前記話者に関連する映像データを、自身が発行した番号と共に送信してきた場合、及び、前記要約筆記を行なう筆記者が使用する筆記者用端末装置が、前記筆記者によって入力されたテキストデータを、自身が発行した番号と共に送信してきた場合に、送信されてきた番号を登録し、
その際、送信されてきた番号が登録済の最新の番号よりも大きい場合は、送信されてきた前記番号を登録された番号として、前記データ配信用端末装置、前記筆記者用端末装置、及び前記要約筆記の利用者が使用する利用者用端末装置に通知し、
一方、送信されてきた番号が登録済みの最新の番号以下である場合は、送信されてきた番号の登録を行なわずに、代わりに、送信されてきた番号に１を加算して得られた加算値を登録し、登録した加算値を、前記データ配信用端末装置、前記筆記者用端末装置、及び前記利用者用端末装置に通知する、
ステップを実行させるプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、話者の発話の要約筆記を支援するための、要約筆記支援システム、要約筆記支援サーバ、要約筆記支援方法、及びこれらを実現するためのプログラムに関する。
【背景技術】
【０００２】
両耳の聴力がマイナス１００デシベル以上の聴覚障がい者（以下、単に「聴覚障がい者」と記す）は、補聴器等を付けても、ほとんど音声中の言語情報を受けとることができない。このため従来から、聴覚障がい者が講演及び学校での授業等を聴講する場合、手話通訳者を付ける場合と、要約筆記通訳者を付ける場合とがあった。
【０００３】
このうち、要約筆記通訳者を付ける場合には、通常、聴覚障がい者１人に対して、例えば学校での授業であれば、要約筆記通訳者が２人以上付けられる。そして、これらの要約筆記者は、先生の話す内容などを、ＰＣ（Personal Computer）又は紙のノート等によって文字化し、これを聴覚障がい者に対して提示する。なお、要約筆記通訳者が２人以上必要となるのは、要約筆記作業は負担が大きく、１人では要約精度が低下しやすいからである。
【０００４】
ところで、１８歳以下の聴覚障がい学生が平成２０年度の厚生労働省の調べでは全国で約２万人存在し、それに対し、正式に登録されている要約筆記通訳者は全国で約１万人である。その上で、聴覚障がい学生１人に対して２人以上の要約筆記通訳者が付くとすると、支援を受けることが可能な聴覚障がい学生は、単純に計算しても１／４である。さらに、地域によって要約筆記通訳者の数及び聴覚障がい学生の数には、ばらつきがある。これらの理由から、より少ない人数の聴覚障がい学生しか、学校において支援を受けることが出来ないのが現状である。
【０００５】
そこで、要約筆記を行う際に、要約筆記者が、聴覚障がい者の隣席まで行かなくても支援を行なえるようにするシステムが種々提案されている（例えば、非特許文献１参照）。このシステムでは、遠隔地からインターネットを介して、要約筆記通訳者に、教室の音声と映像とが配信されるので、要約筆記者は、自宅又は外出先等で要約筆記による支援を行なうことができる。また、このシステムでは、教室にいる聴覚障がい学生のパソコン等の画面に、要約筆記の結果が表示される。
【先行技術文献】
【非特許文献】
【０００６】
【非特許文献１】“ユビキタス社会における情報アクセシビリティー「インターネットを活用した『どこでも情報保護』の提案」”、[online]、平成１８年、要約筆記サークル「ラルゴ」、[平成25年3月1日検索]、インターネット<http://www.geocities.jp/shigeaki_kurita/largo/largo_report2006_ubiquitous.pdf>
【発明の概要】
【発明が解決しようとする課題】
【０００７】
しかしながら、非特許文献１においては、遠隔からの要約筆記通訳を可能にする種々のシステムが開示されているが、これらのシステムには、コスト面及び技術面で導入が難しいという問題、データの担保が不安定であるという問題が存在している。
【０００８】
本発明の目的の一例は、上記問題を解消し、リアルタイムでの要約筆記を実現するに際しての、導入障壁の緩和と、データ保証とを図り得る、要約筆記支援システム、要約筆記支援サーバ、要約筆記支援方法、及びプログラムを提供することにある。
【課題を解決するための手段】
【０００９】
上記目的を達成するため、本発明の一側面における要約筆記支援システムは、話者の発話の要約筆記を支援するためのシステムであって、
要約筆記支援サーバと、前記要約筆記を行なう筆記者が使用する筆記者用端末装置と、前記要約筆記の利用者が使用する利用者用端末装置と、データ配信用端末装置と、を備え、
前記データ配信用端末装置は、
前記発話の音声データ及び前記話者に関連する映像データを、自身が発行した番号と共に、前記要約筆記支援サーバ、前記筆記者用端末装置、及び前記利用者用端末装置に同時に送信し、
前記筆記者用端末装置は、
前記筆記者によって入力されたテキストデータを、自身が発行した番号と共に、前記要約筆記支援サーバ、前記データ配信用端末装置、及び前記利用者用端末装置に同時に送信し、
前記要約筆記支援サーバは、
前記音声データ、前記映像データ、又は前記テキストデータを受信すると、共に送信されてきた番号を登録し、
その際、送信されてきた番号が登録済の最新の番号よりも大きい場合は、送信されてきた前記番号を登録された番号として、全ての端末装置に通知し、
一方、送信されてきた番号が登録済みの最新の番号以下である場合は、送信されてきた番号の登録を行なわずに、代わりに、送信されてきた番号に１を加算して得られた加算値を登録し、登録した加算値を全ての端末装置に通知する、
ことを特徴とする。
【００１０】
上記目的を達成するため、本発明の一側面における要約筆記支援サーバは、話者の発話の要約筆記を支援するためのサーバであって、データ順序管理部を備え、
前記データ順序管理部は、
データ配信用端末装置が、前記発話の音声データ及び前記話者に関連する映像データを、自身が発行した番号と共に送信してきた場合、及び、前記要約筆記を行なう筆記者が使用する筆記者用端末装置が、前記筆記者によって入力されたテキストデータを、自身が発行した番号と共に送信してきた場合に、送信されてきた番号を登録し、
その際、送信されてきた番号が登録済の最新の番号よりも大きい場合は、送信されてきた前記番号を登録された番号として、前記データ配信用端末装置、前記筆記者用端末装置、及び前記要約筆記の利用者が使用する利用者用端末装置に通知し、
一方、送信されてきた番号が登録済みの最新の番号以下である場合は、送信されてきた番号の登録を行なわずに、代わりに、送信されてきた番号に１を加算して得られた加算値を登録し、登録した加算値を、前記データ配信用端末装置、前記筆記者用端末装置、及び前記利用者用端末装置に通知する、
ことを特徴とする。
【００１１】
また、上記目的を達成するため、本発明の一側面における要約筆記支援方法は、話者の発話の要約筆記を支援するための方法であって、
要約筆記支援サーバと、前記要約筆記を行なう筆記者が使用する筆記者用端末装置と、前記要約筆記の利用者が使用する利用者用端末装置と、データ配信用端末装置とを用いて、
（ａ）前記データ配信用端末装置によって、
前記発話の音声データ及び前記話者に関連する映像データを、自身が発行した番号と共に、前記要約筆記支援サーバ、前記筆記者用端末装置、及び前記利用者用端末装置に同時に送信する、ステップと、
（ｂ）前記筆記者用端末装置によって、
前記筆記者によって入力されたテキストデータを、自身が発行した番号と共に、前記要約筆記支援サーバ、前記データ配信用端末装置、及び前記利用者用端末装置に同時に送信する、ステップと、
（ｃ）前記要約筆記支援サーバによって、
前記音声データ、前記映像データ、又は前記テキストデータを受信すると、共に送信されてきた番号を登録し、
その際、送信されてきた番号が登録済の最新の番号よりも大きい場合は、送信されてきた前記番号を登録された番号として、全ての端末装置に通知し、
一方、送信されてきた番号が登録済みの最新の番号以下である場合は、送信されてきた番号の登録を行なわずに、代わりに、送信されてきた番号に１を加算して得られた加算値を登録し、登録した加算値を全ての端末装置に通知する、ステップと、
を有することを特徴とする。
【００１２】
更に、上記目的を達成するため、本発明の一側面におけるプログラムは、コンピュータによって、話者の発話の要約筆記を支援するためのプログラムであって、
前記コンピュータに、
（ａ）データ配信用端末装置が、前記発話の音声データ及び前記話者に関連する映像データを、自身が発行した番号と共に送信してきた場合、及び、前記要約筆記を行なう筆記者が使用する筆記者用端末装置が、前記筆記者によって入力されたテキストデータを、自身が発行した番号と共に送信してきた場合に、送信されてきた番号を登録し、
その際、送信されてきた番号が登録済の最新の番号よりも大きい場合は、送信されてきた前記番号を登録された番号として、前記データ配信用端末装置、前記筆記者用端末装置、及び前記要約筆記の利用者が使用する利用者用端末装置に通知し、
一方、送信されてきた番号が登録済みの最新の番号以下である場合は、送信されてきた番号の登録を行なわずに、代わりに、送信されてきた番号に１を加算して得られた加算値を登録し、登録した加算値を、前記データ配信用端末装置、前記筆記者用端末装置、及び前記利用者用端末装置に通知する、
ステップを実行させることを特徴とする。
【発明の効果】
【００１３】
以上のように本発明によれば、リアルタイムでの要約筆記を実現するに際しての、導入障壁の緩和と、データ保証とを図ることができる。
【図面の簡単な説明】
【００１４】
【図１】図１は、本発明の実施の形態における要約筆記支援システムの全体構成を示す図である。
【図２】図２は、本発明の実施の形態における要約筆記支援システムの構成を示すブロック図である。
【図３】図３は、本発明の実施の形態において要約筆記支援サーバが取得する接続情報の一例を示す図である。
【図４】図４は、本発明の実施の形態における要約筆記支援システムにおける相互接続からデータ配信までの動作の一例を示すシーケンス図である。
【図５】図５は、本発明の実施の形態における要約筆記支援システムにおける相互接続からデータ配信までの動作の他の例を示すシーケンス図である。
【図６】図６は、本発明の実施の形態における要約筆記支援システムにおける通信途中でデータがロストした場合の復旧処理時の動作の一例を示すシーケンス図である。
【図７】図７は、本発明の実施の形態における要約筆記支援サーバの動作を示すフロー図である。
【図８】図８は、本発明の実施の形態におけるデータ配信用端末装置の動作を示すフロー図である。
【図９】図９は、本発明の実施の形態における利用者用端末装置の動作を示すフロー図である。
【図１０】図１０は、本発明の実施の形態における筆記者用端末装置の動作を示すフロー図である。
【図１１】図１１は、本発明の実施の形態における要約筆記支援サーバを実現するコンピュータの一例を示すブロック図である。
【発明を実施するための形態】
【００１５】
（発明の概要）
本発明では、要約筆記を行なう筆記者が使用する筆記者用端末装置と、要約筆記の利用者が使用する利用者用端末装置と、データ配信用端末装置と、要約筆記支援サーバとが用いられる。これらは、互いにインターネット等のネットワークを介して接続される。
【００１６】
そして、データ配信用端末装置から、発話の音声データ及び話者に関連する映像データが配信され、更に、筆記者の端末装置から、要約筆記の結果であるテキストデータが配信される。聴覚障がい者である利用者は、利用者用端末装置において、映像を見ながら、要約筆記によるテキストを確認することができる。
【００１７】
本発明によれば、遠隔から、聴覚障がい者向けに要約筆記による通訳支援を行なうことができ、利用者は、リアルタイムで、文字情報と連携した画像情報の提供を受けることが可能となる。
【００１８】
（実施の形態）
以下、本発明の実施の形態における、要約筆記支援システム、要約筆記支援サーバ、要約筆記支援方法、及びサーバについて、図１〜図１１を参照しながら説明する。
【００１９】
［システム構成］
最初に、図１を用いて、本実施の形態における要約筆記支援システムのシステム構成について説明する。図１は、本発明の実施の形態における要約筆記支援システムの全体構成を示す図である。
【００２０】
図１に示す本実施の形態における要約筆記支援システム５００は、話者２１０の発話の要約筆記を支援するためのシステムである。図１に示すように、要約筆記支援システム５００は、要約筆記支援サーバ１００と、要約筆記を行なう筆記者４１０が使用する筆記者用端末装置４００と、要約筆記の利用者３１０が使用する利用者用端末装置３００と、データ配信用端末装置２００とを備えている。
【００２１】
データ配信用端末装置２００は、発話の音声データ及び話者２１０に関連する映像データを、自身が発行した番号と共に、要約筆記支援サーバ１００、筆記者用端末装置４００、及び利用者用端末装置３００に同時に送信する。
【００２２】
筆記者用端末装置４００は、筆記者４１０によって入力されたテキストデータを、自身が発行した番号と共に、要約筆記支援サーバ１００、データ配信用端末装置２００、及び利用者用端末装置３００に同時に送信する。
【００２３】
また、要約筆記支援サーバ１００は、音声データ、映像データ、又はテキストデータを受信すると、それらと共に送信されてきた番号を登録する。
【００２４】
但し、要約筆記支援サーバ１００は、登録の際、送信されてきた番号が登録済の最新の番号よりも大きい場合は、送信されてきた番号を登録された番号として、全ての端末装置２００〜４００に通知する。
【００２５】
一方、要約筆記支援サーバ１００は、登録の際、送信されてきた番号が登録済みの最新の番号以下である場合は、送信されてきた番号の登録を行なわずに、代わりに、送信されてきた番号に１を加算して得られた加算値を登録する。その後、要約筆記支援サーバ１００は、登録した加算値を、全ての端末装置２００〜４００に通知する。
【００２６】
このように、本実施の形態では、端末装置とサーバとをネットワークを介して相互に接続するだけで、要約筆記支援のためのシステムを構築でき、システムの導入障壁は緩和される。また、データの送信が同時に行なえるようにネットワークが構築されているため、リアルタイムでの遠隔地からの要約筆記が実現される。更に、要約筆記支援サーバは、送信されてくるデータを番号で管理してデータの保証を行なっているため、データが担保されている。
【００２７】
具体的には、本実施の形態では、筆記者用端末装置４００、利用者用端末装置３００、及びデータ配信用端末装置２００は、それぞれが所属するネットワークから、インターネットを介して要約筆記支援サーバ１００に接続される。また、要約筆記支援サーバ１００、筆記者用端末装置４００、利用者用端末装置３００、及びデータ配信用端末装置２００は、ぞれぞれは、ＵＤＰ（User Datagram Protocol）で規定されたデータ通信を実行できる通信機能を備えている。
【００２８】
つまり、本実施の形態では、端末装置及びサーバの相互間は、ネットワークアドレストランスレータ（ＮＡＴ：Network Address Translator）技術を拡張した通信方式、例えばＵＤＰホールパンチングによってピアツーピア（Ｐ２Ｐ）で相互に接続される。これにより、マルチメディアデータを相互に送受信できるようになるので、高速、且つリアルタイムで、音声データ、映像データ、及びテキストデータの配信が可能となる。なお、ＵＤＰホールパンチングとは、プライベートネットワーク内にある端末装置同士が、インターネット経由で双方方向のコネクションを確立するための手法をいう。
【００２９】
そして、データ配信用端末装置２００は、この通信機能を用いて、音声データ及び映像データを送信する。また、筆記者用端末装置４００は、この通信機能を用いて、テキストデータを送信する。要約筆記支援サーバ１００は、この通信機能を用いて、全ての端末装置に通知を行なう。
【００３０】
但し、このように、ＵＤＰ／ＩＰが利用されるため、通信プロトコル自体でのデータの保証が行われないので、上述したように、要約筆記支援サーバ１００によってデータの保証が行なわれている。また、本実施の形態では、データの保証を確実にするため、データ配信用端末装置２００、筆記者用端末装置４００、及び利用者用端末装置３００それぞれも、要約筆記支援サーバ１００によって通知された番号を登録する。
【００３１】
そして、各端末装置は、番号を発行する場合は、自身が登録している最新の番号に１を加算した値を番号（以降「仮番号」と表記する。）として発行する。また、各端末装置は、仮番号の発行後に、要約筆記支援サーバ１００によって通知された番号が、仮番号と異なる場合は、受信していないデータが存在すると判断し、他の端末装置にデータの再送信を要求する。
【００３２】
また、本実施の形態では、データ配信用端末装置２００は、上述の通信機能を用いて、音声データ及び映像データを筆記者用端末装置４００に送信できない場合に、要約筆記支援サーバ１００を経由して、音声データ及び映像データを筆記者用端末装置４００に送信することができる。筆記者用端末装置４００は、遠隔に存在する場合があり、そのネットワーク環境によっては、データ配信用端末装置２００から音声データ及び映像データを送信できない場合があるからである。
【００３３】
更に、本実施の形態では、要約筆記支援サーバ１００は、筆記者用端末装置４００、利用者用端末装置３００、及びデータ配信用端末装置２００、それぞれの接続先を取得し、それぞれに他の端末装置の接続先を通知することができる。この場合は、後述するように、各端末装置は、通知に基づいて相互接続を行なう。
【００３４】
また、図１の例では、筆記者用端末装置４００は、１つのみが図示されているが、本実施の形態における要約筆記支援システム５００において、筆記者用端末装置４００の数は限定されるものではない。本実施の形態では、筆記者用端末装置４００は、要約筆記を行なう筆記者４１０の数だけ備えられれば良い。また、利用者用端末装置３００の数も限定されず、利用者用端末装置３００も利用者３１０の数だけ備えられれば良い。
【００３５】
また、図１に示すように、本実施の形態では、データ配信用端末装置２００には、映像入力装置１０と、音声入力装置２０とが接続されている。具体的には、映像入力装置１０は、講義風景等を撮影するカメラであり、映像データ（動画データ）をデータ配信用端末装置２００へと出力する。また、音声入力装置２０は、マイクであり、講師を含む話者２１０の発話の音声を音声データに変換し、変換した音声データをデータ配信用端末装置２０へと出力する。
【００３６】
続いて、図２及び図３を用いて、本実施の形態における要約筆記支援システムの具体的構成について説明する。図２は、本発明の実施の形態における要約筆記支援システムの構成を示すブロック図である。
【００３７】
［システム構成：要約筆記支援サーバ］
図２に示すように、要約筆記支援サーバ１００は、外部からのデータを受信する受信部１０１と、接続先管理部１０２と、データ順序管理部１０３と、データを送信する送信部１０４と、接続情報格納部１０５とを備えている。
【００３８】
このうち、接続先管理部１０２は、受信部１０１が、筆記者用端末装置４００、利用者用端末装置３００、及びデータ配信用端末装置２００それぞれから、接続先を示す接続情報を取得すると、取得した接続情報を接続情報格納部１０５に格納する。
【００３９】
図３は、本発明の実施の形態において要約筆記支援サーバが取得する接続情報の一例を示す図である。図３に示すように、接続情報は、各端末装置のインターネット側出口を示すグローバルＩＰアドレス、各端末装置を示すＰＯＲＴ番号（１）、各端末装置の所属するネットワークでのローカルＩＰアドレス、及び各端末装置が所属するネットワークで接続されているＰＯＲＴ番号（２）とで構成されている。
【００４０】
また、接続先管理部１０２は、例えば、データ配信用端末装置２００から、データ配信の開始通知（例えば、授業開始の通知）を受信すると、接続されている各端末装置に対して、登録されている接続先情報を、送信部１０４を介して送信する。これにより、各端末装置には、他の端末装置の接続先が通知される。
【００４１】
また、データ順序管理部１０３は、データ配信用端末装置２００からの音声データ及び映像データを受信し、筆記者用端末装置４００からテキストデータを受信すると、これらに付加された仮番号を取得する。そして、データ順序管理部１０３は、取得した仮番号が、登録済の最新の番号よりも大きいかどうかを判定する。
【００４２】
そして、データ順序管理部１０３は、判定の結果、仮番号が最新の登録済の番号よりも大きい場合は、送信されてきた仮番号を登録し、登録した番号を、全ての端末装置２００〜４００に通知する。一方、データ順序管理部１０３は、判定の結果、仮番号が最新の登録済の番号以下である場合は、送信されてきた仮番号の登録を行なわずに、この仮番号に１を加算し、得られた加算値を登録する。そして、データ順序管理部１０３は登録した加算値を全ての端末装置２００〜４００に通知する。
【００４３】
［システム構成：データ配信用端末装置］
図２に示すように、データ配信用端末装置２００は、映像入力部２０１と、音声入力部２０２と、送信部２０３と、受信部２０４と、表示部２０５とを備えている。また、データ配信用端末装置２００には、上述した、映像入力装置１０と音声入力装置２０とに加えて、液晶表示装置等の表示装置４０も接続されている。なお、映像入力装置１０、音声入力装置２０、表示装置４０は、データ配信用端末装置２００に内蔵されていても良い。
【００４４】
映像入力部２０１は、映像入力装置１０から出力されてきた映像データを受け取り、これを送信部２０３に入力する。また、音声入力部２０２は、音声入力装置２０から出力されてきた音声データを受け取り、これを送信部２０３に入力する。
【００４５】
送信部２０３は、映像データについては、既存のストリーミング技術を利用して、要約筆記支援サーバ１００、利用者用端末装置３００、及び筆記者用端末装置４００に送信する。また、送信部２０３は、音声データについては、既存のＶｏＩＰ（Voice over Internet Protocol）技術を利用して、筆記者用端末装置４００及び要約筆記支援サーバ１００へと配信する。
【００４６】
また、送信部２０３は、後述する受信部２０４によって登録されている番号に、１を加算した値を仮番号として発行し、送信する映像データ及び音声データに付与する。具体的には、送信部２０３は、例えば、設定時間毎に、仮番号の値を増加させながら、映像データのパケット及び音声データのパケットに仮番号を付与する。
【００４７】
受信部２０４は、筆記者用端末装置４００からテキストデータが送信されてきた場合は、これを受信し、受信したテキストデータを表示部２０５に出力する。また、受信部２０４は、要約筆記支援サーバ１００から、登録された番号が通知されると、これを登録する。
【００４８】
表示部２０５は、出力されてきたテキストデータを表示装置４０の画面上に表示させる。また、表示部２０５は、映像入力部２０１で受け取られた映像データの映像を、表示装置４０の画面上に表示させることもできる。
【００４９】
［システム構成：筆記者用端末装置］
図２に示すように、筆記者用端末装置４００は、受信部４０１と、音声再生部４０２と、表示部４０３と、画像加工部４０４と、文字入力受付部４０５と、送信部４０６とを備えている。また、筆記者用端末装置４００には、スピーカ等の音声出力装置３０と、液晶表示装置等の表示装置４０と、マウス、キーボード、タッチパネル等の入力装置５０とが接続されている。なお、音声出力装置３０、表示装置４０、入力装置５０は、筆記者用端末装置４００に内蔵されていても良い。
【００５０】
受信部４０１は、音声データを受信するとこれを音声再生部４０２に出力する。これにより、音声再生部４０２は、音声出力装置３０に音声を再生させる。また、受信部４０１は、映像データを受信すると、これを表示部４０３と、画像加工部４０４とに出力する。また、受信部４０１も、上述の受信部２０４と同様に、要約筆記支援サーバ１００から、登録された番号が通知されると、これを登録する。
【００５１】
表示部４０３は、映像データが出力されてくると、その映像を表示装置４０の画面上に表示させる。画像加工部４０４は、筆記者４１０が入力装置５０を介して映像データからの静止画像の取り出しを指示すると、指示に応じて静止画像を取り出し、取り出した画像データを送信部４０６に出力する。
【００５２】
音声出力装置３０によって音声が再生され、これに応じて、筆記者４１０が、入力装置５０を用いてテキストデータを入力すると、文字入力受付部４０５は、入力されたテキストデータを受け付け、これを送信部４０６に出力する。
【００５３】
送信部４０６は、出力されてきた画像データとテキストデータとを、利用者用端末装置３００、データ配信用端末装置２００、及び要約筆記支援サーバ１００に送信する。また、送信部４０６は、上述の送信部２０３と同様に、受信部４０１によって登録されている番号に、１を加算した値を仮番号として発行し、送信する画像データ及びテキストデータに付与する。具体的には、送信部４０６は、例えば、設定時間毎に、仮番号の値を増加させながら、画像データのパケット及びテキストデータのパケットに仮番号を付与する。
【００５４】
また、上述したデータ配信用端末装置２００、利用者用端末装置３００、筆記者用端末装置４００は、後述する処理を実行するプログラムをコンピュータに実行させることによって構築できる。この場合、コンピュータとしては、パーソナルコンピュータ、サーバコンピュータ、更には、スマートフォン、タブレット型端末も挙げられる。
【００５５】
［システム構成：利用者用端末装置］
図２に示すように、利用者用端末装置３００は、受信部３０１と、表示部３０３とを備えている。また、利用者用端末装置３００にも、液晶表示装置等の表示装置４０が接続されている。なお、表示装置４０は、利用者用端末装置３００に内蔵されていても良い。
【００５６】
受信部３０１は、データ配信用端末装置２００からの映像データ、筆記者用端末装置４００からの画像データ及びテキストデータを受信し、これを表示部３０３に出力する。また、受信部３０１も、上述の受信部２０４と同様に、要約筆記支援サーバ１００から、登録された番号が通知されると、これを登録する。
【００５７】
表示部３０３は、映像データ、画像データ、及びテキストデータが出力されてくると、それぞれを表示装置４０の画面上の所定の領域に表示させる。
【００５８】
［システム動作］
次に、本発明の実施の形態における要約筆記支援システム５００の動作について図４〜図１０を用いて説明する。また、本実施の形態では、要約筆記支援システム５００を動作させることによって、要約筆記支援方法が実施される。よって、本実施の形態における要約筆記支援方法の説明は、以下の要約筆記支援システム５００の動作説明に代える。また、以下の説明では、適宜図１〜図３を参酌する。
【００５９】
［システム動作：全体］
まず、図４から図６を用いて、端末装置及びサーバ間における相互接続の開始からデータ送信までにおける、要約筆記支援システム５００全体の動作について説明する。
【００６０】
最初に、図４を用いて、各端末装置が所属するネットワークからインターネットを介して要約筆記支援サーバ１００に接続した後から、各端末装置間で相互接続し、データの配信が行なわれるまでについて説明する。図４は、本発明の実施の形態における要約筆記支援システムにおける相互接続からデータ配信までの動作の一例を示すシーケンス図である。
【００６１】
図４に示すように、最初に、データ配信用端末装置２００、筆記者用端末装置４００、利用者用端末装置３００それぞれが、要約筆記支援サーバ１００に対して接続を要求する。これにより、要約筆記支援サーバ１００では、接続先管理部１０２が、各端末装置の接続情報（図３参照）を取得し、取得した接続情報を接続情報格納部１０５に登録する（ステップＳ５０１）。
【００６２】
次に、データ配信用端末装置２００が、データ配信の開始通知（例えば、授業の開始通知）を発行すると（ステップＳ５０２）、要約筆記支援サーバ１００の接続先管理部１０２は、接続情報を、接続されている各端末装置に対して送信する（ステップＳ５０３）。また、接続先管理部１０２は、このとき、各端末装置に対して、データ配信の開始通知も送信する。
【００６３】
次に、データ配信用端末装置２００、筆記者用端末装置４００、及び利用者用端末装置３００それぞれは、要約筆記支援サーバ１００から、接続情報とデータ配信の開始要求とを受信すると、他の端末装置との間で相互接続を実行する（ステップＳ５０４）。
【００６４】
次に、各端末装置間での相互接続が完了すると、データ配信用端末装置２００は、仮番号を発行し、それを付与した映像データを、要約筆記支援サーバ１００、利用者用端末装置３００、筆記者用端末装置４００に送信する（ステップＳ５０５）。
【００６５】
次に、要約筆記支援サーバ１００では、データ順序管理部１０３は、受信した映像データに付与された仮番号と、登録済の番号とを比較し、仮番号が最新の登録済の番号よりも大きい場合であれば、その番号を登録番号として確定し、それを登録する。そして、データ順序管理部１０３は、番号確定通知を各端末装置に送信する（ステップＳ５０６）。
【００６６】
次に、図５を用いて、筆記者用端末装置４００が所属するネットワークが多段構成のネットワークルーターで構築されているために、各端末装置間での相互接続時に、接続ができない場合について説明する。図５は、本発明の実施の形態における要約筆記支援システムにおける相互接続からデータ配信までの動作の他の例を示すシーケンス図である。
【００６７】
図５に示すように、最初に、データ配信用端末装置２００、筆記者用端末装置４００、利用者用端末装置３００それぞれが、要約筆記支援サーバ１００に対して接続を要求する。これにより、要約筆記支援サーバ１００では、接続先管理部１０２が、各端末装置の接続情報（図３）を取得し、取得した接続情報を接続情報格納部１０５に登録する（（ステップＳ６０１）。
【００６８】
次に、データ配信用端末装置２００が、データ配信の開始通知（例えば、授業の開始通知）を発行すると（ステップＳ６０２）、要約筆記支援サーバ１００の接続先管理部１０２は、接続情報を、接続されている各端末装置に対して送信する（ステップＳ６０３）。また、接続先管理部１０２は、このとき、各端末装置に対して、データ配信の開始通知も送信する。
【００６９】
次に、データ配信用端末装置２００、筆記者用端末装置４００、及び利用者用端末装置３００それぞれは、要約筆記支援サーバ１００から、接続情報とデータ配信の開始要求とを受信すると、他の端末装置との間で相互接続を実行する（ステップＳ６０４）。
【００７０】
但し、図５の例では、図４の例と異なり、筆記者用端末装置４００が所属するネットワークが多段構成のネットワークルーターで構築されている。このため、データ配信用端末装置２００と利用者用端末装置３００とが、筆記者用端末装置４００との間で接続に失敗したとする（ステップＳ６０５）。
【００７１】
このため、データ配信用端末装置２００と利用者用端末装置３００とは、筆記者用端末装置４００へのデータ送信を、要約筆記支援サーバ１００経由でのデータ送信に切り替える。
【００７２】
その後、データ配信用端末装置２００は、仮番号を発行し、それを付与した映像データを、要約筆記支援サーバ１００、及び利用者用端末装置３００へ送信すると、映像データは、要約筆記支援サーバ１００を経由して、筆記者用端末装置４００にも送信される（ステップＳ６０６）。
【００７３】
次に、要約筆記支援サーバ１００では、データ順序管理部１０３は、受信した映像データに付与された仮番号と、登録済の番号とを比較し、仮番号が最新の登録済の番号よりも大きい場合であれば、その番号を登録番号として確定し、それを登録する。そして、データ順序管理部１０３は、番号確定通知を各端末装置に送信する（ステップＳ６０７）。このように、本実施の形態では、データが送信できない場合は、別の経路でのデータ送信が行なわれるので、この点で、データが担保されている。
【００７４】
次に、図６を用いて、本実施の形態における要約筆記支援システムにおいて、端末装置間の通信において途中でデータがロストした場合の復旧処理について説明する。図６は、本発明の実施の形態における要約筆記支援システムにおける通信途中でデータがロストした場合の復旧処理時の動作の一例を示すシーケンス図である。
【００７５】
図６に示すように、まず、データ配信用端末装置２００は、仮番号を発行し、それを付与した映像データを、要約筆記支援サーバ１００、利用者用端末装置３００、筆記者用端末装置４００に送信する（ステップＳ７０１）。
【００７６】
その際、データ配信用端末装置２００は、筆記者用端末装置４００に対する送信を複数回実施するが、全て送信失敗であったとする（ステップＳ７０２）。
【００７７】
次に、要約筆記支援サーバ１００では、データ順序管理部１０３は、受信した映像データに付与された仮番号と、登録済の番号とを比較し、仮番号が最新の登録済の番号よりも大きい場合であれば、その番号を登録番号として確定し、それを登録する。そして、データ順序管理部１０３は、番号確定通知を各端末装置に送信する（ステップＳ７０３）。但し、この場合、要約筆記支援サーバ１００は、ステップＳ７０２と同様に、筆記者用端末装置４００への送信に失敗しているとする（ステップＳ７０４）。なお、このとき、確定された番号を「１０」とする。
【００７８】
次に、筆記者用端末装置４００が、筆記者によって文字列が入力されると、仮番号を発行し、それを付与したテキストデータを、要約筆記支援サーバ１００、データ配信用端末装置２００、及び利用者用端末装置３００に送信する（ステップＳ７０５）。なお、筆記者用端末装置４００では、ステップＳ７０４での送信が失敗であるため、仮番号として「１０」を発行している。
【００７９】
次に、要約筆記支援サーバ１００では、データ順序管理部１０３は、受信したテキストデータに付与された仮番号と、登録済の番号とを比較するが、この場合、仮番号（１０）は最新の登録済の番号（１０）と同一である。従って、データ順序管理部１０３は、送信されてきた仮番号に１を加算し、加算によって得られた値を採番して登録し、この登録された加算値（１１）を、これを全ての端末装置２００〜４００に通知する（ステップＳ７０６）。
【００８０】
次に、筆記者用端末装置４００は、番号通知を受信するが、その番号（１１）は、自身が登録している番号（発行した仮番号（１０））と異なるため、受信していないデータが存在すると判断する。そして、筆記者用端末装置４００は、データ配信用端末装置２００と利用者用端末装置３００とに対して、未受信のデータ（番号１０）のデータ再送を依頼する（ステップＳ７０７）。
【００８１】
ステップＳ７０７が実行されると、データ配信用端末装置２００は、未受信となったデータ（番号１０）のデータを、筆記者用端末装置４００に再送信する（ステップＳ７０８）。このように、本実施の形態では、データがロストした場合は、ロストしたデータが特定され、ロストしたデータの再送が行なわれるので、この点で、データが担保されている。
【００８２】
［システム動作：要約筆記支援サーバ］
続いて、図７〜図１０を用いて、各端末装置と要約筆記支援サーバ１００との接続から、授業、講演等が開始され、話者の音声が文字化するまでについて装置毎に説明する。
【００８３】
まず、図７を用いて、要約筆記支援サーバ１００の動作について説明する。図７は、本発明の実施の形態における要約筆記支援サーバの動作を示すフロー図である。
【００８４】
図７に示すように、最初に、要約筆記支援サーバ１００は、データ配信用端末装置２００、利用者用端末装置３００、筆記者用端末装置４００から接続要求を受信する（ステップＳ１０１）。
【００８５】
次に、接続先管理部１０２は、受信部１０１が、筆記者用端末装置４００、利用者用端末装置３００、及びデータ配信用端末装置２００それぞれから、接続先を示す接続情報を取得すると、取得した接続情報を接続情報格納部１０５に格納する（ステップＳ１０２）。このとき、取得される接続情報としては、各端末装置が所属するネットワークがインターネットに接続するために用いるグローバルＩＰアドレス、ＰＯＲＴ番号などが挙げられる。
【００８６】
次に、要約筆記支援サーバ１００は、データ配信用端末装置２００からデータ配信の開始通知を受信する（ステップＳ１０３）。次に、要約筆記支援サーバ１００は、データ配信の開始通知を受信すると、接続されている各端末装置に対して、接続情報とデータ配信の開始通知とを送信する（ステップＳ１０４）。これにより、データ配信用端末装置２００、利用者用端末装置３００、及び筆記者用端末装置４００は、受信した接続先情報に基づいて、相互接続を実行し、データ配信の開始準備を行なう。
【００８７】
その後、後述するように、データ配信用端末装置２００では、ステップＳ２０１が実行され、筆記者用端末装置４００では、ステップＳ４０１が実行され、利用者用端末装置３００では、ステップＳ３０１が実行される。
【００８８】
次に、要約筆記支援サーバ１００は、配信されてきた映像データ及び音声データを受信する（ステップＳ１０５）。
【００８９】
次に、要約筆記支援サーバ１００において、データ順序管理部１０３は、受信した映像データに付与された仮番号と、登録済の番号とを比較し、比較結果に基づいて番号を確定し、それを端末装置に通知する（ステップＳ１０６）。
【００９０】
具体的には、データ順序管理部１０３は、比較の結果、仮番号が最新の登録済の番号よりも大きい場合であれば、その番号を登録番号として確定して登録し、登録した番号を、全ての端末装置２００〜４００に通知する。一方、データ順序管理部１０３は、比較の結果、仮番号が最新の登録済の番号以下である場合は、送信されてきた仮番号の登録を行なわずに、代わりに、仮番号に１を加算し、新規に番号を確定させる。その後、データ順序管理部１０３は、新規に確定させた番号を全ての端末装置２００〜４００に通知する。
【００９１】
その後、後述するように、利用者用端末装置３００では、ステップＳ３０２が実行され、筆記者用端末装置４００では、ステップＳ４０２が実行され、データ配信用端末装置２００では、ステップＳ２０３が実行される。
【００９２】
次に、要約筆記支援サーバ１００は、筆記者用端末装置４００から送信されたテキストデータを受信する（ステップＳ１０７）。
【００９３】
次に、要約筆記支援サーバ１００において、データ順序管理部１０３は、テキストデータに付与された仮番号と、登録済の番号とを比較し、比較結果に基づいて番号を確定し、それを端末装置に通知する（ステップＳ１０８）。なお、ステップＳ１０８は、上述したステップＳ１０６と同様に行なわれる。
【００９４】
その後、後述するように、利用者用端末装置３００では、ステップＳ３０４が実行され、データ配信用端末装置２００では、ステップＳ２０４が実行される。また、要約筆記支援サーバでは、授業、講演等が終了するまで、ステップＳ１０５〜Ｓ１０８が繰り返し実行される。
【００９５】
［システム動作：データ配信用端末装置］
次に、図８を用いて、データ配信用端末装置２００の動作について説明する。図８は、本発明の実施の形態におけるデータ配信用端末装置の動作を示すフロー図である。
【００９６】
図８に示すように、データ配信用端末装置２００は、図７に示したステップＳ１０４の実行後に、接続情報とデータ配信の開始通知とを受信すると、映像入力装置１０から映像データを取得し、音声入力装置２０から音声データを取得する（ステップＳ２０１）。
【００９７】
次に、データ配信用端末装置２００は、仮番号を発行し、これを付与した映像データ及び音声データを、要約筆記支援サーバ１００、筆記者用端末装置４００、及び利用者用端末装置３００に対して、配信する（ステップＳ２０２）。その後、データ配信用端末装置２００は、要約筆記支援サーバ１００から番号の通知を受けた場合は、通知された番号を登録する。
【００９８】
その後、データ配信用端末装置２００は、筆記者用端末装置４００からテキストデータが配信されてきた場合は、これを受信する（ステップＳ２０３）。その後、データ配信用端末装置２００は、要約筆記支援サーバ１００から番号通知を受信すると、内部で管理している番号を更新し、登録されている番号の順に、テキストデータが示す文字列を、表示装置４０の画面に表示する（ステップＳ２０４）。なお、データ配信用端末装置２００では、授業、講演等が終了するまで、ステップＳ２０１〜Ｓ２０４が繰り返し実行される。
【００９９】
［システム動作：利用者用端末装置］
次に、図９を用いて、利用者用端末装置３００の動作について説明する。図９は、本発明の実施の形態における利用者用端末装置の動作を示すフロー図である。
【０１００】
図９に示すように、まず、利用者用端末装置３００では、データ配信用端末装置２００から配信された映像データを受信する（ステップＳ３０１）。なお、利用者用端末装置３００においても、音声データが受信されても良いが、再生されない。
【０１０１】
次に、利用者用端末装置３００は、要約筆記支援サーバ１００から番号の通知を受けると、通知された番号によって、内部で管理している番号を更新し、番号の順に、映像を表示装置４０の画面に表示する（ステップＳ３０２）。
【０１０２】
次に、利用者用端末装置３００は、筆記者用端末装置４００からテキストデータが配信されてきた場合は、これを受信する（ステップＳ３０３）。その後、利用者用端末装置３００は、要約筆記支援サーバ１００から番号通知を受信すると、内部で管理している番号を更新し、登録されている番号の順に、テキストデータが示す文字列を、表示装置４０の画面に表示する（ステップＳ３０４）。なお、利用者用端末装置３００では、授業、講演等が終了するまで、ステップＳ３０１〜Ｓ３０４が繰り返し実行される。
【０１０３】
［システム動作：筆記者用端末装置］
次に、図１０を用いて、筆記者用端末装置４００の動作について説明する。図１０は、本発明の実施の形態における筆記者用端末装置の動作を示すフロー図である。
【０１０４】
図１０に示すように、まず、筆記者用端末装置４００は、データ配信用端末装置２００から配信された映像データ及び音声データを受信する（ステップＳ４０１）。
【０１０５】
次に、筆記者用端末装置４００は、要約筆記支援サーバ１００から番号の通知を受けると、通知された番号によって、内部で管理している番号を更新し、番号の順に、映像を表示装置４０の画面に表示する（ステップＳ４０２）。また、筆記者用端末装置４００は、受信した音声データを音声出力装置３０によって再生する（ステップＳ４０２）。
【０１０６】
次に、筆記者用端末装置４００は、筆記者によって要約筆記の結果となるテキストデータが入力されると、これを受け付ける（ステップＳ４０３）。更に筆記者用端末装置４００は、登録している番号に１を加算した値を仮番号として発行し、それを付与したテキストデータを、要約筆記支援サーバ１００、データ配信用端末装置２００、及び利用者用端末装置３００に送信する（ステップＳ４０４）。なお、筆記者用端末装置４００では、授業、講演等が終了するまで、ステップＳ４０１〜Ｓ４０４が繰り返し実行される。
【０１０７】
また、本実施の形態では、筆記者用端末装置４００は、図２に示したように、ステップＳ４０３において、静止画像を取り出すことができ、取り出した場合は、ステップＳ４０４において、静止画像の画像データも送信することができる。この場合は、利用者端末装置３００及びデータ配信用端末装置２００において画面に静止画像も表示される（ステップＳ２０４及びＳ３０４参照）。
【０１０８】
［実施の形態における効果］
以上のように本実施の形態では、システムの導入障壁が緩和される。また、データの送信が同時に行なえるため、リアルタイムでの遠隔地からの要約筆記が実現される。更に、要約筆記支援サーバは、送信されてくるデータを番号で管理してデータの保証を行なっているため、データが担保されている。この結果、要約筆記による支援を受けることができる聴覚障がい者の数の増加が図られることになる。
【０１０９】
［プログラム］
本実施の形態におけるプログラムは、コンピュータに、図７に示すステップＳ１０１〜Ｓ１０８を実行させるプログラムであれば良い。このプログラムをコンピュータにインストールし、実行することによって、本実施の形態における要約筆記支援サーバ１００を実現することができる。この場合、コンピュータのＣＰＵ（Central Processing Unit）は、受信部１０１、接続先管理部１０２、データ順序管理部１０３、及び送信部１０４として機能し、処理を行なう。
【０１１０】
ここで、本実施の形態におけるプログラムを実行することによって、要約筆記支援サーバ１００を実現するコンピュータについて図１１を用いて説明する。図１１は、本発明の実施の形態における要約筆記支援サーバを実現するコンピュータの一例を示すブロック図である。
【０１１１】
図１１に示すように、コンピュータ１１０は、ＣＰＵ１１１と、メインメモリ１１２と、記憶装置１１３と、入力インターフェイス１１４と、表示コントローラ１１５と、データリーダ／ライタ１１６と、通信インターフェイス１１７とを備える。これらの各部は、バス１２１を介して、互いにデータ通信可能に接続される。
【０１１２】
ＣＰＵ１１１は、記憶装置１１３に格納された、本実施の形態におけるプログラム（コード）をメインメモリ１１２に展開し、これらを所定順序で実行することにより、各種の演算を実施する。メインメモリ１１２は、典型的には、ＤＲＡＭ（Dynamic Random Access Memory）等の揮発性の記憶装置である。また、本実施の形態におけるプログラムは、コンピュータ読み取り可能な記録媒体１２０に格納された状態で提供される。なお、本実施の形態におけるプログラムは、通信インターフェイス１１７を介して接続されたインターネット上で流通するものであっても良い。
【０１１３】
また、記憶装置１１３の具体例としては、ハードディスクの他、フラッシュメモリ等の半導体記憶装置が挙げられる。入力インターフェイス１１４は、ＣＰＵ１１１と、キーボード及びマウスといった入力機器１１８との間のデータ伝送を仲介する。表示コントローラ１１５は、ディスプレイ装置１１９と接続され、ディスプレイ装置１１９での表示を制御する。
【０１１４】
データリーダ／ライタ１１６は、ＣＰＵ１１１と記録媒体１２０との間のデータ伝送を仲介し、記録媒体１２０からのプログラムの読み出し、及びコンピュータ１１０における処理結果の記録媒体１２０への書き込みを実行する。通信インターフェイス１１７は、ＣＰＵ１１１と、他のコンピュータとの間のデータ伝送を仲介する。
【０１１５】
また、記録媒体１２０の具体例としては、ＣＦ（Compact Flash（登録商標））及びＳＤ（Secure Digital）等の汎用的な半導体記憶デバイス、フレキシブルディスク（Flexible Disk）等の磁気記憶媒体、又はＣＤ−ＲＯＭ（Compact Disk Read Only Memory）などの光学記憶媒体が挙げられる。
【実施例１】
【０１１６】
ここで、上述した図７〜図１０に沿って本発明の実施例について説明する。まず、上述したステップＳ１０１〜Ｓ１０４が実行され、要約筆記支援サーバ１００は、データ配信用端末装置２００、利用者用端末装置３００、及び筆記者用端末装置４００と接続を行ない、端末装置間での接続が確立されたとする。
【０１１７】
そして、ステップＳ２０２で、データ配信用端末装置２００が、仮番号（１番）を付与した映像データ及び音声データを配信したとする。これにより、筆記者用端末装置４００は、配信された映像データ及び音声データを受信し（ステップＳ４０１）、利用者用端末装置３００は、配信された映像データを受信する（ステップＳ３０１）。
【０１１８】
次に、要約筆記支援サーバ１００は、配信されてきた映像データ及び音声データを受信すると（ステップＳ１０５）、付与された仮番号（１番）と登録されている最新の番号（０番）とを比較する。この場合、仮番号の数値が登録されている番号より大きいので、要約筆記支援サーバ１００は、仮番号（１番）を新規登録し、これを確定する（ステップＳ１０６）。また、要約筆記支援サーバ１００は、確定した番号（１番）を各端末装置に対して通知する（ステップＳ１０６）。
【０１１９】
次に、利用者用端末装置３００は、確定された番号の通知を受信すると、これを登録し、登録している番号の順に、映像データを表示する（ステップＳ３０２）。また、筆記者用端末装置４００も、確定された番号の通知を受信すると、これを登録し、登録している番号の順に、映像データを表示し、更に、音声データを再生する（ステップＳ４０２）。
【０１２０】
次に、筆記者用支援端末装置４００では、筆記者によってテキストデータの入力が行われると（ステップＳ４０３）、登録している番号に１を加算した値を仮番号（２番）として発行し、それを付与したテキストデータを、要約筆記支援サーバ１００、データ配信用端末装置２００、及び利用者用端末装置３００に送信する（ステップＳ４０４）。
【０１２１】
ステップＳ４０４が実行されると、データ配信用端末装置２００は、配信されたテキストデータを受信する（ステップＳ２０３）。また、利用者用端末装置３００も、配信されたテキストデータを受信する（ステップＳ３０３）。
【０１２２】
次に、要約筆記支援サーバ１００は、配信されてきたテキストデータを受信し（ステップＳ１０７）、付与された仮番号（２番）と登録されている番号（１番）とを比較する。この場合、仮番号の方が登録されている番号より大きいため、要約筆記支援サーバ１００は、仮番号を確定し、確定した番号（２番）を各端末装置に対して通知する（ステップＳ１０８）。
【０１２３】
ステップＳ１０８が実行されると、利用者用端末装置３００は、内部で管理している番号を更新して、登録されている番号の順に、テキストデータが示す文字列を表示装置４０の画面に表示する（ステップＳ３０４）。
【０１２４】
また、ステップＳ１０８が実行されると、データ配信用端末装置２００も、内部で管理している番号を更新して、登録されている番号の順に、テキストデータが示す文字列を表示装置４０の画面に表示する（ステップＳ２０４）。また、筆記者用端末装置４００は、次に、テキストデータを送信する場合は、再度ステップＳ４０４を実行する。なお、それまでに、登録番号の更新がなかった場合は、次の仮番号は３番となる。
【０１２５】
上述した実施の形態及び実施例の一部又は全部は、以下に記載する（付記１）〜（付記１４）によって表現することができるが、以下の記載に限定されるものではない。
【０１２６】
（付記１）
話者の発話の要約筆記を支援するためのシステムであって、
要約筆記支援サーバと、前記要約筆記を行なう筆記者が使用する筆記者用端末装置と、前記要約筆記の利用者が使用する利用者用端末装置と、データ配信用端末装置と、を備え、
前記データ配信用端末装置は、
前記発話の音声データ及び前記話者に関連する映像データを、自身が発行した番号と共に、前記要約筆記支援サーバ、前記筆記者用端末装置、及び前記利用者用端末装置に同時に送信し、
前記筆記者用端末装置は、
前記筆記者によって入力されたテキストデータを、自身が発行した番号と共に、前記要約筆記支援サーバ、前記データ配信用端末装置、及び前記利用者用端末装置に同時に送信し、
前記要約筆記支援サーバは、
前記音声データ、前記映像データ、又は前記テキストデータを受信すると、共に送信されてきた番号を登録し、
その際、送信されてきた番号が登録済の最新の番号よりも大きい場合は、送信されてきた前記番号を登録された番号として、全ての端末装置に通知し、
一方、送信されてきた番号が登録済みの最新の番号以下である場合は、送信されてきた番号の登録を行なわずに、代わりに、送信されてきた番号に１を加算して得られた加算値を登録し、登録した加算値を全ての端末装置に通知する、
ことを特徴とする要約筆記支援システム。
【０１２７】
（付記２）
前記要約筆記支援サーバ、前記筆記者用端末装置、前記利用者用端末装置、及び前記データ配信用端末装置ぞれぞれは、ＵＤＰで規定されたデータ通信を実行できる機能を備え、
前記データ配信用端末装置は、前記機能を用いて、前記音声データ及び前記映像データを送信し、
前記筆記者用端末装置は、前記機能を用いて、前記テキストデータを送信し、
前記要約筆記支援サーバは、前記機能を用いて、全ての端末装置に通知を行なう、
付記１に記載の要約筆記支援システム。
【０１２８】
（付記３）
前記データ配信用端末装置が、前記機能を用いて、前記音声データ及び前記映像データを前記筆記者用端末装置に送信できない場合に、前記要約筆記支援サーバを経由して、前記音声データ及び前記映像データを前記筆記者用端末装置に送信する、
付記２に記載の要約筆記支援システム。
【０１２９】
（付記４）
前記データ配信用端末装置、前記筆記者用端末装置、及び前記利用者用端末装置それぞれが、前記要約筆記支援サーバによって通知された番号を登録し、
番号を発行する場合は、自身が登録している最新の番号に１を加算した値を番号として発行し、
更に、その後、前記要約筆記支援サーバによって通知された番号が、自身が発行した番号と異なる場合は、他の端末装置にデータの再送信を要求する、
付記１〜３のいずれかに記載の要約筆記支援システム。
【０１３０】
（付記５）
前記要約筆記支援サーバが、前記筆記者用端末装置、前記利用者用端末装置、及び前記データ配信用端末装置それぞれの接続先を取得し、それぞれに他の端末装置の接続先を通知する、
付記１〜４のいずれかに記載の要約筆記支援システム。
【０１３１】
（付記６）
話者の発話の要約筆記を支援するためのサーバであって、データ順序管理部を備え、
前記データ順序管理部は、
データ配信用端末装置が、前記発話の音声データ及び前記話者に関連する映像データを、自身が発行した番号と共に送信してきた場合、及び、前記要約筆記を行なう筆記者が使用する筆記者用端末装置が、前記筆記者によって入力されたテキストデータを、自身が発行した番号と共に送信してきた場合に、送信されてきた番号を登録し、
その際、送信されてきた番号が登録済の最新の番号よりも大きい場合は、送信されてきた前記番号を登録された番号として、前記データ配信用端末装置、前記筆記者用端末装置、及び前記要約筆記の利用者が使用する利用者用端末装置に通知し、
一方、送信されてきた番号が登録済みの最新の番号以下である場合は、送信されてきた番号の登録を行なわずに、代わりに、送信されてきた番号に１を加算して得られた加算値を登録し、登録した加算値を、前記データ配信用端末装置、前記筆記者用端末装置、及び前記利用者用端末装置に通知する、
ことを特徴とする要約筆記支援サーバ。
【０１３２】
（付記７）
前記筆記者用端末装置、前記利用者用端末装置、及び前記データ配信用端末装置それぞれの接続先を取得し、それぞれに他の端末装置の接続先を通知する、接続先管理部を更に備えている、付記５に記載の要約筆記支援サーバ。
【０１３３】
（付記８）
話者の発話の要約筆記を支援するための方法であって、
要約筆記支援サーバと、前記要約筆記を行なう筆記者が使用する筆記者用端末装置と、前記要約筆記の利用者が使用する利用者用端末装置と、データ配信用端末装置とを用いて、
（ａ）前記データ配信用端末装置によって、
前記発話の音声データ及び前記話者に関連する映像データを、自身が発行した番号と共に、前記要約筆記支援サーバ、前記筆記者用端末装置、及び前記利用者用端末装置に同時に送信する、ステップと、
（ｂ）前記筆記者用端末装置によって、
前記筆記者によって入力されたテキストデータを、自身が発行した番号と共に、前記要約筆記支援サーバ、前記データ配信用端末装置、及び前記利用者用端末装置に同時に送信する、ステップと、
（ｃ）前記要約筆記支援サーバによって、
前記音声データ、前記映像データ、又は前記テキストデータを受信すると、共に送信されてきた番号を登録し、
その際、送信されてきた番号が登録済の最新の番号よりも大きい場合は、送信されてきた前記番号を登録された番号として、全ての端末装置に通知し、
一方、送信されてきた番号が登録済みの最新の番号以下である場合は、送信されてきた番号の登録を行なわずに、代わりに、送信されてきた番号に１を加算して得られた加算値を登録し、登録した加算値を全ての端末装置に通知する、ステップと、
を有することを特徴とする要約筆記支援方法。
【０１３４】
（付記９）
前記要約筆記支援サーバ、前記筆記者用端末装置、前記利用者用端末装置、及び前記データ配信用端末装置ぞれぞれは、ＵＤＰで規定されたデータ通信を実行できる機能を備え、
前記（ａ）のステップで、前記データ配信用端末装置は、前記機能を用いて、前記音声データ及び前記映像データを送信し、
前記（ｂ）のステップで、前記筆記者用端末装置は、前記機能を用いて、前記テキストデータを送信し、
前記（ｃ）のステップで、前記要約筆記支援サーバは、前記機能を用いて、全ての端末装置に通知を行なう、
付記８に記載の要約筆記支援方法。
【０１３５】
（付記１０）
（ｄ）前記データ配信用端末装置が、前記機能を用いて、前記音声データ及び前記映像データを前記筆記者用端末装置に送信できない場合に、前記要約筆記支援サーバを経由して、前記音声データ及び前記映像データを前記筆記者用端末装置に送信する、ステップを更に有する、付記９に記載の要約筆記支援方法。
【０１３６】
（付記１１）
（ｅ）前記データ配信用端末装置、前記筆記者用端末装置、及び前記利用者用端末装置それぞれが、前記要約筆記支援サーバによって通知された番号を登録し、
番号を発行する場合は、自身が登録している最新の番号に１を加算した値を番号として発行し、
更に、その後、前記要約筆記支援サーバによって通知された番号が、自身が発行した番号と異なる場合は、他の端末装置にデータの再送信を要求する、ステップを更に有する、付記８〜１０のいずれかに記載の要約筆記支援方法。
【０１３７】
（付記１２）
（ｆ）前記要約筆記支援サーバが、前記筆記者用端末装置、前記利用者用端末装置、及び前記データ配信用端末装置それぞれの接続先を取得し、それぞれに他の端末装置の接続先を通知する、ステップを更に有する、
付記８〜１１のいずれかに記載の要約筆記支援方法。
【０１３８】
（付記１３）
コンピュータによって、話者の発話の要約筆記を支援するためのプログラムであって、
前記コンピュータに、
（ａ）データ配信用端末装置が、前記発話の音声データ及び前記話者に関連する映像データを、自身が発行した番号と共に送信してきた場合、及び、前記要約筆記を行なう筆記者が使用する筆記者用端末装置が、前記筆記者によって入力されたテキストデータを、自身が発行した番号と共に送信してきた場合に、送信されてきた番号を登録し、
その際、送信されてきた番号が登録済の最新の番号よりも大きい場合は、送信されてきた前記番号を登録された番号として、前記データ配信用端末装置、前記筆記者用端末装置、及び前記要約筆記の利用者が使用する利用者用端末装置に通知し、
一方、送信されてきた番号が登録済みの最新の番号以下である場合は、送信されてきた番号の登録を行なわずに、代わりに、送信されてきた番号に１を加算して得られた加算値を登録し、登録した加算値を、前記データ配信用端末装置、前記筆記者用端末装置、及び前記利用者用端末装置に通知する、
ステップを実行させるプログラム。
【０１３９】
（付記１４）
（ｂ）前記筆記者用端末装置、前記利用者用端末装置、及び前記データ配信用端末装置それぞれの接続先を取得し、それぞれに他の端末装置の接続先を通知する、ステップを更に前記コンピュータに実行させる、付記１３に記載のプログラム。
【産業上の利用可能性】
【０１４０】
以上のように、本発明によれば、リアルタイムでの要約筆記を実現するに際しての、導入障壁の緩和と、データ保証とを図ることができる。本発明は、要約筆記が必要な分野であれば、学校等における授業に限られず、種々の講演等にも有用である。
【符号の説明】
【０１４１】
１０  映像入力装置
２０  音声入力装置
３０  音声出力装置
４０  表示装置
５０  入力装置
１００  要約筆記支援サーバ
１０１  受信部
１０２  接続先管理部
１０３  データ順序管理部
１０４  送信部
１０５  接続情報格納部
１１０  コンピュータ
１１１  ＣＰＵ
１１２  メインメモリ
１１３  記憶装置
１１４  入力インターフェイス
１１５  表示コントローラ
１１６  データリーダ／ライタ
１１７  通信インターフェイス
１１８  入力機器
１１９  ディスプレイ装置
１２０  記録媒体
１２１  バス
２００  データ配信用端末装置
２０１  映像入力部
２０２  音声入力部
２０３  送信部
２０４  受信部
２０５  表示部
３００  利用者用端末装置
３０１  受信部
３０３  表示部
４００  筆記者用端末装置
４０１  受信部
４０２  音声再生部
４０３  表示部
４０４  画像加工部
４０５  文字入力受付部
４０６  送信部
【図１】
2014191703.tif 000003
【図２】
2014191703.tif 000004
【図３】
2014191703.tif 000005
【図４】
2014191703.tif 000006
【図５】
2014191703.tif 000007
【図６】
2014191703.tif 000008
【図７】
2014191703.tif 000009
【図８】
2014191703.tif 000010
【図９】
2014191703.tif 000011
【図１０】
2014191703.tif 000012
【図１１】
2014191703.tif 000013