(57)【要約】【課題】  ネットワーク上で映像を介したコミュニケーションを行う際に、入力されるコメント情報が映像上のどの場所に入力されたものであるかを容易に把握する。【解決手段】  本発明は、映像を特定する映像情報を取得し、映像に関わる映像構造化情報を算出し、映像構造化情報を取得し、映像構造化情報を表示装置に提示し、ユーザに映像構造化情報を選択させ、ユーザに選択された映像構造化情報に対応するコメント情報を入力させ、該コメント情報及び該コメント情報が指定された該映像構造化情報とを関連付けて、コメント情報・映像構造化情報ＤＢに格納し、映像情報及び取得済みの映像構造化情報を用いて、コメント情報・映像構造化情報ＤＢから関連付けられたコメント情報を取得し、取得したコメント情報及び映像構造化情報を関連付けて表示手段に表示する。【選択図】  図１
2006352779.tif 000002
【特許請求の範囲】
【請求項１】
ネットワーク上での映像に関するコミュニケーションにおける映像情報入力・表示方法であって、
映像を特定する映像情報を取得する映像情報取得手順と、
前記映像に関わる映像構造化情報を算出し、映像構造化情報ＤＢに格納する映像構造化算出手順と、
前記映像構造化情報ＤＢから映像構造化情報を取得する映像構造化情報取得手順と、
前記映像構造化情報取得手順で取得した前記映像構造化情報を表示装置に提示し、ユーザに映像構造化情報を選択させる映像構造化情報指定手順と、
選択された映像構造化情報に対応する映像に関するコメント情報を前記ユーザに入力させるコメント情報入力手順と、
前記ユーザからコメント情報が入力されると、該コメント情報及び該コメント情報の入力時に選択された映像構造化情報とを関連付けて、コメント情報・映像構造化情報ＤＢに格納するコメント情報・映像構造化情報蓄積手順と、
前記映像情報取得手順で取得済みの前記映像情報及び前記映像構造化情報取得手順で取得済みの前記映像構造化情報を用いて、前記コメント情報・映像構造化情報ＤＢから関連付けられたコメント情報を取得するコメント情報取得手順と、
前記コメント情報取得手順で取得したコメント情報及び映像構造化情報を関連付けて表示手段に表示する情報表示手順と、
を行うことを特徴とする映像情報入力・表示方法。
【請求項２】
前記映像構造化算出手順において、
表示開始から終了までの区間を算出する必要のあるものや、計算時間を要する映像構造化情報が存在する場合に、暫定的な映像構造化情報である一次映像構造化情報を算出する、請求項１記載の映像情報入力・表示方法。
【請求項３】
前記コメント情報・映像構造化情報蓄積手順において、
前記ユーザから前記映像構造化情報を指定する代わりに、一次映像構造化情報が指定された場合には、前記コメント情報と指定された該一次映像構造化情報を前記コメント情報・映像構造化情報ＤＢに蓄積する請求項１または２記載の映像情報入力・表示方法。
【請求項４】
前記コメント情報・映像構造化情報蓄積手順において、
前記映像構造化情報が変更された場合には、蓄積する前記コメント情報と関連付けられた前記映像構造化情報も変更して前記コメント情報・映像構造化情報ＤＢに蓄積する、請求項１乃至３記載の映像情報入力・表示方法。
【請求項５】
ネットワーク上での映像に関するコミュニケーションにおける映像情報入力・表示装置であって、
映像構造化情報を格納する映像構造化ＤＢと、
コメント情報及び該コメント情報が指定された該映像構造化情報とを関連付けて格納するコメント情報・映像構造化情報ＤＢと、
映像を特定する映像情報を取得する映像情報取得手段と、
前記映像に関わる映像構造化情報を算出し、前記映像構造化情報ＤＢに格納する映像構造化情報算出手段と、
前記映像構造化情報ＤＢから映像構造化情報を取得する映像構造化情報取得手段と、
前記映像構造化情報取得手段で取得した前記映像構造化情報を表示装置に提示し、ユーザに映像構造化情報を選択させる映像構造化情報指定手段と、
選択された映像構造化情報に対応する映像に関するコメント情報を前記ユーザに入力させるコメント情報入力手段と、
前記ユーザからコメント情報が入力されると、該コメント情報及び該コメント情報の入力時に選択された映像構造化情報とを関連付けて、前記コメント情報・映像構造化情報ＤＢに格納するコメント情報・映像構造化情報蓄積手段と、
前記映像情報取得手段で取得済みの前記映像情報及び前記映像構造化情報取得手段で取得済みの前記映像構造化情報を用いて、前記コメント情報・映像構造化情報ＤＢから関連付けられたコメント情報を取得するコメント情報取得手段と、
前記コメント情報取得手段で取得したコメント情報及び映像構造化情報を関連付けて表示手段に表示する情報表示手段と、
を有することを特徴とする映像情報入力・表示装置。
【請求項６】
前記映像構造化情報算出手段は、
表示開始から終了までの区間を算出する必要のあるものや、計算時間を要する映像構造化情報が存在する場合に、暫定的な映像構造化情報である一次映像構造化情報を算出する手段を含む、請求項５記載の映像情報入力・表示装置。
【請求項７】
前記コメント情報・映像構造化情報蓄積手段は、
前記ユーザから前記映像構造化情報を指定する代わりに、一次映像構造化情報が指定された場合には、前記コメント情報と指定された該一次映像構造化情報を前記コメント情報・映像構造化情報ＤＢに蓄積する手段を含む請求項５または６記載の映像情報入力・表示装置。
【請求項８】
前記コメント情報・映像構造化情報蓄積手段は、
前記映像構造化情報が変更された場合には、蓄積する前記コメント情報と関連付けられた前記映像構造化情報も変更して前記コメント情報・映像構造化情報ＤＢに蓄積する手段を含む、請求項５乃至７記載の映像情報入力・表示装置。
【請求項９】
請求項１乃至４のいずれか記載の映像情報入力・表示方法の手順をコンピュータに実行させることを特徴とする映像情報入力・表示プログラム。
【請求項１０】
請求項１乃至４のいずれか記載の映像情報入力・表示方法の手順をコンピュータに実行させるプログラムを格納したことを特徴とする映像情報入力・表示プログラムを格納した記憶媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、映像情報入力・表示方法及び装置及びプログラム及びプログラムを格納した記憶媒体に係り、特に、映像を介したコミュニケーション方法において、ユーザがリアルタイムに視聴している映像に対して、情報を入力したい場所に容易に入力できると共に、当該映像を非リアルタイムで視聴する場合においても容易に情報が入力できる、映像情報入力・表示方法及び装置及びプログラム及びプログラムを格納した記憶媒体に関する。
【背景技術】
【０００２】
近年、ネットワーク上で行われるユーザ間のコミュニケーションにおいて、映像を介したコミュニケーション方法が注目を集めている。
【０００３】
例えば、複数のユーザが特定のテレビ番組（例えば、サッカー番組）を同時視聴しつつ、ネットワーク上の掲示板ではリアルタイムにコメントを書き合うことでコミュニケーションを図る技術がある（以下、従来の第１の技術）。このように、テレビ放送受像機とリアルタイムコミュニケーションシステムを併用することで、まるで家族と共にテレビ番組を見るかのごとく、遠く離れたユーザとのその時の感動を共有しながら、コミュニケーションを図ることができるため、特に人気の高い生放送番組において利用価値が高い（例えば、非特許文献１参照）。
【０００４】
このようなテレビ放送受像機と掲示板・チャットシステムなどを併用した方法は、テレビ放送受像機とパーソナルコンピュータ等の入力端末という２種類の装置を使用しなければならないため、例えば、テレビ放送受像機とパーソナルコンピュータを近い場所に設置しなければならないなど、利用者に不便を強いる。
【０００５】
これに対し、利用者の端末にテレビ放送受信システムを包含することで、テレビ放送を視聴しながらのリアルタイムコミュニケーションを容易にする技術がある（以下、従来の第２の技術と記す）。当該技術では、テレビ放送映像を視聴しながら入力した情報を、サーバを介して他のユーザ端末へリアルタイムに送出することによってコミュニケーションを行う。また、入力された情報及び映像と同期した時刻情報を蓄積することで、過去に遡った情報も出力可能としている（例えば、特許文献１参照）。
【０００６】
また、テレビ放送に限らず、リアルタイムに放送・配信される映像メディアを用いたコミュニケーションシステムがある（以下、従来の第３の技術と記す）（例えば、非特許文献２参照）。
【０００７】
リアルタイムに映像を視聴しながらコミュニケーションを行う上記のようなシステムでは、今まさに複数の人との映像を楽しんでいるという臨場感や一体感を作り出せるため、コミュニケーションや映像視聴をより楽しむことができる。しかし、同一時刻に同一映像を見なければならない制約があるため、映像を視聴できない人にとっては利用価値が低い。
【０００８】
これに対し、上記の従来の第２の技術では、テレビ放送を受信すると共に録画も可能とし、入力される情報と時間情報を蓄積しておくことで、リアルタイムに視聴しているユーザばかりでなく、録画した映像を視聴する視聴者に対しても情報共有を可能としている。
【特許文献１】特開２００１−１４８８４１号公報
【非特許文献１】http://scoccer.pos.to/
【非特許文献２】森田篤史、金谷裕幸、西本一志、國藤進“TV.com$^2$:コミュニケーションを活性化させるインターネット街頭TV, ”マルチメディア、分散、協調とモバイル(DICOMO2002)シンポジウム論文集、情報処理学会、シンポジウムシリーズ、Vol. 2002, No.9, pp. 429-432, 2002
【発明の開示】
【発明が解決しようとする課題】
【０００９】
上記のようなリアルタイム映像を用いたシステムは、従来から行われてきた、テレビ放送受像機とリアルタイムコミュニケーションシステムを併用した方法を、インターネットにおける映像視聴環境の整備やパーソナルコンピュータなどの汎用端末の機能向上に合わせて組み合わせ、拡張しただけに過ぎない。ユーザの情報閲覧・入力環境については従来と変わらず、例えば、入力された情報を入力された時刻に沿って列挙するのみに留まっている。
【００１０】
このような従来的なリアルタイム映像情報閲覧・入力環境では、刻々と映像時間が経過してしまうため、例えば長い文章を入力しようとした場合、入力が終了した段階では全く異なる映像が放送・配信されている状況が容易に起こり得る。そのため、ユーザとしては今まさに視聴したその瞬間・その場面についての感想・情報などを書き込みたいにも関らず、時間のずれによって意思や情報を伝えるタイミングを逸してしまうという問題が発生してしまう。
【００１１】
また、入力においてタイムラグが発生するにも関らず、入力された時刻に沿って情報を管理しているため、内容の異なる情報が混在したまま列挙されてしまい、通読性や一覧性に乏しくなる。最も良く見られる状況としては、数分前の話題が突然提示される場合や、大量のユーザから情報入力が一度に行われ、どこにどのような情報が書き込まれているのか一見して分からなくなってしまう場合などがあげられる。
【００１２】
以上のように、映像を視聴しながらリアルタイムコミュニケーションを行う場合おいては、入力においてタイムラグが発生することや入力された時刻によって情報が管理されていることによって、映像の適切な場所に適切な情報を入力できない。映像の適切な場所で適切な情報を整理して閲覧できないという問題が発生する。上述した従来の第２の技術では、リアルタイムばかりでなく録画した映像を用いたコミュニケーションも行える構成となっているが、同システムにおいてリアルタイムに入力された情報は、同様の問題を持つため、録画した映像を視聴する場合においても、適切な情報の閲覧・入力は難しい。
【００１３】
本発明は、上記の点に鑑みなされたもので、ネットワーク上で映像を介したコミュニケーションを行う際に、入力されるコメント情報が映像上のどの場所に入力されたものであるかが容易に把握することが可能な映像情報入力・表示方法及び装置及びプログラム及びプログラムを格納した記憶媒体を提供することを目的とする。
【課題を解決するための手段】
【００１４】
図１は、本発明の映像情報入力・表示方法の原理説明図である。
【００１５】
本発明（請求項１）は、ネットワーク上での映像に関するコミュニケーションにおける映像情報入力・表示方法であって、
映像を特定する映像情報を取得する映像情報取得手順（ステップ１）と、
映像に関わる映像構造化情報を算出し、映像構造化情報ＤＢに格納する映像構造化算出手順（ステップ２）と、
映像構造化情報ＤＢから映像構造化情報を取得する映像構造化情報取得手順（ステップ３）と、
映像構造化情報取得手順（ステップ３）で取得した映像構造化情報を表示装置に提示し、ユーザに映像構造化情報を選択させる映像構造化情報指定手順（ステップ４）と、
選択された映像構造化情報に対応する映像に関するコメント情報をユーザに入力させるコメント情報入力手順（ステップ５）と、
ユーザからコメント情報が入力されると、該コメント情報及び該コメント情報の入力時に選択された映像構造化情報とを関連付けて、コメント情報・映像構造化情報ＤＢに格納するコメント情報・映像構造化情報蓄積手順（ステップ６）と、
映像情報取得手順で取得済みの映像情報及び映像構造化情報取得手順で取得済みの映像構造化情報を用いて、コメント情報・映像構造化情報ＤＢから関連付けられたコメント情報を取得するコメント情報取得手順（ステップ７）と、
コメント情報取得手順で取得したコメント情報及び映像構造化情報を関連付けて表示手段に表示する情報表示手順（ステップ８）と、を行う。
【００１６】
上記の手順により、まず、映像を特定する映像情報が取得されると共に、テレビ放送映像やネットワーク配信映像などのリアルタイム映像から該映像に関わる映像構造化情報が次々と算出される。映像構造化情報とは、例えば、場面の区切りや文字（テロップ文字）が表示されている区間・場所、映像内の人物名や場所・出現区間、発話された音声区間・それを文字に書き下したものなど、映像に関わる事物・事象などを記述した映像を様々な単位を用いて構造化する情報である。単純な例としては、カメラの切り替わり点（カット点）によって映像は幾つかの区間に分割され、構造化される。
【００１７】
次に、算出された映像構造化情報を取得すると共に、ユーザがコメント情報を入力する場合、コメント情報を入力する映像構造化情報を指定する。上記のように、映像構造化情報を用いることで映像は構造化される。例えば、カット点を用いて映像を複数の連続体と見做す場合、ユーザは、今まさに見ている場所にコメント情報を入力したい場合は現在の区間を、思い出した情報を入力したい場合は過去の該当する区間を指定する。
【００１８】
次に、入力されたコメント情報と指定された映像構造化情報を関連付けて蓄積する。コメント情報は映像構造化情報と関連付けて蓄積されるため、例えば、新たなカット点が検出され、コメント情報を入力し始めた映像区間が過去の映像区間となった場合でも、入力された映像区間と適切に関連付けて保持される。よって、ユーザは、入力にタイムラグが生じた場合でも適切な箇所に情報を入力できる。
【００１９】
次に、蓄積されているコメント情報及び映像構造化情報を取得し、それらを関連付けて提示する。上記のように、コメント情報と映像構造化情報を関連付けているため、映像のどの場所にどのような情報が入力されているのか一見して判別できるようになると共に、例えば、映像構造化情報として上述した様々な情報を用いた場合、映像の特定の人物について入力された情報や映像内の文字情報について追記された情報などを、映像構造化情報を用いて整理して提示できる。
【００２０】
よって、これらの手順を踏まえてコメントを入力・表示すれば、リアルタイムに映像を視聴する場合においても、適切にコメントを入力・表示でき、ユーザ間のコミュニケーションはスムーズに行われる。
【００２１】
本発明（請求項２）は、映像構造化算出手順において、
表示開始から終了までの区間を算出する必要のあるものや、計算時間を要する映像構造化情報が存在する場合に、暫定的な映像構造化情報である一次映像構造化情報を算出する。
【００２２】
当該請求項の方法は、映像化構造化情報を算出する際に、映像構造化情報が算出できない、あるいは確定していない状況などにおいて、一次映像構造化情報を算出する。この方法により、例えば、映像構造化情報算出手順において、映像構造化情報の算出に時間がかかる場合においても、一次映像構造化情報を用いて直ちに映像構造化情報の提示やコメント情報の提示・入力が可能となる。
【００２３】
本発明（請求項３）は、コメント情報・映像構造化情報蓄積手順において、
ユーザから映像構造化情報を指定する代わりに、一次映像構造化情報が指定された場合には、コメント情報と指定された該一次映像構造化情報をコメント情報・映像構造化情報ＤＢに蓄積する。
【００２４】
当該請求項の方法は、映像構造化情報を指定する際に、映像構造化情報が算出されていない、あるいは、確定していない状況などにおいて、一次映像構造化情報を指定できると共に、一次映像構造化情報を蓄積する。この方法により、例えば、映像構造化情報算出手順において、映像構造化情報の算出に時間がかかる場合においても、ユーザは仮の映像構造化情報を用いて直ちに情報を入力できると共に、一次映像構造化情報を用いたコメント情報の閲覧・入力が可能になる。
【００２５】
本発明（請求項４）は、コメント情報・映像構造化情報蓄積手順において、
映像構造化情報が変更された場合には、蓄積するコメント情報と関連付けられた映像構造化情報も変更してコメント情報・映像構造化情報ＤＢに蓄積する。
【００２６】
当該請求項の方法は、算出された映像構造化情報を任意に変更できると共に、蓄積されているコメント情報・映像構造化情報を、変更された映像構造化情報に従って変換する。この方法により、例えば、仮の映像構造化情報を用いた場合や自動的に算出された映像構造化情報に誤検出結果が含まれる場合、適度な粒度で映像を構造化できなかった場合でも、適宜映像構造化情報を修正し、また、修正された結果に合わせた適切な状態で情報の閲覧・入力が可能となる。
【００２７】
図２は、本発明の原理構成図である。
【００２８】
本発明（請求項５）は、ネットワーク上での映像に関するコミュニケーションにおける映像情報入力・表示装置であって、
映像構造化情報を格納する映像構造化ＤＢ３と、
コメント情報及び該コメント情報が指定された該映像構造化情報とを関連付けて格納するコメント情報・映像構造化情報ＤＢ８と、
映像を特定する映像情報を取得する映像情報取得手段１と、
映像に関わる映像構造化情報を算出し、映像構造化情報ＤＢ３に格納する映像構造化情報算出手段２と、
映像構造化情報ＤＢ３から映像構造化情報を取得する映像構造化情報取得手段４と、
映像構造化情報取得手段４で取得した映像構造化情報を表示装置に提示し、ユーザに映像構造化情報を選択させる映像構造化情報指定手段５と、
選択された映像構造化情報に対応する映像に関するコメント情報をユーザに入力させるコメント情報入力手段６と、
ユーザからコメント情報が入力されると、該コメント情報及び該コメント情報の入力時に選択された映像構造化情報とを関連付けて、コメント情報・映像構造化情報ＤＢ８に格納するコメント情報・映像構造化情報蓄積手段７と、
映像情報取得手段１で取得済みの映像情報及び映像構造化情報取得手段４で取得済みの映像構造化情報を用いて、コメント情報・映像構造化情報ＤＢ８から関連付けられたコメント情報を取得するコメント情報取得手段９と、
コメント情報取得手段９で取得したコメント情報及び映像構造化情報を関連付けて表示手段に表示する情報表示手段１０と、を有する。
【００２９】
また、本発明（請求項６）は、映像構造化情報算出手段２において、
表示開始から終了までの区間を算出する必要のあるものや、計算時間を要する映像構造化情報が存在する場合に、一次映像構造化情報を算出する手段を含む。
【００３０】
また、本発明（請求項７）は、コメント情報・映像構造化情報蓄積手段７において、
ユーザから映像構造化情報を指定する代わりに、一次映像構造化情報が指定された場合には、コメント情報と指定された該一次映像構造化情報をコメント情報・映像構造化情報ＤＢ８に蓄積する手段を含む。
【００３１】
また、本発明（請求項８）は、コメント情報・映像構造化情報蓄積手段７において、
映像構造化情報が変更された場合には、蓄積するコメント情報と関連付けられた映像構造化情報も変更してコメント情報・映像構造化情報ＤＢに蓄積する手段を含む。
【００３２】
本発明（請求項９）は、請求項１乃至４のいずれか記載の映像情報入力・表示方法の手順をコンピュータに実行させる映像情報入力・表示プログラムである。
【００３３】
本発明（請求項１０）は、請求項１乃至４のいずれか記載の映像情報入力・表示方法の手順をコンピュータに実行させるプログラムを格納した記憶媒体である。
【発明の効果】
【００３４】
上記の目的を達成するために、本発明では、テレビ放送映像やネットワーク配信映像などのリアルタイム映像から映像構造化情報を算出することを特徴とする。また、映像構造化情報を用いて、ユーザが入力する映像に対する感想などのコメント情報を、映像構造化情報と関連付けて入力・提示することを特徴とする。
【００３５】
上記の特徴を有することで、映像構造化情報を用いてコメント情報を入力する位置を指定できるため、タイムラグ等が発生した場合でも、情報を入力したい場所に適切に情報を入力できる。また、映像構造化情報と関連付けてコメント情報を提示することで、従来の手法に見られるような時間情報のみを用いた方法と異なり、情報を整理して閲覧できるようになる。
【発明を実施するための最良の形態】
【００３６】
以下、図面と共に本発明の実施の形態を説明する。
【００３７】
本発明の実施の形態の説明において、映像（映像コンテンツ）は、映像情報と音情報を含むコンテンツに限定されることはなく、少なくとも画像情報を含むあらゆるコンテンツを映像と呼ぶ。
【００３８】
また、コメント情報は、文字情報に限定されることなく、Ｗｅｂ上のコンテンツを指し示すＵＲＬや感情を表現する画像、関連する文書、音声、楽曲など、コミュニケーションを図る上で利用可能な情報を含む。
【００３９】
［第１の実施の形態］
本実施の形態による映像情報入力・表示システムは、テレビ放送受像機などを用いてリアルタイムにテレビ放送映像を視聴する場合や、本システムとは独立した映像再生ソフトウェアなどを用いてネットワーク上でリアルタイムに配信される映像を視聴する場合を想定したものであり、それらの映像を視聴しながら各ユーザが入力したコメント情報をサーバを介して共有することで、ユーザ間で映像に関するコミュニケーションを行うものである。
【００４０】
以下の例では、説明の簡略化のために、テレビ放送受像機を用いて、テレビ放送を視聴しながらパーソナルコンピュータなどの端末を用いてコミュニケーションを行う、最も一般的なコミュニケーション方法を基本に説明する。
【００４１】
なお、本実施の形態は、請求項１及び請求項５を実施した場合の具体例を示している。
【００４２】
図３は、本発明の第１の実施の形態におけるシステム構成図である。
【００４３】
同図に示す映像コメント入力・表示システムは、複数台のクライアント装置１００とサーバ装置２００を含み、クライアント装置１００とサーバ装置２００は、例えば、インターネットのようなネットワークを介して接続される。ここで言う接続とは、各端末が論理的に接続される状態を指し、電話回線、ＦＴＴＨ、無線ＬＡＮなどの接続方法は問わない。
【００４４】
クライアント装置１００は、複数台存在するが、説明の簡略化のため以下では１台のクライアント装置１００を用いて説明する。また、各クライアント装置１００を保有するユーザは、上記で述べたようにテレビ放送受像機を用いて映像を視聴しているとする。
【００４５】
サーバ装置２００は、コミュニケーションの対象となる映像を特定する映像情報を取得する。本実施の形態の場合は、テレビ放送映像が対象となるため、映像情報としてテレビ放送局（チャンネル）、放送時間を用いる。なお、他の例としては、ＥＰＧ情報、ｉＥＰＧ情報、Ｇコードなどを用いてもよく、受信するテレビ放送映像が特定できればよい。なお、本実施の形態とは異なり、ネットワークにおけるライブ配信映像などを想定する場合、映像情報としては、当該映像の位置を指し示すＵＲＬなどが利用される。
【００４６】
サーバ装置２００は、映像情報取得部２０１によって得られる映像情報によって特定される映像から映像構造化情報を算出する映像構造化情報算出部２０２を有する。具体的に、映像構造化情報算出部２０２は、テレビ放送映像をコンピュータで処理可能な信号に変換するテレビチューナーボードなどの装置と、当該信号を蓄積するメモリなどの装置、変換された信号から映像構造化情報を算出する装置あるいはプログラムなどからなる。本実施の形態とは異なり、ネットワーク上のライブ配信映像などを対象とする場合は、映像を一時蓄積するメモリなどの装置と、蓄積された映像から映像構造化情報を算出する装置、あるいは、プログラムなどからなる。一般的に、映像構造化情報算出部２０２は、対象となる映像を処理可能な形態に変換・蓄積する装置、あるいはプログラムと、映像構造化情報を算出する装置・プログラムなどからなり、映像から映像構造化情報を算出できればその形態は問わない。
【００４７】
また、本実施の形態では、単純化のために、テレビ放送映像やネットワーク配信映像の１チャンネル分だけを対象にして説明を行うが、複数のチャンネルを同時受信して処理を行ってもよい。その場合、映像情報取得部２０１及び映像構造化情報算出部２０２はチャンネル分だけ並列に存在し、映像情報の取得、映像構造化情報の算出を行うことになる。
【００４８】
映像構造化情報算出部２０２により算出される映像構造化情報とは、画面上の色情報や場面の切り替わり点、カメラワーク、撮影されている物体、文字、発話内容、発話者や音楽の認識結果、一定間隔で取り出される時刻情報など、映像上の物理的、あるいは、意味的な特徴を示す情報であり、様々な単位を用いて映像を構造化する情報である。映像構造化情報は、映像管理や映像検索などの分野で広く扱われる情報であり、情報のいくつかは既知の映像解析技術を用いて取得できる。例えば、場面の切り替わり点やテロップ表示区間などに関しては、特許第２８３９１３２号公報、特開平９−２３８２９８号公報、及び、特開平１１−１７８００７号公報などに記載されており、それ以外の特徴量についても様々な研究が為されている。
【００４９】
一般に、映像構造化情報の算出・取得には映像を解析する処理時間を要する。しかし、コンピュータの高性能化や様々な解析アルゴリズムの提案・改良により、例えば、カメラの切り替え点であるカット点などの物理的な特徴量を用いた軽度な情報の算出は、現在のコンピュータで遅延無く行えるようになっている。本実施の形態では、現状におけるこのような軽度な処理や将来的な計算時間の短縮を考慮し、処理に要する時間については遅延がないことを仮定して話を進める。遅延が発生するような状況については、第２の実施の形態で後述する。
【００５０】
映像構造化情報算出部２０２により、リアルタイムに放送・配信される映像から、次々と映像構造化情報が取得され、映像構造化情報ＤＢ２０３に次々と蓄積される。映像構造化情報としてカメラの切り替え点を用いた場合の、映像構造化情報ＤＢ２０３における映像構造化情報の蓄積例を図４に示す。なお、ソフトウェアや装置として実装されたＤＢを利用せず、メモリなどに一時的に蓄積した状態を映像構造化情報ＤＢ２０３としてもよい。
【００５１】
本実施の形態における例では、算出されたカメラの切り替え点の映像上の時刻をｔｎとした場合、各ｔｎによって区切られる区間を代表する画像を代表画像ｎとして算出するものとする。代表画像も、構造化された映像を分かりやすく提示する場合に有効な情報の一つである。代表画像ｎの最も単純な算出方法としては、各区間の先頭時刻であるｔｎにおいて静止画像を取得する方法も挙げられるが、区間内におけるカメラの動きからパノラマ状の代表画像を作成する方法や、顔認識技術を用いて画面内に顔が映っている時刻から代表画像を取得する方法などもある。これらの方法については特に制限を設けず、既知の技術を用いて代表画像を取得するものとする。
【００５２】
図４に示すように、映像Ａから取得される各映像構造化情報は、一意に識別する識別ＩＤ，映像情報取得部２０１によって取得された映像情報からなる映像識別子、映像構造化情報が算出された映像時刻、各区間の代表画像を識別する代表画像ＩＤによって定義され、これらの情報により映像構造化情報は一意に特定されるようになる。
【００５３】
以上の手段を用いることで、サーバ装置２００上では、リアルタイムに放送・配信される映像から次々と映像構造化情報を算出し、蓄積していくこととなる。
【００５４】
クライアント装置１００は、コミュニケーションの対象となる映像を特定する映像情報を取得する映像情報取得部１０１を有する。本実施の形態の場合、ユーザはテレビ放送受像機などを用いて映像を視聴しているため、映像情報取得部１０１は、例えば、視聴しているテレビ放送映像のテレビ放送局（チャンネル）と放送時間などを手入力、あるいは、別途用意されたテレビ番組表などから選択し、取得するものとする。映像情報取得部１０１において、取得される映像情報は、サーバ装置２００上の映像情報取得部２０１において取得される映像情報と整合させる必要があるが、同一の映像を扱っている場合において、両者の情報が同一の映像を特定できればよいため、両者で異なる情報を扱う場合（例えば、クライアント装置１００ではｉＥＰＧ情報、サーバ装置２００ではＧコード）においては、両者を同一の映像情報に変換するなどの暗黙の処理を含んでよい。
【００５５】
クライアント装置１００は、映像構造化情報算出部２０２によって算出された映像構造化情報を取得する映像構造化情報取得部１０２を有する。具体的に、映像構造化情報取得部１０２は、映像情報取得部１０１によって取得された映像情報を用いて、映像構造化情報ＤＢ２０３に問い合わせを行い、当該映像情報によって特定される映像に関する映像構造化情報を取得する。図４を例にした場合、各映像構造化情報における映像識別子を用いることで、映像構造化情報の取得は容易に行うことができる。
【００５６】
クライアント装置１００は、ユーザが映像に対する感想などのコメント情報を入力したい場合に、コメント情報の入力先である映像構造化情報を指定する映像構造化情報指定部１０３を有する。映像構造化情報指定部１０３における映像構造化情報の指定方法の例を図５に示す。
【００５７】
図５は、図４で示した映像構造化情報を用いた場合の例である。また、映像構造化情報指定部１０３における表示の時間経過に伴う変化を示す。映像Ａの視聴に伴い、映像構造化情報は次々と映像構造化情報算出部２０２によって算出される。そのため、映像上の時刻ｔａを視聴している際には、それまでに算出された映像構造化情報が、時刻ｔｂを視聴している際には新たに算出された映像構造化情報が次々と提示されていく。このように算出される映像構造化情報を次々と提示することで、ユーザは、現在視聴中の映像区間についてコメント情報を入力できるばかりでなく、一つ前の区間、あるいは、それ以前の区間に対してもコメント情報を入力できるようになる。ユーザは提示された映像構造化情報のうちのいずれかを選択（図５では「コメント入力」ボタンを押下）することで、コメント情報を入力する映像情報構造化情報を指定する。
【００５８】
クライアント装置１００は、映像構造化情報指定部１０３によって指定された映像構造化情報に対してユーザにコメント情報を入力させるコメント情報入力部１０４を有する。コメント情報入力部１０４の画面例を図６に示す。コメント情報入力部１０４は、映像構造化情報指定部１０３においてユーザから映像構造化情報が指定された場合に、図６に示すようなウィンドウなどを提示してユーザにコメント情報の入力を促す。このようなインタフェースを用いることで、ユーザは指定された映像構造化情報に対して映像に対する感想などのコメントが入力できるため、図７に示すように、時間の経過に伴い映像の内容が切り替わってしまった場合でも、映像構造化情報によって指定される適切な映像区間に対してコメント情報を継続して入力できるようになる。
【００５９】
クライアント装置１００は、映像構造化情報指定部１０３により指定された映像構造化情報と、コメント情報入力部１０４から入力されたコメント情報を関連付けて蓄積するコメント情報・映像構造化情報蓄積部１０５を有する。本実施の形態の場合、コメント情報及び映像構造化情報は、図６におけるコメント情報入力部１０４において入力を確定した段階で直ちにサーバ装置２００上のコメント情報・映像構造化情報ＤＢ２０４に蓄積される。本実施の形態におけるコメント情報・映像構造化情報蓄積ＤＢ２０４の具体例を図８に示す。
【００６０】
本実施の形態の場合、コメント情報・映像構造化情報蓄積ＤＢ２０４に蓄積される映像構造化情報としては、映像構造化情報ＤＢ２０３において各映像構造化情報を特定する一意な識別子となる識別ＩＤを用いる。また、コメント情報としては、コメント情報を入力したユーザのユーザ名、入力日時、入力されたコメントを用いる。コメント情報・映像構造化情報ＤＢ２０４は、それらの情報を図８に示すように関連付けて蓄積することで、どの映像構造化情報にどのようなコメント情報が付与されたのかを容易に取得できるようになる。
【００６１】
クライアント装置１００は、映像情報取得部１０１によって取得された映像情報と映像構造化情報取得部１０２によって取得された映像構造化情報を用い、コメント情報・映像構造化情報ＤＢ２０４から関連するコメント情報を取得するコメント情報取得部１０６を有する。本実施の形態の場合、図８で示したように、取得済みの映像構造化情報の識別ＩＤを参照することで、該当する映像に対して入力されたコメント情報を全て取得する。
【００６２】
クライアント装置１００は、コメント情報取得部１０６により取得されたコメント情報を取得済みの映像構造化情報と関連付けて提示する情報表示部１０７を有する。本実施の形態の場合、映像構造化情報指定部１０３と表示部を併用して図９のように提示する。
【００６３】
図９の左側では、情報表示部１０７によって、ある時刻ｔａにおいて取得済みの映像構造化情報と共に、その時点で入力されたコメント情報が各映像構造化情報に関連付けて表示される。また、図９の右側では、ある時刻ｔｂにおいて新たに取得された映像構造化情報と共に、時刻ｔａからｔｂの間に入力された新たなコメント情報が追加表示される。
【００６４】
このようにして、情報表示部１０７では、各映像構造化情報に関連付けてコメント情報を表示していくことで、入力にタイムラグがあった場合でも情報入力先に対して適切にコメント情報を提示できると共に、映像構造化情報と共に表示することで、どのコメント情報がどの映像部分に対して付けられたものであるのかを容易に理解できるようにする。
【００６５】
本実施の形態によれば、以上のような手段を用いることで、視聴中のリアルタイム映像から次々と算出される映像構造化情報を用いて適切な場所にコメント情報を入力できるようになると共に、映像構造化情報と関連付けて提示することで、各コメント情報が映像上のどの場所に入力されたものであるか容易に把握できるようになる。よって、入力された時刻に沿って次々とコメント情報を提示する従来の情報入力・表示方法とは異なり、リアルタイムに映像を視聴する場合においても適切に情報を入力・表示でき、ユーザ間のコミュニケーションはスムーズに行われる。
【００６６】
［第２の実施の形態］
本実施の形態では、リアルタイムに放送されたテレビ放送映像やネットワーク上でのライブ配信映像などを対象とするもので、第１の実施の形態とは異なり、本システム内に用意された映像視聴用装置、あるいはプログラムなどを用いて映像を視聴しながらコミュニケーションを行うものである。
【００６７】
以下の例では、説明の簡略化のために、ネットワーク上でのライブ配信映像を対象にコミュニケーションを行う場合を想定して説明する。本実施の形態では、請求項１〜４、５〜８を実施した場合の具体例を示している。
【００６８】
図１０は、本発明の第２の実施の形態におけるシステム構成図である。
【００６９】
同図に示すシステムは、複数台のクライアント装置１００と、サーバ装置２００、リアルタイムライブ映像を配信するライブ映像配信サーバ３００とを含み、クライアント装置１００と各サーバ装置２００は、例えば、インターネットのようなネットワークを介して接続される。クライアント装置１００は複数台存在するが、説明の簡略化のため以下では１台のクライアント装置１００を用いて説明する。
【００７０】
なお、以下では、図３の構成と同一構成部分には同一符号を付す。
【００７１】
ライブ映像配信サーバ３００は、カメラからの生映像あるいは録画済の映像などを、ネットワークを通じてリアルタイムに配信する映像配信部３０１を有する。映像配信部３０１から配信される映像はＵＲＬなどで接続先を指定でき、映像再生プログラムなどに当該情報を入力して接続することで、ユーザはリアルタイムに映像を視聴できるようになる。本実施の形態では、ネットワーク上でのライブ配信を想定しているが、テレビ放送映像を対象とした場合ではライブ映像配信サーバ装置３００を放送局と置換して考えることができる。
【００７２】
クライアント装置１００は、コミュニケーションの対象となる映像を特定する映像情報を取得する映像情報取得部１０１を有する。本実施の形態におけるライブ配信映像を特定する映像情報としては、例えば、映像配信元によって一意に定めるＵＲＬや識別ＩＤ、映像ファイル名、あるいいはそれらを複合した情報を用いる。
【００７３】
クライアント装置１００は、上記の映像情報取得部１０１によって得られる映像情報によって特定される映像から映像構造化情報を算出する映像構造化情報算出部１０８を有する。具体的な映像構造化情報算出部１０８については既に、第１の実施の形態の映像構造化情報算出部２０２と同様であるため、詳細な説明を省略する。但し、本実施の形態の場合は、クライアント装置１００内で映像構造化情報を算出するため、使用する映像構造化情報やクライアント装置の性能によって算出に時間がかかる場合が想定される。そこで以下では、映像構造化情報算出部１０８において映像構造化情報の算出にタイムラグが生じることを前提にして説明する。また、クライアント装置１００によって算出する映像構造化情報も異なるものとする。すなわち、カメラの切り替え点を算出するクライアント装置、オブジェクトを認識するクライアント装置など、ユーザによって算出する映像構造化情報を分散して処理する状況を想定する。前述の第１の実施の形態では、サーバ装置２００側で全ての映像構造化情報を算出した例を示したが、本実施の形態のようにクライアント装置１００側で映像構造化情報を算出することによって、サーバ装置２００側で算出される映像構造化情報以外の様々な映像構造化情報を用いたコミュニケーションが可能になる。
【００７４】
なお、クライアント装置１００によっては映像構造化情報を算出しない場合もあり得る。その場合、映像構造化情報算出部１０８は映像構造化情報ＤＢ２０３に何も蓄積しない。
【００７５】
サーバ装置２００は、上記の映像構造化情報算出部１０８によって算出された映像構造化情報を蓄積する映像構造化情報ＤＢ２０３を有する。蓄積された映像構造化情報の例を図１１に示す。
【００７６】
本実施の形態では、第１の実施の形態とは異なり、カメラの切り替え点ばかりでなく、映像内の様々な情報を認識することで、例えば、映像内に映っているオブジェクトや人物の顔、テロップ文字と呼ばれる画像内文字情報なども抽出するものとする。図１１に示すように、これらの映像構造化情報は、算出対象となる映像を識別する映像識別子（図４と同様に映像情報からなる）、算出された開始時間・終了時間、代表画像などと共に、例えば、顔認識の場合には、認識された顔領域の画面上の位置や認識された人物名などの補助的な情報と共に蓄積される（図１１では“補助情報”として簡略化して図示されている）。なお、これらの情報は、サーバ装置２００が有する映像構造化情報修正部２０６によって適宜修正され得る。映像構造化情報修正部２０６については後述する。
【００７７】
ここで、請求項２、６に関わる特徴として、映像構造化情報算出部１０８は、一次映像構造化情報を算出できる。ここで、一次映像構造化情報とは、画面上に表示されている文字のように、表示開始から終了までの区間を算出する必要のあるものや、顔画像認識のように計算時間を要する映像構造化情報が存在するため、このような映像構造化情報に対して一次的に算出し、利用する映像構造化情報をいう。
【００７８】
区間確定後や計算終了後に対応する映像構造化情報が確定した場合、一次映像構造化情報は確定した映像構造化情報に置き換えられる。例えば、図１４に示すように、ユーザが入力した画面上の位置情報を一次映像構造化情報とし、図１５に示すように位置情報に対応する領域情報が確定した場合、位置情報は領域情報に置換される。
【００７９】
上述した情報には、カメラの切り替わり点のようにある時刻に即座に算出できるものと、画面上に表示されている文字のように、表示開始から終了までの区間を算出する必要があるものや、顔画像認識のように計算時間を要するものなどが存在する。映像構造化情報算出部１０８は、後者のような算出・確定までに時間がかかるような映像構造化情報に対して、一次映像構造化情報を算出することで直ちにコメント情報の閲覧や入力を可能とする。一次映像構造化情報の例を図１２に示す。図１２では、時刻ｔａの時点で確定していないオブジェクト、テロップ文字に対して、未定の項目を“＊”として一次映像構造化情報を算出し、映像構造化情報ＤＢ２０３に蓄積する。一次映像構造化情報を用いる効果の具体例については、映像構造化指定部１０３や情報表示部１０７の説明において示す。
【００８０】
なお、映像構造化情報が算出・確定した場合、映像構造化算出部１０８は、即座に映像構造化情報ＤＢ２０３の該当情報を更新することとする。
【００８１】
クライアント装置１００は、映像構造化情報算出部１０８によって算出された映像構造化情報を取得する映像構造化情報取得部１０２を有する。具体的には映像構造化情報取得部１０２は、映像情報取得部１０１によって取得された映像情報を用いてサーバ装置２００の映像構造化情報ＤＢ２０３に問い合わせを行い、当該映像情報によって特定される映像に関わる映像構造化情報を取得する。具体的に図１１を例にした場合、各映像構造化情報における映像識別子を用い、映像識別子が映像情報と同一と判定される映像構造化情報を取得する。但し、請求項２，３、６，７に関わる特徴を有する場合、取得される映像構造化情報には一次映像構造化情報も含まれる。
【００８２】
クライアント装置１００は、映像に対する感想などのコメント情報を入力したい場合に、コメント情報の入力先である映像構造化情報をユーザに指定させる映像構造化情報指定部１０３を有する。映像構造化情報指定部１０３における映像構造化情報の指定方法の例を図１３に示す。図５に述べた方法と同様に、映像の視聴に合わせて算出される映像構造化情報を次々と提示すると共に（図１２では時刻ｔａにおける状態を示す）、それぞれの映像構造化情報を指定できるボタンなどを用意する。上述したように、本実施の形態では、映像構造化情報算出部１０８において、一次映像構造化情報を取得できる。図１３では、オブジェクト、テロップ文字において、時刻ｔａの段階で未定の項目があるにも関らず、一次映像構造化情報を用いることで映像構造化情報を指定できるようになる。
【００８３】
ここで、請求項３、７に関わる特徴として、映像構造化情報指定部１０３は、一次映像構造化情報を指定できる。映像構造化情報には、顔画像認識のように認識までに計算時間を要するものなどが存在するため、リアルタイムに映像を視聴している場合、映像構造化情報算出部１０８による一次映像構造化情報の算出がユーザの入力に間に合わない状況が考えられる。映像構造化情報指定部１０３においても、映像構造化情報算出部１０８のように一次映像構造化情報を利用できるようにすることでそのような問題を回避する。映像構造化情報指定部１０３による一次映像構造化情報の指定方法を図１４に示す。
【００８４】
再生されている映像に対してマウスカーソルなどを用いて映像内の情報を指定すると共に、その種別を選択する手段を設けることで、図１４のような一次映像構造化情報が指定できる。より具体的には、開始時刻はマウスカーソルによって映像内のある場所を指定した時刻、種別は選択手段において選択された種別、補助情報としてはマウスカーソルの画面上の位置、代表画像としては開始時刻として指定された時刻における静止画などが指定できる。
【００８５】
このような一次映像構造化情報を指定できる手段を設けることで、映像構造化情報指定部１０８は、算出にかかる映像構造化情報などに対しても、一次映像構造化情報を用いることで即座にコメント情報を入力できるようにする。
【００８６】
クライアント装置１００は、映像構造化情報指定部１０３によって指定された映像構造化情報に対してコメント情報を入力するコメント情報入力部１０４を有する。コメント情報入力部１０４については、第１の実施の形態の図６で説明したため、説明は省略する。
【００８７】
クライアント装置１００は、映像構造化情報指定部１０３でユーザにより指定された映像構造化情報と、コメント情報入力部１０４でユーザによって入力されたコメント情報を、コメント情報・映像構造化情報ＤＢ２０４に関連付けて蓄積するコメント情報・映像構造化情報蓄積部１０５を有する。コメント情報・映像構造化情報蓄積部１０５により蓄積される情報については、第１の実施の形態の図８において既に説明したため詳細な説明は省略する。
【００８８】
なお、請求項３，７に関わる特徴を有する場合、映像構造化情報指定部１０３によって指定された一次映像構造化情報が映像構造化情報ＤＢ２０３に蓄積される。
【００８９】
クライアント装置１００は、映像情報取得部１０１によって取得された映像情報と映像構造情報取得部１０８によって取得された映像構造化情報を用い、コメント情報・映像構造化情報ＤＢ２０４から関連するコメント情報を取得するコメント情報取得部１０６を有する。本実施の形態の場合、図８で示したように、取得済みの映像構造化情報の識別ＩＤを参照することで、該当する映像に対して入力されたコメント情報を取得する。また、映像構造化情報の識別ＩＤを用いて、特定の映像構造化情報と関連付けられたコメント情報のみを取得することもできる。
【００９０】
クライアント装置１００は、コメント情報取得部１０６により取得されたコメント情報を、取得済みの映像構造化情報と関連付けて提示する情報表示部１０７を有する。情報表示部１０７については、図９において既に説明したので詳細な説明は省略する。但し、請求項２，３，６，７に関わる特徴を有する場合、算出・確定していない映像構造化情報に対しても一次映像構造化情報を用いてコメント情報の閲覧ができる。
【００９１】
クライアント装置１００は、映像配信部３０１から放送・配信される映像を視聴する映像再生部１０９を有する。請求項３，７に関わる特徴を有する場合、映像再生部１０９は、図１４に示したように、映像構造化情報指定部１０３における一次映像構造化情報の指定に利用することができる。
【００９２】
本発明において、請求項４，８に関わる特徴を有する場合、映像構造化情報が変更された際に、コメント情報・映像構造化情報蓄積部１０５において、コメント情報・映像構造化情報を変更して、サーバ装置２００のコメント情報・映像構造化情報ＤＢ２０４に蓄積する。そこで、本実施の形態では、サーバ装置２００において、そのような処理を行う映像構造化情報修正部２０６を有する。
【００９３】
映像構造化情報修正部２０６は、映像構造化情報ＤＢ２０３の内容が変更された場合に即座にコメント情報・映像構造化情報ＤＢ２０４の関連情報を修正する。例えば、請求項２，６に関わる特徴を有する場合、映像構造化情報ＤＢ２０３には映像構造化情報算出部１０８によって算出された一次映像構造化情報が蓄積されており、映像構造化情報算出部１０８によって映像構造化情報が確定した場合に映像構造化情報は更新されるため、それに合わせて情報の修正を行う。本実施の形態の場合、図８で示したように、コメント情報・映像構造化情報ＤＢ２０４は映像構造化情報を識別ＩＤとして保持しているため修正する必要は生じないが、実施の形態によっては識別ＩＤ以外の情報を保持する可能性があるため、該当する情報が更新された場合に修正を行う。
【００９４】
請求項３，７に関わる特徴を有する場合、映像構造化情報修正部２０６は、映像構造化情報指定部１０３によってユーザから指定された一次映像構造化情報に対し、映像構造化情報算出部１０８によって算出された映像構造化情報と比較を行い、同一の映像構造化情報と判定される場合にはそれらを統合すると共に、該当するコメント情報・映像構造化情報を修正する。一次映像構造化情報と算出された映像構造化情報の比較方法の例を図１５に示す。
【００９５】
図１５は、図１４において映像構造化情報指定部１０３によってユーザから指定された一次映像構造化情報ｘと、映像構造化情報算出部１０８によって算出された映像構造化情報ｙを比較したものである。両者が同一の映像構造化情報を指し示しているかどうかを判定するには、まず、種別が同一（顔）であることを比較した後、ｘにおける開始時刻（一次映像構造化情報を指定した時刻）が、ｙにおける開始終了時刻内に含まれるかどうかを比較する。含まれる場合、ｙの補助情報にある顔領域（領域ｔｆ０）内に、ｘの情報指定位置（位置ｉ０）が含まれるかどうかを比較し、含まれる場合に両者は同一の映像構造化情報を指し示していると判定する。同一であると判定された場合、ｘは一次映像構造化情報であるため、映像構造化情報ＤＢ２０３から破棄すると共に、コメント情報・映像構造化情報ＤＢ２０４において識別ＩＤｘを参照するコメント情報・映像構造化情報の全てに対し、識別ＩＤをｙに書き換える。このような手順を踏まえることで、一次映像構造化情報と算出された映像構造化情報の重複を無くし、コメント情報を正しく閲覧・入力できるようにする。
【００９６】
また、映像構造化情報修正部２０６は、人手などを用いて映像構造化情報ＤＢ２０３を修正する場合などにも用いることができる。誤検出などによって開始・終了時刻が実際と異なる場合や、カメラ切り替え点があまりにも細かく認識されてしまったためにコメントの閲覧・入力が煩わしくなった場合などに、適宜映像構造化情報ＤＢ２０３の項目の修正やいつくかの映像構造化情報の統合・追加・削除などを行うと共に、コメント情報・映像構造化情報ＤＢ２０４内の情報も修正することで、適切な状態で情報が閲覧・入力できるようになる。また、このような修正を可能とすることで、映像構造化情報及びコメント情報の閲覧性を高めることができるため、リアルタイムにコミュニケーションを図った後でもそれらの情報を有効に活用できるようになる。例えば、ライブ配信映像を録画・蓄積し、後日同様のシステムを用いてコミュニケーションする場合などに利用できる。
【００９７】
以上のような手段を用いることで、本実施の形態によれば、請求項１〜４に記載の方法及び、５〜８に記載の装置を用いることで、視聴中のリアルタイム映像から次々と算出される映像構造化情報を用いて、適切な場所にコメント情報を入力できるようになると共に、映像構造化情報の算出に時間がかかる場合などにおいても即座に情報が閲覧・入力できるようになる。また、映像構造化情報に修正を施した場合にも適切に情報が閲覧・入力できるようになるため、リアルタイムに映像を視聴する場合においても適切に情報を入力・表示でき、ユーザ間のコミュニケーションはスムーズに行われる。
【００９８】
また、上記の第１の実施の形態及び第２の実施の形態における動作をそれぞれプログラムとして構築し、コンピュータにインストールする、または、ネットワークを介して流通させることが可能である。
【００９９】
なお、第１の実施の形態におけるクライアント装置１００の映像情報取得部１０１、映像構造化情報取得部１０２、映像構造化情報指定部１０３、コメント情報入力部１０４、コメント情報・映像構造化情報蓄積部１０５、コメント情報取得部１０６、情報表示部１０７の各動作をクライアント装置用のプログラムとして構築し、クライアント装置として利用されるコンピュータにインストールして実行させることが可能である。
【０１００】
また、サーバ装置２００の映像情報取得部２０１、映像構造化情報算出部２０２の動作をサーバ装置用のプログラムとして構築し、サーバ装置として利用されるコンピュータにインストールして実行させることが可能である。
【０１０１】
また、第２の実施の形態におけるクライアント装置１００の映像情報取得部１０１、映像構造化情報算出部１０８、映像構造化情報取得部１０２、映像構造化情報指定部１０３、コメント情報入力部１０４、コメント情報・映像構造化情報蓄積部１０５、コメント情報取得部１０６、情報表示部１０７及び映像再生部１０９の各動作をクライアント装置用のプログラムとして構築し、クライアント装置として利用されるコンピュータにインストールして実行させることが可能である。
【０１０２】
また、サーバ装置２００の映像構造化情報修正部２０６の動作をサーバ装置用のプログラムとして構築し、サーバ装置として利用されるコンピュータにインストールして実行させることが可能である。
【０１０３】
また、構築されたプログラムをハードディスク装置や、フレキシブルディスク、ＣＤ−ＲＯＭ等の可搬記憶媒体に格納しておき、コンピュータにインストールして実行させる、または、配布することが可能である。
【０１０４】
なお、本発明は、上記の実施の形態に限定されることなく、特許請求の範囲内において種々変更・応用が可能である。
【産業上の利用可能性】
【０１０５】
本発明は、テレビ放送受像機とリアルタイムコミュニケーションシステムを併用するシステムや、サーバを介して他のユーザ端末へリアルタイムにコメント等の情報を送出するシステムに適用可能である。
【図面の簡単な説明】
【０１０６】
【図１】本発明の映像情報入力・表示方法の原理説明図である。
【図２】本発明の映像情報入力・表示装置の原理構成図である。
【図３】本発明の第１の実施の形態におけるシステム構成図である。
【図４】本発明の第１の実施の形態における映像構造化情報の蓄積例である。
【図５】本発明の第１の実施の形態における映像構造化情報指定部における映像構造化情報の指定方法の例である。
【図６】本発明の第１の実施の形態におけるコメント情報入力部の画面例である。
【図７】本発明の第１の実施の形態における時間経過に伴う映像内容の変化とコメント情報入力部との関係図である。
【図８】本発明の第１の実施の形態におけるコメント情報・映像構造化情報蓄積ＤＢの具体例である。
【図９】本発明の第１の実施の形態における情報表示部の画面例である。
【図１０】本発明の第２の実施の形態におけるシステム構成図である。
【図１１】本発明の第２の実施の形態における映像構造化情報ＤＢに蓄積された映像構造化情報の例である。
【図１２】本発明の第２の実施の形態における映像構造化情報算出部における一次映像構造化情報の例である。
【図１３】本発明の第２の実施の形態における映像構造化情報指定部の映像構造化情報の指定方法の例である。
【図１４】本発明の第２の実施の形態における映像構造化情報指定部による一次映像構造化情報の指定方法である。
【図１５】本発明の第２の実施の形態における一次映像構造化情報と算出された映像構造化情報の比較方法の例である。
【符号の説明】
【０１０７】
１  映像情報取得手段
２  映像構造化情報算出手段
３  映像構造化情報ＤＢ
４  映像構造化情報取得手段
５  映像構造化情報指定手段
６  コメント情報入力手段
７  コメント情報・映像構造化情報蓄積手段
８  コメント情報・映像構造化情報ＤＢ
９  コメント情報取得手段
１０  情報表示手段
１００  クライアント装置
１０１  映像情報取得部
１０２  映像構造化情報取得部
１０３  映像構造化情報指定部
１０４  コメント情報入力部
１０５  コメント情報・映像構造化情報蓄積部
１０６  コメント情報取得部
１０７  情報表示部
１０８  映像構造化情報算出部
１０９  映像再生部
２００  サーバ装置
２０１  映像情報取得部
２０２  映像構造化情報算出部
２０３  映像構造化情報ＤＢ
２０４  コメント情報・映像構造化情報ＤＢ
２０６  映像構造化情報修正部
３００  ライブ映像配信サーバ装置
３０１  映像配信部
【図１】
2006352779.tif 000003
【図２】
2006352779.tif 000004
【図３】
2006352779.tif 000005
【図４】
2006352779.tif 000006
【図５】
2006352779.tif 000007
【図６】
2006352779.tif 000008
【図７】
2006352779.tif 000009
【図８】
2006352779.tif 000010
【図９】
2006352779.tif 000011
【図１０】
2006352779.tif 000012
【図１１】
2006352779.tif 000013
【図１２】
2006352779.tif 000014
【図１３】
2006352779.tif 000015
【図１４】
2006352779.tif 000016
【図１５】
2006352779.tif 000017