(57)【特許請求の範囲】
【請求項１】
入力された講義映像に対して、意味的にまとまりのあるトピック区間を定義するトピック区間定義装置であって、
前記入力された講義映像の音声データから講師の連続発話区間を求める連続発話区間検出手段と、
前記連続発話区間検出手段から連続発話区間を受け取り、隣り合う連続発話区間の連接関係からトピック開始点を求める連続発話区間からのトピック区間定義手段と、を有し、
前記連続発話区間からのトピック区間定義手段は、
連続発話区間の冒頭で発声されたワードを音声認識により求め、トピック開始点となりうるワード種別であって講師毎の過去の事例や講義のスタイルから求めたワード種別を記憶するワード種別記憶部を参照して、そのワード種別からトピック開始点であるか否かを判定する
ことを特徴とする映像トピック区間定義装置。
【請求項２】
前記連続発話区間からのトピック区間定義手段によって求められたトピック開始点で決まる区間をトピック区間候補とし，それらの候補からトピック区間を定義するトピック区間定義手段を有する
ことを特徴とする請求項１に記載の映像トピック区間定義装置。
【請求項３】
入力された講義映像に対して、意味的にまとまりのあるトピック区間を定義するトピック区間定義方法であって、
連続発話区間検出手段が、前記入力された講義映像の音声データから講師の連続発話区間を求める連続発話区間検出ステップと、
トピック区間定義手段が、前記連続発話区間検出ステップで求められた連続発話区間を受け取り、隣り合う連続発話区間の連接関係からトピック開始点を求める連続発話区間からのトピック区間定義ステップと、を行い、
前記連続発話区間からのトピック区間定義ステップにおいて、
連続発話区間の冒頭で発声されたワードを音声認識により求め、トピック開始点となりうるワード種別であって講師毎の過去の事例や講義のスタイルから求めたワード種別を記憶するワード種別記憶部を参照して、そのワード種別からトピック開始点であるか否かを判定する
ことを特徴とする映像トピック区間定義方法。
【請求項４】
前記連続発話区間からのトピック区間定義ステップによって求められたトピック開始点で決まる区間をトピック区間候補とし，それらの候補からトピック区間を定義するステップを行う
ことを特徴とする請求項３に記載の映像トピック区間定義方法。
【請求項５】
請求項１または２に記載の映像トピック区間定義装置を構成する各手段としてコンピュータを機能させるための映像トピック区間定義プログラム。
【請求項６】
請求項５記載の映像トピック区間定義プログラムを格納したことを特徴とするコンピュータ読取可能な記録媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、映像トピック区間定義装置及び方法及びプログラム及びコンピュータ読取可能な記録媒体に係り、特に、映像の中の見たいシーンに効率よくアクセスするための検索や閲覧に必要となるインデックスを自動付与する映像インデキシング分野の中で映像を意味のある区間に分割するための映像トピック区間定義装置及び方法及びプログラム及びコンピュータ読取可能な記録媒体に関する。
【背景技術】
【０００２】
講演や講義の模様を撮影した講義映像から意味的な区間を定義する装置の従来技術として、スライドの切替時を区間開始点とする方法がある（例えば、非特許文献１参照）。
【０００３】
講義内容のトピックに応じてスライド資料が作成され、計画通りに講義が進行していればスライドの切替タイミングを講義映像のトピック区切りとすることは妥当である。さらに、スライド切替のイベントは、スライド操作を行うパーソナルコンピュータ等からスライド切替のタイミングを取得したり、スライド資料を資料映像としてビデオカメラで撮影した場合は、資料映像で画像内容が大きく変化するシーンチェンジを検出することで、容易に得ることができる。
【０００４】
別の方法として、講師の発話内容を音声認識技術によりテキスト化し、ワードの類似度に基づいて、話題の区切りを検出するトピック分割方法が数多く提案されている（例えば、非特許文献２参照）。
【非特許文献１】石塚健太郎、亀田能成、美濃導彦、"講義の自動撮影系における音声・映像インデキシング"，電子情報通信学会技術報告、PRMU99-258, 2000.
【非特許文献２】金寺登、隅田飛鳥、池端孝夫、船田哲男、ビデオ教材作成支援を目的とした講義音声によるシーン分割、電子情報通信学会論文誌、Vol. J88-D1, No. 5, pp.977-984, 2005
【発明の開示】
【発明が解決しようとする課題】
【０００５】
講義中の各トピックとスライドが１対１に対応している場合には、スライド切替操作からトピックに分割する従来の方法により適切にトピック区間を定義することができる。しかし、一般的には、１対１に対応していることは稀で、１つのトピックは複数のスライドで構成される場合が多い。また、聴講者から質問など、その場に応じて前の話題に触れたりする場合にはスライドを前に戻したりする操作を行うこともある。このような場合にはスライドの切替タイミングだけでは意味的にまとまりのある適切なトピック区間が得られないことが問題である。
【０００６】
また、音声認識を用いて言語解析を行う従来技術では、音声認識が精度よく行え、もともと話題が大きく変わるような講義を対象にした場合には適切なトピック区間を定義することができる。しかし、講義における一般的な撮影環境で撮影された映像中の音声を精度よく認識することは困難である。仮に、ある程度の精度で音声をテキスト化できたとしても、元々あるテーマに沿って行われる講義は、ワードの類似度からトピックの分岐点を高精度に求めるのは困難である。このように、実用に供するには、音声認識や言語解析を高精度化する技術的課題を解決する必要がある。
【０００７】
本発明は、上記の点に鑑みなされたもので、意味的にまとまりのある区間であるトピック区間を簡易な方法で精度よく検出することが可能なコンテンツ視聴時の印象度推定装置及び装置及びプログラム及びコンピュータ読取可能な記録媒体を提供することを目的とする。
【課題を解決するための手段】
【０００８】
図１は、本発明の原理構成図である。
【０００９】
本発明（請求項１）は、入力された講義映像に対して、意味的にまとまりのあるトピック区間を定義するトピック区間定義装置であって、
入力された講義映像の音声データから講師の連続発話区間を求める連続発話区間検出手段３１と、
連続発話区間検出手段３１から連続発話区間を受け取り、隣り合う連続発話区間の連接関係からトピック開始点を求める連続発話区間からのトピック区間定義手段３２と、を有し、
連続発話区間からのトピック区間定義手段３２は、
連続発話区間の冒頭で発声されたワードを音声認識により求め、トピック開始点となりうるワード種別であって講師毎の過去の事例や講義のスタイルから求めたワード種別を記憶するワード種別記憶部を参照して、そのワード種別からトピック開始点であるか否かを判定する。
【００１１】
また、本発明（請求項２）は、連続発話区間からのトピック区間定義手段３２によって求められたトピック開始点で決まる区間をトピック区間候補とし，それらの候補からトピック区間を定義するトピック区間定義手段を有する。
【００１５】
図２は、本発明の原理を説明するための図である。
【００１７】
また、本発明（請求項３）は、入力された講義映像に対して、意味的にまとまりのあるトピック区間を定義するトピック区間定義方法であって、
連続発話区間検出手段が、入力された講義映像の音声データから講師の連続発話区間を求める連続発話区間検出ステップと、
トピック区間定義手段が、連続発話区間検出ステップで求められた連続発話区間を受け取り、隣り合う連続発話区間の連接関係からトピック開始点を求める連続発話区間からのトピック区間定義ステップと、を行い、
前記連続発話区間からのトピック区間定義ステップにおいて、
連続発話区間の冒頭で発声されたワードを音声認識により求め、トピック開始点となりうるワード種別であって講師毎の過去の事例や講義のスタイルから求めたワード種別を記憶するワード種別記憶部を参照して、そのワード種別からトピック開始点であるか否かを判定する。
【００１８】
また、本発明（請求項４）は、連続発話区間からのトピック区間定義ステップによって求められたトピック開始点で決まる区間をトピック区間候補とし、それらの候補からトピック区間を定義するステップを行う。
【００２２】
本発明（請求項５）は、請求項１または２に記載の映像トピック区間定義装置を構成する各手段としてコンピュータを機能させるための映像トピック区間定義プログラムである。
【００２３】
本発明（請求項６）は、請求項５記載の映像トピック区間定義プログラムを格納したコンピュータ読み取り可能な記録媒体である。
【発明の効果】
【００２４】
上記のように、本発明によれば、特徴量により映像を複数の区間に区切る処理を行い、一定以上の長さをもつ区間の冒頭部分（トピック区間開始点）を意味的な区間の始まり部分として容易に抽出することが可能となる。
【発明を実施するための最良の形態】
【００２５】
以下、図面と共に本発明の実施の形態を説明する。
【００２６】
［第１の実施の形態］
本実施の形態では、トピック区間を求める特徴量として「スライド提示時間」を用いる例を示す。
【００２７】
図３は、本発明の第１の実施の形態における第１の実施の形態における映像トピック区間定義装置の構成を示す。
【００２８】
同図に示す映像トピック区間定義装置１０は、スライド提示時間計測部１１とスライドからのトピック区間定義部１２及び記憶部１３から構成される。
【００２９】
スライド提示時間計測部１１は、講義映像や、スライド管理装置などのセンサ情報からスライドの切替を検出し、各スライドの提示時間を求める。求めた提示時間をスライドからのトピック区間定義部１２に出力する。ここで、スライドの切替のタイミングは、講義映像の中でスライドの部分のみ撮影した資料映像のシーンチェンジを検出する方法や、スライド管理装置から出力されるスライド切替情報を用いればよい。
【００３０】
スライドからのトピック区間定義部１２は、スライド提示時間継続部１１から受け取った各スライドの提示時間を特徴量としてトピック区間を定義し、トピック区間毎にスライドの提示時間を記憶部１３に格納する。
【００３１】
トピック区間の定義の例として、スライド提示時間が閾値以上の場合に、当該スライドへの切替時をトピック開始点とし、得られた複数のトピック開始点を発生した時間順に並べたときに隣り合うトピック開始点で区切られる区間をトピック区間とすればよい。
【００３２】
また、スライド提示時間が十分長いかを判定するための閾値を予め設定するようにしてもよい。閾値として、講師毎に過去の事例から適切な値を設定すればよい。実際の講義映像におけるスライド提示時間を計算した結果を図４に示す。図４では、講義内容を理解した人が適切なトピック区間を手動で設定したときに、スライド切替のタイミングとが同じ場合と、異なる場合とで区別してプロットしている。同図では、スライド提示時間が約６０秒を境界にトピック開始点になり得る場合と、そうでない場合とに分かれているので、６０秒を閾値として設定すればよい。
【００３３】
上記のように、本実施の形態によれば、スライドからスライド提示時間を特徴量としてトピック開始点を求めることにより、比較的時間をかけて説明しているスライドをトピック区間の種とし、その後の短いスライド提示区間をマージすることでまとまりのある単位のトピック区間が定義できるようになる。
【００３４】
［第２の実施の形態］
本実施の形態では、特徴量として講演や講義の模様を撮影した映像の講義（講演）状況の継続時間（区間長）を用いてトピック区間を定義する例を説明する。
【００３５】
図５は、本発明の第２の実施の形態における映像トピック区間定義装置の構成を示す。同図に示す映像トピック区間定義装置２０は、講義状況判別部２１、講義状況のマージ処理部２２、講義状況からのトピック区間定義部２３及び記憶部２４から構成される。
【００３６】
講義状況判別部２１は、講義映像や各種センサ情報から講義状況を判別し、講義全体における判別結果を求めて講義状況のマージ処理部２２に出力する。講義状況の判別は、例えば、文献"杉本吉隆、丸谷宜史、角所考、美濃導彦「講師行動の統計的性質に基づいた講義撮影のための講義状況の認識手法」情報処理学会 CVIM Vol. 153, pp.179-186, 2006"に示す方法で行えばよい。この方法では、講師の発話内容を記録するマイク、講師の立つ位置や手・肩の位置を計測する超音波位置センサ、ホワイトボードに書き込んでいるかを計測できる電子白板を用いて「語りかけ」「スライド説明」「板書説明」の３種類の講義状況を判別している。ここで「語りかけ」は講師が特に教材を利用せずにジェスチャーなどを交えながら説明している状態、「スライド説明」は講師がスライドを用いて教材を提示し、適宜指示棒で指しながら説明している状況、「板書説明」は講師が白板を用いて教材を提示し、適宜板書したり指示棒で指しながら説明している状況である。
【００３７】
講義状況のマージ処理部２２は、講義状況判別部２１から講義状況の判別結果を受け取ると、同一の講義状況が時間的に蜜に分布している区間をマージする処理を行う。例えば、閾値以上の長い同一の講義状況の間に、閾値以下の短い他の講義状況が出現している場合に、短い講義状況を長い講義状況に変換する処理や、講義状況を数値化し、時間軸方向に移動平均を求める処理を行い、平均後の値から元の講義状況に変換する処理を行う。このようなマージ処理により、例えば、３０秒の「板書説明」、５秒の「語りかけ」、６０秒の「板書説明」、１０秒の「スライド説明」、２０秒の「板書説明」と遷移するシーンがあった場合には、本処理により、１２５秒の「板書説明」の区間にマージされる。
【００３８】
マージ処理後に得られる、講義状況区間のリストは、記憶部２４に格納され、講義状況からのトピック区間定義部２３により読み出される。
【００３９】
講義状況からのトピック区間定義部２３は、記憶部２４からから講義状況区間のリストを読み出し、各講義状況の継続時間（区間長）を特徴量としてトピック区間を定義する。トピック区間の定義方法としては、例えば、同一の講義状況が閾値以上継続したときに、その講義状況の開始点をトピック開始点とする方法や、同一の講義状況の占有率が閾値以上になるようにトピック区間を定義する方法が有効である。
【００４０】
また、講義状況を「語りかけ」、「スライド説明」、「板書説明」に分類した場合に、実際の講義に対する分析結果から例えば「板書説明」が特に重要であることがわかっている場合には「板書説明」に対する継続時間のみからトピック区間を定義する方法も有効である。
【００４１】
上記のように、本実施の形態によれば、講義状況から同一の講義状態の継続時間を特徴量としてトピック開始点を求めることにより、例えば、「板書説明」という講義状況が長く継続する場合には、その状況をトピック区間の種として、周辺の短い講義状況をマージすることでまとまりのある単位のトピック区間が定義できるようになる。
【００４２】
［第３の実施の形態］
本実施の形態では、講義映像の音声データから連続発話区間を検出し、区間の連接関係からトピック区間を定義する例を説明する。
【００４３】
図６は、本発明の第３の実施の形態における映像区間定義装置の構成を示す。
【００４４】
同図に示す映像区間定義装置３０は、連続発話区間検出部３１、連続発話区間からのトピック区間定義部３２および及びワード種別記憶部３３から構成される。
【００４５】
連続発話区間検出部３１は、入力された講義映像の音声データから講師の連続発話区間を求め、各連続発話区間を連続発話区間からのトピック区間定義部３２に出力する。
【００４６】
連続発話区間からのトピック区間定義部３２は、連続発話区間検出部３１から各連続発話区間を受け取ると、隣り合う連続発話区間の連接関係からトピック開始点を求めることによりトピック区間を定義する。トピック区間の定義方法としては、例えば、連続発話区間の冒頭で発声されたワードを音声認識により求め、ワード種別記憶部３３を参照してそのワード種別からトピック開始点であるかを判定すればよい。具体例を以下に示す。
【００４７】
ワード種別として、「で」、「それで」といった前文の帰結を述べる接続詞、「さあ」「どうですか」といった受講者への呼びかけ、「だけど」「けれども」といった前文の内容に反する内容を述べる逆説型の接続詞、「まず」「もうひとつは」といった累加型の接続詞、「最近」「プリンタは」といった前文の流れとは関係ない接続詞以外の表現の５つのカテゴリをワード種別記憶部３３に用意し、トピック開始点となりうるワード種別が発生したところをトピック開始点とすればよい。トピック開始点となりうるワード種別は、講師毎の過去の事例や講義のスタイルなどから求めておけばよい。
【００４８】
上記のように、本実施の形態によれば、連続発話区間から隣り合う連続発話区間の連接関係からトピック開始点を求めるので、発話内容を全て精度よく音声認識できなくても連接関係を表す接続詞などの特定ワードを精度よく認識できれば適切なトピック区間を求めることができるようになる。
【００４９】
［第４の実施の形態］
本実施の形態では、前述の第１〜第３の実施の形態で示した各映像トピック区間定義装置１０、２０，３０から出力されたトピック区間に関する情報を統合してトピック区間を定義する例を説明する。
【００５０】
図６は、本発明の第４の実施の形態における映像トピック区間定義装置の構成を示す。
【００５１】
同図は、既に説明したスライド提示時間計測部１１とスライドからのトピック区間定義部１２からなる装置１０、講義状況判別部２１と講義状況のマージ処理部２２と講義状況からのトピック区間定義部２３からなる装置２０、連続発話区間検出部３１と連続発話区間からのトピック区間定義部３２とワード種別記憶部３３からなる装置３０、トピック区間定義部４１及び統合ルール記憶部４２から構成される。
【００５２】
装置１０のスライドからのトピック区間定義部１２は、第１の実施の形態で説明したように、スライドの提示時間を特徴量としてトピック区間を定義する。定義された区間をここでは、「スライドトピック区間」と呼び、その属性としてスライド提示時間を持つ。スライドトピック区間及び、その属性情報をトピック区間定義部４１に出力する。
【００５３】
装置２０の講義状況からのトピック区間定義部２３は、第２の実施の形態で説明したように、各講義状況の継続時間（区間長）を特徴量としてトピック区間を定義する。定義された区間を、ここでは「講義状況トピック区間」と呼び、その属性として講義状況とその継続時間や占有時間を持つ。講義状況トピック区間及び、その属性情報をトピック区間定義部４１に出力する。
【００５４】
装置３０の連続発話区間からのトピック区間定義部３２は、第３の実施の形態で説明したように、隣り合う連続発話区間の連接関係からトピック区間を定義する。定義された区間を、ここでは「発話区間トピック区間」と呼び、その属性として隣り合う連続発話区間の連接関係を持つ。発話区間トピック区間、及び、その属性情報をトピック区間定義部４１に出力する。
【００５５】
トピック区間定義部４１は、スライドからのトピック区間定義部１２からスライドトピック区間に関する情報を、講義状況からのトピック区間定義部２３から講義状況トピック区間に関する情報を、連続発話区間からのトピック区間定義部３２から発話区間トピック区間に関する情報をそれぞれ受け取ると、それらの情報を統合してトピック区間を定義する。統合の方法として、それぞれのトピック区間候補を全て採用する方法や、統合ルールを設ける方法などがある。以下では、統合ルール記憶部４２に格納される統合ルールとして、
（１）スライドトピック区間は全てトピック区間として採用する；
（２）講義状況トピックで講義状況が板書説明の場合はトピック区間として採用する；
（３）発話区間トピックで、かつ、その時刻での講義状況が板書説明の場合はトピックク区間として採用する；
のように設定した場合を例に説明する。
【００５６】
上記の構成における処理手順について説明する。
【００５７】
図８は、本発明の第４の実施の形態における処理手順のフローチャートである。
【００５８】
ステップ１０１）  装置１０のスライド提示時間計測部１１とスライドからのトピック区間定義部１２により、トピック区間候補としてＭ個のスライドトピック区間を検出する。
【００５９】
ステップ１０２）  装置２０の講義状況判別部２１、講義状況のマージ処理部２２、講義状況からのトピック区間定義部２３により、トピック区間候補としてＮ個の講義状況トピック区間を検出する。
【００６０】
ステップ１０３）  装置３０の連続発話区間検出部３１、連続発話区間からのトピック区間定義部３２により、トピック区間候補としてＰ個の発話区間トピック区間を検出する。
【００６１】
ステップ１０４）  トピック区間定義部４１は、Ｍ＋Ｎ＋Ｐ個のトピック区間候補について、それらの開始点を時間順にソートする。
【００６２】
ステップ１０５）  初期値として、ｋ＝１に設定する。
【００６３】
ステップ１０６）  ｋ番目のトピック候補開始点がスライドトピック開始点であるかを判定し、スライドトピック開始点の場合はステップ１０７へ、異なる場合はステップ１１０の処理に進む。
【００６４】
ステップ１０７）  ｋ番目のトピック候補開始点をトピック開始点とする。
【００６５】
ステップ１０８）  ｋをインクリメント（ｋ＝ｋ＋１）する。
【００６６】
ステップ１０９）  ｋの値がＭ＋Ｎ＋Ｐを超えているかを判定し、超えている場合は処理を完了する。超えていない場合はステップ１０６に移行する。
【００６７】
ステップ１１０）  ステップ１０６において、ｋ番目のトピック候補開始点がスライドトピック開始点でない場合は、ｋ番目のトピック候補開始点が講義状況トピック開始点で、かつ、その時刻での講義状況が板書説明であるかを判定する。Ｙｅｓである場合はステップ１１１へ、Ｎｏの場合はステップ１１２に移行する。
【００６８】
ステップ１１１）  ｋ番目のトピック候補開始点をトピック開始点とする。
【００６９】
ステップ１１２）  ｋ番目のトピック候補開始点が発話区間トピック開始点で、かつ、講義状況が板書説明であるかを判定する。Ｙｅｓの場合はステップ１１３へ、Ｎｏの場合はステップ１０８に移行する。
【００７０】
ステップ１１３）  ｋ番目のトピック候補開始点をトピック開始点とする。
【００７１】
以上の処理により、トピック区間が定義される例を図９に示す。同図の上部に示す３種類のトピック区間候補は、スライド切替、講義状況、連続発話区間からトピック区間候補として検出された例である。
【００７２】
このようなトピック候補を統合した結果を図９の下部に統合例として示す。統合例１は、図８のフローチャートに従って統合した場合で、統合例２は、全てのトピック区間候補を採用した場合である。
【００７３】
上記のように、装置１０のスライドからのトピック区間候補、装置２０の講義状況からのトピック区間候補、装置３０の連続発話区間からのトピック区間候補、及びそれらを統合することにより、意味的にまとまりのあるトピック区間を簡易な方法で検出することが可能となる。
【００７４】
さらに、本実施の形態によれば、スライド、講義状況、連続発話区間の３種類の特徴量を用いて求めたトピック区間を候補区間としてそれらを総合的に分析することにより適切なトピック区間を求めることができるようになる。
【００７５】
なお、上記の第１〜第４の実施の形態における各装置の構成要素の動作をプログラムとして構築し、映像区間定義装置として利用されるコンピュータにインストールする、または、ネットワークを介して流通させることが可能である。
【００７６】
また、構築されたプログラムをハードディスクや、フレキシブルディスク・ＣＤ−ＲＯＭ等の可搬記憶媒体に格納し、コンピュータにインストールする、または、配布することが可能である。
【００７７】
なお、本発明は、上記の実施の形態に限定されることなく、特許請求の範囲内において種々変更・応用が可能である。
【産業上の利用可能性】
【００７８】
本発明は、映像を意味的な区間に定義する技術に適用可能である。
【図面の簡単な説明】
【００７９】
【図１】本発明の原理構成図である。
【図２】本発明の原理を説明するための図である。
【図３】本発明の第１の実施の形態における映像トピック区間定義装置の構成図である。
【図４】本発明の第１の実施の形態におけるスライド提示時間の実験結果である。
【図５】本発明の第２の実施の形態における映像トピック区間定義装置の構成図である。
【図６】本発明の第３の実施の形態における映像トピック区間定義装置の構成図である。
【図７】本発明の第４の実施の形態における映像トピック区間定義装置の構成図である。
【図８】本発明の第４の実施の形態における処理手順のフローチャートである。
【図９】本発明の第４の実施の形態における定義されたトピック区間の例である。
【符号の説明】
【００８０】
１  トピック開始点候補抽出手段
２  区間長算出手段
３  記憶手段
４  トピック区間開始点判定手段
１０、２０，３０  映像トピック区間定義装置
１１  スライド提示時間計測部
１２  スライドからのトピック区間定義部
１３  記憶部
２１  講義状況判別部
２２  講義状況のマージ処理部
２３  講義状況からのトピック区間定義部
２４  記憶部
３１  連続発話区間検出部、連続発話区間検出手段
３２  連続発話区間からのトピック区間定義部、連続発話区間からのトピック区間定義手段
３３  ワード種別記憶部
３４  発話区間記憶部
４１  トピック区間定義部
４２  統合ルール記憶部
【図１】
0004988649.tif 000002
【図２】
0004988649.tif 000003
【図３】
0004988649.tif 000004
【図４】
0004988649.tif 000005
【図５】
0004988649.tif 000006
【図６】
0004988649.tif 000007
【図７】
0004988649.tif 000008
【図８】
0004988649.tif 000009
【図９】
0004988649.tif 000010