(57)【要約】【課題】ビデオ信号（音響・映像信号）などの音響データ、映像データから、番組内の音楽部分、音声部分を自動的に判別し、ユーザの要求に応じたビデオ区間を提供するとともに、番組のハイライトシーンなどのダイジェストを作成するための装置および方法とその方法を実現するコンピュータプログラムを提供する。【解決手段】ビデオ信号（音響・映像信号）を入力として、ビデオの自動構造抽出方式はまずビデオ信号の音響的および映像的特徴ベクトルをフレーム毎に抽出する。次に特徴ベクトルが一定のフレーム数入力されるとセグメントを生成し、生成されたセグメントと以降入力される特徴ベクトル列とをフレームと同期して類似性・非類似性の判定を行う。類似と判断された複数の類似区間のペアを用いて類似ビデオ区間を判定し、音楽・音声、ハイライトなどの類似構造および境界位置を抽出する。これらの分割されたビデオ区間を用いてユーザの要求に応じたビデオ区間の提供を行う。【選択図】図１
2007060606.tif 000002
【特許請求の範囲】
【請求項１】
テレビ放送等によって得られるビデオ信号（音響・映像信号）を入力として、あるいはＤＶＤ・ハードディスク等の記録媒体に順次自動的に記録・蓄積されたビデオ信号を入力として、当該ビデオ信号を一定区間長のセグメントに分割しておくセグメント分割手段と、入力されている音声・映像信号と、前記の蓄積・記録された音響・映像信号における前記セグメントとの間において、動的計画法および線形照合法により、類似性を表す距離を逐次連続的に計算するセグメント照合手段と、前記セグメントの終端位置に対応する距離において類似性・対応区間の判断を行う局所的類似区間特定手段と、当該手段により得られる局所的類似区間同士から音響・映像信号中の大局的な類似構造を判定する大局的類似構造抽出手段と、構造の始まり部分および終了部分の精密な時間的始まり終了位置を短時間の音響的・映像的特徴ベクトルから判定する類似構造精緻化手段と、抽出された類似構造を適切にユーザに提供するビデオ構造提供手段を具えたことを特徴とする自動構造抽出・提供方法および各方式を実現するコンピュータプログラム。
【請求項２】
前記セグメント分割手段は、入力とされた音響・映像信号をその信号を表す特徴ベクトルの時系列データに変換した後、１秒等の一定時間長のセグメントに分割する請求項１に記載の方法。
【請求項３】
前記セグメント照合手段は、現在入力されている音声・映像信号もしくは既に記録・蓄積された音声・映像信号と、既に蓄積・記録された他の音響・映像信号における前記セグメントとの間において、動的計画法および線形照合法により、類似性／同一性を表す距離を逐次連続的に計算する請求項１に記載の方法。
【請求項４】
前記局所的類似区間特定手段は、前記セグメント照合手段により各セグメントにおける現時刻を終端と仮定した場合に得られる類似性距離を相対的基準で、類似する区間あるいは同一の区間の複数の候補を用いて、類似する区間あるいは同一の区間ペアを特定する請求項１に記載の方法
【請求項５】
前記大局的類似構造抽出手段は，前記局所的類似区間特定手段で得られた、音響・映像信号の類似／同一区間ペアの出現位置情報および頻度情報をヒストグラム化し、ビデオ中の纏まった大局的な情報構造として抽出する請求項１に記載の方法
【請求項６】
前記類似構造精緻化手段は、前記大局的類似構造抽出手段により得られた、大局的情報構造における始まり部分および終了部分の精密な時間的始まり終了位置を短時間の音響的・映像的特徴ベクトルから判定し、境界の抽出および分割を精緻に行う請求項１に記載の方法。
【請求項７】
ビデオ中の音響的・映像的特徴における類似構造あるいは同一構造を大局的かつ局所的に捉えることで、記録・蓄積された番組内の楽曲単位の位置判定や、番組間の同一あるいは類似構造の位置判定を行い、ビデオの自動的な境界抽出分割および自動的な構造を抽出し、それをユーザの要求に応じて適切に提供する方法。
【発明の詳細な説明】
【技術分野】
【０００１】本発明はビデオ信号中の音響・映像信号の短時間特徴ベクトルおよび一定長の部分区間（セグメント）の類似性／同一性を手掛かりとしたビデオの自動的な境界抽出方法および構造抽出方式、ユーザへの適切なビデオ区間の提供方式およびその方式を実現するコンピュータプログラムに関するものである。
【背景技術】
【０００２】近年のパーソナルコンピュータ・インターネットの発展、ハードディスクビデオレコーダーの普及に伴って、一般のユーザがビデオ信号をビデオデータとして容易かつ大量に扱うようになった。このように蓄積され、利用可能なビデオデータは今後さらに増加すると考えられるが、一般にビデオデータにはテキストで与えられた付加的な情報は付与されていない。近年の電子的なテレビ番組が一部利用可能となり、番組単位の情報付与、ユーザへの提供が可能であるが、番組内のビデオ内容については電子的に扱える情報がない。番組内にキーワード付けを行うことも考えられるが、その作業コストは非常に大きく現実的ではない。【０００３】ビデオおける番組内の音楽や会話などの構造や、ある番組内の特定部分と他の番組内の特定部分との関連・構造が自動的に抽出することができれば、ユーザが蓄積されたビデオ中の見たい部分を検索し適切な部分から見ることができ、同時に関連するビデオ区間を抽出・鑑賞することもできる。【０００４】ビデオの検索に関しては、特許公開２００５−６３４３２号公報はウェブページ、ＸＭＬファイル、新聞といった構造化文書から検索を行う方法であるが、番組内の情報に関しては十分なテキスト記述が常に提供されていないため、これらの情報を利用することは困難である。特開平１０−２５７４３６号公報では、動画像をショットに分割し、分割されたショットの類似度を用いて動画像の自動階層構造化方法が提供されている。この方法は画像の類似性により提供部分を判定しているため、同一の音楽部分であっても撮影方向が変化すれば異なるものと扱われる。さらに、内容的な類似性、重要性が看過され、ユーザの望ましい部分との対応判断が困難である。また、上記の様に画像の特徴を用いる手法以外にも、音声認識や字幕認識等によるビデオの解釈手法が研究されている。
【発明が解決しようとする課題】
【０００５】ビデオにおける番組は音楽や会話などから構成されているが、現状の技術では番組内の音声部分だけの抽出、およびその音声の自動認識とテキスト化は容易ではない。また音楽部分や一曲のまとまりを特定すること、楽曲と音声部分の境界を検出することも実現されていない。
【０００６】番組と他の番組との関連に関しては、電子的なテレビ番組を利用して情報を得ることができるが、番組間に同じあるいは類似する内容や映像・音響信号があったとしてもそれに関連する情報は得られない。例えば、あるスポーツ放送番組とその結果を放送するニュース番組との間では内容的に類似する／同一である部分構造があるにも関わらずその対応情報を得ることができない。また世間で話題になっているニュースは様々なニュース番組で放送され、番組間のビデオ構造が存在するが、話題となっている高頻度で放送されるニュースなどの構造を得ることは実現されていない。
【０００７】上述のように、放送されているあるいは蓄積されたビデオ信号における番組内の音声、楽曲などの構造、および番組と番組におけるトピック／ビデオクリップ間の対応等の構造については、自動的に構造として抽出することは現状ではできていない。
【０００８】本発明は、従来の装置が着目していなかった問題を解決しようとするものであり、放送されているあるいは蓄積されたビデオ信号における番組内の音声、楽曲の位置情報、および番組と番組におけるトピック／ビデオクリップ間の対応等のビデオの構造を、音響的あるいは映像的な類似部分区間あるいは同一部分区間を精査することにより、自動的に抽出、ユーザに提供することを目的とするものである。これにより、ユーザは音楽番組中の曲の出だしのみを見たり、スポーツ番組中のニュースでも取りあげられるダイジェスト部分のみを見ることを可能にするものである。
【発明の開示】
【課題を解決するための手段】
【０００９】本発明は上記目的を達成するために、ビデオ信号（音響・映像信号）を入力として、ビデオ信号の音響的な特徴を音響フレーム毎に抽出する音響特徴抽出装置と、映像的な特徴を映像フレーム毎に抽出する映像特徴抽出装置と、前記フレーム毎の特徴データを一定のフレーム数毎のセグメントに分割するセグメント分割装置と、前記セグメントと他の特徴データ系列とをフレームと同期して類似性・非類似性（類似度）を計算するフレーム同期型セグメント照合装置と、前記フレーム同期型セグメント照合部によって得られた類似度から、類似する音響的な部分区間ペアおよび映像的な部分区間ペアを特定する局所的類似区間特定装置と、類似と判断された複数の類似区間ペアを用いて類似ビデオ区間を判定する大局的類似構造抽出装置と、前記大局的類似構造抽出装置によって決定されたビデオ境界について前記音響・映像特徴抽出装置で求めた特徴データを精査することによって、より精緻な境界位置を判定する類似構造精緻化装置と、類似ビデオ区間を用いてユーザに適切なビデオ区間を提供するビデオ構造提供装置とを備えることを特徴とする。【００１０】図１は本発明のビデオの自動構造抽出・提供方法の概念を示す構成図である。【００１１】本発明のビデオの自動構造抽出・提供装置における音響特徴抽出装置による作用は、入力されたビデオの音響・映像信号から、音響的な特徴が音響フレーム毎に抽出される。映像特徴抽出装置による作用は、映像的な特徴が映像フレーム毎に抽出される。音響・映像の特徴データは、複数次元の浮動小数点ベクトル列として出力される。【００１２】本発明のビデオの自動構造抽出・提供装置におけるセグメント分割装置およびフレーム同期型セグメント照合装置による作用は、フレーム毎に得られた音響特徴ベクトル列と映像特徴ベクトル列を、１秒程度の一定長のセグメント毎に分割していき、全てのセグメントと全ての入力特徴ベクトル列との類似性・非類似性（類似度）をフレームと同期して計算し、セグメント毎に類似度が各時刻で出力される。【００１３】本発明のビデオの自動構造抽出・提供装置における局所的類似区間特定装置による作用は、前記フレーム同期型セグメント照合部によって出力されるセグメント毎の各時刻での類似度から、音響的に類似する（あるいは同一の）部分区間ペアおよび映像的に類似する（あるいは同一の）部分区間ペアが特定され、音響的類似区間ペアおよび映像的類似区間ペアが出力される。【００１４】本発明のビデオの自動構造抽出・提供装置における大局的な類似構造抽出装置および類似構造精緻化装置による作用は、１つの番組内で前記類似する（あるいは同一の）複数の類似区間ペアの出現位置、出現頻度、連鎖情報を分析することで、音楽の出現位置情報や音楽と音楽および音楽と会話部分の自動的な境界抽出・分割が行われ、それらの境界位置などの番組内構造が出力される。また、番組間で前記類似する複数の類似区間ペアの出現位置、出現頻度、連鎖情報を分析することで、ビデオデータ中の重要部分、あるいは話題になっている部分などが判明し番組間構造が出力される。【００１５】本発明のビデオの自動構造抽出装置におけるビデオ構造提供装置による作用は、前記の番組内音楽の出現位置情報、音声部分の話題位置情報などの番組内ビデオ構造情報、およびビデオデータ中の重要部分などの番組間ビデオ構造情報を用い、ユーザの要求に応じてビデオ中の適切な部分区間がユーザに提供される。
【発明の効果】
【００１５】本発明のビデオの自動構造抽出装置は、放送中の音響・映像信号およびハードディスクなどに記録されたほとんど全ての音響・映像信号（ビデオデータ）に適用可能である。番組内ビデオ構造を抽出することで、ユーザは音楽番組内の音楽部分の開始・終了位置、会話部分などの番組内構造を把握することができるようになり、音楽部分のみを見る、会話部分のみを見る、音楽のイントロ部分のみを次々に見るといった効率的なビデオの鑑賞が可能になる。【００１６】番組間のビデオ構造を抽出することで、繰り返される映像、言葉、音楽などが抽出され、ユーザは現在話題になっているトピック、ニュース、音楽を簡単に把握することができる。【００１７】さらに、実況放送されたスポーツ番組とスポーツニュース番組と間で構造を抽出することで、ニュース映像中の当該スポーツ部分を抽出することができ、ユーザは見たいスポーツ放送区間を簡単に選択することが可能となる。また、実況されたスポーツ番組中のハイライトシーンを特定することができ、ユーザに当該スポーツ番組のダイジェストの提供が可能となる。
【発明を実施するための最良の形態】
【００１８】本発明のビデオの自動構造抽出装置は、図面を参照しながら詳細に説明され、これらの図面では同様な要素あるいはステップは同様な参照符号によって示されている。
【実施例】
【００１９】図１は本発明のビデオの自動構造抽出方法およびその方式を実現するコンピュータプログラムの構成図である。【００２０】本装置の入力は、放送中の音響・映像信号およびハードディスクなどに記録されたほとんど全ての音響・映像信号（ビデオデータ）００１である。最初に音響特徴抽出装置００２が、入力された音響信号を分析し音響フレーム毎の音響特徴ベクトル列００３に変換し、映像特徴抽出装置００４が、入力された映像信号を分析し映像フレーム毎の映像特徴ベクトル列００５に変換する。【００２１】音響特徴ベクトルとしては、メルケプストラム係数およびその時間動的特徴量、音響パワー、音響パワーの動的特徴量などを用いる。映像特徴ベクトルとしては、映像信号中のＲＧＢ値を領域毎に平滑化したものや、フレーム間差分情報などを用いる。【００２２】セグメント分割装置００６によって、１つの番組に関する前記音響特徴ベクトル列および映像特徴ベクトル列を１秒などの一定のフレーム数（ＮＣＤＰフレーム）のセグメントに分割される。異なる番組と照合する場合は、異なる番組の特徴ベクトル列と各セグメントとをフレーム同期型セグメント照合装置００９によって照合すればよい。同一番組内の類似部分区間を照合する方法を図２に示す。当該番組の特徴ベクトル列がＮＣＤＰフレーム入力されると、１つのセグメントが構成される。セグメントは入力フレームと同期して生成される。音響のフレーム周期と映像のフレーム周期は異なるため、それぞれについて異なるフレーム数の音響セグメント００７と映像セグメント００８となる。【００２３】フレーム同期型セグメント照合装置００９によって、前記の音響セグメントおよび映像セグメントそれぞれに対し、入力される音響特徴ベクトル列および映像特徴ベクトル列を、入力フレームと同期して連続して照合し、各セグメントと、入力される部分区間との非類似性を累積距離として毎時刻出力される。【００２４】前記のフレーム同期型セグメント照合装置００９における照合方法にはセグメント連続非線形照合法０１０を用いる。本方法は図２に示すように、各のセグメントがセグメント分割装置００６によって構成された時点から連続動的計画法により，以降の入力データとの照合が開始される．【００２５】
2007060606.tif 000003
られる。この動的計画法で用いる傾斜制限は計算を簡単にするため、図３で示す非対称傾斜制限とする。図３で示す傾斜制限のうち、（２）のパスのみに限定するとセグメント連続線形照合法が実現される。Ｄｉ（ｔ，ｊ）はセグメントＰｉの第ｊフレームと入力フレームｔとの局所距離として、２つのフレームの特徴ベクトル間のユークリッド距離等として計算される。
2007060606.tif 000004
【００２６】このときの初期条件は次に示す式で与えられる。
2007060606.tif 000005
【００２７】この一連の処理は入力フレームと同期して行うことができ、セグメント毎に各入力時刻で入力特徴ベクトル列との非類似性を表す累積距離が計算される．【００２８】局所的類似区間特定装置０１１で用いた具体的な実施例を示す。前記累積距離はセグメント毎に毎時刻得られ、これらの累積距離が図４のように局所最小となり、相対的に小さくなる時、類似区間ペアと判定する．本方式では距離の閾値を定めず、各セグメントの局所最小となる累積距離に基づいて，各セグメントに対し上位の一定の個数ｍ個、全体としてｍ×Ｎ個の類似区間ペア候補が出力される。類似区間ペア候補ｍ×Ｎ個の中から、累積距離が小さい順に上位ｍ’×Ｎ個（ｍ’≦ｍ）を抽出し、類似区間ペアとみなす。音響的に類似する場合は音響類似区間ペア０１２が、映像的に類似する場合は映像類似区間ペア０１３がそれぞれ出力される。【００２９】大局的類似構造抽出装置０１４で用いた具体的な実施例を図５に示す。まず、局所的類似区間特定装置０１１により検出されたそれぞれの類似区間ペアを直線で結び、各セグメント上でこれらの直線の通過頻度を数え、図５に示したセグメント毎の通過頻度ヒストグラムを作成する。図５中の山の部分は，類似する部分がその前後に多く出現し、山内部には類似構造があると判断できる。音楽であれば同一曲内と、音声であれば同一の話題内と見ることができる。一方，谷部分はその前後において非類似構造が現れていると判断できる。音楽であれば曲の境界と、音声であればトピックの境界と、あるいは音楽と音声の境界と推定できる。音響的な山からは大まかな音響境界位置が、映像類似ペアで構成された山からは大まかな映像境界位置が出力される。【００３０】類似構造精緻化装置０１５によって前記大局的類似構造抽出装置によって抽出されたビデオ境界について前記音響・映像特徴抽出装置で求めた特徴ベクトルを精査することで、より精緻な音響境界位置０１６、映像境界位置０１７が出力される。【００３１】局所的類似区間特定装置０１１によって類似と判断された複数の音響類似区間ペア０１２および映像類似区間ペア０１３、および類似する部分の繰り返し構造を大局的類似構造抽出装置０１４によって分析した結果、番組内については、楽曲毎の音楽部分あるいは音声部分毎の音響境界位置・映像境界位置を含んだ番組内構造が得られる。また、番組間については、関連するトピック間の位置に関しての音響境界位置・映像境界位置を含んだ番組間構造が得られる。【００３２】ビデオ構造提供装置０１８によって、前記の実施方式によって得られたビデオ境界、ビデオ構造を利用し、ユーザに適切なビデオ区間が提供される。【００３３】本実施例を用いて、ＲＷＣポピュラー音楽の１００曲のデータを繋げたデータで楽曲境界の検出を試みたところ、抽出した１００箇所の境界中８５％が正しい境界という性能が得られている。
【産業上の利用可能性】
【００３４】１つの音楽番組に適用することにより、楽曲毎のビデオ区間、音声など楽曲以外のビデオ区間に分割することができ、音楽部分のみをユーザに提供することや、音楽以外の部分をユーザに提供すること、楽曲部分の出だしのみを順次提供することが可能となり、ユーザは容易に番組内の概観することができるようになる。【００３４】１つのスポーツ実況番組に適用することにより、繰り返し放送されたハイライトシーン（サッカーであればゴールシーンなど）が自動的に抽出され、ユーザはその区間だけを鑑賞することが可能となる。【００３５】複数のニュース番組間に適用することにより、現在話題となっている（繰り返し放送されたニュース、キーワード）が自動的に抽出され、そのニュースおよびキーワード部分をユーザに提供することが可能となる。同様に、複数の音楽番組間に適用することにより、現在流行している（繰り返し放送された楽曲）が自動的に抽出され、その楽曲部分をユーザに提供することができる。【００３６】スポーツの実況中継とスポーツニュース番組間に適用することにより、スポーツニュース番組で取り上げられたハイライトシーンと実況中継中のビデオ区間との対応関係が自動的に抽出され、ユーザは実況中継の中から、ハイライトに関する部分およびその前後の区間だけを鑑賞するなど、柔軟な鑑賞が可能となる。また、スポーツニュース内のスポーツの種類によるビデオ区間の分割およびユーザへの提供が可能となる。例えば、スポーツニュースとサッカー実況中継の類似構造を抽出することで、スポーツニュース内におけるサッカー部分が自動的に抽出でき、スポーツニュース内のサッカー部分のみの鑑賞などが可能となる。また、録画したスポーツ実況番組の中から、ニュースで取り挙げられたゴールシーンなどのハイライト部分のみの鑑賞も可能となる。
【図面の簡単な説明】
【００３７】
【図１】本発明の概念および一実施例を示す構成図である。
【図２】セグメント連続非線形照合法におけるセグメント構成方式と照合領域を示す図である。
【図３】セグメント連続非線形照合法における動的計画法で用いる傾斜制限を示す図である。
【図４】セグメント連続非線形照合法における類似区間ペア検出のためのセグメント毎の累積距離の局所最小位置判定方式を示す図である。
【図５】類似構造抽出装置における類似構造を表す山構成方式を示す図である。
【符号の説明】
００１  音響・映像信号
００２  音響特徴抽出装置
００３  音響特徴ベクトル
００４  映像特徴抽出装置
００５  映像特徴ベクトル
００６  セグメント分割装置
００７  音響セグメント
００８  映像セグメント
００９  フレーム同期型セグメント照合装置
０１０  セグメント連続非線形照合法
０１１  局所的類似区間特定装置
０１２  音響類似区間ペア
０１３  映像類似区間ペア
０１４  類似構造抽出装置
０１５  類似構造精緻化装置
０１６  精緻な音響境界位置
０１７  精緻な映像境界位置
０１８  ビデオ構造提供装置
【図１】
2007060606.tif 000006
【図２】
2007060606.tif 000007
【図３】
2007060606.tif 000008
【図４】
2007060606.tif 000009
【図５】
2007060606.tif 000010