(57)【要約】【課題】スポーツイベントのオーディオ信号からハイライトを抽出する方法を提供する。オーディオ信号はスポーツビデオの一部でもよい。【解決手段】まず、特徴のセットがオーディオ信号から抽出される。特徴のセットは、以下のクラス、拍手、喝采、打球、音楽、音声および音楽付き音声、に従って分類される。全く同じように分類された特徴の隣接するセットがグループ化される。拍手または喝采として分類された特徴のグループに対応し所定しきい値より大きい持続時間を有するオーディオ信号の部分がハイライトとして選択される。【選択図】図１
2004258659.tif 000002
【特許請求の範囲】
【請求項１】
スポーツイベントのオーディオ信号からハイライトを抽出する方法であって、
スポーツイベントのオーディオ信号から特徴のセットを抽出することと、
拍手、喝采、打球、音楽、音声および音楽付き音声からなるグループから選択されるクラスに従って前記抽出された特徴のセットを分類することと、
全く同じように分類された特徴の隣接するセットをグループ化することと、
拍手または喝采として分類された特徴のグループに対応し所定しきい値より大きい持続時間を有する前記オーディオ信号の部分をハイライトとして選択することと
を備える方法。
【請求項２】
音楽、音声、または音楽付き音声として分類された特徴のセットをフィルタをかけて除去することをさらに備える請求項１に記載の方法。
【請求項３】
選択されたハイライトの開始前の第１所定時刻に第１タイムスタンプを出力することと、
選択されたハイライトの開始後の第２所定時刻に第２タイムスタンプを出力することと
をさらに備える請求項１に記載の方法。
【請求項４】
前記オーディオ信号はビデオの一部であり、
前記ビデオのフレームを前記第１および第２タイムスタンプに関連づけること
をさらに備える請求項３に記載の方法。
【請求項５】
前記オーディオ信号から背景雑音を取り去ることをさらに備える請求項１に記載の方法。
【請求項６】
前記特徴はＭＰＥＧ−７オーディオ特徴である請求項１に記載の方法。
【請求項７】
前記所定しきい値は、すべての前記選択されたハイライトの全長に依存する請求項１に記載の方法。
【請求項８】
打球として分類された特徴のグループを拍手または喝采として分類された特徴のグループと相関づけることをさらに備える請求項１に記載の方法。
【請求項９】
スポーツイベントのオーディオ信号からハイライトを抽出するシステムであって、
スポーツイベントのオーディオ信号から特徴のセットを抽出する手段と、
拍手、喝采、打球、音楽、音声および音楽付き音声からなるグループから選択されるクラスに従って前記抽出された特徴のセットを分類する手段と、
全く同じように分類された特徴の隣接するセットをグループ化する手段と、
拍手または喝采として分類された特徴のグループに対応し所定しきい値より大きい持続時間を有する前記オーディオ信号の部分をハイライトとして選択する手段と
を備えるシステム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、包括的にはマルチメディアコンテンツ分析の分野に関し、特にオーディオ系のコンテンツ要約作成に関する。
【背景技術】
【０００２】
ビデオ要約作成は、一般的にビデオの簡潔または抽象的な表現を生成するプロセスとして定義することができる。Hanjalic等の「An Integrated Scheme for Automated Video Abstraction Based on Unsupervised Cluster-Validity Analysis」, IEEE Trans. On Circuits and Systems for Video Technology, Vol.9, No.8, December 1999を参照されたい。ビデオ要約作成に関する従来の研究は、色特徴に基づくクラスタリングを主として重視している。なぜならば、色特徴は抽出が容易であり、雑音に強いからである。要約自体は、ビデオ全体の要約、またはビデオの面白いセグメントを連結したセットのいずれかからなる。
【０００３】
本発明にとって特に関心があるのは、サウンド認識を用いてマルチメディアコンテンツからスポーツハイライトを抽出することである。話し言葉を認識するという特定の問題を主として扱う音声認識とは異なり、サウンド認識は、オーディオ信号を識別し分類するというさらに一般的な問題を扱う。例えば、スポーツイベントのビデオにおいては、観客の拍手、喝采、バットによるボールの打撃、興奮した音声、背景雑音または音楽を識別することが望まれるであろう。サウンド認識は、オーディオコンテンツを解読することではなく、オーディオコンテンツを分類することに関係する。このようにオーディオコンテンツを分類することによって、スポーツイベントから面白いハイライトを見つけることができる。そうすれば、面白いハイライトが始まるところ以降の小部分を再生するだけで、ビデオに素早く目を通すことができるであろう。
【０００４】
ハイライト抽出のためにオーディオコンテンツ分類を使用する従来技術のシステムは、単一のスポーツに注目して分析をしている。野球では、Rui等が、オーディオ信号のみに基づく方向性テンプレートマッチングを用いて、アナウンサーの興奮した音声およびボールとバットの打撃音を検出している。「Automatically extracting highlights for TV baseball programs」, Eighth ACM International Conference on Multimedia, pp.105-115, 2000を参照されたい。ゴルフでは、Hsuが、ゴルフクラブによるボールの打撃を検出するために、オーディオ特徴としてメルスケール周波数ケプストラム係数（ＭＦＣＣ）を、そして分類器として多変量ガウス分布を使用している。「Speech audio project report」, Class Project Report, Columbia University, 2000を参照されたい。
【０００５】
オーディオ特徴
これまでに記述されてきたほとんどのオーディオ特徴は、エネルギー系、スペクトラム系、および知覚系の３つのカテゴリに分類されている。エネルギー系カテゴリの例としては、音声／音楽の分類について、Saunders著の「Real-time discrimination of broadcast speech/music」, Proceedings of ICASSP 96, Vol.II, pp.993-996, May 1996によって用いられた短時間エネルギー、およびScheirer等著の「Construction and evaluation of a robust multifeature speech/music discriminator」, Proc. ICASSP-97, April 1997によって用いられた４Ｈｚ変調エネルギーがある。
【０００６】
スペクトラム系カテゴリの例としては、スペクトラムのロールオフ、スペクトラムフラックス、Scheirer著（前掲）による上述のＭＦＣＣ、線形スペクトラムペア、そしてLu等著の「Content-based audio segmentation using support vector machines」, Proceeding of ICME 2001, pp.956-959, 2001によるバンド周期性がある。
【０００７】
知覚系カテゴリの例としては、歌や、音楽に重なった音声(speech over music)のようなより多くのクラスを弁別するために、Zhang等著の「Content-based classification and retrieval of audio」, Proceeding of the SPIE 43rd Annual Conference on Advanced Signal Processing Algorithms, Architectures and Implementations, Vol.VIII, 1998によって推定された音程がある。さらに、ガンマトーンフィルタ特徴が人間の聴覚系をシミュレートする。例えば、Srinivasan等著の「Towards robust features for classifying audio in the cuevideo system」, Proceedings of the Seventh ACM Intl' Conf. on Multimedia '99, pp.393-400, 1999を参照されたい。
【発明の開示】
【発明が解決しようとする課題】
【０００８】
セットトップ装置およびパーソナルビデオ装置の計算制約から、複数の異なるスポーツイベントのそれぞれについて完全に別個のハイライト抽出方法をサポートすることはできない。したがって、多種類のスポーツビデオからハイライトを抽出する単一のシステムおよび方法が所望されている。
【課題を解決するための手段】
【０００９】
方法は、スポーツイベントのオーディオ信号からハイライトを抽出する。オーディオ信号はスポーツビデオの一部でもよい。
【００１０】
まず、特徴のセットがオーディオ信号から抽出される。特徴のセットは、以下のクラス、拍手、喝采、打球、音楽、音声および音楽付き音声、に従って分類される。
【００１１】
全く同じように分類された特徴の隣接するセットがグループ化される。
【００１２】
拍手または喝采として分類された特徴のグループに対応し所定しきい値より大きい持続時間を有するオーディオ信号の部分がハイライトとして選択される。
【発明を実施するための最良の形態】
【００１３】
システム構成
図１は、本発明によるスポーツビデオのオーディオ信号からハイライトを抽出するシステムおよび方法１００を示している。システム１００は、背景雑音検出器１１０、特徴抽出器１３０、分類器１４０、グループ化器１５０およびハイライト選択器１６０を含む。分類器は６個のオーディオクラス１３５、すなわち拍手、喝采、打球、音声、音楽、音楽付き音声を使用する。本発明はスポーツビデオに関して説明されるが、本発明は単なるオーディオ信号、例えばスポーツイベントのラジオ放送にも適用可能であることは理解されよう。
【００１４】
システム動作
まず、背景雑音１１１が検出され（１１０）、入力オーディオ信号１０１から取り除かれる（１２０）。以下で説明するように、特徴のセット１３１が入力オーディオ１０１から抽出される（１３０）。特徴のセットは、６個のクラス１３５に従って分類される（１４０）。全く同じように分類された特徴の隣接するセット１４１がグループ化される（１５０）。
【００１５】
ハイライト１６１が、グループ化されたセット１５１から選択される（１６０）。
【００１６】
背景雑音検出
分類１４０の前に入力オーディオ信号１０１からできるだけ多くの背景雑音１１１を取り除く（１２０）ために、適応的背景雑音検出方式１１０を使用する。背景雑音１１１のレベルは、ハイライト抽出のためにどの種類のスポーツが提示されるかに応じてさまざまである。
【００１７】
我々の複数スポーツハイライト検出器は、例えばゴルフ、野球、フットボール、サッカー等の異なるスポーツイベントのビデオに対して作用することができる。我々が観察したところでは、ゴルフの観客は通常静かであり、野球ファンは試合中に時折騒がしくなり、サッカーファンは試合中ほとんど最初から最後まで歌い続けている。したがって、単に無音を検出するだけでは不適切である。
【００１８】
我々のオーディオ信号セグメントは０．５秒の持続時間を有する。前処理ステップとして、試合のオーディオトラック内の全セグメントのうちの１／１００を選択し、選択されたセグメントの平均エネルギーおよび平均マグニチュードをしきい値として使用して背景雑音セグメントを言明する。無音セグメントもまた、この手法を用いて検出することができる。
【００１９】
特徴抽出
我々の特徴抽出では、オーディオ信号１０１は、持続時間が３０ｍｓで、連続するフレームの一対の重なり部分が１０ｍｓの、重畳するフレームに分割される。各フレームに次のハミング窓関数を乗じる。ここでＮは窓内のサンプル数である。
【００２０】
【数１】
2004258659.tif 000003
【００２１】
ＭＰＥＧ−７特徴の周波数バンドの下限および上限は６２．５Ｈｚおよび８ｋＨｚであり７オクターブのスペクトラムにわたる。各サブバンドは１オクターブの４分の１にわたるので２８個のサブバンドがある。６２．５Ｈｚより低い周波数は追加サブバンドにグループ化される。２９個の対数サブバンドエネルギーの正規化の後、３０成分のベクトルがフレームを表現する。そして、このベクトルを、あらゆるクラスのＰＣＡ空間の最初の１０個の主成分上に射影する。
【００２２】
一般化サウンド認識のためのＭＰＥＧ−７オーディオ特徴
最近、ＭＰＥＧ−７国際標準は、一般的なサウンド分類のための新たな低次元の無相関化スペクトラム特徴を採用した。ＭＰＥＧ−７特徴は、スペクトログラムの線形変換を用いて得られる低次元のスペクトラムベクトルである。それらの特徴は、主成分分析（ＰＣＡ）および任意の独立成分分析（ＩＣＡ）に基づく基底射影特徴である。各オーディオクラスについて、ＰＣＡが、クラス内の全トレーニング例からの全オーディオフレームの正規化対数サブバンドエネルギーに対して実行される。周波数バンドが、対数スケール、例えばオクターブスケールを用いて決定される。
【００２３】
メルスケール周波数ケプストラム係数（ＭＦＣＣ）
ＭＦＣＣは、離散コサイン変換（ＤＣＴ）に基づいている。ＭＦＣＣは次のように定義される。
【００２４】
【数２】
2004258659.tif 000004
【００２５】
ここでＫはサブバンドの数であり、Ｌはケプストラムの所望の長さである。通常は、次元低下の目的上、Ｌ≪Ｋである。
【００２６】
Ｓｋ（０≦ｋ＜Ｋ）は、ｋ番目の三角バンドパスフィルタを通過後のフィルタバンクエネルギーである。周波数バンドは、メル周波数スケール、すなわち１ｋＨｚより下では線形スケール、１ｋＨｚより上では対数スケール、を用いて決定される。
【００２７】
オーディオ分類
分類１４０の基本単位は、０．１２５秒の重なりを有する０．５ｍｓのオーディオ信号セグメントである。セグメントは、６個のクラス１３５のうちの１つに従って分類される。
【００２８】
オーディオ領域では、さまざまなスポーツにわたるハイライトに関係する共通のイベントがある。面白いイベント、例えばゴルフでのロングドライブ、野球でのヒット、あるいはエキサイティングなサッカーの攻撃の後には、観衆は拍手や大声の喝采によって賞賛を示す。
【００２９】
喝采または拍手が先行または後続する打球のセグメントは、面白いハイライトを示し得る。拍手または喝采の持続時間は、イベントがより面白い時（例えば野球ではホームラン）ほど長い。
【００３０】
また、スポーツビデオには、主として音楽、音声または音楽付き音声のセグメントからなる面白くないセグメントに関係する共通のイベント（例えばコマーシャル）もある。音楽、音声、および音声・音楽として分類されるセグメントは、非ハイライトとしてフィルタをかけて除去することが可能である。
【００３１】
好ましい実施の形態では、分類器としてエントロピー事前隠れマルコフモデル（ＥＰ−ＨＭＭ）を使用する。
【００３２】
エントロピー事前隠れマルコフモデル
モデルパラメータをλで、観測量をＯで表す。いかなる事前モデルλｉへの偏りもない場合、すなわち
Ｐ（λｉ）＝Ｐ（λｊ）、∀ｉ、ｊ
と仮定する場合、最大事後確率（ＭＡＰ）検定は最尤（ＭＬ）検定と等価である。
Ｐ（Ｏ｜λｊ）≧Ｐ（Ｏ｜λｉ）、∀ｉ
であれば、ベイズルール
Ｐ（λ｜Ｏ）＝（Ｐ（Ｏ｜λ）Ｐ（λ））／Ｐ（Ｏ）
によりＯはクラスｊに属すると分類される。
【００３３】
しかし、偏りのある確率モデルとして
Ｐ（λ｜Ｏ）＝（Ｐ（Ｏ｜λ）Ｐｅ（λ））／Ｐ（Ｏ）、
Ｐｅ（λ）＝ｅ−Ｈ（Ｐ（λ））
（ここでＨはエントロピーを表す、すなわちエントロピーが小さいほどパラメータの尤度が高い）を仮定する場合には、ＭＡＰ検定を使用し、
（Ｐ（Ｏ｜λｉ）ｅ−Ｈ（Ｐ（λｉ）））／（Ｐ（Ｏ｜λｊ）ｅ−Ｈ（Ｐ（λｊ）））
を式（１）と比較して、Ｏがクラスｉまたはｊのいずれに分類されるべきかを調べる。ＥＰ−ＨＭＭのための、ＭＬ−ＨＭＭのパラメータを更新するプロセスに対する修正は、期待値最大化（ＥＭ）アルゴリズムにおける最大化ステップである。追加的な複雑さはわずかである。その後、セグメントが、同一クラスセグメントの連続性に従ってグループ化される。
【００３４】
グループ化
分類エラーおよびクラス１３５によって表現されない他のサウンドクラスの存在のゆえ、分類結果を整理するために後処理方式を提供してもよい。このために、次の観察、「拍手および喝采は通常、持続時間が長く、例えば数個の連続するセグメントにわたる」、を利用する。
【００３５】
拍手または喝采としてそれぞれ分類される隣接するセグメントがそれに従ってグループ化される。最長のグループ化された拍手または喝采セグメントの所定割合より長いグループ化されたセグメントが、拍手または喝采であると言明される。この割合は、ユーザにより選択可能としてもよく、ビデオ中のすべてのハイライトの全長、例えば３３％、に依存してもよい。
【００３６】
最終提示
拍手または喝采は通常、何らかの面白いプレー、すなわちゴルフにおけるうまいパット、野球のヒットまたはサッカーにおけるゴールのいずれかの後に起こる。これらのセグメントの正しい分類および識別が、この強い相関によるハイライトの抽出を可能にする。
【００３７】
拍手または喝采がいつ開始するかに基づいて、この開始点の前後のビデオフレームを識別する一対のタイムスタンプを出力する。これについても、ハイライトを含むフレームの全期間はユーザが選択可能である。そして、これらのタイムスタンプは、最新のビデオプレーヤーのランダムアクセス機能を用いてビデオのハイライトを表示するために使用することができる。
【００３８】
トレーニングおよびテストデータセット
本システムは、テレビ放送のゴルフ、野球およびサッカーイベントから収集したオーディオクリップから得られたトレーニングデータでトレーニングされる。クリップの持続時間は約０．５秒（例えば打球）から１０秒超（例えば音楽セグメント）までさまざまである。トレーニングデータの全持続時間は約１．２時間である。
【００３９】
テストデータは、約２時間のゴルフ試合が２つ、３時間の野球試合、そして２時間のサッカー試合を含む４試合のオーディオトラックを含む。テストデータの全持続時間は約９時間である。第１ゴルフ試合の背景雑音レベルは低いが、第２試合のほうは雨の日に行われたので高い。サッカー試合は高い背景雑音を有する。オーディオ信号はすべてモノラルチャネル、サンプルあたり１６ビットで、サンプリングレートは１６ｋＨｚである。
【００４０】
結果
野球、ゴルフまたはサッカーの試合において何が真のハイライトであるかは主観的である。その代わりに、より客観的な拍手および喝采の分類精度を見る。
【００４１】
これらのイベントとハイライトの間の強い相関を活用する。これらのイベントの高い分類精度は良好なハイライト抽出につながる。４つの試合の拍手または喝采部分を手作業でラベルする。これらのイベントのオンセットおよびオフセットの一対のタイムスタンプを識別する。それらは、分類結果と比較するためのグラウンドトゥルース（フィールドデータ）となる。
【００４２】
それぞれ拍手または喝采として連続的に分類される長さ０．５秒のセグメントがクラスタにグループ化される。そして、これらのクラスタは、それらが最長の拍手または喝采クラスタの選択された割合を超えているかどうかを判定することによって、真の拍手または喝采セグメントであるかどうかがチェックされる。その結果を表１および表２に要約する。
【００４３】
【表１】
2004258659.tif 000005
【００４４】
表１の各行は、４つの試合の後処理付きの分類結果を示している。［１］はゴルフ試合、［２］はゴルフ試合、［３］は野球試合、［４］はサッカー試合である。各列は、［Ａ］はグラウンドトゥルースセット内の拍手および喝采クラスタの数、［Ｂ］は分類器による拍手および喝采クラスタの数、［Ｃ］は分類器による真の拍手および喝采クラスタの数、Ｄはプレシジョン［Ｃ］／［Ａ］、［Ｅ］はリコール［Ｃ］／［Ｂ］である。
【００４５】
【表２】
2004258659.tif 000006
【００４６】
表２は、クラスタ化なしの分類結果を示している。
【００４７】
表１および表２では、「プレシジョン−リコール」を用いてパフォーマンスを評価した。プレシジョンは、イベント（例えば拍手または喝采）のうち正しく分類されたものの割合である。リコールは、分類されたイベントのうち本当に正しく分類されたものの割合である。
【００４８】
以上、本発明について、好ましい実施の形態を例として説明したが、種々の他の適応および変更も本発明の精神および範囲内でなされ得ることは理解されたい。したがって、添付の特許請求の範囲の目的は、本発明の真の精神および範囲内に入るすべてのこのような変形および変更を包含することである。
【図面の簡単な説明】
【００４９】
【図１】本発明によるスポーツハイライト抽出システムおよび方法のブロック図である。
【図１】
2004258659.tif 000007
【外国語明細書】
2004258659.tif 000008
2004258659.tif 000009
2004258659.tif 000010
2004258659.tif 000011
2004258659.tif 000012
2004258659.tif 000013
2004258659.tif 000014
2004258659.tif 000015
2004258659.tif 000016
2004258659.tif 000017
2004258659.tif 000018
2004258659.tif 000019
2004258659.tif 000020
2004258659.tif 000021
2004258659.tif 000022