(57)【要約】      （修正有）【課題】少なくとも１の動画データから検索対象である動画コンテンツを含む少なくとも１のシーンを検索するためのコンピュータ・システムを提供する。【解決手段】検索対象である動画コンテンツのモデルの軌跡及び該モデルの速度変化を格納する記憶部と、上記モデルについて第１のベクトルを計算する計算部であって、上記第１のベクトルは、上記モデルの軌跡及び上記モデルの速度変化を含む、上記計算部と、上記少なくとも１の動画データに含まれる検索対象である動画コンテンツについて第２のベクトルを計算する計算部であって、上記第２のベクトルは、該動画コンテンツの動きの情報に基づき計算される、上記計算部と、上記第１のベクトルと上記第２のベクトルとを比較して類似度を計算する計算部と、上記類似度に基づき、検索対象である動画コンテンツを含む少なくとも１のシーンを上記少なくとも１の動画データから選択する選択部とを含む。【選択図】図７
2010033528.tif 000002
【特許請求の範囲】
【請求項１】
少なくとも１の動画データから検索対象である動画コンテンツを含む少なくとも１のシーンを検索するためのコンピュータ・システムであって、
検索対象である動画コンテンツのモデルの軌跡及び該モデルの速度変化を格納する記憶部と、
前記モデルについて第１のベクトルを計算する計算部であって、前記第１のベクトルは、前記モデルの軌跡及び前記モデルの速度変化を含む、前記計算部と、
前記少なくとも１の動画データに含まれる検索対象である動画コンテンツについて第２のベクトルを計算する計算部であって、前記第２のベクトルは、該動画コンテンツの動きの情報に基づき計算される、前記計算部と、
前記第１のベクトルと前記第２のベクトルとを比較して類似度を計算する計算部と、
前記類似度に基づき、検索対象である動画コンテンツを含む少なくとも１のシーンを前記少なくとも１の動画データから選択する選択部と
を含む、前記コンピュータ・システム。
【請求項２】
前記モデルが３次元モデルであり、前記モデルの軌跡が該３次元モデルの軌跡であり、前記モデルの速度変化が該３次元モデルの速度変化である、請求項１に記載のコンピュータ・システム。
【請求項３】
ユーザに３次元上での視点の決定を可能にする視点決定部をさらに含む、請求項２に記載のコンピュータ・システム。
【請求項４】
前記第１のベクトルを計算する計算部が、ユーザによって決定された３次元上の視点から見た第１のベクトルを計算する、請求項３に記載のコンピュータ・システム。
【請求項５】
前記視点決定部がさらに、前記動画データに含まれる検索対象である動画コンテンツの軌跡又は速度変化についての事前知識がある場合、該事前知識に近似する視点を視点候補とする、請求項３に記載のコンピュータ・システム。
【請求項６】
前記視点決定部がさらに、第１のベクトルから求められる速度又は加速度が大きくなる視点を上位から選択する、請求項３に記載のコンピュータ・システム。
【請求項７】
前記検索対象を含む動画について、該動画コンテンツの動きの情報を取得するマッピング部をさらに含む、請求項１に記載のコンピュータ・システム。
【請求項８】
前記類似度を計算する計算部が、前記モデルの動画のフレームと前記動画データに含まれる検索対象である動画コンテンツを含む動画のフレームとの間の類似度を計算する手段をさらに含む、請求項１に記載のコンピュータ・システム。
【請求項９】
前記類似度を計算する計算部が、前記モデルの動画のフレーム又は前記動画データに含まれる検索対象である動画コンテンツを含む動画のフレームにおいて、一定数のフレームで区切ることによって速度の誤差を吸収する手段をさらに含む、請求項１に記載のコンピュータ・システム。
【請求項１０】
前記類似度を計算する計算部が、視点毎に付された重み付けに従い類似度を計算する手段をさらに含む、請求項３に記載のコンピュータ・システム。
【請求項１１】
前記検索対象である動画コンテンツを含む動画データ夫々がタグを有し、及び
該動画コンテンツを含む動画を絞り込むために、タグ検索を行う検索手段をさらに含む、請求項１に記載のコンピュータ・システム。
【請求項１２】
前記類似度を計算する計算部が、前記第１のベクトルと前記第２のベクトルとを比較し、及び前記第１のベクトルから求められる速さベクトルと前記第２のベクトルから求められる速さベクトルとを比較し、並びにそれぞれの比較の結果から類似度をさらに計算する、請求項１に記載のコンピュータ・システム。
【請求項１３】
少なくとも１の動画データから検索対象である動画コンテンツを含む少なくとも１のシーンを検索するための方法であって、
検索対象である動画コンテンツのモデルの軌跡及び該モデルの速度変化を格納するステップと、
前記モデルについて第１のベクトルを計算するステップであって、前記第１のベクトルは、前記モデルの軌跡及び前記モデルの速度変化を含む、前記計算するステップと、
前記少なくとも１の動画データに含まれる検索対象である動画コンテンツについて第２のベクトルを計算するステップであって、前記第２のベクトルは、該動画コンテンツの動きの情報に基づき計算される、前記計算するステップと、
前記第１のベクトルと前記第２のベクトルとを比較して類似度を計算するステップと、
前記類似度に基づき、検索対象である動画コンテンツを含む少なくとも１のシーンを前記少なくとも１の動画データから選択するステップと
を含む、前記方法。
【請求項１４】
前記モデルが３次元モデルであり、前記モデルの軌跡が該３次元モデルの軌跡であり、前記モデルの速度変化が該３次元モデルの速度変化である、請求項１３に記載の方法。
【請求項１５】
ユーザに３次元上での視点の決定を可能にするステップをさらに含む、請求項１４に記載の方法。
【請求項１６】
前記第１のベクトルを計算するステップが、ユーザによって決定された３次元上の視点から見た第１のベクトルを計算するステップをさらに含む、請求項１４に記載の方法。
【請求項１７】
前記視点の決定を可能にするステップが、前記動画データに含まれる検索対象である動画コンテンツの軌跡又は速度変化についての事前知識がある場合、該事前知識に近似する視点を視点候補とするステップをさらに含む、請求項１５に記載の方法。
【請求項１８】
前記視点の決定を可能にするステップが、第１のベクトルから求められる速度又は加速度が大きくなる視点を上位から選択するステップをさらに含む、請求項１６に記載の方法。
【請求項１９】
前記検索対象を含む動画について、該動画コンテンツの動きの情報を取得するステップをさらに含む、請求項１３に記載の方法。
【請求項２０】
前記類似度を計算するステップが、前記モデルの動画のフレームと前記動画データに含まれる検索対象である動画コンテンツを含む動画のフレームとの間の類似度を計算するステップをさらに含む、請求項１３に記載の方法。
【請求項２１】
前記類似度を計算するステップが、前記モデルの動画のフレーム又は前記動画データに含まれる検索対象である動画コンテンツを含む動画のフレームにおいて、一定数のフレームで区切ることによって速度の誤差を吸収するステップをさらに含む、請求項１３に記載の方法。
【請求項２２】
前記類似度を計算するステップが、視点毎に付された重み付けに従い類似度を計算するステップをさらに含む、請求項１５に記載の方法。
【請求項２３】
前記検索対象である動画コンテンツを含む動画データ夫々がタグを有し、
前記方法が、
前記検索対象である動画コンテンツを含む動画を絞り込むために、タグ検索を行うステップをさらに含む、請求項１３に記載の方法。
【請求項２４】
少なくとも１の動画データから検索対象である動画コンテンツを含む少なくとも１のシーンを検索するための方法であって、
検索対象である動画コンテンツの３次元モデルの軌跡及び該３次元モデルの速度変化を格納するステップと、
ユーザに３次元上での視点の決定を可能にするステップと、
前記３次元モデルについて、前記決定された３次元上の視点から見た第１のベクトルを計算するステップであって、前記第１のベクトルは、前記３次元モデルの軌跡及び前記３次元モデルの速度変化を含む、前記計算するステップと、
前記少なくとも１の動画データに含まれる検索対象である動画コンテンツについて第２のベクトルを計算するステップであって、前記第２のベクトルは、該動画コンテンツの動きの情報に基づき計算される、前記計算するステップと、
前記第１のベクトルと前記第２のベクトルとを比較して類似度を計算するステップと、
前記類似度に基づき、検索対象である動画コンテンツを含む少なくとも１のシーンを前記少なくとも１の動画データから選択するステップと
を含む、前記方法。
【請求項２５】
少なくとも１の動画データから検索対象である動画コンテンツを含む少なくとも１のシーンを検索するためのコンピュータ・プログラムであって、コンピュータ・システムに、請求項１３〜２４のいずれか一項に記載の各ステップを実行させる、前記コンピュータ・プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、少なくとも１の動画データから検索対象である動画コンテンツを含む少なくとも１のシーンを検索するためのコンピュータ・システム、並びにその方法及びコンピュータ・プログラムに関する。
【背景技術】
【０００２】
メディアとして、動画の使用が急速に増えてきている。また、多くの動画データが、インターネット、放送局、家庭などにおいて蓄積されている。ユーザは、多くの動画データの中から特定の対象物（オブジェクト）或いは事象を含むシーンを検索することを望んでいる。
【０００３】
下記特許文献１は、利用者がマウス等の空間的な位置を変化させることの可能なデバイスを動かして、検索条件となるベクトル列を入力すること、及びマッチングが実行されて、入力された動きのシーンを含む動画が検索されることを記載する。しかし、特許文献１の発明では、入力する動きとして２次元を仮定している。
【０００４】
下記非特許文献１は、サッカー番組における動作カテゴリー化処理を伴う動画検索手法を記載する。本検索手法は、テキストによる検索に加えて、例示動画像検索機能を有する。例示動画検索は、例示されたシーンから類似したシーンを検索する方法であり、映像中のオブジェクトから抽出した画像特徴量を用いて、オブジェクトの動作カテゴリー化処理を行う。該動作カテゴリー処理では、多変量解析の一手法である判別分析が用いられる。しかし、本検索手法は、例示動画像そのものがないときに適用することができない。また、例示動画像を見つける作業それ自体が、動画検索に相当する。
【０００５】
【特許文献１】特開平５−１０８７３０号公報
【非特許文献１】福田淳ら、サッカー番組における動作カテゴリー化処理を伴う動画検索手法、映像情報メディア学会誌、Vol.56、No.10、1674-1680頁、2002年
【発明の開示】
【発明が解決しようとする課題】
【０００６】
ユーザは、例えばサッカーのあるフリーキックのシーンを、正面からの動画だけでなく真後側或いは横側からの動画を見たい場合がある（図１Ａを参照）。このような状況下では、ユーザは、正面から撮影された動画データではなく、真後側或いは横側から撮影された動画データを検索する必要がある。該検索では、ユーザが見たい方向からの対象物（以下、主眼オブジェクト）の動き（例えば、ボール或いは選手の動き）又は事象（例えば、フリーキックのシーン）に注目して動画データから目的のシーンを検索する必要がある。しかし、ユーザは、従来の方法では、上記の様な細かい検索条件を指定することができない。なぜならば、主眼オブジェクトを見る視点によって、ボールの動き或いは選手の動きが異なるためである（図１Ｂを参照）。そのために、指定した視点以外の動画を検索することは困難である。そこで、多くの動画データの中から特定の対象物或いは事象を含むシーンを検索する検索方法の確立が求められている。
【課題を解決するための手段】
【０００７】
本発明は、少なくとも１の動画データから検索対象である動画コンテンツを含む少なくとも１のシーンを検索するためのコンピュータ・システムを提供する。
該コンピュータ・システムは、
検索対象である動画コンテンツのモデルの軌跡及び該モデルの速度変化を格納する記憶部と、
上記モデルについて第１のベクトルを計算する計算部であって、上記第１のベクトルは、上記モデルの軌跡及び上記モデルの速度変化を含む、上記計算部と、
上記少なくとも１の動画データに含まれる検索対象である動画コンテンツについて第２のベクトルを計算する計算部であって、上記第２のベクトルは、該動画コンテンツの動きの情報に基づき計算される、上記計算部と、
上記第１のベクトルと上記第２のベクトルとを比較して類似度を計算する計算部と、
上記類似度に基づき、検索対象である動画コンテンツを含む少なくとも１のシーンを上記少なくとも１の動画データから選択する選択部と
を含む。本発明の１つの実施態様では、モデルは、ユーザによって作成される。
【０００８】
本発明の１つの実施形態では、上記モデルが３次元モデルであり、上記モデルの軌跡が該３次元モデルの軌跡であり、上記モデルの速度変化が該３次元モデルの速度変化である。上記記憶部はまた、上記３次元モデルを格納する。
【０００９】
本発明の１つの実施形態では、上記コンピュータ・システムは、ユーザに３次元上での視点の決定を可能にする視点決定部をさらに含む。
【００１０】
本発明の１つの実施形態では、上記第１のベクトルを計算する計算部が、ユーザによって決定された３次元上の視点から見た第１のベクトルを計算する。
【００１１】
本発明の１つの実施形態では、上記視点決定部がさらに、上記動画データに含まれる検索対象である動画コンテンツの軌跡又は速度変化についての事前知識がある場合、該事前知識に近似する視点を視点候補とする。
【００１２】
本発明の１つの実施形態では、上記視点決定部がさらに、第１のベクトルから求められる速度が大きくなる視点を上位から選択する。該速度は、第１のベクトルの絶対値でありうる。
【００１３】
本発明の１つの実施形態では、上記視点決定部がさらに、第１のベクトルから求められる加速度が大きくなる視点を上位から選択する。該加速度は、第１のベクトルから求められる速さベクトルの絶対値でありうる。
【００１４】
本発明の１つの実施形態では、上記コンピュータ・システムは、上記検索対象を含む動画について、該動画コンテンツの動きの情報を取得するマッピング部をさらに含む。
【００１５】
本発明の１つの実施形態では、上記類似度を計算する計算部が、上記モデルの動画の複数のフレームと上記動画データに含まれる検索対象である動画コンテンツを含む動画の１つ又は複数のフレームとの間の類似度を計算する手段をさらに含む。
【００１６】
本発明の１つの実施形態では、上記類似度を計算する計算部が、上記モデルの動画の複数のフレーム又は上記動画データに含まれる検索対象である動画コンテンツを含む動画の複数のフレームにおいて、一定数のフレームで区切ることによって速度の誤差を吸収する手段をさらに含む。
【００１７】
本発明の１つの実施形態では、上記類似度を計算する計算部が、視点毎に付された重み付けに従い類似度を計算する手段をさらに含む。
【００１８】
本発明の１つの実施形態では、上記検索対象である動画コンテンツを含む動画データ夫々がタグを有する。上記コンピュータ・システムは、該動画コンテンツを含む動画を絞り込むために、タグ検索を行う検索手段をさらに含む。
【００１９】
本発明の１つの実施形態では、上記類似度を計算する計算部が、上記第１のベクトルと上記第２のベクトルとを比較し、及び上記第１のベクトルから求められる速さベクトルと上記第２のベクトルから求められる速さベクトルとを比較し、並びにそれぞれの比較の結果から類似度をさらに計算する。
【００２０】
本発明はまた、少なくとも１の動画データから検索対象である動画コンテンツを含む少なくとも１のシーンを検索するための方法を提供する。該方法は、コンピュータ・システムに下記ステップを実行させることを含む。
該ステップは、
検索対象である動画コンテンツのモデルの軌跡及び該モデルの速度変化を格納するステップと、
上記モデルについて第１のベクトルを計算するステップであって、上記第１のベクトルは、上記モデルの軌跡及び上記モデルの速度変化を含む、上記計算するステップと、
上記少なくとも１の動画データに含まれる検索対象である動画コンテンツについて第２のベクトルを計算するステップであって、上記第２のベクトルは、該動画コンテンツの動きの情報に基づき計算される、上記計算するステップと、
上記第１のベクトルと上記第２のベクトルとを比較して類似度を計算するステップと、
上記類似度に基づき、検索対象である動画コンテンツを含む少なくとも１のシーンを上記少なくとも１の動画データから選択するステップと
を含む。
【００２１】
本発明の１つの実施形態では、上記モデルが３次元モデルであり、上記モデルの軌跡が該３次元モデルの軌跡であり、上記モデルの速度変化が該３次元モデルの速度変化である。上記格納するステップは、上記３次元モデルを格納するステップをさらに含む。
【００２２】
本発明の１つの実施形態では、上記方法は、コンピュータ・システムに下記ステップをさらに実行させることを含む。該ステップは、ユーザに３次元上での視点の決定を可能にするステップを含む。
【００２３】
本発明の１つの実施形態では、上記第１のベクトルを計算するステップが、ユーザによって決定された３次元上の視点から見た第１のベクトルを計算するステップをさらに含む。
【００２４】
本発明の１つの実施形態では、上記視点の決定を可能にするステップが、上記動画データに含まれる検索対象である動画コンテンツの軌跡又は速度変化についての事前知識がある場合、該事前知識に近似する視点を視点候補とするステップをさらに含む。
【００２５】
本発明の１つの実施形態では、上記視点の決定を可能にするステップが、第１のベクトルから求められる速度又は加速度が大きくなる視点を上位から選択するステップをさらに含む。
【００２６】
本発明の１つの実施形態では、上記方法は、コンピュータ・システムに下記ステップをさらに実行させることを含む。該ステップは、上記検索対象を含む動画について、該動画コンテンツの動きの情報を取得するステップを含む。
【００２７】
本発明の１つの実施形態では、上記類似度を計算するステップが、上記モデルの動画の複数のフレームと上記動画データに含まれる検索対象である動画コンテンツを含む動画の１つ又は複数のフレームとの間の類似度を計算するステップをさらに含む。
【００２８】
本発明の１つの実施形態では、上記類似度を計算するステップが、上記モデルの動画の複数のフレーム又は上記動画データに含まれる検索対象である動画コンテンツを含む動画の複数のフレームにおいて、一定数のフレームで区切ることによって速度の誤差を吸収するステップをさらに含む。
【００２９】
本発明の１つの実施形態では、上記類似度を計算するステップが、視点毎に付された重み付けに従い類似度を計算するステップをさらに含む。
【００３０】
本発明の１つの実施形態では、上記検索対象である動画コンテンツを含む動画データ夫々が、タグを有する。上記方法は、コンピュータ・システムに下記ステップをさらに実行させることを含む。該ステップは、上記検索対象である動画コンテンツを含む動画を絞り込むために、タグ検索を行うステップを含む。
【００３１】
本発明の１つの実施形態では、上記類似度を計算するステップが、
上記第１のベクトルと上記第２のベクトルとを比較するステップと、
上記第１のベクトルから求められる速さベクトルと上記第２のベクトルから求められる速さベクトルとを比較するステップと、
それぞれの比較の結果から類似度を計算するステップと
を含む。
【００３２】
本発明はまた、少なくとも１の動画データから検索対象である動画コンテンツを含む少なくとも１のシーンを検索するための方法を提供する。該方法は、コンピュータ・システムに下記ステップを実行させることを含む。
該ステップは、
検索対象である動画コンテンツの３次元モデルの軌跡及び該３次元モデルの速度変化を格納するステップと、
ユーザに３次元上での視点の決定を可能にするステップと、
上記３次元モデルについて、上記決定された３次元上の視点から見た第１のベクトルを計算するステップであって、上記第１のベクトルは、上記３次元モデルの軌跡及び上記３次元モデルの速度変化を含む、上記計算するステップと、
上記少なくとも１の動画データに含まれる検索対象である動画コンテンツについて第２のベクトルを計算するステップであって、上記第２のベクトルは、該動画コンテンツの動きの情報に基づき計算される、上記計算するステップと、
上記第１のベクトルと上記第２のベクトルとを比較して類似度を計算するステップと、
上記類似度に基づき、検索対象である動画コンテンツを含む少なくとも１のシーンを上記少なくとも１の動画データから選択するステップと
を含む。
【００３３】
本発明はまた、少なくとも１の動画データから検索対象である動画コンテンツを含む少なくとも１のシーンを検索するためのコンピュータ・プログラムを提供する。該方法は、コンピュータ・システムに上記方法のいずれか一に記載の各ステップを実行させることを含む。
【発明の効果】
【００３４】
本発明の実施態様に従うと、検索対象である動画コンテンツのモデルの軌跡及び該モデルの速度変化を入力することで、該検索対象である動画コンテンツを含むシーンを検索することが可能である。また、本発明の実施態様に従うと、３次元上での視点の決定を可能にすることで、特定の視点以外のシーンを検索することが可能である。
【発明を実施するための最良の形態】
【００３５】
本発明の実施態様において、「動画」は、複数の静止画の列から構成される。動画の一部を構成する任意の数の静止画の列が、シーンである。「動画」は、コンピュータ・システム、ハンドヘルドコンピュータ、携帯電話、テレビ等の表示装置上に表示される動画を含むがこれらに限定されない。コンピュータ等の表示装置上に表示される動画は例えば、セカンドライフに代表される仮想３次元空間の動画、ＹｏｕＴｕｂｅなどのネットワークを介して配信される動画を含む。動画の例は、テレビの映像、例えばスポーツ、映画、ニュース、ドラマ、アニメーションの映像；及び家庭で撮影された映像を含むがこれらに限定されない。動画の代表は、放送局などのマスメディアにおいて所有されている動画である。
【００３６】
本発明の実施態様において、「動画データ」とは、上記動画のデータである。動画データは、アナログ・データ又はデジタル・データの形態で記録媒体に記録されうる。本発明の実施態様では、動画コンテンツを含むシーンの検索を可能にするために、アナログ・データは、デジタル・データに変換される。該変換の方法は、アナログ・デジタル変換として当業者に公知である。動画データは、例えば記憶媒体に格納される。該記憶媒体は、データベースを含む。該記憶装置は、本発明の実施態様に従うコンピュータ・システムにケーブル又はネットワークを介して接続されうる。ネットワーク上に配置される記憶装置は、ネットワークストレージ（ＮＡＳ）を含む。
【００３７】
本発明の実態態様において、「動画コンテンツ」とは、検索対象であるコンテンツをいう。検索対象は例えば、ボール及び選手などの有体物であるがこれに限定されない。
【００３８】
本発明の実施態様において、「検索対象である動画コンテンツを含む少なくとも１のシーン」とは、検索対象である動画コンテンツを含む静止画の列をいう。言い換えれば、「検索対象である動画コンテンツを含む少なくとも１のシーン」とは、検索対象である動画コンテンツを含む、動画データの一部である。
本発明の１つの実施態様では、動画を構成する各シーンは、該シーンに関する情報（以下、シーン情報）を関連付けられている。該シーン情報は、データベースに格納されうる。ユーザは、シーン情報を用いて、動画データのキーワード検索をすることが可能である。シーン情報は例えば、動画中における位置、シーンの意味内容、シーン相互の関係及びシーン変化の情報を含む。動画中における位置は例えば、開始フレーム番号、終了フレーム番号及びタイム・コードである。シーンの意味内容は例えば、キーワード、属性及び代表フレームである。キーワードは例えば、動画に含まれる動画コンテンツを示す。シーン相互の関係は例えば、親又は子の関係にあるシーンの識別子である。シーン変化の情報は例えば、変化点の動画中での位置、変化のタイプ及び確からしさである。
【００３９】
本発明の実施態様において、検索対象である動画コンテンツは、１つ又は複数でありうる。
【００４０】
本発明の実施態様において、「モデル」とは、物体の形状のモデルをいう。モデルは例えば、上記サッカーボールのモデルである。モデルは、２次元モデル及び３次元モデルを含む。「２次元モデル」とは、２次元空間上に表示される物体の形状のモデルをいう。「３次元モデル」とは、３次元空間上に表示される物体の形状のモデルをいう。
【００４１】
モデルは、動画データから検索対象である動画コンテンツを特定し、且つ該動画コンテンツを含むシーンを検索するために使用される。本発明の１つの実施態様では、ユーザは、例えばモデリングソフトウェアを使用してモデルを作成しうる。本発明の他の実施態様では、モデルは予めモデル・データベースに用意されている。ユーザは、該モデル・データベースから、所望のモデルを選択しうる。
【００４２】
２次元モデルは、例えばＰｈｏｔｏＳｈｏｐ（商標）、Ｉｌｌｕｓｔｒａｔｏｒ（商標）などの慣用的なソフトウェアを使用して作成しうる。３次元モデルは、例えばＳｈａｄｅ、ＬｉｇｈｔＷａｖｅ３Ｄなどの慣用的なモデリングソフトウェアを使用して作成しうる。３次元モデルの作成では、一つの面は、三角形又は四角形といった多角形（ポリゴン）の集合として表現される。物体の形状は、ポリゴンの集合で表現される。３ＤＣＧにおいて、面を定義する他の方法は、自由曲面による方法である。自由曲面は、ＮＵＲＳ曲線、スプライン曲線、ベジェ曲線などの曲面を構成する方法である。自由曲面による方法で作成された形状は、上記のポリゴンのみでモデリングされる形状に比べ滑らかで正確な形状でありうる。その他、例えばセカンドライフ上において、３次元モデルの作成はプリムを組み合わせて使用しうる。プリムとは、セカンドライフにおける全てのオブジェクトも基本形状をいう。モデルには、任意であるが、色彩、質感又はそれらの組み合わせを持たせることができる。質感は、例えば拡散反射、鏡面反射、光沢、反射率、透過率、屈折率又はそれらの組み合わせを設定することにより表現しうる。
【００４３】
本発明の実施態様において、検索対象である動画コンテンツを含む少なくとも１のシーンの検索は、モデル・シーンの作成フェーズと検索フェーズとを含む。
モデル・シーンの作成フェーズは、ユーザが検索したい動画コンテンツのモデルを作成すること又はユーザが検索したい動画コンテンツのモデルをモデル・データベースから選択すること、該モデルの軌跡を入力すること、該モデルの速度変化を入力することを含む（下記図２Ａを参照）。
モデル・シーンの作成フェーズはまた、視点を決定することを含む（下記図３Ａ及び図３Ｂを参照）。１つの実施態様として、ユーザは、視点を適当に決めてよい。他の実施態様として、視点は、事前知識データベースを使用して決定されうる。他の実施態様として、ユーザは、動きベクトルの絶対値が大きい角度からの視点、或いは速さベクトルの絶対値が大きい角度からの視点を選択しうる。
【００４４】
検索フェーズは、作成又は選択したモデルについての第１のベクトルを計算すること、動画データに含まれる検索対象である動画コンテンツについての第２のベクトルを計算すること、及び該第１のベクトルと該第２のベクトルとを比較して類似度を計算すること、並びに該類似度に基づき、検索対象である動画コンテンツを含む少なくとも１のシーンを選択すること（下記図４を参照）を含む。
【００４５】
本発明の実施態様において、「第１のベクトル」は、モデル、特に３次元モデルについてのベクトルである。第１のベクトルは、該モデルの軌跡及び該モデルの速度変化を含む。
【００４６】
本発明の実施態様において、「モデルの軌跡」とは、ある視点から見たモデル（物体）が動く軌跡をいう。２次元であれば視点は固定されるので、モデルの軌跡は１つに決まる。一方、３次元であれば視点は固定されないので、モデルを見る視点が変わることによってモデルの軌跡は異なる（下記図２Ｂの「軌跡」を参照）。「モデルの軌跡」は、例えば動きベクトルとして表されうる。動きベクトルは、ある一定の時間間隔
2010033528.tif 000003
において、対象物が空間上でどれだけ動いたかによって求められる（下記図３Ｂを参照）。
【００４７】
本発明の実施態様において、「モデルの速度変化」とは、ある視点から見たモデル（物体）の速度変化である。２次元であれば視点は固定されるので、モデルの速度変化は１つに決まる。一方、３次元であれば視点は固定されないので、モデルを見る視点が変わることによってモデルの速度変化は異なる。「モデルの速度変化」は、例えば「Ｖ−Ｔグラフ」又は速さベクトルとして表されうる（下記図２Ｂの「Ｖ−Ｔグラフ」を参照）。速さベクトルは、動きベクトルから求められる（下記図３Ｂを参照）。
【００４８】
本発明の実施態様において、「第２のベクトル」は、動画データに含まれる検索対象である動画コンテンツについてのベクトルである。第２のベクトルは、動画データに含まれる検索対象である動画コンテンツの動きの情報に基づき計算される。代替的に、第２のベクトルは、動画コンテンツの軌跡及び動画コンテンツの速度変化を含む。
【００４９】
本発明の実施態様において、動画データ中から所定の動画コンテンツ（例えばサッカーボール、サーカー選手）の動きの情報を抽出する方法として、慣用の技術が用いられうる。
【００５０】
本発明の実施態様において、「動きの情報」とは、動きベクトル又は動きベクトルに変換できる情報である。
【００５１】
本発明の実施態様において、「動画コンテンツの軌跡」とは、ある視点から見た動画コンテンツ（物体）が動く軌跡をいう。動画コンテンツが一般に、ある視点から撮影された動画であるため２次元である。よって、動画コンテンツの軌跡は、動画データにおいて１つに決まる。但し、動画データが３次元で記録されうる場合、視点は固定されないので、動画コンテンツを見る視点が変わることによって動画コンテンツの軌跡は異なる。「動画コンテンツの軌跡」は、例えば動きベクトルとして表されうる。動きベクトルは、ある一定の時間間隔
2010033528.tif 000004
において、対象物が空間上でどれだけ動いたかによって求められる。
【００５２】
本発明の実施態様において、「動画コンテンツの速度変化」とは、ある視点から見た動画コンテンツの速度変化である。動画データは一般に、ある視点から撮影された動画であるため２次元である。よって、動画コンテンツの速度変化は１つに決まる。但し、動画データが３次元で記録されうる場合、視点は固定されないので、動画コンテンツを見る視点が変わることによって動画コンテンツの速度変化は異なる。「動画コンテンツの速度変化」は、例えば速さベクトルとして表されうる。速さベクトルは、動きベクトルから求められる。
【００５３】
本発明の実施態様において、第１のベクトルと第２のベクトルとを比較して、類似度が計算される。類似度の計算方法として、慣用の技術が用いられうる。例えば、ベクトルが点の集合で形成されていると考えれば、２つのベクトルの類似度を計算する方法として、各２点間のユークリッド距離を計算する方法がある。
【００５４】
以下、図面に従って、本発明の実施態様を説明する。本実施態様は、本発明の好適な態様を説明するためのものであり、本発明の範囲をここで示すものに限定する意図はないことを理解されたい。また、以下の図を通して、特に断らない限り、同一の符号は、同一の対象を指す。
【００５５】
図１Ａは、本発明の実施態様である、サッカーのあるフリーキックのシーンを正面から撮影した動画を示す。動画の視聴ユーザは、該シーンについて、例えば、右側から曲がってゴール正面左隅に入るシュートのシーンを検索したい、又は横側から撮影されたシュートのシーンを検索したい場合がある。
【００５６】
図１Ｂは、本発明の実施態様である、サッカーのあるフリーキックのシーンを正面から撮影した動画を示す。また、図１Ｂは、該シーンを真後側から撮影した動画についてのボールの動き及び選手の動きを示す。また、図１Ｂは、該シーンを横側から撮影した動画についてのボールの動き及び選手の動きを示す。
【００５７】
図２Ａは、本発明の実施態様である、モデル・シーンの作成フェーズを示す。
【００５８】
ステップ２０１
ユーザは、慣用の技術を使用して、３次元モデルを作成する。図２Ａは、３次元モデルの例として、サッカーボールを示す。該サッカーボールは例えば、形状は半径Ｒの球体であり、色彩は白と黒の５角形の斑模様であるという情報を有する。ここで、ユーザは、該モデルを複数作成することもできる。ユーザは、例えばサッカーボールの他に、直方体の枠であるサッカーゴールを作成することができる。１つの実施態様として、ユーザは、例えばモデリングソフトウェアを使用して３次元モデルを作成しうる。代替的に、３次元モデルは、モデル・データベースに予め用意されている。ユーザは、該モデル・データベースから、所望の３次元モデルを選択しうる。
【００５９】
ステップ２０２
ユーザは、慣用の技術を使用して、３次元モデルの動きを入力して、３次元モデルの軌跡を描く。該軌跡は、ユーザが検索したい動画コンテンツの移動態様を、３次元モデルの移動態様を用いて表した軌跡である。
図２Ａでは、３次元モデルの軌跡として、サッカーボールの３次元空間上の軌跡を示す。該軌跡は、サッカーボールの中心点の軌跡を示す。また、軌跡は３次元モデル毎に１つとは限らず、例えば３次元モデルを構成する複数の点に与えることができる。該点それぞれに違った軌跡を持たせることにより、回転、拡大及び縮小を３次元モデルに与えることができる。１つの実施態様として、ユーザは、空間的な位置を変化させることのできるポインティング・デバイス、例えばマウス、トラックボールを使用して軌跡を入力する。ユーザは、任意の位置から別の任意の位置まで該デバイスを移動させることによって、所望の動きの始点の位置、終点の位置、移動中の位置、及び要した時間を軌跡として入力する。ここで、人間が見る実際の動画は２次元上の動画である。そこで、軌跡を入力するために、ディスプレイ上に２次元の入力領域を設定する。但し、該入力領域上の座標軸はデバイスからの操作で自由に回転できる。また、座標軸を回転させるための操作及び時間は、軌跡の情報に含めない。ユーザは、該デバイスを動かして、入力領域に３次元モデルの所望の動きを描く。本発明の実施態様では、動きをベクトル列として表現しているため、ユーザは入力領域に線を描くことになる。コンピュータ・システムは、入力領域にカーソルを表示し、デバイスの動きに合わせてカーソルの位置を入力領域にエコーバックする。コンピュータ・システムは、入力領域上でのカーソルの、移動開始点の座標と、移動中の一定の時間毎の座標をセンスする。この結果、動作時間と動作中の一定時間おきの座標値とが３次元モデルの軌跡として入力される。
図２Ｂの左側の図は、図２Ａの３次元モデルの上記入力された軌跡を正面、側面及び上面からそれぞれ見た図を示す。図２Ｂに示されるように、モデルの軌跡は、ユーザが見る視点によってその軌跡が異なる。
【００６０】
ステップ２０３
ユーザは、慣用の技術を使用して、３次元モデルの速度−時間グラフ（Ｖ−Ｔグラフ）を作成する。Ｖ−Ｔグラフは、軌跡上のある時点（Ｔ）における速度（Ｖ）を示すグラフである。Ｖ−Ｔグラフを作成することによって、軌跡で表されるモデルの動きに加速度を加味して検索をすることが可能になる。図２Ｂの右側の図は、図２Ａの３次元モデルの上記作成されたＶ−Ｔグラフを正面、側面及び上面からそれぞれ見たＶ−Ｔグラフに分解した図を示す。図２Ｂに示すように、Ｖ−Ｔグラフは、ユーザが３次元モデルを見る視点によってそのグラフが異なる。
【００６１】
ステップ２０４
ユーザは任意的に、慣用の技術を使用して、３次元モデルの細部又は向きを修正することができる。
【００６２】
図３Ａ及び図３Ｂは、本発明の実施態様である、視点の決定方法を示す。
ユーザは、３次元空間上で選択しうる視点を決定することができる。ユーザは、上記３次元モデル、３次元モデルの描く軌跡及び速度変化を使用して、視点を決定することができる。視点の決定には、例えば３次元モデルを軌跡に沿って動かした動画を用いることができる。例えば、３次元モデルがヒトである場合、どの方向からのシーンを検索したいかによって視点を選択することができる。視点は、例えば、正面、上面、右側面、左側面、背面、及び下面を代表的に挙げることができるが、３次元空間上のこれらの面に限定されない。ユーザは、３次元空間上で取り得る全ての視点を任意に選択することが可能である。１つの実施態様として、ユーザは、モニタ（平面である）に映し出されるモデルを見ながら、３次元空間を回転し（図３Ａを参照）、３次元モデルの動きを所望の角度から見たときの視点を選択することができる。
【００６３】
他の実施態様として、視点を決定するために、事前知識が用いられうる。事前知識は例えば、事前知識データベースに格納されうる。
１つの実施態様として、例えば、「フリーキックのシーンを含む動画は、ボールが{(2,1),(4,3),(5,-2)}の動きベクトルを持つことが多い」という事前知識があるとする。ユーザは、作成した３次元モデルのボールの動きベクトルが事前知識として取得したボールの動きベクトルに近い動きベクトル{(2,2),(4,3),(6,-2)}を示す視点を視点候補としうる。
１つの実施態様として、コンピュータ・システムが視点決定をするためのプログラムを実行することによって、上記事前知識の動きベクトルに近い視点の少なくとも１以上の候補をユーザに提示しうる。ユーザは、該提示された視点を基に、例えばモニタに映し出されるモデルのある視点から移し出される映像を見ながら、候補視点の中から所望の視点を選択しうる。
１つの実施態様として、陸上短距離など様々な動画コンテンツについての事前知識が、事前知識データベース内に格納されうる。該事前知識の作成方法として、慣用の技術が用いられうる。
【００６４】
他の実施態様として、事前知識がない場合には、視点の決定は下記の方法によって行われうる。下記の方法は、３次元モデルの速度／加速度に注目し、動きの大きいものを視点候補とする方法である。
図３Ｂは、３次元モデル、例えばサッカーボールの空間内での動きを示す。詳細には、図３Ｂは、軌跡及び速度変化を考慮した、サッカーボールの空間における動きを示す。軌跡は、時間tn（t0、t1、t2、t3）におけるサッカーボールの座標を曲線で結んだ線で表される。また、時間間隔tにおいて移動距離がt1-t0、t2-t1、t3-t2で異なることから、速度が変化していることがわかる。
【００６５】
図３Ｂでは、座標は(x, y, z)で示される。
時間t0、t1、t2及びt3での座標は、夫々次の通りである；t0(0, 0, 0)、t1(2, 1, 2)、t2(6, 3, 5)、t3(12, 5, 3)。
【００６６】
Ａ．視点が正面（x,z）、側面（y,z）及び上面（x,y）の動きベクトルは下記のようにして求められる。
（１）サッカーボールの時間tにおける３次元の座標は、下記の通りである。
(x,y,z)(t)= {(0,0,0), (2,1,2), (6,3,5), (12,5,3)}
（２）上記３次元の座標を２次元の座標に変換するために射影する。
正面(x,y=0,z)(t):{(0,0), (2,2), (6,5), (12,3)}
側面(x=0,y,z)(t):{(0,0), (1,2), (3,5), (5,3)}
上面(x,y,z=0)(t):{(0,0),(2,1), (6,3), (12,5)}
（３）よって、サッカーボールを正面、側面及び上面からそれぞれ見た動きベクトルは、下記のようにして求められる。
正面（x,z）：{(t1(x)-t0(x),t1(z)-t0(z)), (t2(x)-t1(x), t2(z)-t1(z)),(t3(x)-t2(x), t3(z)-t2(z))}
よって、正面（x,z）の動きベクトルは、{(2-0,2-0),(6-2,5-2),(12-6,3-5)}＝{(2,2), (4,3),(6,-2)}である。
側面（y,z）：{(t1(y)-t0(y),t1(z)-t0(z)), (t2(y)-t1(y), t2(z)-t1(z)), (t3(y)-t2(y),t3(z)-t2(z))}
よって、側面（y,z）の動きベクトルは、{(1-0,2-0),(3-1,5-2),(5-3,3-5)}＝{(1,2),(2,3), (2,-2)} である。
上面（x,y）：{(t1(y)-t0(y),t1(x)-t0(x)), (t2(y)-t1(y), t2(x)-t1(x)),(t3(y)-t2(y), t3(x)-t2(x))}
よって、上面（x,y）の動きベクトルは、{(2-0,1-0),(6-2,3-1),(12-6,5-3)}＝{(2,1),(4,2), (6,2)} である。
【００６７】
Ｂ．視点が正面（x,z）、側面（y,z）及び上面（x,y）の動きベクトル（速度）は下記のようにして求められる。
正面(x,z)の動きベクトル（速度）は、|{(2,2),(4,3), (6,-2)}| → √(4+4)+√(16+9) +√(36+4)=14.153である。
側面(y,z)の動きベクトル（速度）は、|{(1,2),(2,3), (2,-2)}| → √(1+4)+√(4+9) +√(4+4)=8.670である。
上面(x,y)の動きベクトル（速度）は、|{(2,1),(4,2), (6,2)}| → √(4+1)+√(16+4) +√(36+4)=13.033である。
【００６８】
Ｃ．視点が正面（x,z）、側面（y,z）及び上面（x,y）の速さベクトルは下記のようにして求められる。
正面（x,z）：{(((t2(x)-t1(x))-(t1(x)-t0(x)),((t2(z)-t1(z))-(t1(z)-t0(z)))),(((t3(x)-t2(x))-((t2(x)-t1(x)),((t3(z)-t2(z))-(((t2(z)-t1(z)))}
よって、正面（x,z）の速さベクトルは、{(4-2,3-2),(6-4,-2-3)}＝{(2,1), (2,-5)}である。
側面（y,z）：{(((t2(y)-t1(y))-(t1(y)-t0(y)),((t2(z)-t1(z))-(t1(z)-t0(z)))),(((t3(x)-t2(x))-((t2(x)-t1(x)), ((t3(y)-t2(y))-(((t2(y)-t1(y)))}
よって、側面（y,z）の速さベクトルは、{(2-1,3-2),(2-2,-2-3)}＝{(1,1),(0,-5)}である。
上面（x,y）：{(((t2(x)-t1(x))-(t1(x)-t0(x)),((t2(y)-t1(y))-(t1(y)-t0(y)))),(((t3(x)-t2(x))-((t2(x)-t1(x)),((t3(y)-t2(y))-(((t2(y)-t1(y)))}
よって、上面（x,y）の速さベクトルは、{(4-2,2-1),(6-4,2-2)}＝{(2,1),(2,0)}である。
【００６９】
Ｄ．視点が正面（x,z）、側面（y,z）及び上面（x,y）の速さベクトル（加速度）は下記のようにして求められる。
正面(x,z)の速さベクトル（加速度）は、|{(2,1),(2,-5)}| → √(4+1)+√(4+25)=7.621 である。
側面(y,z)の速さベクトル（加速度）は、|{(1,1),(0,-5)}|→ √(1+1)+√(25)=6.414 である。
上面(x,y)の速さベクトル（加速度）は、|{(2,1),(2,0)}|→ √(4+1)+√(4)=4.236 である。
【００７０】
視点の決定の１つの実施態様では、視点決定をするためのプログラムを実行することによって、３次元モデルの動きベクトルの絶対値が求められる。動きベクトルは、３次元モデルの速度に着目したものである。該絶対値が大きい動きベクトルの得られる視点が上位から選択され、視点の候補（以下、視点候補）とされる。なぜならば、速度の変化の大きい部分が、検索対象である動画コンテンツである可能性が高いからである。例えば、視点Ａでの動きベクトルが{(2,2),(4,3),(6,-2)}であり、視点Ｂでの動きベクトルが{(1,2),(2,3),(2,-2)}であるとする。視点Ａの動きベクトルの絶対値｜{(2,2),(4,3),(6,-2)}｜は、視点Ｂのの動きベクトルの絶対値｜{(2,2),(4,3),(6,-2)}｜よりも大きいために、視点Ａが視点Ｂよりも上位の視点候補とされる。
視点の決定の他の実施態様では、視点決定をするためのプログラムを実行することによって、３次元モデルの速さベクトルの絶対値が求められる。速さベクトルは、３次元モデルの加速度に着目したものである。該絶対値が大きい速さベクトルの得られる視点が上位から選択され、視点候補とされる。なぜならば、加速度の変化の大きい部分が、検索対象である動画コンテンツである可能性が高いからである。
複数の視点候補がある場合、ユーザは好ましくは３次元モデルを見ながら、任意の視点を選択しうる。
【００７１】
また、ユーザは、好ましくは３次元モデルを見ながら、視点候補を動かし、視点候補を調整して所望の視点を決定しうる。
【００７２】
図４は、本発明の実施態様である、検索フェーズのフローチャートを示す。
検索フェーズは、コンピュータによって実行されうる。
コンピュータ・システムは、３次元モデルの第１のベクトルである動きベクトルを計算する（４０１）。第１のベクトルは、モデルの軌跡及びモデルの速度変化を含む。視点候補が複数ある場合、上記コンピュータ・システムは、それぞれの視点から見た第１のベクトルを計算する。
【００７３】
コンピュータ・システムは、複数の動画についての検索対象である動画コンテンツの第２のベクトルである動きベクトルを計算する（４０２）。第２のベクトルは、慣用の技術を使用して、計算される。
【００７４】
動画コンテンツから動きの情報を取得する方法の例を以下に示す。該動きの情報は、動きベクトル又は動きベクトルに変換できる情報である。
動画コンテンツは、フレーム列で構成される。コンピュータ・システムは、該フレーム列を所定の基準に従って、オリジナルよりも短いフレーム列である部分動画像に分割する。ここで所定の基準には、例えばシーン・チェンジなどが挙げられる。コンピュータ・システムは、部分動画像の画面をブロックに分割し、その動きを追跡することによって、動きベクトル列を発生させる。次に、コンピュータ・システムは、類似した挙動を示す動きベクトル列を統合することによって、物体の動きを代表するベクトル列を自動的に生成する。１つの代表動きベクトル列につき生成されるデータは、フレーム間変位(代表動きベクトル)の時系列の他に、動きの開始フレームの番号、動きが継続しているフレームの数及び開始フレームでの動きの開始点の座標値が含まれる。コンピュータ・システムは、代表動きベクトル列データを、フレームのサンプリング間隔よりも長い時間間隔でサンプリングして、動きインデックスを生成する。１つの動きインデックスについて生成されるデータは、各々が当該サンプリング間隔内の動きを表すベクトルの時系列の他に、動きの開始時間、動きの継続時間及び動きの開始点の座標値が含まれる。
【００７５】
動画コンテンツから動きの情報を取得する他の方法の例を以下に示す。
以下では、検索対象の動画コンテンツにおいて、該動画コンテンツに含まれる複数のモデルが動きを有し、重複することにより各モデルが変形しても、正確に各モデルについての動きベクトルを検出する方法を示す。
コンピュータ・システムは、検索対象の動画コンテンツを構成する時間的に前後するフレームｔ及びフレームｔ＋１について領域分割処理を行う。コンピュータ・システムは、任意に選択した基準領域と、当該基準領域を中心として設定された検索範囲内に含まれる参照領域とを比較する。そして、コンピュータ・システムは、該比較結果に応じて基準領域と参照領域とを併合することで領域を生成し、入力された画像を複数の領域に分割する。これにより、コンピュータ・システムは例えば、画素値が均一な部分を示す領域、画素値が周期的に変化する部分（テクスチャ）を示す領域等に分類してフレームｔ及びフレームｔ＋１を分割する領域分割処理を行って、フレームｔ及びフレームｔ＋１に含まれる複数のモデルを示す領域を生成する。
コンピュータ・システムは、領域分割処理により分割されたフレームｔを構成する各モデルに対応する各領域と、フレームｔ＋１を構成する各モデルに対応する各領域とを射影関係を調べることにより、フレームｔを構成する各領域が対応するフレームｔ＋１を構成する領域を設定する。
コンピュータ・システムは、フレームｔ及びフレームｔ＋１に含まれる各領域のエッジを抽出する処理を行うことで、エッジ・ブーリン・マスク（Edge Boolean Mask）を抽出する処理を行う。このとき、コンピュータ・システムは例えば１次微分又は２次微分を行うフィルタ処理を行うことで、例えばモデルと背景との境界を表す特徴量を抽出して各フレームに含まれるモデルのエッジを検出してエッジ部分と非エッジ部分からなる２値画像を生成し、そして境界線追跡処理、細線化処理を行うことでエッジ・ブーリン・マスクを抽出する。
コンピュータ・システムは、フレームｔ及びフレームｔ＋１についての各エッジ・ブーリン・マスクを用いてエッジマッチングを行う。コンピュータ・システムは、フレームｔ及びフレームｔ＋１についての各エッジ・ブーリン・マスクが重複する部分の最大となる位置をマッチング位置とする。
コンピュータ・システムは、エッジマッチングを行ったことにより得た位置ベクトルを用いて仮の動きベクトルを推定する。
コンピュータ・システムは、正規化した変形率を各エッジ・ブーリン・マスクについて算出する。このとき、コンピュータ・システムは、エッジマッチングを行った結果より得た位置ベクトルに基づいて正規化した変形率を算出する。コンピュータ・システムは、フレームｔにおけるエッジ・ブーリン・マスクとフレームｔ＋１における重複する部分の面積をフレームｔの面積で除算し、除算して得た値を１から減算することにより、フレームｔからフレームｔ＋１に亘るエッジ・ブーリン・マスクの正規化した変形率を求める。
コンピュータ・システムは、各エッジ・ブーリン・マスクについての動きベクトルを確定する処理を行う。コンピュータ・システムは、動きベクトルが確定していないエッジ・ブーリン・マスクを着目エッジ・ブーリン・マスクに指定する。コンピュータ・システムは、着目エッジ・ブーリン・マスクに接しており動きベクトルが確定していないエッジ・ブーリン・マスクをグループ化して隣接エッジ・ブーリン・マスク・グループを形成する。コンピュータ・システムは、着目エッジ・ブーリン・マスクの変形率と隣接エッジ・ブーリン・マスク・グループに含まれるそれぞれのエッジ・ブーリン・マスクの変形率を比較し、着目エッジ・ブーリン・マスクが、最も変形率の小さいエッジ・ブーリン・マスクであるか否かを判定する。コンピュータ・システムは、着目エッジ・ブーリン・マスクが、最も変形率の小さいエッジ・ブーリン・マスクであると判定したときには、着目エッジ・ブーリン・マスクの仮の動きベクトルを真の動きベクトルとして確定する。コンピュータ・システムは、着目エッジ・ブーリン・マスクが、最も変形率の小さいエッジ・ブーリン・マスクでないと判定したときには、着目エッジ・ブーリン・マスクの仮の動きベクトルを真の動きベクトルとして確定しない。
コンピュータ・システムは、全ての動きベクトルが確定するまでエッジ・ブーリン・マスクの抽出から動きベクトルを確定する処理を繰り返し行うことにより、全エッジ・ブーリン・マスクについての動きベクトルを確定する。
【００７６】
動画コンテンツから動きの情報を取得する他の方法の例を以下に示す。
以下では、検索対象の動画コンテンツにおいて、該動画コンテンツに含まれるモデルの形状及びその運動を比較的少ないフレーム数でロバストに推定する方法を示す。
コンピュータ・システムは、検索対象の動画コンテンツを構成する時間的に前後するフレームｎ−１及びフレームｎについて、動きベクトル場を計算する。動きベクトル場とは、動きベクトルをフレーム内全体に亘ってある所定の間隔で求めた集合を示す。動きベクトル場の計算アルゴリズムは、ブロックマッチング法、輝度勾配法等手法を問わない。取得するベクトル場は、全画素に対して求める必要がなく、例えば４×４画素間隔の代表点に対して求める等、適切な間隔で得られればよい。
コンピュータ・システムは、動きベクトル場を構成する全ての動きベクトルを用いて、運動パラメータを取得する。より具体的には、コンピュータ・システムは、動きベクトルを一般化Ｈｏｕｇｈ（ハフ）変換することによって運動パラメータを取得する。一般化Ｈｏｕｇｈ変換は、パラメータ推定の一手法であり、観測された情報を生成しうる全てのパラメータ候補に対して投票を行い、得票数が集中したパラメータを以て推定値とする手法である。画面内に複数の運動が混在する場合、パラメータ空間において複数の点に得票が集中するので、それらを順次探索することによって複数の運動の推定が可能となる。本発明の実施形態では、例えば、取得する運動パラメータを、垂直並進、水平並進、回転及び拡大の４個の２次元運動とすることができる。
コンピュータ・システムは、フレームｎ−１に運動パラメータを適用、例えば、垂直並進し、水平並進し、回転し及び拡大する。該適用により得られた結果とフレームｎとが重複した領域が、対応する運動パラメータの領域となる。一方、重複しない領域は、互いに相違する動きを有する領域となる。
コンピュータ・システムは、該適用により得られた結果とフレームｎの差分を求める。
コンピュータ・システムは、フレームの各画素に対して、全ての運動パラメータに対する該差分を求め、該差分の絶対値を最小にする運動パラメータを以てその画素の動きとする。結果、コンピュータ・システムは、該動き毎にモデルを抽出し及び分類できる。なお、モデルにテクスチャが比較的少ない場合のように、所定の画素において有効な差分が生じないときには、その画素の分類をこの際には未定とし、後に周囲から補間することもできる。また、ノイズ除去フィルタなどを付加してモデルの形状を整形することもできる。
【００７７】
コンピュータ・システムは、所定の動画について第２のベクトルの計算を予め行い、データベースに該第２のベクトルを格納しておいてよい。
また、コンピュータ・システムは、複数の動画のうちから検索対象となりうる動画を絞り込むために、タグ検索を行うことができる。タグは、動画毎に付与されている。タグの例は、動画のジャンル、動画コンテンツなどのキーワード又は、所定のキーワードに関連付けられた値でありうる。
検索対象となりうる動画の候補数が多い場合、ＡＮＤ検索又はＯＲ検索を行う。例えば、キーワードが、フリーキック、ワールドカップなどであるがこれに限定されない。検索対象となりうる動画の候補数が少ない場合、ＮＯＴ検索を行う。例えば、キーワードがテニス、野球である。或いは、ＡＮＤ検索、ＯＲ検索、ＮＯＴ検索を組み合わせて、検索対象となりうる動画を絞り込んでもよい。
【００７８】
コンピュータ・システムは、上記第１のベクトルと第２のベクトルとを比較して類似度を計算する。コンピュータ・システムは、該計算に加えて、上記第１のベクトルと第２のベクトルから求められる速さベクトルを比較することにより、より厳密に類似度を計算することもできる。類似度の計算において、下記１〜３が考慮されうる。
【００７９】
１．３次元モデルと検索対象である動画との開始点及び／又は終了点が異なる場合に備えて、部分一致をベースにした動きベクトルの類似度を計算する。
３次元モデルの時間tにおける３次元の座標が下記である場合を考える。
(x,y,z)(t)= {(0,0,0), (2,1,2), (6,3,5), (12,5,3)}
例として正面から見た動きベクトルを求めると、３次元モデルの動きベクトル  正面（x,z）：{(2,2), (4,3), (6,-2)}である。
次に、動画の動画コンテンツの軌跡が下記である場合を考える。
(x,y=0,z)(t)= {(2,2), (6,5), (12,3), (20,0)}
その動きベクトルは、動画コンテンツの動きベクトル  正面（x,z）：{(4,3), (6,-2), (8, -3)}である。
このようにして、他の動画コンテンツについても動きベクトルを求めておく。
類似度の計算には例えば、動的計画法(dynamic programming)(Smith-Warterman)を用いうる（動的計画法については、http://www.ibm.com/developerworks/jp/java/library/j-seqalign/を参照されたい）。
【００８０】
図５Ａは、本発明の実施態様である、動的計画法を説明するための図を示す。
グラフ（５０１、５０２）は、比較を行うモデルそれぞれの動きを示す。モデルの動きは、ＸＺ平面上に投影されたものであるとする。グラフ上の点は、ある時点（ｔ０〜ｔ７）でのモデルの位置を示す。ここで２つのモデルの動きについて、破線（５０４、５０５）で囲われた個所が似ているといえる。
以下では、この破線（５０４、５０５）で囲われた個所を、動的計画法で用いる表（５０３）から求める方法を説明する。
表（５０３）の横軸は、グラフ（５０１）で表されるモデルの動きベクトルを示す。例えば、Ａ（ｔ２−ｔ１）は、ｔ１からｔ２の間のモデルの動きを表す動きベクトルを示す。表（５０３）の縦軸は、グラフ（５０２）で表されるモデルの動きベクトルを示す。例えば、Ｂ（ｔ２−ｔ１）は、ｔ１からｔ２の間のモデルの動きを表す動きベクトルを示す。表（５０３）の各セルには、縦軸及び横軸で示された動きベクトル間の距離が設定される。該距離が小さい値であるほど２つの動きベクトルは類似していると判断できる。また、該距離が０であれば、２つの動きベクトルは一致している。よって、該距離の表（５０３）上での表れかたを見ることで、２つのモデルの動きの似ている個所を求めることができる。ここで、破線（５０４、５０５）で囲われた個所の距離は、表（５０３）の黒く塗りつぶされたセル（５０６）に設定される。セル（５０６）が示すように、開始点及び／又は終了点が異なる場合も考慮した２つのモデルの動きの比較は、表（５０３）においては、右下がりの階段のような形で表現される。該右下がりの階段のような形の各セルに設定された距離が０に近いほど、２つのモデルは類似する動きをしていることを示す。例えば、破線（５０４、５０５）で囲われた個所の動きは似ているため、セル（５０６）に設定される各距離は、他のセルの値よりも０に近い小さな値になるといえる。このように、表（５０３）から、各セルの値が０に近い右下がりの階段のような形を探すことで、動きの類似した箇所を求めることができる。
【００８１】
図５Ｂは、上記３次元モデルの動きベクトル（正面）及び動画コンテンツの動きベクトル（正面）に動的計画法を適用した例を示す。表の横軸は、３次元モデルの動きベクトル（正面）を示す。表の縦軸は、動画コンテンツの動きベクトル（正面）を示す。表の各セルの値は、３次元モデルの動きベクトル（正面）(x1,z1)と、動画コンテンツの動きベクトル（正面）（x2,z2）の各座標の距離√（（x2-x1）2 + （z2-z1）2）を示す。各セルの値の計算方法を以下に示す。
Ａ１Ｂ１  ：  √（（4-2）2＋（3-2）2） = √5
Ａ２Ｂ１  ：  √（（4-4）2＋（3-3）2） = 0
Ａ３Ｂ１  ：  √（（4-6）2＋（3-(-2)）2） = √29
Ａ１Ｂ２  ：  √（（6-2）2＋（-2-2）2） = √32
Ａ２Ｂ２  ：  √（（6-4）2＋（-2-3）2） = √29
Ａ３Ｂ２  ：  √（（6-6）2＋（-2-(-2)）2） = 0
Ａ１Ｂ３  ：  √（（8-2）2＋（-3-2）2） = √61
Ａ２Ｂ３  ：  √（（8-4）2＋（-3-3）2） = √52
Ａ３Ｂ３  ：  √（（8-6）2＋（-3-(-2)）2） = √5
【００８２】
表において、開始点及び終了点が同じ場合の動きベクトルの比較である、右下がりの階段のような形を構成するＡ１Ｂ１の値、Ａ２Ｂ２の値及びＡ３Ｂ３の値の平均が類似度を表す。また、上記以外のそれぞれの右下がりの階段のような形を構成するセルの値の平均が、部分の類似度を表す。
具体例を挙げると、類似度は、（√（５）＋√（２９）＋√（５））÷３で表される。部分の類似度は、例えばＡ１Ｂ２の値及びＡ２Ｂ３の値を用いる場合（√（３２）＋√（５２））÷２で表される。また、部分の類似度のうち、Ａ２Ｂ１の値とＡ３Ｂ２との値の平均は０であり、部分一致している。以下において、部分の類似度も類似度と呼ぶ。
【００８３】
図５Ｂは、３次元モデルの動きベクトルと、動画からの動画コンテンツの動きベクトルの部分一致を示す。
３次元モデルの動きベクトルは、(2,2), (4,3), (6,-2)である。動画コンテンツの動きベクトルは、(4,3),(6,-2), (8,-3) である。
動的計画法により、３次元モデルの動きベクトルのうち、３次元モデルの後半の動きに対応するデータ(4,3),(6,-2)と、動画コンテンツの動きベクトルのうち、シーン最初からの動きに対応するデータ(4,3),(6,-2)から求められる類似度が０である。よって、２つの動きベクトルは、部分一致（ローカルアラインメント）する。また、３次元モデル及び動画コンテンツの動きも部分一致するといえる。
【００８４】
次に、３次元モデルの動きと部分一致し若しくは類似度が低く似た動きをする動画コンテンツを有するシーンを類似度が低い順に上位から数件抽出し、該抽出されたシーンを選択の候補とする。以下の例においては、動画（１〜ｎ）は、３次元モデルの動きと部分一致し若しくは類似度が低く似た動きをする動画コンテンツを有するシーンを示す。イコールの後の数字は類似度を示す。
動画                  動画番号    類似度
動画コンテンツ(正面)：動画1    =  0
動画コンテンツ(正面)：動画2    =  3
動画コンテンツ(側面)：動画3    =  5
動画コンテンツ(正面)：動画4    =  6
動画コンテンツ(正面)：動画5    =  10
：
動画コンテンツ(上面): 動画n    =  29
【００８５】
コンピュータ・システムは、部分一致し若しくは類似度が低く似た動きをする動画コンテンツを含むシーンを上位から数件、選択の候補とする。
【００８６】
２．３次元モデルと動画中の検索対象である動画コンテンツとの間で速度が異なる場合に備えて、開始点と終了点との間で一定数のフレームで区切り、速度の誤差を吸収する。
図５Ｃは、本発明の実施態様である、速度の誤差を吸収する例を示す。
動画Ａは、通常の速度の動画であり、動画Ｂは、スローモーションの速度の動画である。
最初に、動画Ａ及び動画Ｂそれぞれを開始点と終了点との間で一定数のフレームで区切る。該例では、両者ともに３フレームに分割する。一定数のフレームで区切られた動画同士は、経過時間の割合が同じになるので、同じ速度の動画として扱うことが可能となる。よって、動画コンテンツの速度が異なる場合であっても、上記速度の誤差を吸収することが可能である。
【００８７】
３．複数の視点がある場合に、視点に対する重み付けを行い、類似度に乗算する。
例えば、ユーザが作成した視点について、シーンの重みを高くする。
ここで、類似度計算に動的計画法(Smith-Warterman)を用いる場合は、値が小さいものほど類似度が高いので、重みを除算することになる。
例えば、決定された動画ｎについて、
視点が正面である場合、重みを2に設定する：
視点が側面である場合、重みを1.5に設定する：
とすることができる。
以下に、上記重み付けを、動画コンテンツに適用した例を示す。
動画                  動画番号    類似度  重み付け
動画コンテンツ(正面): 動画1    =  0      →0/2=0
動画コンテンツ(正面): 動画2    =  3      →3/2=1.5
動画コンテンツ(側面): 動画3    =  5      →5/1.5=3.33
動画コンテンツ(正面): 動画4    =  6      →6/2=3
動画コンテンツ(正面): 動画5    =  10      →10/2=5
：
動画コンテンツ(上面): 動画n    =  29      →29=29
【００８８】
コンピュータ・システムは、重み付けを適用された動画コンテンツを含むシーンについて、類似度が低い順に上位から数件、選択の候補とする。
【００８９】
コンピュータ・システムは、上記計算された類似度に基づいて、検索対象である動画コンテンツを含む少なくとも１のシーンを選択する。なお、上記類似度に加えて、任意的に画像マッチングアルゴリズムを使用して、検索対象である動画に重みを付加することができる。重み付けに使用する情報は、検索対象である動画に予め付与されている。該情報は例えば、動画コンテンツの色的特徴を表す色情報もしくは形状的特徴を表す形状情報、又は動画コンテンツの背景である。
【００９０】
動画コンテンツの特徴を用いてマッチングの精度を向上することが可能である。該精度の向上は、慣用の技術を使用して行われうる。慣用技術として、例えば下記の方法がある。
該方法によれば、コンピュータ・システムは、動画コンテンツを抽出する際に、当該動画コンテンツ内に含まれるモデルの数を表す数情報、及び／又は、当該動画コンテンツの色的特徴を表す色情報、及び／又は、当該動画コンテンツの形状的特徴を表す形状情報を含む付加情報をあわせて取得することができる。該付加情報は、動画コンテンツ毎に取得することができる。例えばサッカーボールの動画コンテンツであれば、数情報として「１」を取得し、色情報として「白」及び「黒」を取得し、形状情報として「丸」を取得することができる。また、例えばゴール前のサッカー選手の壁の動画コンテンツであれば、数情報として「４」を取得し、色情報として「赤」、「緑」、「白」及び「肌色」を取得し、形状情報として「長細い」を取得することができる。数情報は、動画コンテンツ内に含まれる各モデルをカウントすることで取得できる。色情報及び形状情報は、３次元モデルの該情報を持つ位置に相当する動画コンテンツの位置から取得できる。コンピュータ・システムは、該付加情報を動画コンテンツに連なるツリー構造で関係付けうる。このような付加情報を動画コンテンツと共に取得させておくことで、各モデルを特徴づける情報が増え、マッチングの精度を向上させることができる。例えば、各モデル同士が重なったフレームでは、モデルが不完全な形でしかも、近接した形で複数存在する。しかし、色及び形状はモデル固有であるから、コンピュータ・システムは、各モデルの色情報及び形状情報をマッチングに利用できる。
【００９１】
図６は、本発明の実施形態である、システム全体の構成例を示す。
シーン作成画面（６０５）は、ユーザが３次元モデルを作成し動きを与えるための画面である。シーン作成画面（６０５）では、３次元モデル本体、３次元モデルの軌跡、３次元モデルの速度変化及び３次元モデルの付加情報を作成することができる。該作成において、事前知識データベース（６０７）に予め用意されているデータを選択し、使用することもできる。事前知識データベース（６０７）は、モデル・データベースにもなりうる。事前知識データベース（６０７）は、３次元モデルの作成、３次元モデルの視点決定及び検索対象の動画の決定の際に利用できる情報が格納されたデータベースである。該情報は例えば、３次元モデル本体、３次元モデルの軌跡、３次元モデルの速度変化、３次元モデルの付加情報、動きベクトル及び動画コンテンツの情報である。事前知識データベース（６０７）は、格納部（６０４）内に含めることもできる。格納部（６０４）は、シーン作成画面（６０５）で作成された３次元モデル本体、３次元モデルの軌跡、３次元モデルの速度変化及び３次元モデルの付加情報を保存する記憶部である。視点決定部（６０２）は、計算部（６０１）に含まれる。視点決定部（６０２）は、ユーザに視点を決定させる。視点決定部（６０２）は、格納部（６０４）及び事前知識データベース（６０７）に保存されているデータを使用して、ユーザが視点を決定するための視点候補を作成する。視点決定部（６０２）は、速度又は加速度の大きい動画コンテンツを含む動画を使用して視点候補を作成する。該動画は、動画データ・データベース（６０８）に保存されている。動画データ・データベース（６０８）は、検索対象の動画が格納されたデータベースである。動画サイト（６０６）は、動画データ・データベース（６０８）に保存されている動画の表示を行う。動画サイト（６０６）は、動画の絞り込みを行うためのタグ及びＡＮＤ検索又はＯＲ検索の機能を有する。マッピング部（６０９）は、計算部（６０１）に含まれる。マッピング部（６０９）は、動画データ・データベース（６０８）から検索対象の動画を取得し、該動画から動きの情報を取得する。計算部（６０１）は、視点決定部（６０２）によって決定された視点、格納部（６０４）及び事前知識データベース（６０７）に保存されているデータを使用して、第１のベクトルである動きベクトルを求める。計算部（６０１）は、マッピング部（６０９）によって取得された動きの情報、格納部（６０４）及び事前知識データベース（６０７）に保存されているデータを使用して、第２のベクトルである動きベクトルを求める。計算部（６０１）は、第１のベクトル及び第２のベクトルを使用して、類似度を求める。計算部（６０１）は、類似度に重み付けを行う。該重み付けは、視点決定部（６０２）によって決定された視点、動画データ・データベース（６０８）から取得した検索対象の動画を使用して行う。計算部（６０１）は、類似度を使用して選択候補の動画を求める。計算部（６０１）は、第１のベクトル、第２のベクトル及び類似度など再利用可能な情報を、格納部（６０４）又は事前知識データベース（６０７）に保存する。選択部（６０３）は、計算部（６０１）に含まれる。選択部（６０３）は、ユーザに計算部（６０１）で求められた選択候補の動画から、動画を決定させる。該決定された動画は、動画サイト（６０６）に表示される。
【００９２】
図７は、本発明の実施態様である、システム全体における処理の流れを示す。
１．３次元モデルの作成又は選択
ユーザは、３次元モデルを作成する。代替的に、ユーザは、既存の３次元モデルを選択する。ユーザは、該３次元モデルを使用して検索したいシーンを作成する。
２．視点決定
ユーザは、作成したシーンを動かすことで視点を決定する。また、システムは、３次元モデルの概要を用いて事前知識データベースを検索することにより、視点候補を得ることができる。該視点候補は、ユーザが視点を決定する際に使用される。
３．３次元モデルの第１のベクトルの計算
システムは、ユーザが作成したシーン及びユーザ決定した視点を用いて、第１のベクトルを求める。
４．動画データ中の動画コンテンツの第２のベクトルの計算
システムは、動画データベースから動画データを取得する。システムは、該動画データに含まれる動画コンテンツの第２のベクトルを求める。
５．類似度計算
システムは、第１のベクトル及び第２のベクトルを用いて、類似度を求める。該類似度には、動画データ・データベースから取得できる画像の属性値を重みとして付加させることができる。システムは、類似度が高い動画を検索結果としてユーザに示す。
【００９３】
本発明の実施態様において、コンピュータ・システムは典型的に、ＣＰＵ及びメインメモリを有する。該ＣＰＵ及びメインメモリは、バスに接続されている。該バスに、ディスプレイ・コントローラを介して、ＬＣＤモニタなどの表示装置が接続されている。また、該バスに、ＩＤＥ、ＳＡＴＡ又はＵＳＢコントローラを介して、記憶装置、例えばハードディスク、シリコンディスク、ＣＤ、ＤＶＤ又はＢＤ（ブルーレイディスク）の各種ドライブが接続されている。
【図面の簡単な説明】
【００９４】
【図１Ａ】本発明の実施態様である、サッカーのあるフリーキックのシーンを正面から撮影した動画を示す。
【図１Ｂ】本発明の実施態様である、サッカーのあるフリーキックのシーンを正面から撮影した動画、該シーンを真後側及び横側からそれぞれ撮影した画像についてのボールの動き及び選手の動きを示す。
【図２Ａ】本発明の実施態様である、モデル・シーンの作成フェーズを示す。
【図２Ｂ】本発明の実施態様である、３次元モデルの正面、側面及び上面それぞれから見た軌跡及びＶ−Ｔグラフを示す。
【図３Ａ】本発明の実施態様である、視点の決定方法を示す。
【図３Ｂ】本発明の実施態様である、視点の決定のために使用する動きベクトル及び速さベクトルの例を示す。
【図４】本発明の実施態様である、検索フェーズを示す。
【図５Ａ】本発明の実施態様である、動的計画法を説明するための図を示す。
【図５Ｂ】本発明の実施態様である、３次元モデルの動きベクトル及び動画コンテンツの動きベクトルに動的計画法を適用した例を示す。
【図５Ｃ】本発明の実施態様である、速度の誤差を吸収する例を示す。
【図６】本発明の実施態様である、システム全体の処理の流れを示す。
【図７】本発明の実施態様である、システム全体の構成例を示す。
【図１Ａ】
2010033528.tif 000005
【図１Ｂ】
2010033528.tif 000006
【図２Ａ】
2010033528.tif 000007
【図２Ｂ】
2010033528.tif 000008
【図３Ａ】
2010033528.tif 000009
【図３Ｂ】
2010033528.tif 000010
【図４】
2010033528.tif 000011
【図５Ａ】
2010033528.tif 000012
【図５Ｂ】
2010033528.tif 000013
【図５Ｃ】
2010033528.tif 000014
【図６】
2010033528.tif 000015
【図７】
2010033528.tif 000016