(57)【要約】【課題】内容を考慮して階層的に映像コンテンツを構造化することが可能な映像コンテンツ構造化装置、映像コンテンツ構造化方法、及びコンピュータプログラムを提供する。【解決手段】映像コンテンツ構造化装置１は、映像コンテンツをブロック毎に分割するブロック分割部１０と、分割されたブロック毎にメタデータを付与するメタデータ付与部２０と、付与されたメタデータに基づいて階層的に映像コンテンツを構造化する構造化部３０とを備える。【選択図】図１
2020080469.tif 000002
【特許請求の範囲】
【請求項１】
映像コンテンツをブロック毎に分割するブロック分割部と、
分割されたブロック毎にメタデータを付与するメタデータ付与部と、
付与されたメタデータに基づいて階層的に映像コンテンツを構造化する構造化部と
を備えることを特徴とする映像コンテンツ構造化装置。
【請求項２】
前記メタデータ付与部は、音声認識結果、文字認識結果、画像認識結果のうちの少なくとも１つに基づいてメタデータを導出し、導出したメタデータに対して重みづけを行い、重みづけされたメタデータをブロック毎に統合することを特徴とする請求項１に記載の映像コンテンツ構造化装置。
【請求項３】
前記メタデータ付与部は、音声認識結果と文字認識結果の両方で導出されたキーワードの重みを大きくすることを特徴とする請求項２に記載の映像コンテンツ構造化装置。
【請求項４】
前記メタデータ付与部は、出現している時間が長いキーワード及びオブジェクトほど重みを大きくする、または、出現している回数が多いキーワード及びオブジェクトほど重みを大きくすることを特徴とする請求項２に記載の映像コンテンツ構造化装置。
【請求項５】
前記構造化部は、代表ベクトルの単語に対する重みを小さくすることを特徴とする請求項２から４のいずれか１項に記載の映像コンテンツ構造化装置。
【請求項６】
前記構造化部は、階層が深くなるほど、オブジェクトに対する重みを大きくし、キーワードに対する重みを小さくすることを特徴とする請求項２から４のいずれか１項に記載の映像コンテンツ構造化装置。
【請求項７】
コンピュータが、
映像コンテンツをブロック毎に分割するブロック分割ステップと、
分割されたブロック毎にメタデータを付与するメタデータ付与ステップと、
付与されたメタデータに基づいて階層的に映像コンテンツを構造化する構造化ステップと
を実行することを特徴とする映像コンテンツ構造化方法。
【請求項８】
請求項１から６のいずれか１項に記載した映像コンテンツ構造化装置としてコンピュータを機能させるためのコンピュータプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、映像コンテンツを構造化する映像コンテンツ構造化装置、映像コンテンツ構造化方法、及びコンピュータプログラムに関する。
【背景技術】
【０００２】
近年、放送局などにおいては、番組制作環境のファイルベース化が進み、映像コンテンツの効率良い管理がますます重要になってきている。映像編集者が膨大な映像コンテンツの中から、特定のキーワードが含まれるコンテンツを検索し、さらに、そのコンテンツの中から、番組制作に使える映像シーンを探し出すには多大な稼働がかかる。そこで、映像コンテンツの検索を容易にするため、映像コンテンツにメタデータを付与する技術が提案されている（非特許文献１）。しかし、メタデータを人手で付与するには時間がかかるため、自動で付与する技術が研究されている（非特許文献２）。また、映像編集作業を効率化するため、音声／映像信号に基づいて、映像コンテンツをシーンに分割する技術も提案されている（非特許文献３）。
【先行技術文献】
【非特許文献】
【０００３】
【非特許文献１】「メタデータ制作支援に関する動向」、2018年10月17日検索、インターネット＜URL：https://www.nhk.or.jp/strl/publica/rd/rd163/pdf/P04-21.pdf＞
【非特許文献２】「コンテンツのメタデータ付与について」、2018年10月17日検索、インターネット＜URL：http://www.soumu.go.jp/main_content/000225131.pdf＞
【非特許文献３】「viaPlatz」、2018年10月17日検索、インターネット＜URL：http://www.viaplatz.com/spec/＞
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかし、従来技術によれば、内容が連続していても、シーンが分割されてしまう。たとえば、テロップが同じで、内容が連続していても、背景映像が変わると分割されてしまう。具体的には、ロケ番組で、「大阪」のようなテロップが出ていて、その背景映像が数秒おきに切り替わる場合などである。同一人物の話が連続していても、正面からの撮影、横からの撮影というようにカメラカットが変わると分割されてしまう。
【０００５】
また、従来技術によれば、一意に分割されてしまうため、確認したいシーンの粒度は映像編集者によって異なることに対応できない。たとえば、図８（ａ）に示すように、映像コンテンツを複数のブロックＢ１，Ｂ２，Ｂ３，Ｂ４，Ｂ５，…に区切り、図８（ｂ）に示すように、そのメタデータを管理しているものとする。ここで、「食べ物に関するロケシーン（ブロックＢ１−Ｂ３）」が「店の外のシーン（ブロックＢ１）」と「店の中のシーン（ブロックＢ２−Ｂ３）」で構成されている場合、「店の外のシーン、店の中のシーンをまとめて作業をしたい人（ブロックＢ１−Ｂ３をまとめて１つのシーンとしたい人）」、「店の中のシーンだけを確認したい人（ブロックＢ２−Ｂ３をまとめて１つのシーンとしたい人）」というように、確認したいシーンの粒度は異なる。また、「コーナーの切り替わり（ブロックＢ４とブロックＢ５）」で、スタジオキャスターが「前のコーナーのまとめ（ブロックＢ４）」と「次のコーナーへのつなぎ（ブロックＢ５）」を連続して話す場合、「キャスターのシーンとしてまとめて作業したい人（ブロックＢ４−Ｂ５をまとめて１つのシーンとしたい人）」、「前のコーナーのまとめのシーン、次のコーナーへのつなぎのシーンを分けて確認したい人（ブロックＢ４、Ｂ５をそれぞれのシーンとしたい人）」というように、確認したいシーンの粒度は異なる。
【０００６】
本発明は、上述した従来技術に鑑み、内容を考慮して階層的に映像コンテンツを構造化することが可能な映像コンテンツ構造化装置、映像コンテンツ構造化方法、及びコンピュータプログラムを提供することを目的とする。
【課題を解決するための手段】
【０００７】
上記目的を達成するため、第１の態様に係る発明は、映像コンテンツ構造化装置であって、映像コンテンツをブロック毎に分割するブロック分割部と、分割されたブロック毎にメタデータを付与するメタデータ付与部と、付与されたメタデータに基づいて階層的に映像コンテンツを構造化する構造化部とを備えることを要旨とする。
【０００８】
第２の態様に係る発明は、第１の態様に係る発明において、前記メタデータ付与部が、音声認識結果、文字認識結果、画像認識結果のうちの少なくとも１つに基づいてメタデータを導出し、導出したメタデータに対して重みづけを行い、重みづけされたメタデータをブロック毎に統合することを要旨とする。
【０００９】
第３の態様に係る発明は、第２の態様に係る発明において、前記メタデータ付与部が、音声認識結果と文字認識結果の両方で導出されたキーワードの重みを大きくすることを要旨とする。
【００１０】
第４の態様に係る発明は、第２の態様に係る発明において、前記メタデータ付与部が、出現している時間が長いキーワード及びオブジェクトほど重みを大きくする、または、出現している回数が多いキーワード及びオブジェクトほど重みを大きくすることを要旨とする。
【００１１】
第５の態様に係る発明は、第２から第４のいずれか１つの態様に係る発明において、前記構造化部が、代表ベクトルの単語に対する重みを小さくすることを要旨とする。
【００１２】
第６の態様に係る発明は、第２から第４のいずれか１つの態様に係る発明において、前記構造化部が、階層が深くなるほど、オブジェクトに対する重みを大きし、キーワードに対する重みを小さくすることを要旨とする。
【００１３】
第７の態様に係る発明は、映像コンテンツ構造化方法であって、コンピュータが、映像コンテンツをブロック毎に分割するブロック分割ステップと、分割されたブロック毎にメタデータを付与するメタデータ付与ステップと、付与されたメタデータに基づいて階層的に映像コンテンツを構造化する構造化ステップとを実行することを要旨とする。
【００１４】
第８の態様に係る発明は、コンピュータプログラムであって、第１から第６のいずれか１つの態様に係る映像コンテンツ構造化装置としてコンピュータを機能させるためのものであることを要旨とする。
【発明の効果】
【００１５】
本発明によれば、内容を考慮して階層的に映像コンテンツを構造化することが可能な映像コンテンツ構造化装置、映像コンテンツ構造化方法、及びコンピュータプログラムを提供することが可能である。
【図面の簡単な説明】
【００１６】
【図１】本発明の実施形態における映像コンテンツ構造化装置の構成図である。
【図２】本発明の実施形態におけるメタデータ付与部の構成図である。
【図３】本発明の実施形態におけるキーワード導出部の動作を示すフローチャートである。
【図４】本発明の実施形態におけるオブジェクト導出部の動作を示すフローチャートである。
【図５】本発明の実施形態における構造化部の動作を示すフローチャートである。
【図６】本発明の実施形態における重み更新関数と階層数の関係を示すグラフである。
【図７】本発明の実施形態における構造化部による構造化結果の一例を示す図である。
【図８】シーンの粒度例を説明するための図である。
【発明を実施するための形態】
【００１７】
以下、図面を用いて本発明の実施の形態を説明する。以下の図面の記載において、同一または類似の部分には同一または類似の符号を付している。
【００１８】
≪全体構成≫
図１は、本発明の実施形態における映像コンテンツ構造化装置１の構成図である。この映像コンテンツ構造化装置１は、映像コンテンツを構造化するコンピュータであって、機能的には、ブロック分割部１０と、メタデータ付与部２０と、構造化部３０とを備える。
【００１９】
ブロック分割部１０は、映像コンテンツをブロック毎に分割する。映像コンテンツを細かく分割する技術としては従来技術を用いることができる。たとえば、viaPlatzや、オープンソース等を用いることが考えられる。ブロック分割部１０には映像コンテンツが入力され、ブロック分割部１０からはブロック分割結果が出力される。
【００２０】
メタデータ付与部２０は、ブロック分割部１０により分割されたブロック毎にメタデータ（キーワード＋オブジェクト）を付与する。メタデータは、映像コンテンツについて記述した情報である。メタデータは、映像コンテンツに埋め込む形で存在するものもあるが、ここでは、映像コンテンツとは別に管理されているものとする。メタデータ付与部２０にはブロック分割結果が入力され、メタデータ付与部２０からはブロック毎のメタデータが出力される。
【００２１】
構造化部３０は、メタデータ付与部２０により付与されたメタデータ（キーワード＋オブジェクト）に基づいて階層的に映像コンテンツを構造化する。構造化部３０にはブロック毎のメタデータと階層数が入力され、構造化部３０からは映像の構造化結果が出力される。階層数は、階層化したい数であり、映像編集者などのユーザにより指定される。
【００２２】
以上のように、本発明の実施形態における映像コンテンツ構造化装置１によれば、ブロック毎のメタデータを抽出することができるため、ブロック毎のメタデータ（内容）を考慮して階層的に映像コンテンツを構造化することが可能となる。その結果、内容が連続している区間を統合することが可能となり、また、確認したいシーンの粒度を映像編集者によって変えることも可能となる。
【００２３】
≪メタデータ付与部≫
図２は、メタデータ付与部２０の構成図である。この図に示すように、メタデータ付与部２０は、各種認識部２１と、メタデータ統合部２２とを備える。
【００２４】
各種認識部２１は、ブロック分割結果に基づいて各種の認識処理を行う機能部であり、音声認識部２１Ａと、文字認識部２１Ｂと、画像認識部２１Ｃとを備える。音声認識部２１Ａは、ブロック分割結果に含まれる音声を認識する。文字認識部２１Ｂは、ブロック分割結果に含まれる文字を認識する。画像認識部２１Ｃは、ブロック分割結果に含まれる画像を認識する。このような各種認識部２１には、NTT、Google、Azure、Watson等の外部ＡＰＩを用いることが考えられる。
【００２５】
メタデータ統合部２２は、各種認識部２１による各種認識結果に基づいてブロック毎のメタデータを導出し、導出したメタデータに対して重みづけを行い、重みづけされたメタデータをブロック毎に統合する機能部であり、キーワード導出部２２Ａと、オブジェクト導出部２２Ｂとを備える。キーワード導出部２２Ａは、音声認識部２１Ａによる音声認識結果（キーワード）と文字認識部２１Ｂによる文字認識結果（キーワード）とに基づいて、各キーワードの重みづけを行う。オブジェクト導出部２２Ｂは、画像認識部２１Ｃの画像認識結果（オブジェクト）に基づいて、各オブジェクトの重みづけを行う。
【００２６】
≪キーワード導出部≫
図３は、キーワード導出部２２Ａの動作を示すフローチャートである。以下、図３を用いて、キーワード導出部２２Ａの機能をその動作とともに説明する。
【００２７】
まず、キーワード導出部２２Ａは、音声認識部２１Ａによる音声認識結果に基づいてキーワードを導出するとともに、文字認識部２１Ｂによる文字認識結果に基づいてキーワードを導出する（ステップＳ１，Ｓ２）。たとえば、NTT corevo キーワード抽出APIや、yahooキーフレーズ抽出API等の外部ＡＰＩを用いてキーワードを導出することが考えられる。
【００２８】
次いで、キーワード導出部２２Ａは、キーワード導出ステップＳ１，Ｓ２で導出された各キーワードに対する重み（a_key）を導出し、各キーワードに対して重みづけを行う（ステップＳ３）。このとき、キーワード導出ステップＳ１，Ｓ２の両方で導出されたキーワードの重みを大きくすることが考えられる。また、キーワード導出ステップＳ１，Ｓ２の結果を統合し、各キーワードに対し、出現していた時間に基づいて、最も出現時間が長いキーワードの重みを1、最も出現時間が短いキーワードの重みを0.1として、0.1から1の間で規格化することが考えられる。同様に、キーワード導出ステップＳ１，Ｓ２の結果を統合し、各キーワードに対し、出現していた回数に基づいて、最も出現回数が多いキーワードの重みを1、最も出現回数が少ないキーワードの重みを0.1として、0.1から1の間で規格化することが考えられる。
【００２９】
最後に、キーワード導出部２２Ａは、キーワード重みづけステップＳ３で重みづけされた各キーワードを出力する（ステップＳ４）。
【００３０】
≪オブジェクト導出部≫
図４は、オブジェクト導出部２２Ｂの動作を示すフローチャートである。以下、図４を用いて、オブジェクト導出部２２Ｂの機能をその動作とともに説明する。
【００３１】
まず、オブジェクト導出部２２Ｂは、画像認識部２１Ｃによる画像認識結果に基づいてオブジェクトを導出する（ステップＳ１１）。
【００３２】
次いで、オブジェクト導出部２２Ｂは、オブジェクト導出ステップＳ１１で導出された各オブジェクトに対する重み（a_obj）を導出し、各オブジェクトに対して重みづけを行う（ステップＳ１２）。このとき、各オブジェクトに対し、出現していた時間に基づいて、最も出現時間が長いオブジェクトの重みを1、最も出現時間が短いオブジェクトの重みを0.1として、0.1から1の間で規格化することが考えられる。同様に、各オブジェクトに対し、出現していた回数に基づいて、最も出現回数が多いオブジェクトの重みを1、最も出現回数が少ないオブジェクトの重みを0.1として、0.1から1の間で規格化することが考えられる。
【００３３】
最後に、オブジェクト導出部２２Ｂは、オブジェクト重みづけステップＳ１２で重みづけされた各オブジェクトを出力する（ステップＳ１３）。
【００３４】
≪構造化部≫
図５は、構造化部３０の動作を示すフローチャートである。以下、図５を用いて、構造化部３０の機能をその動作とともに説明する。
【００３５】
まず、構造化部３０は、階層数Ｒが入力されると、rankに1を設定する（ステップＳ２１→Ｓ２２）。階層数Ｒは、ユーザにより指定される。rankは、階層数を表す変数である。
【００３６】
次いで、構造化部３０は、メタデータ付与部２０からのメタデータ（キーワード＋オブジェクト）に基づいてクラスタリングする（ステップＳ２３）。クラスタリングとは、大量のデータから、似ているものを集めて自動的に分類していく技術や手法である。
【００３７】
このクラスタリングステップＳ２３には、ブロック毎のメタデータベクトル化ステップと、ブロックのクラスタリングステップとが含まれる。ブロック毎のメタデータベクトル化ステップでは、ブロック毎に、キーワード（key）と各キーワードに対する重み（a_key）、オブジェクト（obj）と各オブジェクトに対する重み（a_obj）を入力とし、word2vec等のベクトル化ツールを用い、ブロック毎の意味ベクトル（S(b)）を導出する（bはブロック番号）。ブロックのクラスタリングステップでは、ブロック毎の意味ベクトル（S(b)）を入力とし、k-means法等のクラスタリングツールを用い、クラスタリングする。
【００３８】
次いで、構造化部３０は、代表メタデータを導出する（ステップＳ２４）。この代表メタデータ導出ステップＳ２４では、各クラスタを構成するブロック群の「ブロック毎の意味ベクトル（S(b)）」の平均値S(b,c)を導出し（cはクラスタ番号）、各ブロックの代表ベクトルとする。また、word2vec等のベクトル化ツールを用いて、各ブロックの代表ベクトルS(b,c)を単語（W）に変換する。
【００３９】
次いで、構造化部３０は、階層に分けて構造化するため、重みを更新する（ステップＳ２５）。この重み更新ステップＳ２５では、クラスタ毎に次の処理をすることが考えられる。
【００４０】
まず、代表ベクトルの単語Wに対する重み（a_W）を小さくすることが考えられる。たとえば、すでに代表ベクトルとして抽出されたメタデータの影響を除くために、a_W=0とする。
【００４１】
また、オブジェクトは細かく分割するのに役立つため、階層数が増えるにつれて、オブジェクトに対する重み（a_obj）の値を大きくし、キーワードに対する重み（a_key）の値を小さくすることも考えられる。たとえば、以下のように更新する。
【００４２】
a_obj(rank+1)=α×a_obj(rank)
a_key(rank+1)=(2-α)×a_key(rank)
α=β×exp(rank+γ)
重み更新関数αと階層数rankの関係は、図６に示すように、rankが増えるほど（階層が深くなるほど）、オブジェクトに対する重み（a_obj）の値が大きくなるように定式化する。ここでは、指数関数で定式化しているが、他の数式も考えられる。
【００４３】
次いで、構造化部３０は、rankの値に１を加算し、rankの値が階層数Ｒに達するまで同様の処理を繰り返す（ステップＳ２６→Ｓ２７→Ｓ２３→・・・）。そして、rankの値が階層数Ｒに達すると、単語（W）を構成化結果とあわせて出力する（ステップＳ２７→Ｓ２８）。
【００４４】
≪構造化結果例≫
図７は、構造化部３０による構造化結果の一例を示す図である。ここでは、ユーザに表示するＵＩイメージを例示している。たとえば、ユーザにより階層数３が指定された場合は、階層１，２，３における各区間の代表メタデータを表示するようになっている。
【００４５】
具体的には、あるロケ番組が「京都の話をしているシーン」「大阪の話をしているシーン」「神戸の話をしているシーン」で構成されているものとする。また、「京都の話をしているシーン」は、「スタジオで話をしているシーン」「寺のシーン」「お茶屋のシーン」で構成されているものとする。このような場合、階層１における区間Ｍ１１の代表メタデータとして「京都」を表示してもよい。また、階層２における区間Ｍ２１，Ｍ２２，Ｍ２３の代表メタデータとして「スタジオ」「寺」「お茶屋」を表示してもよい。さらに、階層３における区間Ｍ３１，Ｍ３２，Ｍ３３，Ｍ３４，Ｍ３５の代表メタデータとして「寺の中のシーン」「寺の外のシーン」などを表示してもよい。
【００４６】
以上のように、本発明の実施形態における映像コンテンツ構造化装置１によれば、従来技術の分割を基に構造化することで、従来技術では細かく分割してしまっているところを統合して、階層１，２，３のように表示することが可能である。また、階層数はユーザが指定できるため、確認したいシーンの粒度を映像編集者によって変えることが可能である。
【００４７】
≪変形例≫
上記実施形態では、ユーザにより階層数Ｒが指定されることとしているが、階層数Ｒの指定は必ずしも必要でない。たとえば、階層を１０段階まで構造化できる場合は、一律に階層１から階層１０までの全部を構造化結果として出力することも考えられる。
【００４８】
≪他の応用例≫
上記実施形態では、映像編集者が映像シーンを検索する際を想定して記載しているが、一般ユーザが自分の好みの芸能人が出ているシーンだけを検索する等、一般ユーザが利用することも考えられる。たとえば、歌番組に好みの芸能人が出ている場合、従来技術では、オープニングや歌っている箇所、クロージングなど該当の芸能人が登場する箇所に飛び飛びでメタデータが付与されるが、本発明を用いて構造化することで、その芸能人が歌っている箇所だけを見つけやすくすることができる。
【００４９】
≪まとめ≫
以上説明したように、本発明の実施形態における映像コンテンツ構造化装置１は、映像コンテンツをブロック毎に分割するブロック分割部１０と、分割されたブロック毎にメタデータを付与するメタデータ付与部２０と、付与されたメタデータに基づいて階層的に映像コンテンツを構造化する構造化部３０とを備える。これにより、ブロック毎のメタデータを抽出することができるため、ブロック毎のメタデータ（内容）を考慮して階層的に映像コンテンツを構造化することが可能となる。
【００５０】
また、メタデータ付与部２０は、音声認識結果、文字認識結果、画像認識結果のうちの少なくとも１つに基づいてメタデータを導出し、導出したメタデータに対して重みづけを行い、重みづけされたメタデータをブロック毎に統合してもよい。これにより、映像や音声に含まれる特徴を捉えることができるため、ブロック毎の代表的な特徴を抽出することが可能となる。
【００５１】
また、メタデータ付与部２０は、音声認識結果と文字認識結果の両方で導出されたキーワードの重みを大きくしてもよい。これにより、音声と映像（テロップ）の両方で導出されたキーワードは、そのブロックの特徴を強く表していることを考慮することができる。
【００５２】
また、メタデータ付与部２０は、出現している時間が長いキーワード及びオブジェクトほど重みを大きくする、または、出現している回数が多いキーワード及びオブジェクトほど重みを大きくしてもよい。これにより、出現している時間が長いキーワード及びオブジェクトほど、そのブロックの特徴を強く表していることを考慮することができる。また、出現している回数が多いキーワード及びオブジェクトほど、そのブロックの特徴を強く表していることを考慮することができる。
【００５３】
また、構造化部３０は、代表ベクトルの単語に対する重みを小さくしてもよい。これにより、すでに代表ベクトルになったものが以降も導出される不具合を回避することが可能となる。
【００５４】
また、構造化部３０は、階層が深くなるほど、オブジェクトに対する重みを大きくし、キーワードに対する重みを小さくしてもよい。これにより、階層が深くなるほど、オブジェクトの方がキーワードよりも代表メタデータとして導出されやすくなる。
【００５５】
なお、本発明は、映像コンテンツ構造化装置１として実現することができるだけでなく、映像コンテンツ構造化装置１が備える特徴的な機能部をステップとする映像コンテンツ構造化方法として実現したり、映像コンテンツ構造化装置１としてコンピュータを機能させるためのコンピュータプログラムとして実現したりすることもできる。そして、このようなコンピュータプログラムは、ＣＤ−ＲＯＭ等の記録媒体やインターネット等の伝送媒体を介して配信することができるのはいうまでもない。
【００５６】
≪その他の実施形態≫
上記のように、本発明の実施形態について記載したが、開示の一部をなす論述および図面は例示的なものであり、限定するものであると理解すべきではない。この開示から当業者には様々な代替実施形態、実施例および運用技術が明らかとなろう。すなわち、本発明の実施形態は、ここでは記載していない様々な実施形態などを含む。
【符号の説明】
【００５７】
１  映像コンテンツ構造化装置
１０  ブロック分割部
２０  メタデータ付与部
２１  各種認識部
２１Ａ  音声認識部
２１Ｂ  文字認識部
２１Ｃ  画像認識部
２２  メタデータ統合部
２２Ａ  キーワード導出部
２２Ｂ  オブジェクト導出部
３０  構造化部
【図１】
2020080469.tif 000003
【図２】
2020080469.tif 000004
【図３】
2020080469.tif 000005
【図４】
2020080469.tif 000006
【図５】
2020080469.tif 000007
【図６】
2020080469.tif 000008
【図７】
2020080469.tif 000009
【図８】
2020080469.tif 000010
【手続補正書】
【提出日】令和2年3月11日(2020.3.11)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
映像コンテンツをブロック毎に分割するブロック分割部と、
分割されたブロック毎にメタデータを付与するメタデータ付与部と、
付与されたメタデータに基づいて階層的に映像コンテンツを構造化する構造化部と
を備え、
前記メタデータ付与部は、音声認識結果、文字認識結果、画像認識結果のうちの少なくとも１つに基づいてメタデータを導出し、導出したメタデータに対して重みづけを行い、重みづけされたメタデータをブロック毎に統合すること
を特徴とする映像コンテンツ構造化装置。
【請求項２】
前記メタデータ付与部は、音声認識結果と文字認識結果の両方で導出されたキーワードの重みを大きくすることを特徴とする請求項１に記載の映像コンテンツ構造化装置。
【請求項３】
前記メタデータ付与部は、出現している時間が長いキーワード及びオブジェクトほど重みを大きくする、または、出現している回数が多いキーワード及びオブジェクトほど重みを大きくすることを特徴とする請求項１に記載の映像コンテンツ構造化装置。
【請求項４】
前記構造化部は、代表ベクトルの単語に対する重みを小さくすることを特徴とする請求項１から３のいずれか１項に記載の映像コンテンツ構造化装置。
【請求項５】
前記構造化部は、階層が深くなるほど、オブジェクトに対する重みを大きくし、キーワードに対する重みを小さくすることを特徴とする請求項１から３のいずれか１項に記載の映像コンテンツ構造化装置。
【請求項６】
コンピュータが、
映像コンテンツをブロック毎に分割するブロック分割ステップと、
分割されたブロック毎にメタデータを付与するメタデータ付与ステップと、
付与されたメタデータに基づいて階層的に映像コンテンツを構造化する構造化ステップとを実行し、
前記メタデータ付与ステップは、音声認識結果、文字認識結果、画像認識結果のうちの少なくとも１つに基づいてメタデータを導出し、導出したメタデータに対して重みづけを行い、重みづけされたメタデータをブロック毎に統合すること
を特徴とする映像コンテンツ構造化方法。
【請求項７】
請求項１から５のいずれか１項に記載した映像コンテンツ構造化装置としてコンピュータを機能させるためのコンピュータプログラム。