(57)【特許請求の範囲】
【請求項１】
コンテンツ中に含まれる音声信号に基づいて、コンテンツ視聴時の視聴印象を推定するコンテンツ視聴時の印象度推定方法であって、
音声信号抽出手段が、入力されたコンテンツ中の音声信号を抽出する音声信号抽出処理ステップと、
イベント検出手段が、前記音声信号から時間変動特性の要素を持つ集合である特徴量を抽出し、該特徴量が出現する確率である特徴量尤度と、直前の１つ以上遡った区間のイベント生起状態に依存して現区間で各イベント生起状態が生起するイベント遷移確率に基づいて所定の区間中に生起しているか否かの状態を離散変数によって表現した音声・音楽的事象であるすべてのイベントそれぞれが生起している確からしさを、イベント生起確率として計算し、該イベント生起確率に基づいて、前記音声信号の所定の区間中におけるすべてのイベントそれぞれが生起している確からしさを、イベント生起度として計算し、記憶手段に格納するイベント生起度計算処理ステップと、
印象度計算手段が、前記記憶手段から前記イベント毎に該イベントが視聴者に与える印象を数値化した印象寄与度と前記イベント生起度を取得し、該印象寄与度と該イベント生起度の行列演算に基づいて、前記区間に対する印象度を計算し、出力する印象度計算処理ステップと、を行うことを特徴とするコンテンツ視聴時の印象度推定方法。
【請求項２】
コンテンツ中に含まれる音声信号に基づいて、コンテンツ視聴時の視聴印象を推定するコンテンツ視聴時の印象度推定装置であって、
入力されたコンテンツ中の音声信号を抽出する音声信号抽出手段と、
前記音声信号から時間変動特性の要素を持つ集合である特徴量を抽出し、該特徴量が出現する確率である特徴量尤度と、直前の１つ以上遡った区間のイベント生起状態に依存して現区間で各イベント生起状態が生起するイベント遷移確率に基づいて所定の区間中に生起しているか否かの状態を離散変数によって表現した音声・音楽的事象であるすべてのイベントそれぞれが生起している確からしさを、イベント生起確率として計算し、該イベント生起確率に基づいて、前記音声信号の所定の区間中におけるすべてのイベントそれぞれが生起している確からしさを、イベント生起度として計算し、記憶手段に格納するイベント検出手段と、
前記記憶手段から前記イベント毎に該イベントが視聴者に与える印象を数値化した印象寄与度と前記イベント生起度を取得し、該印象寄与度と該イベント生起度の行列演算に基づいて、前記区間に対する印象度を計算し、出力する印象度計算手段と、
を有することを特徴とするコンテンツ視聴時の印象度推定装置。
【請求項３】
請求項２に記載の印象度推定装置を構成する各手段としてコンピュータを機能させるためのコンテンツ視聴時の印象度推定プログラム。
【請求項４】
請求項３記載のコンテンツ視聴時の印象度推定プログラムを格納したことを特徴とするコンピュータ読み取り可能な記録媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、コンテンツ視聴時の印象度推定方法及び装置及びプログラム及びコンピュータ読取可能な記録媒体に係り、特に、映像の音声信号からその映像が視聴者に与える印象を推定するためのコンテンツ視聴時の印象度推定方法及び装置及びプログラム及びコンピュータ読取可能な記録媒体に関する。
【背景技術】
【０００２】
現在、マルチメディアコンテンツの数が増大している。マルチメディアコンテンツには、主として映像・音声コンテンツがあるが、これらはいずれも時間メディアであるため、コンテンツの内容を確認するためには、基本的には、その映像・音声コンテンツの時間長と同じだけの時間を要し、早送り等によって再生速度を変化させた場合でも、人間がコンテンツの意味内容を理解できる速度は、高々２，３倍速再生程度までであり限界がある。
【０００３】
このような理由によって、コンテンツ視聴者にとっては一つ一つのコンテンツが視聴したい内容のものであるか否かを判断することに限っても、膨大な時間が必要となることから、コンテンツ流通技術分野においては、短時間で効率的にコンテンツの内容を把握することを可能にする技術の開発が課題となっている。
【０００４】
この課題を解決する技術の基本的なアプローチは、コンテンツの内容を説明する情報を何らかの方法で抽出し、これをできる限り簡潔に、短時間で把握できるよう視聴者に提示することである。
【０００５】
コンテンツの内容を表す情報として、最も簡単には、コンテンツのタイトルやジャンル、あらすじなどがある。また、最近では、インターネットの上のコンテンツ配信サイトを中心に、コンテンツの内容を簡潔に説明する単語を代表とするメタデータ（タグとも呼ばれる）を、視聴者が付与できるようにした技術が利用されている。
【０００６】
しかしながら、この技術は、少なくとも１人の視聴者が、当該コンテンツを視聴していない限り付与されるものではなく、また、限られた視聴者の意見のみを反映したものとなるため、多くの視聴者にとって有益な意味を持つものとなるかどうかが不明な点で、利用しにくい場面が多いことが知られている。
【０００７】
一方、最近研究開発が進められている方法として、コンテンツの内容を把握する上で効率的な特徴を持つ、短時間の部分コンテンツを直接切り出し、これを提示するコンテンツ要約技術による方法も注目されている。
【０００８】
このような方法は、部分的にではあるが、コンテンツを短時間に視聴できるようにすることで、視聴者は前述のタイトルやジャンルなどからは理解しにくい内容をも含めた把握が可能である。
【０００９】
コンテンツ要約技術の例としては、例えば、音声データを解析し、基本周波数、パワー、動的特徴量の時間変動特性の少なくとも１つ及びそれらの分析窓間差分、その時間変動特性の少なくとも１つまたはそれらの分析窓間差分を音声特徴量ベクトルとして抽出する。その抽出された音声特徴量ベクトルを量子化して得た代表ベクトルと、話者の感情、感情表出確率を対応付けた符号帳を用いて、笑い、怒り、哀しみの感情が表出している確率を求める。この感情表出確率に基づいてイベント生起状態であると判定された区間を含む部分をコンテンツ中の重要部分と判定し、抽出するコンテンツ要約技術がある（例えば、特許文献１参照）。
【００１０】
また、同様に、音声データを解析し、基本周波数、パワー、動的特徴量の時間変動特性の少なくとも１つ及びそれらの分析窓間差分、その時間変動特性の少なくとも１つまたはそれらの分析窓間差分を音声特徴量ベクトルとして抽出する。その抽出された音声特徴量ベクトルを量子化して得た代表ベクトルと、発話の強調状態確率、平静状態確率とを対応付けた符号帳を用いて、強調状態、平静状態の表出確率を求めるコンテンツ要約技術がある（例えば、特許文献２参照）。
【００１１】
これらの技術は、コンテンツの中で強調された発話を含む区間や、感情的発話のある区間を切り出し、提示することができるものである。
【００１２】
一方で、視聴者が視聴するコンテンツを探す場合を想定すると、例えば、楽しいコンテンツが見たい、哀しい、泣けるコンテンツが見たい、などといったように、視聴したいと思う印象を想定して探すことが多い。
【００１３】
従って、要約、部分コンテンツを提示する際には、強調状態にある発話や、感情的発話のある区間よりも、むしろ、視聴した際に楽しいと感じ易い、あるいは、哀しい、泣けると感じ易いといった、印象的である要約、部分コンテンツを提示する方が、視聴者にとっては、そのコンテンツが視聴したい印象のものであるか否かを瞬時に把握しやすいものとなる。
【００１４】
なお、関連技術として、基本周波数及びパワーの抽出法（例えば、非特許文献１参照）、映像構造化手法（例えば、非特許文献２参照）、確率モデルのパラメータ推定方法（例えば、非特許文献３、非特許文献４参照）、一般化状態空間モデルを求める方法（例えば、非特許文献5参照）が知られている。
【特許文献１】特開２００５−３４５４９６号公報（段落［００１１］〜［００１４］等）
【特許文献２】特許第３８０３３１１号公報
【非特許文献１】古井貞熙、『ディジタル音声処理第４章 4.9  ピッチ抽出』東海大学出版会、１９８５年９月、pp. 57-59.
【非特許文献２】谷口行信、阿久津明人、外村佳伸、Panorama Excerpts: パノラマ画像の自動生成・レイアウトによる映像一覧、電子情報通信学会論文誌、D-II. Vol. J82-D-II, No.3, pp.390-398, 1999
【非特許文献３】石井健一郎、上田修功、前田栄作、村瀬洋、「わかりやすいパターン認識」、オーム社、第１版、１９９８年８月、pp.52-54.
【非特許文献４】汪金芳、手塚集、上田修功、田栗正章、「計算統計I  確率計算の新しい手法  統計科学フロンティア１１ 第III章  ３ＥＭ法  ４変分ベイズ法」岩波書店、２００３年６月、pp. 157-186.
【非特許文献５】Kitagawa, G., 「Non-Gaussian state-space modeling of nonstationary time series」、 Journal of the American Statistical Association, 1987年12月, pp-1032-1063.
【発明の開示】
【発明が解決しようとする課題】
【００１５】
しかしながら、前述のとおり、上記従来のコンテンツ要約技術では、コンテンツ中に起こる強調された発話や、感情的発話を検出して、特徴的な部分コンテンツを切り出しているものであって、視聴した際にどのような印象を与えるものであるかを求めることが難しいという問題がある。
【００１６】
本発明は、上記の点に鑑みなされたもので、コンテンツ中の音声信号の解析結果を、そのコンテンツが視聴者に与える印象に変換することで、コンテンツ視聴時の印象を推定するコンテンツ視聴時の印象度推定方法及び装置及びプログラム及びコンピュータ読取可能な記録媒体を提供することを目的とする。
【課題を解決するための手段】
【００１７】
図１は、本発明の原理を説明するための図である。
【００１８】
本発明（請求項１）は、コンテンツ中に含まれる音声信号に基づいて、コンテンツ視聴時の視聴印象を推定するコンテンツ視聴時の印象度推定方法であって、
音声信号抽出手段が、入力されたコンテンツ中の音声信号を抽出する音声信号抽出処理ステップ（ステップ１）と、
イベント検出手段が、音声信号から時間変動特性の要素を持つ集合である特徴量を抽出し、該特徴量が出現する確率である特徴量尤度と、直前の１つ以上遡った区間のイベント生起状態に依存して現区間で各イベント生起状態が生起するイベント遷移確率に基づいて所定の区間中に生起しているか否かの状態を離散変数によって表現した音声・音楽的事象であるすべてのイベントそれぞれが生起している確からしさを、イベント生起確率として計算し、該イベント生起確率に基づいて、音声信号の所定の区間中におけるすべてのイベントそれぞれが生起している確からしさを、イベント生起度として計算し、記憶手段に格納するイベント生起度計算処理ステップ（ステップ２）と、
印象度計算手段が、記憶手段からイベント毎に該イベントが視聴者に与える印象を数値化した印象寄与度とイベント生起度を取得し、該印象寄与度と該イベント生起度の行列演算に基づいて、区間に対する印象度を計算し(ステップ３)、出力する（ステップ４）印象度計算処理ステップと、を行う。
【００１９】
図２は、本発明の原理構成図である。
【００２０】
本発明（請求項２）は、コンテンツ中に含まれる音声信号に基づいて、コンテンツ視聴時の視聴印象を推定するコンテンツ視聴時の印象度推定装置であって、
入力されたコンテンツ中の音声信号を抽出する音声信号抽出手段８１と、
音声信号から時間変動特性の要素を持つ集合である特徴量を抽出し、該特徴量が出現する確率である特徴量尤度と、直前の１つ以上遡った区間のイベント生起状態に依存して現区間で各イベント生起状態が生起するイベント遷移確率に基づいて所定の区間中に生起しているか否かの状態を離散変数によって表現した音声・音楽的事象であるすべてのイベントそれぞれが生起している確からしさを、イベント生起確率として計算し、該イベント生起確率に基づいて、音声信号の所定の区間中におけるすべてのイベントそれぞれが生起している確からしさを、イベント生起度として計算し、記憶手段８５に格納するイベント検出手段８３と、
記憶手段８５からイベント毎に該イベントが視聴者に与える印象を数値化した印象寄与度とイベント生起度を取得し、該印象寄与度と該イベント生起度の行列演算に基づいて、区間に対する印象度を計算し、出力する印象度計算手段８４と、
を有する。
【００２１】
本発明（請求項３）は、請求項２記載の印象度推定装置を構成する各手段としてコンピュータを機能させるためのコンテンツ視聴時の印象度推定プログラムである。
【００２２】
本発明（請求項４）は、請求項３記載のコンテンツ視聴時の印象度推定プログラムを格納したコンピュータ読み取り可能な記録媒体である。
【発明の効果】
【００２３】
本発明によれば、上記のように、事前にコンテンツを視聴することなく、そのコンテンツがどのような印象のコンテンツであるかを、コンテンツ全体、あるいは所定の区間を単位として知ることが可能となり、コンテンツ内容の即時的な把握を支援することができる。
【００２４】
また、本発明によれば、事前にコンテンツを視聴することなく、印象的な区間を区間単位で視聴することが可能となり、コンテンツ内容の即時的な把握を支援することができる。
【００２５】
また、本発明によれば、区間をコンテンツの情報のみを利用して自動的に定める事が可能となり、より簡易に利用することが可能となる。
【００２６】
また、本発明によれば、事前にコンテンツを視聴することなく、そのコンテンツがどのような印象のコンテンツであるかを、コンテンツ全体、あるいは所定の区間を単位として知ることが可能となり、コンテンツ内容の即時的な把握を支援することができる。
【００２７】
本発明によれば、印象を推定するために、区間中に生起するイベントを検出し、そのイベントが印象に与える影響を利用して印象の推定を行う。このような処理を行うことによって、単純に音声信号、または、音声信号から抽出できる特徴量に基づいて、直接印象を推定する場合とは異なり、振る舞いが多様で、ノイズも重畳しやすい音声信号や特徴量を整理し、印象の推定精度を高め、かつ、「なぜそのような印象を受けるのか」という根拠を明確化できるという利点がある。
【発明を実施するための最良の形態】
【００２８】
以下、図面と共に本発明の実施の形態を説明する。
【００２９】
図３は、本発明の一実施の形態における印象度推定装置の構成図である。
【００３０】
同図に示す印象度推定装置は、音声信号抽出部８１、部分コンテンツ生成部８２、イベント検出部８３、印象度計算部８４、記憶部８５、部分コンテンツ出力部８６から構成され、入力装置８７、出力装置８８に接続されている。
【００３１】
入力装置８７は、例えば、マウス等のポインティングデバイス、キーボード等によって構成されるものであり、本発明の実施の形態では、視聴者からの要求を入力する際の操作インタフェースとして利用する。
【００３２】
出力装置８８は、例えば、液晶画面等のモニタ画面を有し、入力装置８７の操作、あるいは、印象度推定装置８０の処理に応じて情報を提示することができるものとする。ここには、例えば、入力データ、処理経過、処理結果となる部分コンテンツをはじめ、各種情報が出力表示される。
【００３３】
以下当該印象度推定装置８０について詳細に説明する。
【００３４】
まず、印象度推定装置８０の記憶部８５は、例えば、ＲＡＭ（Random Access Memory）、ＲＯＭ(Read Only Memory)、ハードディスク装置を少なくとも備え、また、必要に応じてＣＤ（Compact Disk）、ＤＶＣ(Digital Versatile Disk)等の光学ディスクドライブ装置を含むものとする。記憶部８５は、例えば、本発明による印象度推定装置を、汎用のＰＣ(Personal Computer)に組み込んで利用する場合など、上記の記憶部８５が外部のそれを以って代用できる場合には含むことを必要とするものではない。
【００３５】
ハードディスク装置には、プログラムやデータ、イベント検出部８３が利用する統計モデルや、印象度計算部８４が利用する印象変換行列などが記憶されているものとする。また、この他、外部からディジタル信号として入力されたコンテンツデータが一時格納される。
【００３６】
ＲＯＭはＣＰＵを起動するためのプログラム、そのほかのプログラム及び制御用のパラメータ等を記憶する。また、ＲＡＭは、ＣＰＵを起動するためのプログラム、その他のプログラム及び制御用のパラメータ等を記憶する。
【００３７】
ＲＡＭは、動作に要するプログラムやデータ等を随時、一時的に記憶する。
【００３８】
音声信号抽出部８１は、外部から入力され、記憶部８５に格納されているコンテンツデータを読み出して音声信号を抽出し、記憶部８５に記憶する。
【００３９】
部分コンテンツ生成部８２は、記憶部８５に格納された音声信号に基づいてコンテンツを部分コンテンツに分割する。
【００４０】
イベント検出部８３は、特徴量抽出処理、記憶部８５に記憶された統計モデルに基づいたイベント生起状態確率計算処理、イベント生起度計算処理を実施する。
【００４１】
印象度計算部８４は、イベント生起度に基づいた、印象度計算処理を実施し、印象変換行列を記憶部８５に格納する。
【００４２】
部分コンテンツ出力部８６は、印象度、イベント生起度から、優先順位リストを生成し、記憶部８５に格納すると共に、視聴者の要求を受けて部分コンテンツを提示する。
【００４３】
次に、本発明の動作について説明する。
【００４４】
図４は、本発明の一実施の形態における処概要理のフローチャートである。
【００４５】
ステップ１０）  （音声信号抽出処理）音声信号抽出部８１は、入力され、記憶部８５に格納されているコンテンツを読み出して、音声信号を抽出する。
【００４６】
ステップ１１）  （部分コンテンツ生成処理）部分コンテンツ生成部８２は、音声信号、画像信号、あるいはその両方に基づいて、コンテンツの中から１つ以上の区間を決定する。以降ここで決定したそれぞれの区間を「部分コンテンツ」と呼ぶ。
【００４７】
ステップ１２）  （イベント検出処理）イベント検出部８３は、各部分コンテンツにどのような音声・音楽に係るイベントが生起しているかを分析し、これらが生起している確からしさ（イベント生起度）を計算する。
【００４８】
ステップ１３）  （印象度計算処理）印象度計算部８４は、ステップ１２で計算されたイベント生起度に基づいて、部分コンテンツ毎に、当該部分コンテンツを視聴した際にどのような印象をどの程度受けるかを表す印象度の計算を行うことで、視聴印象を推定する。
【００４９】
ステップ１４）  （部分コンテンツ出力処理）部分コンテンツ出力部８６は、ステップ１３によって、部分コンテンツ毎に計算された印象度に基づいて、部分コンテンツに順位付けを行い、例えば、視聴者の要求などに基づいて印象に則した部分コンテンツを提示する。
【００５０】
なお、ステップ１１の部分コンテンツ生成処理ステップ、及び、ステップ１４の部分コンテンツ出力処理ステップは、必要に応じて導入すればよく、本発明の全ての実施の形態において必須ではない。
【００５１】
以下の説明においては、部分コンテンツとは、コンテンツ全体であってもよいものとする。
【００５２】
以下に、上記の各ステップを詳細に説明する。
【００５３】
≪ステップ１０：音声信号抽出処理≫
まず、ステップ１０（音声信号抽出処理）について説明する。
【００５４】
コンテンツがディジタルデータとして入力された場合、これは画像信号と音声信号に分けられる。このデータのうち、音声信号抽出部８１は、音声信号に関する部分だけを取得する。
【００５５】
≪ステップ１１：部分コンテンツ生成処理≫
次に、ステップ１１（部分コンテンツ生成処理）について説明する。
【００５６】
当該処理は、後の印象度を計算する単位である部分コンテンツを定める必要がない場合、あるいは、この区間が予め人手等によって与えられている場合には、実行する必要はない。
【００５７】
部分コンテンツ生成とは、印象度を計算する単位となる部分コンテンツを、コンテンツを０回以上区切ることによって生成するための処理であり、コンテンツ中に含まれる音声信号、画像信号、あるいはその両方に基づいて行う。
【００５８】
（１）音声信号のみから部分コンテンツを生成する方法：
まず、音声信号のみを用いて部分コンテンツを生成する方法の一例について説明する。
【００５９】
部分コンテンツ生成部８２は、音声信号に対して、予め定めた一定の窓幅、例えば、５０ｍｓ（ミリセコンド）と、シフト間隔、例えば、３０ｍｓを持つ分析窓を設定する。この分析窓を単位として、音声信号を有相関信号と無相関信号に分ける。ここで、有相関信号とは、人間や動物による発話、及び音楽のように、自己相関関数値の高い信号であり、反対に、無相関信号とは、有相関信号ではない信号、すなわち、白色雑音などの自己相関関数値の低い信号を指す。
【００６０】
各分析窓に含まれる音声信号が有相関信号であるか、無相関信号であるかは、例えば、次のように分類することができる。
【００６１】
音声信号の自己相関数値を計算し、これが閾値を超える値となっている場合には有相関信号、そうでない場合には無相関信号であると見做す。この閾値の与え方は、例えば、"０．７"とするなど、予め定数として与えておいてもよいし、一定の有相関信号の存在する時間と無相関信号の存在する時間の比を基準として、この比に最も近くなるような閾値を決定してもよい。
【００６２】
次に、有相関信号と判定された分析窓のうち、連続している有相関窓（有相関信号であると判定された分析窓）で構成される区間によって、部分コンテンツを構成する。この処理の実行によって、連続する人間や動物の発話、音楽などを一まとまりの区間として扱うことができるため、視聴する人間にとって意味の理解可能な部分コンテンツを生成することが可能となる。
【００６３】
部分コンテンツを構成する方法の一例について説明する。
【００６４】
部分コンテンツの構成は、部分コンテンツ間の境界を決定する処理によって実行する。コンテンツ中の有相関窓Fの集合を時刻の早いものから順に｛Ｆ１，Ｆ２，…，ＦＮ｝とする。ここで、Ｎは有相関窓の総数である。
【００６５】
次に、時間軸上隣り合う有相関窓Ｆi，Ｆi+1の時間間隔、すなわち、Ｆiの終了時刻Ｆiendと、次の分析窓であるＦi+1の開始時刻Ｆi+1startについて、その時刻の差Ｆi+1start−Ｆiendを計算する。
【００６６】
次に、その計算結果を、予め決定したある閾値と比較し、これよりも大きければ、ＦiとＦi+1は互いに異なる部分コンテンツに属する有相関窓であると考え、これら２つの間を部分コンテンツの境界とする。
【００６７】
このような処理を全ての分析窓に繰り返すことで、時間差のある有相関窓同士は互いに異なる部分コンテンツとすることができ、結果、時間差のない、一連の有相関信号は同一の部分コンテンツにまとめることができる。
【００６８】
例えば、図５に示す例では、Ｆj+1−Ｆj＝Ｔ１、Ｆj+2−Ｆj+1＝Ｔ２となっている。もし、閾値Ｔthを、Ｔ１＜Ｔth＜Ｔ２と設定した場合、Ｔ２を境界として、２つの部分コンテンツＢＡ、ＢＢが構成される。この閾値Ｔthは、低い値にすればするほど境界の数が増加するため、生成される部分コンテンツ数が増加することとなり、逆に、高い値にするほど境界の数が減少し、生成される部分コンテンツ数は減少することとなる。特別な場合として、閾値Ｔthを非常に高い値、例えば、コンテンツ全体の時間長以上の値を設定することなどによって、部分コンテンツを全く分割しないようにすることもできる。従って、前述のように、本発明における部分コンテンツとは、コンテンツ全体としてもよく、以降の処理は、コンテンツが全く分割されないような閾値Ｔthを設定した場合であっても実行可能であり、この場合には、当該ステップ１１は意味をなさないため、実行しないものとしてもよい。
【００６９】
また、有相関信号を、例えば、人間や動物による発話音声信号、音楽信号など、さらに詳細に分類し、これらを分けて部分コンテンツを生成してもよい。この場合には、これらを分ける基準としてスペクトル情報を用いることができる。例えば、発話音声信号と音楽信号を分類する手法としては、特開平１０−１８７１８２号公報に記載の方法を用いることができる。
【００７０】
このような処理によって、より詳細な部分コンテンツを生成することができる。
【００７１】
（２）画像信号を用いて部分コンテンツを生成する方法：
次に、画像信号を用いて部分コンテンツを生成する方法について説明する。
【００７２】
画像信号を用いる際には、構造化情報を利用して部分コンテンツを生成する。構造化情報とその抽出方法としては、例えば、前述の非特許文献２に記載のもの、すなわち、カット点、カメラワークなどと、種々の抽出方法がある。これらのものから任意の情報を任意の数だけ利用してよいが、好ましくはカット点を利用し、これを直接部分コンテンツの境界として利用すればよい。この場合、部分コンテンツは、カット点によって前後を挟まれる、ショットとして生成される。
【００７３】
また、更に、カメラワークを併用し、あるショットの中で比較的動き量の多いカメラワークが検出された場合には、そのカメラワークの開始時刻、もしくは終了時刻を境界としてもよい。
【００７４】
（３）音声信号と画像信号の双方を用いて部分コンテンツを生成する方法：
最後に、音声信号と画像信号双方を利用して、部分コンテンツ生成を実行する場合について述べる。
【００７５】
例えば、前述の音声信号を利用した部分コンテンツ生成では、有相関窓のない部分などに対しては区間分割を実行することができないという問題がある。そこで、音声信号を利用した部分コンテンツ生成と画像情報、例えば、カット点を利用した部分コンテンツ生成を両方とも適用するものとしてもよい。この方法によって片方のみによる部分コンテンツ生成では成すことのできない細かい区間を定めることが可能となる。
【００７６】
また、片方のみでは有効な部分コンテンツ生成が実行できない場合、例えば、コンテンツに有相関窓が存在しない場合や、画像の構造化情報が存在しない場合などにおいても、相補的に区間分割を実行することが可能である。
【００７７】
以上の処理によって、コンテンツから、１つ以上の部分コンテンツを生成することが可能である。
【００７８】
なお、ここで述べた例、及びその他のいずれの方法を用いた場合にも、各部分コンテンツの開始時刻、及び、その時間長を取得し、記憶しておく。
【００７９】
≪ステップ１２：イベント検出処理ステップ≫
ステップ１２において、イベント検出部８３は、分割された各部分コンテンツに、どのような音声・音楽に係るイベントが生起しているかを分析し、この確からしさをイベント生起度として計算する。ここで言うイベントとは、例えば、"発話"、"笑い"、"泣き"、"叫び"、"悲鳴"、"ささやき"、"穏やかな音楽"、"寂しい音楽"、"激しい言葉"、"壮大な音楽"、"騒音"、"爆発音"、"効果音"などの、音声や音楽に関わる事象である。ここに挙げたイベントは一例であり、このほかにも多数のイベントが存在することは言うまでもない。
【００８０】
図６は、本発明の一実施の形態におけるイベント検出処理のフローチャートである。
【００８１】
インベント検出部８３により実行されるステップ１２は以下の処理ステップからなる。
【００８２】
ステップ３１）  （特徴量抽出処理）音声信号から分析窓毎にイベントの検出に必要な特徴量を抽出する。
【００８３】
ステップ３２）  （イベント生起確率計算処理）ステップ３１で抽出した特量に基づいて、予め構成した統計モデルを用いて各イベントの生起している確率をイベント生起確率として算出する。
【００８４】
ステップ３３）  （イベント生起度計算処理）ステップ３２で計算した分析窓毎のイベント生起確率について、部分コンテンツ中に各イベントが生起している確からしさをイベント生起度として計算する。
【００８５】
以下、上記の各ステップについて詳細に説明する。
【００８６】
＜ステップ３１：特徴量抽出処理＞
上記のステップ３１では、コンテンツの音声信号から、特徴量を分析窓毎に抽出する。
【００８７】
まず、特徴量について説明する。特徴量としては、例えば、基本周波数ｆ０、パワーｐ、スペクトル特性ＳＰ，ケプストラム係数ＣＰなどを抽出することができる。
【００８８】
また、これらの時間変動特性に係る系列として、基本周波数ｆ０の時間変動特性の系列△iｆ０、パワーｐの時間変動特性の系列△iｐ、スペクトル特性ＳＰの時間変動特性の系列△iＳＰ、ケプストラム係数ＣＰの時間変動特性△iＣＰなどを抽出することもできる。本実施の形態の一例においては、「系列」とは１つ以上の要素を持つ集合であると定義する。
【００８９】
時間変動特性の例としては、例えば、微分係数、数値微分値、分析窓内変化量の平均値、最大値、最小値や、変化量の絶対値の累積和、レンジ等が考えられ、必要に応じて選択するものとしてもよい。
【００９０】
微分係数は、何階までを用いてもよいが、例えば、１〜３階程度としてもよい。以下の例では、時間変動特性として微分係数のみを採用した場合について説明するが、この他、先にあげた複数の時間変動特性と組み合わせて用いても構わない。
【００９１】
パワーｐは、音声信号波形の振幅値を用いるものでもよいし、絶対値や平滑値、ｒｍｓ値を用いるとしてもよい。
【００９２】
また、ある周波数帯域、例えば、人間の聞き取り易い５００Ｈｚ（ヘルツ）〜４ＫＨｚ（キロヘルツ）等の領域におけるパワーの平均値や相対パワーなどを用いるのでもよい。
【００９３】
また、各種抽出した音声特徴量に対して、適当な座標変換（例えば、主成分分析など）を含む線形変換、非線形変換、積分変換（例えば、フーリエ変換、コサイン変換など）を１つ以上行った結果得られる値を、改めて特徴量として採用してもよい。
【００９４】
前述の抽出すべき基本周波数ｆ０及びパワーｐ、スペクトル特性ＳＰ、ケプストラム係数ＣＰの抽出方法は様々である。それらの抽出方法は公知であり、その詳細については、例えば、前述の非特許文献１に記載の方法等を参照されたい。
【００９５】
各特徴量は予め規格化しておくことが好ましい。規格化は、例えば、ｆ０について、例えば、処理対象となる音声信号データ全体に渡る平均の基本周波数を差し引く、もしくは、平均基本周波数で割ることによって行うのでもよいし、標準正規化して平均０分散１にするのでもよい。その他の音声特徴量についても、同様に行うことが考えられる。
【００９６】
また、必要な場合には平滑化処理を行っておく。
【００９７】
これらの特徴量は必ずしも全てを用いる必要はなく、例えば、基本周波数ｆ０とパワーｐのみを用いるとしてもよいし、基本周波数ｆ０とパワーｐ、さらにそれらの時間変動特性の系列△iｆ０、△jｐのみを用いるとしてもよい。
【００９８】
以降、抽出した特徴量を縦に並べ、ベクトルとして表したものをｘと表記するものとする。
【００９９】
＜ステップ３２：イベント生起確率計算処理＞
次に、ステップ３２（イベント生起確率計算処理）では、ステップ３１で抽出した特徴量に基づいて、予め構成した統計モデルを用いて各イベントの生起している確率をイベント生起確率として算出する。
【０１００】
ステップ３２の処理の詳細を、図７を用いて説明する。図７は、本発明の一実施の形態におけるイベント生起確率計算処理（ステップ３２）のフローチャートである。ステップ３２は、次の各ステップに分割される。
【０１０１】
ステップ４１）  （特徴量尤度計算処理）即ち、後述する方法によって予め構成しておいた統計モデルを用いて、分析窓Ｆｔにおいて、イベントｅｋが生起している状況において、特徴量ｘｔが出現する確率である、特徴量尤度を計算する。
【０１０２】
ステップ４２）  （イベント遷移確率計算処理）イベント生起状態を判定する分析窓（現分析窓）直前の１つ以上遡った分析窓のイベント生起状態に依存して、現分析窓で各イベント生起状態が生起する遷移確率（即ち、イベント遷移確率）を計算する。
【０１０３】
ステップ４３）  （イベント生起状態確率計算処理）ステップ４１とステップ４２において計算された特徴量尤度及びイベント遷移確率に基づいて、イベント生起確率を計算する。
【０１０４】
以下に、上記の各ステップ４１〜４３の処理を詳細に説明する。
【０１０５】
まず、ステップ４１の処理について詳細を説明する。
【０１０６】
当該ステップ４１では、後述する方法によって予め構成しておいた統計モデルを用いて、Ｆｔにおいてイベントｅｋが生起している状況において、特徴量ｘｔが出現する確率である、特徴量尤度を計算する。
【０１０７】
統計モデルは、分析窓毎に与えられる特徴量ｘｔ空間上の条件付確率分布ｐＡ（ｘｔ│Ｅｔ）として構成し、入力された特徴量ｘｔについてｐＡ（ｘｔ│Ｅｔ）の値を計算することで特徴量尤度を求める。この処理を、全ての分析窓に渡って行うことで、全ての分析窓に対して特徴量尤度を計算することができる。
【０１０８】
以上が、ステップ４１の詳細処理である。
【０１０９】
ここで、特徴量尤度を計算するための統計モデルｐＡ（ｘｔ│Ｅｔ）の構築方法の一例について説明する。
【０１１０】
ｐＡ（ｘｔ│Ｅｔ）の構築は、本発明による技術を利用する際に、予め行っておき、構築された統計モデルは、記憶部８５に記憶しておく。
【０１１１】
まず、統計モデルを構築するためのデータである、学習用音声信号データを入力する。なお、学習用音声信号データは、音声信号データ入力手段（図示せず）から入力されてもよいし、学習用音声信号データ専用の入力手段（学習用音声信号データ入力手段（図示せず））から入力されてもよい。
【０１１２】
次に、この学習用音声信号データに対して、学習用音声信号データ全てに渡って、分析窓毎に、その分析窓において各イベントが生起しているか否かを表すイベント生起状態を与える。
【０１１３】
イベント生起状態Ｌの与え方としては、人間が実際に視聴して判断することが好ましい。このように与えられたＬをラベルをと呼び、ラベルを与える以上の行為を「ラベル付け」と呼ぶ。厳密には分析窓毎にイベント生起状態Ｌのラベルが与えられていない場合であっても、分析窓単位にラベル付けされるように変換できるものであれば、これに変換することで利用してもよい。例えば、複数の分析窓に跨る区間においてイベント生起状態Ｌのラベルが付与されている場合もある。この場合には、その区間に含まれる分析窓に対して、区間に付与されたラベルと同じラベルを付与することによって、分析窓毎にラベル付けできる。より具体的には、音声信号中のある時刻ｔ１からｔ２までの区間がイベント生起状態Ｌとラベル付けされている場合は、該区間の全分析窓はＬと与えられるものとして構成する。
【０１１４】
次に、分析窓毎に特徴量ｘを抽出する。以下では、分析窓番号ｔの分析窓Ｆｔにおける特徴量ｘｔ、イベント生起状態ｅｔと表す。
【０１１５】
次に、特徴量尤度を計算するための統計モデルｐＡ（ｘｔ│Ｅｔ）を学習によって構築する。学習方法の一例を説明する。
【０１１６】
特徴量尤度を計算するための統計モデルｐＡ（ｘｔ│Ｅｔ）は、分析窓毎に与えられる特徴量ｘ空間上の確率分布であって、例えば、分析窓Ｆｔにおいては、それ以前のある（ｎ−１）分析窓区間におけるイベント生起状態Ｅｔ＝｛ｅt，ｅt-1，…，ｅt-n+1｝に依存してｘｔが出現する確率を表す、条件付確率分布ｐＡ（ｘｔ│Ｅｔ）である。ｎは、例えば、１〜３程度とするものでよい。
【０１１７】
この条件付確率分布ｐＡ（ｘｔ│Ｅｔ）は、例えば、Ｅｔの取り得る値毎に、正規分布、混合正規分布、隠れマルコフモデル（Hidden Markov Model:HMM）などといった、確率モデルを用いて構成してもよい。また、更に、音声特徴量の種類別に、正規分布、多項分布や、それらの混合分布などといった、確率モデルを用いて構成するのでもよい。これらの確率モデルのパラメータを学習用音声信号データに基づいて推定することになる。
【０１１８】
なお、前述のパラメータの推定方法は、例えば、最尤推定法や、ＥＭアルゴリズム、変分Bayes法などの構築のもの（例えば、非特許文献３、非特許文献４などを参照）を用いることができる。
【０１１９】
以上が、統計モデルｐＡ（ｘｔ│Ｅｔ）を構築する方法の一例である。
【０１２０】
次に、ステップ４２では、統計モデルを用いて、イベント生起状態を判定する分析窓（現分析窓）直前の１つ以上遡った分析窓のイベント生起状態に依存して、現分析窓で各イベント生起状態が生起する遷移確率（即ち、イベント遷移確率）を計算する。
【０１２１】
以下にステップ４２を実行するための処理の一例を説明する。
【０１２２】
まず、統計モデルに基づき、イベント遷移確率を計算する方法の一例を説明する。
【０１２３】
統計モデルは、イベント生起状態Ｅｔ空間上の条件付確率分布ｐB（Ｅt│Ｅt-1）として構成する。この統計モデルによって、Ｅt-1の全ての取り得る値に対して、ｐB（Ｅt│Ｅt-1）の値が計算できる。この計算した確率をイベント遷移確率とする。
【０１２４】
以上の処理を、全ての分析窓に渡って行うことで、全ての分析窓に対してイベント遷移確率を計算することができる。
【０１２５】
以上がステップ４２の詳細処理である。
【０１２６】
ここで、このイベント遷移確率を計算するための統計モデルｐB（Ｅt│Ｅt-1）の構築方法について説明する。
【０１２７】
統計モデルｐB（Ｅt│Ｅt-1）も、特徴量尤度を計算するための統計モデル同様、学習用音声信号データから、学習を行うことによって予め構築し、記憶部８５に記憶しておく。
【０１２８】
前述のラベル付けにおいて、学習用音声信号データは、学習用音声信号データ全てに渡って、分析窓毎に、抽出された特徴量ｘと、人間が実際に聴取して判断したその分析窓におけるイベント生起状態ラベルＬと、が与えられているという前提で、学習を行うステップの一例について説明する。なお、分析窓番号ｔにおけるイベント生起状態をｅtと表す。
【０１２９】
イベント遷移確率計算のための統計モデルは、ｔ−ｎ＋１番目からｔ番目の分析窓におけるイベント生起状態の系列Ｅｔ空間上の確率分布であって、Ｆt以前の（ｎ−１）個の分析窓におけるイベント生起状態の系列Ｅt-1＝｛ｅt，ｅt-1，…，ｅt-n｝に依存して、Ｅt＝｛ｅt，ｅt-1，…，ｅt-n+1｝が出現する確率を表す条件付確率分布ｐB（Ｅt│Ｅt-1）として作成する。
【０１３０】
ｎは、例えば、予め"１"や"２"などの定数として与えておくものとすればよい。
【０１３１】
なお、ｅtは、"発話"、"笑い"、"泣き"、"叫び"、"悲鳴"、"ささやき"、"穏やかな音楽"、"寂しい音楽"、"激しい言葉"、"壮大な音楽"、"騒音"、"爆発音"、"効果音"などの音声・音楽的イベントが生起しているか否かの状態を表す変数であり、離散変数であるから、条件付確率分布ｐB（Ｅt│Ｅt-1）は、例えば、bi-gram型の確率分布を作成することで構成することができる。
【０１３２】
この場合は、学習用音声信号データに基づき、Ｅt-1のラベルが与えられている時に、各イベント生起状態の系列Ｅtのラベルが何度出現するのかを計数することによってこれを構成することができる。これは、最尤推定法に他ならないが、この他、適当な事前分布を定めてBayes法によって学習するものとしてもよい。
【０１３３】
次に、ステップ４３では、ステップ４２及びステップ４１において、計算された特徴量尤度及びイベント遷移確率に基づいて、イベント生起状態確率が計算される。
【０１３４】
以下に、ステップ４３で行うイベント生起状態確率を計算する処理の一例について説明する。
【０１３５】
上記の統計モデルｐＡ（ｘｔ│Ｅｔ）と、ｐB（Ｅt│Ｅt-1）の組は、合わせて一般化状態空間モデルと呼ばれる構造を有しており、音声認識などによく用いられるLeft-to-Right形のＨＭＭなどと同様の因果構造（例えば図８中のイベントＥt-1，Ｅtと、音声特徴量ｘt-1，ｘt）である）を有する。
【０１３６】
一般化状態空間モデルでは、時刻ｔまでの特徴量の系列｛ｘｔ｝を得た場合に、時刻ｔのイベント生起状態の系列Ｅtの確率分布ｐ（Ｅｔ│{xｔ}）は、ｐＡ（ｘｔ│Ｅｔ）とｐB（Ｅt│Ｅt-1）に基づき、以下の式を再帰的に計算することで求めることができる（例えば、非特許文献５参照）。
【０１３７】
【数１】
0004943370.tif 000002
但し、SEは、Ｅtが取り得る全ての値の集合である。
【０１３８】
一般に、一般化状態空間モデルにおいては、SEの値が非常に大きな値となるため、上記の式を直接計算してｐ（Ｅt│｛ｘt｝）の値を求めることは困難である。
【０１３９】
本発明の実施の形態の一例に場合においては、Ｅtの各要素である{ｅt，ｅt-1，…，ｅt-n+1}各々が取り得る値は、例えば、"発話"、"笑い"、"泣き"、"叫び"、"悲鳴"、"ささやき"、"穏やかな音楽"、"寂しい音楽"、"激しい言葉"、"壮大な音楽"、"騒音"、"爆発音"、"効果音"などの音声・音楽的イベント生起状態等であるため、この数を｜Ｅ｜とすると、Ｅt＝{ｅt，ｅt-1，…，ｅt-n+1}の取り得る値を考えれば、SEのサイズは｜Ｅ｜nである。
【０１４０】
例えば、本発明の実施の形態の一例においては、想定する取り扱うイベント生起状態の数｜Ｅ｜は、上記の例の場合、およそ１０の数倍程度である。
【０１４１】
このとき、例えば、ｎ＝３とすれば、Ｅのサイズオーダーにして１０３程度であり、現在普及している汎用的なコンピュータであっても、上記の式（１）を十分に直接計算可能な規模である。従って、本発明の一実施の形態の一例では、式（１）の確率分布ｐ（Ｅt｜｛ｘt｝）の値を直接計算することが可能であるので、直接計算することでイベント生起状態確率を計算するものとする。
【０１４２】
直接計算が困難である場合には、例えば、前述の非特許文献５に記載の近似方法などを採用すればよい。
【０１４３】
更に、Ｅtの要素からｅtを除外したものをＥ' t＝｛ｅt，…，ｅt-n+1｝とし、かつＥ'が取り得る全ての値の集合SE'と表すとすると、分析窓毎のイベント生起状態ｅtのイベント生起状態確率は、
【０１４４】
【数２】
0004943370.tif 000003
を計算することで求めることが可能である。図９に、「発話」、「笑い」、「泣き」「のイベント生成状態を扱った場合のイベント生起状態確率の例を示す。即ち、図９中の符号Ｌ１で示す曲線が「発話」のイベント生起状態確率、符号Ｌ２で示す曲線が「笑い」のイベント生起状態確率、符号Ｌ３で示す曲線が「泣き」のイベント生起状態確率である。
【０１４５】
上述の方法は、Ｅtを求めるために、時刻ｔまでの特徴量の系列｛ｘt｝に基づいて計算を実行するため、実時間処理を実行できる方法である。一方、実時間処理を行う必要のない場合には、より頑健な検出を実現するために、時刻Ｔ＞ｔまでの特徴量の系列｛ｘT｝を得た場合のイベント生起状態Ｅtの確率分布ｐ（Ｅt｜｛ｘT｝）を計算し、これをイベント生起状態確率としてもよい。ｐ（Ｅt｜｛ｘT｝）は、式（１）の式に加え、更に以下の式を用いることで求めることができる（例えば、非特許文献５参照）。
【０１４６】
【数３】
0004943370.tif 000004
但し、SEは、Ｅt+1が取り得る全ての値の集合である。
【０１４７】
この場合の分析窓毎のイベント生起状態ｅtのイベント生起状態確率は、
【０１４８】
【数４】
0004943370.tif 000005
を計算することで求めることができる。
【０１４９】
以上の処理を全ての分析窓に渡って行うことによって、全ての分析窓に対してイベント生起状態確率を計算することが可能である。
【０１５０】
以上が、ステップ３２（イベント生起状態確率計算処理）の詳細である。
【０１５１】
＜ステップ３３：イベント生起度計算処理＞
次に、ステップ３３では、ステップ３２にて計算されたイベント生起状態確率に基づいて、各部分コンテンツでそれぞれのイベントが生起している確からしさを表すイベント生起度を計算する（イベント生起度計算処理）を行う。
【０１５２】
以下、このイベント生起度を計算する方法の一例を図１０に基づいて説明する。
【０１５３】
コンテンツ中の部分コンテンツＳの集合を時刻の早いものから順に｛Ｓ１，Ｓ２，…，ＳＮＳ｝とする。例えば、図１０中では、符号ｖ１で示される部分コンテンツＳj-1，符号ｖ２で示される部分コンテンツＳi、符号ｖ３で示される部分コンテンツＳi+1である。
【０１５４】
ここで、ＮＳは、部分コンテンツの総数である。また、ある部分コンテンツＳiに含まれる有声窓を｛ｆ１，ｆ２，…，ＦNFi｝とおく。ＮＦiは、部分コンテンツＳiに含まれる有声窓数である。
【０１５５】
有声窓ｆtは、イベント生起状態確率計算手段（図示せず）によって、イベント生起状態確率ｐ（ｅt｜｛ｘt｝）が与えられている。部分コンテンツＳiのイベント生起状態ｅがｅkであるイベント生起度ｐSj（ｅ＝ｅk）は、例えば、平均値を表す次式によって計算する。
【０１５６】
【数５】
0004943370.tif 000006
また、例えば、最大値を表す次式によって計算するものとしてもよい。
【０１５７】
【数６】
0004943370.tif 000007
これら以外にも、例えば、部分コンテンツ内で窓掛けを行ってからイベント生起度を計算するなど、方法は様々考えられるが、部分コンテンツ間でイベント生起度を比較する場合があるため、イベント生起度はある一定の値の範囲内、例えば０〜１の間に収まるようにすることが好ましい。
【０１５８】
以上のような計算を、全ての部分コンテンツに渡って行い、全ての部分コンテンツに対して全てのイベント生起状態のイベント生起度を与えることが可能である。
【０１５９】
以上の処理が、ステップ１２（イベント検出処理）である。
【０１６０】
≪ステップ１３：印象度計算処理≫
次に、ステップ１３（印象度計算処理）について説明する。
【０１６１】
ステップ１３は、印象度計算部８４において、イベントの生起の仕方が視聴印象に与える影響を数値化した印象寄与度に基づいて、各部分コンテンツの視聴印象を推定する。
【０１６２】
ステップ１３の処理を説明する前に、ステップ１３において使用する印象寄与度、及び、印象変換行列の生成の仕方について説明する。
【０１６３】
まず、イベントの生起の仕方がどのような印象を与え得るかを印象寄与度として数値化する。印象寄与度は、例えば、「楽しい」、「哀しい」、「エキサイティング」、「怖い」、「カッコイイ」、「かわいい」、「綺麗」、「不気味」、「優しい」、「面白い」、「つまらない」、といった視聴者の印象を代表する印象語を選定しておき、その強さを表すものとして与えるものとする。
【０１６４】
ここに挙げた印象の例は、これら全て用いるものとしてもよいし、任意のものを任意の数だけ選定してもよい。また、上記の例以外にも多数の印象が存在することはいうまでもなく、これらを新たに選定するものとしてもよい。
【０１６５】
以下では、簡単のため、取り扱う印象がImp１：楽しい、Imp２：哀しい、Imp３：エキサイティング、Imp4：怖い、の４種の場合について説明する。
【０１６６】
印象寄与度の与え方を説明する。
【０１６７】
例えば、イベントとして「笑い」を含む部分コンテンツを視聴した場合、視聴者が非常に楽しいと感じ、反対に哀しいと感じにくい場合には、「笑い」の印象寄与度は楽しい：０．７８、哀しい：−０．６７、などとして与える。
【０１６８】
この例では、楽しい、哀しい以外の印象寄与度は与えられてはいないが、その場合は０などとすればよい。
【０１６９】
イベント毎の印象寄与度は、ベクトルとして扱う。例えば、上記の例では、「笑い」の印象寄与度ベクトルをImpLとおけば、
ImpL=[０．７８、−０．６７，０，０]
である。
【０１７０】
印象寄与度の数値については、設計者の主観的基準によって、予め定数として定めるものとしてもよいが、好ましくは、視聴者が各イベントを含む部分コンテンツやコンテンツを視聴した際に、どのような印象をどの程度感じるかを実験的に調査してデータを取得し、このデータに基づいて、例えば、イベントと印象の相関の強さを表すカイ自乗値や、φ係数などを用いてもよい。このほか、印象寄与度を計算する数理モデルを関数として設定しておくものとしてもよい。
【０１７１】
例えば、「笑い」のイベントの、楽しい印象に関する印象寄与度が、部分コンテンツＳiの時間長ＤｕｒＳｉと、イベント生起度ｐSi（"笑い"）の線形和によって表されると仮定したとして、
【０１７２】
【数７】
0004943370.tif 000008
によって計算するものとしてもよい。α、βはそれぞれ線形回帰係数である。
【０１７３】
その他のイベントの、その他の印象に関する印象寄与度も同様に計算すればよい。この数理モデルの変数としては、ここに示した部分コンテンツの時間長、及び、イベント生起度以外にも、様々なものを取り得る。
【０１７４】
例えば、イベント生起度の時間変動特性を考慮してもよい。この場合、例えば、連続する部分コンテンツＳi，Ｓi+1，Ｓi+2について、それぞれのイベント生起度をｐSi、ｐSi+1、ｐSi+2と表す。
【０１７５】
これらを全て、直接変数として設定してもよいし、また、これらの差分量として、ｐSi+1−ｐSi，ｐSi+2−ｐSiなどを計算し、これらを新たな変数とするものとしてもよい。
【０１７６】
また、数理モデルとしても、ここに挙げた線形回帰モデルのみではなく、多層パーセプトロンやサポートベクターマシンなどに代表される非線形回帰モデルを用いてもよい。
【０１７７】
印象の数をSImpとすれば、この処理によって、１×SImpの行ベクトル（但し、前述の印象寄与度を数値だけではなく、関数で与えた場合は、このベクトルの要素は数値ではなく、関数となる）が、イベントの数SE分記録されることとなり、これは、図１１に示すような、SE×SImpの行列を生成する処理に等しい。この行列を印象変換行列と呼び、MImpと表す。この印象変換行列MImpは、記憶部８５に記憶しておく。
【０１７８】
以下、ステップ１３について詳細に説明する。
【０１７９】
ステップ１３では、印象度計算部８４において、印象変換行列を用いて、部分コンテンツ毎の印象度を算出する処理である。
【０１８０】
ステップ１２では、部分コンテンツ毎に、各イベントがどれだけ生起しているらしいかをイベント生起度として計算したが、これと、先に説明した印象変換行列MImpを用いて、部分コンテンツＳｉの印象度を計算する。
【０１８１】
部分コンテンツＳｉのイベント生起度ｐSi（ｅ＝ｅk）を、｛ｐSi（ｅ＝ｅk-1），ｐSi（ｅ＝ｅk=2），…，ｐSi（ｅ＝ｅk=SE）｝Tと表し、ベクトルＰsiとして扱う。このベクトルＰsiは、SE×１の列ベクトルであるため、印象変換行列MImpとの積MImp×Ｐsiを計算することができて、結果、１×SImpの列ベクトルが生成される。
【０１８２】
この列ベクトルの各要素を、部分コンテンツＳｉの印象度とし、第１要素をImp1、第２要素をImp2、と順に対応付ける。
【０１８３】
このほか、後処理として、例えば、対象とするコンテンツに予め印象に係るメタデータが付与されている場合には、これを考慮して、印象度を調整するものとしてもよい。
【０１８４】
例えば、対象のコンテンツが「楽しい」、というメタデータが予め事前情報として付与されていたとする。このとき、普遍的に楽しい印象を与え易いコンテンツであると判断し、楽しい印象度の値に一定の値、例えば２を乗じるものとしてもよい。この処理は、例えば、複数のコンテンツから部分コンテンツを出力する場合に、事前情報から予め楽しいコンテンツであることが分かっているものから、優先的に部分コンテンツを出力することができる点で効果がある。
【０１８５】
以上の処理を全ての部分コンテンツについて行うことで、１つ以上の任意の数の部分コンテンツについて、コンテンツの印象度を算出できる。
【０１８６】
また、部分コンテンツが２つ以上存在する場合になどには、各部分コンテンツの印象度を用いてコンテンツ全体の印象を推定するものとしてもよい。単純な例としては、映画などのストーリー性の高いコンテンツにおいては、ある程度一般的な文法のような構造があり、例えば、泣ける映画の場合には、コンテンツの末尾に近い部分で泣ける印象のシーンが現われ、コメディである場合には、コンテンツの随所に楽しい印象のシーンが現われるというような特徴が見られる。
【０１８７】
このような特徴と、コンテンツ全体に見える部分コンテンツの印象度の推移（分布）を利用して、対象のコンテンツの印象を推定する。例えば、コンテンツ全体の末尾部分に泣ける、もしくは哀しいなどの印象度の高い部分コンテンツが多く分布している場合には、当該コンテンツは泣ける、もしくは哀しいストーリーのコンテンツであるとして、「泣ける」、「哀しい」、あるいは、「最後は泣ける」などのような印象を付与する。
【０１８８】
また、コンテンツ全体の各所に楽しい印象のコンテンツであるとして、楽しい印象を付与する。
【０１８９】
これらの分類は、コンテンツ全体の各印象の数と同数のルールを、予め準備しておくことによって実施できる。
【０１９０】
このルールは、例えば、「泣ける」、「哀しい」については、『「泣ける」、もしくは「哀しい」の印象度にある一定の閾値以上の値を持つ部分コンテンツの数が、当該コンテンツ全体の部分コンテンツの数の５０％以上を、末尾２０％の時間に含むものを「泣ける」、哀しい印象のコンテンツであると見做す』といったものや、楽しいについては、『楽しいの印象度にある一定の閾値以上の値を持つ部分コンテンツが、当該コンテンツを１０分割した、いずれの区間にも含まれている』などといったものとして設定する。
【０１９１】
ここでは、「泣ける」、「哀しい」、「楽しい」の例について述べたが、これら以外の印象の推定についても、同様の知見を用いたルールの設定によって実行することが可能である。
【０１９２】
以上が、印象度計算処理ステップである。
【０１９３】
ここまでに得られる部分コンテンツ、もしくはコンテンツの印象度を、データとして出力するものとしてもよい。このデータを以って、コンテンツの印象を部分コンテンツ毎に数値として知ることができる。
【０１９４】
≪ステップ１４：部分コンテンツ出力処理≫
次に、部分コンテンツ出力部８６によるステップ１４（部分コンテンツ出力処理）について説明する。
【０１９５】
ステップ１４は、実際に各印象に即した部分コンテンツを試聴したい場合に実行するステップである。従って、このような要望がない場合には、本ステップは必ずしも必要ではない。
【０１９６】
ステップ１４では、ステップ１３で求めた全ての部分コンテンツの印象度に基づいて、視聴者の要求に最も適した印象に合った部分コンテンツを選定し、当該部分コンテンツを含む区間を出力する。ここでいう"区間"とは、部分コンテンツ、もしくはその前後を含むものである。ステップ１２で述べたように、部分コンテンツがコンテンツ全体であるとしてもよく、この区間にはコンテンツ全体をも含む。
【０１９７】
部分コンテンツを選定する方法の一例について説明する。
【０１９８】
以上ステップ１３までの処理によって、部分コンテンツには、ステップ１１において取得した開始時刻、時間長、及びステップ１３において算出された印象度が情報として付与できる。
【０１９９】
図１２は、本発明の一実施の形態における部分コンテンツ情報リストを説明するための図であり、これら部分コンテンツ情報を部分コンテンツ情報リストＬＳとして表した図の一例である。
【０２００】
まず、記憶部８５に格納されている図１２の情報から、提示する部分コンテンツを決定するための優先順位リストＰＬを生成する。優先順位リストＰＬは、図１２の部分コンテンツ情報リストＬＳを基に、各印象別に印象度について降順にソートすることで生成する。
【０２０１】
例えば、楽しい印象について、優先順位リストＰＬを生成した場合の一例を図１３に示す。この例では、楽しい印象の印象度について、降順にソートされているが、その他の印象についての優先順位リストも同様に生成すればよい。
【０２０２】
優先順位リストが生成された時点で、視聴者から、利用者の求める印象、または、印象と希望視聴時間を要求として受け付け、この要求に則した部分コンテンツを提示する。要求のうち、印象については、予め定めた優先順位リストに含まれる印象の中から、適合するものを印象語として選択してもらうものとすればよい。
【０２０３】
希望視聴時間は、直接数値で入力してもらうものとしてもよいし、例えば、５秒、１０秒、１５秒、…といった量子化された時間のリストから選択してもらうものとしてもよい。希望視聴時間を視聴者が要求しない場合には、予め定めた時間を以って、希望視聴時間に代えればよい。希望視聴時間は、必ずしも時間でなくともよく、例えば、コンテンツ全体の時間長に対する割合によって定めてもよい。
【０２０４】
例えば、全体の時間長の１０％と入力された場合、コンテンツ全体の全時間長が６０分であるときには、６０（分）×０．１＝６（分）であるから、これを希望視聴時間とすることができる。
【０２０５】
提示する部分コンテンツは、要求された印象の優先順位リストに基づいて決定する。具体的には、優先順位リストの降順に提示する部分コンテンツを選択していき、これを希望視聴時間に対して、提示する部分コンテンツの累積時間が最も近付くまで繰り返す。例えば、利用者が楽しい印象の部分コンテンツを視聴したいと要求した場合の一例を図１４を用いて説明する。
【０２０６】
例えば、視聴者の要求が、楽しい印象について希望視聴時間１５秒であった場合、図１３の優先順位リストの例では、部分コンテンツＢＡとＢＢ合計１４．６９秒分が出力される。また、２０秒出会った場合、部分コンテンツＢＡ，ＢＢ，ＢＣの合計１９．９２秒分が出力される。この際、提示する部分コンテンツは、時系列順に並べ替えて出力するものとしてもよい。
【０２０７】
また、部分コンテンツそのものではなく、その前後を含めた区間を出力してもよい。前述の例では、部分コンテンツを音声信号の周期性に基づいて生成する例を説明した。しかしながら、この手法では、人の発話における子音など、周期性の弱い部分が漏れやすく、子音が切れてしまうことが起こり得る。このような場合に対処するために、ある部分コンテンツの前後、例えば、音量に相当する音声信号の振幅がある一定値以上にある区間までを含めて出力するものとしてもよい。この際の一定値とは、例えば、当該部分コンテンツの平均の振幅値の７５％レベルや、最大の振幅値の５０％レベルなどとして設定してもよいし、コンテンツ全体の平均の振幅値の１２０％レベルなどとして設定してもよい。
【０２０８】
なお、上記の実施の形態における図３の構成要素の動作をプログラムとして構築し、印象度推定装置として利用されるコンピュータにインストールして実行させる、または、ネットワークを流通させることが可能である。
【０２０９】
また、構築したプログラムをハードディスクや、フレキシブルディスク、ＣＤ−ＲＯＭ等の可搬記憶媒体に格納しておき、コンピュータにインストールして実行させる、または、配布することが可能である。
【０２１０】
上記のように、本実施の形態に示した一例によれば、コンテンツ中の音声信号に基づいて部分コンテンツの印象を推定することで、印象に則した部分コンテンツを提示することができる。これは、従来のコンテンツ要約技術では、コンテンツ中に起こる強調的発話や、感情の情報を解析して、特徴的な部分コンテンツを切り出しているものであって、部分コンテンツがどのような視聴印象を与えるものであるかを解析するものではないという問題に対して解決を与えるものである。
【０２１１】
また、記憶部８５に記憶するものは、統計モデルの関数型を表す符号及びそのパラメータの符号のみでよく、使用するメモリ、及び計算時間コストが小さくてよい。
【０２１２】
なお、本発明は、上記の実施の形態に限定されることなく、特許請求の範囲内において種々変更・応用が可能である。
【０２１３】
例えば、生成された部分コンテンツの情報、特に、優先順位リストや部分コンテンツ情報リストを含むＸＭＬ（eXtensible Markup Language）データを生成してもよい。汎用的なＸＭＬデータであれば、本発明により生成される出力結果の利用性を高めることができる。
【産業上の利用可能性】
【０２１４】
本発明は、マルチメディアコンテンツ視聴における、視聴者の視聴印象を推定する技術に適用可能である。
【図面の簡単な説明】
【０２１５】
【図１】本発明の原理を説明するための図である。
【図２】本発明の原理構成図である。
【図３】本発明の一実施の形態における印象度推定装置の構成図である。
【図４】本発明の一実施の形態における処理概要のフローチャートである。
【図５】本発明の一実施の形態における部分コンテンツ生成処理の一例を表す図である。
【図６】本発明の一実施の形態におけるイベント検出処理ステップ（ステップ１２）のフローチャートである。
【図７】本発明の一実施の形態におけるイベント生起確率計算処理（ステップ３２）のフローチャートである。
【図８】本発明の一実施の形態における一般化状態空間を表す図である。
【図９】本発明の一実施の形態におけるイベント生起状態確率の一例を表す図である。
【図１０】本発明の一実施の形態におけるイベント生起度の計算方法を説明するための図である。
【図１１】本発明の一実施の形態における印象変換行列を説明するための図である。
【図１２】本発明の一実施の形態における部分コンテンツ情報リストを説明するための図である。
【図１３】本発明の一実施の形態における楽しい印象に関する優先順位リストを説明するための図である。
【符号の説明】
【０２１６】
８０  印象度推定装置
８１  音声信号抽出手段、音声信号抽出部
８２  部分コンテンツ生成部
８３  イベント検出手段、イベント検出部
８４  印象度計算手段  印象度計算部
８５  記憶手段、記憶部
８６  部分コンテンツ出力部
８７  入力装置
８８  出力装置
【図１】
0004943370.tif 000009
【図２】
0004943370.tif 000010
【図３】
0004943370.tif 000011
【図４】
0004943370.tif 000012
【図５】
0004943370.tif 000013
【図６】
0004943370.tif 000014
【図７】
0004943370.tif 000015
【図８】
0004943370.tif 000016
【図９】
0004943370.tif 000017
【図１０】
0004943370.tif 000018
【図１１】
0004943370.tif 000019
【図１２】
0004943370.tif 000020
【図１３】
0004943370.tif 000021