(57)【特許請求の範囲】
【請求項１】
映像コンテンツデータに含まれる歓声レベルの時間変化を示す歓声レベル情報と前記映像コンテンツデータに含まれる拍手レベルの時間変化を示す拍手レベル情報とが格納される記憶装置と、
前記歓声レベル情報に応じて前記歓声レベルの時間変化を示す歓声グラフと、前記拍手レベル情報に応じて前記拍手レベルの時間変化を示す拍手グラフとの２種類のグラフを、２次元の表示エリア内のレベル表示エリアに表示する映像コンテンツ情報表示手段であって、前記歓声グラフおよび拍手グラフの横軸は時間軸であり、縦軸は前記歓声レベルまたは前記拍手レベルであり、前記２種類のグラフの時間軸は前記映像コンテンツデータの開始位置から終端位置を表す、前記映像コンテンツ情報表示手段と、
前記レベル表示エリア内の前記時間軸上を移動するバーをユーザの入力操作に応じて移動させるための入力手段を具備し、
前記２次元の表示エリアは、前記レベル表示エリアの下方側または上方側の一方または両方に表示されるサムネイル画像表示エリアを有し、
前記映像コンテンツ情報表示手段は、前記バーが位置する前記時間軸上の位置に応じた前記映像コンテンツデータ内の代表画像を前記サムネイル画像表示エリアに表示し、
前記サムネイル画像表示エリアは、前記時間軸方向に沿って複数の画像を表示するエリアであり、前記代表画像はオリジナルのアスペクト比で表示され、他の画像は横方向を縮小して表示される
ことを特徴とする電子機器。
【請求項２】
映像コンテンツデータに含まれるオーディオデータを解析し、前記映像コンテンツデータに含まれる歓声レベルと拍手レベルとを検出する手段を更に具備することを特徴とする請求項１記載の電子機器。
【請求項３】
映像コンテンツ情報表示手段は、前記歓声レベルのゼロレベルと前記拍手レベルのゼロレベルとが同一になるように、前記歓声グラフおよび前記拍手グラフの一方を前記歓声グラフおよび前記拍手グラフの他方に重ねて表示することを特徴とする請求項１または２のいずれか１項に記載の電子機器。
【請求項４】
前記映像コンテンツデータの再生を指示するイベントが入力された場合、前記バーが位置する時間位置に対応する時点もしくはその所定時間前の時点から前記映像コンテンツデータの再生を開始する再生処理手段を更に具備することを特徴とする請求項１に記載の電子機器。
【請求項５】
前記映像コンテンツデータに含まれるオーディオデータを分析し、前記映像コンテンツデータ内に含まれる、コマーシャル区間、音楽が流れている音楽区間、および人物によるトークが行われているトーク区間を含む複数の属性区間の内の少なくとも１つの所定属性区間の開始時点および終了時点を示す区間属性情報を生成する区間属性情報出力手段を更に具備し、
前記映像コンテンツ情報表示手段は、前記区間属性情報に基づいて、前記映像コンテンツデータの開始位置から終端位置までのシーケンス内における前記所定属性区間の位置を示すバー領域を含む区間バーを前記２次元の表示エリアに表示することを特徴とする請求項１、２、３、または４の何れか１項に記載の電子機器。
【請求項６】
映像コンテンツデータに含まれるオーディオデータを解析し、前記映像コンテンツデータに含まれる歓声レベルの時間変化を示す歓声レベル情報、および前記映像コンテンツデータに含まれる拍手レベルの時間変化を示す拍手レベル情報を生成し、
前記歓声レベル情報に応じて前記歓声レベルの時間変化を示す歓声グラフと、前記拍手レベル情報に応じて前記拍手レベルの時間変化を示す拍手グラフとの２種類のグラフを、２次元の表示エリア内のレベル表示エリアに表示するシーン種類表示方法であって、
前記歓声グラフおよび拍手グラフの横軸は時間軸であり、縦軸は前記歓声レベルまたは前記拍手レベルであり、二つのグラフの時間軸は前記映像コンテンツデータの開始位置から終端位置を表し、
前記レベル表示エリア内に、ユーザの入力操作に応じて前記時間軸上を移動するバーを表示し、
前記バーが位置する前記時間軸上の位置に応じた前記映像コンテンツデータ内の代表画像を前記２次元の表示エリア内のサムネイル画像表示エリアに表示し、
前記サムネイル画像表示エリアは、前記レベル表示エリアの下方側または上方側の一方または両方に表示され、
前記サムネイル画像表示エリアは、前記時間軸方向に沿って前記映像コンテンツデータに含まれる複数の画像を表示するエリアであり、前記代表画像はオリジナルのアスペクト比で表示され、他の画像は横方向を縮小して表示される
ことを特徴とするシーン種類表示方法。
【請求項７】
レベル表示エリアには、前記歓声レベルのゼロレベルと前記拍手レベルのゼロレベルとが同一になるように、前記歓声グラフおよび前記拍手グラフの一方を前記歓声グラフおよび前記拍手グラフの他方に重ねて表示されていることを特徴とする請求項６記載のシーン種類表示方法。
【請求項８】
前記バーが表示されている状態で、前記映像コンテンツデータの再生を指示するイベントが入力された場合、前記バーが位置する時間位置に対応する時点もしくはその所定時間前の時点から前記映像コンテンツデータの再生を開始することを特徴とする請求項６に記載のシーン種類表示方法。
【請求項９】
前記映像コンテンツデータに含まれるオーディオデータを分析し、前記映像コンテンツデータ内に含まれる、コマーシャル区間、音楽が流れている音楽区間、および人物によるトークが行われているトーク区間を含む複数の属性区間の内の少なくとも１つの所定属性区間の開始時点および終了時点を示す区間属性情報を生成し、
前記区間属性情報に基づいて、前記映像コンテンツデータの開始位置から終端位置までのシーケンス内における前記所定属性区間の位置を示すバー領域を含む区間バーを前記２次元の表示エリアに表示することを特徴とする請求項６、７、または８の何れか１項に記載のシーン種類表示方法。
【請求項１０】
コンピュータより実行されるプログラムであって、
映像コンテンツデータに含まれるオーディオデータを解析し、前記映像コンテンツデータに含まれる歓声レベルの時間変化を示す歓声レベル情報、および前記映像コンテンツデータに含まれる拍手レベルの時間変化を示す拍手レベル情報を生成する手順と、
前記歓声レベル情報に応じて前記歓声レベルの時間変化を示す歓声グラフと、前記拍手レベル情報に応じて前記拍手レベルの時間変化を示す拍手グラフとの２種類のグラフを、２次元の表示エリア内のレベル表示エリアに表示する手順と
を前記コンピュータに実行させるためのプログラムにおいて、
前記歓声グラフおよび拍手グラフの横軸は時間軸であり、縦軸は前記歓声レベルまたは前記拍手レベルであり、二つのグラフの時間軸は前記映像コンテンツデータの開始位置から終端位置を表し、
前記レベル表示エリア内に、ユーザの入力操作に応じて前記時間軸上を移動するバーを表示し、
前記バーが位置する前記時間軸上の位置に応じた前記映像コンテンツデータ内の代表画像を前記２次元の表示エリア内のサムネイル画像表示エリアに表示し、
前記サムネイル画像表示エリアは、前記レベル表示エリアの下方側または上方側の一方または両方に表示され、
前記サムネイル画像表示エリアは、前記時間軸方向に沿って前記映像コンテンツデータに含まれる複数の画像を表示するエリアであり、前記代表画像はオリジナルのアスペクト比で表示され、他の画像は横方向を縮小して表示される
プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、映像コンテンツデータに含まれるシーンを識別するための情報を表示する顔画像を表示する電子機器およびシーン種類表示方法に関する。
【背景技術】
【０００２】
一般に、ビデオレコーダ、パーソナルコンピュータといった電子機器は、テレビジョン放送番組データのような各種映像コンテンツデータを記録および再生することが可能である。
【０００３】
例えば記録された映像コンテンツがサッカーの場合、視聴する時間を短縮するために、例えばゴールシーンだけを見たいという要求がある。ゴールシーンでは歓声があがる。従って、歓声があった場所がゴールシーンであると推測することができる。
【０００４】
特許文献１には、画像音声データの特徴抽出処理で、所定のテロップ特徴データ、人物特徴データその他の画像特徴データ、話者音声特徴データ、「拍手歓声特徴データ」、その他の音声特徴データの各種特徴抽出処理を行う情報信号処理方法が開示されている。そして、それぞれの特徴の表示記号をユーザ設定し、時間軸上に表示記号を表示することによって区間を識別して表示することが開示されている。
【特許文献１】特開２００６−５４６２２号公報
【発明の開示】
【発明が解決しようとする課題】
【０００５】
しかし、特許文献１のように、歓声と拍手とを合わせた拍手歓声特徴を抽出するのでは、不都合な場合がある。例えば、バラエティ番組の場合、歓声が上がるシーンと拍手が起こるシーンとは、両方とも盛り上がっているシーンであると考えることが出来る。しかし、二つのシーンは、盛り上がりの種類が異なる。例えば、歓声が上がっているシーンは、出演者が登場するシーンであったりする。また、例えば拍手が起こっているシーンは、出演者の話が面白く盛り上がっているシーンであったりする。
【０００６】
本発明の目的は、映像コンテンツデータに含まれる音声を解析し解析結果を表示することによって、映像コンテンツデータを再生することなく、シーンの種類を識別することが出来る電子機器およびシーン種類表示方法を提供することを目的とする。
【課題を解決するための手段】
【０００７】
本発明の請求項１に係わる電子機器は、映像コンテンツデータに含まれる歓声レベルの時間変化を示す歓声レベル情報と前記映像コンテンツデータに含まれる拍手レベルの時間変化を示す拍手レベル情報とが格納される記憶装置と、前記歓声レベル情報に応じて前記歓声レベルの時間変化を示す歓声グラフと、前記拍手レベル情報に応じて前記拍手レベルの時間変化を示す拍手グラフとの２種類のグラフを、２次元の表示エリア内のレベル表示エリアに表示する映像コンテンツ情報表示手段であって、前記歓声グラフおよび拍手グラフの横軸は時間軸であり、縦軸は前記歓声レベルまたは前記拍手レベルであり、前記２種類のグラフの時間軸は前記映像コンテンツデータの開始位置から終端位置を表す、前記映像コンテンツ情報表示手段と、前記レベル表示エリア内の前記時間軸上を移動するバーをユーザの入力操作に応じて移動させるための入力手段を具備し、前記２次元の表示エリアは、前記レベル表示エリアの下方側または上方側の一方または両方に表示されるサムネイル画像表示エリアを有し、前記映像コンテンツ情報表示手段は、前記バーが位置する前記時間軸上の位置に応じた前記映像コンテンツデータ内の代表画像を前記サムネイル画像表示エリアに表示し、前記サムネイル画像表示エリアは、前記時間軸方向に沿って複数の画像を表示するエリアであり、前記代表画像はオリジナルのアスペクト比で表示され、他の画像は横方向を縮小して表示されることを特徴とする。
【発明の効果】
【０００８】
本発明によれば、映像コンテンツデータに含まれる音声を解析し解析結果を表示することによって、映像コンテンツデータを再生することなく、シーンの種類を識別することが出来る。
【発明を実施するための最良の形態】
【０００９】
以下、図面を参照して、本発明の実施形態を説明する。  
まず、図１および図２を参照して、本発明の一実施形態に係る電子機器の構成を説明する。本実施形態の電子機器は、例えば、情報処理装置として機能するノートブック型の携帯型パーソナルコンピュータ１０から実現されている。
【００１０】
このパーソナルコンピュータ１０は、放送番組データ、外部機器から入力されるビデオデータといった、映像コンテンツデータ（オーディオビジュアルコンテンツデータ）を記録および再生することができる。即ち、パーソナルコンピュータ１０は、テレビジョン放送信号によって放送される放送番組データの視聴および録画を実行するためのテレビジョン（ＴＶ）機能を有している。このＴＶ機能は、例えば、パーソナルコンピュータ１０に予めインストールされているＴＶアプリケーションプログラムによって実現されている。また、ＴＶ機能は、外部のＡＶ機器から入力されるビデオデータを記録する機能、および記録されたビデオデータおよび記録された放送番組データを再生する機能も有している。
【００１１】
さらに、パーソナルコンピュータ１０は、パーソナルコンピュータ１０に格納されたビデオデータ、放送番組データのような映像コンテンツデータに登場する人物の顔画像の一覧等を表示する顔画像一覧表示機能を有している。この顔画像一覧表示機能は、例えば、ＴＶ機能内にその一機能として実装されている。顔画像一覧表示機能は、映像コンテンツデータの概要等をユーザに提示するための映像インデキシング機能の一つである。この顔画像一覧表示機能は、映像コンテンツデータ全体の中のどの時間帯にどの人物が登場するのかをユーザに提示することができる。また、この顔画像一覧表示機能は、映像コンテンツデータ内に含まれる所定の属性区間に着目して人物の一覧を表示することもできる。
【００１２】
図１はコンピュータ１０のディスプレイユニットを開いた状態における斜視図である。本コンピュータ１０は、コンピュータ本体１１と、ディスプレイユニット１２とから構成されている。ディスプレイユニット１２には、ＴＦＴ−ＬＣＤ（Thin Film Transistor Liquid Crystal Display）１７から構成される表示装置が組み込まれている。
【００１３】
ディスプレイユニット１２は、コンピュータ本体１１に対し、コンピュータ本体１１の上面が露出される開放位置とコンピュータ本体１１の上面を覆う閉塞位置との間を回動自在に取り付けられている。コンピュータ本体１１は薄い箱形の筐体を有しており、その上面にはキーボード１３、本コンピュータ１０をパワーオン／パワーオフするためのパワーボタン１４、入力操作パネル１５、タッチパッド１６、およびスピーカ１８Ａ，１８Ｂなどが配置されている。
【００１４】
入力操作パネル１５は、押されたボタンに対応するイベントを入力する入力装置であり、複数の機能をそれぞれ起動するための複数のボタンを備えている。これらボタン群には、ＴＶ機能（視聴、録画、録画された放送番組データ／ビデオデータの再生）を制御するための操作ボタン群も含まれている。また、コンピュータ本体１１の正面には、本コンピュータ１０のＴＶ機能をリモート制御するリモコンユニットとの通信を実行するためのリモコンユニットインタフェース部２０が設けられている。リモコンユニットインタフェース部２０は、赤外線信号受信部などから構成されている。
【００１５】
コンピュータ本体１１の例えば右側面には、ＴＶ放送用のアンテナ端子１９が設けられている。また、コンピュータ本体１１の例えば背面には、例えばＨＤＭＩ(high-definition multimedia interface)規格に対応した外部ディスプレイ接続端子が設けられている。この外部ディスプレイ接続端子は、放送番組データのような映像コンテンツデータに含まれる映像データ（動画像データ）を外部ディスプレイに出力するために用いられる。
【００１６】
次に、図２を参照して、本コンピュータ１０のシステム構成について説明する。
【００１７】
本コンピュータ１０は、図２に示されているように、ＣＰＵ１０１、ノースブリッジ１０２、主メモリ１０３、サウスブリッジ１０４、グラフィクスプロセッシングユニット（ＧＰＵ）１０５、ビデオメモリ（ＶＲＡＭ）１０５Ａ、サウンドコントローラ１０６、ＢＩＯＳ−ＲＯＭ１０９、ＬＡＮコントローラ１１０、ハードディスクドライブ（ＨＤＤ）１１１、ＤＶＤドライブ１１２、ビデオプロセッサ１１３、メモリ１１３Ａ、無線ＬＡＮコントローラ１１４、IEEE 1394コントローラ１１５、エンベデッドコントローラ／キーボードコントローラＩＣ（ＥＣ／ＫＢＣ）１１６、ＴＶチューナ１１７、およびＥＥＰＲＯＭ１１８等を備えている。
【００１８】
ＣＰＵ１０１は本コンピュータ１０の動作を制御するプロセッサであり、ハードディスクドライブ（ＨＤＤ）１１１から主メモリ１０３にロードされる、オペレーティングシステム（ＯＳ）２０１、およびＴＶアプリケーションプログラム２０２のような各種アプリケーションプログラムを実行する。ＴＶアプリケーションプログラム２０２はＴＶ機能を実行するためのソフトウェアである。このＴＶアプリケーションプログラム２０２は、ＴＶチューナ１１７によって受信された放送番組データを視聴するためのライブ再生処理、受信された放送番組データをＨＤＤ１１１に記録する録画処理、およびＨＤＤ１１１に記録された放送番組データ／ビデオデータを再生する再生処理等を実行する。また、ＣＰＵ１０１は、ＢＩＯＳ−ＲＯＭ１０９に格納されたＢＩＯＳ（Basic Input Output System）も実行する。ＢＩＯＳはハードウェア制御のためのプログラムである。
【００１９】
ノースブリッジ１０２はＣＰＵ１０１のローカルバスとサウスブリッジ１０４との間を接続するブリッジデバイスである。ノースブリッジ１０２には、主メモリ１０３をアクセス制御するメモリコントローラも内蔵されている。また、ノースブリッジ１０２は、PCI EXPRESS規格のシリアルバスなどを介してＧＰＵ１０５との通信を実行する機能も有している。
【００２０】
ＧＰＵ１０５は、本コンピュータ１０のディスプレイモニタとして使用されるＬＣＤ１７を制御する表示コントローラである。このＧＰＵ１０５によって生成される表示信号はＬＣＤ１７に送られる。また、ＧＰＵ１０５は、ＨＤＭＩ制御回路３およびＨＤＭＩ端子２を介して、外部ディスプレイ装置１にデジタル映像信号を送出することもできる。
【００２１】
ＨＤＭＩ端子２は上述の外部ディスプレイ接続端子である。ＨＤＭＩ端子２は、非圧縮のデジタル映像信号と、デジタルオーディオ信号とを一本のケーブルでテレビのような外部ディスプレイ装置１に送出することができる。ＨＤＭＩ制御回路３は、ＨＤＭＩモニタと称される外部ディスプレイ装置１にデジタル映像信号をＨＤＭＩ端子２を介して送出するためのインタフェースである。
【００２２】
サウスブリッジ１０４は、ＬＰＣ（Low Pin Count）バス上の各デバイス、およびＰＣＩ（Peripheral Component Interconnect）バス上の各デバイスを制御する。また、サウスブリッジ１０４は、ハードディスクドライブ（ＨＤＤ）１１１およびＤＶＤドライブ１１２を制御するためのＩＤＥ（Integrated Drive Electronics）コントローラを内蔵している。さらに、サウスブリッジ１０４は、サウンドコントローラ１０６との通信を実行する機能も有している。
【００２３】
またさらに、サウスブリッジ１０４には、PCI EXPRESS規格のシリアルバスなどを介してビデオプロセッサ１１３が接続されている。
【００２４】
ビデオプロセッサ１１３は、前述の映像インデキシングに関する各種処理を実行するプロセッサである。このビデオプロセッサ１１３は、映像インデキシング処理を実行するためのインデキシング処理部として機能する。すなわち、映像インデキシング処理においては、ビデオプロセッサ１１３は、映像コンテンツデータに含まれる動画像データから複数の顔画像を抽出すると共に、抽出された各顔画像が映像コンテンツデータ内に登場する時点を示すタイムスタンプ情報、等を出力する。顔画像の抽出は、例えば、動画像データの各フレームから顔領域を検出する顔検出処理、検出された顔領域をフレームから切り出す切り出し処理等によって実行される。顔領域の検出は、例えば、各フレームの画像の特徴を解析して、予め用意された顔画像特徴サンプルと類似する特徴を有する領域を探索することによって行うことができる。顔画像特徴サンプルは、多数の人物それぞれの顔画像特徴を統計的に処理することによって得られた特徴データである。
【００２５】
さらに、ビデオプロセッサ１１３は、例えば、映像コンテンツデータ内に含まれるコマーシャル（ＣＭ）区間を検出する処理、および音声インデキシング処理も実行する。通常、各ＣＭ区間の時間長は、予め決められた幾つかの時間長の内の１つに設定されている。また、ＣＭ区間の前後には一定時間長の無音期間が存在する。したがって、ＣＭ区間の検出処理においては、例えば、映像コンテンツデータ内に含まれるオーディオデータが分析され、一定時間長の無音区間が検出される。そして、検出された連続する２つの無音区間に挾まれ、且つ一定値以上の時間長を有する部分データを含む区間が、ＣＭ区間として検出される。
【００２６】
音声インデキシング処理は、映像コンテンツデータ内に含まれるオーディオデータを分析して、映像コンテンツデータ内に含まれる、音楽が流れている音楽区間、および人物によるトークが行われているトーク区間を検出するインデキシング処理である。音声インデキシング処理においては、例えば、オーディオデータの周波数スペクトルの特徴が分析され、その周波数スペクトルの特徴に応じて、音楽区間、およびトーク区間が検出される。音楽区間に対応する周波数スペクトルの特徴と、トーク区間に対応する周波数スペクトルの特徴とは互いに異なるので、周波数スペクトルの特徴を分析することによって、音楽区間およびトーク区間のそれぞれを検出することができる。
【００２７】
トーク区間の検出処理においては、例えば、話者セグメンテーション技術または話者クラスタリング技術等が用いられ、これによって話者の切り替わりも検出される。同一の話者（または同一の話者グループ）が連続してトークしている期間が、一つのトーク区間となる。
【００２８】
さらに、音声インデキシング処理は、映像コンテンツデータ内の各部分データ（一定時間長のデータ）毎に歓声レベルを検出する歓声レベル検出処理、および映像コンテンツデータ内の各部分データ毎に拍手レベルを検出する拍手レベル検出処理を実行する。
【００２９】
歓声レベルは、歓声の大きさを示す。歓声は、大勢の人の声が合わさった音である。大勢の人の声が合わさった音は、ある特定の周波数スペクトルの分布を有する。歓声レベル検出処理においては、映像コンテンツデータに含まれるオーディオデータの周波数スペクトルが分析され、そしてその周波数スペクトルの分析結果に従って、各部分データの歓声レベルが検出される。
【００３０】
拍手レベルは、比較的盛大な拍手の大きさを示す。拍手は、ある一定以上の音量レベルがある一定時間長以上連続的に発生する区間の音量レベルである。拍手レベル検出処理においては、映像コンテンツデータに含まれるオーディオデータの音量の分布が分析され、その分析結果に従って、拍手レベルが検出される。例えば、音の大きさと時間方向の分散により拍手を検出することができる。また、歓声の代わりに拍手や笑い声等から評価モデルを作成し、周波数領域等でマッチングすることにより検出しても良い。
【００３１】
メモリ１１３Ａは、ビデオプロセッサ１１３の作業メモリとして用いられる。インデキシング処理（ＣＭ検出処理、映像インデキシング処理、および音声インデキシング処理）を実行するためには多くの演算量が必要とされる。本実施形態においては、ＣＰＵ１０１とは異なる専用のプロセッサであるビデオプロセッサ１１３がバックエンドプロセッサとして使用され、このビデオプロセッサ１１３によってインデキシング処理が実行される。よって、ＣＰＵ１０１の負荷の増加を招くことなく、インデキシング処理を実行することが出来る。なお、ＣＭ検出処理は上述したようにオーディオデータを解析することによって実行することができるので、以下では、ＣＭ検出処理を音声インデキシング処理内の１つの処理として扱うことにする。
【００３２】
サウンドコントローラ１０６は音源デバイスであり、再生対象のオーディオデータをスピーカ１８Ａ，１８ＢまたはＨＤＭＩ制御回路３に出力する。
【００３３】
無線ＬＡＮコントローラ１１４は、たとえばIEEE 802.11規格の無線通信を実行する無線通信デバイスである。IEEE 1394コントローラ１１５は、IEEE 1394規格のシリアルバスを介して外部機器との通信を実行する。
【００３４】
エンベデッドコントローラ／キーボードコントローラＩＣ（ＥＣ／ＫＢＣ）１１６は、電力管理のためのエンベデッドコントローラと、キーボード（ＫＢ）１３およびタッチパッド１６を制御するためのキーボードコントローラとが集積された１チップマイクロコンピュータである。このエンベデッドコントローラ／キーボードコントローラＩＣ（ＥＣ／ＫＢＣ）１１６は、ユーザによるパワーボタン１４の操作に応じて本コンピュータ１０をパワーオン／パワーオフする機能を有している。さらに、エンベデッドコントローラ／キーボードコントローラＩＣ（ＥＣ／ＫＢＣ）１１６は、リモコンユニットインタフェース２０との通信を実行する機能を有している。
【００３５】
ＴＶチューナ１１７はテレビジョン（ＴＶ）放送信号によって放送される放送番組データを受信する受信装置であり、アンテナ端子１９に接続されている。このＴＶチューナ１１７は、例えば、地上波デジタルＴＶ放送のようなデジタル放送番組データを受信可能なデジタルＴＶチューナとして実現されている。また、ＴＶチューナ１１７は、外部機器から入力されるビデオデータをキャプチャする機能も有している。
【００３６】
次に、図３を参照して、ＴＶアプリケーションプログラム２０２によって実行される顔画像一覧表示機能について説明する。
【００３７】
放送番組データのような映像コンテンツデータに対するインデキシング処理（映像インデキシング処理、および音声インデキシング処理）は、上述したように、インデキシング処理部として機能するビデオプロセッサ１１３によって実行される。
【００３８】
ビデオプロセッサ１１３は、ＴＶアプリケーションプログラム２０２の制御の下、例えば、ユーザによって指定された録画済みの放送番組データ等の映像コンテンツデータに対してインデキシング処理を実行する。また、ビデオプロセッサ１１３は、ＴＶチューナ１１７によって受信された放送番組データをＨＤＤ１１１に格納する録画処理と並行して、当該放送番組データに対するインデキシング処理を実行することもできる。
【００３９】
映像インデキシング処理（顔画像インデキシング処理とも云う）においては、ビデオプロセッサ１１３は、映像コンテンツデータに含まれる動画像データをフレーム単位で解析する。そして、ビデオプロセッサ１１３は、動画像データを構成する複数のフレームそれぞれから人物の顔画像を抽出すると共に、抽出された各顔画像が映像コンテンツデータ内に登場する時点を示すタイムスタンプ情報を出力する。各顔画像に対応するタイムスタンプ情報としては、映像コンテンツデータの開始から当該顔画像が登場するまでの経過時間、または当該顔画像が抽出されたフレーム番号、等を使用することが出来る。
【００４０】
さらに、ビデオプロセッサ１１３は、抽出された各顔画像のサイズ（解像度）も出力する。ビデオプロセッサ１１３から出力される顔検出結果データ（顔画像、タイムスタンプ情報ＴＳ、およびサイズ）は、データベース１１１Ａに顔画像インデキシング情報として格納される。このデータベース１１１Ａは、ＨＤＤ１１１内に用意されたインデキシングデータ記憶用の記憶領域である。
【００４１】
さらに、映像インデキシング処理においては、ビデオプロセッサ１１３は、顔画像を抽出する処理と並行して、サムネイル画像取得処理も実行する。サムネイル画像は、映像コンテンツデータから例えば等時間間隔で抽出された複数のフレームの各々に対応する画像（縮小画像）である。すなわち、ビデオプロセッサ１１３は、顔画像を含むフレームであるか否かに関係なく、映像コンテンツデータから例えば所定の等時間間隔でフレームを順次抽出し、抽出した各フレームに対応する画像（サムネイル画像）と、そのサムネイル画像が出現する時点を示すタイムスタンプ情報ＴＳとを出力する。ビデオプロセッサ１１３から出力されるサムネイル画像取得結果データ（サムネイル、タイムスタンプ情報ＴＳ）も、データベース１１１Ａにサムネイルインデキシング情報として格納される。
【００４２】
また、音声インデキシング処理においては、ビデオプロセッサ１１３は、映像コンテンツに含まれるオーディオデータを分析して、映像コンテンツデータ内に含まれる複数種の属性区間（ＣＭ区間、音楽区間、およびトーク区間）を検出し、検出された各属性区間の開始時点および終了時点を示す区間属性情報を出力する。この区間属性情報は、属性検出結果情報としてデータベース１１１Ａに格納される。さらに、音声インデキシング処理においては、ビデオプロセッサ１１３は、上述の歓声レベル検出処理および拍手レベル検出処理も実行する。これら歓声レベル検出処理の結果および拍手レベル検出処理の結果も、上述の属性検出結果情報の一部としてデータベース１１１Ａに格納される。
【００４３】
属性検出結果情報（区間属性情報）は、図４に示されているように、例えば、ＣＭ区間テーブル、音楽区間テーブル、トーク区間テーブル、および歓声／拍手テーブルから構成されている。
【００４４】
ＣＭ区間テーブルは、検出されたＣＭ区間の開始時点および終了時点を示すＣＭ区間属性情報を格納する。映像コンテンツデータの開始位置から終端位置までのシーケンス内に複数のＣＭ区間が存在する場合には、それら複数のＣＭ区間それぞれに対応するＣＭ区間属性情報がＣＭ区間テーブルに格納される。ＣＭ区間テーブルにおいては、検出された各ＣＭ区間毎に当該ＣＭ区間の開始時点および終了時点をそれぞれ示すスタートタイム情報およびエンドタイム情報が格納される。
【００４５】
音楽区間テーブルは、検出された音楽区間の開始時点および終了時点を示す音楽区間属性情報を格納する。映像コンテンツデータの開始位置から終端位置までのシーケンス内に複数の音楽区間が存在する場合には、それら複数の音楽区間それぞれに対応する音楽区間属性情報が音楽区間テーブルに格納される。音楽区間テーブルにおいては、検出された各音楽区間毎に当該音楽区間の開始時点および終了時点をそれぞれ示すスタートタイム情報およびエンドタイム情報が格納される。
【００４６】
トーク区間テーブルは、検出されたトーク区間の開始時点および終了時点を示す音楽区間属性情報を格納する。映像コンテンツデータの開始位置から終端位置までのシーケンス内に複数のトーク区間が存在する場合には、それら複数のトーク区間それぞれに対応するトーク区間属性情報がトーク区間テーブルに格納される。トーク区間テーブルにおいては、検出された各トーク区間毎に当該トーク区間の開始時点および終了時点をそれぞれ示すスタートタイム情報およびエンドタイム情報が格納される。
【００４７】
歓声／拍手テーブルは、映像コンテンツデータ内の一定時間長の部分データ（タイムセグメントＴ１，Ｔ２，Ｔ３，…）それぞれにおける歓声レベルおよび拍手レベルを格納する。
【００４８】
図３に示されているように、ＴＶアプリケーションプログラム２０２は、顔画像一覧表示機能を実行するための顔画像一覧表示処理部３０１を含んでいる。この顔画像一覧表示処理部３０１は、例えば、インデキシングビューワプログラムとして実現されており、データベース１１１Ａに格納されたインデキシング情報（顔画像インデキシング情報、サムネイルインデキシング情報、区間属性情報、等）を用いて、映像コンテンツデータの概要を俯瞰するためのインデキシングビュー画面を表示する。
【００４９】
具体的には、顔画像一覧表示処理部３０１は、データベース１１１Ａから顔画像インデキシング情報（顔画像、タイムスタンプ情報ＴＳ、およびサイズ）を読み出し、そしてその顔画像インデキシング情報を用いて、映像コンテンツデータに登場する人物の顔画像の一覧を、インデキシングビュー画面上の２次元の表示エリア（以下、顔サムネイル表示エリアと称する）上に表示する。この場合、顔画像一覧表示処理部３０１は、映像コンテンツデータの総時間長を、例えば等間隔で、複数の時間帯に分割し、時間帯毎に、抽出された顔画像の内から当該時間帯に登場する顔画像を所定個選択する。そして、顔画像一覧表示処理部３０１は、時間帯毎に、選択した所定個の顔画像それぞれを並べて表示する。
【００５０】
すなわち、２次元の顔サムネイル表示エリアは、複数の行および複数の列を含むマトリクス状に配置された複数の顔画像表示エリアを含む。複数の列それぞれには、映像コンテンツデータの総時間長を構成する複数の時間帯が割り当てられている。具体的には、例えば、複数の列それぞれには、映像コンテンツデータの総時間長をこれら複数の列の数で等間隔に分割することによって得られる、互いに同一の時間長を有する複数の時間帯がそれぞれ割り当てられる。もちろん、各列に割り当てられる時間帯は必ずしも同一の時間長でなくてもよい。
【００５１】
顔画像一覧表示処理部３０１は、顔画像それぞれに対応するタイムスタンプ情報ＴＳに基づき、各列内に属する行数分の顔画像表示エリア上に、当該各列に割り当てられた時間帯に属する顔画像それぞれを、例えば、それら顔画像の出現頻度順（顔画像の検出時間長順）のような順序で並べて表示する。この場合、例えば、当該各列に割り当てられた時間帯に属する顔画像の内から、出現頻度（登場頻度）の高い順に顔画像が行数分だけ選択され、選択された顔画像が登場頻度順に上から下に向かって並んで配置される。もちろん、出現頻度順ではなく、各列に割り当てられた時間帯に出現する顔画像それぞれを、その出現順に並べて表示してもよい。
【００５２】
この顔画像一覧表示機能により、映像コンテンツデータ全体の中のどの時間帯にどの人物が登場するのかをユーザに分かりやすく提示することができる。顔サムネイル表示エリアの具体的な構成例については、図６以降で後述する。
【００５３】
また、顔画像一覧表示処理部３０１は、データベース１１１Ａからサムネイルインデキシング情報（サムネイル、タイムスタンプ情報ＴＳ）を読み出し、そしてサムネイルインデキシング情報を用いて、サムネイル画像それぞれを、顔サムネイル表示エリアの下方側または上方側の一方、または両方に配置されたサムネイル表示エリア（以下、じゃばらサムネイル表示エリアと称する）上に、それらサムネイル画像の出現時間順に一列に並べて表示する。
【００５４】
映像コンテンツデータによっては、顔画像が登場しない時間帯も存在する。したがって、インデキシングビュー画面上に顔サムネイル表示エリアのみならず、じゃばらサムネイル表示エリアも表示することにより、顔画像が登場しない時間帯においても、その時間帯の映像コンテンツデータの内容をユーザに提示することができる。
【００５５】
さらに、顔画像一覧表示処理部３０１は、データベース１１１Ａから歓声レベル情報および拍手レベル情報を読み出し、それら歓声レベル情報および拍手レベル情報に従って、映像コンテンツデータの開始位置から終端位置までのシーケンス内における歓声レベルの変化および拍手レベルの変化をそれぞれ示すグラフを、インデキシングビュー画面上の顔サムネイル表示エリアの下方側または上方側の一方に配置されたレベル表示エリア上に表示する。なお、上述したように、じゃばらサムネイル表示エリアは、顔サムネイル表示エリアの下方側または上方側の一方、または両方に配置される。従って、じゃばらサムネイル表示エリアは、レベル表示エリアの下方側または上方側の一方、または両方に配置される。
【００５６】
このレベル表示エリアを見ることにより、ユーザに、映像コンテンツデータ内のどの辺りに大きな歓声が生じた区間が存在し、また映像コンテンツデータ内のどの辺りに拍手の大きな区間が存在するかを提示することができる。ユーザは、登場人物と、区間属性と、歓声レベルと、拍手レベルとを考慮して、映像コンテンツデータ全体の中から再生を開始すべきデータ位置を見つけることができる。
【００５７】
さらに、顔画像一覧表示処理部３０１は、データベース１１１Ａから区間属性情報（ＣＭ区間属性情報、音楽区間属性情報、トーク区間属性情報）を読み出し、その区間属性情報に従って、映像コンテンツデータの開始位置から終端位置までのシーケンス内における各属性区間（ＣＭ区間、音楽区間、トーク区間）の位置（開始時点から終了時点までの区間）を示すバー領域を含む区間バーを、インデキシングビュー画面上の顔サムネイル表示エリアの下方側または上方側の一方に表示する。この区間バーは、例えば、３つのサブ区間バー、つまりＣＭ区間の位置を示すＣＭ区間バー、音楽区間の位置を示す音楽区間バー、トーク区間の位置を示すトーク区間バーを含んでいる。
【００５８】
シーケンス内に複数のＣＭ区間が存在する場合、複数のＣＭ区間それぞれの位置を示す複数のバー領域がＣＭ区間バー内に表示される。同様に、シーケンス内に複数の音楽区間が存在する場合には複数の音楽区間それぞれの位置を示す複数のバー領域が音楽区間バー内に表示され、シーケンス内に複数のトーク区間が存在する場合には複数のトーク区間それぞれの位置を示す複数のバー領域がトーク区間バー内に表示される。以下では、シーケンス内に分散して存在する複数のＣＭ区間の各々を部分ＣＭ区間と称し、シーケンス内に分散して存在する複数の音楽区間のそれぞれを部分音楽区間と称し、シーケンス内に分散して存在する複数のトーク区間のそれぞれを部分トーク区間と称する。
【００５９】
インデキシングビュー画面上に区間バーを表示することにより、顔サムネイル表示エリア内の各顔画像がどのような属性区間（ＣＭ区間、音楽区間、トーク区間）に登場する人物の顔画像であるかを、ユーザに提示することができる。したがって、ユーザは、登場人物と、区間属性とを考慮して、映像コンテンツデータ全体の中から再生を開始すべきデータ位置を見つけることができる。
【００６０】
顔画像一覧表示処理部３０１は、区間属性情報（ＣＭ区間属性情報、音楽区間属性情報、トーク区間属性情報）と複数の顔画像それぞれにタイムスタンプ情報とを用いることにより、顔インデキシング情報に含まれる複数の顔画像の内からある特定の属性区間（ＣＭ区間、音楽区間、またはトーク区間）に属する顔画像を検出することができる。
【００６１】
また、ＣＭ区間、音楽区間、トーク区間のみならず、例えば、ある一定値以上の歓声レベルを有する区間（歓声区間）、およびある一定値以上の拍手レベルを有する区間（拍手区間）などを属性区間として使用することもできる。この場合、ユーザは、ＣＭ区間、音楽区間、トーク区間、歓声区間、拍手区間それぞれに対応する属性を、着目すべき属性として選択的に指定することができる。
【００６２】
次に、図５を参照して、ＴＶアプリケーションプログラム２０２の機能構成を説明する。
【００６３】
ＴＶアプリケーションプログラム２０２は、上述の顔画像一覧表示処理部３０１に加え、記録処理部４０１、インデキシング制御部４０２、再生処理部４０３等を備えている。
【００６４】
記録処理部４０１は、ＴＶチューナ１１７によって受信された放送番組データ、または外部機器から入力されるビデオデータをＨＤＤ１１１に記録する記録処理を実行する。また、記録処理部４０１は、ユーザによって予め設定された録画予約情報（チャンネル番号、日時）によって指定される放送番組データをＴＶチューナ１１７を用いて受信し、その放送番組データをＨＤＤ１１１に記録する予約録画処理も実行する。
【００６５】
インデキシング制御部４０２は、ビデオプロセッサ（インデキシング処理部）１１３を制御して、インデキシング処理（映像インデキシング処理、音声インデキシング処理）をビデオプロセッサ１１３に実行させる。ユーザは、録画対象の放送番組データ毎にインデキシング処理を実行するか否かを指定することができる。例えば、インデキシング処理の実行が指示された録画対象の放送番組データについては、その放送番組データがＨＤＤ１１１に記録された後に、インデキシング処理が自動的に開始される。また、ユーザは、既にＨＤＤ１１１に格納されている映像コンテンツデータの内から、インデキシング処理を実行すべき映像コンテンツデータを指定することもできる。
【００６６】
再生処理部４０３は、ＨＤＤ１１１に格納されている各映像コンテンツデータを再生する処理を実行する。また、再生処理部４０３は、レベル表示エリアに現在位置バーが表示される。現在位置バーは現在じゃばらサムネイル表示エリアに表示中のじゃばらサムネイルがコンテンツ全体のどの辺りにあるかを示すバーである。レベル表示エリア上にポインタがある状態でユーザが左ボタンをクリックすると、現在位置バーがポインタの位置に移動する。そして、じゃばらサムネイル表示エリアに表示されるじゃばらサムネイルが現在位置バーの位置に対応する画像に変更される。
【００６７】
そして、ユーザが表示されているじゃばらサムネイル上にポインタを移動させて、左ボタンを操作すると、再生指示イベントが入力され、じゃばらサムネイルが表示されている時点もしくはその所定時間前の時点から映像コンテンツデータの再生を開始する機能を有している。
【００６８】
ユーザは、複数の属性区間を選択的に指定することにより、様々な属性に着目した顔画像一覧を見ながら、映像コンテンツデータの再生位置を決定することができる。
【００６９】
なお、インデキシング処理は、必ずしもビデオプロセッサ１１３によって実行する必要はなく、例えば、ＴＶアプリケーションプログラム２０２にインデキシング処理を実行する機能を設けてもよい。この場合、インデキシング処理は、ＴＶアプリケーションプログラム２０２の制御の下に、ＣＰＵ１０１によって実行される。
【００７０】
次に、図６乃至図１１を参照して、インデキシングビュー画面の具体的な構成について説明する。
【００７１】
図６には、顔画像一覧表示処理部３０１によってＬＣＤ１７に表示されるインデキシングビュー画面の例が示されている。このインデキシングビュー画面は、ある映像コンテンツデータ（例えば放送番組データ）をインデキシング処理することによって得られた画面である。このインデキシングビュー画面には、顔画像の一覧を表示するための上述の顔サムネイル表示エリアと、上述のレベル表示エリアと、上述の区間バーと、サムネイル画像の一覧をじゃばら形式で表示するための上述のじゃばらサムネイル表示エリアとを含んでいる。
【００７２】
ここで、じゃばら形式とは、選択されているサムネイル画像をオリジナルのアスペクト比の通常サイズ（フルサイズ）で表示し、他の各サムネイル画像についてはその横方向サイズを縮小して表示する表示形式である。図６においては、選択されたサムネイル画像との距離が大きいサムネイル画像ほど、その横方向サイズが縮小されている。
【００７３】
レベル表示エリアにおいては、歓声レベルの時間変化を示すグラフ（図６中の濃い色で示されるグラフ）と、拍手レベルの時間変化を示すグラフ（図６中の薄い色で示されるグラフ）が表示される。
【００７４】
二つのグラフの横軸は、映像コンテンツの開始位置から終端位置を表す時間軸である。また、二つのグラフの縦軸は、レベル（大きさ）表している。そして、二つのグラフの縦軸のゼロレベルが同一になるように、歓声レベルのグラフに歓声レベルのグラフが重ねられている。横軸の時間軸は、映像コンテンツの開始位置から終端位置まで等間隔に時間が割り当てられている。
【００７５】
一般的に、歓声レベルより拍手レベルの方が大きいと考えられる。従って、歓声レベルのグラフに拍手レベルのグラフを重ねると、拍手レベルのグラフに隠れて歓声レベルのグラフが見えなくなってしまうことがある。本実施形態では、歓声レベルのグラフができるだけ見えるように、拍手レベルのグラフの上に歓声レベルのグラフを重ねている。
【００７６】
なお、拍手レベルより歓声レベルの方が大きいと考えられので有れば、逆に歓声レベルのグラフの上に拍手レベルのグラフを重ねてもよい。また、設定によってグラフを重ねる順番を変更するようにしても良い。
【００７７】
レベル表示エリアには、現在位置バーが表示される。現在位置バーは現在じゃばらサムネイル表示エリアに表示中のじゃばらサムネイルがコンテンツ全体のどの辺りにあるかを示すバーである。ユーザがタッチパッド１６を操作することによって、レベル表示エリア内にポインタＰを表示させた状態で左ボタンを操作すると、図７に示すように、じゃばらサムネイル表示エリアに表示される選択画像がポインタＰの位置に応じて変化する。
【００７８】
そして、じゃばらサムネイル表示エリア内で画像が選択されている状態で、キーボードのエンターキーの打鍵、またはポインタが重ねられた状態で左ボタンの押圧操作が行われて再生を指示するイベントが入力された場合、選択画像から映像コンテンツの再生が行われる。映像コンテンツの再生は、所定時間前の時点、たとえば、２秒前の時点から行われる。
【００７９】
区間バーは、トーク区間バーと、音楽区間バーと、ＣＭ区間バーとを含んでいる。ＣＭ区間バーにおいては、各ＣＭ区間（各部分ＣＭ区間）の位置にバー領域（図６の黒色の帯状領域）が表示される。音楽区間バーにおいては、各音楽区間（各部分音楽区間）の位置にバー領域（図６のクロスハッチングされた帯状領域）が表示される。トーク区間バーにおいては、各トーク区間（各部分トーク区間）の位置にバー領域（図６のハッチングされた帯状領域）が表示される。
【００８０】
図８は、顔サムネイル表示エリアの構成例が示されている。
【００８１】
顔サムネイル表示エリアは、複数の行と複数の列とを含むマトリクス状に配置された複数個の顔画像表示エリアを含んでいる。図７においては、顔サムネイル表示エリアは６行×１６列から構成されている。顔サムネイル表示エリアに含まれる顔画像表示エリアの数は、９６個である。
【００８２】
列１〜列１６のそれぞれには、例えば、映像コンテンツデータの総時間長を列数（＝１６）で等間隔で分割することによって得られる、互いに同一の時間長Ｔを有する複数の時間帯がそれぞれ割り当てられる。
【００８３】
例えば、映像コンテンツデータの総時間長が２時間であるならば、その２時間が１６個の時間帯に等間隔で分割される。この場合、各時間帯の時間長Ｔは、７．５分である。例えば、列１には、先頭0:00:00から0:07:30までの時間帯が割り当てられ、列２には、0:07:30から0:15:00までの時間帯が割り当てられ、列３には、0:15:00から0:22:30までの時間帯が割り当てられる。映像コンテンツデータの総時間長に応じて、各時間帯の時間長Ｔは変化する。
【００８４】
もちろん、複数の列それぞれに割り当てられる時間帯の長さは、必ずしも同一である必要はない。
【００８５】
顔画像一覧表示処理部３０１は、ビデオプロセッサ１１３によって抽出された顔画像それぞれに対応するタイムスタンプ情報に基づき、各列内の６個の顔画像表示エリア上に、当該各列に割り当てられた時間帯に属する顔画像それぞれをたとえば上述の頻度順に並べて表示する。この場合、顔画像一覧表示処理部３０１は、表示処理対象の列に割り当てられた時間帯に属する顔画像の内から行数分（６個）の顔画像を選択し、選択した行数分の顔画像それぞれを並べて表示する。
【００８６】
このように、顔サムネイル表示エリアにおいては、左端位置（1,1）を基点とし、右端位置(6,16)を映像コンテンツデータの終端とする時間軸が用いられている。
【００８７】
顔サムネイル表示エリア内の各顔画像は、選択されていない“標準”状態、選択されている“フォーカス”状態の２つの状態のいずれかに設定される。“フォーカス”状態の顔画像のサイズは、“標準”状態の時のサイズよりも大きく設定される。図７においては、座標(１，１２)の顔画像が“フォーカス”状態である場合を示している。
【００８８】
じゃばらサムネイル表示エリアに表示されるサムネイル画像の枚数は、ユーザ設定に従って、例えば２４０枚、１４４枚、９６枚、４８枚のいずれかに設定される。デフォルトは例えば２４０枚である。
【００８９】
次に、図９を参照して、顔サムネイル表示エリアとじゃばらサムネイル表示エリアとの関係について説明する。
【００９０】
同一列に属する顔画像表示エリア群の集合、つまり顔サムネイル表示エリア内の個々の列を“大区間”と称する。また、“大区間”をさらに分割したものを“小区間”と称する。１つの大区間に含まれる小区間の数は、じゃばらサムネイル表示エリアに表示されるサムネイル画像の数を顔サムネイル表示エリアの列数で割った商で与えられる。
【００９１】
じゃばらサムネイル表示エリア上のあるサムネイル画像が選択された時、顔画像一覧表示処理部３０１は、選択されたサムネイル画像のタイムスタンプ情報に基づき、顔サムネイル表示エリア内の複数の列（複数の大区間）の内で、選択されたサムネイル画像が属する時間帯が割り当てられた列（大区間）を選択する。選択される大区間は、選択されたサムネイル画像を小区間として含む大区間である。そして、顔画像一覧表示処理部３０１は、選択した大区間を強調表示する。
【００９２】
次に、図１０のフローチャートを参照して、顔画像一覧表示処理部３０１によって実行される表示処理の手順を説明する。
【００９３】
まず、顔画像一覧表示処理部３０１は、データベース１１１Ａに格納されている顔画像それぞれを、それら顔画像に対応するタイムスタンプ情報に基づいて、それら顔画像の登場時間順にソートする（ステップＳ１０１）。次いで、顔画像一覧表示処理部３０１は、ユーザによって指定された表示すべき顔画像サイズに応じて行及び列の数を決定すると共に、例えばインデキシング対象の映像コンテンツデータの総時間長を列数で均等に分割することによって、各列（大区間）に割り当てる時間帯を算出する。そして、顔画像一覧表示処理部３０１は、表示処理対象の列に割り当てられた時間帯内に属する顔画像の内から、行数分の顔画像を選択する（ステップＳ１０２）。表示処理対象の列に割り当てられた時間帯内に属する顔画像の数が行数よりも多い場合には、顔画像一覧表示処理部３０１は、例えば、出現頻度の高い顔画像を優先的に選択する処理を実行することもできる。
【００９４】
この場合、顔画像一覧表示処理部３０１は、表示処理対象の列に割り当てられた時間帯に属する顔画像の内から、当該時間帯において登場する頻度の高い顔画像を優先的に選択する。例えば、ビデオプロセッサ１１３は、抽出した顔画像それぞれの特徴データの相関に基づいて、同一人物の顔画像それぞれを同一カテゴリーに分類するクラスタリング処理を実行することができる。この場合、図１４に示すように、顔画像それぞれは、人物毎（すなわちカテゴリー毎）に分類されてデータベース１１１Ａに格納される。図１１においては、カテゴリー１は、ある人物Ａの顔画像の集合を示しており、カテゴリー２は、ある人物Ｂの顔画像の集合を示しており、またカテゴリー３は、ある人物Ｂの顔画像の集合を示している。顔画像一覧表示処理部３０１は、登場する頻度の高い人物の顔画像を優先的に選択する。なお、ある同一人物の顔画像のみが比較的長い時間出現され続けている時間帯においては、当該時間帯に対応する列上に同一人物の異なる複数の顔画像を表示してもよい。
【００９５】
また、表示処理対象の列に割り当てられた時間帯内に属する顔画像の数が行数よりも多い場合、顔画像一覧表示処理部３０１は、データベース１１Ａに格納された顔画像それぞれのサイズ情報に基づいて、表示処理対象の列に割り当てられた時間帯に属する顔画像の内から、サイズの大きい顔画像を優先的に選択する処理を実行することもできる。
【００９６】
クローズアップされた顔を映すフレームから抽出される顔画像のサイズは、比較的大きなものとなる。したがって、抽出された顔画像のサイズが大きいほど、重要度の高い人物である可能性が高い。よって、サイズの大きい顔画像を優先的に選択することにより、重要度の高い人物の顔画像を優先的に表示することが可能となる。
【００９７】
次いで、顔画像一覧表示処理部３０１は、表示処理対象の列内の複数の顔画像表示エリアに、選択した顔画像それぞれを例えば出現頻度順に並べて表示する（ステップＳ１０３）。出現頻度の高い顔画像ほど、上方の顔画像表示エリアに表示される。
【００９８】
ステップＳ１０２，Ｓ１０３の処理は、全ての列に対する処理が完了するまで、表示処理対象の列の番号を更新しながら繰り返し実行される（ステップＳ１０４，Ｓ１０５）。この結果、顔画像表示エリアには、複数の顔画像が表示される。
【００９９】
なお、表示処理対象の列に割り当てられた時間帯内に属する顔画像の数が行数よりも少ない場合には、対応する時間帯内に属するサムネイル画像を表示処理対象の列に表示することも出来る。
【０１００】
全ての列に対する処理が完了すると（ステップＳ１０４のＮＯ）、顔画像一覧表示処理部３０１は、データベース１１Ａに格納されているサムネイル画像それぞれを、それらサムネイル画像それぞれのタイムスタンプ情報に基づいて、じゃばらサムネイル表示エリア上にそれらサムネイル画像が出現する時間順に一列に並べて表示する（ステップＳ１０６）。
【０１０１】
次いで、顔画像一覧表示処理部３０１は、データベース１１１Ａから歓声レベル情報および盛り上がりレベル情報を読み出し、それら歓声レベル情報および盛り上がりレベル情報に従って、レベル表示エリア上に、映像コンテンツデータの開始位置から終端位置までのシーケンス内における歓声レベルの変化を示すグラフと、シーケンス内における盛り上がりレベルの変化をそれぞれ示すグラフとを表示する（ステップＳ１０７）。
【０１０２】
次に、顔画像一覧表示処理部３０１は、データベース１１１ＡからＣＭ区間属性情報、音楽区間属性情報、およびトーク区間属性情報を読み出し、それらＣＭ区間属性情報、音楽区間属性情報、およびトーク区間属性情報に基づいて、ＣＭ区間バー、音楽区間バー、トーク区間バーをそれぞれ表示する（ステップＳ１０８）。ＣＭ区間バーには、ＣＭ区間の位置を示すバー領域が表示される。同様に、音楽区間バーには音楽区間の位置を示すバー領域が表示され、トーク区間バーにはトーク区間の位置を示すトークバー領域が表示される。
【０１０３】
次に、図１２のフローチャートを参照して、再生処理部４０３によって実行される再生処理の手順を説明する。
【０１０４】
ユーザ操作に応じて映像コンテンツデータの再生を指示するイベントが入力された時（ステップＳ３０１のＹＥＳ）、再生処理部４０３は、位置バーの有る時刻を検出する（ステップＳ３０２）。そして、再生処理部４０３は、検出された時点よりも所定時間前の時点、たとえば、２秒前の時点から、映像コンテンツデータの再生を開始する（ステップＳ２０６）。
【０１０５】
以上のように、本実施形態においては、映像コンテンツデータ全体を対象に顔画像の一覧を表示する第１の表示モードと、映像コンテンツデータ全体の中の特定の属性区間に着目して顔画像の一覧を表示する第２の表示モードとを選択的に使用することができる。よって、映像コンテンツデータを再生することなく、映像コンテンツデータ全体の中のどの辺りの時間帯にどの人物が登場するのかをユーザに提示できる。さらに、映像コンテンツデータ全体ではなく、映像コンテンツデータ内の特定の属性区間に着目して登場人物の一覧をユーザに提示することもできる。
【０１０６】
よって、ユーザは、例えば、映像コンテンツデータ内のＣＭ区間に着目して映像コンテンツデータを俯瞰でき、また他の属性区間（音楽、トーク、歓声、盛り上がり、本編、等）に着目して映像コンテンツデータを俯瞰することもできる。
【０１０７】
なお、本実施形態では、インデキシング処理部として機能するビデオプロセッサ１１３によってインデキシング情報（顔画像インデキシング情報、区間属性情報、等）を生成したが、例えば、放送番組データ内に予め当該放送番組データに対応するインデキシング情報が含まれている場合には、インデキシング処理を行う必要はない。よって、本実施形態の顔画像一覧表示機能は、データベース１１１Ａと顔画像一覧表示処理部３０１のみによっても実現することが出来る。
【０１０８】
なお、図１３に示すように、レベル表示エリアに表示されるグラフを棒グラフにしても良い。棒グラフの場合、有る時間から所定の時間内のレベルを代表して表示する。この場合、所定の時間内の最大値であっても良いし、平均値であっても良い。歓声のシーン、拍手のシーンを見分けるために、最大値で示すことが好ましい。
【０１０９】
また、図１３では、横軸の時間軸が等間隔であり、棒グラフに表示される棒の幅は一定であるが、じゃばらサムネイル表示エリアが表示するサムネイル画像の幅に応じて時間間隔と同じようになるようにしても良い。なお、棒の幅は小区間の幅と同じするようにすることが好ましい。
【０１１０】
なお、図１４に示すように、ＣＭ区間属性情報を参照することによって、ＣＭ区間内に表示されている画像から抽出された顔画像の隅にＣＭから抽出されたことを示すマークを表示しても良い。マークを付加することで、ＣＭ区間内に表示されている画像から抽出された顔画像であることが即座に分かる。
【０１１１】
また、本実施形態の顔画像一覧表示処理の手順は全てソフトウェアによって実現することができるので、このソフトウェアをコンピュータ読み取り可能な記憶媒体を通じて通常のコンピュータに導入することにより、本実施形態と同様の効果を容易に実現することができる。
【０１１２】
また、本実施形態の電子機器はコンピュータ１０によって実現するのみならず、例えば、ＨＤＤレコーダ、ＤＶＤレコーダ、テレビジョン装置といった様々なコンシューマ電子機器によって実現することもできる。この場合、ＴＶアプリケーションプログラム２０２の機能は、ＤＳＰ、マイクロコンピュータのようなハードウェアによって実現することができる。
【０１１３】
なお、本発明は、上記実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合せにより種々の発明を形成できる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除してもよい。更に、異なる実施形態に亘る構成要素を適宜組み合せてもよい。
以下に、本願出願の当初の特許請求の範囲に記載された発明を記載する。
［１］映像コンテンツデータに含まれる歓声レベルの時間変化を示す歓声レベル情報と前記映像コンテンツデータに含まれる拍手レベルの時間変化を示す拍手レベル情報とが格納される記憶装置と、
前記歓声レベル情報に応じて前記歓声レベルの時間変化を示す歓声グラフと、前記拍手レベル情報に応じて前記拍手レベルの時間変化を示す拍手グラフとの２種類のグラフを、２次元の表示エリア内のレベル表示エリアに表示する映像コンテンツ情報表示手段であって、前記歓声グラフおよび拍手グラフの横軸は時間軸であり、縦軸は前記歓声レベルまたは前記拍手レベルであり、前記２種類のグラフの時間軸は前記映像コンテンツデータの開始位置から終端位置を表す、前記映像コンテンツ情報表示手段とを具備することを特徴とする電子機器。
［２］映像コンテンツデータに含まれるオーディオデータを解析し、前記映像コンテンツデータに含まれる歓声レベルと拍手レベルとを検出する手段を更に具備することを特徴とする［１］記載の電子機器。
［３］映像コンテンツ情報表示手段は、前記歓声レベルのゼロレベルと前記拍手レベルのゼロレベルとが同一になるように、前記歓声グラフおよび前記拍手グラフの一方を前記歓声グラフおよび前記拍手グラフの他方に重ねて表示することを特徴とする［１］または［２］のいずれか１項に記載の電子機器。
［４］前記レベル表示エリア内の前記時間軸上を移動するバーをユーザの入力操作に応じて移動させるための入力手段を更に具備し、
前記２次元の表示エリアは、前記レベル表示エリアの下方側または上方側の一方または両方に表示されるサムネイル画像表示エリアを有し、
前記映像コンテンツ情報表示手段は、前記バーが位置する前記時間軸上の位置に応じた前記映像コンテンツデータ内の代表画像を前記サムネイル画像表示エリアに表示することを特徴とする［１］乃至［３］のいずれか１項に記載の電子機器。
［５］前記サムネイル画像表示エリアは、前記時間軸方向に沿って複数の画像を表示するエリアであり、前記代表画像はオリジナルのアスペクト比で表示し、他の画像は横方向を縮小して表示することを特徴とする［４］記載の電子機器。
［６］前記映像コンテンツデータの再生を指示するイベントが入力された場合、前記バーが位置する時間位置に対応する時点もしくはその所定時間前の時点から前記映像コンテンツデータの再生を開始する再生処理手段を更に具備することを特徴とする［４］または［５］のいずれか１項に記載の電子機器。
［７］前記映像コンテンツデータに含まれるオーディオデータを分析し、前記映像コンテンツデータ内に含まれる、コマーシャル区間、音楽が流れている音楽区間、および人物によるトークが行われているトーク区間を含む複数の属性区間の内の少なくとも１つの所定属性区間の開始時点および終了時点を示す区間属性情報を生成する区間属性情報出力手段を更に具備し、
前記映像コンテンツ情報表示手段は、前記区間属性情報に基づいて、前記映像コンテンツデータの開始位置から終端位置までのシーケンス内における前記所定属性区間の位置を示すバー領域を含む区間バーを前記２次元の表示エリアに表示することを特徴とする［１］ないし［６］のいずれか１項に記載の電子機器。
［８］映像コンテンツデータに含まれるオーディオデータを解析し、前記映像コンテンツデータに含まれる歓声レベルの時間変化を示す歓声レベル情報、および前記映像コンテンツデータに含まれる拍手レベルの時間変化を示す拍手レベル情報を生成し、
前記歓声レベル情報に応じて前記歓声レベルの時間変化を示す歓声グラフと、前記拍手レベル情報に応じて前記拍手レベルの時間変化を示す拍手グラフとの２種類のグラフを、２次元の表示エリア内のレベル表示エリアに表示するシーン種類表示方法であって、
前記歓声グラフおよび拍手グラフの横軸は時間軸であり、縦軸は前記歓声レベルまたは前記拍手レベルであり、二つのグラフの時間軸は前記映像コンテンツデータの開始位置から終端位置を表すことを特徴とするシーン種類表示方法。
［９］レベル表示エリアには、前記歓声レベルのゼロレベルと前記拍手レベルのゼロレベルとが同一になるように、前記歓声グラフおよび前記拍手グラフの一方を前記歓声グラフおよび前記拍手グラフの他方に重ねて表示されていることを特徴とする［８］記載のシーン種類表示方法。
［１０］前記レベル表示エリア内には、ユーザの入力操作に応じて前記時間軸上を移動するバーが表示され、
前記バーが位置する前記時間軸上の位置に応じた前記映像コンテンツデータ内の代表画像を前記２次元の表示エリア内の前記サムネイル画像表示エリアに表示することを特徴とする［８］記載のシーン種類表示方法。
［１１］前記サムネイル画像表示エリアを、前記レベル表示エリアの下方側または上方側の一方または両方に表示し、
前記サムネイル画像表示エリアは、前記時間軸方向に沿って前記映像コンテンツデータに含まれる複数の画像を表示するエリアであり、前記代表画像はオリジナルのアスペクト比で表示し、他の画像は横方向を縮小して表示することを特徴とする［１０］記載のシーン種類表示方法。
［１２］前記バーが表示されている状態で、前記映像コンテンツデータの再生を指示するイベントが入力された場合、前記バーが位置する時間位置に対応する時点もしくはその所定時間前の時点から前記映像コンテンツデータの再生を開始することを特徴とする［１０］または［１１］のいずれか１項に記載のシーン種類表示方法。
［１３］前記映像コンテンツデータに含まれるオーディオデータを分析し、前記映像コンテンツデータ内に含まれる、コマーシャル区間、音楽が流れている音楽区間、および人物によるトークが行われているトーク区間を含む複数の属性区間の内の少なくとも１つの所定属性区間の開始時点および終了時点を示す区間属性情報を生成し、
前記区間属性情報に基づいて、前記映像コンテンツデータの開始位置から終端位置までのシーケンス内における前記所定属性区間の位置を示すバー領域を含む区間バーを前記２次元の表示エリアに表示することを特徴とする［８］ないし［１２］のいずれか１項に記載のシーン種類表示方法。
【図面の簡単な説明】
【０１１４】
【図１】本発明の一実施形態に係る電子機器の概観の例を示す斜視図。
【図２】同実施形態の電子機器のシステム構成の例を示すブロック図。
【図３】同実施形態の電子機器の顔画像一覧表示機能を説明するためのブロック図。
【図４】同実施形態の電子機器で用いられる区間属性情報（属性検出結果情報）の例を示す図。
【図５】同実施形態の電子機器で用いられるプログラムの機能構成を示すブロック図。
【図６】同実施形態の電子機器によって表示装置に表示されるインデキシングビュー画面の例を示す図。
【図７】同実施形態の電子機器によって表示装置に表示されるインデキシングビュー画面の例を示す図。
【図８】図６のインデキシングビュー画面内に含まれる顔サムネイル表示エリアの構成例を示す図。
【図９】図６のインデキシングビュー画面内に含まれる、顔サムネイル表示エリアとじゃばらサムネイル表示エリアとの関係を説明するための図。
【図１０】同実施形態の電子機器によって実行される顔画像一覧表示処理の手順の例を示すフローチャート。
【図１１】同実施形態の電子機器によって顔画像それぞれがカテゴリ別に分類された様子を示す図。
【図１２】同実施形態の電子機器によって実行される再生処理の手順の例を示すフローチャート。
【図１３】同実施形態の電子機器によって表示装置に表示されるインデキシングビュー画面の変形例を示す図。
【図１４】同実施形態の電子機器によって表示装置に表示されるインデキシングビュー画面の変形例を示す図。
【符号の説明】
【０１１５】
１０…電子機器（コンピュータ）、１１１Ａ…データベース、１１３…ビデオプロセッサ、１１７…ＴＶチューナ、３０１…顔画像一覧表示処理部、４０２…インデキシング制御部、４０３…再生処理部。
【図１】
0005057918.tif 000002
【図２】
0005057918.tif 000003
【図３】
0005057918.tif 000004
【図４】
0005057918.tif 000005
【図５】
0005057918.tif 000006
【図６】
0005057918.tif 000007
【図７】
0005057918.tif 000008
【図８】
0005057918.tif 000009
【図９】
0005057918.tif 000010
【図１０】
0005057918.tif 000011
【図１１】
0005057918.tif 000012
【図１２】
0005057918.tif 000013
【図１３】
0005057918.tif 000014
【図１４】
0005057918.tif 000015