(57)【特許請求の範囲】
【請求項１】
静止画像または動画像である映像のシーンの中から特定のシーンを検索する映像検索装置であって、
複数の静止画像または動画像を検索対象となる映像として記憶する映像記憶手段と、
前記映像記憶手段が記憶する映像における登場人物の顔の数、各登場人物の顔の位置、大きさおよび向きのデータのうちの少なくとも一部の時間経過に伴う変化量を用いて、前記映像のシーンの中から特定のシーンを検索する顔姿勢評価手段と、
前記映像記憶手段から読み込まれた各映像から、登場人物の顔の数、各登場人物の顔の位置、大きさおよび向きのデータのうちの少なくとも一部を顔姿勢データとして検出する顔姿勢検出手段と、
前記顔姿勢検出手段によって検出された顔姿勢データと比較される顔姿勢データである参照顔姿勢データを予め各シーンと対応させて記憶する参照顔姿勢記憶手段と、
利用者の操作に応じてシーンを指定するシーン指定手段と
を備え、
前記顔姿勢検出手段は、少なくとも一人の登場人物の顔の位置、大きさおよび向きのデータのうちの少なくとも一部のデータを、他の登場人物の顔に対する相対的な値として計算し、
前記顔姿勢評価手段は、前記顔姿勢検出手段によって検出された顔姿勢データと、前記シーン指定手段によって指定されたシーンに対応する参照顔姿勢データと、を比較することによって、前記各映像のシーンの中から指定されたシーンを検索する、
映像検索装置。
【請求項２】
前記顔姿勢検出手段は、シーンを写し出す学習用映像から参照顔姿勢データを検出し、前記参照顔姿勢データを、前記シーンと対応させて前記参照顔姿勢記憶手段に記憶させる、請求項１に記載の映像検索装置。
【請求項３】
コンピュータに、静止画像または動画像である映像のシーンの中から特定のシーンを検索させるための映像検索プログラムであって、
複数の静止画像または動画像を検索対象となる映像として記憶する映像記憶装置に記憶されている、映像における登場人物の顔の数、各登場人物の顔の位置、大きさおよび向きのデータのうちの少なくとも一部の時間経過に伴う変化量を用いて、前記映像のシーンの中から特定のシーンを検索する第１の手順と、
前記映像記憶装置から読み込まれた各映像から、登場人物の顔の数、各登場人物の顔の位置、大きさおよび向きのデータのうちの少なくとも一部を顔姿勢データとして検出する第２の手順と、
シーンを指定する第３の手順と、
をさらに備え、
前記第２の手順は、少なくとも一人の登場人物の顔の位置、大きさおよび向きのデータのうちの少なくとも一部のデータを、他の登場人物の顔に対する相対的な値として計算する手順を含み、
前記第１の手順は、前記第２の手順で検出された顔姿勢データと比較される顔姿勢データである参照顔姿勢データを予め各シーンと対応させて記憶する参照顔姿勢記憶装置が記憶している参照顔姿勢データのうち、指定されたシーンに対応する参照顔姿勢データと、前記第２の手順で検出された顔姿勢データと、を比較することによって、前記各映像のシーンの中から指定されたシーンを検索する手順を含む、
映像検索プログラム。
【請求項４】
前記第２の手順は、シーンを写し出す学習用映像から参照顔姿勢データを検出し、前記参照顔姿勢データを、前記シーンと対応させて前記参照顔姿勢記憶装置に記憶させる手順を含む、請求項３に記載の映像検索プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、静止画像または動画像である映像のシーンを分類する映像分類装置および映像分類プログラムと、映像のシーンの中から特定のシーンを検索する映像検索装置および映像検索プログラムに関する。
【背景技術】
【０００２】
近年、映像データのデジタル化が進みデータ圧縮技術や大容量の記憶装置が普及したことにより、大量の映像データを蓄積することが可能となり、そのなかから必要な映像を効率的に検索して閲覧する技術への需要が高まっている。【０００３】
従来から、画像の特徴をデータ化して画像特徴量により示し、画像特徴量を用いて各画像の類似性を判定し、また類似する画像を（例えば、蓄積されている画像の中から）検索する画像検索が行われており、そのためのさまざまな方法、装置、コンピュータプログラムが開発されている。【０００４】
従来の映像検索装置の一例が、特開２００１−１６７１１０号公報（以下、特許文献１と言う）に記載されている。図１は、特許文献１に記載されている映像検索装置の構成を示すブロック図である。顔画像取り込み部１２１は、入力された登場人物リスト（映像に登場する人物のリスト）に基づいて、登場人物の顔画像を記録している顔データベース１２０から顔画像を取り込み、この顔画像を顔データベース信号として出力する。特徴抽出部１２２は、顔データベース信号から特徴量を抽出し、特徴量信号を出力する。また、画像入力部１１１は、検索対象の映像を読み込み、映像をフレーム毎にフレーム信号として出力する。顔検出部１１２は、フレーム内の顔領域を検出して顔検出信号として出力する。登場人物識別部１２３は、顔検出信号とフレーム信号とを用いて顔領域を切り出す。さらに、特徴量信号を用いて、切り出された顔画像が、どの登場人物に最も類似するのかを求める。画像出力部１１３は、インタフェース１１８を介して、各フレームを登場人物毎にディスプレイ装置１１９に表示させる。このような映像検索装置では、映像に登場する人物毎に画像を検索することができる。例えば、有名な俳優や政治家等が登場している場面の検索を素早く行うことができ、映像編集者や検索者の負担を軽減することができる。【０００５】
しかし、特許文献１に記載の映像検索装置では、特定の登場人物が写っているシーンを分類または検索することはできるが、映像のシーンの内容によってシーンを分類または検索することができない。例えば、「人物Ａが写っているシーン」という登場人物を特定することによる検索は特許文献１に記載の映像検索装置では可能だが、特許文献１に記載の映像検索装置では登場人物が誰であるかに関係なく、内容が類似しているシーンを検索することはできない。具体的には、例えば、一日に放送された出演者の異なる複数のニュース番組映像から、キャスターとコメンテイターが会話しているシーンのみを検索することなどはできない。また、例えば、人物Ａが写っている映像の中から、さらに特定の内容のシーン（例えば、人物Ａが出演するドラマの中の重要なひとつのシーン）のみを絞り込み検索することなどはできない。この理由は、特許文献１に記載の映像検索装置では、映像に写っている登場人物が誰であるかという情報のみに基づいて映像を検索しているためである。
【発明の開示】
【０００６】
本発明の目的は、登場人物が誰であるかによらずに、映像のシーンの分類を行える映像分類装置および映像分類プログラムを提供することである。
【０００７】
本発明の他の目的は、利用者が興味を持っているシーンと類似するシーンを検索できる映像検索装置および映像検索プログラムを提供することである。
【０００８】
本発明による映像分類装置は、映像から登場人物の顔の数、各登場人物の顔の位置、大きさおよび向きのデータのうちの少なくとも一部を顔姿勢データとして検出する顔姿勢検出手段と、顔姿勢データを用いて映像のシーンを分類する顔姿勢評価手段とを備えている。
【０００９】
シーンと密接に関連している顔姿勢データにより映像のシーンを分類するので、登場人物が誰であるかによらずに、映像のシーンの分類を行うことができる。
【００１０】
映像分類装置は、顔姿勢検出手段によって検出された顔姿勢データと比較される顔姿勢データである参照顔姿勢データを予め各シーンと対応させて記憶する参照顔姿勢記憶手段をさらに備え、顔姿勢評価手段が、顔姿勢検出手段によって検出された顔姿勢データと、参照顔姿勢記憶手段が記憶する参照顔姿勢データとを比較することによって、顔姿勢データが検出された映像のシーンを分類するように構成されていてもよい。
【００１１】
顔姿勢検出手段は、シーンを写し出す学習用映像から参照顔姿勢データを検出し、参照顔姿勢データを、シーンと対応させて参照顔姿勢記憶手段に記憶させるように構成されていてもよい。
【００１２】
映像分類装置は、特定のシーンを写し出す参照映像から、顔姿勢検出手段によって検出された顔姿勢データと比較される顔姿勢データである参照顔姿勢データを検出する参照顔姿勢検出手段をさらに備え、顔姿勢評価手段が、顔姿勢検出手段によって検出された顔姿勢データと、参照顔姿勢検出手段によって検出された参照顔姿勢データとを比較することによって、顔姿勢データが検出された映像のシーンが特定のシーンと同種のシーンに分類されるか否かを判定するように構成されていてもよい。この構成によれば、シーン毎の参照顔姿勢データを予め定めて記憶しておく必要がない。
【００１３】
映像分類装置は、分類される各シーンでの顔姿勢データが満たす条件を予め各シーンと対応させて記憶する参照条件記憶手段をさらに備え、顔姿勢評価手段が、顔姿勢検出手段によって検出された顔姿勢データが、参照条件記憶手段が記憶する条件のうちのどのシーンに対応する条件を満たしているかを判定することによって、顔姿勢データが検出された映像のシーンを分類するように構成されていてもよい。
【００１４】
顔姿勢検出手段が、少なくとも一人の登場人物の顔の位置、大きさおよび向きのデータのうちの少なくとも一部のデータを、他の登場人物の顔に対する相対的な値として計算するように構成されていてもよい。この構成によれば、撮影される登場人物の位置関係が同様のシーンならば、そのシーンを撮影するカメラの位置等に依らず、同種のシーンとして分類することができる。
【００１５】
顔姿勢検出手段が、映像が動画像である場合に、登場人物の顔の数、各登場人物の顔の位置、大きさおよび向きのデータのうちの少なくとも一部の時間経過に伴う変化量を顔姿勢データとして検出するように構成されていてもよい。
【００１６】
また、本発明による映像検索装置は、複数の静止画像または動画像を検索対象となる映像として記憶する映像記憶手段と、映像記憶手段が記憶する映像における登場人物の顔の数、各登場人物の顔の位置、大きさおよび向きのデータのうちの少なくとも一部を用いて、映像のシーンの中から特定のシーンを検索する顔姿勢評価手段とを備えている。
【００１７】
映像検索装置は、映像記憶手段から読み込まれた各映像から、登場人物の顔の数、各登場人物の顔の位置、大きさおよび向きのデータのうちの少なくとも一部を顔姿勢データとして検出する顔姿勢検出手段と、顔姿勢検出手段によって検出された顔姿勢データと比較される顔姿勢データである参照顔姿勢データを予め各シーンと対応させて記憶する参照顔姿勢記憶手段と、利用者の操作に応じてシーンを指定するシーン指定手段とをさらに備え、顔姿勢評価手段が、顔姿勢検出手段によって検出された顔姿勢データと、指定されたシーンに対応する参照顔姿勢データとを比較することによって、各映像のシーンの中から指定されたシーンを検索するように構成されていてもよい。この構成によれば、利用者が興味を持っているシーンと類似するシーンを検索できる。
【００１８】
顔姿勢検出手段は、シーンを写し出す学習用映像から参照顔姿勢データを検出し、参照顔姿勢データを、シーンと対応させて参照顔姿勢記憶手段に記憶させるように構成されていてもよい。
【００１９】
映像検索装置は、映像記憶手段が、各映像のシーンと対応させて、各映像における登場人物の顔の数、各登場人物の顔の位置、大きさおよび向きのデータのうちの少なくとも一部を顔姿勢データとして記憶し、映像記憶手段から読み込まれる各顔姿勢データと比較される顔姿勢データである参照顔姿勢データを予め各シーンと対応させて記憶する参照顔姿勢記憶手段と、利用者の操作に応じてシーンを指定するシーン指定手段とをさらに備え、顔姿勢評価手段が、映像記憶手段から読み込まれる各顔姿勢データと、指定されたシーンに対応する参照顔姿勢データとを比較することによって、各映像のシーンの中から指定されたシーンを検索するように構成されていてもよい。この構成によれば、利用者が興味を持っているシーンと類似するシーンを検索できる。
【００２０】
映像検索装置は、映像記憶手段から読み込まれた各映像から、登場人物の顔の数、各登場人物の顔の位置、大きさおよび向きのデータのうちの少なくとも一部を顔姿勢データとして検出する顔姿勢検出手段と、特定のシーンを写し出す参照映像から、顔姿勢検出手段によって検出された顔姿勢データと比較される顔姿勢データである参照顔姿勢データを検出する参照顔姿勢検出手段とをさらに備え、顔姿勢評価手段が、顔姿勢検出手段によって検出された顔姿勢データと、参照顔姿勢検出手段によって検出された参照顔姿勢データとを比較することによって、各映像のシーンの中から特定のシーンを検索するように構成されていてもよい。この構成によれば、シーン毎の参照顔姿勢データを予め定めて記憶しておく必要がない。
【００２１】
映像検索装置は、映像記憶手段が、各映像のシーンと対応させて、各映像における登場人物の顔の数、各登場人物の顔の位置、大きさおよび向きのデータのうちの少なくとも一部を顔姿勢データとして記憶し、特定のシーンを写し出す参照映像から、映像記憶手段から読み込まれる各顔姿勢データと比較される顔姿勢データである参照顔姿勢データを検出する参照顔姿勢検出手段をさらに備え、顔姿勢評価手段が、映像記憶手段から読み込まれる各顔姿勢データと、参照顔姿勢検出手段によって検出された参照顔姿勢データとを比較することによって、各映像のシーンの中から特定のシーンを検索するように構成されていてもよい。この構成によれば、シーン毎の参照顔姿勢データを予め定めて記憶しておく必要がない。
【００２２】
映像検索装置は、映像記憶手段から読み込まれた各映像から、登場人物の顔の数、各登場人物の顔の位置、大きさおよび向きのデータのうちの少なくとも一部を顔姿勢データとして検出する顔姿勢検出手段と、検索する特定のシーンにおける顔姿勢データが満たす条件を記憶する参照条件記憶手段とをさらに備え、顔姿勢評価手段が、顔姿勢検出手段によって検出された顔姿勢データの中から、参照条件記憶手段が記憶する条件を満たす顔姿勢データを検索することによって、各映像のシーンの中から特定のシーンを検索するように構成されていてもよい。
【００２３】
映像検索装置は、参照条件記憶手段が、各シーンにおける顔姿勢データが満たす条件を、シーン毎に記憶し、利用者の操作に応じてシーンを指定するシーン指定手段をさらに備え、顔姿勢評価手段が、顔姿勢検出手段によって検出された顔姿勢データの中から、指定されたシーンに対応する条件を満たす顔姿勢データを検索することによって、各映像のシーンの中から指定されたシーンを検索するように構成されていてもよい。この構成によれば、利用者が興味を持っているシーンと類似するシーンを検索できる。
【００２４】
映像検索装置は、映像記憶手段が、各映像のシーンと対応させて、各映像における登場人物の顔の数、各登場人物の顔の位置、大きさおよび向きのデータのうちの少なくとも一部を顔姿勢データとして記憶し、検索する特定のシーンにおける顔姿勢データが満たす条件を記憶する参照条件記憶手段をさらに備え、顔姿勢評価手段が、映像記憶手段から読み込まれる各顔姿勢データの中から、参照条件記憶手段が記憶する条件を満たす顔姿勢データを検索することによって、各映像のシーンの中から特定のシーンを検索するように構成されていてもよい。
【００２５】
映像検索装置は、参照条件記憶手段が、各シーンにおける顔姿勢データが満たす条件を、シーン毎に記憶し、利用者の操作に応じてシーンを指定するシーン指定手段をさらに備え、顔姿勢評価手段が、映像記憶手段から読み込まれる各顔姿勢データの中から、指定されたシーンに対応する条件を満たす顔姿勢データを検索することによって、各映像のシーンの中から指定されたシーンを検索するように構成されていてもよい。この構成によれば、利用者が興味を持っているシーンと類似するシーンを検索できる。
【００２６】
顔姿勢検出手段が、少なくとも一人の登場人物の顔の位置、大きさおよび向きのデータのうちの少なくとも一部のデータを、他の登場人物の顔に対する相対的な値として計算するように構成されていてもよい。この構成によれば、撮影される登場人物の位置関係が同様のシーンならば、そのシーンを撮影するカメラの位置等に依らず、同種のシーンとして検索することができる。
【００２７】
顔姿勢検出手段が、映像が動画像である場合に、登場人物の顔の数、各登場人物の顔の位置、大きさおよび向きのデータのうちの少なくとも一部の時間経過に伴う変化量を顔姿勢データとして検出するように構成されていてもよい。
【００２８】
シーンと密接に関連している顔姿勢データにより映像のシーンを検索するので、登場人物が誰であるかによらずに、映像のシーンの検索を行うことができる。
【００２９】
本発明は、映像をそのシーンの内容に応じて分類、認識する映像分類装置、指定されたシーン内容を含む映像をデータベースから検索する映像検索装置、大量の映像を録画、記憶しその中から利用者が必要な映像を自動的に再生、表示する映像再生表示装置、映像全体から重要と考えられる部分のみを検索、抽出することで映像を要約する映像要約装置等に適用可能である。また、本発明によりシーンが分類、検索される映像は、例えば、テレビジョン放送や映画の映像であってもよいし、あるいは写真等の静止画像であってもよい。
【図面の簡単な説明】
【００３０】
【図１】映像検索装置の従来例のブロック図である。
【図２】本発明の第１の実施形態による映像分類装置を示すブロック図である。
【図３】顔姿勢検出部の構成例を示すブロック図である。
【図４】顔姿勢検出部による処理を示す説明図である。
【図５】第１の実施形態の映像分類装置の動作を示すフローチャートである。
【図６】第１の実施形態の第１の変形例を示すブロック図である。
【図７】第１の実施形態の第２の変形例を示すブロック図である。
【図８】本発明の第２の実施形態による映像検索装置を示すブロック図である。
【図９】第２の実施形態の第１の変形例を示すブロック図である。
【図１０】第２の実施形態の第２の変形例を示すブロック図である。
【図１１】第２の実施形態の第３の変形例を示すブロック図である。
【図１２】本発明の第３の実施形態による映像検索装置を示すブロック図である。
【図１３】第３の実施形態の変形例を示すブロック図である。
【図１４】本発明の第４の実施形態による映像分類装置のブロック図である。
【図１５】各種シーンの例を示す説明図である。
【図１６】本発明の第５の実施形態による映像検索装置のブロック図である。
【図１７】準備処理における学習用映像や参照顔姿勢データの流れを示す説明図である。
【図１８】準備処理の処理経過の例を示すフローチャートである。
【図１９】本発明の第６の実施形態による映像検索装置のブロック図である。
【発明を実施するための最良の形態】
【００３１】
第１の実施の形態
図２を参照すると、本発明の第１の実施形態による映像分類装置は、映像入力部１１と顔姿勢検出部１２と顔姿勢評価部１３と参照顔姿勢記憶部１４とを備える。【００３２】
映像入力部１１は、シーン（場面）が分類される映像を入力する。映像入力部１１が入力する映像は、静止画像であっても動画像であってもよい。映像入力部１１は、映像が複数の異なるシーンを含んでいる場合に（例えば、動画像においてシーンが切り替わる場合に）、入力した映像をシーン毎に分割してもよい。顔姿勢検出部１２および顔姿勢評価部１３は、シーン毎に分割された映像に対して後述する処理を行ってもよい。なお、映像をシーン毎に分割する処理を、顔姿勢検出部１２が行ってもよい。また、映像入力部１１は、予めシーン毎に分割された映像を入力してもよい。なお、シーンの分割（分割点の検出）には様々な公知技術が利用可能であるが、一例として、特許第２８３９１３２号公報に記載の技術を利用可能である。【００３３】
映像入力部１１は、放送される映像信号を受信する受信装置や、映像を記憶した映像記憶装置から映像を読み込む装置などによって実現される。【００３４】
顔姿勢検出部１２は、シーンが分類される映像から顔姿勢データを検出する。顔姿勢データは、登場人物の顔の数、各登場人物の顔の位置、大きさおよび向きのデータ、またはこれらのデータのうちの一部のデータである。また、映像が動画像である場合には、登場人物の顔の数、各登場人物の顔の位置、大きさおよび向きのデータ、またはこれらのデータのうちの一部の時間経過に伴う変化量も顔姿勢データに該当する。【００３５】
図３に示すように、顔姿勢検出部１２は顔領域検出部２１と検出部２２とを含む。【００３６】
顔領域検出部２１は、入力された映像から人物の顔を写す部分領域（以下、顔領域と記す。）を抽出する。これには様々な公知技術が利用可能であるが、一例として、特開２００３−１７８３０４号公報に記載の技術が利用可能である。同公報の段落００３２には、肌色に指定した色と近い色を持つ画素を取り出して肌色領域を抽出し、さらに、髪に指定した色と近い色を持つ画素を取り出して髪領域を抽出することによって、顔領域を検出する技術が記載されている。なお、同公報に記載の技術では、画像から色情報を利用して顔領域を抽出し、その後顔パーツ抽出と人物認識を行うが、本発明においては人物認識を行う必要はなく、顔領域を抽出するだけでよい。なお、特開２００３−１７８３０４号公報に記載の技術以外の他の技術によって顔領域を抽出してもよい。【００３７】
顔領域検出部２１は、映像中に写される登場人物が複数存在する場合、複数の顔領域を抽出する。図４（ａ）は、入力された映像の例を示している。図４（ｂ）は、顔領域検出部２１によって抽出された顔領域の例を示している。【００３８】
検出部２２は、顔領域検出部２１によって検出されたそれぞれの顔領域において、映像に写っている人物の顔の姿勢（顔の位置や向き）を、人物が誰であるかに関係なく検出する。顔の姿勢を検出する処理には、顔の姿勢を検出する公知の方法を適用すればよい。例えば、一例として「石山塁、外２名、“３Ｄアピアランスモデルを用いた高速・高精度な顔姿勢推定”、２００４年電子情報通信学会総合大会予稿集、Ｄ−１２−９９（以下、文献１と記す。）」に記載の顔姿勢推定技術を利用可能である。この文献１に記載の顔姿勢推定技術は、任意の姿勢および照明条件における顔画像を生成できる３次元見えモデルを使って、顔画像から顔の３次元的な位置・姿勢を求める技術である。文献１に記載の技術が用いている「任意の姿勢および照明条件における顔画像を生成できる３次元見えモデル」については、「石山塁、外２名、“3D物体表面上での見えモデル構築による姿勢と照明の変動に頑強な顔照合”、情報処理学会研究報告、2003-CVIM-139、２００３年７月４日、pp.  61-68（以下、文献２と記す。）」に記載されている。もし、映像における登場人物が誰であるかが既知であり、その人物の３次元顔形状データを入手可能である場合には、文献１および文献２に記載の技術そのまま本発明に用いることができる。しかし、本発明では、登場人物が未知であり、登場人物の３次元形状データも入手できない場合にも顔の位置と姿勢の推定を可能とするために次のような技術を利用する。すなわち、人間の顔の平均的な３次元形状データと顔表面各点の輝度画像を用意しておき、これらを用いて文献２に記載の技術により、平均的な顔の任意の姿勢・照明条件における画像を生成可能なモデル（平均顔モデル）を生成する。この平均顔モデルを文献１に記載の技術において利用することにより、映像における登場人物が未知であっても、顔の位置と姿勢を推定することが可能になる。【００３９】
ここにあげた検出部２２に利用可能な技術はあくまで一例であり、他の技術によって顔の姿勢を検出してもよい。例えば、特開２００３−２８１５４９号公報の段落００３８、００３９に記載の技術によって顔の姿勢を検出してもよい。【００４０】
検出部２２は、入力された映像が動画像である場合には、各フレームの画像毎にこの姿勢推定処理を行い、時系列の顔姿勢データを得る。フレームは、動画像に含まれる静止画像である。例えば、ＮＴＳＣ（National  Television  System  Committee）の規格に従う映像信号では、１秒間に３０の静止画像が伝達される。この例では、１／３０秒毎に伝送される各静止画像がフレームとなる。【００４１】
また、検出部２２は、登場人物が複数存在する場合には、各登場人物の顔の姿勢をそれぞれ検出し、人数（すなわち顔の数）と各登場人物の顔姿勢をまとめて顔姿勢データとする。また、検出部２２は、各登場人物の顔の大きさを検出し、顔の大きさのデータを顔姿勢データに含めてもよい。【００４２】
図４（Ｃ）は、検出部２２によって検出された顔姿勢データの例を示している。図４（Ｃ）において、座標（ｘ１，ｙ１），（ｘ２，ｙ２）は、顔の位置を示す。また、ベクトルＲ１，Ｒ２は、顔の向きを示す。また、ｚ１，ｚ２は、顔の大きさを示す値である。【００４３】
また、入力される映像が動画像でシーン毎の分割がされていない場合、顔姿勢検出部１２に含まれる検出部２２がシーン分割処理を行うことも可能である。例えば、検出部２２が検出した時系列の姿勢データに対し、検出部２２がフレーム毎に差分を計算し、姿勢データの差分が大きいフレーム（一例として、登場人物の数が変化する、顔の位置や向きが大きく変化しているフレーム）があればそこでシーンを分割する。顔姿勢評価部１３は、差分が大きく変化するフレームの直前までのフレームに対して、後述する処理（後述の類似度を計算する処理）を行えばよい。【００４４】
参照顔姿勢記憶部１４は、分類の区分となる各種シーン毎に、シーンと対応させて顔姿勢データを予め記憶する記憶装置である。参照顔姿勢記憶部１４に記憶された顔姿勢データは、顔姿勢検出部１２で検出された顔姿勢データと比較され、顔姿勢検出部１２で検出された顔姿勢データがどの区分のシーンに分類するのかを判定するために用いられる。以下、シーンの分類対象となる映像から検出された顔姿勢データと比較される顔姿勢データを、シーンの分類対象となる映像から検出された顔姿勢データと区別して、参照顔姿勢データと記す。本実施形態において、参照顔姿勢データは、顔姿勢検出部１２により顔姿勢データが検出された映像のシーンを、どの区分のシーンに分類するのかを判定するために用いられる。【００４５】
参照顔姿勢記憶部１４に参照顔姿勢データを記憶させる態様として、例えば、以下の態様がある。分類の区分となる各種シーンそれぞれについて予め用意された映像（以下、学習用映像と記す。）を入力する。そして、顔姿勢検出部１２が、学習用映像から参照顔姿勢データを検出し、学習用映像のシーンと対応させて参照顔姿勢記憶部１４に記憶させる。このとき、例えば、映像入力部１１が学習用映像を入力してもよい。この場合、映像入力部１１が、学習用映像入力手段としての役割も果たす。また、映像入力部１１とは別個に、学習用映像を入力する学習用映像入力手段を備えていてもよい。【００４６】
また、学習用映像を入力して、学習用映像から参照顔姿勢データを検出するのではなく、予め人手によって各シーンに対応する参照顔姿勢データを決定し、シーンと対応させてその参照顔姿勢データを参照顔姿勢記憶部１４に記憶させてもよい。【００４７】
顔姿勢評価部１３は、シーンが分類される映像から検出された顔姿勢データと、参照顔姿勢記憶部１４に記憶されている各参照顔姿勢データとの類似度を計算する。顔姿勢評価部１３は、顔姿勢データが検出された映像（すなわち入力された映像）のシーンを、その顔姿勢データとの類似度が最も高い参照顔姿勢データに対応するシーンとして分類する。そして、入力された映像のシーンが、どのシーンに分類されたのかを、シーン分類結果５１として出力する。シーン分類結果５１の出力態様として、例えば、分類した各シーンをディスプレイ装置に表示してもよい。また、例えば、分類した各シーンを記憶装置に記憶させてもよい。この場合、記憶させた各シーンを後で再生してディスプレイ装置に表示させてもよい。【００４８】
顔姿勢データのパラメータの設定と類似度の計算には様々な手法が利用可能である。一例としては、画像上での顔の位置（ｘ，ｙ）と顔の大きさｚを要素とする３次元ベクトルＴと、顔の向きを表す３次元方向ベクトルＲ（この例では顔向き方向を軸とした回転は無視する）を合わせて顔姿勢データとして用いる。映像の第ｔフレーム（静止画像の場合パラメータｔは不要）の顔姿勢データのうち、顔の位置および大きさを要素とする３次元ベクトルをＴｑ（ｔ）と表す。また、映像の第ｔフレームの顔姿勢データのうち、顔の向きを表す３次元ベクトルをＲｑ（ｔ）と表す。ただし、Ｔｑ（ｔ）、Ｒｑ（ｔ）のノルムは１である。また、分類の区分となる各種シーンのうちの一つをシーンｉとする。シーンｉに対応する参照顔姿勢データのうち、顔の位置および大きさを要素とする３次元ベクトルをＴｉ（ｔ）と表す。シーンｉに対応する参照顔姿勢データのうち、顔の向きを表す３次元ベクトルをＲｉ（ｔ）と表す。この場合、入力された映像のシーンと、シーンｉとの類似度は、例えば、以下の式１によって得られる重み付き和の逆数として表すことができる。【００４９】
【数１】
0004973188.tif 000002
式１において、ａ，ｂは、それぞれ顔の位置および大きさと、顔の向きのどちらをどの程度重視して類似度を決定するのかを定める重み定数であり、ともに任意に定めることができる。なお、式１におけるＲｑ（ｔ）・Ｒｉ（ｔ）は、ノルム１のベクトルの内積なので−１から＋１の値をとる。【００５０】
ここでは、式１の逆数を類似度とする場合を示したが、式１は、類似度の算出するための式の一例である。顔の位置や向きのパラメータと類似度の計算式は様々に変更可能である。すなわち、類似度の計算式は特定の式に限定されるわけではない。また、この例のように類似度を数値として計算するのではなく、顔姿勢データを特徴量として用いることによりシーン分類毎のクラス分けを行うパターン認識の様々な手法を適用することも可能である。【００５１】
顔領域検出部２１と検出部２２とを含む顔姿勢検出部１２および顔姿勢評価部１３の処理は、例えば、プログラムに従って動作するコンピュータのＣＰＵによって実行される。顔姿勢検出部１２および顔姿勢評価部１３の処理は、同一のＣＰＵによって実行されていてもよい。【００５２】
図５は、第１の実施形態の映像分類装置の動作を示すフローチャートである。ここでは、予めシーン毎に分割された映像が入力され、入力された映像のシーンがどのシーンに分類されるのかを判定するものとする。ステップ１０１に、映像入力部１１は、シーンの分類対象となる映像を映像分類装置にデータとして取り込む。ステップ１０２に、顔姿勢検出部１２における顔領域検出部２１が、ステップ１０１で入力された映像中に写っている登場人物の顔の領域を検出する。このとき、顔領域検出部２１は、登場人物が複数写っている場合には、各登場人物に対応させて複数の顔領域を検出する。ステップ１０３に、顔姿勢検出部１２における検出部２２が、検出された各顔領域において、顔の位置および姿勢の検出を行う。このとき、顔の大きさのデータを検出してもよい。検出部２２は、以上により検出された登場人物の数、それぞれの顔の位置、向き、大きさ、あるいはこれらのデータのうちの一部を顔姿勢データとして顔姿勢評価部１３に渡す。顔姿勢評価部１３は、ステップ１０４に、分類の区分となる各シーンに対応する参照顔姿勢データを参照顔姿勢記憶部１４から読み出す。続いて、顔姿勢評価部１３は、ステップ１０５に、顔姿勢データをそれぞれの参照顔姿勢データと比較して類似度を計算し、参照顔姿勢データに対応する各シーンのうち、入力された映像のシーンと最も類似度が高いシーンを特定する。そして、顔姿勢評価部１３は、ステップ１０６に、入力された映像のシーンは、最も類似度が高いシーンとして特定されたシーンと同種のシーンであると分類し、入力された映像のシーンがどのシーンに分類されたのかを、シーン分類結果５１として出力する。【００５３】
本実施形態では、登場人物が誰であるかを認識するのではなく、映像シーンの内容と密接に関連している登場人物の顔姿勢データを検出しこれを用いて、入力された映像のシーンを分類する。したがって、映像中の登場人物が誰であるかに関係なく映像シーンの内容に基づいて映像を分類することができる。【００５４】
次に、第１の実施形態の変形例について説明する。図６は第１の変形例を示すブロック図である。本変形例では、図２に示す参照顔姿勢記憶部１４の代わりに、参照条件記憶部１５を備えている。参照条件記憶部１５は、分類の区分となる各種シーン毎に、シーンと対応させて、そのシーンでの顔姿勢データが満たす条件を記憶する記憶装置である。すなわち、参照顔姿勢記憶部１４が顔姿勢データを記憶するのに対し、参照条件記憶部１５は、各シーンでの顔姿勢データが満たす条件を記憶する。このような構成の場合、顔姿勢評価部１３は、ステップ１０４で、各シーンでの顔姿勢データが満たす条件を参照条件記憶部１５から読み出す。そして、顔姿勢評価部１３は、ステップ１０５で、検出部２２から渡された顔姿勢データ（すなわち入力された映像から検出された顔姿勢データ）が、どのシーンに対応する条件を満たしているかを判定する。すなわち、顔姿勢評価部１３は、ステップ１０４で読み出した各条件のうち、顔姿勢データが満たしている条件を特定し、入力された映像のシーンは、その条件に対応するシーンに分類されると判定する。そして、入力された映像のシーンがどのシーンに分類されたのかを、シーン分類結果５１として出力する。【００５５】
図７は第２の変形例を示すである。本変形例は、図２に示す参照顔姿勢記憶部１４の代わりに、参照映像を入力する参照映像入力部１６と、参照映像から参照顔姿勢データを検出する参照顔姿勢検出部１７を備える。参照顔姿勢検出部１７は、顔姿勢検出部１２が分類対象となる映像から顔姿勢データを検出するのと同様に、参照映像から参照顔姿勢データを検出すればよい。また、顔姿勢評価部１３は、シーンの分類対象となる映像から検出された顔姿勢データと、参照映像から検出された参照顔姿勢データとの類似度を判定する。そして、顔姿勢評価部１３は、その類似度に基づいて、分類対象となる映像のシーンが、参照映像が写し出す特定のシーンと同種のシーンであるか否かを判定する。類似度が、予め定められた閾値以上であるならば、分類対象となる映像のシーンを、参照映像が写し出す特定のシーンと同種のシーンとして分類する。類似度が閾値未満であるならば、分類対象となる映像のシーンを、参照映像が写し出す特定のシーンとは異なるシーンとして分類する。【００５６】
この変形例では、予めシーン毎に参照顔姿勢データを記憶装置に記憶させておく必要がない。利用者は参照映像を入力するだけで、映像入力部１１に入力された映像のシーンを、参照映像と同種のシーンおよび参照映像とは異なるシーンに分類することができる。【００５７】
なお、参照映像入力部１６は、例えば、参照映像を記憶した参照映像記憶装置から参照映像を読み込む装置などによって実現される。参照顔姿勢検出手段１７の処理は、例えば、プログラムに従って動作するコンピュータのＣＰＵによって実行されるものでもよい。【００５８】
また、第１の実施形態において、登場人物が複数存在する場合、顔姿勢検出部１２における検出部２２は、ある一人の登場人物の顔姿勢データを、他の登場人物に対する相対的な値として計算してもよい。例えば、二人の顔が互いに向き合っている場合、一人の顔から、もう一人の顔に向かうベクトルを、顔の向きとして計算してもよい。【００５９】
顔姿勢データを他の登場人物に対する相対的な値として計算する登場人物は、一人であってもよい。また、登場人物全員あるいは登場人物の一部について、顔姿勢データを他の登場人物に対する相対的な値として計算してもよい。【００６０】
登場人物の顔姿勢データを、他の登場人物に対する相対的な値として計算する態様として、例えば、以下のような態様が挙げられる。例えば、ある基準となる登場人物（登場人物Ａとする。）を定めておき、他の全ての登場人物（登場人物Ｂ、Ｃ、Ｄ、・・・とする。）の顔姿勢データを、基準となる登場人物Ａに対する相対的な値として定めてもよい。また、顔姿勢データを計算する登場人物毎に、基準となる人物を変更してもよい。例えば、登場人物として、Ａ〜Ｄの４人が映像中に表れるとする。このとき、登場人物Ａの顔姿勢データを計算するときには、登場人物Ｂに対する相対的な値として計算し、登場人物Ｃの顔姿勢データを計算するときには、登場人物Ｄに対する相対的な値として計算してもよい。【００６１】
顔姿勢データのうち、顔の位置を他の登場人物（基準となる登場人物）に対する相対的な値として計算する場合、例えば、基準となる人物の顔の位置が原点となる座標系における顔の位置座表を計算すればよい。【００６２】
顔姿勢データのうち、顔の大きさを他の登場人物（基準となる登場人物）に対する相対的な値として計算する場合、例えば、基準となる人物の顔の大きさを１（１でなくてもよい。）とした場合における顔の大きさを計算すればよい。【００６３】
顔姿勢データのうち、顔の向きを他の登場人物（基準となる登場人物）に対する相対的な値として計算する場合、例えば、基準となる人物の顔の向きのベクトルと、顔姿勢データを計算している登場人物の顔の向きのベクトルとの角度を計算し、その角度を、顔の向きの相対的な値とすればよい。【００６４】
一般に、顔の位置や向き等を検出する場合、顔の位置や向き等は、登場人物とは独立なある特定の座標系における絶対的な値として計算される。この座標系は、例えば、撮影しているカメラの位置や向きを基準とする場合が多い。このような場合、例えば、撮影される登場人物の顔の向きが同じシーンであっても、登場人物を撮影するカメラの位置や向きが異なる場合には、異なる顔の位置や向きが検出されることになる。この結果、撮影される登場人物の顔の向きが同じシーンであっても、同種のシーンとして分類できない。【００６５】
しかし、顔の位置、大きさ、および向きまたはこれらデータの一部を、他の登場人物の顔に対する相対的な値として計算する場合には、計算される値は、カメラの位置や向きに依らない。したがって、撮影される登場人物の位置関係が同様のシーンならば、そのシーンを撮影するカメラの位置等に依らず、同種のシーンとして分類することができる。この場合も基準とする人物を誰にするかによって、計算値が異なってくるが、例えば、基準となる人物を任意に換えて計算し直せば、同種のシーンであるかどうかを用意に判定することができる。【００６６】
第２の実施形態
第２の実施形態による映像検索装置は、指定されたシーンと同種のシーンを写す映像を映像データベースから検索するもので、図８に示すように、図２に示す第１の実施の形態の構成に加えて、映像データベース１８とシーン指定部１９とを備えている。【００６７】
映像データベース１８は、検索対象となる様々な映像を記憶する記憶装置である。映像データベース１８が記憶する映像は、複数の静止画像や動画像である。【００６８】
映像入力部１１は、映像データベース１８に記憶されている検索対象となる各映像（映像群）を読み取り、顔姿勢検出部１２に渡す。【００６９】
顔姿勢検出部１２は、映像入力部１１を介して、映像データベース１８に記憶されている各検索対象映像を読み込む。そして、顔姿勢検出部１２は、読み込んだ各検索対象映像から、登場人物の顔姿勢データを検出する。顔姿勢検出部１２が、各検索対象映像から顔姿勢データを検出する処理は、第１の実施の形態で示した顔姿勢検出部１２が顔姿勢データを検出する処理と同様である。顔姿勢検出部１２は、各映像から検出した各顔姿勢データ（顔姿勢データ群）を顔姿勢評価部１３に渡す。【００７０】
シーン指定部１９は、各種シーンの中から、利用者の操作に応じてシーンを指定する。シーン指定部１９は、例えば、キーボードやマウス等のユーザインタフェース機器およびプログラムに従って動作するＣＰＵによって実現されてもよい。【００７１】
参照顔姿勢記憶部１４は、第１の実施の形態と同様に、各種シーン毎に、シーンと対応させて参照顔姿勢データを予め記憶する。参照顔姿勢記憶部１４に参照顔姿勢データを記憶させる態様も第１の実施の形態と同様である。すなわち、学習用映像入力手段（図示せず）が学習用映像を入力し、顔姿勢検出部１２が、学習用映像から参照顔姿勢データを検出し、学習用映像のシーンと対応させて参照顔姿勢記憶部１４に記憶させてもよい。また、予め人手によって各シーンに対応する参照顔姿勢データを決定し、シーンと対応させてその参照顔姿勢データを参照顔姿勢記憶部１４に記憶させてもよい。参照顔姿勢記憶部１４は、シーン指定部１９が指定したシーンに対応する参照顔姿勢データを顔姿勢評価部１３に渡す。この結果、顔姿勢評価部１３はシーン指定部１９が指定したシーンに対応する参照顔姿勢データを読み込む。【００７２】
顔姿勢評価部１３は、各検索対象映像から検出された各顔姿勢データ毎に、参照顔姿勢記憶部１４からの参照顔姿勢データとの類似度を計算する。顔姿勢評価部１３による類似度の計算は、例えば、第１の実施の形態で示した類似度の計算と同様に行えばよい。ただし、既に説明したように、類似度の計算に用いる式は特定の式に限定されるわけではない。顔姿勢評価部１３は、算出した類似度が予め定めた閾値以上の場合には、顔姿勢データが検出された映像のシーンは、指定されたシーンと同種のシーンであると判定する。また、算出した類似度が閾値未満の場合には、顔姿勢データが検出された映像のシーンは、指定されたシーンとは異なるシーンであると判定する。顔姿勢評価部１３は、各検索対象映像から検出された各顔姿勢データ毎に参照顔姿勢データとの類似度の判定を行い、指定されたシーンと同種のシーンと判定されたシーンを検索結果５２として出力する。検索結果５２の出力態様として、例えば、検索したシーンをディスプレイ装置に表示してもよい。また、例えば、検索したシーンを記憶装置に記憶させてもよい。この場合、記憶させたシーンを後で再生してディスプレイ装置に表示させてもよい。【００７３】
本実施形態では、映像データベース１８に蓄積されている多種多様な映像から、利用者の指定した映像シーンについて予め設定された参照顔姿勢データと登場人物の顔の位置や姿勢が類似した映像を抽出するように構成されている。従って、映像シーンの内容が類似している映像を検索することができる。【００７４】
なお、第１の実施形態と同様に、顔姿勢検出部１２は、映像が動画像である場合には、登場人物の顔の数、各登場人物の顔の位置、大きさおよび向きのデータ、またはこれらのデータのうちの一部の時間経過に伴う変化量を顔姿勢データとして顔姿勢評価部１３に渡してもよい。【００７５】
また、登場人物が複数存在する場合、顔姿勢検出部１２は、ある一人の登場人物の顔姿勢データを、他の登場人物に対する相対的な値として計算してもよい。例えば、二人の顔が互いに向き合っている場合、一人の顔から、もう一人の顔に向かうベクトルを、顔の向きとして計算してもよい。登場人物の顔姿勢データを、他の登場人物に対する相対的な値として計算する場合、第１の実施形態と同様に計算すればよい。【００７６】
既に説明したように、顔の位置、大きさ、および向きまたはこれらデータの一部を、他の登場人物の顔に対する相対的な値として計算する場合には、計算される値は、カメラの位置や向きに依らない。従って、撮影される登場人物の位置関係が同様のシーンならば、そのシーンを撮影するカメラの位置等に依らず、同種のシーンとして検索することができる。顔姿勢データを他の登場人物に対する相対的な値として計算しない場合には、撮影される登場人物の位置関係が同様のシーンであったとしても、カメラの位置や向きによって、異なるシーンと判定され、検索対象から外される場合がある。【００７７】
次に、第２の実施形態の変形例について説明する。図９は、第２の実施形態の第１の変形例を示すブロック図である。図８に示す構成では、映像データベース１８が各検索対象映像を記憶し、顔姿勢検出部１２がその各検索対象映像から顔姿勢データを検出する。これに対し、図９に示す変形例では、映像データベース１８は、各検索対象映像と対応させて、予め各索対象映像における顔姿勢データを記憶しておく。データ入力部３０は、映像データベース１８から、各検索対象映像に対応する顔姿勢データ（顔姿勢データ群）を読み取り、顔姿勢評価部１３に渡す。顔姿勢評価部１３は、データ入力部３０を介して、映像データベース１８に記憶されている顔姿勢データ群を読み込む。また、顔姿勢評価部１３は、既に説明した場合と同様に、シーン指定部１９が指定したシーンに対応する参照顔姿勢データを参照顔姿勢記憶部１４から読み込む。顔姿勢評価部１３は、各顔姿勢データ毎に、参照顔姿勢記憶部１４からの参照顔姿勢データとの類似度を計算する。以降の動作は、図８に示す実施形態の場合と同様である。また、シーン指定部１９および参照顔姿勢記憶部１４の動作も、図８に示す構成の場合と同様である。【００７８】
図１０は、第２の実施形態の第２の変形例を示すブロック図である。図１０に示す変形例は、図８に示すシーン指定部１９および参照顔姿勢記憶部１４の代わりに参照条件記憶部３１を備える。本変形例における参照条件記憶部３１は、特定のシーンと対応させて、その特定のシーンでの顔姿勢データが満たす条件を記憶する記憶装置である。この構成の場合、顔姿勢評価部１３は、図８に示す構成の場合と同様に、顔姿勢検出部１２から顔姿勢データ群を渡される。また、顔姿勢評価部１３は、参照条件記憶部３１から特定のシーンで顔姿勢データが満たす条件を読み込む。そして、顔姿勢評価部１３は、顔姿勢検出部１２から渡された顔姿勢データのうち、参照条件記憶部３１から読み込んだ条件を満足する顔姿勢データを抽出する。顔姿勢評価部１３は、その顔姿勢データが検出された映像のシーンを検索結果５２として出力する。【００７９】
図１１は、第２の実施形態の第３の変形例を示すブロック図である。本変形例は、図１０に示す変形例にシーン指定部１９を追加した構成となっている。本変形例における参照条件記憶部３１は、各種シーン毎に、シーンと対応させて、そのシーンでの顔姿勢データが満たす条件を記憶する記憶装置である。シーン指定部１９は、各種シーンの中から、利用者の操作に応じてシーンを指定する。参照条件記憶部３１は、シーン指定部１９が指定したシーンに対応する条件を顔姿勢評価部１３に渡す。この結果、顔姿勢評価部１３は、シーン指定部１９が指定したシーンに対応する条件を読み込む。顔姿勢評価部１３は、顔姿勢検出部１２から渡された顔姿勢データのうち、参照条件記憶部３１から渡された条件を満足する顔姿勢データを抽出する。顔姿勢評価部１３は、その顔姿勢データが検出された映像のシーンを検索結果５２として出力する。【００８０】
図１０、図１１に示す変形例において、映像データベース１８、映像入力部１１および顔姿勢検出部１２の動作は、図８に示す構成の場合と同様である。また、図１０、図１１に示す変形例において、映像データベース１８が各検索対象映像と対応させて、予め各索対象映像の顔姿勢データを記憶していてもよい。そして、映像入力部１１および顔姿勢検出部１２の代わりに、図９に示す構成と同様のデータ入力部３０を備えていてもよい。この場合、顔姿勢評価部１３は、データ入力部３０を介して、映像データベース１８に記憶されている顔姿勢データ群を読み込めばよい。【００８１】
第３の実施形態
第３の実施形態は、入力した参照映像のシーンと同種のシーンを写す映像を映像データベースから検索する映像検索装置で、図１２に示すように、図８に示す第２の実施の形態におけるシーン指定部１９および参照顔姿勢記憶部１４の代わりに、参照映像入力部４１と参照顔姿勢検出部４２とを備える。映像データベース１８、映像入力部１１、顔姿勢検出部１２および顔姿勢評価部１３の動作は、第２の実施の形態と同様である。【００８２】
参照映像入力部４１は、特定のシーンを写し出す参照映像を入力する。参照映像入力部４１に入力される参照映像は利用者によって選択される。すなわち、利用者が検索したいと考える特定のシーンを写す映像が利用者に選択され、参照映像入力部４１には、利用者によってその参照映像が入力される。【００８３】
参照顔姿勢検出部４２は、参照映像入力部４１が入力した参照映像から、その参照映像における登場人物の顔の数、各登場人物の顔の位置、大きさおよび向きのデータ、またはこれらのデータうちの一部のデータを参照顔姿勢データとして検出する。参照顔姿勢検出部４２が参照顔姿勢データを検出する処理は、顔姿勢検出部１２が顔姿勢データを検出する処理と同様である。参照顔姿勢検出部４２は、検出した参照顔姿勢データを顔姿勢評価部１３に渡す。【００８４】
映像入力部１１は、映像データベース１８に記憶されている検索対象となる各映像（映像群）を読み取り、顔姿勢検出部１２に渡す。顔姿勢検出部１２は、映像入力部１１を介して、映像データベース１８に記憶されている映像群を読み込む。そして、顔姿勢検出部１２は、読み込んだ各検索対象映像から、登場人物の顔姿勢データを検出し、各顔姿勢データ（顔姿勢データ群）を顔姿勢評価部１３に渡す。【００８５】
顔姿勢評価部１３は、各検索対象映像から検出された顔姿勢データ毎に、参照顔姿勢検出部２１からの参照顔姿勢データとの類似度を計算する。この類似度の計算は、第２の実施形態と同様である。顔姿勢評価部１３は、算出した類似度が予め定めた閾値以上の場合には、顔姿勢データが検出された映像のシーンは、参照映像が写し出す特定のシーンと同種のシーンであると判定する。また、算出した類似度が閾値未満の場合には、顔姿勢データが検出された映像のシーンは、参照映像が写し出す特定のシーンとは異なるシーンであると判定する。顔姿勢評価部１３は、各検索対象映像から検出された各顔姿勢データ毎に参照顔姿勢データとの類似度の判定を行い、参照映像が写し出す特定のシーンと同種のシーンと判定されたシーンを検索結果５２として出力する。検索結果５２の出力態様は、第２の実施形態と同様である。【００８６】
本実施形態では、利用者がある参照映像を装置に入力すると、それと同じシーンに相当する映像をデータベースから検索するように構成されている。従って、予め、検索対象となるシーン分類を定義し、それぞれについて参照顔姿勢データを設定しておく必要がなく、利用者は検索したい映像シーンに相当する映像を入力するだけで、同様のシーン内容の映像を検索することができる。【００８７】
なお、第１の実施形態と同様に、顔姿勢検出部１２は、映像が動画像である場合には、登場人物の顔の数、各登場人物の顔の位置、大きさおよび向きのデータ、またはこれらのデータうちの一部の時間経過に伴う変化量を顔姿勢データとして顔姿勢評価部１３に渡してもよい。【００８８】
また、登場人物が複数存在する場合、顔姿勢検出部１２は、ある一人の登場人物の顔姿勢データを、他の登場人物に対する相対的な値として計算してもよい。例えば、二人の顔が互いに向き合っている場合、一人の顔から、もう一人の顔に向かうベクトルを、顔の向きとして計算してもよい。登場人物の顔姿勢データを、他の登場人物に対する相対的な値として計算する場合、第１の実施形態と同様に計算すればよい。第２の実施形態と同様に、顔姿勢データを他の登場人物に対する相対的な値として計算した場合には、撮影される登場人物の位置関係が同様のシーンならば、そのシーンを撮影するカメラの位置等に依らず、同種のシーンとして検索することができる。【００８９】
次に、第３の実施形態の変形例について説明する。図１３は、第３の実施形態の変形例を示すブロック図である。図１２に示す構成では、映像データベース１８が各検索対象映像を記憶し、顔姿勢検出部１２がその各検索対象映像から顔姿勢データを検出する。これに対し、図１３に示す変形例では、映像データベース１８は、各検索対象映像と対応させて、予め各索対象映像の顔姿勢データを記憶しておく。データ入力部３０は、映像データベース１８から、各検索対象映像に対応する顔姿勢データ（顔姿勢データ群）を読み取り、顔姿勢評価部１３に渡す。顔姿勢評価部１３は、データ入力部３０を介して、映像データベース１８に記憶されている顔姿勢データ群を読み込む。顔姿勢評価部１３は、顔姿勢データ毎に、参照顔姿勢検出部４２からの参照顔姿勢データとの類似度を計算する。以降の動作は、図１２に示す構成の場合と同様である。また、参照映像入力部４１および参照顔姿勢検出部４２の動作も、図１２に示す構成の場合と同様である。【００９０】
第４の実施形態
第４の実施形態として、テレビジョン放送で受信する番組映像を、シーンに応じて分類する映像分類装置について説明する。本実施形態は、図６に示す第１の実施形態の変形例に相当する。図１４を参照すると、第４の実施形態の映像分類装置は、テレビジョン放送を受信する受信装置６１と、処理を行うコンピュータ７１と、参照条件記憶装置８１とを備える。【００９１】
受信装置６１は、図６の映像入力部１１に相当する。参照条件記憶装置８１は、図６の参照条件記憶部１５に相当する。【００９２】
コンピュータ７１は、ＣＰＵ７２と、記憶装置７３と、受信装置６１とのインタフェース７４と、参照条件記憶装置８１とのインタフェース７５と、ディスプレイ装置７６とを備える。なお、ユーザが操作するユーザインタフェースとなるキーボードやマウス等を備えていてもよい。ＣＰＵ７２は、記憶装置７３が記憶する映像分類プログラムに従って動作する。インタフェース７４は、受信装置６１から映像信号を受信する。インタフェース７５は、参照条件記憶装置８１との間でデータを送受信する。映像分類プログラムに従って動作する。【００９３】
なお、図１４に示す構成は、映像分類装置の構成の一例であり、映像分類装置は他の構成であってもよい。例えば、受信した映像を処理するのではなく、映像記憶装置（不図示）に記憶（例えば録画）されている映像に対してシーン毎の分類処理を行う構成であってもよい。この場合、映像記憶装置が、映像入力部１１として機能し、記憶されている映像を読み込み、その映像をコンピュータ７１に送信する。このような構成の場合には、受信装置６１は不要である。また、映像記憶装置と参照条件記憶装置８１とを同一の装置として実現してもよい。【００９４】
受信装置６１は、テレビ放送信号を受信し、その信号をコンピュータで処理可能な映像のデジタルデータに変換し、コンピュータ７１に送信する。ＣＰＵ７２は、その映像のデジタルデータを受信し、入力された映像のデジタルデータから顔姿勢データを検出する。【００９５】
本例では、顔姿勢データを次のパラメータで記述する。ただし、顔姿勢データの記述の仕方は、以下に示す場合に限定されるわけではない。登場人物の顔の数をｎとする。登場人物ｊの顔の位置を座標により（ｘｊ，ｙｊ）と表す。同様に、登場人物ｊの顔の大きさをｚｊと表す。また、登場人物ｊの顔の向きベクトルをＲｊと表す。他の登場人物（例えばｊとする）のパラメータも添え字ｊを用いて同様に表す。【００９６】
例えば、ＣＰＵ７２は、映像の中で顔姿勢データのフレーム間変化量が予め定めた閾値を超えるフレームをカット点として検出し、シーン毎に映像を分割する。向きベクトルの変化量は、一例として２つのベクトルのなす角度で評価する。それぞれの変化量の閾値の一例として、ｎの変化量は１、位置を表すｘ，ｙおよび顔の大きさを表すｚの変化量はそれぞれ画像の大きさの１０％、顔の向きベクトルの変化量は２０°等のように定めておく。この場合、登場人物の顔の数ｎが１変化したならば、その時点で映像を分割する。また、ｘ座標であるｘｊが、ディスプレイ装置７６の表示領域の横幅の１０％以上変化したならば、その時点で映像を分割する。同様に、ｙ座標であるｙｊが、ディスプレイ装置７６の表示領域の縦方向の長さの１０％以上変化したならば、その時点で映像を分割する。また、顔の大きさを表すｚｊが、ディスプレイ装置７６の表示領域の面積の１０％以上変化したならば、その時点で映像を分割する。なお、顔の大きさとして、顔の幅を用いてもよい。この場合、顔の幅ｚｊが、ディスプレイ装置７６の表示領域の横幅の１０％以上変化したならば、その時点で映像を分割する。また、顔の向きベクトルが２０°以上変化したならば、その時点で映像を分割する。ここで挙げた分割の仕方は例示であり、映像の内容により、他の基準で映像を分割してもよい。【００９７】
参照条件記憶装置８１は、各シーンでの顔姿勢データが満たす条件を記憶する。本例では、「キャスターがニュースを読み上げているシーン（以下、シーンＡと記す。）」、「レポータによる現場からの報告シーン（以下、シーンＢと記す。）」、「キャスターとニュース解説者とのやりとりのシーン（以下、シーンＣと記す。）」それぞれに対応させて、シーンＡ、シーンＢ、シーンＣでの顔姿勢データが満たす条件を記憶しているものとする。【００９８】
図１５（ａ）、１５（ｂ）、１５（ｃ）はそれぞれシーンＡ、シーンＢ、シーンＣの例を示している。これらのシーンの映像は、出演者が誰であるかにかかわらず、それぞれ典型的な顔の位置（大きさがほぼ同じとなることもある。）と向きで画面に写っている。従って、映像から登場人物の顔の位置と向きを抽出し（大きさも抽出してもよい）、これを用いて映像を分類することにより、それぞれのシーンの内容に応じた分類が可能となる。顔姿勢データの満たす条件の一例を以下に示す。シーンＡは、登場人物が一人で顔がほぼ中央付近にあり顔の大きさは相対的に大きいという特徴がある。シーンＢは、顔が正面向きであるが大きさがシーンＡの場合に比べ半分程度であり画面の中央にないという特徴がある。シーンＣは、複数名の登場人物がおり顔の向きは互いに向き合っているという特徴がある。参照条件記憶装置８１は、これらの特徴を表す顔姿勢データの条件を記憶する。このような条件を表す条件式の一例として、例えば次式の条件を使用する。ただし、正面向きの向きベクトルをＦとする。また、顔の大きさは、顔の幅によって表し、ディスプレイ装置７６の表示領域の横幅をｓと表すものとする。【００９９】
シーンＡに対応する条件は、例えば、以下のように表される。なお、登場人物は一人なので、顔の向きのベクトルＲや顔の大きさを表すｚは、添え字を付けずに表している。また、ｃｏｓ−１は逆余弦関数（アークコサイン）である。【０１００】
ｎ＝１  かつ  ｃｏｓ−１（Ｆ・Ｒ）＜２０°  かつ  ｚ＞０．２・ｓ
シーンＢに対応する条件は、例えば、以下のように表される。【０１０１】
ｎ＝１  かつ  ｃｏｓ−１（Ｆ・Ｒ）＜２０°  かつ  ｚ＜０．２・ｓ
シーンＣに対応する条件は、例えば、以下のように表される。なお、登場人物のうちの一人を登場人物ｉとし、他の一人を登場人物ｊとする。【０１０２】
ｎ≧２  かつ  ある登場人物ｉ，ｊの組についてｃｏｓ−１（Ｒｉ・Ｒｊ）＜２０°
参照条件記憶装置８１が記憶する他の条件の例について説明する。上記のシーンＡ〜シーンＣの例において、映像が動画像の場合には、映像のシーンの各時刻での顔姿勢データが、シーンＡ〜シーンＣの条件を満たすか否かを判定することになる。映像が動画像の場合、各時刻毎の顔姿勢データについて判定するのではなく、各フレーム間での顔姿勢データの変動量に基づいてシーンを分類することもできる。以下、この場合について説明する。本例では、ボクシング等の格闘技の試合映像において、「膠着状態のシーン（以下、シーンＤと記す。）」、「ＫＯシーンや決定的パンチが当たったシーン（以下、シーンＥと記す。）」、「距離をつめての打ち合いシーン（以下、シーンＦと記す。）」それぞれに対応させて、シーンＤ、シーンＥ、シーンＦにおける条件を記憶する。この条件は、時間経過に伴う登場人物の顔姿勢データの変化量が満たす条件である。【０１０３】
シーンＤは、２名の対戦者が互いに向き合って一定の距離を保っているシーンであり、両者の相対的な顔の向きが正反対で顔の大きさに対する両者の顔の距離がほぼ一定であるという特徴がある。シーンＥは、顔の向きが激しく変化し、お互いに向き合った状態ではなくなるという特徴がある。シーンＦは、顔の大きさに対する両者の顔の距離が極めて小さくなるという特徴がある。以上のような条件を表す条件式の一例として、例えば次式の条件を使用する。ただし、シーン中で顔の大きい順に２名の登場人物を抽出した場合における、時刻ｔでの２名の顔の距離をｄ（ｔ）とする。また、顔の大きさの平均値をｆ（ｔ）とし、２名の登場人物の顔の向きの単位ベクトルをそれぞれＲ１（ｔ），Ｒ２（ｔ）とする。また、処理するフレーム間の時刻の差をｐとする。例えば、ＮＴＳＣの規格に従う場合、各フレームについて条件を満たすかどうかを判定する場合には、ｐ＝１／３０秒となる。また、いくつかのフレームを間引いて、数フレーム毎に条件を満たすかどうかを判定する場合には、ｐは１／３０秒よりも大きくなる。ここでは、ＮＴＳＣの規格に従う場合を例示したが、動画像はＮＴＳＣの規格に従っていなくてもよい。【０１０４】
シーンＤに対応する条件は、例えば、以下のように表される。【０１０５】
任意の時刻ｔ＞ｐにおいて  ｜ｄ（ｔ）−ｄ（ｔ−ｐ）｜＜ｆ（ｔ）かつｄ（ｔ）＞３．０・ｆ（ｔ）かつＲ１（ｔ）・Ｒ２（ｔ）＜−ｃｏｓ２０°
シーンＥに対応する条件は、例えば、以下のように表される。ただし、ｍａｘ（ｍ，ｎ）はｍとｎのうち大きい方の値を表すものとする。【０１０６】
ある時刻ｔについて、ｍａｘ（｜ｃｏｓ−１（Ｒ１（ｔ）・Ｒ１（ｔ−ｐ））｜，｜ｃｏｓ−１（Ｒ２（ｔ）・Ｒ２（ｔ−ｐ））｜）＞４５°かつ｜ｃｏｓ−１（Ｒ１（ｔ）,Ｒ２（ｔ））｜＞３０°
シーンＦに対応する条件は、例えば、以下のように表される。【０１０７】
任意の時刻ｔ＞ｐにおいて  ｜ｄ（ｔ）−ｄ（ｔ−ｐ）｜＜ｆ（ｔ）かつｄ（ｔ）＜３．０・ｆ（ｔ）
以上に示したシーンＡ〜シーンＣにおける条件やシーンＤ〜シーンＦにおける条件は例示であり、上記の条件に限定されるわけではない。より高精度な分類のために上記以外の条件を用いてもよい。【０１０８】
ＣＰＵ７２は次に、入力された映像の各フレームの顔姿勢データが、上記に例示した各条件のうち、どの条件を満足しているかを判定し、各フレームがどのシーンに分類されるかを判定する。本実施形態では動画像を対象としているので、映像の各フレーム画像から検出された顔姿勢データに対し、例示した各条件のいずれかが成立するかどうかを判定し、映像に含まれる全フレームの９０％以上のフレーム画像の顔姿勢データが同一の条件を満たしている場合に、その映像全体を、その条件に応じたシーンに該当すると判定してもよい。ここで説明した条件式や判定基準となる全フレームに対する割合（９０％）は例示であり、様々に変更可能である。【０１０９】
本実施形態では、例えば、一日に放送される全ニュース番組映像に対して上述したシーン分類を自動的に行って、シーンの区分毎に各シーンを記憶装置に記憶させておいてもよい。そして、一日に起きたニュースに関する様々な解説者のコメントを視聴したい場合には、シーンＣとした分類したシーンを再生してディスプレイ装置に表示させればよい。この結果、視聴者は、その日に放送される多数のニュース番組をすべて見る必要がなく、キャスターとニュース解説者とが話しているシーンのみを抜粋して効率的に視聴できるという効果が得られる。このとき、従来技術と異なり、その日の様々な番組に出演するアナウンサーや解説者が誰であるかを知る必要がなく、任意の解説者のコメント映像を視聴することができる。【０１１０】
第５の実施の形態
次に、第５の実施形態として、録画されている映像から特定のシーンを検索する映像検索装置について説明する。本実施形態の構成は、図８の第２の実施形態に相当する。図１６を参照すると、本実施形態による映像検索装置は、検索対象となる様々な映像を録画してある映像記憶装置９１と、処理を行うコンピュータ７１と、シーン毎に参照顔姿勢データを記憶している参照顔姿勢記憶装置８２とを備える。【０１１１】
映像記憶装置９１は、映像記憶部９２と、映像読み取り部９３と、コンピュータ７１とのインタフェース９４とを備える。映像記憶部９２は、検索対象となる各種映像を記憶する。映像読み取り部９３は、映像記憶部９２が記憶する各種映像を読み取り、インタフェース９４を介して、読み取った映像の信号をコンピュータ７１に送信する。【０１１２】
コンピュータ７１は、ＣＰＵ７２と、記憶装置７３と、映像記憶装置９１とのインタフェース７４と、参照顔姿勢記憶装置８２とのインタフェース７５と、ディスプレイ装置７６と、ユーザが操作するユーザインタフェースとなる操作部（例えば、キーボードやマウス等）７７とを備える。ＣＰＵ７２は、記憶装置７３が記憶する映像検索プログラムに従って動作する。インタフェース７４は、映像記憶装置９１から映像信号を受信する。インタフェース７５は、参照顔姿勢記憶装置８２との間でデータを送受信する。【０１１３】
本実施形態において、映像記憶部９２は、図８中の映像データベース１８に相当する。映像読み取り部９３は、図８中の映像入力部１１に相当する。参照顔姿勢記憶装置８２は、図８中の参照顔姿勢記憶部１４に相当する。映像検索プログラムに従って動作するＣＰＵ７２は、図8中の顔姿勢検出部１２および顔姿勢評価部１３の処理を実行する。また、操作部７７およびＣＰＵ７２は、シーン指定部１９に相当する。【０１１４】
なお、図１６に示す構成は、映像検索装置の構成の一例であり、映像検索装置は他の構成であってもよい。例えば、コンピュータ７１が映像記憶装置９１に内蔵される構成であってもよい。【０１１５】
まず、準備処理として、予め参照顔姿勢記憶装置８２に分類対象となるシーンそれぞれの基準となる参照顔姿勢データを記憶させる処理を行っておく。本実施形態では、分類する各シーンに属する映像群を学習用映像群として予め収集し、この学習用映像群から検出した顔姿勢データを参照顔姿勢データとして記憶しておく方法の一例について説明する。ここでは、映像記憶装置９１が備える学習用映像入力部（図１６に図示せず。）が、外部から学習用映像を入力するものとする。図１７は、準備処理における学習用映像や参照顔姿勢データの流れを示す説明図である。図１８は、準備処理の処理経過の例を示すフローチャートである。【０１１６】
映像記憶装置９１の学習用映像入力部９７は、あるシーン（シーンＳｋとする。）を写す学習用映像を入力し、その学習用映像の信号を、インタフェース９４を介して、コンピュータ７１に送信する。ＣＰＵ７２は、インタフェース７４を介してその学習用映像の信号を受信する。このようにＣＰＵ７２は、学習用映像入力部９７からの信号を受信することにより、学習用映像を読み込む（ステップ１０７）。【０１１７】
顔姿勢検出部１２の処理を実行するＣＰＵ７２は、学習用映像から参照顔姿勢データを検出する（ステップ１０８）。ここで、学習用映像中の登場人物の顔の数をｎｋとする。また、ある登場人物ｉの顔の位置を座標（ｘｋｉ，ｙｋｉ）とする。また、この登場人物ｉの顔の大きさをｚｋｉとする。さらに、この登場人物の顔の向きをＲｋｉとする。ＣＰＵ７２は、例えば、シーンＳｋでの参照顔姿勢データをＤｋ＝｛ｎｋ，ｘｋｉ，ｙｋｉ，ｚｋｉ，Ｒｋｉ｝と表して、参照顔姿勢記憶装置８２に記憶させる（ステップ１０９）。対象映像が動画像である場合、顔姿勢検出部１２として動作するＣＰＵ７２は、各フレームまたは数フレームおきに顔姿勢データを検出し、時系列の参照顔姿勢データＤｋ（ｔ）を得る。そして、この参照顔姿勢データを参照顔姿勢記憶部１４に記憶させる。【０１１８】
ここでは、シーンＳｋを写す学習用映像から参照顔姿勢データを検出して記憶させる場合について説明したが、他のシーンを写す学習用映像からも同様に参照顔姿勢データを検出して、参照顔姿勢データを参照顔姿勢記憶装置８２に記憶させる。【０１１９】
以上の準備処理を予め行うことで、シーンＳｋ等の各種シーンに属する映像を、映像記憶部９２が記憶する様々な映像から検索できるようになる。【０１２０】
シーン指定部１９の処理を実行するＣＰＵ７２は、利用者による操作部７７の操作に応じてシーンを指定する。例えば、ＣＰＵ７２は、検索可能なシーンの区分の一覧をディスプレイ装置７６に表示させ、操作７７の操作に応じて、一覧表示した区分の中から視聴者が検索しようとするシーンに応じた区分を指定してもよい。ここでは、シーンＳｉが指定されたものとして説明する。【０１２１】
シーン指定部１９の処理を実行するＣＰＵ７２は、シーンＳｉを指定して、参照顔姿勢記憶装置８２にシーンＳｉに対応する参照顔姿勢データを要求する。参照顔姿勢記憶装置８２は、この要求に応じて、シーンＳｉに対応する参照顔姿勢データをコンピュータ７１に送信する。顔姿勢評価部１３の処理を実行するＣＰＵ７２は、このシーンＳｉに対応する参照顔姿勢データを参照顔姿勢記憶装置８２から受信する。【０１２２】
映像入力部１１として動作する映像読み取り部９３は、映像記憶部９２に記憶されている検索対象となる映像群をそれぞれ読み込み、コンピュータ７１に送信する。このとき、コンピュータ７１のＣＰＵ７２は、第４の実施の形態で示したのと同様に、映像記憶装置９１から受信する映像群における各カット点を検出し、映像群をそれぞれシーン毎に分割する。また、映像群をシーン毎に分割する処理を映像記憶装置９１が行い、映像記憶装置９１が、シーン毎に分割された各映像をコンピュータ７１に送信する構成であってもよい。【０１２３】
顔姿勢検出部１２の処理を実行するＣＰＵ７２は、映像記憶装置９１から読み込んだ各検索対象映像から、登場人物の顔姿勢データ（登場人物の人数（顔の数）とそれぞれの顔の位置、大きさ、向き）を検出する。この顔姿勢データをＱと表す。検索対象映像が動画像である場合には、各フレーム又は数フレームおきに顔姿勢データを検出し、時系列の顔姿勢データＱ（ｔ）を得る。【０１２４】
顔姿勢評価部１３の処理を実行するＣＰＵ７２は、検索対象映像から検出された顔姿勢データＱ（ｔ）と指定されたシーンＳｉの参照顔姿勢データＤｉ（ｔ）との類似度を計算する。計算した類似度が予め定めた閾値以上の場合、ＣＰＵ７２は、顔姿勢データＱ（ｔ）を検出した映像のシーンがシーンＳｉと同じ内容であると判定する。また、類似度が閾値未満の場合、ＣＰＵ７２は、顔姿勢データＱ（ｔ）を検出した映像のシーンがシーンＳｉと異なる内容であると判定し、検索候補から外す。【０１２５】
類似度の計算には様々なパターン認識の手法が利用可能である。例えば、式１によって得られる重み付き和の逆数を類似度として求めてもよい。式１におけるＴｑ（ｔ）は、顔姿勢データＱ（ｔ）における顔の位置と大きさを表す３次元ベクトルである。式１におけるＴｉ（ｔ）は、参照顔姿勢データＤｉ（ｔ）における顔の位置と大きさを表す３次元ベクトルである。Ｒｑ（ｔ）は、顔姿勢データＱ（ｔ）における顔の向きを表す３次元ベクトルである。Ｒｉ（ｔ）は、参照顔姿勢データＤｉ（ｔ）における顔の向きを表す３次元ベクトルである。ａ，ｂは、それぞれ顔の位置および大きさと、顔の向きのどちらをどの程度重視して類似度を決定するのかを定める重み定数であり、ともに任意に定めることができる。なお、登場人物が複数存在する場合には、式１の値を各登場人物の顔姿勢データ毎に計算し、その結果を加算すればよい。ただし、式１は、類似度を算出するための式の一例であり、類似度の算出に用いる式は特定の式に限定されない。【０１２６】
他の類似度の計算方法の例を次に説明する。登場人物が複数である場合には、式１の値を各登場人物の顔姿勢データについて加算することで類似度を計算してもよいが、複数の人物の顔の相対的な位置や向き、顔の大きさの関係を用いるとより高性能な検索が行える場合がある。このような場合の一例として、ニュース番組中でキャスターと解説者がコメントを話し合うシーンの検索が挙げられる。このようなシーンでは、発言者の座る位置によって顔の位置や大きさは変化するが、互いに顔を向き合って話すので、相対的な顔の向きは反対向き（向かい合う）であるから相対的な顔の向きが反対向きのシーンとして検索できる。また、ドラマや映画のキスシーンなどでは、登場人物の絶対的な顔の位置や向きに関係なく、２名の人物の顔の向きが反対向きで相対的な距離が極めて小さいシーンとして検索できる。【０１２７】
このような場合に用いる類似度の計算の一例を示す。まず、検索対象映像の登場人物のうちから２名を選択する。選択方法の一例としては、顔の大きさが最も大きい２名の人物を選択する方法が挙げられる。顔姿勢データＱ（ｔ）における、この２名の顔の間の距離をｄＱ（ｔ）とする。顔姿勢データＱ（ｔ）における、この２名の顔の大きさの平均値をｆＱ（ｔ）とする。また、登場人物１に対する登場人物２の顔の向きをベクトルＲＱ（ｔ）とする。また、参照顔姿勢データにおける、２名（顔の大きさが最も大きい２名）の顔の間の距離をｄＤ（ｔ）とする。参照顔姿勢データにおける、この２名の顔の大きさの平均値をｆＤ（ｔ）とする。また、参照顔姿勢データにおける登場人物１に対する登場人物２の顔の向きをベクトルＲＤ（ｔ）とする。この場合、以下に示す式２の値の逆数を類似度として利用可能である。【０１２８】
【数２】
0004973188.tif 000003
以上に示した類似度の計算式はあくまで一例で、顔姿勢データＱ（ｔ）や参照顔姿勢データＤ（ｔ）の特徴量の選び方や類似度の計算式は様々に変更可能であり、様々な距離関数やパターン認識手法を利用可能である。また、複数の類似度の計算式を組み合わせて計算を行うことももちろん可能である。【０１２９】
顔姿勢評価部１３の処理を実行するＣＰＵ７２は、映像記憶装置９１に記憶されている全ての映像（映像記憶装置９１から受信した全ての映像）に対して、顔姿勢データと参照顔姿勢データとの類似度を判定する処理を行う。そして、映像記憶装置９１から受信した映像のうち、類似度が高いと判定されるシーンの映像を検索結果とする。【０１３０】
本実施形態では、映像記憶部９２（映像データベース１８に相当）に蓄積されている多種多様な映像から、利用者の指定した映像シーンについて予め設定された参照顔姿勢データと登場人物の顔の位置や姿勢が類似した映像を抽出するように構成されている。従って、映像シーンの内容が類似している映像を検索することができる。【０１３１】
本実施形態では、参照顔姿勢記憶装置８２を備え、参照顔姿勢記憶装置８２が記憶する参照顔姿勢データに基づいてシーンを検索する場合を示した。参照顔姿勢記憶装置８２の代わりに図１１に示す参照条件記憶部３１に相当する参照条件記憶装置を備えていてもよい。すなわち、各種シーンにおいて顔姿勢データが満たす条件を記憶する参照条件記憶部を備え、ＣＰＵ７２は、指定されたシーンに対応する条件を満足する顔姿勢データを検索することにより、指定されたシーンと同様のシーンを検索してもよい。【０１３２】
第６の実施の形態
次に、第６の実施形態として、予め定めたシーンを指定するのではなく、ある映像を入力して、その映像のシーンと類似のシーン内容の映像を検索する映像検索装置の例を説明する。本実施形態の構成は、図１２に示す第３の実施形態の構成に相当する。図１９を参照すると、本発明の第３の実施形態による映像検索装置は、検索対象となる様々な映像を録画してある映像記憶装置９１と、処理を行うコンピュータ７１と、検索するシーンを指定するための参照映像を録画した映像記憶媒体８７が装着される参照映像入力装置８４とを備える。【０１３３】
映像記憶装置９１の構成および動作は、図１６の第５の実施形態における映像記憶装置９１と同様であるのでその説明を省略する。【０１３４】
参照映像入力装置８４は、映像記憶媒体８７が装着される記憶媒体装着部８６と、映像読み取り部８８と、コンピュータ７１とのインタフェース８５とを備える。映像記憶媒体８７は、記憶媒体装着部８６に着脱可能な映像記憶媒体であり、例えば、ビデオカセットやＤＶＤ（Digital  Versatile  Disk）等を映像記憶媒体８７とすることができる。記憶媒体装着部８６には、視聴者が検索したいと考えるシーンを写す映像（参照映像）を記憶した映像記憶媒体８７が装着される。映像読み取り部８８は、記憶媒体装着部８６に装着された映像記憶媒体８７が記憶する参照映像を読み取り、インタフェース８５を介して、参照映像の信号をコンピュータ７１に送信する。【０１３５】
コンピュータ７１は、ＣＰＵ７２と、記憶装置７３と、映像記憶装置９１とのインタフェース７４と、参照映像入力装置８４とのインタフェース７５と、ディスプレイ装置７６とを備える。なお、ユーザが操作するユーザインタフェースとなるキーボードやマウス等を備えていてもよい。ＣＰＵ７２は、記憶装置７３が記憶する映像検索プログラムに従って動作する。インタフェース７４は、映像記憶装置９１から映像信号を受信する。インタフェース７５は、参照映像入力装置８４から参照映像の映像信号を受信する。【０１３６】
本例において、映像記憶部９２は、図１２の映像データベース１８に相当する。映像読み取り部９３は、図１２の映像入力部１１に相当する。参照映像入力装置８４は、図１２の参照映像入力部１６に相当する。映像検索プログラムに従って動作するＣＰＵ７２は、図１２の顔姿勢検出部１２、参照顔姿勢検出部４２、および顔姿勢評価部１３の処理を行う。【０１３７】
なお、図１９に示す構成は、映像検索装置の構成の一例であり、映像検索装置は他の構成であってもよい。例えば、コンピュータ７１が映像記憶装置９１に内蔵される構成であってもよい。また、例えば、参照映像入力装置８４が映像記憶装置９１の一部として構成されていてもよい。【０１３８】
記憶媒体装着部８６には、利用者が検索したい映像シーンの参照映像を記憶した映像記憶媒体８７が利用者によって装着される。映像読み取り部８８は、映像記憶媒体８７が記憶する参照映像を読み取り、インタフェース８５を介してコンピュータ７１に送信する。【０１３９】
参照顔姿勢検出部４２の処理を実行するＣＰＵ７２は、参照映像入力装置８４から読み込んだ参照映像から、その参照映像における登場人物の数（顔の数）、各登場人物の顔の位置と大きさ、向きを時系列で検出し、参照顔姿勢データＤ（ｔ）として検出する。【０１４０】
顔姿勢検出部１２の処理を実行するＣＰＵ７２は、第５の実施形態におけるＣＰＵ７２と同様に、映像記憶装置９１から読み込んだ各検索対象映像から、登場人物の数（顔の数）、各登場人物の顔の位置と大きさ、向きを表す顔姿勢データＱ（ｔ）を読み込む。【０１４１】
顔姿勢評価部１３の処理を実行するＣＰＵ７２は、参照顔姿勢データＤ（ｔ）と、検索対象映像から検出された顔姿勢データＱ（ｔ）の類似度を計算する。類似度の計算方法として、例えば、既に説明した計算方法を適用すればよい。また、既に説明したように、類似度の計算方法は、特定の計算方法に限定されない。ＣＰＵ７２は、この類似度が予め定めた閾値以上の場合に検索対象映像が利用者の入力した参照映像と同一シーン内容の映像であると判定し、類似度が低い場合は検索対象映像を検索候補から外す。【０１４２】
顔姿勢評価部１３の処理を実行するＣＰＵ７２は、映像記憶装置９１に記憶されている全ての映像（映像記憶装置９１から受信した全ての映像）に対して、顔姿勢データと参照顔姿勢データとの類似度を判定する処理を行う。そして、映像記憶装置９１から受信した映像のうち、類似度が高いと判定されるシーンの映像を検索結果とする。【０１４３】
本実施形態は、ある参照映像を記憶した映像記憶媒体８７が利用者によって参照映像入力装置８４に装着されると、その参照映像と同じシーンに相当する映像を映像記憶装置９１から検索するように構成されている。従って、予め、検索対象となるシーン分類を定義し、それぞれについて予め参照顔姿勢データを設定しておく必要がなく、利用者は検索したい映像シーンに相当する映像を入力するだけで、同様のシーン内容の映像を検索することができる。
【図１】
0004973188.tif 000004
【図２】
0004973188.tif 000005
【図３】
0004973188.tif 000006
【図４】
0004973188.tif 000007
【図５】
0004973188.tif 000008
【図６】
0004973188.tif 000009
【図７】
0004973188.tif 000010
【図８】
0004973188.tif 000011
【図９】
0004973188.tif 000012
【図１０】
0004973188.tif 000013
【図１１】
0004973188.tif 000014
【図１２】
0004973188.tif 000015
【図１３】
0004973188.tif 000016
【図１４】
0004973188.tif 000017
【図１５】
0004973188.tif 000018
【図１６】
0004973188.tif 000019
【図１７】
0004973188.tif 000020
【図１８】
0004973188.tif 000021
【図１９】
0004973188.tif 000022