(57)【特許請求の範囲】
【請求項１】
画像データに基づいて、フレームの特徴を数値化したフレーム特徴量を、フレームそれぞれについて求めるフレーム特徴量生成部と、
該フレーム特徴量生成部に接続され、前記画像データのフレームと対応した形式で前記フレーム特徴量を記録する記録部とを備え、
前記フレーム特徴量は、被写体の動きが激しいまたは動きが小さいことを指す動画像の動きの大小に係る特徴フレームを抽出するのに用いられる数値量であり、
前記フレーム特徴量生成部により、前記フレーム特徴量は、前記画像データに関連する動きベクトル情報の統計量により求められることを特徴とする、画像検索情報記録装置。
【請求項２】
前記画像データは符号化されたデータであり、
前記符号化されたデータから前記動きベクトル情報を読み出す読出部をさらに備え、
前記フレーム特徴量生成部は、前記読出部で読み出された前記動きベクトル情報に基づいて、前記フレーム特徴量を生成する、請求項１に記載の画像検索情報記録装置。
【請求項３】
前記統計量は、前記フレームの前および後の少なくとも一方のフレームに対して算出された複数の動きベクトルの長さの平均値である、請求項１または請求項２に記載の画像検索情報記録装置。
【請求項４】
画像データのフレームと対応した形式で記録されている、フレームの特徴を数値化した各フレームのフレーム特徴量に基づいて、前記画像データ中の特徴フレームを決定し、前記フレーム特徴量よりも情報量が少ない情報であって、該特徴フレームの位置情報であるインデックス情報を生成するインデックス情報生成部と、
前記インデックス情報生成部に接続され、前記インデックス情報を受け取り、前記インデックス情報で指定されたインデックス画像を出力する出力部とを備え、
前記特徴フレームは、被写体の動きが激しいまたは動きが小さいことを指す動画像の動きの大小に係る特徴を有したフレームであり、
前記フレーム特徴量は、前記動画像の動きの大小に係る特徴フレームを抽出するのに用いられる数値量であり、前記画像データに関連する動きベクトル情報を解析して動きベクトル情報の統計量として求められることを特徴とする、画像検索装置。
【請求項５】
前記出力部は、さらに、外部からインデックス情報を受け取り、前記インデックス情報生成部で生成されたインデックス情報および前記外部から受け取ったインデックス情報の少なくとも一方で指定されたインデックス画像を出力する、請求項４に記載の画像検索装置。
【請求項６】
前記インデックス情報生成部は、
前記フレーム特徴量を受け取り、前記フレーム特徴量を所定のしきい値と比較することで前記特徴フレームを決定するフレーム決定部と、
前記フレーム決定部に接続され、前記特徴フレームの位置情報であるインデックス情報を生成するインデックス生成部とを含み、
前記インデックス情報は、前記しきい値の設定を検索の過程で変えることにより適応的に変えられる情報である、請求項４または請求項５に記載の画像検索装置。
【請求項７】
前記フレーム特徴量は、前記フレームが所定のサイズで分割された複数のブロックのうち、符号化において使用した予測方式毎のブロックの総数により求められる値である、請求項４〜６のいずれかに記載の画像検索装置。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は、蓄積された複数の符号化された画像データから所望の画像を検索するために用いる画像検索情報の生成、記録と、該画像検索情報を用いた画像検索の実現方法に関するものである。
【０００２】
【従来の技術】
動画像を検索する場合、その動画像が何を撮影したものであるかといった動画像の内容を知ることが重要である。そのためには、文字のタイトルや説明文がついているといった場合を除けば、殆どの場合、動画像全体を再生して内容を確認する必要がある。しかし、検索対象となる動画像の数が増えるにつれ、全ての動画像を逐一再生して確認していたのでは利用者の負担は重くなり、検索効率としても甚だ悪い。各動画像が符号化された圧縮データであり復号処理を行った上で再生し検索するといった状況では、更にそれが顕著である。この問題を解決する一つの方法として、動画像の内容を端的に表す動画像内の特徴的なフレームを一枚あるいは複数枚抽出し、それらを表示することで動画像の概略的な内容を表示する検索方式が有効であると考えられる。
【０００３】
動画像検索における特徴的なフレーム（以下、特徴フレームと呼ぶ）としては、例えばシーンチェンジフレームがある。特開平９―２６１６４８では、フレーム間予測符号化方式により符号化された画像データに対して、画像データに含まれる予測モード情報からシーンチェンジフレームを抽出する手法が述べられている。１フレームに亘って、フレーム内予測方式で符号化されたＩブロック、前方向フレーム間予測方式で符号化されたＰブロック、後方向フレーム間予測方式で符号化されたＢブロック、双方向フレーム間予測方式で符号化されたＢｉブロックのそれぞれを計数する。この時、この各ブロックの頻度情報は動画像中のフレーム間の相関を反映することから、各ブロックの頻度情報に基づいてシーンが変化した直後のフレーム（＝シーンチェンジフレーム）を検出する。また、特開平１０―２３４２１では、符号化された画像データに含まれる符号化情報各々の符号量の変化から、シーンチェンジフレームを抽出する手法が述べられている。これらの従来技術に基づいた従来の画像検索情報記録装置を図示すると、図１４のようになる。
【０００４】
符号化情報読出部１４０１は、符号化された画像データから、特開平９―２６１６４８においてはブロック毎の予測モード情報を、特開平１０―２３４２１においては各符号化情報を種類別に読み出す。次に、フレーム特徴量生成部１４０２は、符号化情報読出部１４０１で読み出された各種符号化情報から、特開平９―２６１６４８においては各予測モードブロックの頻度を、特開平１０―２３４２１においては各符号化情報別の符号量の累積値を算出する。インデックス情報生成部１３０３は、フレーム特徴量生成部１３０２で求められたフレーム毎の特徴量、特開平９−２６１６４８では各予測モードブロックの頻度情報、特開平１０−２３４２１では各符号化情報別の累積符号量、を基に特徴フレームであるシーンチェンジフレームを決定し、その位置情報をインデックス情報として出力する。最後に、インデックス情報記録部１４０４は、インデックス情報生成部１４０３から出力されたインデックス情報を画像検索情報として記録する。一方、図１５は、こうして記録された画像検索情報を用いた従来の画像検索装置を表している。画像検索実行部１５０１において、画像検索情報及び符号化された画像データを入力として実際の検索を実行し、検索結果が出力される。
【０００５】
また、シーンチェンジフレーム以外の特徴フレームとしては、特開平９−２８４７０２で述べている、動きの緩急に基づくシーン変化フレームがある。特開平９−２８４７０２は、符号化情報からではなく原画像からシーン変化フレーム検出用の動きベクトルを独立して求め、フレーム内の動きベクトルの総和を基にシーン変化フレームを検出している。
【０００６】
【発明が解決しようとする課題】
上記従来の画像検索情報記録装置では、抽出された特徴フレームからその位置情報を求め、その位置情報のみをインデックス情報として記録していた。そのため、検索対象である複数の画像がそれぞれに異なる特徴を有する場合でも、同一の特徴を表現した特徴フレームしか得られず、各画像の特徴に合わせた特徴フレームを得たければ、符号化画像データまで戻って画像検索情報の生成を行わなければならなかった。検索の過程で、検索対象画像に関する様々な特徴に対応した特徴フレームを対話的に取り出すといった局面では、符号化画像データまで戻って画像検索情報の生成を行うことは、非常に検索効率を低下させる。また、全画像データに対して、考えられる全ての特徴に対応した特徴フレームインデックスを用意しておくことも現実的ではなく、更に、画像検索情報提供者が予期し得なかった特徴フレームの要求に対しても、従来技術では効率良く対処することができない。
【０００７】
本発明はこれらの問題点を鑑みてなされたものであり、特徴フレーム抽出に利用する符号化情報あるいは特徴フレームを抽出するための各フレームに対する特徴量を記録することで、検索過程で適応的に特徴フレームを抽出することを可能とするものである。
【０００８】
【課題を解決するための手段】
本発明の請求項１によれば、画像データに基づいて、フレームの特徴を数値化したフレーム特徴量を、フレームそれぞれについて求めるフレーム特徴量生成部と、フレーム特徴量生成部に接続され、画像データのフレームと対応した形式でフレーム特徴量を記録する記録部とを備え、フレーム特徴量生成部により、フレーム特徴量は、画像データに関連する動きベクトル情報の統計量により求められることにより、上記課題を解決する。
【０００９】
本発明の請求項２によれば、画像データは符号化されたデータであり、符号化されたデータから動きベクトル情報を読み出す読出部をさらに備え、フレーム特徴量生成部は、読出部で読み出された動きベクトル情報に基づいて、フレーム特徴量を生成することにより、上記課題を解決する。
【００１０】
本発明の請求項３によれば、統計量は、フレームの前および後の少なくとも一方のフレームに対して算出された複数の動きベクトルの長さの平均値であることにより上記課題を解決する。
【００１１】
本発明の請求項４によれば、画像データのフレームと対応した形式で記録されている、フレームの特徴を数値化した各フレームのフレーム特徴量に基づいて、画像データ中の特徴フレームを決定し、フレーム特徴量よりも情報量が少ない情報であって、特徴フレームの位置情報であるインデックス情報を生成するインデックス情報生成部と、インデックス情報生成部に接続され、インデックス情報を受け取り、インデックス情報で指定されたインデックス画像を出力する出力部とを備え、フレーム特徴量は、画像データに関連する動きベクトル情報を解析して求められることにより、上記課題を解決する。
【００１２】
本発明の請求項５によれば、出力部は、さらに、外部からインデックス情報を受け取り、インデックス情報生成部で生成されたインデックス情報および外部から受け取ったインデックス情報の少なくとも一方で指定されたインデックス画像を出力することにより、上記課題を解決する。
【００１３】
本発明の請求項６によれば、インデックス情報生成部は、フレーム特徴量を受け取り、フレーム特徴量を所定のしきい値と比較することで特徴フレームを決定するフレーム決定部と、フレーム決定部に接続され、特徴フレームの位置情報であるインデックス情報を生成するインデックス生成部とを含み、インデックス情報は、しきい値の設定を検索の過程で変えることにより適応的に変えられる情報であることにより、上記課題を解決する。
本発明の請求項７によれば、フレーム特徴量は、フレームが所定のサイズで分割された複数のブロックのうち、符号化において使用した予測方式毎のブロックの総数により求められる値であることにより、上記課題を解決する。
【００１４】
【発明の実施の形態】
本発明の実施の形態では、画像データに含まれる符号化情報のうち、符号化予測モード情報並びに動きベクトル情報を用いて、シーンチェンジフレーム、局所的に激しい動きの見られるフレームを特徴フレームとして抽出するケースを採り上げる。無論、これ以外の符号化情報を用いる、あるいはこれ以外の特徴フレームを抽出するケースであっても、本発明で示した構成を有する場合があることは言うまでもない。
【００１５】
図１乃至図７に本発明の画像検索情報記録装置及び画像検索装置の第一の実施の形態を示す。
【００１６】
図１は本発明の画像検索情報記録装置の第一の実施の形態を表す構成図である。符号化情報読出部１０１は、符号化された画像データを入力し、画像データに含まれる所望の符号化情報を読み出して出力する。本実施の形態における符号化情報読出部１０１では、符号化画像データから予測モード情報、動きベクトル情報を抜き出し、出力する。
【００１７】
フレーム特徴量生成部１０２は、符号化情報読出部１０１で得られた各符号化情報を加工し、特徴フレームを判定するための判定基準となる各フレームに対しての特徴量を生成し、出力する。図２は、本実施の形態における図１中のフレーム特徴量生成部１０２の内部構成を図示したものである。
【００１８】
符号化情報読出部１０１で読み出される符号化予測モード情報は、各フレームに対する予測符号化方式、並びにフレーム中の各符号化ブロックの予測方式とする。予測モード計数部２０１は、フレーム毎に各予測方式で符号化されたブロック数を計数する。前方向予測符号化フレーム（Ｐフレーム）では、フレーム内予測方式で符号化されたＩブロック、フレーム間予測方式で符号化されたＰブロックのそれぞれを計数する。双方向予測符号化フレーム（Ｂフレーム）では、フレーム内予測方式で符号化されたＩブロック、前方向フレーム間予測方式で符号化されたＰブロック、後方向フレーム間予測方式で符号化されたＢブロック、双方向フレーム間予測方式で符号化されたＢｉブロックのそれぞれを計数する。
【００１９】
更に、予測モード計数部２０１は、ＰフレームではＰブロック数Ｐｐを、Ｂフレームでは前方向フレーム間予測ブロック総数Ｂｆ（＝Ｐ＋Ｂｉ）及び後方向フレーム間予測ブロック総数Ｂｂ（＝Ｂ＋Ｂｉ）を、各フレームに対するブロック予測モード頻度情報として出力する。
【００２０】
頻度情報変換部２０２は、これらの頻度情報を各フレームに関する付属情報（以下、この各フレームに関連する付属情報のことをフレーム特徴量と呼ぶ）に変換する。本実施の形態では、各フレーム特徴量は、そのフレームと直前のフレーム間での相関を示すものとなるように設定する。
【００２１】
図３は、フレーム間予測符号化時のＰ、Ｂ各フレーム間の参照関係の例を矢印で示したもので、矢印の始点が符号化／復号の対象フレームを、矢印の終点が符号化／復号時の参照フレームを表す。各矢印に付されたＰｐ、Ｂｆｎ、Ｂｂｎを上記頻度情報とすると、例えばフレームＢ２に対するフレーム特徴量、即ちフレームＢ１とフレームＢ２との相関に関わる頻度情報とは、ここに付された各ブロック頻度情報Ｐｐ、Ｂｆｎ、Ｂｂｎから所定の演算によって算出されるべきものである。
【００２２】
本実施の形態では、Ｂｆ２があるしきい値を超える場合にはＢｆ２の値を、Ｂｆ２があるしきい値を超えずＢｂ１がしきい値を超える場合にはＢｂ１を、そうでない場合にはＢｆ２とＢｂ１のうちいずれか大きい方を、フレームＢ２のフレーム特徴量とした。フレームＢ３も同様である。フレームＢ１についてはＢｆ１をフレーム特徴量とした。また、フレームＰ４については、Ｂｂ３とＰｐのうち大きい方をフレームＰ４のフレーム特徴量とした。無論、各フレームに関する付属情報の算出方法はこれに限るものではない。また、予測モード計数部２０１で計数される上記符号化ブロック頻度情報をそのままフレーム特徴量と捉えてもよい。
【００２３】
動きベクトル統計量計算部２０４は、符号化情報読出部１０１で得られる上記予測モード情報に基づいて、ＰフレームについてはＰブロックに対応した動きベクトルのベクトル長さのフレーム全体における平均値を、Ｂフレームについては前方向フレーム間予測で符号化される全ブロック（上記Ｂｆ）、後方向フレーム間予測で符号化される全ブロック（上記Ｂｂ）にそれぞれ対応した動きベクトルのベクトル長さのフレーム全体における平均値を、それぞれ計算する。計算する統計量はベクトル長さの平均値に限らず、平均ベクトル等、別の統計量であってもよい。また、計算の際には対象フレームと参照フレームとの間隔を考慮して動きベクトルを正規化する。
【００２４】
加えて、本実施の形態では、動きベクトル統計量計算部２０４は有効動きベクトル検出部２０３で有効と判定された動きベクトルのみを用いて統計量を計算する。例えばカメラが被写体を捉えつつ移動しているような場合では、撮影された画像は被写体と背景とが全く違った大きさや方向の動きベクトルを持つことがある。このような場合に、注目するある領域、例えば被写体の領域についての動きベクトルだけを抽出して動きの大小等の判定に利用するために、有効動きベクトル検出部２０３を用いる。
【００２５】
背景からの被写体領域の切り出し方法には、フレーム全体の動きベクトルのベクトル平均を求め、ベクトル平均から外れる動きベクトルを逐次抽出していく方式や、クラスタリングによって２つの領域に分割する方式等が考えられる。動画像の内容が被写体の数が増える等して更に複雑になった場合には、それに応じた有効動きベクトル検出方式を用いる。逆に画像がそのような性質を持たない場合には、有効動きベクトル検出を行わずにフレーム全体での動きベクトルの統計量を計算してもよい。
【００２６】
統計量情報変換部２０５は、動きベクトル統計量計算部２０４で得られた上記各動きベクトル統計量を、フレーム毎に与えるフレーム特徴量へ変換する。予測モード情報に基づくフレーム特徴量と同様、本実施の形態では、動きベクトル情報に基づくフレーム特徴量は、そのフレームと直前のフレーム間での動き情報を示すものとなるように設定する。またこの時、予測モード計数部２０１で得られた符号化ブロック頻度情報を、動きベクトルフレーム特徴量の計算にあたって参照する。
【００２７】
図３において、フレームＢ２に付される動きベクトルフレーム特徴量は、ブロック頻度Ｂｆ２、Ｂｂ１が共にあるしきい値を超える場合にはＢｆ２、Ｂｂ１に対応する全動きベクトルのベクトル長さ平均を、Ｂｆ２のみが超える場合にはＢｆ２に対応した動きベクトルのベクトル長さ平均を、Ｂｂ１のみが超える場合にはＢｂ１に対応した動きベクトルのベクトル長さ平均を、そうでない場合には０を与えることとした。フレームＢ３も同様である。フレームＢ１については、Ｂｆ１があるしきい値を超える場合にはＢｆ１に対応する動きベクトルのベクトル長さ平均を、そうでない場合には０を与えることとした。また、フレームＰ４については、Ｂｂ３とＰｐが共にあるしきい値を超える場合にはＢｂ３、Ｐｐに対応する（正規化された）全動きベクトルのベクトル長さ平均を、Ｂｂ３のみが超える場合にはＢｂ３に対応した動きベクトルのベクトル長さ平均を、そうでない場合には０を与えることとした。
【００２８】
無論、各フレームに関する動きベクトルフレーム特徴量の算出方法はこれに限るものではない。また、動きベクトル統計量計算部２０４で算出される上記各ブロックに対応した動きベクトル統計量をそのままフレーム毎の動きベクトルフレーム統計量と捉えてもよい。
【００２９】
このようにして得られた予測モードフレーム特徴量並びに動きベクトルフレーム特徴量が、フレーム特徴量生成部１０２から出力され、フレーム特徴量記録部１０３で所定の記録場所に記録される。フレーム特徴量の記録場所は、各フレーム毎の符号化画像データと対応させた位置、例えば各フレーム毎の符号化画像データのヘッダ情報として記録してもよいし、画像検索用の別データとして、符号化画像データと独立させて記録してもよい。
【００３０】
図４は、本発明の画像検索装置の第一の実施の形態を表す構成図である。インデックス情報生成部４０１は、上記画像検索情報記録装置で記録されたフレーム特徴量を入力とし、各フレーム毎のフレーム特徴量に基づき所望の特徴フレームを抽出した後、その位置情報をインデックス情報として生成し、出力する。
【００３１】
図５は、本実施の形態における図４中のインデックス情報生成部４０１の内部構成を図示したものである。入力された符号化に関する予測モードフレーム特徴量を入力として、シーンチェンジフレーム判定部５０１でシーンチェンジフレームが判定される。本実施の形態においては、符号化予測モードフレーム特徴量をしきい値判定することによってシーンチェンジフレームを決定する。しきい値の設定を変更したり、隣接するフレームがシーンチェンジフレームと判定された場合の処理を加えることにより、抽出されるシーンチェンジフレームは変化する。
【００３２】
従来技術においては、シーンチェンジフレームの抽出処理は画像検索処理とは独立であり、その判定方式等は固定であった。本発明の実施の形態では、後述する画像検索の過程で画像検索実行部４０２から出力される新たな特徴フレームの抽出要求によって、シーンチェンジ判定のしきい値あるいは判定処理を検索過程で適応的に変更することにより、所望のシーンチェンジフレームを逐次抽出する構成を持つ。シーンチェンジフレームインデックス生成部５０２は、判定部５０１で判定されたシーンチェンジフレームの位置情報を、インデックス情報として生成する。
【００３３】
動きベクトルフレーム特徴量を入力として、動き特徴フレーム判定部５０３で動きの大小等に関する特徴フレームが判定される。本実施の形態においては、隣接する複数フレームの動きベクトルフレーム特徴量に基づいてピーク位置判定を行うことにより、局所的に激しい動きの見られるフレームを決定する。あるいはしきい値以上の大きさを持つフレームを抽出するように変更したり、または逆に極小位置にある動きの少ないフレームを動き特徴フレームとして抽出することも考えられる。
【００３４】
従来技術においては、動き特徴フレームの抽出処理は画像検索処理とは独立であり、その判定方式等は固定であった。本発明の実施の形態では、後述する画像検索の過程で画像検索実行部４０２から出力される新たな特徴フレームの抽出要求によって、いかなる動き特徴に注目するかに関わる動き特徴フレームの判定方式を検索過程で適応的に変更することにより、所望の動き特徴フレームを逐次抽出する構成を持つ。動き特徴フレームインデックス生成部５０４は、判定部５０３で判定された動き特徴フレームの位置情報を、インデックス情報として生成する。
【００３５】
このようにして得られたシーンチェンジフレームインデックス情報並びに動き特徴フレームインデックス情報が、インデックス情報生成部４０１から出力され、画像検索実行部４０２に入力される。
【００３６】
画像検索実行部４０２は、入力された特徴フレームインデックス情報と符号化画像データに基づいて画像検索を実行する。特徴フレームインデックス情報から特徴フレームの位置情報を得、対応するフレームが符号化画像データを用いて復号される。検索者は、一覧表示あるいは順に表示される各特徴フレームを見ることで動画像の内容を知り、所望の画像を探すことで検索を実行する。この時、インデックス情報として与えられる特徴フレームが実行中の画像検索に対して不適である、あるいは不足であると判断された場合に、画像検索実行部４０２からインデックス情報生成部４０１に向けて新たな特徴フレームを抽出する要求が出される。インデックス情報生成部４０１は、画像検索実行部４０２から出される新たな特徴フレーム抽出要求を受けて、各特徴フレーム判定部５０１、５０３内の特徴フレームの判定方式を変更し、所望の特徴フレームを決定し、その特徴フレームの位置情報をインデックス情報として出力する。出力されたインデックス情報は、画像検索実行部５０２に入力され、新たに画像検索が実行される。
【００３７】
本第一の実施の形態による利点は以下のようなものである。前記、インデックス情報生成部４０１の説明で述べたように、シーンチェンジフレームや動きに関する特徴フレーム等の動画像に対する特徴フレームは、その判定の仕方により抽出されるフレームが異なり、また、そのフレームが持つ物理的な意味合いも異なる場合がある。例えば、激しい動きのあるフレームと動きの小さいフレームは全く別の特徴を有するフレームである。
【００３８】
一方、動画像検索を実施した際、その動画像の特徴フレームとして、激しい動きのあるフレームを表示するのが適切であるか、動きの小さいフレームを表示するのが適切であるか、あるいはもっと別の動きに関する特徴を持つフレームが適切であるかは、検索対象の動画像に依存するものであり、検索の過程で適応的に切替えたい要求が生じることが考えられる。このような状況に対して、本発明の第一の実施の形態は、フレーム特徴量の形式で画像検索情報を記録することにより、検索過程での特徴フレーム切替え要求に即座に応答することができる。
【００３９】
あるいは、図６に示すように、図１の画像検索情報記録装置に、特徴フレームのインデックス情報を生成するインデックス情報生成部４０１及びインデックス情報を記録するインデックス情報記録部６０１を追加することで、（あらかじめ決められた）特徴フレームのインデックス情報をフレーム特徴量と共に別途記録しておくこともできる。フレーム特徴量、特徴フレームインデックス情報の両方を記録する場合では、検索過程での特徴フレームの切替え要求に対してはフレーム特徴量を用いることにより即座に応答でき、かつ切替え要求がないような検索では固定のインデックス情報によって高速に検索を実行することもできる。
【００４０】
図６の画像検索情報記録装置に対応する画像検索装置の構成を図７に示す。図７の画像検索装置では、記録されたインデックス情報と、インデックス情報生成部４０１から出力されるインデックス情報のいずれも画像検索実行部４０２に入力され、画像検索に利用される。
【００４１】
また、本実施の形態では画像検索情報記録装置と画像検索装置とを別個のものとし、これらの間ではインデックス情報、フレーム特徴量を記録し渡すこととしているが、画像検索情報記録装置で生成されるそれらの情報を直接画像検索装置に渡し、オンラインで検索を実行することも可能である。
【００４２】
図８乃至図１１に本発明の画像検索情報記録装置及び画像検索装置の第二の実施の形態を示す。
図８は、本発明の画像検索情報記録装置の第二の実施の形態を表す構成図である。上記第一の実施の形態が各フレーム毎のフレーム特徴量を記録するものであるのに対し、本第二の実施の形態では、符号化情報読出部１０１で読み出された特徴フレーム抽出の基となる符号化情報を、符号化情報記録部８０１で所定の記録場所に記録する。こうしておけば、画像検索において特徴フレームを抽出する際に所定場所の符号化情報を読み出すだけでよいため、元の符号化画像データを逐次読み込むのに比べて効率が上がる。符号化情報の記録場所は、各フレーム毎の符号化画像データと対応させた位置、例えば各フレーム毎の符号化画像データのヘッダ情報として記録してもよいし、画像検索用の別データとして、符号化画像データと独立させて記録してもよい。
【００４３】
図９は、本発明の画像検索装置の第二の実施の形態を表す構成図である。上記第一の実施の形態における画像検索装置では、記録されたフレーム特徴量がインデックス情報生成部４０１に入力されたのに対し、本第二の実施の形態では、入力された符号化情報から各フレームに対するフレーム特徴量を生成するフレーム特徴量生成部１０２が追加され、フレーム特徴量生成部１０２で生成されたフレーム特徴量がインデックス情報生成部４０１に入力される。フレーム特徴量生成部１０２、インデックス情報生成部４０１、画像検索情報実行部４０２の動作は第一の実施の形態と同一であるため、省略する。
【００４４】
本第二の実施の形態では、元の符号化画像データから特徴フレーム抽出に必要な符号化情報だけを抜き出して記録するといった単純な構成で画像検索情報記録装置が実現される。また、符号化情報の形式で記録するため、検索の過程でフレーム特徴量に基づく特徴フレームの判定方式を変更するだけでなく、特徴フレームを抽出するためのフレーム特徴量の算出方式自体を変更することも可能であり、より柔軟な画像検索を行うことができる。
【００４５】
第一の実施の形態と同様に、図８の画像検索情報記録装置に、各フレーム毎のフレーム特徴量を生成するフレーム特徴量生成部１０２、特徴フレームのインデックス情報を生成するインデックス情報生成部４０１及びインデックス情報を記録するインデックス情報記録部６０１を追加することで（あらかじめ決められた）、特徴フレームのインデックス情報を特徴フレーム抽出に必要な符号化情報と共に別途記録しておくこともできる。
【００４６】
この画像検索情報記録装置の構成図を図１０に示す。符号化情報、特徴フレームインデックス情報の両方を記録する場合では、検索過程での特徴フレームの切替え要求に対しては符号化情報に基づいてフレーム特徴量を得ることにより応答でき、かつ切替え要求がないような検索では固定のインデックス情報によって高速に検索を実行することもできる。
【００４７】
図１０の画像検索情報記録装置に対応する画像検索装置の構成を図１１に示す。図１１の画像検索装置では、記録されたインデックス情報と、インデックス情報生成部４０１から出力されるインデックス情報のいずれも画像検索実行部４０２に入力され、画像検索に利用される。
【００４８】
更に、上記第一の実施の形態及び第二の実施の形態ではそれぞれ、各フレームに対するフレーム特徴量、特徴フレーム抽出に必要な符号化情報を各々記録するとしたが、これらは相反するものではなく、フレーム特徴量と特徴フレーム抽出に必要な符号化情報を共に記録してもよい。また、インデックス情報、フレーム特徴量、特徴フレーム抽出に必要な符号化情報を全て記録し、画像検索時に利用することも可能である。
【００４９】
図１２および図１３に本発明の画像検索情報記録装置の第三の実施の形態を示す。
図１２は、本発明の画像検索情報記録装置の第三の実施の形態を表す構成図である。本第三の実施の形態は、インデックス情報、フレーム特徴量、特徴フレーム抽出に必要な符号化情報のうち、どの情報を画像検索情報として記録するかを選択する記録情報選択部１２０１を持つことを特徴とする。但し、記録情報選択部１２０１で選択される画像検索情報はいずれか一つとは限らず、状況に応じてインデックス情報、フレーム特徴量、特徴フレーム抽出に必要な符号化情報のうちの二つ、あるいは全てを記録するといった選択も可能とする。
【００５０】
前記、第一の実施の形態で、シーンチェンジフレームや動きに関する特徴フレーム等の動画像に対する特徴フレームは、その判定の仕方により抽出されるフレームが異なり、また、そのフレームが持つ物理的な意味合いも異なる場合があることを述べた。例えば、激しい動きのあるフレームと動きの小さいフレームは全く別の特徴を有するフレームである。動画像検索を実施した際、その動画像の特徴フレームとして、激しい動きのあるフレームを表示するのが適切であるか、動きの小さいフレームを表示するのが適切であるか、あるいはもっと別の動きに関する特徴を持つフレームが適切であるかは、検索対象の動画像に依存するものであり、検索の過程で適応的に切替えたい要求が生じることが考えられる。このような状況では、記録情報選択部１２０１においてフレーム特徴量の形式あるいは符号化情報の形式で画像検索情報を記録することにより、検索過程での切替え要求に即座に応答することができる。
【００５１】
あるいは、あらかじめ検索対象である動画像に対して何らかの知識が得られ、適した特徴フレームが判っている場合には、記録情報選択部１２０１において特徴フレームのインデックス情報の形式で画像検索情報を記録することにより、画像検索情報量を削減し、高速に検索を実行することができる。また、記録情報選択部１２０１においてフレーム特徴量あるいは符号化情報と特徴フレームのインデックス情報とを共に記録する場合では、検索過程での切替え要求に即座に応答でき、かつ高速に検索を実行することができる。
【００５２】
図１３に、本発明の画像検索装置の第三の実施の形態を示す。前記画像検索情報装置で記録されたインデックス情報、フレーム特徴量、あるいは特徴フレーム抽出に必要な符号化情報が、適宜画像検索装置に入力される。
【００５３】
インデックス情報があれば、インデックス情報から特徴フレーム位置を得、入力された符号化画像データを復号し、表示することで、画像検索が実行される。画像検索の過程で、新たな特徴フレームが必要とされた場合、フレーム特徴量があれば、フレーム特徴量から新たな特徴フレームを抽出し、インデックス情報を生成して画像検索に用いる。
【００５４】
さらに、フレーム特徴量が不適であると判断された場合には、符号化情報があれば、符号化情報から新たなフレーム特徴量を生成し、生成された新たなフレーム特徴量から新たな特徴フレームを抽出し、インデックス情報を生成して画像検索に用いる。
【００５５】
フレーム特徴量、符号化情報を共に記憶しておく利点は、このような自由度の高い画像検索を行える点にある。
【００５６】
符号化情報があり、入力されるフレーム特徴量がない場合では、新たな特徴フレームの抽出要求は直接フレーム特徴量生成部１０２に向けて出される。
【００５７】
このように、本発明の画像検索情報記録装置の第三の実施の形態では、検索を行う対象画像の性質によって記録情報選択部１２０１において記録する情報を選択することで、適切な画像検索情報を記録することができ、また画像検索装置では、適応的に画像検索を実行することができる。また、検索実行時の実行速度や記録容量の制限等によって記録情報選択部１２０１における記録情報を選択することもできる。
【００５８】
これら画像検索情報は、インデックス情報、フレーム特徴量、符号化情報の順に容量が大きくなる。例えば、画像検索情報を記録する記録容量が小さい場合には、容量の小さいインデックス情報のみを記録する。記録容量は十分大きく、かつ検索実行速度が遅いような端末では、すべての情報を記録し検索の自由度を確保した上で、インデックス情報を極力活用することで実行速度を低下させないようにする。
【００５９】
また、記録する画像検索情報をインデックス情報、フレーム特徴量、特徴フレーム抽出に必要な符号化情報のうちの二つに限定し、記録情報選択部１２０１において記録情報を選択することも可能である。
【００６０】
【発明の効果】
本願請求項１に記載の発明に係る画像検索情報記録装置は、上述したような構成によって、特徴フレーム抽出に必要なフレーム特徴量を記録できることにより、様々な検索要求に対して、高速に検索処理を行うことができる。
【００６１】
本願請求項２に記載の発明に係る画像検索情報記録装置は、上述したような構成によって、特徴フレーム抽出に必要なフレーム特徴量を記録できることにより、様々な検索要求に対して、高速に検索処理を行うことができる。
【００６２】
本願請求項３に記載の発明に係る画像検索情報記録装置は、上述したような構成によって、特徴フレーム抽出に必要なフレーム特徴量を記録できることにより、様々な検索要求に対して、高速に検索処理を行うことができる。
【００６３】
本願請求項４に記載の発明に係る画像検索装置は、上述したような構成によって、フレーム特徴量よりもデータ量の少ないインデックス情報を使用することで、画像の検索処理を高速に行なうことができる。
【００６４】
本願請求項５に記載の発明に係る画像検索装置は、上述したような構成によって、様々な検索要求に対して、高速に検索処理を行うことができる。
【００６５】
本願請求項６に記載の発明に係る画像検索装置は、上述したような構成によって、様々な検索要求に対して、柔軟な画像検索を行うことができる。
本願請求項７に記載の発明に係る画像検索装置は、上述したような構成によって、画像の検索処理を高速に行なうことができる。
【図面の簡単な説明】
【図１】本発明の画像検索情報記録装置の第一の実施の形態を表す図である。
【図２】本発明の画像検索情報記録装置の第一の実施の形態でフレーム特徴量生成部の内部構成を表す図である。
【図３】予測符号化方式のフレームの参照関係を表す図である。
【図４】本発明の画像検索装置の第一の実施の形態を表す図である。
【図５】本発明の画像検索装置の第一の実施の形態でインデックス情報生成部の内部構成を表す図である。
【図６】本発明の画像検索情報記録装置の第一の実施の形態を表す図である。
【図７】本発明の画像検索装置の第一の実施の形態を表す図である。
【図８】本発明の画像検索情報記録装置の第二の実施の形態を表す図である。
【図９】本発明の画像検索装置の第二の実施の形態を表す図である。
【図１０】本発明の画像検索情報記録装置の第二の実施の形態を表す図である。
【図１１】本発明の画像検索装置の第二の実施の形態を表す図である。
【図１２】本発明の画像検索情報記録装置の第三の実施の形態を表す図である。
【図１３】本発明の画像検索装置の第三の実施の形態を表す図である。
【図１４】従来技術の画像検索情報記録装置を表す図である。
【図１５】従来技術の画像検索装置を表す図である。
【符号の説明】
１０１、１４０１  符号化情報読出部
１０２、１４０２  フレーム特徴量生成部
１０３  フレーム特徴量記録部
２０１  予測モード計数部
２０２  頻度情報変換部
２０３  有効動きベクトル検出部
２０４  動きベクトル統計量計算部
２０５  統計量情報変換部
４０１、１４０３  インデックス情報生成部
４０２、１５０１  画像検索実行部
５０１  シーンチェンジフレーム判定部
５０２  シーンチェンジフレームインデックス生成部
５０３  動き特徴フレーム判定部
５０４  動き特徴フレームインデックス生成部
６０１、１４０４  インデックス情報記録部
８０１  符号化情報記録部
１２０１  記録情報選択部
【図１】
0004656680.tif 000002
【図２】
0004656680.tif 000003
【図３】
0004656680.tif 000004
【図４】
0004656680.tif 000005
【図５】
0004656680.tif 000006
【図６】
0004656680.tif 000007
【図７】
0004656680.tif 000008
【図８】
0004656680.tif 000009
【図９】
0004656680.tif 000010
【図１０】
0004656680.tif 000011
【図１１】
0004656680.tif 000012
【図１２】
0004656680.tif 000013
【図１３】
0004656680.tif 000014
【図１４】
0004656680.tif 000015
【図１５】
0004656680.tif 000016