(57)【要約】【課題】代表画像の選定に関る情報をその代表画像の属性として持たせることにより、代表画像を用いた種々の動画データ操作の操作性を向上する。【解決手段】記憶媒体上に記録された動画像に対して１つもしくは複数の代表画像を対応付けて管理する装置は、動画像に対応付けて代表画像を記憶するとともに、該代表画像の選択基準情報を該代表画像に対応付けて格納した格納部へアクセスし、所望の動画像に対応して記憶された代表画像の中から処理目的に応じた代表画像を選択基準情報に基いて選び出す。そして、選択された代表画像の一つが指定された場合、その指定された代表画像に対応する区間情報が示す区間の動画像について、処理目的に応じた処理を適用する。【選択図】  図９Ａ
2005318618.tif 000002
【特許請求の範囲】
【請求項１】
記憶媒体上に記録された動画像に対して１つもしくは複数の代表画像を対応付けて管理する装置であって、
動画像に対応付けて代表画像を記憶するとともに、該代表画像の選択基準情報を該代表画像に対応付けて格納した格納手段へアクセスし、所望の動画像に対応して記憶された代表画像の中から処理目的に応じた代表画像を前記選択基準情報に基いて選び出す選択手段と、
前記選択手段で選択された代表画像の一つが指定された場合、その指定された代表画像に対応する区間情報が示す区間の動画像について、前記処理目的に応じた処理を適用する適用手段とを備えることを特徴とする動画像管理装置。
【請求項２】
記憶媒体上に記録された動画像に対して１つもしくは複数の代表画像を対応付けて管理する方法であって、
動画像に対応付けて代表画像を記憶するとともに、該代表画像の選択基準情報を該代表画像に対応付けて格納した格納手段へアクセスし、所望の動画像に対応して記憶された代表画像の中から処理目的に応じた代表画像を前記選択基準情報に基いて選び出す選択工程と、
前記選択工程で選択された代表画像の一つが指定された場合、その指定された代表画像に対応する区間情報が示す区間の動画像について、前記処理目的に応じた処理を適用する適用工程とを備えることを特徴とする動画像管理方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、記憶媒体上に記憶された動画像データを一つ又は複数の代表画像によって管理する動画データ管理装置及び方法に関するものである。
【背景技術】
【０００２】
従来より、記憶媒体上に記録された動画像を代表画像によって管理する方法が提案されている。特許第０３０８１３０４号（特許文献１）では、一般的な動画や静止画の再生機における代表画像の利用方法が開示されており、特に静止画や動画などの選択を行う際の簡易表示などに代表画像を用いることが記載されている。また、特開平１１−１７６１３７号（特許文献２）、特開２０００−３２２８７５号（特許文献３）では、動画の区間に対して代表画像を割り当てておき、代表画像を用いて再生指示の対象となる区間を選択する方法が開示されている。
【０００３】
このような代表画像の利用形態が一般的になるにつれて、その利用形態も多様化してきている。たとえば、代表画像を用いた画像管理を上記のような再生装置だけでなく、編集装置にも適用することが考えられる。
【特許文献１】特許第０３０８１３０４号公報
【特許文献２】特開平１１−１７６１３７号公報
【特許文献３】特開２０００−３２２８７５号公報
【発明の開示】
【発明が解決しようとする課題】
【０００４】
しかしながら、例えば、同じ動画像の区間に対する代表画像であっても、再生する際のユーザ・インターフェースに適した代表画像と、編集時のユーザ・インターフェースに適した代表画像とはそれぞれ異なる。従って、編集装置をはじめとした様々な機種において代表画像を用いようとすると以下のような問題が生じる。
【０００５】
例えば、図１において、１１は一連の動画像を示す。この動画像１１のうち、区間（ａ）には、バッターが構えてヒットを放つ一連の動作が撮影されているものとする。代表画像１２と代表画像１３は同じ区間（ａ）に関する代表画像である。代表画像１２は区間（ａ）の先頭のフレームから作成されており、バッターが構えた時の画像である。また、代表画像１３は、中間のフレームから作成されており、バッターがヒットを放った時の画像であり、区間（ａ）の内容を把握するのには最も適した代表画像であるといえる。
【０００６】
一般に一つの区間に対しては一つの代表画像が割り当てられて登録される。従って、実際には代表画像１２か１３のいずれかが区間（ａ）の代表画像として登録されることになる。こうして登録された代表画像は例えば再生装置用のインデックス画像として用いることができる。しかしながら、代表画像１３が登録された場合は、再生装置において代表画像選択時に時間的に前の状態から再生が始まる（区間（ａ）の先頭から再生が始まるため）ことになり、ユーザは違和感を覚えてしまう。一方、代表画像１２が登録された場合には、編集装置においてこれを使用した際に、区間（ａ）の内容をその画像だけでは正確に把握できず、不便である。図１の例で言えば、バッターがヒットをした場面なのか、空振りしてしまった場面なのか、代表画像１２からでは判別することができないからである。このように、動画中の同一区間に対する適切な代表画像は、使用される機器の目的によって異なるものとなる。
【０００７】
従来は、再生用や編集用など、動画データの用途や利用形態ごとに、このような代表画像の割り当てや管理を行う必要があった。そのため、例えば編集或は再生といった使用目的ごとに、または動画や静止画ごとに、または機器や方式ごとに、代表画像の情報を冗長に保有する必要があり、また、その代表画像などの情報を利用するための工程のプログラムコードや方式を別々に保有する必要があるという問題点があった。すなわち、種々の動画データ処理において代表画像を用いた動画データを利用する場合に、その利用する装置やプログラムごとに、代表画像などの情報を個別に管理することになっていた。このため、管理を行う装置やプログラムが複数存在しているだけでも無駄なのに、代表画像のデータなども個別に格納されるという無駄が生じていた。このように、代表画像を用いた動画データの操作性を維持しようとすれば、代表画像の管理が繁雑となってしまうという問題がある。
【０００８】
本発明は上記の課題に鑑みてなされたものであり、代表画像の選定に関る情報をその代表画像の属性として持たせることにより、代表画像を用いた種々の動画データ操作の操作性を向上することを目的とする。
【課題を解決するための手段】
【０００９】
上記の目的を達成するための本発明による動画像管理装置は以下の構成を備える。すなわち、
記憶媒体上に記録された動画像に対して１つもしくは複数の代表画像を対応付けて管理する装置であって、
動画像に対応付けて代表画像を記憶するとともに、該代表画像の選択基準情報を該代表画像に対応付けて格納した格納手段へアクセスし、所望の動画像に対応して記憶された代表画像の中から処理目的に応じた代表画像を前記選択基準情報に基いて選び出す選択手段と、
前記選択手段で選択された代表画像の一つが指定された場合、その指定された代表画像に対応する区間情報が示す区間の動画像について、前記処理目的に応じた処理を適用する適用手段とを備える。
なお、本明細書において、代表画像とは区間中のフレームの一つ基づいて生成される静止画像（例えばサムネイル）である。また、代表画像とは１区間に一つである必要はなく、同一区間に複数の代表が像が設定されてもかまわないことは言うまでもない。
【００１０】
また、上記の目的を達成する本発明の他の態様による動画像管理方法は、
記憶媒体上に記録された動画像に対して１つもしくは複数の代表画像を対応付けて管理する方法であって、
動画像に対応付けて代表画像を記憶するとともに、該代表画像の選択基準情報を該代表画像に対応付けて格納した格納手段へアクセスし、所望の動画像に対応して記憶された代表画像の中から処理目的に応じた代表画像を前記選択基準情報に基いて選び出す選択工程と、
前記選択工程で選択された代表画像の一つが指定された場合、その指定された代表画像に対応する区間情報が示す区間の動画像について、前記処理目的に応じた処理を適用する適用工程とを備える。
【発明の効果】
【００１１】
本発明によれば、代表画像の選択に関わる情報をその代表画像の属性として持たせるので、種々の動画データ処理の実行において代表画像を用いた操作性が向上する。
【発明を実施するための最良の形態】
【００１２】
以下、添付の図面を参照して本発明の好適な一実施形態を詳細に説明する。
【００１３】
本実施形態では、代表画像を利用する方式において、代表画像関連の情報を一括して管理／利用できるようにするために、その情報を共有可能とすると共に、その利用形態などに応じて、その代表画像関連の情報の区別もしくは共有ができるように、代表画像作成時の情報を持たせることに特徴がある。ここで、代表画像作成時の情報とは代表画像を対応する動画区間中のどの部分の画像をもとに生成したかを示す、或は対応する動画区間中のどのようなタイプの画像（動きの激しい部分等）を基に生成したかを示すものである。ここで、代表画像作成時の情報には、代表画像の下となるフレームの選定に関する情報（以下、選択基準）が含まれている。
【００１４】
本実施形態によれば、代表画像作成時の情報を持たせるという特徴により、複数の代表画像を一元化して記録・保存でき、無駄が省かれるようになる（例えば、複数種類の使用目的に対応した複数の代表画像を一つのファイルとして管理することができる）。また、個々の装置やプログラムで独特な機能の実現のために適した代表画像を、代表画像の選択基準を参照することで選択できるので、その機能の操作性を向上させることができる。また、同様に、情報の格納時にその配置方式などを、その代表画像関連の情報の利用形態や方式に応じて、異ならせることができる。すなわち、重要なサムネイル（ヘッダ）、インデックス領域、サムネイル領域（フッタ）それぞれの記憶媒体上の配置場所を、アクセスが容易な場所に配置することも可能である。
【００１５】
以下、本実施形態の動画像処理装置を詳細に説明する。
【００１６】
図２は、本実施形態における動画像処理装置の制御構成を示すブロック図である。図２において、２０１はＣＰＵであり、本実施形態の動画像処理装置における各種制御を実行する。２０２はＲＯＭであり、本装置の立ち上げ時に実行されるブートプログラムや各種データを格納する。２０３はＲＡＭであり、ＣＰＵ２０１が処理するための制御プログラムを格納するとともに、ＣＰＵ２０１が各種制御を実行する際の作業領域を提供する。２０４はキーボード、２０５はマウスであり、ユーザによる各種入力操作環境を提供する。
【００１７】
２０６は外部記憶装置であり、ハードディスクやフロッピー（登録商標）ディスク、光ディスク、磁気ディスク、光磁気ディスク、磁気テープ等で構成される。２０７は表示器であり、ディスプレイなどで構成され、結果等をユーザに対して表示する。２０８はネットワークインターフェースであり、ネットワーク上の各機器との通信を可能とする。２０９はビデオインターフェースであり、ビデオカメラ２１０や、ＶＴＲ２１２からの動画の取り込みを可能とする。また、２１１は上記の各構成を接続するバスである。
【００１８】
なお、上記の構成においてビデオカメラ２１０、ＶＴＲ２１２や外部記憶装置２０６はネットワーク上に配置されたもので代用してもよい。
【００１９】
図３は、本実施形態における動画像処理装置の機能構成を示すブロック図である。３００はユーザ操作部であり、ユーザによる指示や入力を、キーボード２０４及びマウス２０５などを介して、取得するものである。３０１は動画入力部であり、ビデオＩ／Ｆ２０９を介してビデオカメラ２１０、ＶＴＲ２１２などの動画像を読み出し、本実施形態の動画像処理装置に入力するものである。３０２は動画ファイル蓄積部であり、外部記憶装置２０６で構成され、動画入力部３０１によって入力された動画像をファイルの形式で蓄積するものである。
【００２０】
３０３はサムネイル作成部であり、動画ファイル蓄積部３０２に蓄積されている動画像を表示器２０７に提示し、ユーザに所望の区間と当該区間中のフレーム画像を指定させ、指定されたフレーム画像を元に、その区間の代表画像としての縮小画像（以下、サムネイル画像）を作成し、指定された区間等の情報とともに動画ファイルとして動画ファイル蓄積部３０２に蓄積させる。すなわち、サムネイル作成部３０３により、ユーザは表示器２０７に提示された動画像を参照して動画像中の区間とその区間を代表するフレームをユーザ操作部３００を介して指定することができる。そして、指定されたフレーム画像に基づくサムネイル画像が指定された区間などの情報と共に動画ファイル蓄積部３０２中により格納される。なお、指定区間として動画全体を指定することも可能である。
【００２１】
３０４は、ブラウズ部であり、動画ファイル蓄積部３０２よりサムネイルを読み出して、表示器２０７によりサムネイルを表示するとともに、ユーザによって選択されたサムネイルに対応した動画像を再生する。この場合の動画像の再生では、例えば、選択されたサムネイルが代表している区間のみを再生したり、選択されたサムネイルが代表している区間とそれ以降の動画を再生する。３０５は編集部であり、動画ファイル蓄積部３０２中の動画像の編集を行う。また、その編集の途中経過や結果は、表示器２０７を介して表示される。
【００２２】
なお、上述の各部の機能は、ＣＰＵ２０１がＲＯＭ２０２に格納された制御プログラムを実行することにより実現される。或いは、外部記憶装置２０６より適宜ＲＡＭ２０３に制御プログラムをロードして、ＣＰＵ２０１がこれを実行するようにしてもよい。
【００２３】
＜１．サムネイル格納方法＞
図４は、本実施形態における動画ファイル中のサムネイル格納形態の一例を示す概略図である。
【００２４】
４００は動画ファイル蓄積部３０２によって記憶媒体上に記録された動画ファイルである。なお、動画像の１ファイルとする単位は特に限定されるものではなく、例えば、撮像装置の録画ボタンを押してから停止させるまでのショットを単位としてもよいし、ＴＶ放送における番組を１つの単位としてもかまわない。動画像ファイル４００は、管理情報などが記録されるヘッダ４０１、動画像データそのものが記録される動画像４０２、主にサムネイルが記録されるフッタ４０３の３つの部分からなる。
【００２５】
ヘッダ４０１には、動画ファイルのデータサイズ・動画像データの形式・作成された日時などの情報が記録される動画ファイル管理情報４０４と、１枚のサムネイル４０５が記録される。フッタ４０３は、サムネイルを複数枚記録が可能なサムネイル領域４０７と、各サムネイルのインデックス情報が記録されるインデックス領域４０６とを具備する。
【００２６】
図５は、図４のフッタ４０３中のインデックス領域４０６における１インデックス分のデータ構造例を示した図である。
【００２７】
Start PointとEnd Pointは、それぞれ、当該サムネイルが代表している動画像中の区間の開始点と終了点である。開始点及び終了点は動画の区間を特定できればその形態は特に限定されるものではないが、例えば、タイムコードまたはフレームＩＤなどで記述するのが好ましいであろう。なお、区間として当該動画像全体が指定された場合、Start Pointは当該動画像の先頭フレームを、End Pointは当該動画像の最終フレームをさすことになる。
【００２８】
Thumbnail Type IDには、サムネイルの作成時における、画像の選択基準毎にIDが定められており、例えば以下のように定義される。
【００２９】
Thumbnail Type ID＝１：区間の先頭のフレーム
Thumbnail Type ID＝２：区間の中間のフレーム
Thumbnail Type ID＝３：区間の終了のフレーム
Thumbnail Type ID＝４：区間中で動きの激しいフレーム
Thumbnail Type ID＝５：区間中で動きの穏やかなフレーム
Thumbnail Type ID＝６：区間中でオブジェクトが出現したフレーム
Thumbnail Type ID＝７：区間中でオブジェクトが消失したフレーム
Thumbnail Type ID＝８：区間中で画質のよいフレーム
Thumbnail Type ID＝９：区間中にない画像
上記例は、サムネイルを区間のどのようなフレームから作成されたか、そのタイプごとにＩＤを規定したものである。これらのＩＤは、サムネイルの基となる動画中のフレームの選択基準を表すものである。
【００３０】
また、図５に示されるThumbnail Offsetには、インデックスが指し示すサムネイルへのオフセット（サムネイル領域中の、当該インデックスに対応するサムネイルの位置）が記述される。なお、Thumbnail Type ID=9の区間中にない画像の場合は、未使用となるので、何も記述しないか、最大値などの特別な値を記述するようにしておけばよい。
【００３１】
図６は図４のヘッダ４０１中のサムネイル４０５、及び、フッタ４０３中のサムネイル領域４０７における１つのサムネイルのデータ構造例を示した図である。図６の（ａ）において、Thumbnail Headerにはサムネイル画像の管理情報などが記述される。また、Thumbnail Imageには、サムネイル画像データそのものが記述される。また、図６の（ｂ）には、上記Thumbnail Headerのデータ構造例が示されている。Thumbnail Image Offsetには、サムネイル画像（Thumbnail Image）の格納位置へのオフセット値が記述される。Thumbnail Image Sizeには、サムネイル画像のサイズが記述される。Thumbnail Key Relative Pointには、サムネイルの基になった動画像中のフレームの位置がインデックスに登録されている上記Start Pointからの相対位置によって記述される。
【００３２】
＜サムネイルの登録処理＞
図７は、本実施形態によるサムネイル登録の動作例を示したフローチャートである。
【００３３】
まず、ステップＳ１００において、動画入力部３０１は動画を入力し、動画ファイル蓄積部３０２へ図４に示した動画ファイルの形式で記録する。このとき、ヘッダ４０１中のサムネイルを格納する領域とフッタ４０３のための領域を予約領域として確保しておく。次に、ステップＳ１０１において、ユーザによってサムネイルの指定がなされたかを判定する。ここでいうサムネイルの指定とは、サムネイルの基となる動画中の任意のフレームの指定、そのサムネイルが代表することになる動画像中の区間の指定、サムネイルの基となる動画フレームを選択するための選択基準の指定、重要なサムネイルかどうかの指定、などを行なうことである。ここで、選択基準は上述のThumbnail Type IDに対応する。また、重要なサムネイルとは、動画ファイルを代表するものであり、サムネイル４０５として登録されるものである。
【００３４】
サムネイルの指定は、装置の機能を用いて利用者が行なう。例えば、利用者がマニュアルで設定を行う場合は、（１）この装置をサムネイルを指定するための所定のモードに設定し、（２）設定対象の動画中の所望の区間を指定し、（３）この区間を再生させ、（４）その再生中にサムネイルにしたい映像が表示された時点で装置に所定の指示を入力する、ことにより、その時点の画像を基にサムネイルを生成する方式が挙げられる。この場合、指定された動画中の区間により上記Start PointとEnd Pointが決定される。また、所望区間の指定や、サムネイルにしたい画像の指示は、キーボードやマウスを用いて行なう。
【００３５】
或は、ユーザによって指定された区間の中から、変化の激しい画像や、変化の少ない画像といった、ユーザによって指定された選択基準を基に自動的に選択してサムネイルを生成するようにしてもよい。
【００３６】
更に、選択基準として、区間中の先頭、中間、終了のいずれかを指定可能とし、「先頭」が指定された場合は当該区間の先頭フレームを、「終了」が指定された場合は当該区間の末尾のフレームを、「中間」が指定された場合は上記（１）〜（４）の手順で指定されたフレームをサムネイルの基の画像として採用するようにしてもよい。
【００３７】
以上のように、サムネイルの基となる動画フレームの指定の方式には利用者が指定するものや、自動的に装置が指定するものなど、種々の方式が適用可能であり、本発明では、そのいずれの方法であってもかまわない。但し、図７のフローチャートでは、選択基準として先頭、中間、終了を用いた手順を採用するものとして以下の説明を行なう。
【００３８】
次に、ステップＳ１０２において、ステップＳ１０１で指定されたサムネイルが重要なサムネイルであるとの指定があるかを判定する。なお、本実施形態では、重要なサムネイルとは、動画ファイル全体を表わすためのサムネイルであることを意味する。ユーザによって重要なサムネイルであると指定がなされている場合は、ステップＳ１０３へ進み、サムネイルに採用すべく指定されたフレームの位置を動画ファイルの先頭からの相対位置に直し、Thumbnail Key Relative Pointを得る。次に、ステップＳ１０４において、ステップＳ１０３で算出したThumbnail Key Relative Pointとサムネイルの画像サイズ（Thumbnail Image Size）、サムネイル画像の格納位置までの相対距離の情報（Thumbnail Image Offset）をヘッダとしたサムネイルをヘッダ４０１中に記録する。このとき、ヘッダ４０１を記憶媒体上のアクセスが比較的容易で高速に行える位置、例えば、光ディスクの場合、内周部分に格納してもよい。こうすることにより、動画ファイル選択用のインデックス表示の高速化を実現できる。そして、ステップＳ１０１の判断へ戻る。なお、重要なサムネイルの登録は、後の操作で動画ファイルを選択する際に必要となるので、重要なサムネイルの登録が完了するまでは本処理を終了できないようにしてもよい。もちろん、重要なサムネイルが格納されていない場合は、フッタ中のサムネイルの内のいずれかで代用する、例えば最初に格納されたサムネイルで代用するようにしてもよいことは当業者には明らかであろう。また、その場合に、上記処理の終了時に重要なサムネイルの登録完了をチェックする必要がなくなることはいうまでもない。
【００３９】
一方、ステップＳ１０２において重要なサムネイルであると指定されていない場合はステップＳ１０５へ進む。ステップＳ１０５において、動画ファイル４００中のフッタ４０３のインデックス領域４０６の未使用領域に新たなインデックスを確保する。次に、ステップＳ１０６において、サムネイル領域４０７の未使用領域に新たなサムネイルを確保する。次に、ステップＳ１０７において、ステップＳ１０６で確保されたサムネイルへのオフセット値を算出する。
【００４０】
次に、ステップＳ１０８において、指定されているサムネイルのタイプを判定する。ここでは、ユーザによって指定された選択基準（本例では、サムネイルの基となる画像の位置が代表する区間の先頭、中間、終了のいずれであるか）によって分類する処理が示されている。
【００４１】
ステップＳ１０８によって判定されたタイプに従って処理をステップＳ１０９〜Ｓ１１１のいずれかに分岐し、対応するThumbnail Type IDを設定する。これは、上述したThumbnail Type IDをテーブルとして保持しておき、これを参照することで設定することが可能である。本実施形態では、選択基準が、区間の先頭のフレームであれば、Thumbnail Type ID＝１（Ｓ１０９）、区間の中間のフレームであれば、Thumbnail Type ID＝２（Ｓ１１０）、区間の終了のフレームであれば、Thumbnail Type ID＝３（Ｓ１１１）が設定される。ここでは、Typeは３つのみを示したが、一例であって、もちろんこれらに限定されるものではない。
【００４２】
次に、ステップＳ１１２において、ステップＳ１０７で算出したオフセット（Thumbnail Offset）、ステップＳ１０８からＳ１１１において設定したThumbnail Type ID、ユーザにより指定された区間を示す開始点（Start Point）と終了点（End Point）からなるインデックスを生成し、フッタ４０３に格納する。このとき、フッタ４０３のインデックス領域４０６を記憶媒体上のアクセスが比較的容易で高速に行える位置、例えば、光ディスクの場合、内周部分に格納してもよい。こうすることにより、フッタ内のサムネイル選択の高速化を実現できる。
【００４３】
次に、ステップＳ１１３において、サムネイルに採用したフレームの位置を、区間の先頭からの相対位置に直し、Thumbnail Key Relative Pointを得る。そして、ステップＳ１１４において、ステップＳ１１３で算出したThumbnail Key Relative Pointとサムネイルの画像サイズ（Thumbnail Image Size）をヘッダとして、指定されたフレームを縮小して得られたサムネイル画像とともに、フッタ４０３に格納し、サムネイル画像の格納位置までの相対距離の情報をThumbnail Image Offsetに格納する。このとき、フッタ４０３のサムネイル領域４０７を記憶媒体上のアクセスが比較的容易で高速に行える位置、例えば、光ディスクの場合、内周部分に格納してもよい。こうすることにより、フッタ内のサムネイル表示の高速化を実現できる。次に、ステップＳ１０１へ戻り、再びサムネイルの指定がなされれば、ステップＳ１０２からステップＳ１１４を繰り返す。
【００４４】
また、ステップＳ１０１において、サムネイルの指定がなされていなければステップＳ１１５へ進み、ここで登録処理の終了が指示されていれば本処理を終了する。登録処理の終了が指示されていなければ、ステップＳ１０１に戻り、上記処理が繰り返されることになる。
【００４５】
以上の処理によって、重要なサムネイル、インデックス、サムネイル画像のいずれかを記憶媒体上でアクセスが容易な位置に格納することができ、また、使用目的の異なるサムネイルはその選択基準、すなわちThumbnail Type IDによって区別できるので、これらサムネイルを同一ファイルに格納することが可能となり、管理が容易となる。
【００４６】
＜サムネイル活用処理＞
次に、上述のサムネイル登録処理によって登録されたサムネイルを活用する際の処理について説明する。
【００４７】
［ブラウザによる活用処理］
まず、ブラウザで活用される場合について述べる。図８は、ブラウザのユーザ・インターフェースの一例を示す図である。なお、図８（ａ）は、ブラウズすべき動画ファイルが所定の選択操作によって選択された後の表示状態を示している。よって、図８（ａ）に示される各サムネイルは選択されたファイルのフッタに登録されているサムネイルである。ここで、所定の選択操作とは、重要なサムネイルとして各動画ファイルのヘッダに登録されたサムネイルの一覧を図８（ａ）のように表示し、所望のサムネイルを指定することで動画ファイルを選択することが挙げられる。図８の（ａ）において、８０１はブラウザの表示領域全体である。８０２はサムネイルを並べて表示する領域であり、サムネイルは順番に最上列から始まって、左から右へと列ごとに表示されている。８０３はスクロールバーであり、これをスクロールすることでサムネイル表示領域８０２に一度に表示し切れないサムネイルを、順に表示させることができる。８０４はポインタであり、ユーザはユーザ操作部３００の操作によってポインタ８０４を動かし、サムネイル表示領域８０２中の所望のサムネイルを指定することができる。ポインタ８０４でサムネイルが選択されると、図８（ｂ）に示すような動画再生画面８０５に切り替わり、動画の再生が始まる。
【００４８】
以上のブラウザでのサムネイルの活用を実現するための処理について、以下に説明する。図９Ａ、図９Ｂは本実施形態の動画像処理装置のブラウザ動作時における処理を示すフローチャートである。なお図９Ａ、図９Ｂで示される処理は、当該動画像処理装置においてブラウザ処理が起動され、ブラウズすべき動画ファイルが指定された場合に実行される。なお、ブラウズすべき動画ファイルの指定に際しては、図８のサムネイル表示領域に各動画ファイルの全体を代表するサムネイル（各動画ファイルのヘッダに格納されているサムネイル）を並べて表示する。そして、ポインタ８０４によって所望のサムネイルを指示することで、所望の動画ファイルを選択できる。所望の動画ファイルが選択されると図９Ａ、Ｂに示す処理が起動される。
【００４９】
まず、ステップＳ２０１において、ブラウズ部３０４は、動画ファイル蓄積部３０２によって蓄積された動画ファイルのうち、上記操作によって選択された動画ファイル４００中のヘッダ４０１を読み込む。そして、その動画ファイル管理情報４０４からファイルサイズなどの各種の基本的な管理情報を得て、これをメモリ（ＲＡＭ２０３）中に保持する。次に、ステップＳ２０２において、フッタ４０３中のインデックス領域４０６を読み込み、メモリ（ＲＡＭ２０３）中に保持する。次にステップＳ２０３において、上記ステップＳ２０２で保持したインデックス領域４０６に含まれるインデックスを開始位置（図５に示したStart Point）で昇順にソートする。これは、後述するサムネイル表示を時系列順に並べるためである。
【００５０】
次に、ステップＳ２０４において、スクロールバー８０３のバーの現在位置から、サムネイルの表示開始枚数Ｎ（Ｎ枚目のサムネイルが最上列の左端にあることを示す）を得る。例えば、スクロールバー８０３が上端にあれば（図８に示した状態）、表示開始枚数Ｎ＝１となる。従って１枚目のサムネイルから表示が開始されることになる。
【００５１】
次に、先頭のインデックスから順に以下のステップＳ２０５〜Ｓ２１２を実行することにより、Ｎ枚目以降のブラウズ用のサムネイルをサムネイル表示領域８０２に表示する。
【００５２】
まず、ステップＳ２０５において、ブラウズ部３０４はブラウズに適したサムネイルか否かをサムネイル登録時の選択基準に基づいて判断する。どのようなサムネイルがブラウズ操作におけるインデックスとして最適であるか、その基準は同じブラウザという利用形態であっても、機器によって異なっていることがある。本実施形態では、ブラウズ部３０４は、区間の先頭のフレームがインデックスのサムネイルとして適していると判断するものとする。ここで、区間の先頭のフレームかどうかをチェックするには、Thumbnail Type ID=１であるかどうかを確認すればよい。なお、処理の開始時はソート後の先頭のインデックスからチェックをはじめる。
【００５３】
ステップＳ２０５でブラウザ用のサムネイルであると判定されたならば、次のステップＳ２０６に進む。ステップＳ２０６において枚数Ｃ（ブラウザ用のサムネイルのうちの何番目か）をカウントする。そして、ステップＳ２０７において、カウントされた枚数Ｃが表示開始枚数Ｎ未満であるかどうか（Ｃ＜Ｎ）をチェックする。これは、Ｎ枚目未満のサムネイルは表示せず、読み飛ばすための処理である。
【００５４】
ここで、Ｃが表示開始枚数Ｎ以上であれば、次のステップＳ２０８において、サムネイル表示のためサムネイル画像を読み込む。次にステップＳ２０９において、サムネイル画像をサムネイル表示領域８０２に表示し、ステップＳ２１０へ進む。一方、ステップＳ２０５において、ブラウジング用のサムネイルでないと判定された場合、または、ステップＳ２０７においてＮ枚目未満であると判定された場合は、そのままステップＳ２１０へ進む。
【００５５】
ステップＳ２１０では、次のサムネイルを処理すべく、次のインデックスへ処理対象を移す。ここで、直前の処理が最終のインデックスに対するものであって、次のインデックスが存在しない場合は、処理をステップＳ２１３へ進める。次のインデックスが存在する場合は、ステップＳ２１２に進み、サムネイル表示領域８０２で表示可能なサムネイルの枚数を超えたかどうかをチェックする。例えば、図８の（ａ）に示した例では、サムネイルの表示可能枚数は９枚である。従って、Ｃ≧Ｎ＋９であれば、表示可能なサムネイルを表示し終えたと判断できる。
【００５６】
ここで、表示可能枚数を超えていなければステップＳ２０５へ処理を戻す。すなわち、処理すべきインデックスがなくなるか表示可能枚数を越えるまで、ステップＳ２０５〜Ｓ２１０の処理を行って、インデックスを順にチェックしていく。
【００５７】
処理すべきインデックスがなくなった場合、或いはサムネイルの表示枚数がサムネイル表示領域８０２の表示可能枚数を超えた場合は、ステップＳ２１３へ進む。ステップＳ２１３では、ユーザによってスクロールバーが操作されたかどうかをチェックし、操作されていれば、ステップＳ２０４からステップＳ２１２の処理を繰り返すことによって、操作後のスクロールバーの位置に相当するサムネイルを表示する。操作されていなければ、ステップＳ２１４に進む。
【００５８】
次にステップＳ２１４において、ユーザによってサムネイル表示領域８０２に表示されたサムネイルのうちの一つが選択されたかどうかを判定する。サムネイルが選択されていれば、ステップＳ２１５に進み、選択されたサムネイルに対応するインデックスからStart Pointを読み出す。次に、ステップＳ２１６において、Start Pointから動画の再生を開始し、動画再生画面８０５に動画を表示する。その後、処理をステップＳ２１７に進める。一方、ステップＳ２１４でサムネイルが選択されていない場合は、そのままステップＳ２１７へ進む。
【００５９】
ステップＳ２１７では、ブラウズ部３０４によるブラウジングを終了する指示がなされたかどうかを判定し、終了が指示されていなければステップＳ２１３に戻る。終了が指示されていれば本処理を終了する。
【００６０】
なお、上記の例では、サムネイルが選択された場合に、対応するインデックスからStart Pointを取得して、当該位置より再生を開始し、動画像データの最後まで再生を続行するものとするが、これに限らない。選択されたサムネイルに対応するインデックスからStart Point及びEnd Pointを取得して、当該区間を再生するようにしてもよい。なお、停止或はポーズボタンを設けて、任意の位置で動画再生を停止可能にしてもよい。
【００６１】
以上、説明を簡単にするために１つの動画ファイル内をブラウジングする例で説明したが、複数の動画ファイルに対して、サムネイルの選択を行う場合であっても、同様に各動画ファイルに対してサムネイルを表示する処理を繰り返すことで実現可能である。
【００６２】
以上の処理により、ブラウザ部３０４は、サムネイル領域４０７からブラウジングに適したサムネイルのみを取り出して活用することが可能となる。
【００６３】
［動画編集による活用処理］
次に、動画編集で活用される場合について述べる。図１０は、編集部３０５による動画編集時のユーザ・インターフェースの例である。１０００は編集作業ウィンドウであり、編集作業を行う領域である。１００１は再生ウィンドウであり、選択した動画ファイルまたは、編集結果を再生して確認するものである。１００２は動画ファイルウィンドウであり、各動画ファイルのヘッダにあるサムネイル（重要なサムネイル）の一覧で表示するものである。１００３は、再生ウィンドウ１００１で再生させる動画を操作するものであり、左の操作ボタンより「再生・一時停止・停止・巻き戻し・早送り」の操作が可能である。
【００６４】
１００４はシーン指定ウィンドウであり、選択した動画ファイルを並べ、各動画の採用する区間を指定するための領域である。図では、「太陽」と「野球選手」のサムネイルで代表されるファイルが並べられている。なお、各動画ファイルの領域には、ユーザが認識できるようにサムネイル画像が重ねて表示してある。１００５はシーン指定バーであり、これを操作することによって、選択したクリップ（斜線部分）の開始点と終了点を指定することが可能である。
【００６５】
１００６はポインタであり、ユーザはユーザ操作部３００を操作することによってポインタ１００６を動かし、各種ボタンの選択や動作の指定を行うことができる。操作の手順としては、動画ファイルウィンドウ１００２から動画ファイルを選択して、再生したい順番にシーン指定ウィンドウ１００４へドラッグ＆ドロップする。そして、シーン指定バー１００５を用いて、開始点と終了点の修正を行う。このとき、ユーザは必要に応じて操作部１００３を操作することにより再生ウィンドウ１００１で動画を再生させて、確認を随時行うことができる。
【００６６】
図１１は、編集部３０５による動画編集時のサムネイル表示の動作を示すフローチャートである。なお、図１１の処理は、当該動画像処理装置において動画像編集処理が実行された際に起動される。
【００６７】
まず、ステップＳ３００において、編集部３０５は動画ファイル蓄積部３０２より、全動画ファイルのヘッダ４０１を読み込む。次に、ステップＳ３０１において、各ファイルのヘッダ４０１中のサムネイル４０５を読み込む。そして、ステップＳ３０２において、ヘッダ中のサムネイル（即ち、重要なサムネイル）を各動画ファイルの代表画像として、動画ファイルウィンドウ１００２に表示する。
【００６８】
次に、ステップＳ３０３において動画ファイルが選択さたかどうかを判定する。本実施形態では、ポインタ１００６の操作により動画ファイルウィンドウ１００２から動画ファイルがシーン指定ウィンドウ１００４へドラッグ＆ドロップされたかを判定する。動画ファイルが選択された場合は、ステップＳ３０４に進み、ユーザによって選択された動画ファイル中のフッタのインデックス領域４０６を読み込む。一方、ステップＳ３０３において動画ファイルの選択がなされていないと判断されたときは、ステップＳ３０４をスキップする。
【００６９】
次に、ステップＳ３０５において、ユーザが、その動画ファイルに関してシーン指定ウィンドウ１００４においてシーン指定バー１００５によるシーンの範囲指定が行われたかをチェックする。指定されていれば、ステップＳ３０６〜ステップＳ３１１により、ユーザが指定した範囲内に存在する編集用のサムネイルを抽出し、シーン指定ウインドウ１００４内に表示する。
【００７０】
まず、ステップＳ３０６において、（処理の開始時であれば先頭の）インデックス中のStart PointとEnd Pointを参照して、Start PointとEnd Pointによって示される区間がユーザ指定範囲内であるかどうかを判定する。範囲内であれば、ステップＳ３０７へ進み、当該インデックスに対応するサムネイルが編集に適したサムネイルかどうかを当該サムネイルの選択基準に基づいて判定する。どのようなサムネイルが編集に適したサムネイルであるか、その基準は同じ編集という利用形態であっても、機器によって異なることがある。本実施形態の編集部３０５は、区間の中間のフレームを編集に適したサムネイルと判断するものとする。区間の中間のフレームかどうかをチェックするには、Thumbnail Type ID = ２であるかどうかを確認すればよい。編集に適したサムネイルであれば、処理はステップＳ３１０へ進む。
【００７１】
一方、ステップＳ３０６において当該インデックスの対応する区間がユーザ指定範囲内でないと判定されたとき、または、ステップＳ３０７において編集用のサムネイルではないと判定されたときは、ステップＳ３０８へ進み、次のインデックスを対象とする。ステップＳ３０９で次のインデックスが存在するか否かを判定し、存在するのであればステップＳ３０６とステップＳ３０７の処理を繰り返す。
【００７２】
さて、ステップＳ３０７の条件を満たしたとき、処理はステップＳ３１０へ進み、当該インデックスに対応するサムネイル画像の読み込みを行う。そして、次のステップＳ３１１において、サムネイル画像の表示を行う。例えば、図１０に示したようにシーン指定ウィンドウ１００４中で、シーンを示すバーに対応するサムネイルを重ねて表示させる。これによって、範囲指定されたシーンがどのようなシーンであるか、ユーザに認識しやすくする。その後、ステップＳ３０８へ進み、次のインデックスを対象として上述の処理を繰り返す。
【００７３】
以上のような処理により、ユーザから指示された範囲に含まれる全ての区間の編集用サムネイルがシーンを示すバーに重ねて表示される。なお、この場合のサムネイルの表示範囲は２つのシーン指定バー１００５によって挟まれた領域であり、サムネイルの表示に対してその挟まれた領域の大きさが不足する場合は、サムネイルの一部を重ねて表示させる、或いはスクロールバーを表示してスクロール可能とする等すればよい。
【００７４】
ステップＳ３０５においてユーザからのシーン範囲指示が行われなかった場合、或いはステップＳ３０９において処理対象とすべきインデックスがなくなった場合は、ステップＳ３１２へ進む。ステップＳ３１２では、動画編集作業の終了が指示されたかどうかを判定する。終了の指示がなければ（作業中であれば）ステップＳ３０３へ戻り、上記の処理を繰り返す。一方、編集作業の終了が指示されれば、本処理を終える。
【００７５】
以上の処理により、編集部３０５は、ファイル選択用には、ヘッダに格納されている重要なサムネイルを用いることができ、サムネイル領域４０７から選択された範囲に対応した動画編集用のサムネイルのみを取り出して、活用することが可能となる。
【００７６】
なお、上記実施形態においては、サムネイルの活用方法としてブラウズ、動画編集の２つを例としてあげたが、もちろん、この２つに限定されるものではなく、例えば、選択されたサムネイルに対応するフレーム画像を印刷する等、さまざまな活用方法に利用可能である。
【００７７】
例えば、選択されたサムネイルに対応するフレーム画像を印刷する場合は、指定された画像データに対応するサムネイル（フッタに記録されたサムネイル）のうち、印刷に適したサムネイルを抽出して印刷フレーム候補として表示し、それらのうちから選択されたサムネイルの基となったフレームを印刷する。印刷に適したサムネイルの基準は、同じ印刷という利用形態であっても、機器によって異なるとこがある。例えば、区間中で動きの穏やかなフレームと区間中で画質のよいフレームであったならば、Thumbnail Type ID＝５とThumbnail Type ID＝８であるかどうかを確認すればよい。フレームが指定されたら、指定されたサムネイルの図６に示したThumbnail Key Relative Pointによって特定されるフレームの画像を取得し、これを印刷することになる。よって、図３の動画像処理装置に印刷部など他の機能を追加することも可能である。
【００７８】
なお、上記実施形態においては、サムネイルを活用する機能としてブラウズ部、編集部の２つを有しているが、上記の印刷部などの他の機能も含め、それら機能のうちのどれかひとつでのみであっても構わないし、或はいくつかの機能を有しても構わない。
【００７９】
なお、上記実施形態においては、図３に示した動画像処理装置は一つの装置の中に、動画入力部３０１、サムネイル作成部３０３、ブラウズ部３０４、編集部３０５の全てが含まれていたが、上記の印刷部などの他の機能も含め、それぞれの機能ごと、或いは、いくつかの機能の組み合わせごとに、別の装置として構成されても構わない。このときは、記憶媒体を介して、或いは、ＩＥＥＥ１３９４などの通信手段を介して、サムネイルを含んだ動画ファイルを各装置間でやり取りすればよい。
【００８０】
なお、上記実施形態においては、ヘッダのサムネイルについては、インデックスが存在しないために、Start Point、End Point、Thumbnail Type IDを保有しないが、これらを管理情報として保有するようにしても構わない。
【００８１】
なお、上記実施形態においては、ヘッダに記録されたサムネイル（ファイルを代表するサムネイル）は、フッタには記録されないが、これをヘッダとフッタに重複して記録するようにしても構わない。
【００８２】
なお、複数の作成基準から同じサムネイルが作成された場合（例えば、区間の中間のフレームと区間中で動きのはげしいフレームが同一であった場合）、同じサムネイルを別々のThumbnail Type IDを付与して重複して登録してもよいし、対応するThumbnail Type ID（例えば、Thumbnail Type ID = 10:区間の中間でかつ、区間中で動きの激しいフレーム）を用意しておいてもよい。後者の場合は、同じサムネイル画像を重複して登録する必要がなくなるので、データの利用効率が向上する。なお、１つのサムネイルに複数の選択基準（Thumbnail Type ID）を登録可能にしてもよい。
【００８３】
なお、上記実施形態においては、サムネイル登録はユーザの指示によって決定していたが、これを自動化しても、もちろん構わない。例えば、区間中で動きの激しいフレームを自動抽出するには、前のフレームと現在のフレームに対して、夫々のフレームを図１２に示すように縦横に複数のブロック分割を行ない、それぞれのブロックに関してＲＧＢの平均値を算出しておき、前のフレームと現在のフレームの対応するブロック同士のＲＧＢ各チャンネルの差の二乗和を求め、これをフレーム間類似性距離とする。その計算式の一例を以下に示す。
【００８４】
【数１】
2005318618.tif 000003
【００８５】
但し、
i     ：処理中のブロックをあらわす
K     ：分割ブロック数
P1iR  ：直前のフレームの i番目のブロックのＲチャンネルの平均値
P1iG  ：直前のフレームの i番目のブロックのＧチャンネルの平均値
P1iB  ：直前のフレームの i番目のブロックのＢチャンネルの平均値
P2iR  ：現在のフレームの i番目のブロックのＲチャンネルの平均値
P2iG  ：現在のフレームの i番目のブロックのＧチャンネルの平均値
P2iB  ：現在のフレームの i番目のブロックのＢチャンネルの平均値
である。
【００８６】
上記のフレーム間類似性距離が小さいほど類似しており、大きいほど類似していない。動きが激しいほど、前後のフレーム間で類似しなくなるので、ある閾値以上のフレーム間距離を持つときのフレームを、動きの激しいフレームとする方法がある。
【００８７】
以上説明したように本実施形態によれば、利用目的や、選択基準の異なるサムネイルを１つのファイルに格納することが可能となるのでその管理が容易となる。また、使用時には、サムネイルに付与された作成時の選択基準（Thumbnail Type ID）を参照することにより、その目的、及び、サムネイルを利用する機器の特性に応じたサムネイルのみを利用することが可能となる。
【００８８】
また、本発明の目的は、前述した実施形態の機能を実現するソフトウェアのプログラムコードを記憶した記憶媒体を、システムあるいは装置に供給し、そのシステムあるいは装置のコンピュータ（またはＣＰＵやＭＰＵ）が記憶媒体に格納されたプログラムコードを読み出し実行することによっても、達成されることは言うまでもない。
【００８９】
この場合、記憶媒体から読み出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコードを記憶した記憶媒体は本発明を構成することになる。
【００９０】
プログラムコードを供給するための記憶媒体としては、例えば、フロッピィディスク、ハードディスク、光ディスク、光磁気ディスク、ＣＤ−ＲＯＭ、ＣＤ−Ｒ、磁気テープ、不揮発生のメモリカード、ＲＯＭなどを用いることができる。
【００９１】
また、コンピュータが読み出したプログラムを実行することにより、前述した実施形態の機能が実現されるだけでなく、そのプログラムコードの指示に基づき、コンピュータ上で稼動しているＯＳ（オペレーティングシステム）などが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。
【００９２】
さらに、記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれた後、そのプログラムコードの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるＣＰＵなどが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。
【図面の簡単な説明】
【００９３】
【図１】代表画像を活用する際における問題点を説明するための図である。
【図２】本実施形態における動画像処理装置の制御構成を示すブロック図である。
【図３】本実施形態における動画像処理装置の機能構成を示すブロック図である。
【図４】本実施形態における動画ファイル中のサムネイル格納形態の一例を示す概略図である。
【図５】図４のフッタ４０３中のインデックス領域４０６における１インデックス分のデータ構造例を示した図である。
【図６】図４のヘッダ４０１中のサムネイル４０５、フッタ４０３中のサムネイル領域４０７における１つのサムネイルのデータ構造例を示した図である。
【図７】本実施形態によるサムネイル登録の動作例を示したフローチャートである。
【図８】ブラウザ実行時のユーザ・インターフェースの一例を示す図である。
【図９Ａ】本動画像処理装置のブラウザ動作時における処理を示すフローチャートである。
【図９Ｂ】本動画像処理装置のブラウザ動作時における処理を示すフローチャートである。
【図１０】編集部３０５による動画編集時のユーザ・インターフェースの例である。
【図１１】編集部３０５による動画編集時のサムネイル表示の動作を示すフローチャートである。
【図１２】フレームのブロック分割の例を示す図である。
【図１】
2005318618.tif 000004
【図２】
2005318618.tif 000005
【図３】
2005318618.tif 000006
【図４】
2005318618.tif 000007
【図５】
2005318618.tif 000008
【図６】
2005318618.tif 000009
【図７】
2005318618.tif 000010
【図８】
2005318618.tif 000011
【図９Ａ】
2005318618.tif 000012
【図９Ｂ】
2005318618.tif 000013
【図１０】
2005318618.tif 000014
【図１１】
2005318618.tif 000015
【図１２】
2005318618.tif 000016