(57)【特許請求の範囲】
【請求項１】
連続メディアデータを短縮して再生する連続メディアデータ短縮再生方法であって、
メディア入力・特徴パラメータ変化量計算手段が、入力された連続メディアデータをフレーム区間に分割し、各フレーム区間の特徴パラメータの変化量を計算するメディア入力・特徴パラメータ変化量計算ステップと、
フレーム抽出手段が、前記連続メディアデータの総フレーム数を了解性の極端な低下を引き起こさない再生速度で除したフレーム数のフレームを、前記特徴パラメータの変化量が大きなフレームに限定して抽出するフレーム抽出ステップと、
クラスタリング手段が、抽出された前記フレームを、抽出フレームとの時間間隔が小さいものを同一クラスタとしてグループ化することにより、クラスタリングするクラスタリングステップと、
クラスタ変化量算出手段が、クラスタリングしたクラスタ単位の変化量を計算するクラスタ変化量算出ステップと、
メディア再構成手段が、総圧縮率の逆数が前記再生速度以上となる総圧縮率に対して、前記連続メディアデータの総フレーム数に前記総圧縮率を乗じた乗算値と、クラスタに含まれるフレームの合計数が概ね同じとなるように、前記クラスタ単位の変化量が大きなクラスタを選択し、選択されたクラスタに含まれるフレームを順序関係を維持して連結し、再構成するメディア再構成ステップと、
出力手段が、連結された再構成データを出力する出力ステップと、
を行うことを特徴とする連続メディアデータ短縮再生方法。
【請求項２】
複数の連続メディアデータからなる複合メディアデータを短縮して再生する複合メディアデータ短縮再生方法であって、
メディア入力・特徴パラメータ変化量計算手段が、入力された各連続メディアデータをフレーム区間に分割し、各フレーム区間の特徴パラメータの変化量を計算するメディア入力・特徴パラメータ変化量計算ステップと、
変化量パラメータ抽出手段が、前記各連続メディアデータの特徴パラメータの変化量から、統合した特徴パラメータの変化量を計算する変化量パラメータ抽出ステップと、
フレーム抽出手段が、前記連続メディアデータの総フレーム数を了解性の極端な低下を引き起こさない再生速度で除したフレーム数のフレームを、前記統合した特徴パラメータの変化量が大きなフレームに限定して抽出するフレーム抽出ステップと、
クラスタリング手段が、抽出された前記フレームを、抽出フレームとの時間間隔が小さいものを同一クラスタとしてグループ化することにより、クラスタリングするクラスタリングステップと、
クラスタ変化量算出手段が、クラスタリングしたクラスタ単位の変化量を計算するクラスタ変化量算出ステップと、
メディア再構成手段が、総圧縮率の逆数が前記再生速度以上となる総圧縮率に対して、前記連続メディアデータの総フレーム数に前記総圧縮率を乗じた乗算値と、クラスタに含まれるフレームの合計数が概ね同じとなるように、前記クラスタ単位の変化量が大きなクラスタを選択し、選択されたクラスタに含まれるフレームを順序関係を維持して連結し、再構成するメディア再構成ステップと、
出力手段が、前記再構成データを出力する出力ステップと、
を行うことを特徴とする同期型の複合メディアデータ短縮再生方法。
【請求項３】
複数の連続メディアデータからなる複合メディアデータを短縮して再生する複合メディアデータ短縮再生方法であって、
メディア入力・特徴パラメータ変化量計算手段が、入力された各連続メディアデータをフレーム区間に分割し、各フレーム区間の特徴パラメータの変化量を計算するメディア入力・特徴パラメータ変化量計算ステップと、
フレーム抽出手段が、前記連続メディアデータの総フレーム数を了解性の極端な低下を引き起こさない再生速度で除したフレーム数のフレームを、前記特徴パラメータの変化量が大きなフレームに限定して抽出するフレーム抽出ステップと、
クラスタリング手段が、抽出された前記フレームを、抽出フレームとの時間間隔が小さいものを同一クラスタとしてグループ化することにより、クラスタリングするクラスタリングステップと、
時間圧縮手段が、クラスタリングされたクラスタ単位で各連続メディアデータを時間圧縮する時間圧縮ステップと、
クラスタ変化量算出手段が、時間圧縮されたクラスタ単位の変化量を計算するクラスタ変化量算出ステップと、
メディア再構成手段が、総圧縮率の逆数が前記再生速度以上となる総圧縮率に対して、前記連続メディアデータの総フレーム数に前記総圧縮率を乗じた乗算値と、クラスタに含まれるフレームの合計数が概ね同じとなるように、前記クラスタ単位の変化量が大きなクラスタを選択し、選択されたクラスタに含まれるフレームを順序関係を維持して連結し、再構成するメディア再構成ステップと、
出力手段が、前記再構成データを出力する出力ステップと、
を行うことを特徴とする準同期型の複合メディアデータ短縮再生方法。
【請求項４】
連続メディアデータを短縮して再生する連続メディアデータ短縮再生装置であって、
入力された連続メディアデータをフレーム区間に分割し、各フレーム区間の特徴パラメータの変化量を計算するメディア入力・特徴パラメータ変化量計算手段と、
前記連続メディアデータの総フレーム数を了解性の極端な低下を引き起こさない再生速度で除したフレーム数のフレームを、前記特徴パラメータの変化量が大きなフレームに限定して抽出するフレーム抽出手段と、
抽出された前記フレームを、抽出フレームとの時間間隔が小さいものを同一クラスタとしてグループ化することにより、クラスタリングするクラスタリング手段と、
クラスタリングしたクラスタ単位の変化量を計算するクラスタ変化量算出手段と、
総圧縮率の逆数が前記再生速度以上となる総圧縮率に対して、前記連続メディアデータの総フレーム数に前記総圧縮率を乗じた乗算値と、クラスタに含まれるフレームの合計数が概ね同じとなるように、前記クラスタ単位の変化量が大きなクラスタを選択し、選択されたクラスタに含まれるフレームを順序関係を維持して連結し、再構成するメディア再構成手段と、
連結された再構成データを出力する出力手段と、
を有することを特徴とする連続メディアデータ短縮再生装置。
【請求項５】
複数の連続メディアデータからなる複合メディアデータを短縮して再生する複合メディアデータ短縮再生装置であって、
入力された各連続メディアデータをフレーム区間に分割し、各フレーム区間の特徴パラメータの変化量を計算するメディア入力・特徴パラメータ変化量計算手段と、
前記各連続メディアデータの特徴パラメータの変化量から、統合した特徴パラメータの変化量を計算する変化量パラメータ抽出手段と、
前記連続メディアデータの総フレーム数を了解性の極端な低下を引き起こさない再生速度で除したフレーム数のフレームを、前記統合した特徴パラメータの変化量が大きなフレームに限定して抽出するフレーム抽出手段と、
抽出された前記フレームを、抽出フレームとの時間間隔が小さいものを同一クラスタとしてグループ化することにより、クラスタリングするクラスタリング手段と、
クラスタリングしたクラスタ単位の変化量を計算するクラスタ変化量算出手段と、
総圧縮率の逆数が前記再生速度以上となる総圧縮率に対して、前記連続メディアデータの総フレーム数に前記総圧縮率を乗じた乗算値と、クラスタに含まれるフレームの合計数が概ね同じとなるように、前記クラスタ単位の変化量が大きなクラスタを選択し、選択されたクラスタに含まれるフレームを順序関係を維持して連結し、再構成するメディア再構成手段と、
前記再構成データを出力する出力手段と、
を有することを特徴とする同期型の複合メディアデータ短縮再生装置。
【請求項６】
複数の連続メディアデータからなる複合メディアデータを短縮して再生する複合メディアデータ短縮再生装置であって、
入力された各連続メディアデータをフレーム区間に分割し、各フレーム区間の特徴パラメータの変化量を計算するメディア入力・特徴パラメータ変化量計算手段と、
記連続メディアデータの総フレーム数を了解性の極端な低下を引き起こさない再生速度で除したフレーム数のフレームを、前記特徴パラメータの変化量が大きなフレームに限定して抽出するフレーム抽出手段と、
前記各連続メディアデータの抽出されたフレームを、抽出フレームとの時間間隔が小さいものを同一クラスタとしてグループ化することにより、クラスタリングするクラスタリング手段と、
クラスタリングされたクラスタ単位で各連続メディアデータを時間圧縮する時間圧縮手段と、
時間圧縮されたクラスタ単位の変化量を計算するクラスタ変化量算出手段と、
総圧縮率の逆数が前記再生速度以上となる総圧縮率に対して、前記連続メディアデータの総フレーム数に前記総圧縮率を乗じた乗算値と、クラスタに含まれるフレームの合計数が概ね同じとなるように、前記クラスタ単位の変化量が大きなクラスタを選択し、選択されたクラスタに含まれるフレームを順序関係を維持して連結し、再構成するメディア再構成手段と、
前記再構成データを出力する出力手段と、
を有することを特徴とする準同期型の複合メディアデータ短縮再生装置。
【請求項７】
コンピュータを、
請求項４乃至６記載の装置として機能させることを特徴とするプログラム。
【請求項８】
コンピュータを、
請求項４乃至６記載の装置として機能させるプログラムを格納したことを特徴とするコンピュータ読み取り可能な記録媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、連続メディアデータを短縮再生する連続メディアデータ短縮再生方法、複合メディアデータ短縮再生方法及び装置及びプログラム及びコンピュータ読み取り可能な記録媒体に係り、特に、利用者が短時間で連続メディアデータの内容を概観・検索可能とするための連続メディアデータ短縮再生方法、複合メディアデータ短縮再生方法及び装置及びプログラム及びコンピュータ読み取り可能な記録媒体に関する。
【背景技術】
【０００２】
連続メディアを時間短縮して再生する方法を大別すると、連続メディア全体の内容をできるだけ損なわずに高速に再生することにより再生時間の短縮を図る「高速再生」、連続メディアを部分的に再生することにより再生時間の短縮を図る「部分再生」、部分再生の中でも、連続メディアの内容を意味的に解析し、意味的に重要な区間を抽出し、再生時間の短縮を図る「要約再生」がある。
【０００３】
映像は画像と音からなる複合メディアであり、画像は動画と静止画に分類される。本来、音は音声、音楽、音響等を包含するものであるが、ここでは、音声を音の意味を含むものとして使用する。特に、連続メディアに対する方法を説明するため、映像は動画と音声からなるものとして説明する。
【０００４】
連続メディアの代表例として音声があり、通常のテープレコーダ等の早送りでは、再生音の周波数が高くなり、２倍程度を限界にそれ以上の高速再生では内容を把握することが困難となる。これを改善するために、フレーム単位に分割し、等間隔や規則的に間引いたり、ピッチ周期を検出しピック区間波形単位で規則的に間引いたりすることにより、原音と同等の周波数で音を再生し、高速再生を可能とする手法が提案されている（例えば、特許文献１、特許文献２参照）。
【０００５】
また、音声特有の情報を用い、有音区間と無音区間とを検出し、無音区間を削除し、有音区間のみを再生する方法（例えば、特許文献１参照）や、検出された有音区間を更に母音区間、子音区間、母音区間と子音区間との間の遷移区間、及び、雑音区間に分類し、圧縮の度合いを変え、音声の劣化を少なくする装置（例えば、特許文献３参照）が提案されている。
【０００６】
しかし、これらの手法を用いても、再生速度は２〜３倍程度が限界となり、これ以上の速度では内容を把握することが困難になる。また、音声特有の情報を用いることは他の連続メディアには適用できないため、メディア毎に処理を分ける必要があり、複合メディア（例えば、音声と動画の複合である映像）の高速再生に適用する際等にも、処理が複雑化する欠点を伴っている。
【０００７】
他の連続メディアの例としては動画があり、通常のビデオレコーダ等の早送りのように再生周波数を上げたり、フレーム単位で等間隔や規則的に間引いたり、縮退させたりすることにより、高速再生を可能とする手法が提案されている。しかし、音声同様、ある速度以上の高速再生では内容を把握することが困難となる。
【０００８】
また、動画からある物理量（輝度変化量やカット点等）を抽出し、ある条件を満たす部分を取り出して短縮する手法が提案されている（例えば、特許文献４、特許文献５参照）。しかし、動画特有の情報を適用しているため、音声等の他のメディアに適用することはできない。
【０００９】
その他、動画と音声との組み合わせによる様々な短縮再生（高速再生、部分再生、要約再生）技術として、前述の組み合わせ、もしくは、その拡張した手法が提案されている（例えば、特許文献５、特許文献６、特許文献７参照）。しかし、これらも前述の手法と同様の欠点があったり、動画に主眼を置き、動画に付随した部分音声のみを再生するために、全体の流れの把握が困難であったりする。
【００１０】
これらの欠点を鑑みて、動画や音声に特化せず汎用的で統合しやすい枠組みで、再生速度を向上させる連続メディアの高速再生技術として連続メディアデータ高速再生方法、複合メディアデータ高速再生方法等が提案されている（例えば、特許文献８参照）。しかし、この方法を用いても、音声を含んだメディアの場合に、３〜５倍速程度の高速再生が限界であった。
【特許文献１】特開平６−２０２６９１号公報
【特許文献２】特開２０００−２５９２００号公報
【特許文献３】特開平９−１５２８８９号公報
【特許文献４】特開平４−２３７２８４号公報
【特許文献５】特開平６−２３３２２７号公報
【特許文献６】特開平８−１１６５１４号公報
【特許文献７】特開２００３−１６９２９８号公報
【特許文献８】特開２００５−２０４００３号公報
【発明の開示】
【発明が解決しようとする課題】
【００１１】
上記の従来技術の連続メディアデータ高速再生方法等は、一定以上の再生速度に達すると連続メディアの最小構成単位（例えば、音声の場合は音韻、音節、単語、文節等に相当し、動画の場合は、動物体の動作等に相当する）が原形を留めない程縮退してしまうため、了解性が著しく低下し、内容がわからなくなる問題があった。例えば、音声の場合、３〜５倍速を超えると、音韻の欠落が多くなりすぎ、単語や文章として意味の概要を汲み取ることができなくなる。
【００１２】
また、複合メディアデータの高速再生方法等においては、各メディア間で同期したフレームの変化量を基に統合した変化量を計算するため、メディア数が増加すると、複合メディアとしての圧縮率に比べ、各メディア自体の局所的な圧縮率が高くなり、上記の問題点である最小構成単位が原形を留めない程縮退する状態に早く達してしまう問題があった。例えば、音声と動画の複合メディアの場合、全体として５倍速に設定しても、音声の局所的圧縮率が限界の５倍速相当を超えてしまい、音声の内容が聞き取れなくなる。
【００１３】
本発明は、以上のような従来技術の実情に鑑みてなされたもので、その目的は、使用者が短時間で内容を概観、検索できるように了解性を保持したまま、より高圧縮な短縮再生を可能にすると共に、音声や動画に特化せず、他の連続メディアや複合メディアにも適用できる連続メディアデータ短縮再生方法、複合メディアデータ短縮再生方法及び装置及びプログラム及びコンピュータ読み取り可能な記録媒体を提供することを目的とする。
【課題を解決するための手段】
【００１４】
図１は、本発明の原理構成図である。
【００１５】
本発明（請求項１）は、連続メディアデータを短縮して再生する連続メディアデータ短縮再生方法であって、
メディア入力・特徴パラメータ変化量計算手段が、入力された連続メディアデータをフレーム区間に分割し、各フレーム区間の特徴パラメータの変化量を計算するメディア入力・特徴パラメータ変化量計算ステップ（ステップ１）と、
フレーム抽出手段が、連続メディアデータの総フレーム数を了解性の極端な低下を引き起こさない再生速度で除したフレーム数のフレームを、特徴パラメータの変化量が大きなフレームに限定して抽出するフレーム抽出ステップ（ステップ２）と、
クラスタリング手段が、抽出されたフレームを、抽出フレームとの時間間隔が小さいものを同一クラスタとしてグループ化することにより、クラスタリングするクラスタリングステップ（ステップ３）と、
クラスタ変化量算出手段が、クラスタリングしたクラスタ単位の変化量を計算するクラスタ変化量算出ステップ（ステップ４）と、
メディア再構成手段が、総圧縮率の逆数が再生速度以上となる総圧縮率に対して、連続メディアデータの総フレーム数に総圧縮率を乗じた乗算値と、クラスタに含まれるフレームの合計数が概ね同じとなるように、クラスタ単位の変化量が大きなクラスタを選択し、選択されたクラスタに含まれるフレームを順序関係を維持して連結し、再構成するメディア再構成ステップ（ステップ５）と、
出力手段が、連結された再構成データを出力する出力ステップ（ステップ６）と、を行う。
【００１７】
本発明（請求項２）は、複数の連続メディアデータからなる複合メディアデータを短縮して再生する複合メディアデータ短縮再生方法であって、
メディア入力・特徴パラメータ変化量計算手段が、入力された各連続メディアデータをフレーム区間に分割し、各フレーム区間の特徴パラメータの変化量を計算するメディア入力・特徴パラメータ変化量計算ステップと、
変化量パラメータ抽出手段が、各連続メディアデータの特徴パラメータの変化量から、統合した特徴パラメータの変化量を計算する変化量パラメータ抽出ステップと、
フレーム抽出手段が、連続メディアデータの総フレーム数を了解性の極端な低下を引き起こさない再生速度で除したフレーム数のフレームを、統合した特徴パラメータの変化量が大きなフレームに限定して抽出するフレーム抽出ステップと、
クラスタリング手段が、抽出されたフレームを、抽出フレームとの時間間隔が小さいものを同一クラスタとしてグループ化することにより、クラスタリングするクラスタリングステップと、
クラスタ変化量算出手段が、クラスタリングしたクラスタ単位の変化量を計算するクラスタ変化量算出ステップと、
メディア再構成手段が、総圧縮率の逆数が再生速度以上となる総圧縮率に対して、連続メディアデータの総フレーム数に総圧縮率を乗じた乗算値と、クラスタに含まれるフレームの合計数が概ね同じとなるように、クラスタ単位の変化量が大きなクラスタを選択し、選択されたクラスタに含まれるフレームを順序関係を維持して連結し、再構成するメディア再構成ステップと、
出力手段が、再構成データを出力する出力ステップと、を行う。
【００１８】
本発明（請求項３）は、複数の連続メディアデータからなる複合メディアデータを短縮して再生する複合メディアデータ短縮再生方法であって、
メディア入力・特徴パラメータ変化量計算手段が、入力された各連続メディアデータをフレーム区間に分割し、各フレーム区間の特徴パラメータの変化量を計算するメディア入力・特徴パラメータ変化量計算ステップと、
フレーム抽出手段が、連続メディアデータの総フレーム数を了解性の極端な低下を引き起こさない再生速度で除したフレーム数のフレームを、特徴パラメータの変化量が大きなフレームに限定して抽出するフレーム抽出ステップと、
クラスタリング手段が、抽出されたフレームを、抽出フレームとの時間間隔が小さいものを同一クラスタとしてグループ化することにより、クラスタリングするクラスタリングステップと、
時間圧縮手段が、クラスタリングされたクラスタ単位で各連続メディアデータを時間圧縮する時間圧縮ステップと、
クラスタ変化量算出手段が、時間圧縮されたクラスタ単位の変化量を計算するクラスタ変化量算出ステップと、
メディア再構成手段が、総圧縮率の逆数が再生速度以上となる総圧縮率に対して、連続メディアデータの総フレーム数に総圧縮率を乗じた乗算値と、クラスタに含まれるフレームの合計数が概ね同じとなるように、クラスタ単位の変化量が大きなクラスタを選択し、選択されたクラスタに含まれるフレームを順序関係を維持して連結し、再構成するメディア再構成ステップと、
出力手段が、再構成データを出力する出力ステップと、を行う。
【００２０】
図２は、本発明の原理構成図である。
【００２１】
本発明（請求項４）は、連続メディアデータを短縮して再生する連続メディアデータ短縮再生装置であって、
入力された連続メディアデータをフレーム区間に分割し、各フレーム区間の特徴パラメータの変化量を計算するメディア入力・特徴パラメータ変化量計算手段１１０と、
連続メディアデータの総フレーム数を了解性の極端な低下を引き起こさない再生速度で除したフレーム数のフレームを、特徴パラメータの変化量が大きなフレームに限定して抽出するフレーム抽出手段１２０と、
抽出されたフレームを、抽出フレームとの時間間隔が小さいものを同一クラスタとしてグループ化することにより、クラスタリングするクラスタリング手段１３０と、
クラスタリングしたクラスタ単位の変化量を計算するクラスタ変化量算出手段１４０と、
総圧縮率の逆数が再生速度以上となる総圧縮率に対して、連続メディアデータの総フレーム数に総圧縮率を乗じた乗算値と、クラスタに含まれるフレームの合計数が概ね同じとなるように、クラスタ単位の変化量が大きなクラスタを選択し、選択されたクラスタに含まれるフレームを順序関係を維持して連結し、再構成するメディア再構成手段１５０と、
連結された再構成データを出力する出力手段１６０と、を有する。
【００２２】
本発明（請求項５）は、複数の連続メディアデータからなる複合メディアデータを短縮して再生する複合メディアデータ短縮再生装置であって、
入力された各連続メディアデータをフレーム区間に分割し、各フレーム区間の特徴パラメータの変化量を計算するメディア入力・特徴パラメータ変化量計算手段と、
各連続メディアデータの特徴パラメータの変化量から、統合した特徴パラメータの変化量を計算する変化量パラメータ抽出手段と、
連続メディアデータの総フレーム数を了解性の極端な低下を引き起こさない再生速度で除したフレーム数のフレームを、統合した特徴パラメータの変化量が大きなフレームに限定して抽出するフレーム抽出手段と、
抽出されたフレームを、抽出フレームとの時間間隔が小さいものを同一クラスタとしてグループ化することにより、クラスタリングするクラスタリング手段と、
クラスタリングしたクラスタ単位の変化量を計算するクラスタ変化量算出手段と、
総圧縮率の逆数が再生速度以上となる総圧縮率に対して、連続メディアデータの総フレーム数に総圧縮率を乗じた乗算値と、クラスタに含まれるフレームの合計数が概ね同じとなるように、クラスタ単位の変化量が大きなクラスタを選択し、選択されたクラスタに含まれるフレームを順序関係を維持して連結し、再構成するメディア再構成手段と、
再構成データを出力する出力手段と、を有する。
【００２３】
本発明（請求項６）は、複数の連続メディアデータからなる複合メディアデータを短縮して再生する複合メディアデータ短縮再生装置であって、
入力された各連続メディアデータをフレーム区間に分割し、各フレーム区間の特徴パラメータの変化量を計算するメディア入力・特徴パラメータ変化量計算手段と、
記連続メディアデータの総フレーム数を了解性の極端な低下を引き起こさない再生速度で除したフレーム数のフレームを、特徴パラメータの変化量が大きなフレームに限定して抽出するフレーム抽出手段と、
各連続メディアデータの抽出されたフレームを、抽出フレームとの時間間隔が小さいものを同一クラスタとしてグループ化することにより、クラスタリングするクラスタリング手段と、
クラスタリングされたクラスタ単位で各連続メディアデータを時間圧縮する時間圧縮手段と、
時間圧縮されたクラスタ単位の変化量を計算するクラスタ変化量算出手段と、
総圧縮率の逆数が再生速度以上となる総圧縮率に対して、連続メディアデータの総フレーム数に総圧縮率を乗じた乗算値と、クラスタに含まれるフレームの合計数が概ね同じとなるように、クラスタ単位の変化量が大きなクラスタを選択し、選択されたクラスタに含まれるフレームを順序関係を維持して連結し、再構成するメディア再構成手段と、
再構成データを出力する出力手段と、を有する。
【００２４】
本発明（請求項７）は、コンピュータを、請求項４乃至６記載の装置として機能させるプログラムである。
【００２５】
本発明（請求項８）は、コンピュータを、請求項４乃至６記載の装置として機能させるプログラムを格納したコンピュータ読み取り可能な記録媒体である。
【発明の効果】
【００２６】
上記のように本発明によれば、特徴パラメータの変化量の大きなフレームを抽出する第１段階の圧縮過程と、クラスタ単位の変化量の大きなクラスタのみを連結してデータを再構成する第２段階の圧縮過程との２段階構成の圧縮過程を持ち、第１段階で連続メディアの最小構成単位を保持する品質での高速再生に相当する圧縮を行い、第２段階で、部分再生に相当する連続メディアの最小構成単位より大きな単位での間引きを行い、圧縮することになり、高速再生と部分再生の両方の効果を持つ利点がある。即ち、圧縮率が低い時は、高速再生の効果が主となる短縮再生になり、圧縮率が高くなると、部分再生の効果が加わった短縮再生にシームレスに移行することができ、圧縮率が高くなっても、了解性の著しい低下を引き起こさずに短縮することができる利点がある。
【００２７】
特に、連続メディアとして音声に適用した場合、５倍速以上に相当する５分の１以下の短縮においても、了解性を保持した短縮再生が可能となる。
【００２８】
また、本発明の準同期の複合メディアデータ短縮再生方法により、フレーム同期からクラスタ単位での同期に制約を緩和することにより、メディア数が増加しても、各メディア自体の圧縮率の増加を緩和して、より高い圧縮率を実現できる利点がある。
【００２９】
また、本発明で用いている特徴パラメータの変化量という指標や抽出フレームのクラスタリングは汎用的であり、どんな連続メディアにも適用でき、異なるメディアでも統一的に扱える点等の利点や、任意の短縮再生時間や任意の総圧縮率を指定できる利点がある。
【００３０】
これらの利点により、内容の完全性や意味的な一貫性よりも短時間性を重視するメディアの内容の概観や検索等の用途において、従来手法よりも有効な手法ということができる。
【発明を実施するための最良の形態】
【００３１】
以下、図面と共に本発明の実施の形態を説明する。
【００３２】
［第１の実施の形態］
図３は、本発明の第１の実施の形態における連続メディアデータ短縮再生装置の構成図である。
【００３３】
同図に示すように、連続メディアデータ短縮再生装置は、連続メディア入力部１０１、変化量パラメータ抽出部１０２、再生速度指示部１０３、クラスタリング部１０４、クラスタ変化量算出部１０５、総圧縮率指示部１０６、再生クラスタ選択部１０７、連続メディア再構成部１０８、連続メディア出力部１０９から構成される。
【００３４】
連続メディア入力部１０１と変化量パラメータ抽出部１０２で構成される部分は、連続メディアデータをフレーム区間に分割し、それぞれのフレーム区間の特徴パラメータの変化量を計算する手段に相当する。
【００３５】
再生速度指示部１０３とクラスタリング部１０４で構成される部分は、特徴パラメータの変化量が所定の値より大きなフレームを抽出するメディア入力・特徴パラメータ変化量計算手段と抽出されたフレームをクラスタリングするクラスタリング手段に相当する。
【００３６】
クラスタ変化量算出部１０５は、クラスタリングしたクラスタ単位の変化量を計算する手段クラスタ変化量算出手段に相当する。
【００３７】
総圧縮率指示部１０６と再生クラスタ選択部１０７と連続メディア再構成部１０８で構成される部分は、クラスタ単位の変化量が所定の値より大きなクラスタのみを連結してデータを再構成するメディア再構成手段に相当する。
【００３８】
連続メディア出力部１０９は、連結された再構成データを出力する出力手段に相当する。
【００３９】
以下、各構成要素について説明する。
【００４０】
図４は、本発明の第１の実施の形態における動作のフローチャートである。
【００４１】
連続メディア入力部１０１は、入力された連続メディアデータをバッファ（図示せず）に読み込んで、変化量パラメータ抽出部１０２に送る（ステップ１０１）。例えば、連続メディア入力部１０１の入力は、入力されるデータがアナログデータである場合に、これをデジタルデータに変換しながら読み込んでもよいし、直接デジタルデータとして、ファイル形式の連続メディアデータを読み込んでもよいし、メモリに蓄積された連続メディアデータを読み込んでもよい。
【００４２】
連続メディア入力部１０１が読み込むデータ量は、全体を一括で読み込んでもよいし、一定単位の量を周期的に読み込んでもよいし、動的に任意の量を読み込んでもよい。
【００４３】
また、必要に応じて、バッファ（図示せず）に読み込む前、もしくは、バッファから変化量パラメータ抽出部１０２に出力する時に、入力された連続メディアのデジタルデータを変化量パラメータ抽出部１０２に合わせてフォーマット変換する処理を加えても良い。
【００４４】
また、読み込んだバッファ（図示せず）から変化量パラメータ抽出部１０２へ出力するデータ量は、連続メディアデータの全体を一括で渡してもよいし、一定単位の量に分割して周期的に渡してもよいし、動的に任意の量を逐次渡してもよい。出力するデータ量は、読み込むデータ量と同じ量でもよいし、異なっていてもよい（異なる場合は、連続メディア入力部１０１でバッファリンクすることになる）。
【００４５】
入力される連続メディアデータが、変化量パラメータ抽出部１０２が必要とするフォーマットであり、データを全て変化量パラメータ抽出部１０２に一括で渡す等の場合は、連続メディア入力部１０１の機能を変化量パラメータ抽出部１０２を含めた構成にすることも可能である。
【００４６】
変化量パラメータ抽出部１０２は、連続メディア入力部１０１から連続メディアデータを一定周期の小区間（フレーム区間）に分割し、それぞれのフレーム区間の代表となる特徴パラメータの変化量を計算する（ステップ１０２）。例えば、連続メディアデータから一旦フレーム区間の代表となる特徴パラメータを計算した後、その特徴パラメータの時系列から変化量を計算してもよいし、連続メディアデータから直接フレーム区間の代表となる特徴パラメータの変化量を計算してもよい。
【００４７】
フレーム区間の代表となる特徴パラメータや特徴パラメータの変化量の計算には、フレーム区間内のデータのみから計算してもよいし、フレーム区間外のデータを含めて計算してもよい。
【００４８】
特徴パラメータは、スカラーでもよいし、２次元以上のベクトルでもよい。特徴パラメータの変化量は計算するフレームの特徴パラメータと前フレームもしくは後フレームの特徴パラメータとの２値の距離（数学でいう距離の公理を満たす距離関数で定義できるもの。例えば、マンハッタン距離、ユークリッド距離、べき乗距離、チェビシェフ距離やマハノビス距離等を用いることができる）でもよいし、計算するフレームの前フレームの特徴パラメータと後フレームの特徴パラメータの２値の距離の２分の１でもよいし、計算するフレームの前後複数フレームを含めた特徴パラメータｎ値から距離等を用いて計算される値でもよい。
【００４９】
再生速度指示部１０３は、連続メディアの最小構成単位が原形を留めない程度縮退することを防ぐために局所的な再生速度を設定しておくもので、特徴パラメータの変化量の大きなフレームを抽出する基準となる再生速度をクラスタリング部１０４に指示する（ステップ１０３）。このとき、総圧縮率指示部１０６から総圧縮率を取得し、総圧縮率の逆数が設定された再生速度より小さい場合は、総圧縮率の逆数をクラスタリング部１０４に指示する。
【００５０】
クラスタリング部１０４は、再生速度指示部１０３からの再生速度を基に、抽出フレーム数
変化量パラメータ抽出部に入力されたデータの総フレーム数／再生速度    （１）
を計算し、変化量パラメータ抽出部１０２で計算した特徴パラメータの変化量の大きい方から抽出フレーム数だけ抽出し、抽出したフレームをクラスタリングする（ステップ１０４）。クラスタリングは、閾値を設定し、抽出されたフレームにおいて隣接する抽出フレームとの時間間隔がこの閾値より小さいものを同一クラスタとしてグループ化する等の方法により決定することができるが、これに限定されるものではなく、抽出されたフレームをグループ化できるものであればよい。例えば、閾値を定数として設定しておく他、隣接する抽出フレーム間の時間間隔の分布から動的に閾値を決定することもできる。
【００５１】
クラスタ変化量算出部１０５は、クラスタリング部１０４でクラスタリングしたクラスタ単位の変化量を計算する（ステップ１０５）。クラスタ単位の変化量は、クラスタ内のフレームの特徴パラメータの変化量から算出することができる（例えば、クラスタ内のフレームの特徴パラメータの変化量の最大値や平均値や中央値や最小値等を用いることができる）がこれに限定されるものではなく、クラスタ区間を代表する別の特徴パラメータを用いてクラスタ単位の変化量を算出してもよい。
【００５２】
総圧縮率指示部１０６は、短縮再生するための連続メディア全体に対する圧縮率である総圧縮率を再生クラスタ選択部１０７に指示する（ステップ１０６）。また、短縮再生時間から総圧縮率を計算して指示するように構成してもよい。このとき、総圧縮率は、
短縮再生時間／連続メディアデータ全体の再生時間            （２）
から計算することができる。
【００５３】
再生クラスタ選択部１０７は、総圧縮率指示部１０６で求められた総圧縮率を基に、クラスタ変化量算出部１０５のクラスタ単位の変化量の大きなクラスタから、選択されたクラスタに含まれるフレーム数の合計が、
連続メディアデータの総フレーム数＊総圧縮率          （３）
で計算されるフレーム数になるまで選択する（ステップ１０７）。フレーム数の合計が上記の式（３）を超えたクラスタまでを選択クラスタとしてもよいし、超える直前までのクラスタを選択クラスタとしてもよいし、超える直前までのクラスタと
連続メディアデータの総フレーム数＊総圧縮率
−超える直前までのクラスタに含まれるフレーム数の合計
（４）
で計算されるフレーム数のフレームデータを追加補充して、フレーム数の合計が式（３）に一致するようにしてもよい。追加補充するフレームデータは、空白データ（例えば、音声の場合は無音や白色雑音やピンク雑音等、動画の場合は単色フレーム画像等）でもよいし、補充する直前と同一のフレームデータを繰り返し用いてもよいし、補充する直前のフレームデータに続く、原フレームデータを式（４）のフレーム数だけ繰り上げ選択するなどしてもよい。また、これらに限定されることなく、総圧縮率を基に、選択フレームが決定できる方法であればよい。
【００５４】
連続メディア再構成部１０８は、再生クラスタ選択部１０７で選択されたクラスタのフレームに対応する連続メディアデータのフレーム区間データを順序関係を維持しながら連結し再構成する（ステップ１０８）。例えば、連結する際に、連結する前後のデータの不連続性を軽減するための連結する前後のデータに平滑化処理を加えてもよい。対応する連続メディアデータは、連続メディア入力部から変化量パラメータ抽出部１０２、クラスタリング部１０４、クラスタ変化量算出部１０５、再生クラスタ選択部１０７を経由して受け取ってもよいし、連続メディア入力部１０１から直接受け取ってもよい。
【００５５】
連続メディア出力部１０９は、連続メディア再構成部１０８で再構成した連続メディアデータを出力する（ステップ１０９）。例えば、出力は、外部出力デバイスに随時出力してもよいし、後で再生することを目的として、記録媒体にファイルとして出力してもよいし、メモリ等の記憶媒体に出力し、別の装置、アプリケーションが逐次利用できるようにしてもよい。
【００５６】
［第２の実施の形態］
本実施の形態では、同期型の複合メディアデータ短縮再生装置について説明する。
【００５７】
図５は、本発明の第２の実施の形態における同期型の複合メディア短縮再生装置の構成図である。
【００５８】
同図に示すように、同期型の複合メディア短縮再生装置は、連続メディア入力部２０１１から連続メディア入力部２０１ｎのｎ個の連続メディア入力部２０１、パラメータ抽出部２０２１からパラメータ抽出部２０２ｎのｎ個の変化量パラメータ抽出部２０２、パラメータ合成部２１０、再生速度指示部２０３、クラスタリング部２０４、クラスタ変化量算出部２０５、総圧縮率指示部２０６、再生クラスタ選択部２０７、連続メディア再構成部２０８１から連続メディア再構成部２０８ｎのｎ個の連続メディア再構成部２０８、連続メディア出力部２０９１から連続メディア出力部２０９ｎのｎ個の連続メディア出力部２０９から構成される。
【００５９】
なお、ｎ個の連続メディアは、ｎ種類の連続メディアでもよいし、同一種類のｎチャンネルの連続メディアでもよいし、ｊ種類の連続メディアがｋチャンネル（ｊ＊ｋ＝ｎ）あってもよいし、これに限定することなく、合計がｎ個の連続メディアであればよい。
【００６０】
連続メディア入力部２０１１から連続メディア入力部２０１ｎのｎ個の連続メディア入力部２０１とパラメータ抽出部２０２１からパラメータ抽出部２０２ｎのｎ個の変化量パラメータ抽出部２０２で構成される部分は、それぞれの連続メディアをフレーム区間に分割し、それぞれのフレーム区間のそれぞれの連続メディアデータの特徴パラメータの変化量を計算するメディア入力・特徴パラメータ変化量計算手段に相当する。
【００６１】
パラメータ合成部２１０は、複数の連続メディアデータの特徴パラメータの変化量から統合した連続メディアの特徴パラメータの変化量を計算する変化量パラメータ抽出手段に相当する。
【００６２】
再生速度指示部２０３とクラスタリング部２０４で構成される部分は、統合した特徴パラメータの変化量の大きなフレームを抽出するフレーム抽出手段と抽出されたフレームをクラスタリングするクラスタリング手段に相当する。
【００６３】
クラスタ変化量算出部２０５は、クラスタリングしたクラスタ単位の変化量を計算するクラスタ変化量算出手段に相当する。
【００６４】
総圧縮率指示部２０６と再生クラスタ選択部２０７と連続メディア再構成部２０８１から連続メディア再構成部２０８ｎのｎ個の連続メディア再構成部２０８で構成される部分は、クラスタ単位の変化量の大きなクラスタのみを連結して、各連続メディアデータ毎に再構成データを生成するメディア再構成手段に相当する。
【００６５】
連続メディア出力部２０９１から連続メディア出力部２０９ｎのｎ個の連続メディア出力部２０９は、各連結された再構成データを出力する出力手段に相当する。
【００６６】
上記の構成における動作を説明する。
【００６７】
図６は、本発明の第２の実施の形態における動作のフローチャートである。
【００６８】
連続メディア入力部２０１１から連続メディア入力部２０１ｎは、それぞれ対応する入力された連続メディアデータ１から連続メディアデータｎをそれぞれのバッファ（図示せず）に読み込んで、それぞれに対応するパラメータ抽出部２０２１からパラメータ抽出部２０２ｎに同期をとって送る（ステップ２０１）。
【００６９】
各連続メディア入力部２０１は、第１の実施の形態における連続メディアデータ短縮再生装置の連続メディア入力１０１の処理に加え、各連続メディア入力部２０１間で各パラメータ抽出部２０２に送るデータ量を同じ時間分（サイズが同じとは限らず、再生した場合に同じ時間となる量等）に合わせ、同じタイミング（厳密に動作時間を合わせる必要はないが、データの処理位置、順序を同一にする）に同期して送る。
【００７０】
各連続メディア入力部２０１間で各連続メディアデータを読み込むデータ量、タイミングについては同期してもよいが、同期しなくてもよい。
【００７１】
パラメータ抽出部２０２１からパラメータ抽出部２０２ｎは、それぞれに対応する連続メディア入力部２０１から受信したそれぞれの連続メディアデータを一定周期の小区間（フレーム区間）に分割し、それぞれのフレーム区間の代表となる特徴パラメータの変化量を計算する（ステップ２０２）。
【００７２】
各パラメータ抽出部２０２のフレーム区間長（フレーム周期）が共通である他は、各パラメータ抽出部２０２は、第１の実施の形態における変化量パラメータ抽出部１０２と同様の処理を行う。
【００７３】
パラメータ合成部２１０は、パラメータ抽出部２０２１からパラメータ抽出部２０２ｎのｎ個のパラメータ抽出部２０２からそれぞれの特徴パラメータの変化量を取得する。それぞれのパラメータの変化量は、同一フレーム数の時系列データであり、加重平均により、１つの変化量の時系列データに変換し、統合した特徴パラメータ変化量を求める（加重平均は、それぞれの特徴パラメータの変化量の単位が異なる場合の正規化やそれぞれの連続メディアに対して重み付けを行う場合を含み、平均方法についても算術平均や幾何平均等の場合を含む。正規化方法も例えば、それぞれの特徴パラメータの変化量の最大値でそれぞれの特徴パラメータの変化量を割ることにより、０から１の値に正規化してもよいし、それぞれの特徴パラメータの変化量の平均値で割ることにより正規化してもよいし、それぞれの特徴パラメータの変化量の分散で割ることにより正規化してもよい）（ステップ２０３）。
【００７４】
再生速度指示部２０３は、第１の実施の形態における連続メディアデータ短縮再生装置の再生速度指示部１０３と同様の処理を行う（ステップ２０４）。
【００７５】
クラスタリング部２０４は、第１の実施の形態における連続メディアデータ短縮再生装置のクラスタリング部１０４と、変化量パラメータ抽出部１０２の代わりに、パラメータ合成部２１０で計算した統合した特徴パラメータの変化量を用いる以外は、同様の処理を行う（ステップ２０５）。
【００７６】
クラスタ変化量算出部２０５は、第１の実施の形態における連続メディアデータ短縮再生装置のクラスタ変化量算出部１０５と同様の処理を行う（ステップ２０６）。
【００７７】
総圧縮率指示部２０６は、第１の実施の形態における連続メディアデータ短縮再生装置の総圧縮率指示部１０６と同様の処理を行う（ステップ２０７）。
【００７８】
再生クラスタ選択部２０７は、第１の実施の形態における連続メディアデータ短縮再生装置の再生クラスタ選択部１０７と同様の処理を行う（ステップ２０８）。
【００７９】
連続メディア再構成部２０８１から連続メディア再構成部２０８ｎは、再生クラスタ選択部２０７で選択された再生クラスタ数のフレームに対応するそれぞれの連続メディアデータのフレーム区間データを、順序関係を維持しながらそれぞれ連結し、それぞれ再構成する（ステップ２０９）。例えば、連結する際に、連結する前後のデータの不連続性を軽減するため連結する前後のデータに平滑化処理を加えてもよい。平滑化処理を加えるのは、全ての連続メディア再構成部２０８でもよいし、一部の連続メディア再構成部２０８でもよい。対応するそれぞれの連続メディアデータは、それぞれの連続メディア入力部２０１からそれぞれのパラメータ抽出部２０２、パラメータ合成部２１０、クラスタリング部２０４、クラスタ変化量算出部２０５、再生クラスタ選択部２０７を経由して受け取ってもよいし、それぞれの連続メディア入力部２０１から直接受け取ってもよい。
【００８０】
連続メディア出力部２０９１から連続メディア出力部２０９ｎは、それぞれに対応するそれぞれの連続メディア再構成部２０８で再構成した連続メディアデータをそれぞれ出力する（ステップ２１０）。
【００８１】
連続メディア出力部２０９は、同期をとって出力してもよいし、しなくてもよい。例えば、外部出力デバイスに随時出力する場合に同期をとって出力してもよいし、後で再生することを目的として、記録媒体にファイルとして出力したり、メモリ等の記憶媒体に出力し、別の装置、アプリケーションが逐次利用できるようにする場合は、同期をとらなくてもよい。
【００８２】
［第３の実施の形態］
本実施の形態では、準同期型の複合メディアデータの短縮再生装置について説明する。
【００８３】
図７は、本発明の第３の実施の形態における準同期型の複合メディアデータ短縮再生装置の構成図である。
【００８４】
同図に示すように、準同期型の複合メディアデータ短縮再生装置は、連続メディア入力部３０１１から連続メディア入力部３０１ｎのｎ個の連続メディア入力部３０１と、パラメータ抽出部３０２１からパラメータ抽出部３０２ｎのｎ個のパラメータ抽出部３０２と、再生速度指示部３０３、クラスタリング部３０４、クラスタ内時間圧縮部３１１、総圧縮率指示部３０６、再生クラスタ選択部３０７、連続メディア再構成部３０８１から連続メディア再構成部３０８ｎのｎ個の連続メディア再構成部３０８、連続メディア出力部３０９１から連続メディア出力部３０９ｎのｎ個の連続メディア出力部３０９から構成される。
【００８５】
なお、ｎ個の連続メディアは、ｎ種類の連続メディアでもよいし、同一種類のｎチャンネルの連続メディアでもよいし、ｊ種類の連続メディアがｋチャンネル（ｊ＊ｋ＝ｎ）あってもよいし、これに限定することなく、合計がｎ個の連続メディアであればよい。
【００８６】
連続メディア入力部３０１１から連続メディア入力部３０１ｎのｎ個の連続メディア入力部３０１とパラメータ抽出部３０２１からパラメータ抽出部３０２ｎのｎ個のパラメータ抽出部３０２で構成される部分は、それぞれの連続メディアデータをフレーム区間に分割し、それぞれのフレーム区間のそれぞれの連続メディアの特徴パラメータの変化量を計算するメディア入力・特徴パラメータ変化量計算手段に相当する。
【００８７】
再生速度指示部３０３とクラスタリング部３０４で構成される部分は、各連続メディアの特徴パラメータの変化量の大きなフレームを抽出するフレーム抽出手段と、各連続メディアデータの抽出されたフレームを統合して、クラスタリングするクラスタリング手段に相当する。
【００８８】
クラスタ内時間圧縮部３１１は、クラスタリングされたクラスタ単位で各連続メディアデータを時間圧縮する時間圧縮手段に相当する。
【００８９】
クラスタ変化量算出部３０５は、時間圧縮されたクラスタ単位の変化量を計算するクラスタ変化量算出手段に相当する。
【００９０】
総圧縮率指示部３０６と再生クラスタ選択部３０７と連続メディア再構成部３０８１から連続メディア再構成部３０８ｎのｎ個の連続メディア再構成部３０８で構成される部分は、時間圧縮されたクラスタ単位の変化量の大きな時間圧縮されたクラスタのみを連結して各連続メディアデータ毎に再構成データを生成する再構成手段に対応する。
【００９１】
連続メディア出力部３０９１から連続メディア出力部３０９ｎのｎ個の連続メディア出力部３０９は、各連続された再構成データを出力する出力手段に相当する。
【００９２】
上記の構成における動作を説明する。
【００９３】
図８は、本発明の第３の実施の形態における動作のフローチャートである。
【００９４】
連続メディア入力部３０１１から連続メディア入力部３０１ｎは、前述の第２の実施の形態の同期型複合メディア短縮再生装置の連続メディア入力部２０１１から連続メディア入力部２０１ｎと同様の処理を行う（ステップ３０１）。
【００９５】
パラメータ抽出部３０２１からパラメータ抽出部３０２ｎは、前述の第２の実施の形態の同期型複合メディア短縮再生装置のパラメータ抽出部２０２１からパラメータ抽出部２０２ｎと同様の処理を行う（ステップ３０２）。
【００９６】
再生速度指示部３０３は、各連続メディアの最小構成単位が原形を留めない程縮退することを防ぐために、局所的な再生速度をそれぞれ設定しておくもので、連続メディアデータ１から連続メディアデータｎのそれぞれの特徴パラメータの変化量の大きなフレームを抽出する基準となる再生速度１から再生速度ｎをクラスタリング部３０４に指示する（ステップ３０３）。この時、総圧縮率指示部３０３から総圧縮率を取得し、それぞれの再生速度が総圧縮率の逆数より大きい場合は、その再生速度を総圧縮率の逆数に置き換えてクラスタリング部３０４に指示する。
【００９７】
クラスタリング部３０４は、再生速度指示部３０３から再生速度１から再生速度ｎを基に、それぞれのメディアデータに対する、前述の式（１）の抽出フレーム数を計算し、パラメータ抽出部３０２ｎからパラメータ抽出部３０２ｎのｎ個のパラメータ抽出部３０２からそれぞれの特徴パラメータの変化量を取得し、各メディアデータごとに特徴パラメータの変化量の大きい方からそれぞれの抽出フレーム数だけ抽出する。全てのメディアデータにおいて抽出されていない区間の時間間隔を基にクラスタリングする（ステップ３０４）。
全てのメディアデータにおいて抽出されていない区間がない、もしくは、少ない場合は、抽出区間の重複頻度を計算して、抽出区間の重複頻度の少ない区間の時間間隔を基にクラスタリングしてもよいし、フレームの特徴パラメータの変化量を統合して統合した変化量の大きさを基にクラスタリングしてもよい。また、これらに限定されることなく、各再生速度と各特徴パラメータの変化量を基に、クラスタリングできる方法であればよい。クラスタリング方法については、第１の実施の形態における連続メディアデータ短縮再生装置のクラスタリングと同様である。
【００９８】
クラスタ内時間圧縮部３１１は、クラスタリング部３０４でクラスタリングされたクラスタに対して、クラスタ内でメディア間のフレーム同期性を緩めて時間圧縮を行い、時間圧縮されたクラスタを生成する（ステップ３０５）。時間圧縮方法は、クラスタ内で各メディアデータ毎に抽出フレーム数を計算し、その中から最長抽出フレーム数を決定する。その最長抽出フレーム数より少ないメディアデータに対して、再度、クラスタ区間内で特徴パラメータの変化量の大きいフレームから最長抽出フレーム数だけフレームの抽出をやり直す。これにより、クラスタ内の全てのメディアデータから最長抽出フレーム数ずつのフレームが抽出でき、それぞれのメディアデータで抽出するフレームを連結すると、クラスタとしてのフレーム数以下の最長抽出フレーム数の長さに時間圧縮されたクラスタが生成される。この時間圧縮されたクラスタは、クラスタ内ではメディア間のフレーム同期は崩れるが、クラスタとしては同期がとれた圧縮となる。
【００９９】
クラスタ変化量算出部３０５は、前述の第２の実施の形態における同期型の複合メディアデータ短縮再生装置のクラスタ変化量算出部２０５と、クラスタリング部２０４でクラスタリングされたクラスタの代わりにクラスタ内時間圧縮部３１１で時間圧縮されたクラスタを用いる以外は、同様の処理を行う（ステップ３０６）。
【０１００】
総圧縮率指示部３０６は、前述の第２の実施の形態における同期型の複合メディアデータ短縮再生装置の総圧縮率指示部２０６と同様の処理を行う（ステップ３０７）。
【０１０１】
再生クラスタ選択部３０７は、前述の第２の実施の形態における同期型の複合メディアデータ短縮再生装置の再生クラスタ選択部２０７と同様の処理を行う（ステップ３０８）。
【０１０２】
連続メディア再構成部３０８１から連続メディア再構成部３０８ｎは、前述の第２の実施の形態における同期型の複合メディアデータ短縮再生装置の連続メディア再構成部２０８１から連続メディア再構成部２０８ｎと同様の処理を行う（ステップ３０９）。
【０１０３】
連続メディア出力部３０９１から連続メディア出力部３０９ｎは、前述の第２の実施の形態における同期型の複合メディアデータ短縮再生装置の連続メディア出力部２０９１から連続メディア出力部２０９ｎと同様の処理を行う（ステップ３１０）。
【０１０４】
なお、上記の第１〜第３の実施の形態は、図３、図５、図７に示した構成に限定されるものではなく、様々な応用が可能である。
【０１０５】
また、本発明の連続メディアデータ短縮再生装置及び複合メディア短縮再生装置は、論理回路等を用いたハードウェアのみによって実現することも可能であると共に、コンピュータとそれによって実行されるソフトウェアを用いて実行することも可能である。
【０１０６】
また、このソフトウェアは、コンテンツ読み取り可能な記録媒体、あるいは通信回線介して配布することが可能である。
【実施例】
【０１０７】
［第１の実施例］
連続メディアデータ短縮再生装置を音声に適用した実施例を図３、図９〜図１３を用いて説明する。
【０１０８】
連続メディア入力部１０１で入力された「あき  あき（音素記号「ａｋｉ  ａｋｉ」）」と発話した音声データ（例えば、10kHzサンプリング、１６ビットリニアPCMで本実施例の説明を行うが、10kHz以外のサンプリング周波数や他の音声符号を用いてもよい）の音声波形の例を図９に示す。音素記号は、それぞれ発音された音素の区間を示す。
【０１０９】
変化量パラメータ抽出部１０２では、音声データのフレーム区間（例えば、フレーム区間長を10msとして本実施例の説明を行うと、100ポイントの音声データがフレーム区間長の音声データとなる。フレーム区間長は10ms以外でもよい）に分割し、その代表となる特徴パラメータとして音声パワーを計算する。音声パワーの計算には、例えば、フレーム区間を中心に、フレーム区間外の音声データを含めた２５６ポイント（25.6msの音声データ）を用い、窓長２５６ポイントのブラックマン窓をかけた後、音声パワーの計算を行い、フレーム区間の代表値とすることができる（窓長は２５６ポイント以外でもよいし、窓の形もブラックマン窓以外を用いてもよいし、窓かけ計算を必ずしも行わなくてもよい）。
【０１１０】
ここで、図９の音声波形に対応した音声パワーの例を図１０に示す。音声パワーの場合はスカラーの時系列であるが、音声パワーのほか、△（デルタ）パワー、ＦＦＴ係数、ＬＰＣ係数、ケプストラム係数、△（デルタ）ケプストラム係数、メル周波数ケプストラム係数（MFCC）、△（デルタ）メル周波数ケプストラム係数（△MFCC）、これらに類する各種音声分析パラメータやそれらの組み合わせを用いることもでき、スカラーだけでなくベクトルでもよい。
【０１１１】
特徴パラメータの変化量は、例えば、音声パワーのフレーム間の差分の絶対値を計算する。当該フレームと前フレームの音声パワーの差分の絶対値でもよいし、当該フレームと後フレームの音声パワーの差分の絶対値でもよいし、前フレームと後フレームの音声パワーの差分の２分の１の絶対値でもよいし、前後複数フレームの音声パワーを組み合わせて計算してもよい。また、音声データから直接△（デルタ）パワーの絶対値を計算してもよい。
【０１１２】
ここで、図１０の音声パワーに対応した、音声パワーの変化量の例を図１１に示す。音声パワーはスカラーであり、差分計算の例を示したが、ベクトルの場合を含めて一般化すると２値の距離計算で置き換えることができる。ベクトルの場合に距離計算で置き換えた例としては、多次元ベクトルのMFCCや△（デルタ）MFCCから、メル周波数ケプストラム距離（MFCD）を計算して用いることもできる。
【０１１３】
総圧縮率指示部１０６では、利用者が短縮再生したい総圧縮率、もしくは、短縮再生時間を指定する。ここでは、総圧縮率を６分の１（高速再生での６倍速に相当）に指定した場合の例を用いて説明する。
【０１１４】
再生速度指示部１０３では、連続メディア（ここでは音声）の最小構成単位（ここでは音韻や単語等）が原形を留めない程縮退（ここでは、聞き取れなくなることに相当）することを防ぐために局所的な再生速度を設定しておくもので、図１２は音韻の欠落が少ない３倍速に設定した例である。図１３は比較のための総圧縮率と同等な６倍速に設定した例である。図１３の（ｃ）のグラフは６倍速の再生速度を基に音声パワーの変化量の閾値を設定した例であり、閾値より上に値がくる網掛け部分が抽出されたフレームを示している。図１３（ｄ）のグラフは抽出されたフレームを連結した例であるが、元音声の「あき  あき（音素記号「ａｋｉ  ａｋｉ」）」のうち、音素／ｉ／が欠落し、音素／ｋ／は区間が短すぎて聞き取れない程縮退した例である。結果として抽出された音声は「ああ」となり、単語としての意味もわからなくなってしまった例である。これに対し、図１２は、適切に音韻欠落が少ない３倍速に設定した例であり、図１２（ｃ）のグラフから３倍速の再生速度を基にパワーの変化量の閾値を設定し、抽出した段階では、元音声の「あき  あき（音素記号「ａｋｉ  ａｋｉ」）の全ての音素が残っている例となっている。
【０１１５】
クラスタリング部１０４では、音声パワーの変化量の大きなものから局所的な再生速度を基にフレームを抽出する処理とクラスタリングを行う。図１２（ｃ）のグラフは、クラスタリングとして、クラスタ分割のための最大区間長の閾値を設定し、その最大区間長の閾値より、隣接する抽出フレームの区間が近ければ同一のクラスタとして統合した例である。ここでは、２つのクラスタが形成されている。
【０１１６】
クラスタ変化量算出部１０５では、形成されたクラスタに対し、クラスタ単位での変化量を算出する。例えば、形成されたクラスタに含まれる抽出フレームの特徴パラメータ変化量の平均をとることで、クラスタ単位の変化量を算出することができるが、いろいろな方法が可能である。
【０１１７】
再生クラスタ選択部１０７では、クラスタ単位の変化量の大きいクラスタを選択する。ここでは、総圧縮率６分の１であるが、局所的な再生速度の３倍速を基にフレーム抽出を行っているので、クラスタの選択により更に２分の１にすることになる。図１２の（ｄ）、は、図１２（ｃ）で形成されたクラスタのうち、クラスタ単位の変化量の大きいクラスタを選択して、２分の１にした例である。結果として「あき」という音声が生成される例である。２つの単語のうち、１つしか再生されないことになるが、クラスタ単位の変化量の大きいクラスタの方が音声データの特徴を表していると解釈すれば、単語として意味がわかるレベルでの短縮再生として適切であるということができる。図１３（ｄ）のように、２つの単語からフレームを抽出しても、内容が概観できなければ意味がないからである。
【０１１８】
連続メディア再構成部１０８では、再生クラスタ選択部１０７で選択したフレームに対応する音声データを抽出し、順序関係を維持しながら連結して再構成する。
【０１１９】
音声データを連結する時に、連結部分に平滑化処理を施してもよい。音声断片データをそのまま連結すると不連続性により再生時にノイズとして知覚されるが、平滑化処理によって、その不連続性を解消し、ノイズを軽減することができる。
【０１２０】
この平滑化処理の例としては、連結する前後の一定区間の音声データの移動平均をとる方法がある。例えば、前後の計５ポイントのデータの移動平均をとってもよいし、５ポイント以外の数でもよい。また、移動平均以外の平滑化方法でもよい。
【０１２１】
連続メディア出力部１０９は、例えば、スピーカやヘッドホン等のオーディオ出力デバイスに随時出力し、再生してもよいし、後で再生することを目的に、ファイル出力してもよい。
【０１２２】
［第２の実施例］
本実施例では、準同期の複合メディアデータ短縮再生装置について、図５、図７の用語を基に、図１４を用いて説明する。
【０１２３】
図１４は、本発明の第２の実施例の準同期の複合メディアデータ短縮再生方法の動作の例であり、連続メディア１に音声、連続メディア２に動画を適用した例である。
【０１２４】
図１４（ａ）は、連続メディア入力部２０１１、連続メディア入力部２０２２とパラメータ抽出部２０２１、パラメータ抽出部２０２２を経由して、クラスタリング部２０４でクラスタリングしたフレーム区間を原データの時間に併せてマッピングした例である。
【０１２５】
図１４（ｂ）は、図１４（ａ）をフレーム同期を維持して抽出フレームを連結した場合の例である。
【０１２６】
図１４（ｃ）は、図１４（ｂ）をクラスタ内時間圧縮部３１１において、更にクラスタ内で時間圧縮した後、連結した場合の例である。図１４（ｂ），（ｃ）を比較するとわかるように、音声と動画のフレームの同期はとれていないものの、クラスタ単位の同期はとれた状態で、音声の音韻や動画の動物体の動きの了解性を維持しながら、より短縮できている。
【０１２７】
後は、クラスタ変化量算出部２０５でクラスタ単位の変化量を計算し、再生クラスタ選択部２０７でクラスタ単位の変化量の大きいクラスタを総圧縮率に合わせて選択する。
【０１２８】
連続メディア再構成部２０８１、連続メディア再構成部２０８２では、選択したクラスタ内のフレーム区間に対応するそれぞれのメディアデータを抽出し、順序関係を維持しながら、それぞれ連結して再構成する。
【０１２９】
連続メディア出力部２０９１、連続メディア出力部２０９２は、例えば、スピーカやヘッドホン等のオーディオ出力デバイスとディスプレイ等の表示デバイスに随時出力してもよいし、後で再生することを目的に、ファイル出力してもよい。ファイル出力する時は、音声、動画のそれぞれで別のファイルに出力してもよいし、複合したフォーマットに変換して１つのファイルに出力してもよい。
【０１３０】
なお、本発明は、上記の実施の形態及び実施例に限定されることなく、特許請求の範囲内において種々変更・応用が可能である。
【産業上の利用可能性】
【０１３１】
本発明は、種々の連続メディアを短縮再生する技術に適用可能である。
【図面の簡単な説明】
【０１３２】
【図１】本発明の原理を説明するための図である。
【図２】本発明の原理構成図である。
【図３】本発明の第１の実施の形態における連続メディアデータ短縮再生装置の構成図である。
【図４】本発明の第１の実施の形態における動作のフローチャートである。
【図５】本発明の第２の実施の形態における同期型の複合メディアデータ短縮再生装置の構成図である。
【図６】本発明の第２の実施の形態における動作のフローチャートである。
【図７】本発明の第３の実施の形態における準同期型の複合メディアデータの短縮再生装置の構成図である。
【図８】本発明の第３の実施の形態における動作のフローチャートである。
【図９】本発明の第１の実施例の音声波形の例である。
【図１０】本発明の第１の実施例の音声パワーの例である。
【図１１】本発明の第１の実施例の音声パワーの変化量の例である。
【図１２】本発明の第１の実施例のクラスタリング有りの場合の再構成した音声データの例である。
【図１３】本発明の第１の実施例のクラスタリング無しの場合の再構成した音声データの例である。
【図１４】本発明の第２の実施例の準同期の複合メディアデータ短縮再生方法の動作の例である。
【符号の説明】
【０１３３】
１０１，２０１，３０１  連続メディア入力部
１０２，２０２，３０２  変化量パラメータ抽出部
１０３，２０３  再生速度指定部
１０４，２０４，３０４  クラスタリング部
１０５，２０５，３０５  クラスタ変化量算出部
１０６，２０６，３０６  総圧縮率指示部
１０７，２０７，３０７  再生クラスタ選択部
１０８，２０８，３０８  連続メディア再構成部
１０９，２０９，３０９  連続メディア出力部
１１０  メディア入力・特徴パラメータ変化量計算手段
１２０  フレーム抽出手段
１３０  クラスタリング手段
１４０  クラスタ変化量算出手段
１５０  メディア再構成手段
１６０  出力手段
２１０  パラメータ合成部
３１１  クラスタ内時間圧縮部
【図１】
0004648183.tif 000002
【図２】
0004648183.tif 000003
【図３】
0004648183.tif 000004
【図４】
0004648183.tif 000005
【図５】
0004648183.tif 000006
【図６】
0004648183.tif 000007
【図７】
0004648183.tif 000008
【図８】
0004648183.tif 000009
【図９】
0004648183.tif 000010
【図１０】
0004648183.tif 000011
【図１１】
0004648183.tif 000012
【図１２】
0004648183.tif 000013
【図１３】
0004648183.tif 000014
【図１４】
0004648183.tif 000015