(57)【要約】【課題】周波数領域でデータ処理を行う場合にデータ処理量を削減し、リアルタイム処理をも可能としたオーディオ信号の時間軸圧伸装置を提供する。【解決手段】入力オーディオ信号は、窓関数乗算部１１においてフレーム単位で切り出され、ＦＦＴ部１２にて振幅データと位相データとを含んだ周波数スペクトルデータとして出力される。スペクトルピーク検出部１３は、周波数スペクトルの振幅のエンベロープのローカルピークを検出する。聴覚心理特性評価部２０は、最小可聴限特性曲線等の聴覚心理特性曲線に基づいてローカルピークデータを削減する。【選択図】　図１
2004070240.tif 000002
【特許請求の範囲】
【請求項１】
フレームに区切られたオーディオ信号からその周波数スペクトルのピークを前記フレーム毎に検出する検出部と、
人間の聴覚心理特性曲線と前記ピークとを比較して前記ピークを削減したフレームデータを生成するデータ削減部と、
前記フレームデータの単位時間当たりのフレーム数を所定の時間軸圧伸率に基づいて調整し、調整されたフレームデータに基づいてオーディオ信号を合成する合成部とを備えたことを特徴とするオーディオ信号の時間軸圧伸装置。
【請求項２】
前記聴覚心理特性曲線は、人間の耳が聞き取ることのできる最小の音圧と周波数との関係を示す最小可聴限特性曲線である請求項１に記載のオーディオ信号の時間軸圧伸装置。
【請求項３】
前記聴覚心理特性曲線は、ある周波数の音声が人間の耳に感受された場合においてその周波数近傍の周波数が聞こえにくくなる度合いを示す周波数マスキング特性曲線である請求項１に記載のオーディオ信号の時間軸圧伸装置。
【請求項４】
フレームに区切られたオーディオ信号からその周波数スペクトルのピークを前記フレーム毎に検出する検出ステップと、
人間の聴覚心理特性曲線と前記ピークとを比較して前記ピークを削減したフレームデータを生成するデータ削減ステップと、
前記フレームデータの単位時間当たりのフレーム数を所定の時間軸圧伸率に基づいて調整し、調整されたフレームデータに基づいてオーディオ信号を合成する合成ステップとを備えたことを特徴とするオーディオ信号の時間軸圧伸方法。
【請求項５】
フレームに区切られたオーディオ信号からその周波数スペクトルのピークを前記フレーム毎に検出する検出ステップと、
人間の聴覚心理特性曲線と前記ピークとを比較して前記ピークを削減したフレームデータを生成するデータ削減ステップと、
前記フレームデータの単位時間当たりのフレーム数を所定の時間軸圧伸率に基づいて調整し、調整されたフレームデータに基づいてオーディオ信号を合成する合成ステップとをコンピュータに実行させるように構成されたことを特徴とするオーディオ信号の時間軸圧伸用プログラム。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は、原オーディオ信号のピッチ及び音質を変えずに原オーディオ信号を所望の圧伸率で時間軸圧伸するオーディオ信号の時間軸圧伸装置及び方法に関する。
【０００２】
【従来の技術】
時間軸圧伸の方法は、時間領域で処理を行うものと、周波数領域で処理を行うものとの２つに大別される。一般に、時間領域の処理は処理負荷が低く、リアルタイムでの処理が容易であるが、良い音質を得ることは難しい。一方、周波数領域の処理は良い音質を得やすいが、ＦＦＴなどにより時間領域表現を周波数領域表現に変換する場合でも、フェイズボコーダなどにより正弦波の組に分解する場合でも処理負荷が高くリアルタイムでの処理が難しい。
【０００３】
【発明が解決しようとする課題】
本発明は、この点に鑑みてなされたものであり、周波数領域でデータ処理を行う場合にデータ処理量を削減し、リアルタイムでの処理をも可能としたオーディオ信号の時間軸圧伸装置、方法及びプログラムを提供することを目的とする。
【０００４】
【課題を解決するための手段】
上記目的達成のため、本出願の第１の発明に係るオーディオ信号の時間軸圧伸装置は、フレームに区切られたオーディオ信号からその周波数スペクトルのピークを前記フレーム毎に検出する検出部と、人間の聴覚心理特性曲線と前記ピークとを比較して前記ピークを削減したフレームデータを生成するデータ削減部と、前記フレームデータの単位時間当たりのフレーム数を所定の時間軸圧伸率に基づいて調整し、調整されたフレームデータに基づいてオーディオ信号を合成する合成部とを備えたことを特徴とする。
【０００５】
この第１の発明に係る音声合成装置によれば、分析部で分析された各フレームのピークのデータが、データ削減部において、聴覚心理特性曲線と比較される。そして、この比較の結果に基づいてピークのデータが削減される。このため、その後のピーク連携部、位相生成部、合成部における負荷が大きく軽減され、オーディオ信号のリアルタイム処理が可能になる。
【０００６】
上記目的達成のため、本出願の第２の発明に係るオーディオ信号の時間軸圧伸方法は、フレームに区切られたオーディオ信号からその周波数スペクトルのピークを前記フレーム毎に検出する検出ステップと、人間の聴覚心理特性曲線と前記ピークとを比較して前記ピークを削減したフレームデータを生成するデータ削減ステップと、前記フレームデータの単位時間当たりのフレーム数を所定の時間軸圧伸率に基づいて調整し、調整されたフレームデータに基づいてオーディオ信号を合成する合成ステップとを備えたことを特徴とする。
【０００７】
上記目的達成のため、本出願の第３の発明に係るオーディオ信号の時間軸圧伸用プログラムは、フレームに区切られたオーディオ信号からその周波数スペクトルのピークを前記フレーム毎に検出する検出ステップと、人間の聴覚心理特性曲線と前記ピークとを比較して前記ピークを削減したフレームデータを生成するデータ削減ステップと、前記フレームデータの単位時間当たりのフレーム数を所定の時間軸圧伸率に基づいて調整し、調整されたフレームデータに基づいてオーディオ信号を合成する合成ステップとをコンピュータに実行させるように構成されたことを特徴とする。
【０００８】
【発明の実施の形態】
次に、本発明の実施の形態を図面に沿って詳細に説明する。
図１は、本発明の実施の形態に係るオーディオ信号の時間軸圧伸装置の全体構成を示している。図１に示すように、本発明の実施の形態に係るオーディオ信号の時間軸圧伸装置は、分析部１０、聴覚心理特性評価部２０、フレーム調整部２５、タイムスケーリング部３０、合成部４０とから大略構成されている。
【０００９】
分析部１０は、窓関数乗算部１１と、ＦＦＴ部１２と、スペクトルピーク検出部１３とを含んでいる。窓関数乗算部１１は、ハミング関数などの窓関数を生成すると共にこの窓関数を入力オーディオ信号に乗算して、これにより入力オーディオ信号をフレーム単位で切り出すためのものである。ＦＦＴ部１２は、窓関数乗算部１１からの入力に対し高速フーリエ変換（ＦＦＴ）を施して、振幅データと位相データとを含んだフレーム単位の周波数スペクトルデータを出力するものである。スペクトルピーク検出部１３は、設定した帯域での振幅データの最大値を求めることなどによるピーク検出アルゴリズムを使用して、ＦＦＴ部１２から出力された周波数スペクトルの振幅のエンベロープのローカルピークを検出し、検出したローカルピークの振幅データと位相データを分析フレームＡＦｎとして出力する。このとき、ＦＦＴの結果のサンプル点だけによってピークを検出するのではなく、周波数が近接する数個のサンプル点を使って、スプライン補間や２次補間を用いてサンプル点間のピークとなるはずの周波数もピークとして検出する。
【００１０】
聴覚心理特性評価部２０は、聴覚心理特性曲線を記憶したテーブルを備えている。この聴覚心理特性曲線とは、人間の耳の聴神経で検知され得る音の特性を示したものであり、例えば、後述する最小可聴限特性曲線や、周波数マスキング特性曲線、ラウドネス特性曲線などがこれに該当する。聴覚心理特性評価部２０は、聴覚心理特性曲線に基づいて、前記スペクトルピーク検出部１３で検出されたローカルピークデータを削減する。
【００１１】
聴覚心理特性評価部２０のテーブルに最小可聴限特性曲線が記憶される場合について説明する。最小可聴限特性曲線とは、図２に点線ＡＳで示すグラフのように、人間の耳が音を聴く際に、聴こえる音の中で最も小さなレベルと周波数との関係を示すデータである。
聴覚心理特性評価部２０は、この最小可聴限特性曲線と、スペクトルピーク検出部１３で検出されたローカルピークとを比較して、分析フレームＡＦｎから最小可聴限特性曲線ＡＳよりも小さい値のローカルピークのデータ（図２の黒丸印のデータ）を削除して、次段のフレーム数調整部２５に出力する。これにより、後段のタイムスケーリング部３０での処理するデータ量が減少するため、時間軸圧伸の処理量を削減することができる。
【００１２】
次に、聴覚心理特性評価部２０のテーブルに周波数マスキング特性曲線を記憶させる場合について説明する。
周波数マスキングとは、ある周波数の音声が感受される場合、その音声より振幅が小さく周波数が隣接する音声が聞こえにくくなる現象のことをいう。人間の耳は多数の聴神経を有しており、音の周波数により刺激を受ける聴神経が異なっており、また、ある周波数に対応する聴神経が刺激を受けた場合、それに隣接する周波数に対応する聴神経は逆に抑圧される。この抑圧の度合いを示したものが、周波数マスキング特性曲線である。
【００１３】
図３はこの周波数マスキング特性曲線の一例である。
スペクトルピーク検出部１３で検出されたローカルピークのうち、振幅の大きいものを複数個選択し、この選択されたローカルピークＰｍｉを頂点として右下方向、左下方向に伸びる直線Ｌｉ、Ｌｉ´を描く。そして、この複数のＬｉ、Ｌｉ´を接続した周波数マスキング曲線ＭＬを形成し、このマスキング曲線ＭＬよりも下にあるローカルピークのデータを分析フレームＡＦｎから削除してデータ量を削減し、次段のフレーム数調整部２５に出力する。
【００１４】
この最小可聴限特性曲線、周波数マスキング特性曲線の両方に基づいてもローカルピークのデータを削減するようにすることもできる。これにより、データの削減量を更に大きくすることが出来る。
【００１５】
フレーム数調整部２５は、聴覚心理特性評価部２０から出力されたデータに対し、このデータが所望の圧伸率となるよう、分析フレームＡＦｎを単位として間引き、繰り返しを行ってフレーム数の調整を行う。
タイムスケーリング部３０は、ピーク連携部３１と、位相生成部３２とを含んでいる。聴覚心理特性評価部２０から出力されたデータに対し、分析フレームを単位とした間引き、繰り返しにより所望の圧伸率になるような時間軸上のフレーム数の調整が行われた後、ピーク連携部３１は、図４に示すように、隣接する分析フレームＡＦｎ−１、ＡＦｎにおいてそれぞれ検出されたローカルピークデータのうち、連続していると考えられるピークを選択して互いに連携させる処理を行う。すなわち、過去の分析フレームＡＦｎ−１のローカルピークｆ１、ｆ２、ｆ３・・・に対応するローカルピークが、現在の分析フレームＡＦｎ（ｆ１´、ｆ２´、ｆ３´・・・）にも存在するか否かをチェックし、存在する場合には、その対応するローカルピーク同士を連携させる。対応関係の判断は、両ローカルピークの周波数の差が所定値以内であるか否かにより判断し、所定値Δｆｍａｘ以上の差があるローカルピーク同士は連携の対象から除外する。この際、周波数の差が最も小さなローカルピークを連携させることで、過去の分析フレームＡＦｎ−１の複数のローカルピークと現在の分析フレームＡＦｎの１つのローカルピークとが連携することを防止することができる。
【００１６】
この連携処理がなされた場合、この連携された２つのローカルピークの周波数の差を求め、これを分析フレームＡＦｎ−１、ＡＦｎの間の時間で微分することにより、フレーム間の任意の位置での瞬時周波数ｆｒを求めることができるようになる。簡略的に、２つのローカルピークの平均周波数を瞬時周波数ｆｒとしてもよい。
【００１７】
位相生成部３２は、過去の分析フレームＡＦｎ−１の連携されたローカルピーク（周波数ｆ）での位相を初期位相ΦＡＦｎ−１、ｆと考え、この初期位相ΦＡＦｎ−１、ｆに瞬時周波数ｆｒとフレーム間の時間Δｔから求めた位相変化（２πｆｒ×Δｔ）を加算することにより、対応する現在のフレームＡＦｎの対応するローカルピーク（周波数ｆ´）での正弦波成分の位相を求めることができる。更に過去の合成フレームＳＦｎ−１の連携されたローカルピークの位相に同じ位相変化を加算することで、合成フレームＳＦｎの対応するローカルピークの位相を求める。連携するローカルピークが見つからないローカルピークの位相については、分析フレームの対応するローカルピークの位相がそのまま合成フレームの位相とされる。
なお、合成フレームＳＦｎの振幅については、対応する分析フレームＡＦｎの振幅がそのまま使われる。
【００１８】
合成部４０は、逆ＦＦＴ部４１と、窓関数重ね合わせ部４２とを含んでいる。逆ＦＦＴ部４１は、タイムスケーリング部３０で合成された合成フレームＳＦｎに逆高速フーリエ変換（逆ＦＦＴ）を施して時間領域表現に変換する機能を有する。窓関数重ね合せ部４２は、得られた時間領域の出力オーディオ信号に窓関数を乗算すると共に、時間的に一部重複するように重ね合わせて外部に時間軸圧伸されたオーディオ信号として出力する部分である。
【００１９】
次に、この時間軸圧伸装置の作用を、図５に示すフローチャートに基づいて説明する。この時間軸圧伸装置に入力されるオーディオ信号は、まず窓関数乗算部１１に入力されて、窓関数と乗算される。これにより、入力オーディオ信号がフレーム単位で切り出される（Ｓ１）。このフレーム単位のオーディオ信号は、ＦＦＴ部１２において高速フーリエ変換（ＦＦＴ）されて、振幅データと位相データとを含むフレーム単位の周波数スペクトルデータが出力される（Ｓ２）。スペクトルピーク検出部１３は、ピーク検出アルゴリズムを使用して、ＦＦＴ部１２から出力された周波数スペクトルの振幅のエンベロープのローカルピークを検出し分析フレームＡＦｎとして出力する（Ｓ３）。聴覚心理特性評価部２０は、この検出されたローカルピークと、図示しないテーブルに記憶された聴覚心理特性曲線とを比較してローカルピークのデータを削減する（Ｓ４）。
【００２０】
続いて、フレーム調整部２５において、所望の圧伸率に応じたフレーム数となるように、分析フレームＡＦｎを単位として間引き、繰り返しが行われる（Ｓ５）。
次に、ピーク連携部３１において、隣接するフレームＡＦｎ−１、ＡＦｎにおいて検出されたローカルピークデータのうち、対応関係にあるピークを選択して互いに連携させる。すなわち、過去のフレームＡＦｎ−１のローカルピークｆ１、ｆ２、ｆ３・・・に対応するローカルピークが、現在のフレームＡＦｎにも存在するか否かをチェックし、存在する場合には、その対応するローカルピークｆ１´、ｆ２´、ｆ３´等をローカルピークｆ１、ｆ２、ｆ３等と連携させる（Ｓ６）。
【００２１】
次に、位相生成部３２において、過去の分析フレームＡＦｎ−１の連携されたローカルピーク（周波数ｆ）での位相位相ΦＡＦｎ−１、ｆと、連携された前後のローカルピークの周波数ｆ、ｆ´とに基づき、対応する合成フレームＳＦｎのローカルピークでの位相を求める（Ｓ７）。
【００２２】
こうして、合成フレームＳＦｎの振幅、位相データが求められると、これらのデータが逆ＦＦＴ部４１において逆高速フーリエ変換を施され、時間領域の信号に変換される。この時間領域に変換された各フレーム毎の信号が、窓関数乗算及重ね合せ部４２において重ね合わされ、時間軸圧伸されたオーディオ信号として出力される。
【００２３】
以上、実施の形態について説明したが、本発明はこれに限定されるものではなく、本発明の趣旨を逸脱しない範囲で様々な改変や追加が可能である。
例えば、分析部１０におけるピーク検出の手法はＦＦＴに限らず、その他の離散コサイン変換（ＤＣＴ）などの直交変換でもよく、切り出した各フレームのローカルピークが検出される手法であればよい。
また、上記実施の形態では、タイムスケーリング部３０での時間軸圧伸の処理で、振幅データは分析フレームＡＦｎのデータをそのまま合成フレームＡＦｎに用いることとしていたが、位相と同様に前後のフレームのデータの補間により求めるようにしてもよい。
【００２４】
【発明の効果】
以上説明したように、本発明に係るオーディオ信号の時間軸圧伸装置、方法及びプログラムによれば、周波数領域でデータ処理を行う場合にデータ処理量を削減し、オーディオ信号のリアルタイム処理が可能となる。
【図面の簡単な説明】
【図１】本発明の実施の形態に係るオーディオ信号の時間軸圧伸装置の全体構成を示すブロック図である。
【図２】聴覚心理特性評価部２０において、最小可聴限特性曲線を利用してデータ量の削減を行う手法を説明する概念図である。
【図３】聴覚心理特性評価部２０において、周波数マスキング特性曲線を利用してデータ量の削減を行う手法を説明する概念図である。
【図４】図１に示すピーク連携部３１の機能を説明するための概念図である。
【図５】図１に示す時間軸圧伸装置の作用を示すフローチャートである。
【符号の説明】
１０・・・分析部、　１１・・・窓関数乗算部、　１２・・・ＦＦＴ部、　１３・・・スペクトルピーク検出部、　２０・・・聴覚心理特性評価部、　２５・・・フレーム数調整部、　３０・・・タイムスケーリング部、　３１・・・ピーク連携部、　３２・・・位相生成部、　４０・・・合成部、　４１・・・逆ＦＦＴ部、　４２・・・窓関数重ね合せ部
【図１】
2004070240.tif 000003
【図２】
2004070240.tif 000004
【図３】
2004070240.tif 000005
【図４】
2004070240.tif 000006
【図５】
2004070240.tif 000007