(57)【特許請求の範囲】
【請求項１】
入力される音声信号に正弦波分析を施して、各フレームの正弦波成分を取得する正弦波取得手段と、
前記正弦波成分の基本波成分と各倍音成分との位相の関係を示す位相関係情報を前記各フレームに対応して取得する位相関係情報取得手段と、
前記正弦波取得手段により取得された正弦波成分に変換処理を施して、変換処理を施した正弦波成分を出力する変換手段と
を備え、
前記変換手段は、前記各フレームに対応して、前記出力する正弦波成分の基本波成分の位相を予め設定された態様で形成し、当該基本波成分の位相が予め設定された値となる時点において、当該正弦波成分の各倍音成分が前記位相関係取得手段により取得された位相関係情報に従った位相になるように、当該正弦波成分の各倍音成分の位相を形成する位相形成手段を有している
ことを特徴とする音声信号処理装置。
【請求項２】
前記位相関係情報取得手段は、前記正弦波取得手段により取得された正弦波成分の基本波成分の位相が前記予め設定された値となった時点における前記各倍音成分の位相の関係を示す位相関係情報を取得する
ことを特徴とする請求項１に記載の音声信号処理装置。
【請求項３】
前記位相関係情報取得手段は、予め設定された条件にしたがって擬似的な前記位相関係情報を生成する
ことを特徴とする請求項１に記載の音声信号処理装置。
【請求項４】
前記擬似的な位相関係情報は、前記正弦波取得手段により取得された正弦波成分の倍音成分の周波数に応じて決定される
ことを特徴とする請求項３に記載の音声信号処理装置。
【請求項５】
前記擬似的な位相関係情報は、倍音成分の周波数が所定周波数未満である場合には位相関係情報を固定値とし、倍音成分の周波数が前記所定周波数以上である場合には倍音成分の周波数を変数とする予め設定された関数により決定される
ことを特徴とする請求項４に記載の音声信号処理装置。
【請求項６】
前記擬似的な位相関係情報は、前記正弦波取得手段により取得された正弦波成分のエンベロープ形状に応じて決定される
ことを特徴とする請求項３に記載の音声信号処理装置。
【請求項７】
前記位相関係情報取得手段は、生成する前記擬似的な位相関係情報にゆらぎを付与する
ことを特徴とする請求項５または６に記載の音声信号処理装置。
【請求項８】
入力される音声信号に正弦波分析を施して、各フレームの正弦波成分を取得する正弦波取得ステップと、
前記正弦波成分の基本波成分と各倍音成分との位相の関係を示す位相関係情報を前記各フレームに対応して取得する位相関係情報取得ステップと、
前記正弦波取得ステップにより取得された正弦波成分に変換処理を施して、変換処理を施した正弦波成分を出力する変換ステップと
を備え、
前記変換ステップでは、前記各フレームに対応して、前記出力する正弦波成分の基本波成分の位相を予め設定された態様で形成し、当該基本波成分の位相が予め設定された値となる時点において、当該正弦波成分の各倍音成分が前記位相関係取得ステップにより取得された位相関係情報に従った位相になるように、当該正弦波成分の各倍音成分の位相を形成する
ことを特徴とする音声信号処理方法。
【請求項９】
前記位相関係情報取得ステップでは、前記正弦波取得ステップにより取得された正弦波成分の基本波成分の位相が前記予め設定された値となった時点における前記各倍音成分の位相の関係を示す位相関係情報を取得する
ことを特徴とする請求項８に記載の音声信号処理方法。
【請求項１０】
前記位相関係情報取得ステップは、予め設定された条件にしたがって擬似的な前記位相関係情報を生成する
ことを特徴とする請求項８に記載の音声信号処理方法。
【請求項１１】
前記擬似的な位相関係情報は、前記正弦波取得ステップにより取得された正弦波成分の倍音成分の周波数に応じて決定される
ことを特徴とする請求項１０に記載の音声信号処理方法。
【請求項１２】
前記擬似的な位相関係情報は、倍音成分の周波数が所定周波数未満である場合には位相関係情報を固定値とし、倍音成分の周波数が前記所定周波数以上である場合には倍音成分の周波数を変数とする予め設定された関数により決定される
ことを特徴とする請求項１１に記載の音声信号処理方法。
【請求項１３】
前記擬似的な位相関係情報は、前記正弦波取得ステップにより取得された正弦波成分のエンベロープ形状に応じて決定される
ことを特徴とする請求項１０に記載の音声信号処理方法。
【請求項１４】
前記位相関係情報取得ステップでは、生成する前記擬似的な位相関係情報にゆらぎを付与する
ことを特徴とする請求項１２または１３に記載の音声信号処理方法。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は、入力される音声信号に対して正弦波分析を行い正弦波成分を取得し、該正弦波成分に変換処理を行う音声信号処理装置、および音声信号処理方法に関する。
【０００２】
【従来の技術】
入力された音声の周波数特性などを変えて出力する音声変換装置が開発されており、このような音声変換装置を利用したカラオケ装置も開発されている。
【０００３】
上記のような音声変換装置としては、入力される音声信号に正弦波分析を行って複数の正弦波成分（基本波成分および倍音成分）と残差成分（主に無声音）を抽出し、抽出した各正弦波成分に周波数変換などの処理を施す。そして、変換処理後の新たな正弦波成分と残差成分を合成することにより、入力された音声信号の変換を行うものが開発されている。
【０００４】
【発明が解決しようとする課題】
ところで、上述したような各正弦波成分に変換処理を施す場合、基本波成分および倍音成分について、新たに振幅、周波数および位相を形成する必要がある。従って、変換処理の際には、正弦波分析により得られた各正弦波成分の全てについて、振幅、周波数および位相を示すデータを属性（attribute）データとして保持し、保持した属性データを用いて変換処理後の新たな各正弦波成分の振幅、周波数および位相を形成していた。
【０００５】
しかし、上述したように元の正弦波成分の位相を示すデータを用いて新たな正弦波成分の位相を形成する方法では、ピッチシフトやタイムストレッチ（時間伸張）などの変換処理を行った場合、位相の不連続が生じてしまい、これに起因して変換した出力音声の音質が劣化して自然さが損なわれてしまう。また、基本波成分と倍音成分の位相を連続するように形成した場合も、元の信号から取得した各成分間の位相関係が崩れてしまい、これに起因して音質が劣化して自然さが損なわれてしまう。
【０００６】
また、位相を示すデータを属性データとして保持せずに、新たな正弦波成分の位相を形成する方法も考えられている。この場合、各正弦波成分の周波数に関わらず、位相をランダムに生成したり、位相を任意の固定値とする方法があるが、この場合にも各正弦波成分間の位相に相関性がなく、音質が劣化して自然さが損なわれてしまう。
【０００７】
また、位相を示すデータを属性データとして保持せずに、新たな正弦波成分の位相を形成する方法としては、正弦波分析によって得られた周波数を示すデータから新たな正弦波成分の位相を形成する方法もある。しかしながら、この方法で位相を形成する場合には、入力される音声がインパルス的な音であったり、ピッチが低域な音である場合には、新たに生成した位相と元の位相との違いに起因して、聴取者は音の鮮明さや残響感の違いを感じてしまう。特に、低周波数領域においては、位相の人の知覚は顕著であり、低周波領域の音の場合には聴取者が感じる違和感が大きくなってしまう。
【０００８】
本発明は、上記の事情を考慮してなされたものであり、正弦波分析を行って抽出した複数の正弦波成分間の位相関係を保持したまま変換処理を行うことにより、より自然な変換処理音声を作り出すことが可能な音声信号処理装置、および音声信号処理方法を提供することを目的とする。
【０００９】
【課題を解決するための手段】
上記課題を解決するため、本発明の請求項１に記載の音声信号処理装置は、入力される音声信号に正弦波分析を施して、各フレームの正弦波成分を取得する正弦波取得手段と、前記正弦波成分の基本波成分と各倍音成分との位相の関係を示す位相関係情報を前記各フレームに対応して取得する位相関係情報取得手段と、前記正弦波取得手段により取得された正弦波成分に変換処理を施して、変換処理を施した正弦波成分を出力する変換手段とを備え、前記変換手段は、前記各フレームに対応して、前記出力する正弦波成分の基本波成分の位相を予め設定された態様で形成し、当該基本波成分の位相が予め設定された値となる時点において、当該正弦波成分の各倍音成分が前記位相関係取得手段により取得された位相関係情報に従った位相になるように、当該正弦波成分の各倍音成分の位相を形成する位相形成手段を有していることを特徴としている。
【００１０】
また、請求項２に記載の音声信号処理装置は、請求項１に記載の音声信号処理装置において、前記位相関係情報取得手段は、前記正弦波取得手段により取得された正弦波成分の基本波成分の位相が前記予め設定された値となった時点における前記各倍音成分の位相の関係を示す位相関係情報を取得することを特徴としている。
【００１１】
また、請求項３に記載の音声信号処理装置は、請求項１に記載の音声信号処理装置において、前記位相関係情報取得手段は、予め設定された条件にしたがって擬似的な前記位相関係情報を生成することを特徴としている。
【００１２】
また、請求項４に記載の音声信号処理装置は、請求項３に記載の音声信号処理装置において、前記擬似的な位相関係情報は、前記正弦波取得手段により取得された正弦波成分の倍音成分の周波数に応じて決定されることを特徴としている。
【００１３】
また、請求項５に記載の音声信号処理装置は、請求項４に記載の音声信号処理装置において、前記擬似的な位相関係情報は、倍音成分の周波数が所定周波数未満である場合には位相関係情報を固定値とし、倍音成分の周波数が前記所定周波数以上である場合には倍音成分の周波数を変数とする予め設定された関数により決定されることを特徴としている。
【００１４】
また、請求項６に記載の音声信号処理装置は、請求項３に記載の音声信号処理装置において、前記擬似的な位相関係情報は、前記正弦波取得手段により取得された正弦波成分のエンベロープ形状に応じて決定されることを特徴としている。
【００１５】
また、請求項７に記載の音声信号処理装置は、請求項５または６に記載の音声信号処理装置において、前記位相関係情報取得手段は、生成する前記擬似的な位相関係情報にゆらぎを付与することを特徴としている。
【００１６】
また、請求項８に記載の音声信号処理方法は、入力される音声信号に正弦波分析を施して、各フレームの正弦波成分を取得する正弦波取得ステップと、前記正弦波成分の基本波成分と各倍音成分との位相の関係を示す位相関係情報を前記各フレームに対応して取得する位相関係情報取得ステップと、前記正弦波取得ステップにより取得された正弦波成分に変換処理を施して、変換処理を施した正弦波成分を出力する変換ステップとを備え、前記変換ステップでは、前記各フレームに対応して、前記出力する正弦波成分の基本波成分の位相を予め設定された態様で形成し、当該基本波成分の位相が予め設定された値となる時点において、当該正弦波成分の各倍音成分が前記位相関係取得ステップにより取得された位相関係情報に従った位相になるように、当該正弦波成分の各倍音成分の位相を形成することを特徴としている。
【００１７】
また、請求項９に記載の音声信号処理方法は、請求項８に記載の音声信号処理方法において、前記位相関係情報取得ステップでは、前記正弦波取得ステップにより取得された正弦波成分の基本波成分の位相が前記予め設定された値となった時点における前記各倍音成分の位相の関係を示す位相関係情報を取得することを特徴としている。
【００１８】
また、請求項１０に記載の音声信号処理方法は、請求項８に記載の音声信号処理方法において、前記位相関係情報取得ステップは、予め設定された条件にしたがって擬似的な前記位相関係情報を生成することを特徴としている。
【００１９】
また、請求項１１に記載の音声信号処理方法は、請求項１０に記載の音声信号処理方法において、前記擬似的な位相関係情報は、前記正弦波取得ステップにより取得された正弦波成分の倍音成分の周波数に応じて決定されることを特徴としている。
【００２０】
また、請求項１２に記載の音声信号処理方法は、請求項１１に記載の音声信号処理方法において、前記擬似的な位相関係情報は、倍音成分の周波数が所定周波数未満である場合には位相関係情報を固定値とし、倍音成分の周波数が前記所定周波数以上である場合には倍音成分の周波数を変数とする予め設定された関数により決定されることを特徴としている。
【００２１】
また、請求項１３に記載の音声信号処理方法は、請求項１０に記載の音声信号処理方法において、前記擬似的な位相関係情報は、前記正弦波取得ステップにより取得された正弦波成分のエンベロープ形状に応じて決定されることを特徴としている。
【００２２】
また、請求項１４に記載の音声信号処理方法は、請求項１２または１３に記載の音声信号処理方法において、前記位相関係情報取得ステップでは、生成する前記擬似的な位相関係情報にゆらぎを付与することを特徴としている。
【００２３】
【発明の実施の形態】
以下、図面を参照して本発明の実施形態について説明する。
Ａ．第１実施形態
Ａ−１．構成
まず、図１は本発明の第１実施形態に係る音声信号処理装置の構成を示す。同図に示すように、この音声信号処理装置は、ＳＭＳ（Spectral Modeling Synthesis）分析部１００と、変換処理部１０１と、位相関係情報取得部１０２と、位相形成部１０３と、逆ＦＦＴ部１０４と、パラメータ設定部２５とを備えている。
【００２４】
ＳＭＳ分析部１００は、入力される音声信号をフレーム単位に区切り、フレーム単位に区切られた音声信号を出力する時間窓処理部１０と、時間窓処理部１０からのフレーム単位の音声信号に対して高速フーリエ変換（ＦＦＴ）処理を行い、周波数分析を行う周波数分析部１１とを有している。なお、本実施形態において、音声信号とは人の発する声を信号化したものに限らず、楽器の発生した楽音等を含んだ音全般を信号化したものをいう。
【００２５】
周波数分析部１１は、フレーム単位の音声信号に対してＦＦＴを行うことにより、その正弦波成分と残差成分を抽出する。正弦波成分とは、基本周波数および基本周波数の倍数にあたる周波数（倍音）の成分をいう。また、正弦波成分として抽出されるデータとしては、周波数を示す周波数情報ｆnと、振幅を示す振幅情報Ａnと、位相を示す位相情報Ψnとが含まれている。ここで、残差成分とは入力信号から正弦波成分を除いた成分であり、音声に含まれる無声成分を多く含んでいる。
【００２６】
ＳＭＳ分析部１００によって抽出された残差成分は、逆ＦＦＴ部１０４に出力され、正弦波成分は変換処理部１０１および位相関係情報取得部１０２に出力される。ここで、変換処理部１０１には正弦波成分のうち周波数情報ｆnおよび振幅情報Ａnが出力され、位相関係情報取得部１０２には位相情報Ψnが出力されるようになっている。
【００２７】
変換処理部１０１は、パラメータ設定部２５により設定されたパラメータ等に基づいて、ＳＭＳ分析部１００から供給される正弦波成分（位相情報Ψnを除く）に変換処理を行うものである。例えば、この音声信号処理装置がカラオケ装置に適用されている場合には、図２に示すような構成のものなどが用いられる。
【００２８】
図２において、符号１１０は分離部であり、周波数分析部１１が出力する周波数値Ｆ0〜Ｆnと振幅値Ａ0〜Ａnとを分離する。ピッチ検出部１１１は、分離部１１０から供給される周波数値に基づいて各フレーム毎のピッチを検出する。この場合のピッチ検出は、分離部１１０が出力する周波数値のうち最も低い値から所定数（例えば３個程度）の周波数値を選択し、それらの周波数値を所定の重み付けをした後に、それらの平均を算出してピッチＰＳとする。また、ピッチ検出部１１１は、ピッチを検出することができないフレームについては、ピッチ無しを示す信号を出力する。ピッチ無しのフレームとは、そのフレーム内の音声信号がほとんど無声音やノイズによって構成されている場合である。このようなフレームについては、周波数スペクトルが倍音構成とならないので、ピッチ無しと判定する。
【００２９】
次に、符号２０は音声を似せようとする対象（以下、ターゲットという）の情報が記憶されているターゲット情報記憶部である。ターゲット情報記憶部２０は、曲毎にターゲットの情報を記憶している。ターゲットの情報は、ターゲットの音声の音階的なピッチを抽出したピッチ情報ＰＴｏと、ピッチの揺らぎ成分ＰＴｆと、確定的な振幅成分（分離部１１０が出力する振幅値Ａ0、Ａ1、Ａ2……と同種の成分）とを有しており、これらの情報は、音階的ピッチ記憶部２１、ゆらぎピッチ記憶部２２および確定的振幅成分記憶部２３に各々記憶されている。
ターゲット情報記憶部２０は、カラオケ演奏に同期して、上述した各情報を読み出すようになっている。
【００３０】
次に、音階的ピッチ記憶部２１から読み出されたピッチ情報ＰＴｏは、割合制御部３０においてピッチＰＳと混合される。この場合の混合は、次の式に基づいて行われる。
(1.0-α)*PS+α*PTo
ここで、αは０から１までの値をとるパラメータであり、割合制御部３０から出力される信号は、α=0でピッチＰＳに等しくなり、α=1でピッチ情報ＰＴｏに等しくなる。また、パラメータαは、操作者がパラメータ設定部２５（図１参照）を操作することによって任意の値が設定される。パラメータ設定部２５においては、後述するパラメータβ、γも設定可能になっている。
【００３１】
次に、ピッチ正規化部１２は、分離部１１０から出力される各周波数値ｆ0〜ｆnをピッチＰＳで割り、周波数値を正規化する。正規化された各周波数値ｆ0／ＰＳ〜ｆn／ＰＳ（ディメンジョンは無名数）は、乗算部１５によって割合制御部からの信号と乗算され、そのディメンジョンは再び周波数となる。この場合、パラメータαの値により、マイク１から音声を入力している歌い手（以下、シンガーという）のピッチの影響が強くなるか、あるいは、ターゲットのピッチの影響が強くなるかが決定される。
【００３２】
割合制御部３１は、ゆらぎピッチ記憶部２２から出力される揺らぎ成分ＰＴｆにパラメータβ（０≦β≦１）を乗算部１４で乗算して出力する。この場合、揺らぎ成分ＰＴｆは、セントの単位でピッチ情報ＰＴｏに対する偏差を示している。従って、割合制御部３１においては、揺らぎ成分ＰＴｆを１２００（１オクターブは１２００セント）で除し、それに対し２のべきをとる演算を行う。すなわち、以下の演算を行う。
POW(2,(PTf*β/1200))
この演算結果と乗算部１５の出力信号が乗算され、さらに、乗算部１４の出力信号は、乗算部１７において、トランスポーズ制御部３２の出力信号と乗算される。トランスポーズ制御部３２は、移調を行う音程に応じた値を出力するものである。どの程度の移調を行うかは、任意に設定されるが、通常は、移調なしが設定されるか、あるいは、オクターブ単位の変化が指定される。オクターブ単位の変化が指定されるのは、ターゲットが男性でシンガーが女性（あるいはその逆）の場合のように、歌う音程にオクターブの差がある場合などのときである。
以上のようにして、ピッチ正規化部１２から出力された周波数値は、ターゲットのピッチ、揺らぎ成分が付与され、さらに、必要であればオクターブ変換が行われた後に出力される。
【００３３】
次に、符号１３は、振幅検出部であり、分離部１１０から供給される振幅値Ａ0、Ａ1、Ａ2……の平均値ＭＳをフレーム毎に検出する。振幅正規化部１６においては、振幅値Ａ0、Ａ1、Ａ2……をその平均値で割り、振幅値を正規化する。割合制御部１８においては、確定的振幅成分記憶部２３から読み出される確定的振幅成分ＡT0、ＡT1、ＡT2……（これらは正規化されている）と正規化された振幅値とを混合する。混合の度合いはパラメータγに従って行われる。確定的振幅成分ＡT0、ＡT1、ＡT2……をＡTn（ｎ＝１、２、３……）で表し、振幅正規化部１６から出力される振幅値をＡSn’（ｎ＝１、２、３……）で表すと、割合制御部１８の動作は次の演算で表される。
(1-γ)*ASn'+γ*ATn
γはパラメータ設定部２５（図１参照）において適宜設定されるパラメータであり、０から１までの値をとる。γが大きいほど、ターゲットの影響を強く受ける。音声信号の正弦波成分の振幅は、声質を決めるものであるから、γが大きいほどターゲットの声質に近くなる。
割合制御部１８の出力信号は、乗算部１９において、平均値ＭＳと乗算される。すなわち、正規化された信号から振幅を直接表す信号に変換される。
【００３４】
このようにして変換処理がなされた周波数情報ｆ”nおよび振幅情報Ａ”nが出力される。
【００３５】
図１に示す位相関係情報取得部１０２は、正弦波成分の基本周波数の位相Ψ0と、各倍音成分の位相Ψn（ｎは倍音の次数）との位相関係を示す位相関係情報を取得する。以下、このような位相関係情報を取得する方法について図３を参照しながら説明する。
【００３６】
まず、現在の時刻ｔNにおける基本周波数の位相ΨN0が最も手前で定数Ｃ（例えば、Ｃ＝π）となるように位相をシフトしたときの位相シフト時間ｔCNとすると、ｔCNは基本周波数ｆ0（現在のフレームのピッチ）、ΨN0および定数Ｃより、次式により表される。
【数１】
0004455701.tif 000002
各倍音成分の位相について、上記式で算出した位相シフト時間ｔCNを用いて次式のように表現することができる。
【数２】
0004455701.tif 000003
上記式において、ΨN’0＝Ｃである。このようにして、基本周波数と各倍音成分との位相の関係を示すΨN’nを各倍音成分の位相関係情報として位相関係情報取得部１０２が取得して保持する。従って、本実施形態においては、分析された位相ΨNnそのものを示す情報を保持しないようになっている。
【００３７】
図１に示す位相形成部１０３は、上述したように位相関係情報取得部１０２に取得された位相関係情報ΨN’nと、変換処理部１０１により変換処理がなされた後の周波数情報ｆ”nとに基づいて、変換処理後の位相を形成する。このような位相形成方法について図４を参照しながら説明する。
【００３８】
まず、ピッチの進行、基本周波数の進行、または元の信号の基本周波数と位相に基づく関数等により各フレームの基本周波数の位相ΨN”0が決定される。具体的に例示すると、フレーム処理を進めていく上で、無声音から有声音になったとき、もしくは無音から有声音になったとき（前フレームでピッチが検出されなかった場合）の基本周波数の位相Ψ”N0を定数Ｃとすれば、次フレーム（前フレームでピッチが検出された場合）の位相についてはこの位相（＝Ｃ）、基本周波数ｆ”n（あるいはピッチ）および１フレームの長さＴから変換処理後の基本周波数のΨN”0を決定することができる。以後同様に、前フレームでピッチが検出されなかった場合にはΨ”N0＝Ｃとし、前フレームでピッチが検出された場合には、次式により位相Ψ”N0を決定する。
Ψ”N0＝２πｆ”n＋Ψ”N-10
【００３９】
このように変換処理後の基本周波数の位相ΨN”0が決定されると、変換処理部１０１から供給される変換処理後の基本周波数ｆ”nを用いた次式により位相シフト時間ｔSNが決定される。
【数３】
0004455701.tif 000004
上記式により算出された位相シフト時間ｔSN、位相関係情報取得部１０２により取得された位相関係情報ΨN’n、および変換処理部１０１から供給される変換処理後の各倍音成分の周波数ｆ”nを用い、次の式により変換処理後の時刻ｔNにおける位相ΨN”nが表される。
【数４】
0004455701.tif 000005
これにより、位相形成部１０３は変換処理後の各倍音成分の位相を形成し、変換処理後の位相を示す位相情報ΨN”nを逆ＦＦＴ部１０４に出力する。
【００４０】
逆ＦＦＴ部１０４には、位相形成部１０３からの位相情報Ψ”nに加え、変換処理部１０１からの変換処理後の周波数情報ｆ”nおよび振幅情報Ａ”nと、ＳＭＳ分析部１００からの残差成分とが供給される。これらに逆ＦＦＴ処理を施し、正弦波成分と残差成分がＳＭＳ合成されて合成音声信号を出力する。
【００４１】
Ａ−２．動作
次に、上記構成の音声信号処理装置の動作について図５を参照しながら説明する。まず、音声信号が入力されると、入力音声信号にＳＭＳ分析部１００によりフレーム単位でＳＭＳ分析が施され、正弦波成分と残差成分が抽出される。ここで、正弦波成分として、周波数情報ｆn、振幅情報Ａnおよび位相情報Ψnが取得される（ステップＳａ１）。
【００４２】
そして、位相情報Ψnに基づいて、正弦波成分の基本周波数と各倍音成分の位相の関係を示す位相関係情報Ψ’nが取得される（ステップＳａ２）。また、周波数情報ｆnおよび振幅情報Ａnに対してはターゲット音声データと乗算されるといった変換処理がなされ（ステップＳａ３）、変換処理後の周波数情報ｆ”nおよび振幅情報Ａ”nが取得される。
【００４３】
そして、ステップＳａ２において取得された位相情報Ψ’nと、ステップＳａ３において変換された変換後の周波数ｆ”nとに基づいて、変換処理後の位相Ψ”nが形成される（ステップＳａ４）。このようにして変換処理後の正弦波成分（ｆ”n、Ａ”n、Ψ”n）と、ステップＳａ１において抽出された残差成分が合成されて合成出力信号が生成される（ステップＳａ５）。
【００４４】
このように本実施形態に係る音声信号処理装置によれば、音声信号に変換処理を行った場合にも、変換処理後の基本周波数と倍音成分の位相の関係を、元の信号にみられた位相関係を崩すことなく保持することができる。従って、変換処理後の音声信号に位相の不連続が生じることを低減でき、変換処理後に出力される音声をより自然な感じとすることができる。ピッチシフトやタイムストレッチなどの変換処理を行った場合にも、位相の不連続が生じず、変換後の音声の劣化（不自然さ）を抑制することができる。
【００４５】
Ｂ．第２実施形態
次に、本発明の第２実施形態に係る音声信号処理装置について説明する。なお、第２実施形態に係る音声信号処理装置は、位相関係情報取得部１０２による位相関係情報の取得方法が上記第１実施形態と異なる以外は、上記第１実施形態と同様の構成（図１参照）であるため、同様の部分についての説明を省略し、位相関係情報取得部１０２による位相関係情報の取得方法について図６を参照しながら説明する。
【００４６】
第２実施形態に係る音声信号処理装置では、位相関係情報取得部１０２がＳＭＳ分析により得られる位相情報Ψnを保持せず、また上記第１実施形態のようにＳＭＳ分析により得られた正弦波成分から位相関係情報Ψ’nを取得するのではなく、元の音声信号にみられた基本周波数と倍音成分の位相の関係を示す位相関係情報Ψ’nを擬似的に生成し、この擬似的な位相関係情報Ψ’ｎを用いて位相形成部１０３（図１参照）が変換後の位相Ψ”nを形成している。
【００４７】
このような擬似的な位相関係情報Ψ’nの生成方法について詳細に説明する。第２実施形態における位相関係情報取得部１０２は、図６に示すように、予め設定された境界周波数ｆb（例えば、２ｋＨｚ）未満の基本周波数または倍音成分と、境界周波数ｆb以上の倍音成分とで擬似的な位相関係情報Ψ’nの生成方法を使い分けている。
【００４８】
より具体的には、境界周波数ｆb未満の周波数を有する基本周波数および倍音成分については擬似位相関係情報Ψ’nを定数Ｃ（例えば、Ｃ＝π）とし、境界周波数ｆb以上の周波数の倍音成分については擬似位相関係情報Ψ’nを各倍音成分の周波数値ｆに応じて変化する所定の関数（例えば、Ｆ（f）＝０）で算出する。つまり、境界周波数ｆb未満の基本周波数および倍音成分については、擬似位相関係情報Ψ’n＝Ｃとし、境界周波数ｆb以上の倍音成分については、擬似位相関係情報Ψ’n＝Ｆ（f）とする。すなわち、位相関係情報取得部１０２は、次式を用いて擬似位相関係情報Ψ’nを取得する。
【数５】
0004455701.tif 000006
このようにして位相関係情報取得部１０２が取得した擬似位相関係情報Ψ’Nnを用いて、位相形成部１０３が変換処理後の位相ΨN”nを形成する方法について図７を参照しながら説明する。
【００４９】
まず、上記第１実施形態と同様に変換処理後の基本周波数の位相Ψ”N0（Ｎ番目のフレームの位相）が決定されると、この位相ΨN”0および変換処理後の基本周波数ｆ”0を用いた上記式（１）により、位相シフト時間ｔSNが決定される。
【００５０】
従って、変換処理後の各倍音成分の位相ΨN”nは、上記のように取得した擬似位相関係情報ΨN’nおよび変換処理後の周波数ｆ”nを用いて上記式（２）により表される。
【００５１】
上記式（２）において、変換処理後の周波数が境界周波数ｆb未満の倍音成分については擬似位相情報ΨN’n＝Ｃが用いられ、境界周波数ｆb以上の倍音成分については擬似位相情報ΨN’n＝Ｆ（f）が用いられる。このようにして変換処理後の各倍音成分の位相ΨN”nを形成することができる。
【００５２】
第２実施形態に係る音声信号処理装置では、上記第１実施形態と同様に音声信号に変換処理を行った場合にも、変換処理後の基本周波数と各倍音成分の位相関係を、元の信号にみられた位相関係を擬似的に保持することができる。従って、位相の不連続等に起因する合成出力後の音声の不自然さを低減することができる。また、擬似的な位相関係情報Ψ’nを用いて位相を形成しているので、保持する元の信号の正弦波成分のデータ量を少なくすることができる。
【００５３】
なお、上述したように生成する擬似位相関係情報Ψ’nをより自然なものとするために定数Ｃおよび関数Ｆ（f）にゆらぎを与えるようにしてもよい。具体的に例示すると、フレーム毎あるいは各倍音毎に乱数（Rand（−１≦Rand≦１）を発生する乱数発生手段を設け、定数ＣL（例えば、ＣL＝０．２５）および定数ＣR（例えば、ＣR＝０．１２５）を用いた次式によりΨ’nを算出するようにしてもよい。
Ｃ＝Ｃ＋ＣLπRand              if  ｆ＜ｆb
Ｆ（f）＝Ｆ（f）＋ＣRπRand    if  ｆ≧ｆb
このようにすれば、より自然な位相関係を示す擬似位相情報Ψ’nを取得することができ、合成出力後の音声により自然さをもたせることができる。
【００５４】
Ｃ．第３実施形態
次に、本発明の第３実施形態に係る音声信号処理装置について図８を参照しながら説明する。同図に示すように、第３実施形態に係る音声信号処理装置では、ＳＭＳ分析部１００による分析で取得した位相情報Ψnを保持せずに、正弦波成分として周波数情報ｆnおよび振幅情報Ａnを変換処理部１０１に出力している。
【００５５】
変換処理部１０１では、第１実施形態と同様に変換処理がなされて、変換処理後の周波数情報ｆ”nおよび振幅情報Ａ”nに加えて、正弦波分析によりスペクトラルシェープが取得され、このスペクトラルシェープが位相関係情報取得部１０２に供給されるようになっている。そして、位相関係情報取得部１０２では、供給されたスペクトラルシェープのエンベロープ形状に応じて、擬似的な位相関係情報Ψ’nを生成するようになっている。
【００５６】
第３実施形態における位相関係情報取得部１０２では、まず、変換処理部１０１から供給されるスペクトラルシェープ（図９参照）のピーク周波数Ｆ（1）、Ｆ（2）、Ｆ（3）、……を用い、次式により各ピーク周波数の強度Ｑ（1）、Ｑ（2）、Ｑ（3）、……を求めている。
【数６】
0004455701.tif 000007
上記式において、Ｆ（n）Uはスペクトラルシェープの高域ピーク減衰周波数であり、Ｆ（n）Lはスペクトラルシェープの低域ピーク減衰周波数である。
このように算出した各ピーク周波数の強度Ｑ（1）、Ｑ（2）、Ｑ（3）、……を用い、次式により各倍音の擬似位相関係情報Ψ’ｎを算出する。ここで、上記第１実施形態と同様に基本周波数の擬似位相関係情報Ψ’0は定数Ｃ（例えば、Ｃ＝π）である。
【数７】
0004455701.tif 000008
上記式において、Ｂは定数であり、Ｓ（n）は各倍音の擬似位相関係情報の基本周波数からのシフト量を示す。
【００５７】
第３実施形態では、各倍音成分の周波数値ｆがスペクトラルシェープのいずれのピーク周波数間（Ｆ（1）〜Ｆ（2）間やＦ（2）〜Ｆ（3）間など）の値であるかによって、それぞれ異なる擬似位相関係情報Ψ’nが生成されることになる。
【００５８】
このようにして各倍音成分の擬似位相関係情報Ψ’nが取得されると、上記第１および第２実施形態と同様に、この擬似位相関係情報Ψ’nと、変換処理後の周波数情報ｆ”nと、基本周波数の位相Ψ”0とを用いて、上記式（１）により位相シフト時間ｔSNが算出される。
【００５９】
従って、図１０に示す変換処理後の各倍音成分の位相ΨN”n（Ｎ番目のフレームの位相）は、上記のように取得した擬似位相関係情報Ψ’nおよび変換処理後の周波数ｆ”nを用いて上記式（２）により算出される。このようにして各倍音成分の位相ΨN”nを形成することができる。
【００６０】
第３実施形態に係る音声信号処理装置では、上記第１および第２実施形態と同様に音声信号に変換処理を行った場合にも、変換処理後の基本周波数と各倍音成分の位相関係を、元の信号にみられた位相関係を擬似的に保持することができる。従って、位相の不連続等に起因する合成出力後の音声の不自然さを低減することができる。また、擬似的な位相関係情報Ψ’nを用いて位相を形成しているので、保持する元の信号の正弦波成分のデータ量を少なくすることができる。
【００６１】
なお、第３実施形態においても、擬似位相関係情報Ψ’nをより自然なものとするために定数Ｃおよび定数Ｂにゆらぎを与えるようにしてもよい。具体的に例示すると、フレーム毎あるいは各倍音毎に乱数（Rand（−１≦Rand≦１）を発生する乱数発生手段を設け、定数ＣL（例えば、ＣL＝０．２５）および定数ＣR（例えば、ＣR＝０．１２５）を用いた次式によりΨ’nを算出するようにしてもよい。
Ｃ＝Ｃ＋ＣLπRand
Ｂ＝Ｂ＋ＣRπRand
このようにすれば、より自然な位相関係を示す擬似位相情報Ψ’nを取得することができ、合成出力後の音声により自然さをもたせることができる。
【００６２】
Ｄ．変形例
なお、本発明は、上述した様々な実施形態に限定されるものではなく、以下のような種々の変形が可能である。
【００６３】
（１）上述した各実施形態においては、変換処理部１０１により変換された変換後の周波数情報ｆ”nを用い、すなわちｆnから得られる周波数情報ｆ”nを用いて位相シフト時間ｔSNを算出するようにしていたが、変換処理部１０１において調和関係を有する完全倍音構造の倍音成分を生成するようにし、すなわちｆnから得られる周波数情報ｆ”n、を用いずに変換後の位相Ψ”nを算出するようにしてもよい。
【００６４】
完全倍音構造の各倍音の周波数ｆ”nは、平均ピッチAveragePitchを用いて次式により表される。
ｆ”n＝AveragePitch（n+1）
上記式において、AveragePitchは前フレームのピッチと現在のフレームのピッチとの平均値である（前フレームでピッチが得られなかった場合には、現在のフレームのピッチ）。
上記各実施形態において、変換後の倍音成分の位相Ψ”nを算出する際に用いたｆ”nに代えてAveragePitch（n+1）を用いれば、ｆnから得られる周波数情報ｆ”nを用いずに変換後の位相を形成することができる。このように完全倍音構造の倍音成分を生成すれば、ｆnから得られる周波数情報ｆ”nを用いず、つまり保持するデータ数を削減しても、位相Ψ”nを形成することができる。
【００６５】
（２）また、正弦波成分の抽出方法は、上述した実施形態で説明した方法に限らず、音声信号から正弦波成分を抽出できる方法であればよい。
【００６６】
（３）また、上述した実施形態においては、ＳＭＳ分析を行った後、位相関係情報取得部１０２が位相関係情報を取得し、この位相関係情報を用いて変換後の位相を形成するようにしていたが、分析した音声信号のエネルギーの集中度が高い場合には上記のような位相形成方法により生成した合成音声に不自然さを低減させる効果が生じないこともある。この点を考慮し、分析した音声信号のエネルギーの集中度を検知し、この検知結果に応じて上記位相形成方法を行うか否かを決定するようにしてもよい。
【００６７】
（４）また、変換処理部１０１が行う変換処理は、上記実施形態で説明したものに限らず、他の合成・変換等の処理であってもよい。
【００６８】
【発明の効果】
以上説明したように、本発明によれば、正弦波分析を行って抽出した複数の正弦波成分間の位相関係を保持したまま変換処理を行うことにより、より自然な変換処理音声を作り出すことが可能となる。
【図面の簡単な説明】
【図１】  本発明の第１実施形態に係る音声信号処理装置の構成を示すブロック図である。
【図２】  前記音声信号処理装置の構成要素である変換処理部の構成例を示すブロック図である。
【図３】  前記音声信号処理装置の構成要素である位相関係情報取得部による位相関係情報の取得方法を説明するための図である。
【図４】  前記音声信号処理装置の構成要素である位相形成部による位相形成方法を説明するための図である。
【図５】  前記音声信号処理装置の動作を説明するためのフローチャートである。
【図６】  本発明の第２実施形態に係る音声信号処理装置の構成要素である位相関係情報取得部による位相関係情報の取得方法を説明するための図である。
【図７】  前記第２実施形態に係る音声信号処理装置の構成要素である位相形成部による位相形成方法を説明するための図である。
【図８】  本発明の第３実施形態に係る音声信号処理装置の構成を示すブロック図である。
【図９】  前記第３実施形態に係る音声信号処理装置の構成要素である位相関係情報取得部による位相関係情報の取得方法を説明するための図である。
【図１０】  前記第３実施形態に係る音声信号処理装置の構成要素である位相形成部による位相形成方法を説明するための図である。
【符号の説明】
１０……時間窓処理部、１１……周波数分析部、１００……ＳＭＳ分析部、１０１……変換処理部、１０２……位相関係情報取得部、１０３……位相形成部、１０４……逆ＦＦＴ部
【図１】
0004455701.tif 000009
【図２】
0004455701.tif 000010
【図３】
0004455701.tif 000011
【図４】
0004455701.tif 000012
【図５】
0004455701.tif 000013
【図６】
0004455701.tif 000014
【図７】
0004455701.tif 000015
【図８】
0004455701.tif 000016
【図９】
0004455701.tif 000017
【図１０】
0004455701.tif 000018