(57)【要約】  記憶した音声データ（Ｄin）の一部を、その音声データの他の一部で補間した音声データ（Ｄc）を生成する音声波形補間装置である。このために、音声格納部（２）と、補間音声データ（Ｄc）を生成する補間波形生成部（３）と、音声データＤcによって一部が置換された音声データ（Ｄout）を出力する波形結合部（４）とを有し、さらに、上記の音声データの他の一部が、補間波形生成部（３）にて生成される補間音声データ（Ｄc）として適切か否かを判定し、適切な音声データを選択する補間波形設定機能部（５）を有する。
2008111158.tif 000002
【特許請求の範囲】
【請求項１】
音声データを記憶する音声格納部と、
前記音声データの一部を、該音声データの他の一部で補間した音声データを生成する補間波形生成部と、
前記音声格納部からの音声データと、その一部を代替する前記補間波形生成部からの補間音声データとを結合する波形結合部と、
前記音声データの一部が、前記補間波形生成部にて補間すべき補間音声データとして適切か否かを判定し、適切と判定された音声データを選択して、これを前記補間音声データとして設定する補間波形設定機能部と、
を有することを特徴とする音声波形補間装置。
【請求項２】
前記補間波形設定機能部は、
前記音声格納部からの前記音声データについてその振幅情報を分析する振幅情報分析手段と、
その分析結果に基づいて前記補間音声データとして適切か否かを判定する音声波形判定部とを含むことを特徴とする請求項１に記載の音声波形補間装置。
【請求項３】
前記振幅情報分析手段は、前記音声データの振幅値を計算して時間方向の振幅値を得る振幅値算出部と、その算出した振幅値を振幅情報として一旦記憶する振幅情報格納部とを有し、
前記音声波形判定部は、前記時間方向の振幅情報から特定される振幅包絡上の位置から前記補間音声データとして適切か否かを判定することを特徴とする請求項１に記載の音声波形補間装置。
【請求項４】
前記音声波形判定部は、代替の候補としての前記補間音声データの前記振幅包絡上における位置が、少なくとも、振幅極小位置かあるいは無声音区間の直前位置であると判定したときに、当該部分の音声データを前記補間音声データとして採用せず、当該部分の音声データ以外の位置での別の音声データか、あるいは背景雑音区間を探索することを特徴とする請求項３に記載の音声波形補間装置。
【請求項５】
前記音声波形判定部は、補間されるべき前記音声データにおいて時間軸上の前方に順次現れる前方音声データのいずれかおよび、補間されるべき前記音声データにおいて時間軸上の後方に順次現れる後方音声データのいずれか、の少なくとも一方を、前記代替の候補としての前記補間音声データとすることを特徴とする請求項４に記載の音声波形補間装置。
【請求項６】
前記音声格納部に記憶された前記音声データを有声部分と無声部分とに分類して判定する有声／無声判定部をさらに備え、判定された有声部分についてはその振幅最大値と振幅変動率を前記振幅算出部にて算出してその結果を前記振幅情報格納部に保持し、判定された無声部分についてはその振幅平均値を前記振幅算出部にて算出してその結果を前記振幅情報格納部に保持することを特徴とする請求項３に記載の音声波形補間装置。
【請求項７】
前記音声格納部に記憶された前記音声データと前記振幅情報格納部に格納された振幅情報とを元に、前記音声波形判定部において前記補間音声データとして適切か否かの判定をする際の振幅判定閾値を設定する判定閾値設定部をさらに備えることを特徴とする請求項３に記載の音声波形補間装置。
【請求項８】
話者識別部をさらに備え、前記振幅判定閾値を、識別された話者ごとに設定することを特徴とする請求項７に記載の音声波形補間装置。
【請求項９】
振幅使用範囲設定部をさらに備え、該振幅使用範囲設定部は、前記音声波形判定部において使用する前記振幅情報のうちのどの範囲を使用すべきかを設定することを特徴とする請求項６に記載の音声波形補間装置。
【請求項１０】
前記の振幅使用範囲は、時間の範囲として設定することを特徴とする請求項９に記載の音声波形補間装置。
【請求項１１】
前記の振幅使用範囲は、前記有声／無声判定部の判定結果を参照して、２つの無声音区間で挟まれた有声音区間を振幅の使用範囲として設定することを特徴とする請求項９に記載の音声波形補間装置。
【請求項１２】
前記の振幅使用範囲は、前記有声／無声判定部の判定結果を参照して、一呼気段落を振幅の使用範囲として設定することを特徴とする請求項９に記載の音声波形補間装置。
【請求項１３】
パケット通信システムに使用される音声波形補間装置であって、
逐次受信する各パケットのうち、正常に受信した各パケットが有する音声データを順次記憶する音声格納部と、
パケットの消失により前記音声データの一部に欠落を生じたとき、該欠落部を前記音声データの他の一部で補間した音声データを生成する補間波形生成部と、
前記音声格納部に格納された音声データと、その一部を代替する前記補間波形生成部からの補間音声データとを結合する波形結合部と、
前記音声データの一部が、前記補間波形生成部にて補間すべき補間音声データとして適切か否かを判定し、適切と判定された音声データを選択して、これを前記補間音声データとして設定する補間波形設定機能部と、
を有することを特徴とする音声波形補間装置。
【請求項１４】
音声編集／加工処理システムに使用される音声波形補間装置であって、
多数の音声素片を蓄積して保持する音声格納部と、
一連の音声データの一部を、前記音声素片の繰り返し使用により補間した音声データを生成する補間波形生成部と、
前記音声格納部に格納された音声データと、その一部を代替する前記補間波形生成部からの補間音声データとを結合する波形結合部と、
前記音声データの一部が、前記補間波形生成部にて補間すべき補間音声データとして適切か否かを判定し、適切と判定された音声データを選択して、これを前記補間音声データとして設定する補間波形設定機能部と、
を有することを特徴とする音声波形補間装置。
【請求項１５】
記憶した音声データの一部を、該音声データの他の一部で補間した音声データを生成する音声波形補間方法において、
前記音声データを記憶する第１ステップと、
前記音声データの一部が、前記の補間すべき補間音声データとして適切か否かを判定し、適切と判定された音声データを選択して、これを前記補間音声データとして設定する第２ステップと、
前記第１ステップで記憶した音声データと、前記第２ステップで設定された前記補間音声データとを結合する第３ステップと、
を有することを特徴とする音声波形補間方法。
【請求項１６】
前記第２ステップは、
前記第１ステップで記憶された前記音声データについてその振幅情報を分析する分析ステップと、
その分析結果に基づいて前記補間音声データとして適切か否かを判定する音声波形判定ステップを含むことを特徴とする請求項１５に記載の音声波形補間方法。
【請求項１７】
コンピュータに、記憶した音声データの一部を該音声データの他の一部で補間した音声データを生成させるようにした音声波形補間プログラムであって、
前記音声データを記憶する第１ステップと、
前記音声データの一部が、前記の補間すべき補間音声データとして適切か否かを判定し、適切と判定された音声データを選択して、これを前記補間音声データとして設定する第２ステップと、
前記第１ステップで記憶した音声データと、前記第２ステップで設定された前記補間音声データとを結合する第３ステップと、
を実行させることを特徴とする音声波形補間プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、音声波形の補間装置、例えばパケット通信システムにおいて音声パケットの伝送途中で消失した音声パケットに相当する音声波形を受信側において再生する場合に使用される音声波形補間装置に関する。また例えば、蓄積した音声素片のデータを編集あるいは加工して新たな音声データを生成するような音声編集／加工処理システムに使用可能な音声波形補間装置に関する。【０００２】
なお以下においては、前者の音声パケット通信システムを代表例として説明する。
【背景技術】
【０００３】
近年、インターネットの普及を背景に、ＩＰ（Internet Protocol）ネットワークを介して、音声データをパケット化した音声パケットを伝送する、いわゆるＶｏＩＰ（Voice over IP）通信システムが急速に普及しつつある。【０００４】
このようにＰＣＭデータをパケット単位で伝送するＩＰネットワークにおいては、受信すべき音声パケットの一部が消失したりあるいは欠落したりすると、当該音声パケットにより再生される音声の音声品質を劣化させる原因となる。このため、その音声パケットの消失等による音声品質の劣化を、ユーザに極力気付かせないようにする方法が従来より種々提案されている。【０００５】
この音声パケット消失隠蔽方法の一つとして、ＩＴＵ−Ｔ（International Telecommunication Union：国際電気通信連合）勧告Ｇ．７１１  Ａｐｐｅｎｄｉｘ  Ｉが既に知られている。このＧ．７１１  Ａｐｐｅｎｄｉｘ  Ｉにおいて規定されるパケット消失隠蔽方法においては、まず、音声の物理的特性の一つであるピッチ周期を、波形相関を用いることによって抽出する。そしてこの抽出したピッチパターンを、消失した音声パケットに相当する部分に対して繰り返して配置することによって、消失隠蔽信号を生成する。なお、連続して音声パケットの消失が生じるような場合には、その消失隠蔽信号を徐々に減衰させるようにする。【０００６】
さらにまたいくつかの消失音声の補間再生方法が提案されており、例えば、下記の〔特許文献１〕〜〔特許文献３〕がある。【０００７】
〔特許文献１〕においては、パケット消失前の、正常に受信した音声データから推定した、ピッチ周期の揺らぎと、パワー変動とを付与して消失隠蔽信号を生成する方式が開示されている。また、〔特許文献２〕においては、パケット消失前および消失後のパケットのうちの少なくとも一方を参照し、そのピッチ変動特性と、パワー変動特性とを利用して、音声消失区間のピッチ変動およびパワー変動を推定する。そしてこの推定した特性を用いることによって、音声消失区間の音声波形を再生する方式が開示されている。さらにまた、〔特許文献３〕においては、欠落以前に入力した音声パケットの信号との最適マッチング波形の算出を非規格化差分演算処理により行い、算出結果の最小値に基づいて、欠落以前に入力した音声パケットの信号から補間する補間信号を決定する方式が開示されている。【０００８】
【特許文献１】特開２００１−２２８８９６号公報
【特許文献２】ＷＯ２００４／０６８０９８号公報
【特許文献３】特開平２−４０６２号公報
【発明の開示】
【発明が解決しようとする課題】
【０００９】
上述した従来における消失音声の波形補間方法によれば、消失パケットの直前もしくは直後の波形を抜き出してそのピッチ周期を抽出し、そのピッチ波形を繰り返すことによって補間音声波形を生成している。この場合、その消失パケットの直前もしくは直後の波形が抜き出されるため、その抜き出した波形の如何に拘らず、全て同じようにピッチ波形の繰り返しが行われ、補間音声波形が生成される。【００１０】
上記の補間音声の波形の生成に用いる直前の波形が、例えば母音の中間付近のように、振幅が一定以上あって、かつ振幅変動も少ないような安定した波形であるならば、音質劣化がほとんどない音声波形の生成が可能である。しかし、例えば母音から子音にフォルマントが大きく変化する渡り部分や、呼気段落末等でパケット消失が生じたような場合には、上記の補間音声波形の生成に用いる波形が、自己相関度の高い周期性波形であっても、ブザー音のような再生音となり、音質劣化をひき起こす場合がある。これを図で示す。【００１１】
図１４は、送信音声波形（Ａ）と、その送信された音声波形（Ａ）のうち、音声パケットの消失による波形の欠落部分を補間した補間音声波形（Ｂ）を示す図である。本図の（Ａ）において、一連の音声波形のうち、パケット消失（パケットロス）があったために音声パケットに欠落が生じた部分をＰaとして示す。上述した従来の方法によれば、その欠落部分Ｐaの常に直前のパケットＰbを抜き出し、これを同図（Ｂ）に示すように、繰り返したパケットＰb′として、その欠落部分Ｐaに挿入配置している。【００１２】
このＰb′の波形は一見きれいな波形であるが、実際の音声として再生すると、ユーザにとって不快なブザー音となってしまう、という問題がある。【００１３】
したがって本発明は、上記問題点に鑑み、不快な再生音を生じさせない、音声波形補間装置を提供することを目的とするものである。【００１４】
また、そのための音声波形補間方法ならびに、コンピュータのための音声波形補間プログラムを提供することを目的とするものである。
【課題を解決するための手段】
【００１５】
本発明に基づく音声波形補間装置は、後に図を用いて説明するとおり、
（ｉ）音声データを記憶する音声格納部と、
（ii）前記音声データの一部を、該音声データの他の一部で補間した音声データを生成する補間波形生成部と、
（iii）前記音声格納部からの音声データと、その一部を代替する前記補間波形生成部からの補間音声データとを結合する波形結合部と、
（iv）前記音声データの一部が、前記補間波形生成部にて補間すべき補間音声データとして適切か否かを判定し、適切と判定された音声データを選択して、これを前記補間音声データとして設定する補間波形設定機能部と、
から構成する。このうち、本発明を最も特徴づけるのは、上記（iv）の補間波形設定機能部である。【００１６】
この補間波形設定機能部（iv）は、さらに具体的には、前記音声格納部からの前記音声データについてその振幅情報を分析する振幅情報分析手段と、その分析結果に基づいて前記補間音声データとして適切か否かを判定する音声波形判定部とを含んでなる。【００１７】
さらに詳細には、音声データの単位フレーム当たりの振幅情報を算出して、時間方向の振幅値から振幅包絡を求め、その振幅包絡を元にして波形補間に用いるべき近傍の波形の、振幅包絡上の位置を特定する。この特定した位置の振幅情報から、前述の繰り返しに適した波形か否かを上記音声波形判定部にて判定する。
【図面の簡単な説明】
【００１８】
【図１】図１は、本発明の基本構成を示す図である。
【図２】図２は、図１の基本構成をさらに具体的に示す図である。
【図３】図３は、図１４（Ａ）の波形と同様の波形（Ａ）と、波形（Ａ）を中間に含む長時間の音声波形（Ｂ）と、波形（Ｂ）の振幅値計算により得た振幅包絡（Ｃ）を示す図である。
【図４】図４は、パケット通信システムの音声波形補間装置の第１例を示す図である。
【図５】図５は、図１４（Ａ）の波形と同様の波形（Ａ）と、背景雑音区間により補間された音声波形（Ｂ）を示す図である。
【図６】図６は、図１４（Ａ）の波形と同様の波形（Ａ）と、後方音声データにより補間された音声波形（Ｂ）を示す図である。
【図７】図７は、音声波形補間装置の第２例を示す図である。
【図８】図８は、図７に示す音声波形補間装置の動作を示すフローチャートである。
【図９】図９は、図８に示すステップＳ１９をさらに詳細に示すフローチャートである。
【図１０】図１０は、音声波形補間装置の第３例を示す図である。
【図１１】図１１は、音声波形補間装置の第４例を示す図である。
【図１２】図１２は、図１４（Ａ）の波形を変形した一例（Ａ）と、前方音声データにより補間された音声波形（Ｂ）を示す図である。
【図１３】図１３は、図６および図１２に示すような波形補間を行うときの動作を表すフローチャートである。
【図１４】図１４は、送信音声波形（Ａ）と、その送信された音声波形（Ａ）のうち、音声パケットの消失による波形の欠落部分を補間した補間音声波形（Ｂ）を示す図である。
【符号の説明】
【００１９】
１    音声波形補間装置
２    音声格納部
３    補間波形生成部
４    波形結合部
５    補間波形設定機能部
６    振幅情報分析部
７    音声波形判定部
８    振幅値算出部
９    振幅情報格納部
１１    有声／無声判定部
１２    判定閾値判定部
１３    振幅使用範囲設定部
１４    話者識別部
１５    判定閾値格納部
１６    振幅使用範囲格納部
【発明を実施するための最良の形態】
【００２０】
図１は本発明の基本構成を示す図である。本図に示すとおり、本発明に係る音声波形補間装置１は、音声データＤinを記憶する音声格納部２と、音声データＤinの一部を、この音声データＤinの他の一部で補間した音声データＤcを生成する補間波形生成部３と、音声格納部２からの音声データＤinと、その一部を代替する補間波形生成部３からの補間音声データＤcとを結合して音声データＤoutとして出力する波形結合部４と、上記の音声データＤinの一部が、補間波形生成部３にて補間すべき補間音声データとして適切か否かを判定し、適切と判定された音声データを選択して、これを補間音声データＤcとして設定する補間波形設定機能部５と、からなる。【００２１】
ここに補間波形設定機能部５は、音声格納部２からの音声データＤinについてその振幅情報を分析する振幅情報分析手段６と、その分析結果に基づいて補間音声データＤcとして適切か否かを判定する音声波形判定部７とを含んでなる。【００２２】
図２は図１の基本構成をさらに具体的に示す図である。なお、全図を通じて同様の構成要素には同一の参照番号または記号を付して示す。【００２３】
図２においては、図１の振幅情報分析手段６を一層具体的に示す。すなわち、振幅情報分析手段６は、音声データＤinの振幅値を計算して時間方向の振幅値を得る振幅値算出部８と、その算出した振幅値を振幅情報として一旦記憶する振幅情報格納部９とを有してなる。この振幅値算出部８は、振幅包絡や、その振幅の最大値および最小値も算出する。【００２４】
ここに音声波形判定部７は、上記の時間方向の振幅情報から特定される振幅包絡上の位置から、補間音声データＤcとして適切か否かを判定する。なお、本図の右上に示すＳＷは、出力音声データＤoutとして、入力音声データＤinをそのまま通過させるか、または補間により得た波形結合部５からの補間音声データＤcを含む音声データを、択一的に切り換えるスイッチである。ここで本発明の原理を容易に理解するために図３を参照する。【００２５】
図３は、図１４（Ａ）と同様の波形（Ａ）と、波形（Ａ）を中間に含む長時間の音声波形（Ｂ）と、波形（Ｂ）の振幅値計算（８）により得た振幅包絡（Ｃ）を示す図である。本図（Ａ）のＰaの部分に音声パケットの消失が生じた場合に、その消失パケットの直前のパケットに相当する音声波形Ｐbが補間波形（Ｄc）として適切か否か、音声波形判定部７にて判定する。【００２６】
この音声波形判定部７での判定手法を説明するために図３の（Ｂ）および（Ｃ）を参照する。音声波形判定部７は、アナログ波形で表すと同図（Ｂ）のようになる入力音声データＤinを振幅情報分析部６にて分析した結果、すなわちアナログで示すと同図（Ｃ）のようになる振幅包絡ＥＶを入力として、補間波形として適切か否か、その補間波形としてのいくつかの候補について判定する。【００２７】
この場合、振幅包絡ＥＶ上のどの位置にその候補が位置しているか、をその判定基準とする。ここで本図（Ｃ）の振幅包絡ＥＶを分析すると、Ｐbの部分の音声波形は、振幅が局所的に小さくなった位置にあり、上記の補間波形の候補にはならない。また、Ｐc1の部分やＰc2の部分の各音声波形は、振幅包絡の極小値をとる位置にあり、上記の補間波形の候補にはならない。さらにまた、Ｐdの部分音声波形は、振幅包絡上の無声音区間Ｓの直前に位置しており、補間波形の候補にはならない。これらＰb，Ｐc1，Ｐc2，Ｐdのいずれかに位置する音声波形を補間波形として用いたとすると、例えば既述したブザー音のような音声が再生されてしまう。そこで本発明は、補間波形生成部３にて補間波形として使用しようとする図３（Ｃ）の振幅包絡（ＥＶ）上の波形として、これらＰb，Ｐc1，Ｐc2，Ｐd等に位置しない波形を選択することとする。【００２８】
上述した本発明の原理によって、音声編集／加工処理システムに使用される音声補間装置や、パケット通信システムに使用される音声波形補間装置が実現される。【００２９】
前者の音声編集／加工処理システムに使用される音声波形補間装置にあっては、
多数の音声素片を蓄積して保持する音声格納部２と、一連の音声データＤinの一部を、その音声素片の繰り返し使用により補間した音声データＤcを生成する補間波形生成部３と、音声格納部２に格納された音声データと、その一部を代替する補間波形生成部４からの補間音声データとを結合する波形結合部４と、音声データの一部が、補間波形生成部３にて補間すべき補間音声データとして適切か否かを判定し、適切と判定された音声データを選択して、これを補間音声データとして設定する補間波形設定機能部５と、から構成する。この音声波形補間装置を用いれば、例えば音声合成波形のラベリングにおける子音の音素境界の決定処理を行うときに、また音声合成時における音声素片の配置処理を行うときに、あるいは、話速変換処理を行う際、音声素片長が伸ばされる音声素片を決定するときに、該当の音素片が適切か否かを判定することができる。【００３０】
一方後者のパケット通信システムに使用される音声波形補間装置にあっては、
逐次受信する各パケットのうち、正常に受信した各パケットが有する音声データを順次記憶する音声格納部２と、パケットの消失（破棄又は遅延）により音声データＤinの一部に欠落を生じたとき、その欠落部を音声データＤinの他の一部で補間した音声データＤcを生成する補間波形生成部３と、音声格納部２に格納された音声データＤinと、その一部を代替する補間波形生成部３からの補間音声データＤcとを結合する波形結合部４と、音声データＤinの一部が、補間波形生成部３にて補間すべき補間音声データＤcとして適切か否かを判定し、適切と判定された音声データを選択して、これをその補間音声データとして設定する補間波形設定機能部５と、から構成する。【００３１】
図４は上記のパケット通信システムの音声波形補間装置の第１例を示す図である。本図において、参照記号“Ｆ”は、パケット通信ネットワークから音声パケットを正常受信しているときに活性化されるブロックを示し、一方、参照記号“Ｇ”は、パケット通信ネットワークからの一連の音声パケットの中に欠落した音声パケットがあることを検出したときに活性化されるブロックを示す。ただし、これらブロックＦおよびＧ内の構成は、図２に示した構成と同じである。【００３２】
本発明の主要部である補間波形設定機能部５は、振幅値算出部８と、振幅情報格納部９と、音声波形判定部７からなる。上記のパケット通信ネットワークにおけるパケット通信において、パケット正常受信区間では、入力音声データＤinは、音声格納部２に保存される。振幅値算出部８では、音声格納部２にある音声データＤinから、フレーム単位での振幅値を算出し、振幅包絡情報や、振幅最大値、振幅最小値等の振幅情報を算出する。振幅情報格納部９では、振幅値算出部８で算出した振幅情報を保存しておく。【００３３】
パケット消失（パケットロス）が発生した場合には、音声波形判定部７では、その消失したパケットの前方または後方の波形箇所が、音声格納部２から入力されると、その部分の振幅包絡（ＥＶ）上の位置を特定する。補間波形の候補とすべき波形が、振幅包絡（ＥＶ）上の極小位置、あるいは、無声音区間Ｓの直前部分Ｐdであるか否かの判定を行い、補間波形生成部３にその判定結果が通知される。【００３４】
補間波形生成部３では、その判定結果に従ってパケット消失した区間の波形を生成する。さらに波形結合部４では、正常受信された区間の音声波形と、補間波形生成部３で生成された補間区間の波形とを、これら波形のつながり部分が滑らかになるように結合して、出力音声データＤoutとする。【００３５】
かくして音声波形判定部７は、代替の候補としての補間音声データＤcの振幅包絡（ＥＶ）上における位置が、少なくとも、振幅極小位置Ｐc1，Ｐc2かあるいは無声音区間の直前位置Ｐdであると判定したときに、当該部分の音声データを補間音声データＤcとして採用せず、当該部分の音声データ以外の位置での別の音声データを探索するあるいは背景雑音区間を探索する（図５参照）。【００３６】
図５は図１４（Ａ）の波形と同様の波形（Ａ）と、背景雑音区間により、補間された音声波形（Ｂ）を示す図である。本図（Ｂ）の参照記号Ｐnがその背景雑音区間を示す。パケット消失区間（Ｐa）の直前区間が波形の繰り返しに不適当と判定された場合、その繰り返しによる波形生成は行わずに、これに代えて背景雑音データをパケット消失区間Ｐaに配置することもできる。この背景雑音区間の音声データは、音声格納部２に格納された音声データと、有声／無声の判定結果（図７の有声／無声判定部１１参照）とを利用して無声の雑音のみの音声データを取り出して使用するものである。なお、背景雑音データも時々刻々と変化するので、使用する区間は、できるだけ消失パケットＰaに近い音声データを使用するのが望ましい。【００３７】
さらにまた音声波形判定部７は、補間されるべき音声データＤinにおいて時間軸上の前方に順次現れる前方音声データのいずれかおよび、その補間されるべき音声データＤinにおいて時間軸上の後方に順次現れる後方音声データのいずれか、の少なくとも一方を、上述した代替の候補としての補間音声データＤcとする（図６参照）。【００３８】
図６は図１４（Ａ）の波形と同様の波形（Ａ）と、上記の後方音声データ（Ｐr）により補間された音声波形（Ｂ）を示す図である。本図の補間波形生成の例は、消失パケットの前方だけではなく、消失パケットの後方の音声データも判定して、補間波形を生成した例である。消失パケットの直前のパケットが繰り返しに不適切と判定され、一方消失パケットの直後のパケットが繰り返しに適すると判定された場合、その適すると判定された後方パケットの音声データを繰り返し配置することで、補間区間の波形Ｄcを生成する。ただし、後方音声データが利用できるのは、音声の若干の遅延が許容される場合である。【００３９】
なお、補間波形の生成方法は、当然、組み合わせることも可能で、波形の繰り返しによる補間波形に、雑音波形を重畳させたり、パケットの消失が連続して長く生じた場合に、消失パケット区間の前半と後半とに分けて波形生成の方法を変更することも可能である。【００４０】
図７は音声波形補間装置の第２例を示す図である。本図と図４（第１例）との相違は、有声／無声判定部１１が追加されたことである。すなわちこの第２例に基づく音声波形補間装置１は、音声格納部２に記憶された音声データＤinを有声部分と無声部分とに分類して判定する有声／無声判定部１１をさらに備え、判定された有声部分についてはその振幅最大値と振幅変動率を振幅算出部８にて算出してその結果を振幅情報格納部９に保持し、判定された無声部分についてはその振幅平均値を振幅算出部８にて算出してその結果を振幅情報格納部９に保持するようにする。さらに詳しくは、次のとおりである。【００４１】
入力音声データＤinは有声／無声判定部１１に入力されて、音声区間と無声区間に分類される。次段の振幅値算出部８では音声格納部２に格納された入力音声データＤinから、フレーム単位（例えば４msec）で音声の振幅値を算出する。この振幅値の時間方向の変化を表す振幅包絡（ＥＶ）の情報の他に、上記の有声／無声判定部１１で分類された結果を元に、有声区間における振幅の最大値と最小値、音声区間の平均振幅をそれぞれ算出する。そして振幅情報格納部９では、上記のように振幅値算出部８で算出した振幅情報と、有声／無声の判定結果とを保存しておく。【００４２】
パケットロス（消失）が発生した場合には、音声波形判定部７では、消失したパケットの前方（または後方）の波形箇所が音声格納部２から入力されると、その部分の振幅包絡（ＥＶ）上の位置を特定する。補間の候補とすべき波形が、振幅包絡（ＥＶ）上の極小位置であるか、あるいは、無声音区間Ｓの直前部分であるかの判定を行う。実際の音声波形を用いた説明は前述の図５を参照して行ったとおりである。【００４３】
上記の有声／無声判定部１１を導入すると、最大値、最小値、極小値の算出精度が向上するのみならず、振幅値算出部８での演算負荷が軽くなる、という利点が得られる。以下に、この有声／無声判定部１１を導入したときの動作フローを説明する。【００４４】
図８は図７に示す音声波形補間装置の動作を表すフローチャートである。本図において、
ステップＳ１１：パケットを正常受信したか否か判定する。
ステップＳ１２：上記の正常受信が行われると（ＹＥＳ）、その１パケットデータ（音声データ）を取り込み、
ステップＳ１３：その入力音声データＤinを音声格納部２に格納する。【００４５】
ステップＳ１４：さらに上記の有声／無声判定部１１は、音声データＤinについて有声部分と無声部分との分別処理を行い、
ステップＳ１５：その分別結果による判定を行う。【００４６】
ステップＳ１６：上記の判定により有声であると判定されると、音声データの振幅包絡（ＥＶ）と、その振幅の最大値とが算出され、
ステップＳ１７：一方、上記の判定により無声であると判定されると、その無声音声の振幅の平均値（すなわち、有声音声の振幅の最小値）が算出されて、
ステップＳ１８：これらの算出データが振幅情報格納部９に保持される。【００４７】
ステップＳ１９：上記の初期ステップＳ１１においてパケットの正常受信が行われなかった旨（パケット消失）の判定がなされると、ステップＳ１８で保持している振幅情報を元に上記音声波形判定部７による判定を行い、
ステップＳ２０：上述したとおりの、補間波形生成部３による補間音声データＤcの生成を行う。【００４８】
ステップＳ２１：さらに入力音声データＤinと補間音声データＤcとの滑らかな結合を波形結合部４にて行い、
ステップＳ２２：出力音声データＤoutを得る。ここで、上記のステップＳ１９についてさらに詳しく説明する。【００４９】
図９は図８のステップＳ１９をさらに詳細に示すフローチャートである。本図において、
ステップＳ３１：音声波形判定部７は、補間音声波形の候補としようとしている、振幅包絡ＥＶ（図３）上における位置での振幅変化率を調べる。この振幅変化率の小さいところには、補間波形としては不適切な箇所が含まれている。【００５０】
ステップＳ３２：しかし振幅変化率の小さい箇所の中から、以下の３段階の判定で補間波形として不適切な箇所の判定を行う。まず（振幅値−振幅最小値）＜無声音直前区間判定閾値ならば、即座に補間波形としては不適当とし、判定フラグをＯＦＦ（使用不可）とする。【００５１】
ステップＳ３３：上記の不等式の成立が「否」であれば、次に、（振幅値−振幅最小値）＜極小値判定閾値１の不等式が成立するか調べ、
ステップＳ３４：その不等式が成立すると（ＹＥＳ）、さらに（振幅最大値−振幅値）＜極小値判定閾値２の不等式が成立するか調べて、
ステップＳ３５：この不等式が成立すると（ＹＥＳ）、最終的に当該音声データの補間波形としての使用は不可とされる（判定フラグ＝ＯＦＦ）。要するに、前述の図３を参照すると、例えば本図中の振幅範囲“ＴＨ”内に入ったときは、使用不可とする。【００５２】
ステップＳ３６：したがって上記ステップＳ３１，Ｓ３３およびＳ３４の判定結果のいずれかが“ＮＯ”であれば、当該音声データは補間波形として使用が許可される（判定フラグ＝ＯＮ）。【００５３】
図１０は音声波形補間装置の第３例を示す図であり、
図１１は音声波形補間装置の第４例を示す図である。【００５４】
要約すればこれら第３例と第４例は、音声格納部２に記憶された音声データＤinと振幅情報格納部９に格納された振幅情報とを元に、音声波形判定部７において補間音声データＤcとして適切か否かの判定をする際の振幅判定閾値Ｔ１を設定する判定閾値設定部１２をさらに備える音声波形補間装置を示すと共に、
話者識別部１４をさらに備え、上記の振幅判定閾値Ｔ１を、識別された話者ごとに設定するようにした音声波形補間装置（図１１）を示し、また
振幅使用範囲設定部１３をさらに備え、この振幅使用範囲設定部１３は、音声波形判定部７において使用する振幅情報のうちのどの範囲を使用すべきかを設定するようにした音声波形補間装置（図１０、図１１）を示す。【００５５】
判定閾値設定部１２は、時々刻々と変化する音声データＤinに対応するために、音声波形判定を行う際の判定閾値Ｔ１を、音声格納部２の音声データと、振幅情報格納部９の振幅情報を元にして算出して、判定閾値格納部１５に格納する。なお、各種判定閾値の具体例を以下に示す。【００５６】
・呼気段落末判定閾値＝（無声音区間）振幅平均値×１．２
・極小値判定閾値１＝（有声音声区間）振幅最小値×１．２（図９のＳ３３参照）
・極小値判定閾値２＝（有声音声区間）振幅最大値×０．８（図９のＳ３４参照）【００５７】
一方、図１０と図１１の振幅使用範囲設定部１３では、音声波形判定部７で使用する振幅情報の使用範囲を設定する。振幅情報の使用範囲の設定の仕方としては、（ｉ）時間の範囲として設定したり、（ii）有声／無声判定部１１の判定結果を参照して、２つの無声音区間で挟まれた有声音区間を振幅の使用範囲として設定したり、（iii）有声／無声判定部１１の判定結果を参照して、一呼気段落を振幅の使用範囲として設定することが考えられる。【００５８】
上記（ｉ）〜（iii）をさらに詳しく説明すると、
（ｉ）例えばパケットロス消失前の３秒間といった時間を指定し、
（ii）有声／無声判定部１１の判定結果より、無声と無声とで挟まれた区間を振幅使用範囲に設定するが、無声は、背景雑音だけの区間だけでなく、摩擦音（例えば「サ行」の音の子音部分）や、破裂音（例えば「タ行」の音の子音部分）も含むものとし、
（iii）有声／無声判定部１１の判定結果より、一呼気段落すなわち一息でしゃべる範囲を振幅使用範囲に設定する。【００５９】
図１０および図１１の音声波形判定部７では、振幅情報格納部９の振幅情報、判定閾値格納部１５の判定閾値、振幅使用範囲格納部１６の振幅使用範囲を用いて、音声波形が繰り返して使用可能な音声波形か否かの判定を行う。【００６０】
また、振幅使用範囲格納部１６内に保持された振幅使用範囲内にある振幅情報を振幅情報格納部９から得て、振幅最小値、振幅最大値等を算出する。さらに、判定閾値格納部１５の判定閾値を用いて判定するが、このときの判定方法については、図９に示すフローチャートのとおりである。【００６１】
図１１の第４例における話者識別部１４は、音声格納部２の音声データＤinを元に、話者の識別を行う。話者の識別方法については、音声データをＦＦＴ（Fast Fourier Transform）によって周波数変換し、その平均周波数や、フォルマントを調べることによって識別することが可能である。話者によって、母音から子音に移行するときの振幅変化率は異なるし、極小値部分の子音の振幅平均値もまた異なるし、さらにまた振幅最大値と振幅最小値の差も異なる。そこで、判定閾値格納部１５には、話者別の閾値情報を格納するものとする。【００６２】
音声パケットの消失が生じた場合には、音声格納部２の音声データから話者識別を行い、音声波形判定部７では、判定閾値格納部１５内に保持された話者別の閾値情報を使用することにより、波形の判定を行うが、このとき話者別の閾値を用いることによって、判定性能をさらに向上させることができる。【００６３】
波形補間の方法は前述したとおり種々考えられる。例えば前述の図５や図６に示す方法であるが、さらにもう１つの態様を示しておく。【００６４】
図１２は図１４（Ａ）の波形を変形した一例（Ａ）と、前方音声データにより補間された音声波形（Ｂ）を示す図である。本図の波形生成の例は、消失パケットＰaの前方音声波形データのみを用いて、補間区間（Ｗ区間）の波形生成を行う例である。パケットロス区間（Ｐa）の直前区間（Ｕ区間）の音声波形が波形の繰り返し使用には不適当と判定された場合に、さらに前方パケット（Ｖ区間）の判を行い、その結果、波形繰り返し使用として適切と判定された場合には、Ｖ区間の波形をＷ区間に繰り返して配置し、さらにＵ区間の波形を続けて配置することによって、補間区間Ｗの波形ＰＶを生成する。【００６５】
さらに別の態様として、消失パケットの後方の音声波形データを用いる場合において、その消失パケット区間の直後の区間が波形の繰り返し使用に不適当と判定されたときには、さらにその後方のパケットの判定を行い、そこが繰り返し使用として適切と判定された場合には、まず繰り返し使用が適当とされた上記の区間の波形を一度だけ配置し、上記の後方パケットの波形を繰り返し使用してつなげることにより、補間区間Ｗの波形を生成することもできる。【００６６】
図１３は図６および図１２に示すような波形補間を行うときの動作を表すフローチャートである。本図において、
ステップＳ４１：補間波形設定機能部５において、判定の対象となる入力音声信号（Ｄin）を得る。【００６７】
ステップＳ４２：その入力音声信号をなすパケットは、消失パケットの前方パケットか後方パケットかを判定し、
ステップＳ４３：前方パケットであれば、その波形（図１２のＵ区間参照）について判定する。【００６８】
ステップＳ４４：その判定結果により、その前方パケットが補間区間での繰り返し使用に不適当とされると（ＮＯ）、
ステップＳ４５：さらに１つ前方のパケット（図１２のＶ区間）を判定の対象として、同様の操作を繰り返し、
ステップＳ４６：ステップＳ４４にて、補間区間での繰り返し使用として適切と判定されると（ＹＥＳ）、その適切とされた前方波形によりその補間区間での波形が生成される。また別の補間の仕方は次のとおりである。【００６９】
ステップＳ４７：上記ステップＳ４２において、入力音声信号をなすパケットが、消失パケットの前方パケットか後方パケットかを判定し、後方パケットであれば、その波形（図６のＰr参照）について判定する。【００７０】
ステップＳ４８：その判定結果により、その後方パケットが補間区間での繰り返し使用に不適当とされると（ＮＯ）、
ステップＳ４９：さらに１つ後方のパケットを判定の対象として、同様の操作を繰り返し、
ステップＳ５０：ステップＳ４８にて、補間区間での繰り返し使用として適切と判定されると（ＹＥＳ）、その適切とされた後方波形によりその補間区間での波形が生成される。【００７１】
以上詳述した本発明の音声波形補間装置は、方法のステップとして表現することもできる。すなわち、記憶した音声データＤinの一部を、該音声データの他の一部で補間した音声データを生成する音声波形補間方法であって、（ｉ）音声データＤinを記憶する第１ステップと、（ii）その音声データの一部が、補間すべき補間音声データＤcとして適切か否かを判定し、適切と判定された音声データを選択して、これを補間音声データＤcとして設定する第２ステップと、（iii）第１ステップ（ｉ）で記憶した音声データと、第２ステップ（ii）で設定された補間音声データＤcとを結合する第３ステップと、を有する音声波形補間方法である。【００７２】
さらに第２ステップ（ii）において、第１ステップ（ｉ）で記憶された音声データＤinについてその振幅情報を分析する分析ステップと、その分析結果に基づいて補間音声データＤcとして適切か否かを判定する音声波形判定ステップを含む音声波形補間方法である。【００７３】
また本発明は音声波形補間プログラムとしても表現でき、コンピュータに、記憶した音声データＤinの一部を該音声データの他の一部で補間した音声データを生成させるようにした音声波形補間プログラムであって、（ｉ）音声データＤinを記憶する第１ステップと、（ii）その音声データの一部が、補間すべき補間音声データＤcとして適切か否かを判定し、適切と判定された音声データを選択して、これを補間音声データＤcとして設定する第２ステップと、（iii）第１ステップ（ｉ）で記憶した音声データと、第２ステップ（ii）で設定された補間音声データとを結合する第３ステップと、を実行させる音声波形補間プログラムである。
【図１】
2008111158.tif 000003
【図２】
2008111158.tif 000004
【図３】
2008111158.tif 000005
【図４】
2008111158.tif 000006
【図５】
2008111158.tif 000007
【図６】
2008111158.tif 000008
【図７】
2008111158.tif 000009
【図８】
2008111158.tif 000010
【図９】
2008111158.tif 000011
【図１０】
2008111158.tif 000012
【図１１】
2008111158.tif 000013
【図１２】
2008111158.tif 000014
【図１３】
2008111158.tif 000015
【図１４】
2008111158.tif 000016
【手続補正書】
【提出日】平成21年3月19日(2009.3.19)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
音声データを記憶する音声格納部と、
前記音声データの一部を、該音声データの他の一部で補間した音声データを生成する補間波形生成部と、
前記音声格納部からの音声データと、その一部を代替する前記補間波形生成部からの補間音声データとを結合する波形結合部と、
前記音声データの一部が、前記補間波形生成部にて補間すべき補間音声データとして適切か否かを判定し、適切と判定された音声データを選択して、これを前記補間音声データとして設定する補間波形設定機能部と、
を有することを特徴とする音声波形補間装置。
【請求項２】
前記補間波形設定機能部は、
前記音声格納部からの前記音声データについてその振幅情報を分析する振幅情報分析手段と、
その分析結果に基づいて前記補間音声データとして適切か否かを判定する音声波形判定部とを含むことを特徴とする請求項１に記載の音声波形補間装置。
【請求項３】
前記振幅情報分析手段は、前記音声データの振幅値を計算して時間方向の振幅値を得る振幅値算出部と、その算出した振幅値を振幅情報として一旦記憶する振幅情報格納部とを有し、
前記音声波形判定部は、前記時間方向の振幅情報から特定される振幅包絡上の位置から前記補間音声データとして適切か否かを判定することを特徴とする請求項１に記載の音声波形補間装置。
【請求項４】
前記音声波形判定部は、代替の候補としての前記補間音声データの前記振幅包絡上における位置が、少なくとも、振幅極小位置かあるいは無声音区間の直前位置であると判定したときに、当該部分の音声データを前記補間音声データとして採用せず、当該部分の音声データ以外の位置での別の音声データか、あるいは背景雑音区間を探索することを特徴とする請求項３に記載の音声波形補間装置。
【請求項５】
前記音声格納部に記憶された前記音声データを有声部分と無声部分とに分類して判定する有声／無声判定部をさらに備え、判定された有声部分についてはその振幅最大値と振幅変動率を前記振幅算出部にて算出してその結果を前記振幅情報格納部に保持し、判定された無声部分についてはその振幅平均値を前記振幅算出部にて算出してその結果を前記振幅情報格納部に保持することを特徴とする請求項３に記載の音声波形補間装置。
【請求項６】
パケット通信システムに使用される音声波形補間装置であって、
逐次受信する各パケットのうち、正常に受信した各パケットが有する音声データを順次記憶する音声格納部と、
パケットの消失により前記音声データの一部に欠落を生じたとき、該欠落部を前記音声データの他の一部で補間した音声データを生成する補間波形生成部と、
前記音声格納部に格納された音声データと、その一部を代替する前記補間波形生成部からの補間音声データとを結合する波形結合部と、
前記音声データの一部が、前記補間波形生成部にて補間すべき補間音声データとして適切か否かを判定し、適切と判定された音声データを選択して、これを前記補間音声データとして設定する補間波形設定機能部と、
を有することを特徴とする音声波形補間装置。
【請求項７】
音声編集／加工処理システムに使用される音声波形補間装置であって、
多数の音声素片を蓄積して保持する音声格納部と、
一連の音声データの一部を、前記音声素片の繰り返し使用により補間した音声データを生成する補間波形生成部と、
前記音声格納部に格納された音声データと、その一部を代替する前記補間波形生成部からの補間音声データとを結合する波形結合部と、
前記音声データの一部が、前記補間波形生成部にて補間すべき補間音声データとして適切か否かを判定し、適切と判定された音声データを選択して、これを前記補間音声データとして設定する補間波形設定機能部と、
を有することを特徴とする音声波形補間装置。
【請求項８】
記憶した音声データの一部を、該音声データの他の一部で補間した音声データを生成する音声波形補間方法において、
前記音声データを記憶する第１ステップと、
前記音声データの一部が、前記の補間すべき補間音声データとして適切か否かを判定し、適切と判定された音声データを選択して、これを前記補間音声データとして設定する第２ステップと、
前記第１ステップで記憶した音声データと、前記第２ステップで設定された前記補間音声データとを結合する第３ステップと、
を有することを特徴とする音声波形補間方法。
【請求項９】
前記第２ステップは、
前記第１ステップで記憶された前記音声データについてその振幅情報を分析する分析ステップと、
その分析結果に基づいて前記補間音声データとして適切か否かを判定する音声波形判定ステップを含むことを特徴とする請求項８に記載の音声波形補間方法。
【請求項１０】
コンピュータに、記憶した音声データの一部を該音声データの他の一部で補間した音声データを生成させるようにした音声波形補間プログラムであって、
前記音声データを記憶する第１ステップと、
前記音声データの一部が、前記の補間すべき補間音声データとして適切か否かを判定し、適切と判定された音声データを選択して、これを前記補間音声データとして設定する第２ステップと、
前記第１ステップで記憶した音声データと、前記第２ステップで設定された前記補間音声データとを結合する第３ステップと、
を実行させることを特徴とする音声波形補間プログラム。
【国際調査報告】
2008111158.tif 000017
2008111158.tif 000018
2008111158.tif 000019
2008111158.tif 000020