(57)【特許請求の範囲】
【請求項１】
時系列の強度信号として与えられる音響信号を符号化する装置であって、
符号化対象となる音響信号をデジタルの音響データとして入力する音響データ入力手段と、
前記音響データを符号列に変換する符号化処理を行う符号化処理手段と、
前記符号化処理に用いるパラメータを設定するパラメータ設定手段と、
前記符号化処理によって得られた符号列を出力する符号列出力手段と、
を備え、前記パラメータ設定手段は、互いに時間的密度が異なる符号化が行われるように複数通りのパラメータを設定する機能を有し、前記符号化処理手段は、同一の音響データに対して前記複数通りのパラメータを用いることにより、互いに時間的密度が異なる複数通りの符号列を生成し、前記符号列出力手段は、同一の音響データについて生成された複数通りの符号列を１組のデータとして出力することを特徴とする音響信号の符号化装置。
【請求項２】
請求項１に記載の音響信号の符号化装置において、
符号化処理手段が、音響データの時間軸上に複数の単位区間を設定し、個々の単位区間に所属する音響データを１つの符号に置換することにより符号化処理を行うことを特徴とする音響信号の符号化装置。
【請求項３】
請求項２に記載の音響信号の符号化装置において、
符号化処理手段が、１つの単位区間に所属する音響データの周波数分布が所定の許容範囲内に入るように個々の単位区間を設定する機能を有し、
パラメータ設定手段が、前記許容範囲を定めるパラメータを複数通り設定する機能を有することを特徴とする音響信号の符号化装置。
【請求項４】
請求項２に記載の音響信号の符号化装置において、
符号化処理手段が、１つの単位区間に所属する音響データの強度分布が所定の許容範囲内に入るように個々の単位区間を設定する機能を有し、
パラメータ設定手段が、前記許容範囲を定めるパラメータを複数通り設定する機能を有することを特徴とする音響信号の符号化装置。
【請求項５】
請求項２に記載の音響信号の符号化装置において、
符号化処理手段が、強度が所定の許容値未満の音響データを除外して個々の単位区間を設定する機能を有し、
パラメータ設定手段が、前記許容値を定めるパラメータを複数通り設定する機能を有することを特徴とする音響信号の符号化装置。
【請求項６】
請求項２に記載の音響信号の符号化装置において、
符号化処理手段が、個々の単位区間の区間長が所定の許容値以上となるように個々の単位区間を設定する機能を有し、
パラメータ設定手段が、前記許容値を定めるパラメータを複数通り設定する機能を有することを特徴とする音響信号の符号化装置。
【請求項７】
請求項１〜６のいずれかに記載の音響信号の符号化装置において、
符号化処理手段が、各単位区間内の音響データの周波数に基いてノートナンバーを定め、各単位区間内の音響データの強度に基いてベロシティーを定め、各単位区間の長さに基いてデルタタイムを定め、１つの単位区間の音響データを、ノートナンバー、ベロシティー、デルタタイムで表現されるＭＩＤＩ形式の符号に変換する機能を有し、
符号列出力手段が、同一の音響データについて生成された複数通りの符号列を、それぞれ異なるトラックに収録し、１組のＭＩＤＩデータとして出力することを特徴とする音響信号の符号化装置。
【請求項８】
請求項７に記載の音響信号の符号化装置において、
パラメータ設定手段が、楽譜表示用の符号列を生成するのに適した表示用パラメータと、音源再生用の符号列を生成するのに適した再生用パラメータと、を設定する機能を有し、
符号列出力手段が、前記表示用パラメータを用いて生成された符号列を、１つまたは複数の楽譜表示用トラックに収録し、前記再生用パラメータを用いて生成された符号列を、１つまたは複数の音源再生用トラックに収録して出力することを特徴とする音響信号の符号化装置。
【請求項９】
請求項８に記載の音響信号の符号化装置において、
各トラックごとに、音の再生を行うか否かを示す制御符号を付加することを特徴とする音響信号の符号化装置。
【請求項１０】
請求項８に記載の音響信号の符号化装置において、
符号列出力手段が、楽譜表示用トラックに収録された符号列と音源再生用トラックに収録された符号列とを同一の時間軸上で比較し、音源再生用トラックに収録された符号列によってのみ表現されている音楽的特徴を認識し、この音楽的特徴を示す符号を、楽譜表示用トラックに収録された符号列の対応箇所に付加する処理を行うことを特徴とする音響信号の符号化装置。
【請求項１１】
同一の音響データに対して、互いに時間的密度が異なる符号化を施すことにより生成された複数の符号列から構成される符号データについて、所定の編集を施すための符号データの編集装置であって、
複数の符号列のうちの１つを編集対象符号列、残りの符号列を非編集対象符号列として特定する機能と、
オペレータの指示に基いて、前記編集対象符号列の編集箇所に対して所定の編集を施す機能と、
時間軸上において前記編集箇所に対応する前記非編集対象符号列上の箇所を、対応箇所として求め、この対応箇所に対して、前記編集箇所に対して行われた編集と同等の編集を施す自動編集機能と、
を備えることを特徴とする符号データの編集装置。
【請求項１２】
請求項１１に記載の符号データの編集装置において、
編集対象符号列の編集箇所内の符号に対して、削除、移動、複写、音程の変更、テンポの変更、の中の少なくとも１つの編集処理を行う機能を有し、非編集対象符号列上の対応箇所に対して、同等の編集処理が行われるように構成したことを特徴とする符号データの編集装置。
【請求項１３】
請求項１〜１２のいずれかに記載の音響信号の符号化装置または符号データの編集装置としてコンピュータを機能させるためのプログラムを記録したコンピュータ読取り可能な記録媒体。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は音響信号の符号化装置および符号データの編集装置に関し、時系列の強度信号として与えられる音響信号を符号化し、これを編集する技術に関する。特に、本発明は任意の音響信号をＭＩＤＩ形式の符号データに変換する処理に適しており、ラジオ・テレビなどの放送メディア、ＣＳ映像・音声配信・インターネット配信などの通信メディア、ＣＤ・ＭＤ・カセット・ビデオ・ＬＤ・ＣＤ−ＲＯＭ・ゲームカセットなどで提供されるパッケージメディアなどを介して提供する各種オーディオコンテンツの制作分野への利用が予想される。
【０００２】
【従来の技術】
音響信号を符号化する技術として、ＰＣＭ（Pulse Code Modulation ）の手法は最も普及している手法であり、現在、オーディオＣＤやＤＡＴなどの記録方式として広く利用されている。このＰＣＭの手法の基本原理は、アナログ音響信号を所定のサンプリング周波数でサンプリングし、各サンプリング時の信号強度を量子化してデジタルデータとして表現する点にあり、サンプリング周波数や量子化ビット数を高くすればするほど、原音を忠実に再生することが可能になる。ただ、サンプリング周波数や量子化ビット数を高くすればするほど、必要な情報量も増えることになる。そこで、できるだけ情報量を低減するための手法として、信号の変化差分のみを符号化するＡＤＰＣＭ（Adaptive Differential Pulse Code Modulation ）の手法も用いられている。
【０００３】
一方、電子楽器による楽器音を符号化しようという発想から生まれたＭＩＤＩ（Musical Instrument Digital Interface）規格も、パーソナルコンピュータの普及とともに盛んに利用されるようになってきている。このＭＩＤＩ規格による符号データ（以下、ＭＩＤＩデータという）は、基本的には、楽器のどの鍵盤キーを、どの程度の強さで弾いたか、という楽器演奏の操作を記述したデータであり、このＭＩＤＩデータ自身には、実際の音の波形は含まれていない。そのため、実際の音を再生する場合には、楽器音の波形を記憶したＭＩＤＩ音源が別途必要になる。しかしながら、上述したＰＣＭの手法で音を記録する場合に比べて、情報量が極めて少なくてすむという特徴を有し、その符号化効率の高さが注目を集めている。このＭＩＤＩ規格による符号化および復号化の技術は、現在、パーソナルコンピュータを用いて楽器演奏、楽器練習、作曲などを行うソフトウエアに広く採り入れられており、カラオケ、ゲームの効果音といった分野でも広く利用されている。
【０００４】
上述したように、ＰＣＭの手法により音響信号を符号化する場合、十分な音質を確保しようとすれば情報量が膨大になり、データ処理の負担が重くならざるを得ない。したがって、通常は、ある程度の情報量に抑えるため、ある程度の音質に妥協せざるを得ない。もちろん、ＭＩＤＩ規格による符号化の手法を採れば、非常に少ない情報量で十分な音質をもった音の再生が可能であるが、上述したように、ＭＩＤＩ規格そのものが、もともと楽器演奏の操作を符号化するためのものであるため、広く一般音響への適用を行うことはできない。別言すれば、ＭＩＤＩデータを作成するためには、実際に楽器を演奏するか、あるいは、楽譜の情報を用意する必要がある。
【０００５】
このように、従来用いられているＰＣＭの手法にしても、ＭＩＤＩの手法にしても、それぞれ音響信号の符号化方法としては一長一短があり、一般の音響信号について、少ない情報量で十分な音質を確保することはできない。ところが、一般の音響信号についても効率的な符号化を行いたいという要望は、益々強くなってきている。そこで、特開平１０−２４７０９９号公報や特願平９−２７３９４９号明細書には、任意の音響信号を効率的に符号化するための新規な符号化方法が提案されている。これらの符号化方法を用いれば、任意の音響信号に基いてＭＩＤＩデータを作成することができ、所定の音源を用いてこれを再生することができる。
【０００６】
【発明が解決しようとする課題】
上述した新規な符号化方法を利用すれば、任意の音響信号を符号化することが可能であるが、得られた符号列は必ずしも広範な用途に適したものにはならない。たとえば、もとの音響信号をできるだけ忠実に再生するという音源再生用途に利用するためには、できるだけ時間的密度の高い符号列を得るようにし、単位時間あたりの符号数を多くとる必要がある。特に、楽器演奏音におけるビブラートやトリラーといった音程が激しく変化する部分を忠実に再現するためには、もとの音響信号をできるだけ細分化して符号に置き換える必要がある。また、音量の小さな信号についても無視することなく忠実に符号化する必要がある。このため、全体的に非常に長い符号列が得られることになる。
【０００７】
ところが、このような音源再生用に適した符号列は、楽譜表示という閲覧を目的とした用途には不適当である。細分化された符号をそのまま音符として楽譜上に羅列すると、非常に多数の音符が五線譜上にぎっしりと詰まった状態になり、視認性は極めて低下せざるを得ない。実際、楽譜上でビブラートを表現する場合、細かな音符の羅列による表現は行われておらず、通常の音符の上に「vibrato 」なるコメント文を付加するのが一般的である。また、音量の小さな信号については、これを敢えて符号化せずに無視した方が、楽譜表示という用途に用いる場合には適している。このように、楽譜表示用の符号列は、できるだけ簡素化されている方が好ましく、その時間的密度は低い方が好ましい。
【０００８】
結局、音源再生用に作成した符号列は楽譜表示用には不適当になり、逆に、楽譜表示用に作成した符号列は音源再生用には不適当になる。しかしながら、現実的には、楽器音などの音響信号に対しては、できるだけ忠実に再生を行いたいという要求とともに、楽譜としても確認したいという要求がなされるため、広範な用途に利用可能な符号化手法が望まれている。また、符号化された符号データに対しては、必要に応じて編集が行えると便利である。
【０００９】
そこで本発明は、広範な用途に利用可能な符号化が可能な音響信号の符号化装置を提供することを目的とし、また、符号化された符号データに対して効率的な編集を行うことが可能な符号データの編集装置を提供することを目的とする。
【００１０】
【課題を解決するための手段】
(1)   本発明の第１の態様は、時系列の強度信号として与えられる音響信号を符号化する音響信号の符号化装置において、
符号化対象となる音響信号をデジタルの音響データとして入力する音響データ入力手段と、
音響データを符号列に変換する符号化処理を行う符号化処理手段と、
符号化処理に用いるパラメータを設定するパラメータ設定手段と、
符号化処理によって得られた符号列を出力する符号列出力手段と、
を設け、パラメータ設定手段が、互いに時間的密度が異なる符号化が行われるように複数通りのパラメータを設定できるようにし、符号化処理手段が、同一の音響データに対して複数通りのパラメータを用いることにより、互いに時間的密度が異なる複数通りの符号列を生成できるようにし、符号列出力手段が、同一の音響データについて生成された複数通りの符号列を１組のデータとして出力することができるようにしたものである。
【００１１】
(2)   本発明の第２の態様は、上述の第１の態様に係る音響信号の符号化装置において、
符号化処理手段が、音響データの時間軸上に複数の単位区間を設定し、個々の単位区間に所属する音響データを１つの符号に置換することにより符号化処理を行うようにしたものである。
【００１２】
(3)   本発明の第３の態様は、上述の第２の態様に係る音響信号の符号化装置において、
符号化処理手段が、１つの単位区間に所属する音響データの周波数分布が所定の許容範囲内に入るように個々の単位区間を設定する機能を有し、
パラメータ設定手段が、許容範囲を定めるパラメータを複数通り設定する機能を有するようにしたものである。
【００１３】
(4)   本発明の第４の態様は、上述の第２の態様に係る音響信号の符号化装置において、
符号化処理手段が、１つの単位区間に所属する音響データの強度分布が所定の許容範囲内に入るように個々の単位区間を設定する機能を有し、
パラメータ設定手段が、許容範囲を定めるパラメータを複数通り設定する機能を有するようにしたものである。
【００１４】
(5)   本発明の第５の態様は、上述の第２の態様に係る音響信号の符号化装置において、
符号化処理手段が、強度が所定の許容値未満の音響データを除外して個々の単位区間を設定する機能を有し、
パラメータ設定手段が、この許容値を定めるパラメータを複数通り設定する機能を有するようにしたものである。
【００１５】
(6)   本発明の第６の態様は、上述の第２の態様に係る音響信号の符号化装置において、
符号化処理手段が、個々の単位区間の区間長が所定の許容値以上となるように個々の単位区間を設定する機能を有し、
パラメータ設定手段が、この許容値を定めるパラメータを複数通り設定する機能を有するようにしたものである。
【００１６】
(7)   本発明の第７の態様は、上述の第１〜第６の態様に係る音響信号の符号化装置において、
符号化処理手段が、各単位区間内の音響データの周波数に基いてノートナンバーを定め、各単位区間内の音響データの強度に基いてベロシティーを定め、各単位区間の長さに基いてデルタタイムを定め、１つの単位区間の音響データを、ノートナンバー、ベロシティー、デルタタイムで表現されるＭＩＤＩ形式の符号に変換する機能を有し、
符号列出力手段が、同一の音響データについて生成された複数通りの符号列を、それぞれ異なるトラックに収録し、１組のＭＩＤＩデータとして出力するようにしたものである。
【００１７】
(8)   本発明の第８の態様は、上述の第７の態様に係る音響信号の符号化装置において、
パラメータ設定手段が、楽譜表示用の符号列を生成するのに適した表示用パラメータと、音源再生用の符号列を生成するのに適した再生用パラメータと、を設定する機能を有し、
符号列出力手段が、表示用パラメータを用いて生成された符号列を、１つまたは複数の楽譜表示用トラックに収録し、再生用パラメータを用いて生成された符号列を、１つまたは複数の音源再生用トラックに収録して出力するようにしたものである。
【００１８】
(9)   本発明の第９の態様は、上述の第８の態様に係る音響信号の符号化装置において、
各トラックごとに、音の再生を行うか否かを示す制御符号を付加するようにしたものである。
【００１９】
(10)  本発明の第１０の態様は、上述の第８の態様に係る音響信号の符号化装置において、
符号列出力手段が、楽譜表示用トラックに収録された符号列と音源再生用トラックに収録された符号列とを同一の時間軸上で比較し、音源再生用トラックに収録された符号列によってのみ表現されている音楽的特徴を認識し、この音楽的特徴を示す符号を、楽譜表示用トラックに収録された符号列の対応箇所に付加する処理を行うようにしたものである。
【００２０】
(11)  本発明の第１１の態様は、同一の音響データに対して、互いに時間的密度が異なる符号化を施すことにより生成された複数の符号列から構成される符号データについて、所定の編集を施すための符号データの編集装置において、
複数の符号列のうちの１つを編集対象符号列、残りの符号列を非編集対象符号列として特定する機能と、
オペレータの指示に基いて、編集対象符号列の編集箇所に対して所定の編集を施す機能と、
時間軸上において編集箇所に対応する非編集対象符号列上の箇所を、対応箇所として求め、この対応箇所に対して、編集箇所に対して行われた編集と同等の編集を施す自動編集機能と、
を設けるようにしたものである。
【００２１】
(12)  本発明の第１２の態様は、上述の第１１の態様に係る符号データの編集装置において、
編集対象符号列の編集箇所内の符号に対して、削除、移動、複写、音程の変更、テンポの変更、の中の少なくとも１つの編集処理を行う機能を設け、非編集対象符号列上の対応箇所に対して、同等の編集処理が行われるように構成したものである。
【００２２】
(13)  本発明の第１３の態様は、上述の第１〜第１２の態様に係る音響信号の符号化装置または符号データの編集装置としてコンピュータを機能させるためのプログラムを、コンピュータ読取り可能な記録媒体に記録するようにしたものである。
【００２４】
【発明の実施の形態】
以下、本発明を図示する実施形態に基づいて説明する。
【００２５】
§１．  本発明に係る音響信号の符号化方法の基本原理
はじめに、本発明に係る音響信号の符号化方法の基本原理を図１を参照しながら説明する。なお、この基本原理を用いた符号化方法の詳細は、特願平９−６７４６７号明細書に開示されている。いま、図１の上段に示すように、時系列の強度信号としてアナログ音響信号が与えられたものとしよう。図示の例では、横軸に時間軸ｔ、縦軸に信号強度Ａをとってこの音響信号を示している。本発明では、まずこのアナログ音響信号を、デジタルの音響データとして取り込む処理を行う。これは、従来の一般的なＰＣＭの手法を用い、所定のサンプリング周波数でこのアナログ音響信号をサンプリングし、信号強度Ａを所定の量子化ビット数を用いてデジタルデータに変換する処理を行えばよい。ここでは、説明の便宜上、ＰＣＭの手法でデジタル化した音響データの波形も、図１の上段のアナログ音響信号と同一の波形で示すことにする。
【００２６】
次に、このデジタル音響データの時間軸ｔ上に複数の単位区間を設定する。図示の例では、６つの単位区間Ｕ１〜Ｕ６が設定されている。第ｉ番目の単位区間Ｕｉは、時間軸ｔ上の始端ｓｉおよび終端ｅｉの座標値によって、その時間軸ｔ上での位置と長さとが示される。たとえば、単位区間Ｕ１は、始端ｓ１〜終端ｅ１までの（ｅ１−ｓ１）なる長さをもつ区間である。この単位区間の定義のしかたによって、最終的に得られる符号列は異なってくる。これについては、後に詳述する。
【００２７】
こうして、複数の単位区間が設定されたら、個々の単位区間内の音響データに基づいて、個々の単位区間を代表する所定の代表周波数および代表強度を定義する。ここでは、第ｉ番目の単位区間Ｕｉについて、代表周波数Ｆｉおよび代表強度Ａｉが定義された状態が示されている。たとえば、第１番目の単位区間Ｕ１については、代表周波数Ｆ１および代表強度Ａ１が定義されている。代表周波数Ｆ１は、始端ｓ１〜終端ｅ１までの区間に含まれている音響データの周波数成分の代表値であり、代表強度Ａｉは、同じく始端ｓ１〜終端ｅ１までの区間に含まれている音響データの信号強度の代表値である。単位区間Ｕ１内の音響データに含まれる周波数成分は、通常、単一ではなく、信号強度も変動するのが一般的である。本発明では、１つの単位区間について、単一の代表周波数と単一の代表強度を定義し、これら代表値を用いて符号化を行うことになる。
【００２８】
すなわち、個々の単位区間について、それぞれ代表周波数および代表強度が定義されたら、時間軸ｔ上での個々の単位区間の始端位置および終端位置を示す情報と、定義された代表周波数および代表強度を示す情報と、により符号データを生成し、個々の単位区間の音響データを個々の符号データによって表現するのである。単一の周波数をもち、単一の信号強度をもった音響信号が、所定の期間だけ持続する、という事象を符号化する手法として、ＭＩＤＩ規格に基づく符号化を利用することができる。ＭＩＤＩ規格による符号データ（ＭＩＤＩデータ）は、いわば音符によって音を表現したデータということができ、図１では、下段に示す音符によって、最終的に得られる符号データの概念を示している。
【００２９】
結局、各単位区間内の音響データは、代表周波数Ｆ１に相当する音程情報（ＭＩＤＩ規格におけるノートナンバー）と、代表強度Ａ１に相当する強度情報（ＭＩＤＩ規格におけるベロシティー）と、単位区間の長さ（ｅ１−ｓ１）に相当する長さ情報（ＭＩＤＩ規格におけるデルタタイム）と、をもった符号データに変換されることになる。このようにして得られる符号データの情報量は、もとの音響信号のもつ情報量に比べて、著しく小さくなり、飛躍的な符号化効率が得られることになる。これまで、ＭＩＤＩデータを生成する手法としては、演奏者が実際に楽器を演奏するときの操作をそのまま取り込んで符号化するか、あるいは、楽譜上の音符をデータとして入力するしかなかったが、上述した本発明に係る手法を用いれば、実際のアナログ音響信号からＭＩＤＩデータを直接生成することが可能になる。
【００３０】
なお、このような方法で生成された符号データを再生するためには、再生時に音源を用意する必要がある。本発明に係る手法によって最終的に得られる符号データには、もとの音響信号の波形データそのものは含まれていないため、何らかの音響波形のデータをもった音源が必要になるためである。たとえば、ＭＩＤＩデータを再生する場合には、ＭＩＤＩ音源が必要になる。もっとも、ＭＩＤＩ規格が普及した現在では、種々のＭＩＤＩ音源が入手可能であり、実用上は大きな問題は生じない。ただ、もとの音響信号に忠実な再生音を得るためには、もとの音響信号に含まれていた音響波形に近似した波形データをもったＭＩＤＩ音源を用意するのが好ましい。適当なＭＩＤＩ音源を用いた再生を行うことができれば、むしろもとの音響信号よりも高い音質で、臨場感あふれる再生音を得ることも可能になる。
【００３１】
本発明に係る手法を利用して、効率的で再現性の高い符号化を行うためには、単位区間の設定方法に工夫を凝らす必要がある。本発明の基本原理は、上述したように、もとの音響データの時間軸上に複数の単位区間を設定し、各単位区間ごとに、所定の周波数および所定の強度を示す符号データに変換するという点にある。したがって、最終的に得られる符号データは、単位区間の設定方法に大きく依存することになる。最も単純な単位区間の設定方法は、時間軸上で、たとえば１０ｍｓごとというように、等間隔に単位区間を一義的に設定する方法である。しかしながら、この方法では、符号化対象となるもとの音響データにかかわらず、常に一定の方法で単位区間の設定が行われることになり、必ずしも効率的で再現性の高い符号化は期待できない。したがって、実用上は、もとの音響データの波形を解析し、個々の音響データに適した単位区間の設定を行うようにするのが好ましい。
【００３２】
効率的な単位区間の設定を行う１つのアプローチは、音響データの中で周波数帯域がある程度近似した区間を１つのまとまった単位区間として抽出するという方法である。単位区間内の周波数成分は代表周波数によって置き換えられてしまうので、この代表周波数とあまりにかけ離れた周波数成分が含まれていると、再生時の再現性が低減する。したがって、ある程度近似した周波数が持続する区間を１つの単位区間として抽出することは、再現性のよい効率的な符号化を行う上で重要である。このアプローチを採る場合、具体的には、もとの音響データの周波数の変化点を認識し、この変化点を境界とする単位区間の設定を行うようにすればよい。
【００３３】
効率的な単位区間の設定を行うもう１つのアプローチは、音響データの中で信号強度がある程度近似した区間を１つのまとまった単位区間として抽出するという方法である。単位区間内の信号強度は代表強度によって置き換えられてしまうので、この代表強度とあまりにかけ離れた信号強度が含まれていると、再生時の再現性が低減する。したがって、ある程度近似した信号強度が持続する区間を１つの単位区間として抽出することは、再現性のよい効率的な符号化を行う上で重要である。このアプローチを採る場合、具体的には、もとの音響データの信号強度の変化点を認識し、この変化点を境界とする単位区間の設定を行うようにすればよい。
【００３４】
§２．  本発明に係る符号化方法の具体的な手順例
図２は、本発明による符号化の具体的な処理手順の一例を示す流れ図である。この手順は、入力段階Ｓ１０、変極点定義段階Ｓ２０、区間設定段階Ｓ３０、符号化段階Ｓ４０の４つの大きな段階から構成されており、前掲の特願平９−６７４６７号明細書においても開示されている手順である。入力段階Ｓ１０は、符号化対象となる音響信号を、デジタルの音響データとして取り込む段階である。変極点定義段階Ｓ２０は、後の区間設定段階Ｓ３０の準備段階ともいうべき段階であり、取り込んだ音響データの波形について変極点（ローカルピーク）を求める段階である。また、区間設定段階Ｓ３０は、この変極点に基づいて、音響データの時間軸上に複数の単位区間を設定する段階であり、符号化段階Ｓ４０は、個々の単位区間の音響データを個々の符号データに変換する段階である。符号データへの変換原理は、既に§１で述べたとおりである。すなわち、個々の単位区間内の音響データに基づいて、個々の単位区間を代表する所定の代表周波数および代表強度を定義し、時間軸上での個々の単位区間の始端位置および終端位置を示す情報と、代表周波数および代表強度を示す情報と、によって符号データが生成される。以下、これらの各段階において行われる処理を順に説明する。
【００３５】
＜＜＜  ２．１  入力段階  ＞＞＞
入力段階Ｓ１０では、サンプリング処理Ｓ１１と直流成分除去処理Ｓ１２とが実行される。サンプリング処理Ｓ１１は、符号化の対象となるアナログ音響信号を、デジタルの音響データとして取り込む処理であり、従来の一般的なＰＣＭの手法を用いてサンプリングを行う処理である。この実施形態では、サンプリング周波数：４４．１ｋＨｚ、量子化ビット数：１６ビットという条件でサンプリングを行い、デジタルの音響データを用意している。
【００３６】
続く、直流成分除去処理Ｓ１２は、入力した音響データに含まれている直流成分を除去するデジタル処理である。たとえば、図３に示す音響データは、振幅の中心レベルが、信号強度を示すデータレンジの中心レベル（具体的なデジタル値としては、たとえば、１６ビットでサンプリングを行い、０〜６５５３５のデータレンジが設定されている場合には３２７６８なる値。以下、説明の便宜上、図３のグラフに示すように、データレンジの中心レベルに０をとり、サンプリングされた個々の信号強度の値を正または負で表現する）よりもＤだけ高い位置にきている。別言すれば、この音響データには、値Ｄに相当する直流成分が含まれていることになる。サンプリング処理の対象になったアナログ音響信号に直流成分が含まれていると、デジタル音響データにもこの直流成分が残ることになる。そこで、直流成分除去処理Ｓ１２によって、この直流成分Ｄを除去する処理を行い、振幅の中心レベルとデータレンジの中心レベルとを一致させる。具体的には、サンプリングされた個々の信号強度の平均が０になるように、直流成分Ｄを差し引く演算を行えばよい。これにより、正および負の両極性デジタル値を信号強度としてもった音響データが用意できる。
【００３７】
＜＜＜  ２．２  変極点定義段階  ＞＞＞
変極点定義段階Ｓ２０では、変極点探索処理Ｓ２１と同極性変極点の間引処理Ｓ２２とが実行される。変極点探索処理Ｓ２１は、取り込んだ音響データの波形について変極点を求める処理である。図４は、図３に示す音響データの一部を時間軸に関して拡大して示したグラフである。このグラフでは、矢印Ｐ１〜Ｐ６の先端位置の点が変極点（極大もしくは極小の点）に相当し、各変極点はいわゆるローカルピークに相当する点となる。このような変極点を探索する方法としては、たとえば、サンプリングされたデジタル値を時間軸に沿って順に注目してゆき、増加から減少に転じた位置、あるいは減少から増加に転じた位置を認識すればよい。ここでは、この変極点を図示のような矢印で示すことにする。
【００３８】
各変極点は、サンプリングされた１つのデジタルデータに対応する点であり、所定の信号強度の情報（矢印の長さに相当）をもつとともに、時間軸ｔ上での位置の情報をもつことになる。図５は、図４に矢印で示す変極点Ｐ１〜Ｐ６のみを抜き出して示した図である。以下の説明では、この図５に示すように、第ｉ番目の変極点Ｐｉのもつ信号強度（絶対値）を矢印の長さａｉとして示し、時間軸ｔ上での変極点Ｐｉの位置をｔｉとして示すことにする。結局、変極点探索処理Ｓ２１は、図３に示すような音響データに基づいて、図５に示すような各変極点に関する情報を求める処理ということになる。
【００３９】
ところで、図５に示す各変極点Ｐ１〜Ｐ６は、交互に極性が反転する性質を有する。すなわち、図５の例では、奇数番目の変極点Ｐ１，Ｐ３，Ｐ５は上向きの矢印で示され、偶数番目の変極点Ｐ２，Ｐ４，Ｐ６は下向きの矢印で示されている。これは、もとの音響データ波形の振幅が正負交互に現れる振動波形としての本来の姿をしているためである。しかしながら、実際には、このような本来の振動波形が必ずしも得られるとは限らず、たとえば、図６に示すように、多少乱れた波形が得られる場合もある。この図６に示すような音響データに対して変極点探索処理Ｓ２１を実行すると、個々の変極点Ｐ１〜Ｐ７のすべてが検出されてしまうため、図７に示すように、変極点を示す矢印の向きは交互に反転するものにはならない。しかしながら、単一の代表周波数を定義する上では、向きが交互に反転した矢印列が得られるのが好ましい。
【００４０】
同極性変極点の間引処理Ｓ２２は、図７に示すように、同極性のデジタル値をもった変極点（同じ向きの矢印）が複数連続した場合に、絶対値が最大のデジタル値をもった変極点（最も長い矢印）のみを残し、残りを間引きしてしまう処理である。図７に示す例の場合、上向きの３本の矢印Ｐ１〜Ｐ３のうち、最も長いＰ２のみが残され、下向きの３本の矢印Ｐ４〜Ｐ６のうち、最も長いＰ４のみが残され、結局、間引処理Ｓ２２により、図８に示すように、３つの変極点Ｐ２，Ｐ４，Ｐ７のみが残されることになる。この図８に示す変極点は、図６に示す音響データの波形の本来の姿に対応したものになる。
【００４１】
＜＜＜  ２．３  区間設定段階  ＞＞＞
既に述べたように、本発明に係る符号化方法において、効率的で再現性の高い符号化を行うためには、単位区間の設定方法に工夫を凝らす必要があり、単位区間をどのように定義するかによって、最終的に得られる符号列が左右されることになる。その意味で、図２に示す各段階のうち、区間設定段階Ｓ３０は、実用上非常に重要な段階である。上述した変極点定義段階Ｓ２０は、この区間設定段階Ｓ３０の準備段階になっており、単位区間の設定は、個々の変極点の情報を利用して行われる。すなわち、この区間設定段階Ｓ３０では、変極点に基づいて音響データの周波数もしくは信号強度の変化点を認識し、この変化点を境界とする単位区間を設定する、という基本的な考え方に沿って処理が進められる。
【００４２】
図５に示すように、矢印で示されている個々の変極点Ｐ１〜Ｐ６には、それぞれ信号強度ａ１〜ａ６が定義されている。しかしながら、個々の変極点Ｐ１〜Ｐ６それ自身には、周波数に関する情報は定義されていない。区間設定段階Ｓ３０において最初に行われる瞬間周波数定義処理Ｓ３１は、個々の変極点それぞれに、所定の瞬間周波数を定義する処理である。本来、周波数というものは、時間軸上の所定の区間内の波について定義される物理量であり、時間軸上のある１点について定義されるべきものではない。ただ、ここでは便宜上、個々の変極点について、疑似的に瞬間周波数なるものを定義することにする。この瞬間周波数は、個々の変極点それぞれに定義された疑似的な周波数であり、信号のある瞬間における基本周波数を意味するものである。
【００４３】
いま、図９に示すように、多数の変極点のうち、第ｎ番目〜第（ｎ＋２）番目の変極点Ｐ（ｎ），Ｐ（ｎ＋１），Ｐ（ｎ＋２）に着目する。これら各変極点には、それぞれ信号値ａ（ｎ），ａ（ｎ＋１），ａ（ｎ＋２）が定義されており、また、時間軸上での位置ｔ（ｎ），ｔ（ｎ＋１），ｔ（ｎ＋２）が定義されている。ここで、これら各変極点が、音響データ波形のローカルピーク位置に相当する点であることを考慮すれば、図示のように、変極点Ｐ（ｎ）とＰ（ｎ＋２）との間の時間軸上での距離φは、もとの波形の１周期に対応することがわかる。そこで、たとえば、第ｎ番目の変極点Ｐ（ｎ）の瞬間周波数ｆ（ｎ）なるものを、ｆ（ｎ）＝１／φと定義すれば、個々の変極点について、それぞれ瞬間周波数を定義することができる。時間軸上での位置ｔ（ｎ），ｔ（ｎ＋１），ｔ（ｎ＋２）が、「秒」の単位で表現されていれば、
φ＝（ｔ（ｎ＋２）−ｔ（ｎ））
であるから、
ｆ（ｎ）＝１／（ｔ（ｎ＋２）−ｔ（ｎ））
として定義できる。
【００４４】
なお、実際のデジタルデータ処理の手順を考慮すると、個々の変極点の位置は、「秒」の単位ではなく、サンプル番号ｘ（サンプリング処理Ｓ１１における何番目のサンプリング時に得られたデータであるかを示す番号）によって表されることになるが、このサンプル番号ｘと実時間「秒」とは、サンプリング周波数ｆｓによって一義的に対応づけられる。たとえば、第ｍ番目のサンプルｘ（ｍ）と第（ｍ＋１）番目のサンプルｘ（ｍ＋１）との間の実時間軸上での間隔は、１／ｆｓになる。
【００４５】
さて、このようにして個々の変極点に定義された瞬間周波数は、物理的には、その変極点付近のローカルな周波数を示す量ということになる。隣接する別な変極点との距離が短ければ、その付近のローカルな周波数は高く、隣接する別な変極点との距離が長ければ、その付近のローカルな周波数は低いということになる。もっとも、上述の例では、後続する２つ目の変極点との間の距離に基づいて瞬間周波数を定義しているが、瞬間周波数の定義方法としては、この他どのような方法を採ってもかまわない。たとえば、第ｎ番目の変極点の瞬間周波数ｆ（ｎ）を、先行する第（ｎ−２）番目の変極点との間の距離を用いて、
ｆ（ｎ）＝１／（ｔ（ｎ）−ｔ（ｎ−２））
と定義することもできる。また、前述したように、後続する２つ目の変極点との間の距離に基づいて、瞬間周波数ｆ（ｎ）を、
ｆ（ｎ）＝１／（ｔ（ｎ＋２）−ｔ（ｎ））
なる式で定義した場合であっても、最後の２つの変極点については、後続する２つ目の変極点が存在しないので、先行する変極点を利用して、
ｆ（ｎ）＝１／（ｔ（ｎ）−ｔ（ｎ−２））
なる式で定義すればよい。
【００４６】
あるいは、後続する次の変極点との間の距離に基づいて、第ｎ番目の変極点の瞬間周波数ｆ（ｎ）を、
ｆ（ｎ）＝（１／２）・１／（ｔ（ｎ＋１）−ｔ（ｎ））
なる式で定義することもできるし、後続する３つ目の変極点との間の距離に基づいて、
ｆ（ｎ）＝（３／２）・１／（ｔ（ｎ＋３）−ｔ（ｎ））
なる式で定義することもできる。結局、一般式を用いて示せば、第ｎ番目の変極点についての瞬間周波数ｆ（ｎ）は、ｋ個離れた変極点（ｋが正の場合は後続する変極点、負の場合は先行する変極点）との間の時間軸上での距離に基づいて、
ｆ（ｎ）＝（ｋ／２）・１／（ｔ（ｎ＋ｋ）−ｔ（ｎ））
なる式で定義することができる。ｋの値は、予め適当な値に設定しておけばよい。変極点の時間軸上での間隔が比較的小さい場合には、ｋの値をある程度大きく設定した方が、誤差の少ない瞬間周波数を定義することができる。ただし、ｋの値をあまり大きく設定しすぎると、ローカルな周波数としての意味が失われてしまうことになり好ましくない。
【００４７】
こうして、瞬間周波数定義処理Ｓ３１が完了すると、個々の変極点Ｐ（ｎ）には、信号強度ａ（ｎ）と、瞬間周波数ｆ（ｎ）と、時間軸上での位置ｔ（ｎ）とが定義されることになる。
【００４８】
さて、§１では、効率的で再現性の高い符号化を行うためには、１つの単位区間に含まれる変極点の周波数が所定の近似範囲内になるように単位区間を設定するという第１のアプローチと、１つの単位区間に含まれる変極点の信号強度が所定の近似範囲内になるように単位区間を設定するという第２のアプローチとがあることを述べた。ここでは、この２つのアプローチを用いた単位区間の設定手法を、具体例に即して説明しよう。
【００４９】
いま、図１０に示すように、９つの変極点Ｐ１〜Ｐ９のそれぞれについて、信号強度ａ１〜ａ９と瞬間周波数ｆ１〜ｆ９とが定義されている場合を考える。この場合、第１のアプローチに従えば、個々の瞬間周波数ｆ１〜ｆ９に着目し、互いに近似した瞬間周波数をもつ空間的に連続した変極点の一群を１つの単位区間とする処理を行えばよい。たとえば、瞬間周波数ｆ１〜ｆ５がほぼ同じ値（第１の基準値）をとり、瞬間周波数ｆ６〜ｆ９がほぼ同じ値（第２の基準値）をとっており、第１の基準値と第２の基準値との差が所定の許容範囲を越えていた場合、図１０に示すように、第１の基準値の近似範囲に含まれる瞬間周波数ｆ１〜ｆ５をもつ変極点Ｐ１〜Ｐ５を含む区間を単位区間Ｕ１とし、第２の基準値の近似範囲に含まれる瞬間周波数ｆ６〜ｆ９をもつ変極点Ｐ６〜Ｐ９を含む区間を単位区間Ｕ２として設定すればよい。本発明による手法では、１つの単位区間については、単一の代表周波数が与えられることになるが、このように、瞬間周波数が互いに近似範囲内にある複数の変極点が存在する区間を１つの単位区間として設定すれば、代表周波数と個々の瞬間周波数との差が所定の許容範囲内に抑えられることになり、大きな問題は生じない。
【００５０】
続いて、瞬間周波数が近似する変極点を１グループにまとめて、１つの単位区間を定義するための具体的な手法の一例を以下に示す。たとえば、図１０に示すように、９つの変極点Ｐ１〜Ｐ９が与えられた場合、まず変極点Ｐ１とＰ２について、瞬間周波数を比較し、両者の差が所定の許容範囲ｆｆ内にあるか否かを調べる。もし、
｜ｆ１−ｆ２｜＜ｆｆ
であれば、変極点Ｐ１，Ｐ２を第１の単位区間Ｕ１に含ませる。そして、今度は、変極点Ｐ３を、この第１の単位区間Ｕ１に含ませてよいか否かを調べる。これは、この第１の単位区間Ｕ１についての平均瞬間周波数（ｆ１＋ｆ２）／２と、ｆ３との比較を行い、
｜（ｆ１＋ｆ２）／２−ｆ３｜＜ｆｆ
であれば、変極点Ｐ３を第１の単位区間Ｕ１に含ませればよい。更に、変極点Ｐ４に関しては、
｜（ｆ１＋ｆ２＋ｆ３）／３−ｆ４｜＜ｆｆ
であれば、これを第１の単位区間Ｕ１に含ませることができ、変極点Ｐ５に関しては、
｜（ｆ１＋ｆ２＋ｆ３＋ｆ４）／４−ｆ５｜＜ｆｆ
であれば、これを第１の単位区間Ｕ１に含ませることができる。ここで、もし、変極点Ｐ６について、
｜（ｆ１＋ｆ２＋ｆ３＋ｆ４＋ｆ５）／５−ｆ６｜＞ｆｆ
なる結果が得られたしまった場合、すなわち、瞬間周波数ｆ６と、第１の単位区間Ｕ１の平均瞬間周波数との差が、所定の許容範囲ｆｆを越えてしまった場合、変極点Ｐ５とＰ６との間に不連続位置が検出されたことになり、変極点Ｐ６を第１の単位区間Ｕ１に含ませることはできない。そこで、変極点Ｐ５をもって第１の単位区間Ｕ１の終端とし、変極点Ｐ６は別な第２の単位区間Ｕ２の始端とする。そして、変極点Ｐ６とＰ７について、瞬間周波数を比較し、両者の差が所定の許容範囲ｆｆ内にあるか否かを調べ、もし、
｜ｆ６−ｆ７｜＜ｆｆ
であれば、変極点Ｐ６，Ｐ７を第２の単位区間Ｕ２に含ませる。そして、今度は、変極点Ｐ８に関して、
｜（ｆ６＋ｆ７）／２−ｆ８｜＜ｆｆ
であれば、これを第２の単位区間Ｕ２に含ませ、変極点Ｐ９に関して、
｜（ｆ６＋ｆ７＋ｆ８）／３−ｆ９｜＜ｆｆ
であれば、これを第２の単位区間Ｕ２に含ませる。
【００５１】
このような手法で、不連続位置の検出を順次行ってゆき、各単位区間を順次設定してゆけば、上述した第１のアプローチに沿った区間設定が可能になる。もちろん、上述した具体的な手法は、一例として示したものであり、この他にも種々の手法を採ることができる。たとえば、平均値と比較する代わりに、常に隣接する変極点の瞬間周波数を比較し、差が許容範囲ｆｆを越えた場合に不連続位置と認識する簡略化した手法を採ってもかまわない。すなわち、ｆ１とｆ２との差、ｆ２とｆ３との差、ｆ３とｆ４との差、…というように、個々の差を検討してゆき、差が許容範囲ｆｆを越えた場合には、そこを不連続位置として認識すればよい。
【００５２】
以上、第１のアプローチについて述べたが、第２のアプローチに基づく単位区間の設定も同様に行うことができる。この場合は、個々の変極点の信号強度ａ１〜ａ９に着目し、所定の許容範囲ａａとの比較を行うようにすればよい。もちろん、第１のアプローチと第２のアプローチとの双方を組み合わせて、単位区間の設定を行ってもよい。この場合は、個々の変極点の瞬間周波数ｆ１〜ｆ９と信号強度ａ１〜ａ９との双方に着目し、両者がともに所定の許容範囲ｆｆおよびａａ内に入っていれば、同一の単位区間に含ませるというような厳しい条件を課してもよいし、いずれか一方が許容範囲内に入っていれば、同一の単位区間に含ませるというような緩い条件を課してもよい。
【００５３】
なお、この区間設定段階Ｓ３０においては、上述した各アプローチに基づいて単位区間の設定を行う前に、絶対値が所定の許容レベル未満となる信号強度をもつ変極点を除外する処理を行っておくのが好ましい。たとえば、図１１に示す例のように所定の許容レベルＬＬを設定すると、変極点Ｐ４の信号強度ａ４と変極点Ｐ９の信号強度ａ９は、その絶対値がこの許容レベルＬＬ未満になる。このような場合、変極点Ｐ４，Ｐ９を除外する処理を行うのである。このような除外処理を行う第１の意義は、もとの音響信号に含まれていたノイズ成分を除去することにある。通常、音響信号を電気的に取り込む過程では、種々のノイズ成分が混入することが多く、このようなノイズ成分までも含めて符号化が行われると好ましくない。
【００５４】
もっとも、許容レベルＬＬをある程度以上に設定すると、ノイズ成分以外のものも除外されることになるが、このようにノイズ成分以外の信号を除外することも、場合によっては、十分に意味のある処理になる。すなわち、この除外処理を行う第２の意義は、もとの音響信号に含まれていた情報のうち、興味の対象外となる情報を除外することにある。たとえば、図１の上段に示す音響信号は、人間の心音を示す信号であるが、この音響信号のうち、疾患の診断などに有効な情報は、振幅の大きな部分（各単位区間Ｕ１〜Ｕ６の部分）に含まれており、それ以外の部分の情報はあまり役にたたない。そこで、所定の許容レベルＬＬを設定し、無用な情報部分を除外する処理を行うと、より効率的な符号化が可能になる。また、後述するように、楽譜表示に利用するための符号化を行う場合には、できるだけ符号列を簡素化し、全体の符号長を短くする方が、判読性が向上するために好ましい。したがって、楽譜表示に利用される符号列を生成する場合には、許容レベルＬＬをある程度高く設定し、強度が許容レベルＬＬ未満の信号成分を無視するとよい。
【００５５】
なお、許容レベル未満の変極点を除外する処理を行った場合は、除外された変極点の位置で分割されるように単位区間定義を行うようにするのが好ましい。たとえば、図１１に示す例の場合、除外された変極点Ｐ４，Ｐ９の位置（一点鎖線で示す）で分割された単位区間Ｕ１，Ｕ２が定義されている。このような単位区間定義を行えば、図１の上段に示す音響信号のように、信号強度が許容レベル以上の区間（単位区間Ｕ１〜Ｕ６の各区間）と、許容レベル未満の区間（単位区間Ｕ１〜Ｕ６以外の区間）とが交互に出現するような音響信号の場合、非常に的確な単位区間の定義が可能になる。
【００５６】
これまで、区間設定段階Ｓ３０で行われる効果的な区間設定手法の要点を述べてきたが、ここでは、より具体的な手順を述べることにする。図２の流れ図に示されているように、この区間設定段階Ｓ３０は、４つの処理Ｓ３１〜Ｓ３４によって構成されている。瞬間周波数定義処理Ｓ３１は、既に述べたように、各変極点について、それぞれ近傍の変極点との間の時間軸上での距離に基づいて所定の瞬間周波数を定義する処理である。ここでは、図１２に示すように、変極点Ｐ１〜Ｐ１７のそれぞれについて、瞬間周波数ｆ１〜ｆ１７が定義された例を考える。
【００５７】
続く、レベルによるスライス処理Ｓ３２は、絶対値が所定の許容レベル未満となる信号強度をもつ変極点を除外し、除外された変極点の位置で分割されるような区間を定義する処理である。ここでは、図１２に示すような変極点Ｐ１〜Ｐ１７に対して、図１３に示すような許容レベルＬＬを設定した場合を考える。この場合、変極点Ｐ１，Ｐ２，Ｐ１１，Ｐ１６，Ｐ１７が、許容レベル未満の変極点として除外されることになる。図１４では、このようにして除外された変極点を破線の矢印で示す。この「レベルによるスライス処理Ｓ３２」では、更に、除外された変極点の位置で分割されるような区間Ｋ１，Ｋ２が定義される。ここでは、１つでも除外された変極点が存在する場合には、その位置の左右に異なる区間を設定するようにしており、結果的に、変極点Ｐ３〜Ｐ１０までの区間Ｋ１と、変極点Ｐ１２〜Ｐ１５までの区間Ｋ２とが設定されることになる。なお、ここで定義された区間Ｋ１，Ｋ２は、暫定的な区間であり、必ずしも最終的な単位区間になるとは限らない。
【００５８】
次の不連続部分割処理Ｓ３３は、時間軸上において、変極点の瞬間周波数もしくは信号強度の値が不連続となる不連続位置を探し、処理Ｓ３２で定義された個々の区間を、更にこの不連続位置で分割することにより、新たな区間を定義する処理である。たとえば、上述の例の場合、図１５に示すような暫定区間Ｋ１，Ｋ２が定義されているが、ここで、もし暫定区間Ｋ１内の変極点Ｐ６とＰ７との間に不連続が生じていた場合は、この不連続位置で暫定区間Ｋ１を分割し、図１６に示すように、新たに暫定区間Ｋ１−１とＫ１−２とが定義され、結局、３つの暫定区間Ｋ１−１，Ｋ１−２，Ｋ２が形成されることになる。不連続位置の具体的な探索手法は既に述べたとおりである。たとえば、図１５の例の場合、
｜（ｆ３＋ｆ４＋ｆ５＋ｆ６）／４−ｆ７｜＞ｆｆ
の場合に、変極点Ｐ６とＰ７との間に瞬間周波数の不連続が生じていると認識されることになる。同様に、変極点Ｐ６とＰ７との間の信号強度の不連続は、
｜（ａ３＋ａ４＋ａ５＋ａ６）／４−ａ７｜＞ａａ
の場合に認識される。
【００５９】
不連続部分割処理Ｓ３３で、実際に区間分割を行うための条件としては、
▲１▼瞬間周波数の不連続が生じた場合にのみ区間の分割を行う、
▲２▼信号強度の不連続が生じた場合にのみ区間の分割を行う、
▲３▼瞬間周波数の不連続か信号強度の不連続かの少なくとも一方が生じた場合に区間の分割を行う、
▲４▼瞬間周波数の不連続と信号強度の不連続との両方が生じた場合にのみ区間の分割を行う、
など、種々の条件を設定することが可能である。あるいは、不連続の度合いを考慮して、上述の▲１▼〜▲４▼を組み合わせるような複合条件を設定することもできる。
【００６０】
こうして、不連続部分割処理Ｓ３３によって得られた区間（上述の例の場合、３つの暫定区間Ｋ１−１，Ｋ１−２，Ｋ２）を、最終的な単位区間として設定することもできるが、ここでは更に、区間統合処理Ｓ３４を行っている。この区間統合処理Ｓ３４は、不連続部分割処理Ｓ３３によって得られた区間のうち、一方の区間内の変極点の瞬間周波数もしくは信号強度の平均と、他方の区間内の変極点の瞬間周波数もしくは信号強度の平均との差が、所定の許容範囲内であるような２つの隣接区間が存在する場合に、この隣接区間を１つの区間に統合する処理である。たとえば、上述の例の場合、図１７に示すように、区間Ｋ１−２と区間Ｋ２とを平均瞬間周波数で比較した結果、
｜（ｆ７＋ｆ８＋ｆ９＋ｆ１０）／４−（ｆ１２＋ｆ１３＋ｆ１４＋ｆ１５）／４｜＜ｆｆ
のように、平均の差が所定の許容範囲ｆｆ以内であった場合には、区間Ｋ１−２と区間Ｋ２とは統合されることになる。もちろん、平均信号強度の差が許容範囲ａａ以内であった場合に統合を行うようにしてもよいし、平均瞬間周波数の差が許容範囲ｆｆ内という条件と平均信号強度の差が許容範囲ａａ以内という条件とのいずれか一方が満足された場合に統合を行うようにしてもよいし、両条件がともに満足された場合に統合を行うようにしてもよい。また、このような種々の条件が満足されていても、両区間の間の間隔が時間軸上で所定の距離以上離れていた場合（たとえば、多数の変極点が除外されたために、かなりの空白区間が生じているような場合）は、統合処理を行わないような加重条件を課すことも可能である。
【００６１】
かくして、この区間統合処理Ｓ３４を行った後に得られた区間が、単位区間として設定されることになる。上述の例では、図１８に示すように、単位区間Ｕ１（図１７の暫定区間Ｋ１−１）と、単位区間Ｕ２（図１７で統合された暫定区間Ｋ１−２およびＫ２）とが設定される。ここに示す実施態様では、こうして得られた単位区間の始端と終端を、その区間に含まれる最初の変極点の時間軸上の位置を始端とし、その区間に含まれる最後の変極点の時間軸上の位置を終端とする、という定義で定めることにする。したがって、図１８に示す例では、単位区間Ｕ１は時間軸上の位置ｔ３〜ｔ６までの区間であり、単位区間Ｕ２は時間軸上の位置ｔ７〜ｔ１５までの区間となる。
【００６２】
なお、実用上は、更に、単位区間の区間長に関して所定の許容値を定めておき、区間長がこの許容値に満たない単位区間については、これを削除するか、あるいは、可能であれば（たとえば、代表周波数や代表強度が、隣接する単位区間のものにある程度近似していれば）隣接する単位区間に吸収合併させる処理を行うようにするのが好ましい。このような処理を行えば、最終的には、区間長が所定の許容値以上の単位区間のみが残ることになる。
【００６３】
＜＜＜  ２．４  符号化段階  ＞＞＞
次に、図２の流れ図に示されている符号化段階Ｓ４０について説明する。ここに示す実施形態では、この符号化段階Ｓ４０は、符号データ生成処理Ｓ４１と、符号データ修正処理Ｓ４２とによって構成されている。符号データ生成処理Ｓ４１は、区間設定段階Ｓ３０において設定された個々の単位区間内の音響データに基づいて、個々の単位区間を代表する所定の代表周波数および代表強度を定義し、時間軸上での個々の単位区間の始端位置および終端位置を示す情報と、代表周波数および代表強度を示す情報とを含む符号データを生成する処理であり、この処理により、個々の単位区間の音響データは個々の符号データによって表現されることになる。一方、符号データ修正処理Ｓ４２は、生成された符号データを、復号化に用いる再生音源装置の特性に適合させるために修正する処理であり、本明細書では具体的な処理内容の説明は省略する。詳細については、特願平９−６７４６７号明細書を参照されたい。
【００６４】
符号データ生成処理Ｓ４１における符号データ生成の具体的手法は、非常に単純である。すなわち、個々の単位区間内に含まれる変極点の瞬間周波数に基づいて代表周波数を定義し、個々の単位区間内に含まれる変極点のもつ信号強度に基づいて代表強度を定義すればよい。これを図１８の例で具体的に示そう。この図１８に示す例では、変極点Ｐ３〜Ｐ６を含む単位区間Ｕ１と、変極点Ｐ７〜Ｐ１５（ただし、Ｐ１１は除外されている）を含む単位区間Ｕ２とが設定されている。ここに示す実施形態では、単位区間Ｕ１（始端ｔ３，終端ｔ６）については、図１９上段に示すように、代表周波数Ｆ１および代表強度Ａ１が、
Ｆ１＝（ｆ３＋ｆ４＋ｆ５＋ｆ６）／４
Ａ１＝（ａ３＋ａ４＋ａ５＋ａ６）／４
なる式で演算され、単位区間Ｕ２（始端ｔ７，終端ｔ１５）については、図１９下段に示すように、代表周波数Ｆ２および代表強度Ａ２が、
Ｆ２＝（ｆ７＋ｆ８＋ｆ９＋ｆ１０＋ｆ１２＋ｆ１３＋ｆ１４＋ｆ１５）／８
Ａ２＝（ａ７＋ａ８＋ａ９＋ａ１０＋ａ１２＋ａ１３＋ａ１４＋ａ１５）／８
なる式で演算される。別言すれば、代表周波数および代表強度は、単位区間内に含まれる変極点の瞬間周波数および信号強度の単純平均値となっている。もっとも、代表値としては、このような単純平均値だけでなく、重みを考慮した加重平均値をとってもかまわない。たとえば、信号強度に基づいて個々の変極点に重みづけをし、この重みづけを考慮した瞬間周波数の加重平均値を代表周波数としてもよい。
【００６５】
こうして個々の単位区間に、それぞれ代表周波数および代表強度が定義されれば、時間軸上での個々の単位区間の始端位置と終端位置は既に得られているので、個々の単位区間に対応する符号データの生成が可能になる。たとえば、図１８に示す例の場合、図２０に示すように、５つの区間Ｅ０，Ｕ１，Ｅ１，Ｕ２，Ｅ２を定義するための符号データを生成することができる。ここで、区間Ｕ１，Ｕ２は、前段階で設定された単位区間であり、区間Ｅ０，Ｅ１，Ｅ２は、各単位区間の間に相当する空白区間である。各単位区間Ｕ１，Ｕ２には、それぞれ代表周波数Ｆ１，Ｆ２と代表強度Ａ１，Ａ２が定義されているが、空白区間Ｅ０，Ｅ１，Ｅ２は、単に始端および終端のみが定義されている区間である。
【００６６】
図２１は、図２０に示す個々の区間に対応する符号データの構成例を示す図表である。この例では、１行に示された符号データは、区間名（実際には、不要）と、区間の始端位置および終端位置と、代表周波数および代表強度と、によって構成されている。一方、図２２は、図２０に示す個々の区間に対応する符号データの別な構成例を示す図表である。図２１に示す例では、各単位区間の始端位置および終端位置を直接符号データとして表現していたが、図２２に示す例では、各単位区間の始端位置および終端位置を示す情報として、区間長Ｌ１〜Ｌ４（図２０参照）を用いている。なお、図２１に示す構成例のように、単位区間の始端位置および終端位置を直接符号データとして用いる場合には、実際には、空白区間Ｅ０，Ｅ１，…についての符号データは不要である（図２１に示す単位区間Ｕ１，Ｕ２の符号データのみから、図２０の構成が再現できる）。
【００６７】
本発明に係る音響信号の符号化方法によって、最終的に得られる符号データは、この図２１あるいは図２２に示すような符号データである。もっとも、符号データとしては、各単位区間の時間軸上での始端位置および終端位置を示す情報と、代表周波数および代表強度を示す情報とが含まれていれば、どのような構成のデータを用いてもかまわない。最終的に得られる符号データに、上述の情報さえ含まれていれば、所定の音源を用いて音響の再生（復号化）が可能になる。たとえば、図２０に示す例の場合、時刻０〜ｔ３の期間は沈黙を守り、時刻ｔ３〜ｔ６の期間に周波数Ｆ１に相当する音を強度Ａ１で鳴らし、時刻ｔ６〜ｔ７の期間は沈黙を守り、時刻ｔ７〜ｔ１５の期間に周波数Ｆ２に相当する音を強度Ａ２で鳴らせば、もとの音響信号の再生が行われることになる。
【００６８】
§３．  ＭＩＤＩ形式の符号データを用いる実施形態
上述したように、本発明に係る音響信号の符号化方法では、最終的に、個々の単位区間についての始端位置および終端位置を示す情報と、代表周波数および代表強度を示す情報とが含まれた符号データであれば、どのような形式の符号データを用いてもかまわない。しかしながら、実用上は、そのような符号データとして、ＭＩＤＩ形式の符号データを採用するのが最も好ましい。ここでは、ＭＩＤＩ形式の符号データを採用した具体的な実施形態を示す。
【００６９】
図２３は、一般的なＭＩＤＩ形式の符号データの構成を示す図である。図示のとおり、このＭＩＤＩ形式では、「ノートオン」データもしくは「ノートオフ」データが、「デルタタイム」データを介在させながら存在する。「デルタタイム」データは、１〜４バイトのデータで構成され、所定の時間間隔を示すデータである。一方、「ノートオン」データは、全部で３バイトから構成されるデータであり、１バイト目は常にノートオン符号「９０ H」に固定されており（ Hは１６進数を示す）、２バイト目にノートナンバーＮを示すコードが、３バイト目にベロシティーＶを示すコードが、それぞれ配置される。ノートナンバーＮは、音階（一般の音楽でいう全音７音階の音階ではなく、ここでは半音１２音階の音階をさす）の番号を示す数値であり、このノートナンバーＮが定まると、たとえば、ピアノの特定の鍵盤キーが指定されることになる（Ｃ−２の音階がノートナンバーＮ＝０に対応づけられ、以下、Ｎ＝１２７までの１２８通りの音階が対応づけられる。ピアノの鍵盤中央のラの音（Ａ３音）は、ノートナンバーＮ＝６９になる）。ベロシティーＶは、音の強さを示すパラメータであり（もともとは、ピアノの鍵盤などを弾く速度を意味する）、Ｖ＝０〜１２７までの１２８段階の強さが定義される。
【００７０】
同様に、「ノートオフ」データも、全部で３バイトから構成されるデータであり、１バイト目は常にノートオフ符号「８０ H」に固定されており、２バイト目にノートナンバーＮを示すコードが、３バイト目にベロシティーＶを示すコードが、それぞれ配置される。「ノートオン」データと「ノートオフ」データとは対になって用いられる。たとえば、「９０ H，６９，８０」なる３バイトの「ノートオン」データは、ノートナンバーＮ＝６９に対応する鍵盤中央のラのキーを押し下げる操作を意味し、以後、同じノートナンバーＮ＝６９を指定した「ノートオフ」データが与えられるまで、そのキーを押し下げた状態が維持される（実際には、ピアノなどのＭＩＤＩ音源の波形を用いた場合、有限の時間内に、ラの音の波形は減衰してしまう）。ノートナンバーＮ＝６９を指定した「ノートオフ」データは、たとえば、「８０ H，６９，５０」のような３バイトのデータとして与えられる。「ノートオフ」データにおけるベロシティーＶの値は、たとえばピアノの場合、鍵盤キーから指を離す速度を示すパラメータになる。
【００７１】
なお、上述の説明では、ノートオン符号「９０ H」およびノートオフ符号「８０ H」は固定であると述べたが、これらの符号の下位４ビットは必ずしも０に固定されているわけではなく、チャネル番号０〜１５のいずれかを特定するコードとして利用することができ、チャネルごとにそれぞれ別々の楽器の音色についてのオン・オフを指定することができる。
【００７２】
このように、ＭＩＤＩデータは、もともと楽器演奏の操作に関する情報（別言すれば、楽譜の情報）を記述する目的で利用されている符号データであるが、本発明に係る音響信号の符号化方法への利用にも適している。すなわち、各単位区間についての代表周波数Ｆに基づいてノートナンバーＮを定め、代表強度Ａに基づいてベロシティーＶを定め、単位区間の長さＬに基づいてデルタタイムＴを定めるようにすれば、１つの単位区間の音響データを、ノートナンバー、ベロシティー、デルタタイムで表現されるＭＩＤＩ形式の符号データに変換することが可能になる。このようなＭＩＤＩデータへの具体的な変換方法を図２４に示す。
【００７３】
まず、ＭＩＤＩデータのデルタタイムＴは、単位区間の区間長Ｌ（単位：秒）を用いて、
Ｔ＝Ｌ・７６８
なる簡単な式で定義できる。ここで、数値「７６８」は、四分音符を基準にして、その長さ分解能（たとえば、長さ分解能を１／２に設定すれば八分音符まで、１／８に設定すれば三十二分音符まで表現可能：一般の音楽では１／１６程度の設定が使われる）を、ＭＩＤＩ規格での最小値である１／３８４に設定し、メトロノーム指定を四分音符＝１２０（毎分１２０音符）にした場合のＭＩＤＩデータによる表現形式における時間分解能を示す固有の数値である。
【００７４】
また、ＭＩＤＩデータのノートナンバーＮは、１オクターブ上がると、周波数が２倍になる対数尺度の音階では、単位区間の代表周波数Ｆ（単位：Ｈｚ）を用いて、
Ｎ＝（１２／ｌｏｇ１０２）・（ｌｏｇ１０（Ｆ／４４０）＋６９
なる式で定義できる。ここで、右辺第２項の数値「６９」は、ピアノ鍵盤中央のラの音（Ａ３音）のノートナンバー（基準となるノートナンバー）を示しており、右辺第１項の数値「４４０」は、このラの音の周波数（４４０Ｈｚ）を示しており、右辺第１項の数値「１２」は、半音を１音階として数えた場合の１オクターブの音階数を示している。
【００７５】
更に、ＭＩＤＩデータのベロシティーＶは、単位区間の代表強度Ａと、その最大値Ａmax とを用いて、
Ｖ＝（Ａ／Ａmax ）・１２７
なる式で、Ｖ＝０〜１２７の範囲の値を定義することができる。なお、通常の楽器の場合、「ノートオン」データにおけるベロシティーＶと、「ノートオフ」データにおけるベロシティーＶとは、上述したように、それぞれ異なる意味をもつが、この実施形態では、「ノートオフ」データにおけるベロシティーＶとして、「ノートオン」データにおけるベロシティーＶと同一の値をそのまま用いるようにしている。
【００７６】
前章の§２では、図２０に示すような２つの単位区間Ｕ１，Ｕ２内の音響データに対して、図２１あるいは図２２に示すような符号データが生成される例を示したが、ＳＭＦ形式のＭＩＤＩデータを用いた場合、単位区間Ｕ１，Ｕ２内の音響データは、図２５の図表に示すような各データ列で表現されることになる。ここで、ノートナンバーＮ１，Ｎ２は、代表周波数Ｆ１，Ｆ２を用いて上述の式により得られた値であり、ベロシティーＶ１，Ｖ２は、代表強度Ａ１，Ａ２を用いて上述の式により得られた値である。
【００７７】
§４．  パラメータ設定を変えて複数の符号列を生成する方法
以上、本発明に係る音響信号の符号化方法の一例を具体的に説明したが、この方法により実際に得られる符号データは、パラメータの設定によって大きく変わることになる。たとえば、§２で述べた具体的な手法の場合、図１５に示す式における周波数の許容範囲ｆｆあるいは強度の許容範囲ａａが、このパラメータに相当するものになり、これらの設定を変えると、単位区間の設定が異なることになり、最終的に得られる符号列も異なってくる。具体的には、周波数の許容範囲ｆｆを広く設定すればするほど、あるいは強度の許容範囲ａａを広く設定すればするほど、単位区間の区間長が長くなり、生成される符号の時間的密度は低くなる（単位時間あたりの音響信号を符号化する際に必要な符号の数が少なくてすむ）。一方、図１１に示す例では、所定の許容レベルＬＬ以下の強度をもった信号を除外する処理が行われているが、この許容レベルＬＬの値も、得られる符号データの内容を左右するパラメータとなり、許容レベルＬＬの設定を変えると、異なる符号データが生成されることになる。具体的には、許容レベルＬＬの値を高く設定すればするほど、もとの音響信号の情報のうちの除外される部分が多くなる。また、図１８に示すように、単位区間Ｕ１，Ｕ２が定まった後、これらの単位区間の区間長が所定の許容値に達しているか否かの判断がなされ、区間長がこの許容値に達しない単位区間は削除されるか、あるいは、隣接する単位区間に吸収合併されることになるが、このときの区間長の許容値も、得られる符号データの内容を左右するパラメータとなる。
【００７８】
このように、同一の音響信号に対して本発明による符号化を行ったとしても、用いるパラメータの設定により、最終的に得られる符号列はそれぞれ異なってくる。本発明の要点は、このような点に着目し、より広範な用途に利用可能な符号化が行われるようにした点にある。すなわち、互いに時間的密度が異なる符号化が行われるような複数通りのパラメータを予め設定しておき、同一の音響信号に対して、この複数通りのパラメータを用いた符号化を行うことにより、複数通りの符号列を生成するのである。そして、この互いに時間的密度が異なる複数通りの符号列を１組のデータとして出力しておけば、利用する際には、その用途に応じた符号列を選択的に利用することが可能になる。
【００７９】
たとえば、図２６には、同一の音響信号に基いて作成された２つの楽譜が示されている。ここで、図２６(a) に示す楽譜は、符号の時間的密度が小さくなるようなパラメータを用いて生成された音符から構成されているのに対し、図２６(b) に示す楽譜は、符号の時間的密度が大きくなるようなパラメータを用いて生成された音符から構成されている。いずれの楽譜も、２小節分の時間に相当する演奏内容を示しているものの、前者の音符密度は後者の音符密度よりも低くなっている。具体的には、図２６(a) に示されている単一の音符Ｎａ１〜Ｎａ３は、図２６(b) では、それぞれ複数の音符群Ｎｂ１〜Ｎｂ３によって示されている。
【００８０】
一般に、楽譜表示に利用する場合には、図２６(a) に示すように時間的密度の低い符号列を用いるのが好ましい。図２６(b) に示す符号列を楽譜表示に用いると、図示のとおり音符密度が高くなり、判読性が低下することになるためである。逆に、音源を用いて再生を行う場合には、図２６(b) に示すように時間的密度の高い符号列を用いるのが好ましい。たとえば、図２６(a) では、単一の音符Ｎａ１による単調な音色しか表現されていないが、図２６(b) では、これに対応する部分が４つの音符からなる音符群Ｎｂ１によって表現されており、音程の変動が再現されることになる。楽器演奏におけるビブラートやトリラーといった音程の細かな変動部分を忠実に音符として表現するためには、このように時間的密度の高い符号列を用いた方がよい。
【００８１】
通常、楽譜上でビブラートやトリラーなどを表現するには、音符自身を用いて表現を行う代わりに、音符の上のコメント文を用いた表現形式が採られており、楽譜上に表示する情報としては、このようなコメント文だけで十分である。図２６(a) に示す例では、五線符上に「vibrato 」なるコメント文が記載されており、音符Ｎａ１から音符Ｎａ３に至る部分までビブラートがかかることが示されている（「米印」はビブラートの終了を示す）。
【００８２】
本発明に係る符号化装置において、楽譜表示用のパラメータ（比較的時間的密度の低い符号列が得られるパラメータ）と、音源再生用のパラメータ（比較的時間的密度の高い符号列が得られるパラメータ）と、を用意しておき、同一の音響信号に対して、この２通りのパラメータを用いた符号化を行えば、図２６(a) ，(b) に示すような２通りの符号列を生成することができる。このように２通りの符号列を生成しておけば、楽譜表示として利用する場合には図２６(a) に示す符号列を用い、音源再生として利用する場合には図２６(b) に示す符号列を用いる、というように、用途に適した符号列を選択して利用することができるようになる。
【００８３】
§２で述べた手法によると、音響データの時間軸上に複数の単位区間が設定され、個々の単位区間に所属する音響データが１つの符号に置換されることになる。したがって、符号化の時間的密度は、この単位区間の設定に関与するパラメータによって左右されることになる。本願発明者は、特に、次の４つのパラメータの設定を変えると、楽譜表示用の符号列と音源再生用の符号列とを得るのに効果的であることを見出だした。
【００８４】
(1)   第１のパラメータは、１つの単位区間に所属する音響データの周波数分布の許容範囲を示すパラメータである。このパラメータは、別言すれば、音響データの一部分を１つの符号に置き換えて表現する際に、この音響データの一部分内の音程の上下の許容範囲を示すパラメータということができる。たとえば、図１に示す例の場合、単位区間Ｕ１内の音響データは、代表周波数Ｆ１を有し、代表強度Ａ１を有する１つの符号データに置き換えられることになるが、これは、単位区間Ｕ１内の音響データ内には代表周波数Ｆ１を基準として所定の許容範囲内の瞬間周波数をもった変極点のみが含まれていたためである。もし、この許容範囲をより小さく設定したとすれば、単位区間Ｕ１内には、許容範囲を越える瞬間周波数をもった変極点が含まれることになり、単一の符号データで表現することはできなくなってしまう。逆に、この許容範囲をより大きく設定したとすれば、単位区間Ｕ１と単位区間Ｕ２とを統合して、両区間の音響データを単一の符号データに置き換えることができるようになる。
【００８５】
結局、楽譜表示のために時間的密度の低い符号化を行う場合には、この周波数分布の許容範囲を大きく設定すればよく、音源再生のために時間的密度の高い符号化を行う場合には、この周波数分布の許容範囲を小さく設定すればよい。具体的には、§２で述べた実施形態の場合、図１５に示す式における周波数の許容範囲ｆｆが、この周波数分布の許容範囲を示すパラメータとなり、この許容範囲ｆｆの値を２通り用意しておくことにより、楽譜表示用の符号列と音源再生用の符号列とを得ることができる。たとえば、図２６(a) に示す音符Ｎａ１は単一の音符でまとめられているのに対し、図２６(b) に示す音符群Ｎｂ１が４つの音符に分けられているのは、後者の周波数分布の許容範囲が、前者の周波数分布の許容範囲に比べて小さく設定されていたため、１つの音符（１つの単位区間）で表現することができなかったためである。
【００８６】
(2)   第２のパラメータは、１つの単位区間に所属する音響データの強度分布の許容範囲を示すパラメータである。このパラメータは、別言すれば、音響データの一部分を１つの符号に置き換えて表現する際に、この音響データの一部分内の信号強度の変動の許容範囲を示すパラメータということができる。たとえば、図１に示す例の場合、単位区間Ｕ１内の音響データは、代表周波数Ｆ１を有し、代表強度Ａ１を有する１つの符号データに置き換えられることになるが、これは、単位区間Ｕ１内の音響データ内には代表強度Ａ１を基準として所定の許容範囲内の信号強度をもった変極点のみが含まれていたためである。もし、この許容範囲をより小さく設定したとすれば、単位区間Ｕ１内には、許容範囲を越える信号強度をもった変極点が含まれることになり、単一の符号データで表現することはできなくなってしまう。逆に、この許容範囲をより大きく設定したとすれば、単位区間Ｕ１と単位区間Ｕ２とを統合して、両区間の音響データを単一の符号データに置き換えることができるようになる。
【００８７】
結局、楽譜表示のために時間的密度の低い符号化を行う場合には、この強度分布の許容範囲を大きく設定すればよく、音源再生のために時間的密度の高い符号化を行う場合には、この強度分布の許容範囲を小さく設定すればよい。具体的には、§２で述べた実施形態の場合、図１５に示す式における強度の許容範囲ａａが、この強度分布の許容範囲を示すパラメータとなり、この許容範囲ａａの値を２通り用意しておくことにより、楽譜表示用の符号列と音源再生用の符号列とを得ることができる。
【００８８】
(3)   第３のパラメータは、単位区間を設定する際に考慮する信号強度の許容値を示すパラメータである。このパラメータは、別言すれば、音響データの一部分を１つの符号に置き換えて表現する際に、この音響データの一部分内の信号として取り扱われる信号強度の最小値を示すパラメータということができる。単位区間を設定する際には、この許容値未満の音響データは除外されることになる。楽譜表示のために時間的密度の低い符号化を行う場合には、この信号強度の許容値を大きく設定すればよく、音源再生のために時間的密度の高い符号化を行う場合には、この信号強度の許容値を小さく設定すればよい。具体的には、§２で述べた実施形態の場合、図１１に示す許容レベルＬＬが、この信号強度の許容値を示すパラメータとなり、この許容レベルＬＬに満たない信号強度をもつ情報（たとえば、変極点Ｐ４，Ｐ９の情報）は除外されることになる。
【００８９】
(4)   第４のパラメータは、最終的な個々の単位区間の区間長の許容値を示すパラメータである。このパラメータは、別言すれば、音響データの一部分を１つの符号に置き換えて表現する際に、当該音響データの一部分の時間的長さの最小値を示すパラメータということができる。§２で述べたように、個々の単位区間の最終的な区間長は、所定の許容値以上となるように調節される。すなわち、許容値に満たない単位区間が存在した場合は、当該単位区間は削除されるか、隣接する単位区間に吸収合併されることになる。楽譜表示のために時間的密度の低い符号化を行う場合には、この区間長の許容値を大きく設定すればよい。より多数の単位区間が削除や吸収合併の対象となるため、全体的な符号密度は減少することになる。一方、音源再生のために時間的密度の高い符号化を行う場合には、この区間長の許容値を小さく設定すればよい。区間長が短い細かな単位区間も残存し、それぞれが符号に変換されるようになるため、全体的な符号密度は増大し、細かい音も再生可能になる。
【００９０】
§５．  異なるトラックへの出力
上述したように、本発明では、同一の音響信号に対して複数通りのパラメータを用いて符号化を行うことにより、複数通りの符号列が１組のデータとして出力されることになるが、これらの符号列をＭＩＤＩデータとして出力する場合には、それぞれを異なるトラックに出力するのが好ましい。ＭＩＤＩ規格では、同一の時間軸をもった複数のトラックにＭＩＤＩデータを分散して収録させることができ、しかも再生時には、任意のトラックのＭＩＤＩデータを選択して再生することができる。そこで、たとえば、第１のトラックには、時間的密度の低い楽譜表示用のＭＩＤＩデータを収録し、第２のトラックには、時間的密度の高い音源再生用のＭＩＤＩデータを収録する、というように、トラックごとに分けて各ＭＩＤＩデータを収録しておけば、楽譜表示を行う際には第１トラックのＭＩＤＩデータを利用し、音源再生を行う際には第２トラックのＭＩＤＩデータを利用する、ということが可能になる。
【００９１】
図２７は、同一の音響信号に基いて、符号化のパラメータを変えることにより、楽譜表示用ＭＩＤＩデータと音源再生用ＭＩＤＩデータとを生成し、前者をトラック０に収録し、後者をトラック１〜４に分けて収録して１組のＭＩＤＩデータを構成した例を示す図である。楽譜表示用ＭＩＤＩデータは、音符の時間的密度が低いため、１つのトラックに収録しやすいが、音源再生用ＭＩＤＩデータは、音符の時間的密度が高いため、ここでは４つのトラックに分けて収録している。
【００９２】
図２８および図２９は、符号化の対象となる音響データとして、実際の鳥の鳴き声を用い、楽譜表示用ＭＩＤＩデータと音源再生用ＭＩＤＩデータとを作成した例を示す図である。図２８に示す原音波形と図２９に示す原音波形とは同一の波形であり、鳥の鳴き声を録音することにより得られた波形である。図２８のトラック０の欄には、この原音波形に対して、楽譜表示用パラメータを用いた符号化を行うことによって得られた楽譜表示用ＭＩＤＩデータが所定のフォーマットで表示されており、図２９のトラック１〜トラック４の各欄には、この原音波形に対して、音源再生用パラメータを用いた符号化を行うことによって得られた音源再生用ＭＩＤＩデータが所定のフォーマットで表示されている。このＭＩＤＩデータ表示用フォーマットは、ＭＩＤＩデータを音符に準じた符号で表現するためのものであり、黒く塗りつぶされた個々の矩形が１つの音符を示す図形となっている。この矩形の上辺の上下方向の位置は、この音符の音程（ドレミファ）を示しており、この矩形の左辺の左右方向の位置は音の時間的な位置を示しており、この矩形の横幅は音の長さを示しており、この矩形の縦幅は音の強さを示している（このようなフォーマットは、特願平９−６７４６８号明細書に開示されている）。
【００９３】
図２８のトラック０に示された楽譜表示用ＭＩＤＩデータの符号密度に比べると、図２９のトラック１〜４に示された音源再生用ＭＩＤＩデータの符号密度は、かなり高いことがわかる。全く同じ鳥の鳴き声を符号化したにもかかわらず、用いるパラメータによって、これだけの差が生じることになる。図３０に示す楽譜は、図２８および図２９に示すＭＩＤＩデータを音符で表示した例を示すものである。トラック０に示された楽譜表示用ＭＩＤＩデータの音符は、一般的な楽譜として表示するのに適した形態になっているが、トラック１〜４に示された音源再生用ＭＩＤＩデータの音符は、４つのトラックに分けて収容されているにもかかわらず、音符数がかなり多く、楽譜を表示する用途には不適当である。しかしながら、ＭＩＤＩ音源を用いて実際に再生を行ってみると、トラック１〜４に示された音源再生用ＭＩＤＩデータを用いて再生を行った場合は、鳥の鳴き声という原音波形に近い再生音が得られるのに対し、トラック０に示された楽譜表示用ＭＩＤＩデータを用いて再生を行った場合は、細かな音の情報が再現されず、原音を再生するという用途には不適当である。
【００９４】
結局、楽譜表示を行う場合には、トラック０に収録された楽譜表示用ＭＩＤＩデータを用い、音源再生を行う場合には、トラック１〜４に収録された音源再生用ＭＩＤＩデータを用いる、というように、選択的な利用を行うことにより、個々の用途に適した利用が可能になる。なお、ここでは、楽譜表示用ＭＩＤＩデータと音源再生用ＭＩＤＩデータとの２通りの符号データを生成した例を示したが、本発明は、このような２通りの符号データの作成に限定されるものではなく、用途に応じて、３通り以上の符号データを作成することももちろん可能である。
【００９５】
また、ＭＩＤＩ規格によると、個々のトラックには、音符を示すデータの他にも、種々の制御符号を付加することが可能である。したがって、各トラックごとに、音の再生を行うか否かを示す制御符号を付加しておくと便利である。たとえば、上述の例の場合、トラック０については音の再生を行わない旨の制御符号（いわゆるサイレント符号）を付加し、トラック１〜４については音の再生を行う旨の制御符号を付加しておけば、音源再生時には、トラック１〜４に収録された音源再生用ＭＩＤＩデータのみが再生されることになる。
【００９６】
なお、前述したように、ビブラートやトリラーといった音程の細かな揺れは、楽譜上ではコメント文として表示されることが多い。たとえば、図２６(a) に示す例では、音符Ｎａ１〜Ｎａ３に対して「Vibrato 」なるコメント文が記載されている。本発明に係る符号化を実施する場合、このようなコメント文を自動的に生成させることも可能である。すなわち、楽譜表示用トラックに収録された符号列と音源再生用トラックに収録された符号列とを同一の時間軸上で比較し、音源再生用トラックに収録された符号列によってのみ表現されている音楽的特徴を認識し、この音楽的特徴を示す符号を、楽譜表示用トラックに収録された符号列の対応箇所に付加する処理を行うようにすればよい。たとえば、上述の例では、図２６(a) の符号列と図２６(b) の符号列とを同一の時間軸上で比較すると、音符Ｎａ１と音符群Ｎｂ１とを対応づけることができ、音符群Ｎｂ１によってビブラートという音楽的特徴が表現されていることを認識することができる。このような認識を行うためには、たとえば、音程差が２半音以内の音符が４つ以上並んでおり、音程が高低高低と交互に上下するような配列になっている場合にはビブラートと認識する、といった判定基準を予め定めておけばよい。このような基準によれば、図２６(b) の音符群Ｎｂ１〜Ｎｂ３には、いずれもビブラートという音楽的特徴が表現されていることが認識できるため、これに対応する図２６(a) の音符Ｎａ１〜Ｎａ３を表示する際に、「Vibrato 」なるコメント文を併せて表示するような処理を行えばよい。あるいは、ＭＩＤＩ規格によれば、個々の音符に対して修飾符号を付加することが可能なので、「Vibrato 」を示す修飾符号を音符Ｎａ１〜Ｎａ３に付加するようにしてもよい。
【００９７】
§６．  本発明に係る音響信号の符号化装置および符号データの編集装置の構成
最後に、これまで述べてきた符号化方法を実施するための音響信号の符号化装置の構成およびこの符号化装置で作成された符号データの編集装置の構成について述べる。図３１は、このような符号化装置と編集装置とを兼ね備えた装置の基本構成を示すブロック図である。この装置は、時系列の強度信号として与えられる音響信号（原音波形）を符号化して出力するとともに、出力された符号データに対して編集を施す機能を有している。
【００９８】
音響データ入力手段１０は、符号化対象となる音響信号（原音波形）をデジタルの音響データとして入力する機能を有し、具体的には、Ａ／Ｄコンバータを備えた音響信号入力回路などによって構成される。符号化処理手段２０は、こうして入力した音響データを、符号列に変換する符号化処理を行う機能を有する。ここで行われる符号化処理は、既に§２において述べたとおりである。パラメータ設定手段３０は、この符号化処理手段２０において行われる符号化処理に用いるパラメータを設定する機能を有し、この実施例では、表示用パラメータと再生用パラメータとの２通りのパラメータが設定される。もちろん、３通り以上のパラメータを設定することも可能であり、互いに時間的密度が異なる符号化が行われるような複数通りのパラメータを設定することができれば、どのようなパラメータ設定を行ってもかまわない。符号化処理手段２０は、音響データ入力手段１０から入力された同一の音響データに対して、この複数通りのパラメータを用いることにより、互いに時間的密度が異なる複数通りの符号列を生成する処理を行うことになる。図では、符号化処理手段２０により、表示用符号列と再生用符号列との２通りの符号列が生成された例が示されている。
【００９９】
符号列出力手段４０は、こうして生成された複数通りの符号列を、１組のデータとして出力する機能を有する。図示の例では、記録装置（あるいは記録媒体）５０に対して、表示用符号列と再生用符号列との２通りの符号列が出力された状態が示されている。上述したように、ＭＩＤＩデータとして出力する場合であれば、これらの符号列を複数のトラックに分けて出力するのが好ましい。表示再生手段６０は、こうして出力された符号データを用いて、楽譜表示と音源再生とを行う手段であり、表示用符号列に基いて楽譜の表示を行うとともに、再生用符号列を用いて音源再生を行う機能を有している。
【０１００】
符号編集手段７０は、記録装置（あるいは記録媒体）５０に出力された符号データに対して編集を施す装置である。ＭＩＤＩデータを取り扱う一般的な装置においても、ＭＩＤＩデータに対する編集が行われるが、符号編集手段７０は、本発明に係る方法で生成された符号データに対する編集を行うための特別な機能を有している。すなわち、記録装置（あるいは記録媒体）５０に出力された２通りの符号列は、同一の音響データに対して、互いに時間的密度が異なる符号化を施すことにより生成された符号列であり、図示の例の場合、表示用符号列と再生用符号列とによって構成されている。ここで、表示用符号列と再生用符号列とは、時間軸を同一にした互いに整合性をもったデータである。したがって、一方の符号列に対して編集を施した場合、他方の符号列に対しても同様の編集を施しておかないと、両者間の整合性が失われてしまうことになる。符号編集手段７０は、このような整合性を保つために、一方の符号列に対して編集を施すと、もう一方の符号列に対しても同等の編集を自動的に施す機能を有している。
【０１０１】
すなわち、符号編集手段７０には、まず、複数の符号列のうちの１つを編集対象符号列、残りの符号列を非編集対象符号列として特定する機能が備わっており、オペレータの指示に基いて、編集対象符号列の編集箇所に対して所定の編集を施すことが可能である。そして、このように、編集対象符号列に対して所定の編集を施した場合、時間軸上においてこの編集箇所に対応する非編集対象符号列上の箇所を、対応箇所として求め、この対応箇所に対して、編集箇所に対して行われた編集と同等の編集を施す自動編集機能を備えている。
【０１０２】
たとえば、図３２に示すように、表示用ＭＩＤＩトラック０に収録された表示用符号列を編集対象符号列として選択し、図にハッチングを施して示す部分を編集箇所として何らかの編集を施したとする。具体的には、この編集箇所内の符号に対して、削除、移動、複写、音程の変更、テンポの変更などの編集が行われたものとしよう。この場合、非編集対象符号列となる再生用ＭＩＤＩトラック１〜４に収録された再生用符号列について、時間軸上において編集箇所に対応する箇所が対応箇所として求められる。図示の例の場合、トラック１〜４にハッチングを施して示す部分が対応箇所として求められる。そして、この対応箇所に対して、編集箇所に対して行った編集と同等の編集が行われることになる。もちろん、編集箇所内の符号と各対応箇所内の符号とは同一ではないが、少なくとも時間軸を基準として、個々の符号間の対応関係を認識することができるため、上述した削除、移動、複写、音程の変更、テンポの変更などの編集については、同等の編集を施すことが可能である。
【０１０３】
以上、図３１に示すブロック図に基いて、本発明に係る音響信号の符号化装置および符号データの編集装置の構成を述べたが、これらの装置は、実際にはコンピュータおよびその周辺機器からなるハードウエアに、所定のプログラムをインストールすることにより構成することができ、そのようなプログラムは、コンピュータ読取り可能な記録媒体に記録して配布することができる。したがって、図３１に示す各構成ブロックのうち、音響データ入力手段１０、符号化処理手段２０、パラメータ設定手段３０、符号列出力手段４０、表示再生手段６０、符号編集手段７０は、いずれもコンピュータ、キーボード、マウス、ディスプレイ、プリンタなどのハードウエアによって構成することができ、記録装置（記録媒体）５０は、このコンピュータに用いられるメモリやハードディスクなどの記憶装置や、フロッピディスク、ＭＯディスク、ＣＤ−ＲＯＭなどの記録媒体によって構成することができる。また、本発明によって作成された複数通りの符号列のデータは、コンピュータ読取り可能な記録媒体５０に収録して配布することが可能である。
【０１０４】
以上、本発明を図示する実施形態に基いて説明したが、本発明はこれらの実施形態に限定されるものではなく、この他にも種々の態様で実施可能である。たとえば、上述した§２では、原音波形のピーク位置に基いて単位区間を設定し、代表周波数と代表強度とを定める方法を述べたが、単位区間の設定方法や、代表周波数および代表強度を定める方法としては、他の方法を用いてもよい。たとえば、原音波形の細かな部分ごとにフーリエ変換を用いて代表周波数および代表強度を定めるようなことも可能である。
【０１０５】
【発明の効果】
以上のとおり本発明に係る音響信号の符号化装置によれば、広範な用途に利用可能な符号データを得ることができるようになり、また、本発明に係る符号データの編集装置によれば、そのような符号データに対する効率的な編集が可能になる。
【図面の簡単な説明】
【図１】本発明に係る音響信号の符号化方法の基本原理を示す図である。
【図２】本発明に係る音響信号の符号化方法の実用的な手順を示す流れ図である。
【図３】入力した音響データに含まれている直流成分を除去するデジタル処理を示すグラフである。
【図４】図３に示す音響データの一部を時間軸に関して拡大して示したグラフである。
【図５】図４に矢印で示す変極点Ｐ１〜Ｐ６のみを抜き出した示した図である。
【図６】多少乱れた音響データの波形を示すグラフである。
【図７】図６に矢印で示す変極点Ｐ１〜Ｐ７のみを抜き出した示した図である。
【図８】図７に示す変極点Ｐ１〜Ｐ７の一部を間引処理した状態を示す図である。
【図９】個々の変極点について、瞬間周波数を定義する方法を示す図である。
【図１０】個々の変極点に関する情報に基づいて、単位区間を設定する具体的手法を示す図である。
【図１１】所定の許容レベルＬＬに基づくスライス処理を示す図である。
【図１２】単位区間設定の対象となる多数の変極点を矢印で示した図である。
【図１３】図１２に示す変極点に対して、所定の許容レベルＬＬに基づくスライス処理を行う状態を示す図である。
【図１４】図１３に示すスライス処理によって変極点を除外し、暫定区間Ｋ１，Ｋ２を設定した状態を示す図である。
【図１５】図１４に示す暫定区間Ｋ１についての不連続位置を探索する処理を示す図である。
【図１６】図１５で探索された不連続位置に基づいて、暫定区間Ｋ１を分割し、新たな暫定区間Ｋ１−１とＫ１−２とを定義した状態を示す図である。
【図１７】図１６に示す暫定区間Ｋ１−２，Ｋ２についての統合処理を示す図である。
【図１８】図１７に示す統合処理によって、最終的に設定された単位区間Ｕ１，Ｕ２を示す図である。
【図１９】各単位区間についての代表周波数および代表強度を求める手法を示す図である。
【図２０】５つの区間Ｅ０，Ｕ１，Ｅ１，Ｕ２，Ｅ２を定義するための符号データを示す図である。
【図２１】図２０に示す単位区間Ｕ１，Ｕ２内の音響データを符号化して得られる符号データの一例を示す図表である。
【図２２】図２０に示す単位区間Ｕ１，Ｕ２内の音響データを符号化して得られる符号データの別な一例を示す図表である。
【図２３】一般的なＳＭＦ形式の符号データの構成を示す図である。
【図２４】各単位区間内の音響データについてのＭＩＤＩデータへの具体的な変換方法を示す図である。
【図２５】図２０に示す単位区間Ｕ１，Ｕ２内の音響データを、ＳＭＦ形式のＭＩＤＩデータを用いて符号化した状態を示す図表である。
【図２６】複数のパラメータを用いて作成された２通りのＭＩＤＩデータの例を示す図である。
【図２７】複数のパラメータを用いて作成された２通りのＭＩＤＩデータを、複数のトラックに収録した例を示す図である。
【図２８】鳥の鳴き声を原音波形として、楽譜表示用パラメータを用いて生成されたＭＩＤＩデータを示す図である。
【図２９】図２８に示す原音波形と同一の原音波形について、音源再生用パラメータを用いて生成されたＭＩＤＩデータを示す図である。
【図３０】図２８および図２９に示すＭＩＤＩデータを音符で表現した例を示す図である。
【図３１】本発明に係る音響信号の符号化装置および音符データの編集装置の構成例を示すブロック図である。
【図３２】本発明に係る符号データの編集装置に特有の編集機能を説明する図である。
【符号の説明】
１０…音響データ入力手段
２０…符号化処理手段
３０…パラメータ設定手段
４０…符号列出力手段
５０…記録装置（記録媒体）
６０…表示再生手段
７０…符号編集手段
Ａ，Ａ１，Ａ２…代表強度
ａ１〜ａ９…変極点の信号強度
ａａ…許容範囲
Ｄ…直流成分
Ｅ０，Ｅ１，Ｅ２…空白区間
ｅ１〜ｅ６…終端位置
Ｆ，Ｆ１，Ｆ２…代表周波数
ｆ１〜ｆ１７…変極点の瞬間周波数
ｆｆ…許容範囲
ｆｓ…サンプリング周波数
Ｋ１，Ｋ１−１，Ｋ１−２，Ｋ２…暫定区間
Ｌ，Ｌ１〜Ｌ４…区間長
ＬＬ…許容レベル
Ｎ…ノートナンバー
Ｎａ１〜Ｎａ５…音符
Ｎｂ１〜Ｎｂ３…音符群
Ｐ１〜Ｐ１７…変極点
ｓ１〜ｓ６…始端位置
Ｔ…デルタタイム
ｔ１〜ｔ１７…時間軸上の位置
Ｕ１〜Ｕ６…単位区間
Ｖ…ベロシティー
ｘ…サンプル番号
φ…周期
【図１】
0004152502.tif 000002
【図２】
0004152502.tif 000003
【図３】
0004152502.tif 000004
【図４】
0004152502.tif 000005
【図５】
0004152502.tif 000006
【図６】
0004152502.tif 000007
【図７】
0004152502.tif 000008
【図８】
0004152502.tif 000009
【図９】
0004152502.tif 000010
【図１０】
0004152502.tif 000011
【図１１】
0004152502.tif 000012
【図１２】
0004152502.tif 000013
【図１３】
0004152502.tif 000014
【図１４】
0004152502.tif 000015
【図１５】
0004152502.tif 000016
【図１６】
0004152502.tif 000017
【図１７】
0004152502.tif 000018
【図１８】
0004152502.tif 000019
【図１９】
0004152502.tif 000020
【図２０】
0004152502.tif 000021
【図２１】
0004152502.tif 000022
【図２２】
0004152502.tif 000023
【図２３】
0004152502.tif 000024
【図２４】
0004152502.tif 000025
【図２５】
0004152502.tif 000026
【図２６】
0004152502.tif 000027
【図２７】
0004152502.tif 000028
【図２８】
0004152502.tif 000029
【図２９】
0004152502.tif 000030
【図３０】
0004152502.tif 000031
【図３１】
0004152502.tif 000032
【図３２】
0004152502.tif 000033