(57)【要約】      （修正有）【課題】音楽の同音符長の音符粒子集合への展開により、小区間同期条件を満足する複数チャネルの行列を自動生成する行列楽譜処理法を提供する。【解決手段】共通な音符粒子長を求める抽出処理と、音楽の時系列集合を時間周波数変換することによって生成される複数チャネルの周波数集合から等価な音符長を有する音符粒子集合を抽出し、要求されたチャネル数に分類する、音符粒子集合のクラスタリング処理と、小区間内の行数と音符粒子数が等価になるように生成される音符粒子の行列を生成する行列化処理と、隣接する時系列行間の同音程音符粒子の音符長を結合する処理を含む。【選択図】図１
2016212205.tif 000002
【特許請求の範囲】
【請求項１】
複鍵チャネルを含む複数チャネルの採譜処理であって、
計算機が、
音符時系列のすべての音符粒子に共通な音符粒子長を求める抽出処理と、
音楽の音の波の時系列集合を時間周波数変換し、得られた複数チャネルの周波数集合から音符粒子集合を抽出し、要求されたチャネル数に分類する音符粒子集合のクラスタリング処理と、
前記抽出処理と前記クラスタリング処理に基づいて、前記音符粒子長単位ごとの複数チャネルの音符粒子集合の各行を行、各チャネルが、少なくとも、ＭＩＤＩ記号と前記音符粒子長の要素を含む前記複数チャネルを列とする行列であって、小区間内の行数と音符粒子数が等価となる行列を生成する行列化処理を含み、
前記音符粒子集合が前記小区間同期の条件を満たす行列となることを特徴とする行列楽譜処理法。
【請求項２】
計算機が、
前記行列の行方向に隣接する時系列行間の同音程音符粒子の音符長を結合して、前記小区間同期の範囲で、音符の長さを変更することにより、前記音符粒子集合から音符集合を生成する音符長変換処理を有し、
前記音符集合が前記小区間同期の条件を満たす行列となることを特徴とする、
請求項１記載の行列楽譜処理法。
【請求項３】
計算機が、
前記行列を表セル集合の展開型エクセル楽譜として生成することを特徴とする請求項１または請求項２記載の行列楽譜処理法。
【請求項４】
５線楽譜に対応する圧縮型エクセル楽譜の展開法であって、
計算機が、
列方向に、メロディ領域、和音領域、そして、繰り返し制御領域に区分する機能部と、
前記和音領域にある各和音記号を対応する４つの音符列に展開する和音展開処理部と、
前記繰り返し制御領域に存在する各繰り返し記号を分岐行記号と分岐先行記号の対に分類し、前記メロディ領域と前記和音領域に存在する音符集合において、展開処理のポインタが前記分岐行記号に対応する分岐行の位置にあるとき、前記ポインタが前記分岐先行記号に対応する分岐先行の位置に遷移したとき、前記ポインタの遷移に従って、遷移後に、読み出される部分音符集合を、前記分岐行の現在位置までに生成された累積部分音符集合に、追加するアペンド展開処理部と、
前記展開処理時において、複数チャネルの小区間で音符長の累積長が等価、そして、前記小区間にある行数と音符数が等価となるように、音符長０のダミー音符を小区間にある行に挿入するダミー音符の挿入処理部とを有し、
前記小区間同期の条件を満足しながら前記圧縮型エクセル楽譜を展開型エクセル楽譜に展開することを特徴とする行列楽譜処理法。
【請求項５】
前記展開型エクセル楽譜の生成時に、チャネル間に渡る列方向の書き込み処理を含み、前記展開型エクセル楽譜の読み出し時には、チャネルごとの行方向の読み出し処理を含むことを特徴とする請求項３または請求項４記載の行列楽譜処理法。
【請求項６】
計算機が、
前記展開型エクセル楽譜を標準のＭＩＤＩ.ｃｓｖに変換する変換部と、
前記計算機のデスプレィ上で、トラックリスト表示、イベントリスト表示、ピアノロール表示、自動５線楽譜表示のうち少なくとも１つを画面表示する処理部を含み、
前記展開型エクセル楽譜に従った音楽を演奏することを特徴とする請求項３または請求項４記載の行列楽譜処理法。
【請求項７】
計算機が、
回路ネットリストの記述に対応する発振器の回路変数を音の波として生成する回路シミュレーション部と、
自動採譜された前記展開型エクセル楽譜に記述された複数チャネルのＭＩＤI情報と前記回路変数からの音の波とを結合してＷａｖファイルを生成する生成部を有し、
前記展開型エクセル楽譜に従った音楽を演奏することを特徴とする請求項３の行列楽譜処理法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、デジタル音楽、特に、音楽理解に関するものである。
【背景技術】
【０００２】
音楽の音は、楽譜が作曲され、演奏され、そして、流される。音学は工学を含む。表現のための工学である。特に、混合された多重音の理解には、統計確率、時空間の構造、時間周波数の構造、同期、機械学習、調波、最適化、回路、ニューロ、通信、認識、歌唱言語の韻律、音素、知覚、発声など、いわば、非線形情報処理の解析を必要とする。楽譜は、時系列の音符集合である。音符集合の各音符は、音程、長さ、そして、大きさを有する要素である。音符の音程の周波数は一つであって、ＭＩＤＩ（Ｍｕｓｉｃａｌ  Ｉｎｓｔｒｕｍｅｎｔ  Ｄｉｇｉｔａｌ  Ｉｎｔｅｒｆａｃｅ）番号に対応するが、楽器が奏でる音楽の音の波は、非線形で、ひとつの正弦波の基本周波数成分に加えて、可聴できる程の大きさの高調波成分を多く含む。いわば、音楽の音は、正弦波の混合波である。混ぜることは簡単であるが、混ぜた波から元の正弦波、すなわち、音符の音程、長さ、そして大きさを再現することはむつかしい。音源分離、混合音理解の難しさである。チャネル数が多くなればなるほどむつかしい。音楽の音の波から音符に対応する音程、長さ、大きさを検出する、いわば、多重周波数推定、楽譜自動生成（自動採譜）のむつかしさへの克服は技術の挑戦でもある。歌唱の言語理解、音素分解とも関係する、いわば、インタラクション性の高い音楽理解への挑戦である。
従来、楽譜が１チャネル（楽器音）のみである場合には、音楽の音の波、すなわち、音符集合の時系列をフレームごとに時間周波数変換し、フレーム内の基本周波数スペクトルをひとつ検出し、対応するＭＩＤＩ周波数に変換する方法等が有効に利用されてきた。口笛、鼻歌、楽器の演奏から自動で楽譜を作成するソフト、ＳｃｏｒｅＣｌｏｕｄや、複数の楽器音を独立にそれぞれ複数のＭＩＤＩトラックに表示し演奏するソフト、Ｉｎｔｅｌｌｉｓｃｏｐｅ、周波数の連続性を持つ音の集合からクラスタリングでひとつのＭＩＤＩ周波数を生成するＥａｓy  Ｍｕｓｉｃ  Ａｎａｌｙｓｉｓなどが活用されている。また、複数トラックのＭＩＤＩの音符表現媒体として、制御記号の多いＭＩＤＩ.ｃｓｖ、ＭＩＤＩ．ｍｉｄ（バイナリ）が汎用的に利用されている。従来、音楽の音の波に対応するひとつのチャネルに関する楽譜生成の技術は多く存在する。ひとつのチャネルである場合には、チャネル間の同期、特に小区間の同期取得の処理が不必要で、不完全ではあるが、音程と音符長を再現できる。テンポ処理は、一拍の長さ、すなわち、ビート（発音時刻）間隔の時間長を求める処理である。音量の時間変化のピークからビートあるいはテンポを検出する技術（非特許文献１）、音量変化のエネルギーから発音時刻を検出する技術（非特許文献１、３）が開示されている。音量変化の周期性により、その自己相関のピークを与える時間差から、テンポを統計的に探索する技術（非特許文献２）が開示されている。自動楽譜作成技術の特許文献として、基本周波数抽出、位相抽出、調波解析、最適化手法、誤り訂正法を組み合わせた方法（特許文献１）が開示されている。音楽データと楽譜記号データとを対応化させる技術（特許文献２）、楽譜音符を基準単位の音符に結合する結合処理の技術（特許文献３）が開示されている。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特許公開  ＵＳ  ２００９―１８６８１８
【特許文献２】特許公開  ２００８−１２９５０８号広報
【特許文献３】特許公開  ２００２−２５８８３７号広報
【非特許文献】
【０００４】
【非特許文献１】J. Bello, L. Daudet, S. Abdallah, C. Duxbury, M. Davies, and M. Sandler, “A tutorial on onset detection in music signals,” IEEE Trans. Speech Audio Process., vol. 13, pp. 1035 &#8211; 1047, 2005.
【非特許文献２】M. Goto, “An audio-based real-time beat tracking system for music with or without drum-sounds,” J. New Music Res., vol. 30, no. 2, pp.159&#8211;171, 2001.
【非特許文献３】Federic Patin, ”Beat Detection Algorithms”, Jun 07 2003, Math and Phisics.
【発明の概要】
【発明が解決しようとする課題】
【０００５】
音楽の音の波は、時刻ごとの周波数成分集合の中に複数の音程成分、いわば、ピアノロール空間の複鍵チャネルを含み、その複鍵チャネル数は時刻ごとに異なる。単鍵チャネルは、一本指による鍵盤演奏に対応する単チャネルと定義され、複鍵チャネルは、複数本の指による同時鍵盤演奏に対応する複数チャネルと定義される。従来、１チャネルは、１楽器に対応する場合が多く、複鍵チャネルを含む複数チャネルのＭＩＤＩ音符集合の行列楽譜を、小区間（小節を含む）同期条件下で、自動生成する処理はなかった。また、小区間の同期条件を満足させながら、複数チャネルの同音符長の音符粒子集合を生成し、それを異音符長の音符集合に変換する処理もなかった。理由は、音程粒子、音符長粒子の概念はなく、標準ＭＩＤIファイル（ＳＦＭ）には、複数チャネルの小区間の同期イベントの概念、小区間の累積音符長の等価管理の概念がないため、そして、小区間の行数等価と音符数等価を条件とする同期記述による行列化処理の概念もなかったからである。そのため、採譜結果において、小区間同期記述を満足する複鍵チャネルをエクセル楽譜として展開できず、楽器音が内包する同時音程数の減少化現象が起きるという問題がある。さらに、汎用のＭＩＤＩ.ｃｓｖは、ＯＮとＯＦＦの音符イベント表現以外の多くの制御記号を含み、同期記述化される複数チャネルの同時列書き込み処理の概念がなく、同期記述のＭＩＤＩ記憶媒体として活用されていないという問題がある。
【０００６】
１つの側面において、本発明は、チャネル間秩序のある小区間同期記述を必要とする複鍵チャネルの採譜技術であって、音楽の同音符長の音符粒子集合への分解かつ展開により、同期記述の条件を満足する複数チャネルの行列、すなわち、空でない有効要素（セル）からなるエクセル表現として、音譜を自動生成する。
【課題を解決するための手段】
【０００７】
複鍵チャネルを含む複数チャネルの採譜処理であって、
計算機が、
音符時系列のすべての音符粒子に共通な音符粒子長を求める抽出処理と、
音楽の音の波の時系列集合を時間周波数変換し、得られた複数チャネルの周波数集合から音符粒子集合を抽出し、要求されたチャネル数に分類する音符粒子集合のクラスタリング処理と、
前記抽出処理と前記クラスタリング処理に基づいて、前記音符粒子長単位ごとの複数チャネルの音符粒子集合の各行を行、各チャネルが、少なくとも、ＭＩＤＩ記号と前記音符粒子長の要素を含む前記複数チャネルを列とする行列であって、小区間内の行数と音符粒子数が等価となる行列を生成する行列化処理と、
前記行列の行方向に隣接する時系列行間の同音程音符粒子の音符長を結合して、前記小区間同期の範囲で、音符の長さを変更することにより、前記音符粒子集合から音符集合を生成する音符長変換処理と、
を有し、
本発明は、前記音符集合が小区間同期の条件を満たす行列となることを特徴とする行列楽譜処理法を構成している。
【発明の効果】
【０００８】
本発明では、圧縮型エクセル楽譜は、小区間にて同期記述された５線対応の媒体で、ＰＣ演奏、ＰＣ保存、インターネット通信の容易なＩＴＣ媒体となり、展開型エクセル楽譜は、複数チャネルの時系列音符集合の各チャネルの音符の音程、音符長、大きさが列方向に展開されたＩＣＴ媒体であって、しかも、音楽の音の波からチャネル間秩序のある小区間同期の条件を満たす行列楽譜として自動生成され、複鍵チャネルを含む複数チャネルが採譜されるという効果がある。
【図面の簡単な説明】
【０００９】
【図１】図１は、本発明の行列楽譜処理法の処理の流れを示す図である。
【図２】図２は、本発明の行列楽譜処理法の処理を実行する計算機（ＰＣ）のハードウェア構成を示す図である。
【図３】図３は、本発明の行列楽譜処理法の処理を実行する音楽プログラムの実行画像表示を示す図である。
【図４】図４は、従来の５線楽譜に使用されている一部の繰り返し記号の図である。
【図５】図５は、従来の５線楽譜に使用されている一部の繰り返し記号の図である。
【図６】図６は、従来の５線楽譜に使用されている一部の繰り返し記号の図である。
【発明を実施するための最良の形態】
【００１０】
楽器を奏でることによって混合された音楽の音の波は、耳の蝸牛部分にある周波数振動子（有毛細胞）アレイの共鳴現象によって、基本振動波に分解され、脳に伝達され、認識される。脳は、楽譜情報を感覚的に復元している。計算機（マシン）は、音楽の音の波から楽譜情報をどこまで理解し再現できるだろうか？  音楽の音の波は、正弦波ひとつの基本周波数成分に可聴できる程の大きさを有する高調波成分が混合されている。音源生成の最も簡単な方法は周波数成分を多く持ち、様々な音色に使用される鋸波形、鋸波形よりも周波数成分が少なく丸い音がする三角波、Ｄｕｔｙ比の調整可能なパルス状の矩形波、非周期的なノイズ波形などを数学方程式によって生成することである。すでに確立された方法である。この方法は、自由度が小さく、生成できる種類と音色が制限される。制限されないほどの自由度を上げる方法は多く考えられる。例えば、多くのオシレータの回路構成を回路シミュレーションにて記述し、内包する回路の微分方程式を数値積分することにより複数の波形を生成する。この回路解析法は、ネットリスト設計による自由度が高く、複数の波形を混合するだけでなく、オシレータを複雑組み合わせることにより、様々な音をつくることができる。回路によるＳｏｕｎｄ  Ｄｙｎａｍｉｃａｌ  ＰｒｏｇｒａｍをＰＣ上で実行することになる。複数の線スペクトルを生成するコムフィルタ（Ｃｏｍｂ  Ｆｉｌｔｅｒ）を回路で表現できる。カオス現象や概周期現象などを表現するアトラクタの形は音色に対応しないが、アトラクタに対する演算処理を使って可聴できる程の大きさのスペクトルに対応する音を生成する非線形情報処理も有効となる。音源によって生成された音の波は、楽譜に表現された各音符の音程、音符長、そして大きさの情報を含むＭＩＤＩ情報と結合することにより、音符集合の音の波に変換される。
【００１１】
ＭＩＤＩ情報のうち、音程に対応するＭＩＤＩ番号（例えば、６９）、ＭＩＤＩアルファベット（ＭＩＤＩ番号６９に対応するＡ音）あるいはドレミ表記は、総称してＭＩＤＩ記号と呼ぶ。音符は、ＭＩＤＩ記号、音符長、大きさの集合である。ＭＩＤＩ記号は、ピアノ鍵盤番号に対応し、音符の音程（例えば、Ａ音なら周波数は４４０Ｈｚ）に対応する。本発明のチャネルは、行（下）方向に展開する音符の時系列の集合として定義される。音程は、ＭＩＤＩ番号に対応するひとつの周波数であるので、ひとつのチャネルは、ひとつの音程変化に依存した単音に対応し、鍵盤よるピアノ演奏では、１指演奏、すなわち、単鍵チャネルとして定義される。１０指演奏は、１０チャネル演奏、すなわち、複鍵チャネルとして定義される。複数チャネルは、複鍵チャネルを含む。和音は、展開すると最大４つの音符から構成されるので４チャネルの複数チャネルである。また、メロディチャネルは、ピアノでは、単鍵チャネルに対応する独立したひとつのチャネルとして定義される。間欠に演奏されるメロディチャネルも休符の多い独立したひとつの単鍵チャネルとして定義される。どんな楽器でも、その音の波を採譜する場合、本発明では、音楽の音の波は同期記述の複鍵チャネルからなるピアノロールに写像される。どんな音でも、採譜先をピアノ楽譜と仮定すれば、複数チャネルという言葉は複鍵チャネルを含む意味で使われる。本発明の基本概念は、異種音程を有し、同期かつ等価な長さを有する音符粒子集合から音楽が生成されることである。
【００１２】
展開型エクセル楽譜の生成時には、行列の複数チャネルは、チャネル間に渡る列方向に書き込まれ、生成された複数チャネルの行列は、チャネルごとに行方向に読み出される。
【００１３】
図１は、本発明を実施するための行列楽譜処理法の処理、すなわち、図２の計算機１０が実行する処理の流れである。本発明の主たる部分は、処理の流れ１の部分である。ＭＩＤＩ空間における圧縮型と展開型のエクセル楽譜の生成処理法を供給する。エクセル（主に、マイクロソフト・エクセルの表計算ソフトを想定）は、セル要素からなる表集合である。ここで、空でない有効セルを要素とする表、すなわち、空セルの要素を含まない行と列からなる２次元のセル集合を行列と定義する。有効な空セルを含めたセル集合を行列と定義することもできるが、容易性の範疇である。
【００１４】
５線楽譜認識部１００によって５線楽譜が認識される。その５線楽譜に対応する圧縮型エクセル楽譜は、生成処理部１０１にて、列方向に、メロディ領域、和音領域、そして、繰り返し制御領域に区分される。圧縮型エクセル楽譜の音符集合は、展開部１０２において、メロディ領域と和音領域に関し、繰り返し制御領域の各繰り返し記号の意味解析に従ったアペンド処理による展開と和音展開とによって展開される。結果として、繰り返し制御領域は削除され、展開型エクセル生成処理部１０８において、メロディ領域と和音領域は、行列表現、すなわち、展開型エクセル楽譜となる。展開は、ダミー音符Ｄによる同期記述の処理を含む。ここで、ダミー音符Ｄ（ＤはＭＩＤＩ記号で代表されるが、ＭＩＤＩ記号、０の音符長、大きさから成る音符）のセルは、エクセル上では、空セルでない有効セルであって、音符長が０である無長無音を表現する。
【００１５】
別な処理の流れとして、処理部１０３、１０４、１０５、１０６がある。展開型エクセル楽譜は、音楽の音の波から自動的に生成される。展開型エクセル楽譜は、音符時系列の複数チャネルの行列表現となる。この自動生成では、まず、Ｗａｖファイルとして入力された音楽の音の波の時系列集合は、時間周波数変換部１０３にて、周波数集合に変換される。Ｗａｖファイルは、ステレオである場合、左音Ｌ（ｔ）と右音Ｒ（ｔ）に分けてダンプ化され、それぞれが周波数変換ＴによってＦ（Ｌ（ｔ））とＦ（Ｒ（ｔ））となる。これらが処理対象となる。場合によっては、演算を記号＊＊としたとき、時間域演算Ｌ（ｔ）＝Ｌ（ｔ）＊＊Ｒ（ｔ）後の周波数変換Ｆ（Ｌ（ｔ））、あるいは、周波域演算Ｆ（Ｌ（ｔ））＝Ｆ（Ｌ（ｔ））＊＊Ｆ（Ｒ（ｔ））の結果を処理対象としてもよい。テンポ解析部１０４にて、周波数集合から、音符時系列の平均的周期性の仮定により、すべての音符に共通な音符長を求める解析が実行される。共通な音符長を有する音符粒子集合は、複数チャネルの音符粒子の音符長が等価であるから、同期条件が満される集合である。複数チャネルの各音符の音符長が等価、または、各チャネルの行方向の小区間内の累積音符長が等価となるとき、それぞれ、行の同期、あるいは小区間の同期といい、書き込まれた結果を同期記述という。小区間は、５線楽譜の小節に相当する同期区間であるが、本発明では、始点と終点において時間同期する音符部分集合の時間小区域と定義される。そして、クラスタリング部１０５にて、音符の音程集合を抽出し、要求されたチャネル数の音符粒子集合に分類する、音符粒子集合のクラスタリング処理（ｋ−ｍｅａｎｓ法等）が実行される。すなわち、音符時系列行と複数チャネル列からなる行列の音符粒子集合１０６を求める。各チャネルは、ＭＩＤＩ番号、音符粒子長の２列を必須とし、必要であれば、さらに、大きさの要素からなる３列で表現される。複数チャネルの基本的なエクセル楽譜が生成される。そして、音符長結合部１０７にて、行方向に隣接する時系列行間の同音程音符粒子の音符長を結合することにより、音符の長さを変更する。音符粒子集合から音符集合への変換である。音符集合は、小区間同期記述の条件を満たす行列として生成され、展開型エクセル楽譜１０８となって、記憶部１１に保存される。これが複数チャネルの自動楽譜生成、自動採譜である。計算機１０が自動採譜された展開型エクセル楽譜１０８を５線楽譜に変換するのは容易である。
【００１６】
流れ１０１と１０２の処理によって、圧縮型エクセル楽譜、あるいは、そえを展開してできる展開型エクセル楽譜は、５線楽譜の音符集合を完全に包含する。流れ１０３、１０４、１０５、１０６、１０７の処理によって、音楽の音の波から自動生成される展開型エクセル楽譜は、５線楽譜の音符集合を不完全に包含する。複数チャネルは不完全な包含となるが、自動採譜による生成音は、小区間の同期記述、すなわち、秩序ある、非同期雑音がない、５線上に音符混じりがない、低音高音域が明確に分離された、編曲音楽として、ジャズ的音色価値を有する。
【００１７】
音楽の音は、ＭＩＤＩシステムを使って生成できる。展開型エクセル楽譜１０８がＭＩＤＩ.ｃｓｖ化部１１０にてチャネルの行方向展開型ＭＩＤＩ.ｃｓｖ（Ｆｏｒｍａｔ  ０）に変換される。そして、複数チャネルの音源付き演奏が、処理部１１４にて、メロディのトラックリスト表示、ピアノロール表示、イベントリスト表示、５線楽譜自動表示され、音の再生部１１５にて演奏される。ＭＩＤＩ．ｍｉｄ（バイナリ）への変換部１１３を介して演奏される場合もある。複数チャネルの数は、音符粒子集合のクラスタリング処理のクラスタ数によって決まる。ステレオの左音と右音は、それぞれが複数チャネルとなる。ＭＩＤＩ楽器の音が入力される場合、例えば、１ポート、楽器数に対応する１６チャネルのＭＩＤＩ入力端子のひとつのチャネルからその音が入力される場合でも、その音は、本発明では、複数チャネル(複数音程、複鍵チャネル)への採譜処理対象となる。
【００１８】
また、生成部１０８にて生成された展開型エクセル楽譜の複数チャネルの各ＭＩＤＩ情報は、ＭＩＤＩｔｏＷａｖ部１０９にてＷａｖファイルに変換される。そのためには、各ＭＩＤI情報と回路シミュレータ（ＳＤＰ）１１１から生成される回路変数とがＷａｖ音源生成部１１２にて結合される。再生可能なＷａｖファイルとなる。以上の処理の流れは、図２の計算機１０によって実行される。
【００１９】
図２の計算機１０は汎用ＰＣである。記憶部１１に命令とデータが記憶される。逐次、分岐、読み出し、書き込み等の命令に従って制御部１３が制御し、演算部１２がその命令に関する算術論理演算を実行する。制御部１３の制御によって、記憶部１１内のデータは入力部１４から入力され、出力部１５から出力される。無線を含むネットワーク関係の処理も入力部１４と出力部１５に含まれる。複数ＰＣによる無線同期された多重音演奏も可能となる。
【００２０】
本発明の行列楽譜処理法は、主として、Ｃ言語とＣ＋＋言語をコンパイルして実行できる環境、例えば、マイクロソフト社が開発したＶｉｓｕａｌ  Ｓｔｕｄｉｏ の環境下で開発され、任意のユーザが任意の場所にて実行できる実行形式のファイルとしてまとめられる。
【００２１】
「生成」「記述」「表現」なる言葉は、計算機１０が記憶部１１のデータ構造、すなわち、エクセルのセル行列として情報を書き込み、保持し、その情報を読み出す場合の計算機処理を意味し、「自動」は、人間の行為を除外する処理を意味する。「演奏」も計算機１０が実行する。
【実施例１】
【００２２】
５線楽譜から変換してできる圧縮型エクセル楽譜の処理法について述べる。圧縮型エクセル楽譜の生成と展開はそれぞれ生成処理部１０１と展開部１０２において実行される。本発明は、計算機１０の５線楽譜の認識処理を介して得られるが、人手による認識入力に対するエクセル支援を計算機１０が行う方式でもよい。この場合、５線楽譜は、入力されないが、エクセルのデータ構造を含むエクセル支援情報が処理部１０１に入力される。計算機１０の処理によって、圧縮型エクセル楽譜のフォーマットに対応するデータ構造が計算機１０の記憶部１１に格納され、その後、展開型エクセル楽譜に展開されることが重要である。また、定義された圧縮型エクセル楽譜は、計算機（ＰＣ）の保存媒体、インターネット等の通信媒体となる、そのことが重要である。
【００２３】
５線楽譜は縦（行）方向に同時に演奏される複数のチャネル（トラック）を有し、人間、あるいは、計算機などの機器（マシン）が、横（列）方向に並んだ音符列を読むことにより、時系列音符集合が演奏される。本発明のエクセル楽譜は列（横）方向に複数チャネルが構成され、行（縦）方向にセルを読むことにより、時系列音符集合が演奏される。５線楽譜は、音符記号の５線上位置の情報による音程とq分音符（例えば、４分音符）による音符長を表現する。演奏者(人間)にとってたいへん読みやすい視覚的データ構造となっている。５線、音符記号、そのものが視覚的記号であるが、繰り返し記号も視覚的記号となっている。５線楽譜の特徴として、多種多様な繰り返し記号の記述があり、時系列な音符集合の特定部分集合に対する重複表現が最小化されている点がある。その特定部分集合の繰り返し処理あるいはスキップ処理は、主に、演奏者（人間）の行為となる。計算機が情報の読み書きを行う場合は、視覚的データ構造である必要性はなく、むしろ、記憶の内容を指定するポインタ（アドレス）によって指定される文字数値要素による行列型データ構造を必要とする。本発明の圧縮型エクセル楽譜は、行列型データ構造であり、メロディ領域Ｍ、和音領域Ｗからなる行列と、空セルを含む繰り返し制御領域Ｒのセル集合からなる５線楽譜に対応するデータ構造である。
【００２４】
圧縮型エクセル楽譜は、音楽セル集合ＭＴであって、そのｉ行目は音楽行ベクトルＭｉを形成する。音楽行ベクトルＭｉは、メロディ領域Ｍ、和音領域Ｗおよび繰り返し制御領域Ｒの３つの部分ベクトルに分割される。メロディ領域Ｍと和音領域Ｗは、有効セルのみからなる行列であるが、繰り返し制御領域Ｒには、繰り返し記号のあるセル以外はすべて空（ＮＵＬＬ）セルとなる。
【００２５】
音楽セル集合ＭＴのメロディ領域Ｍにおいて、ｉ行目にあるｊ番目のメロディ音符はＭ（ｉ，ｊ）と表現され、音符Ｍ（ｉ，ｊ）の音程（ＭＩＤＩ記号）をｍ（ｉ，ｊ）、音符長ｌ（ｉ，ｊ＋１）)に対応するｑ分音符をｑ（ｉ，ｊ＋１）、正規化された音の大きさ(振幅)をａ（ｉ，ｊ＋２）とすれば、音符Ｍ（ｉ，ｊ）は
Ｍ（ｉ，ｊ）＝  Ｍ（ｍ（ｉ，ｊ），ｑ（ｉ，ｊ＋１），ａ（ｉ，ｊ＋２））；
ｊ＝１，４，７，・・・，３ｍｍ＋１ 
として表現される。ここで、ｍｍはメロディ数である。ｊ＝３ｍｍ＋２の列には領域デリミタのセミコロン;が記述される。和音領域Ｗにおいて、和音（例えば、Ａｍ）のコード記号Ｃ（ｉ，ｊ）と音符長ｌ（ｉ，ｊ＋１）、 正規化された音の大きさをａ（ｉ，ｊ＋２）とすれば、
和音Ｗ（ｉ，ｊ）は、
Ｗ（ｉ，ｊ）＝  Ｗ（Ｃ（ｉ，ｊ），ｌ（ｉ，ｊ＋１），ａ（ｉ，ｊ＋２））；
ｊ＝３ｍｍ＋３，３ｍｍ＋４，３ｍｍ＋５
として3列で表現される。決められた大きさaである場合には、
ａ（ｉ，ｊ＋２）＝ａ
が自動挿入されるので、表面的には、和音記号列Ｃ（ｉ，ｊ）とその音符長列ｌ（ｉ，ｊ＋１)の２列となる。２列の場合、ｊ＝３ｍｍ＋５の列には領域デリミタのセミコロン;が記述される。３列表現の場合は、ｊ＝３ｍｍ＋６の列にセミコロン;が記述される。和音が展開されると、和音領域Ｗは、メロディ領域Ｍに変更され、４つの音符列｛Ｍ（ｉ，ｊ）｝で表現されるので、チャネル数ｃは、ｃ＝ｍｍ（メロディ数）＋４となる。
【００２６】
繰り返し制御領域Ｒにおいて、繰り返し記号をＲ（ｉ，ｊ）とすれば、
Ｒ（ｉ，ｊ）  ; ｊ＞３ｍｍ＋５  または、ｊ＞＝３ｍｍ＋５
として表現される。繰り返し記号Ｒ（ｉ，ｊ）が存在しない行は、空セルとするので、繰り返し制御領域Ｒにおけるほとんどの行が空白Ｒ（ｉ，ｊ）＝ＮＵＬＬとなる。また、ｉ行目に存在する繰り返し記号Ｒ（ｉ，ｊ）は制御領域Ｒであれば、ｉ行目のどこでもよい。
【００２７】
以上の定義により、音楽行ベクトルＭｉを形成するｉ番目の行は、領域区別のデリミタ記号のセミコロン;を使用して
Ｍｉ＝｛Ｍ（ｉ，ｊ１）；Ｗ（ｉ，ｊ２）；Ｒ（ｉ，ｊ３）｝
と表現される。ｊ１，ｊ２，ｊ３は、列番号である。
【００２８】
圧縮型エクセル楽譜の空間では、音楽セル集合ＭＴは、小区間の同期記述によるダミー音符Ｄ（音符長０，Ｔ０の表記）の挿入処理と行列化処理を必要とする。例えば、音楽セル集合ＭＴを具体的に圧縮型エクセル楽譜として表現すると、小区間すなわち小節の区間において、表１のようになる。
【表１】
2016212205.tif 000003
チャネル数ｃは、メロディが２、和音は展開されれば４なので、６である。１列目はメロディ１のＭＩＤＩ番号に対応するアルファベット記述で、ピアノ鍵盤のオクターブ番号（Ｃ４の４）が付加される。オクターブ番号なしはデフォルトの３を意味する。１列目は、ドレミ表記またはＭＩＤＩ番号表記（Ａはラ音で、６９）でもよい。２列目はｑ分音符の番号qである。音符長の時間表記の場合、Ｔの接頭字が付加され秒表現となる。３列目は正規化された音の大きさの表現である。４、５、６列はメロディ２であって、同様に表現されるが、ＨＨは休み記号となっている。休み音符ＨＨは、音符長は０でない場合が多いが、この例では、音符長０であるので、ダミー音符Ｄとなる。すなわち、音符長０の音符ＨＨは、行数の数と音符数の数が等価になるように挿入される。また、音符長Ｔ０となっているＥ４もダミー音符Ｄである。ダミー音符Ｄをセルに挿入することによって、行列化される。行数と音符数の数が等価になることによって、メロディ領域Ｍと和音領域Ｗが行列化される。７行目はセミコロンであって、メロディ領域Ｍの終わりと和音領域Ｗの始まりを意味する。８行目は和音のアルファベット記述（例えば、Ａｍ）である。９行目は、和音の大きさ、１０行目はセミコロンであって、和音領域Ｗの終わりと繰り返し制御領域Ｒの始まりを意味する。ＧＥ（Ｇｏ  Ｅｎｄ）が繰り返し記号で、それ以外のセルは空セルである。メロディ領域Ｍと和音領域Ｗは、有効セルからなり、無効セル（ＮＵＬＬ）のない行列表現となる。
【００２９】
ダミー音符Ｄの挿入による同期記述と行列化処理を実行することにより、音楽セル集合ＭＴは、時系列の音楽行ベクトルＭｉの集合
ＭＴ＝｛Ｍｉ｜ｉ＝１，２，・・・，Ｎ｝
として定義される。メロディ領域Ｍと和音領域Ｗは、ダミー音符Ｄを含む行列、すなわち、小区間において、行数の数と音符数が等価なセル集合として表現される。Ｎは、チャネルの音符数である。
【００３０】
小区間同期記述と行列化処理の必要性は、エクセル、すなわち、セル集合体によって、複数チャネルの５線楽譜と等価な論理動作（小節間同期のある複数行音符時系列）を表現し、認識処理を除き、人間が５線楽譜を読む動作と計算機がエクセル楽譜を読む動作を等価にするところにある。逆に、例えば、各チャネルの音符を上方向に詰めたエクセル表現であるとすると、特定な行の列方向に記述された音符集合は、５線楽譜表現と異なり、無相関、無秩序な音情報となる。有効セルのセル集合を行列としているので、領域ＭとＷは、要素（セル）がすべて空（ＮＵＬＬ）でない行列となり、どのチャネルも同じ行数Ｎとなる。
【００３１】
音符長ｌ（ｉ，ｊ）がチャネル間で異なる場合、同期記述と行列化処理のために、ダミー音符Ｄが挿入される。音符Ｍ（ｉ，ｊ）＝Ｍ（（ｍ（ｉ，ｊ）,ｑ（ｉ，ｊ＋１），ａ（ｉ，ｊ＋２））の同期記述は、計算機１０による記憶部１１への書き込み処理である。同期記述は、各チャネル間において、同時読み出し（演奏）される小区間内音符集合の音符長の累積時間長が等価、音符数が等価、行数が等価、そして、各小区間の始点終点時刻が同期するように音符長０のダミー音符Ｄを書き込む（記述する）ことである。
【００３２】
今、エクセルの小区間内セルの要求行数をＴqとする。Ｔｑは小区間音符数が最大となるチャネルのその行数である。これを音符数最大小区間と呼ぶ。音符数最大小区間以外の特定なチャネルのその小区間内における音符数をｓとするとき、ｓ＜＝Ｔqとなる。ｓ個のｑ分音符ｑ（ｉ，ｊ）の部分行集合に対して、
Ｔｑ−ｓ
個のダミー音符Ｄ（音符長０）をそのチャネル小区間に挿入すれば、小区間内音符集合の行数はどのチャネルもＴｑに統一される。ダミー音符Ｄは任意のＭＩＤＩ記号と音符長Ｔ０を含む無長音符である。ダミー音符Ｄは音符長０の休み音符(ＭＩＤＩ記号が０またはＨＨ（非標準）でもよい。同期小区間内であれば、どの行に挿入されてもよい。すべての小区間に対してこの同期記述のルールを適用すれば、音楽セル集合ＭＴのメロディ領域Ｍと和音領域Ｗは，エクセル上でセル表現可能な行列として表現できる。すべてのチャネルの音符数は統一されＮとなる。
【００３３】
例えば、表２の圧縮型エクセル楽譜を使って同期記述を説明する。
【表２】
2016212205.tif 000004
１列目は、メロディ１のＭＩＤＩアルファベット記号列である。２行目が音符長列であって、最後の２行が音符長０（すなわち、時間表現Ｔ０）のダミー音符Ｄが存在する行となっている。４列目はメロディ２のＭＩＤＩアルファベット記号列である。５列目が音符数最大小区間の音符数Ｔｑ＝６の行表現であって、２分音符、１６、１６、８による合計４分音符分、次の８、８による合計４分音符分で、合計すれば、全音符分の４ｓ（４分音符が１秒とする）の累積音符長４ｓに対応する。１小区間の累積音符長となっている。１列目は、最初の４行で、１小区間の累積音符長４ｓを満たすが、最大音符数はＴｑ＝６なので、ｓ＝６−４＝２の２行分をダミー音符ＤのＭＩＤＩアルファベット記号＝Ｇ４、ＨＨを挿入し、音符長Ｔ０としている。大きさは、それぞれ、０．７、０．６となっているが、音符長はＴ０であるから無音となる。８列目の和音Ｅｍの音符長はすでに全音符に対応する４ｓとなっているので、２行目以降のＨＨ（休み記号）が音符長０（Ｔ０と等価）のダミー音符Ｄとして挿入されている。
【００３４】
今、小区間内の要求累積音符長(時間)をＬとする。エクセルの小区間内セルの要求行数をＴｑとすれば、Ｔｑは音符数最大小区間の音符数であるが、一般的には、それ以上であればよい。特定なチャネルのその小区間内における音符数をｓとするとき、ｓ＜＝Ｔqとなるｓ個のq分音符ｑ（ｉ，ｊ）を選択する。そのとき、ｓ個の累積音符長をΣｌ（ｉ，ｊ）で表現すると、
Σｌ（ｉ，ｊ）＋０＊（Ｔｑ−ｓ）＝Ｌ
を満足する。累積音符長が０＊（Ｔｑ−ｓ）になるように、ダミー音符Ｄ（音符長０）を（Ｔｑ−ｓ）個、チャネルの小区間に挿入する。小区間内音符集合の行数はどのチャネルもＴｑに統一される。ダミー音符Ｄは休み音符（ＨＨ）でもよいが音符長は０である。小区間内であれば、どの行に挿入してもよい。すべての小区間に対して同期記述を適用すれば、領域ＭとＷは、エクセル上でセル表現可能な行列で表現できる。
【００３５】
圧縮型エクセル楽譜は、繰り返し制御に従った部分音符集合のアペンド処理とスキップ処理により，展開型エクセル楽譜に展開される。エクセルの音符セル集合、あるいは、その部分集合の行番号ｉに対応するポインタがある。そのポインタによって、各チャネルの音符Ｍｉの時系列位置（行番号）が指定される。繰り返し制御領域Ｒにある繰り返し記号として、曲の始点から終点方向に、始点記号Ｓと終点記号Ｅが定義される。その記号は、方向の意味も含めて、予め定義されている。終点記号Ｅの行（分岐行）にある音符から始点記号Ｓの行（分岐先行）にある音符に、すなわち、Ｂａｃｋｗａｒｄ方向に、ポインタが戻る（無条件ジャンプ命令の）場合には、終点記号Ｅの行（分岐行）までの途中に他の制御記号Ｃｏｎがなければ、始点記号Ｓの行（分岐先行）にある音符から、終点記号Ｅの行（分岐行）にある音符までの遷移後の部分音符集合が，現在のポインタＰ（Ｅ）の行（分岐行）にある音符までの累積時系列音符集合に、アペンドされる。制御記号Ｃｏｎがあれば、始点記号Ｓの行（分岐先行が分岐行に変化）にある音符から、制御記号Ｃｏｎの行（分岐先行）にある音符までの部分音符集合が，現在のポインタＰ（Ｅ）の行（分岐行）にある音符までの累積時系列音符集合に、アペンドされ、その後は、制御記号Ｃｏｎの意味定義に従うことになる。始点記号Ｓの行（分岐行）にある音符から終点記号Ｅの行（分岐先行）にある音符に、すなわち、Ｆｏｒｅｗａｒｄ方向に、ポインタが進む（無条件ジャンプ命令の）場合には、始点記号Ｓの行（分岐行）にある音符の次の音符から終点記号Ｅの行（分岐先行）にある音符の前の音符までの部分音符集合は、現在のポインタＰ（Ｓ）の行（分岐行）にある音符までの累積時系列音符集合に、アペンドされずに、スキップされる。すなわち、終点記号Ｅの行（分岐先行）にある音符のそれ以降の時系列音符集合の始点Ｅに、ポインタが遷移される。繰り返し制御領域Ｒに存在する各繰り返し記号は、分岐行記号のある分岐行Ａと分岐先行記号Ｂのある分岐先行Ｂの対に、分類される。このとき、メロディ領域Ｍと和音領域Ｗに存在する音符集合において、展開処理のポインタが、分岐行記号のある分岐行Ａの位置にあるとき、そのポインタが、分岐先行記号のある分岐先行Ｂの位置に、遷移する。ＡからＢへの遷移である。アペンド処理は、そのポインタ遷移に従って、ＡからＢへの遷移後に読み出される部分音符集合を、分岐行記号のある分岐行Ａの現在位置までに生成された累積部分音符集合に、追加する処理となる。なお、スキップ処理は、ポインタ（アドレス）のＡからＢへの遷移処理と等価であるから、読み書き処理はない。
【００３６】
多種多様な繰り返し制御記号の始点記号Ｓと始点記号Ｅは、ペアになっている場合が多い。５線楽譜の標準ペアとして、２重線｜｜とコロン：と、コロン：と２重線｜｜がある。それらに対応する始点記号Ｓと終点記号Ｅがある。そのコロン：と２重線｜｜に対応する終点記号Ｅの曲始点方向に部分音符集合の始点位置に、Ｆ１（制御記号）があって、その２重線｜｜の直後に、Ｆ２（制御記号）がある場合、コロン：と２重線｜｜に対応する終点記号Ｅの行から２重線｜｜とコロン：に対応する始点記号Ｓのある行に戻って繰り返される。このとき、Ｆ１からＦ２の音符の前音符までの領域に含まれるその部分音符集合をスキップし、Ｆ２のある行の音符にジャンプする制御となる。この場合は、２重線｜｜とコロン：に対応する制御記号Ｓの行にある音符からＦ１の行の直前にある行の音符までをアペンドし、その後、Ｆ２（制御記号Ｅ）の行にある音符にジャンプする制御となる。また、５線楽譜を使って説明すれば、例えば、Ｄ．Ｃ．（制御記号Ｅ）は、ｄａ  Ｃａｐｏ（最初から）の略で、曲の最初（制御記号Ｓ）に戻って再度処理され、「終わり」の意味の繰り返し記号Ｆｉｎｅ（制御記号Ｅ）まで処理される。Ｆｉｎｅのかわりに図４の記号を使うこともある。Ｄ．Ｓ．（制御記号Ｅ）は、ｄａｌ  ｓｅｇｎｏの略で、図５の記号（制御記号Ｓ）に戻って再度処理される。そして、Ｔｏ  Ｃｏｄａ記号（制御記号Ｓ）から図６の記号（制御記号Ｅ）に分岐するように処理される。この記号は、ＶＩＤＥ「見よ」の意味で、これがあるときは、時として、その記号（制御記号Ｓ）から次の同じ記号（制御記号Ｅ）までを飛ばして、遷移後の部分音符集合がアペンドされる場合がある。このような場合でも、本発明では、５線楽譜のそれらの繰り返し記号に対応する制御記号ＳとＥが定義され、エクセルの制御領域Ｒの適当なセルに挿入される。それらの記号の意味解析に従った無条件ジャンプ命令によるポインタの遷移処理を実行すれば、音符集合のアペンド処理（または、スキップ処理）によって、圧縮型エクセル楽譜は展開型エクセル楽譜に連続した時系列音符集合として展開される。
【００３７】
方向制御は、多種多様で、その数は膨大である。方向制御のすべてを表現した方向タイプをデータ構造として記憶することはできない。本発明では、ポインタの現在位置までに集計された累積部分音符集合に、その時点に現れた制御記号の意味に従って、ポインタ遷移後の次の部分音符集合を、アペンドし、再び現在位置のポインタとする。いわば、本発明の処理体は、部分音符集合の再帰機能的アペンド方式に従う制御プログラムである。展開時は、常に、ダミー音符Ｄの挿入処理により、同期記述の条件は満たされる。
【００３８】
繰り返し制御による展開時には、和音の同時音符集合への展開も実行される。基本的には、記憶部１１にある各和音記号（例えば、Ａｍ）の文字と圧縮型エクセル楽譜上の和音領域Ｗにある和音記号（Ａｍ）との一致処理で、特定された和音を構成する４個の音符列が４列として展開される。
【００３９】
圧縮型エクセル楽譜における各行ベクトルＭｉは展開処理、すなわち、繰り返し展開と和音展開が実行されると、結果として、展開型エクセル楽譜の音符集合は、同期記述を満足し、
Ｍｉ＝｛Ｍ（ｉ，ｊ）｜ｊ＝１，４，７，・・・，３＊（ｃ−１）＋１｝；
ｉ＝１，２，・・・，Ｎ
と表現され、Ｎ＊（３＊ｃ）の行列に変換される。以降、この３列表現が代表として使われる。ここで、
Ｍ（ｉ，ｊ）＝Ｍ（ｍ（ｉ，ｊ），ｑ（ｉ，ｊ＋１），ａ（ｉ，ｊ＋２））；
ｊ＝１，４，７，・・・，３＊（ｃ−１）＋１
である。ｃはチャネル数、Ｎはチャネルの音符数である。
【００４０】
すなわち、展開型エクセル楽譜は、２次元集合
ＭＴ＝｛Ｍ（ｉ，ｊ）｜ｉ＝１，２，・・・，Ｎ；
ｊ＝１，４，７，・・・,３＊（ｃ−１）＋１
｝
として行列表現される。和音領域Ｗの展開後の和音チャネルの各行は音符長および大きさは同じ値となる。同時演奏により和音として聞こえることになる。デフォルトの展開型エクセル表現では、メロディの２チャネル、和音の４チャネルとし、合計６チャネルで構成される。生成された展開型エクセル楽譜を読み出し（演奏）する場合は、各チャネルは縦読み、すなわち、行方向処理を基本とする。
【００４１】
同期記述を含む圧縮型エクセル楽譜の生成処理は、５線楽譜からの変換処理によって行われる。重要なことは、演奏の読み出しはチャネルごとの行方向であるが、生成の書き込みは、複数チャネルに渡って列方向であるということである。本発明では、複数チャネルの小区間の同期イベントの概念、小区間の累積音符長の等価管理の概念がある。小区間の行数等価と音符数等価を条件とする行列化処理の概念がある。
【００４２】
計算機１０を使って複数チャネルを同時演奏し、これを人間の耳で聞いたとき、同時音が正しく聞こえるためには、同期した始点行から終点行までの音符が、同時に読み出される必要がある。同期音符集合として保障されるべきものは、小節を含む小区間とチャネル全体である。読み出し処理は、展開型エクセル楽譜における各チャネルの１行目からＮ行目までを行方向（縦）に読むことを基本とし、それをチャネル数ｃだけ列方向に繰り返ことを基本とする。すなわち、各チャネルの読み出しは縦読み原則である。読み出した音符集合Ｍ（ｍ（ｉ，ｊ）,ｌ（ｉ，ｊ＋１），ａ（ｉ，ｊ＋２）)は、音源生成時には、サンプリング周波数ｆｃの離散時刻ｔの各音符の波形関数
Ｆ（ｔ, Ｍ（ｍ（ｉ，ｊ）,ｌ（ｉ，ｊ＋１），ａ（ｉ，ｊ＋２）），ｘ（ｉ，ｔ））
に変換される。ここで、ｘ（ｉ，ｔ）は音源の波形変数である。
【００４３】
波形変数ｘ（ｉ，ｔ）は、回路シミュレーション上で設計されるオシレータ（発振器）の内部に内包する回路方程式から生成される変数である。回路シミュレーションによる音源生成である。ｘ（ｉ，ｔ）は、オシレータの発音構造や共鳴構造を含む非線形現象の固有的な音色の波、すなわち、物理モデル音源からの変数である。回路シミュレーションによる音源生成は生の楽器だけでなく、実在しない楽器の音も作成することが可能である。例えば、回路として構成されたコムフィルタ（Ｃｏｍｂ  Ｆｉｌｔｅｒ）は、その周波数特性が一定間隔のスパイク状になるフィルタで、多様な音色を生成する。周期倍周期によるカオス発振器では、そのアトラクタの周波数成分の振幅は複数のスペクトル状にはならないことが多い。しかし、例えば、回路変数の差分を複数回実行すると、周波数領域において、スパイク状の振幅が複数個生成でき、多様な音色を生成する。標準ＭＩＤＩシステムに内蔵されているデフォルト音源を利用する場合には、展開型エクセル楽譜を標準のＭＩＤＩ．ｃｓｖ，ＭＩＤＩ．ｍｉｄファイルに変換する処理が必要となる。
【００４４】
圧縮型エクセル楽譜を展開した展開型エクセル楽譜は、複数チャネルの各チャネルに含まれる音符数Ｎが等価になる。小区間同期記述を満足する行列である。複数チャネルは、５線楽譜の音符集合を完全に包含する行列となる。
【００４５】
展開型エクセル生成処理部１０８において、５線楽譜の音符集合を完全に包含する行列の展開型エクセル楽譜を直接自動で生成する場合もある。このとき、各チャネルの各小区間の行数と音符数が等価になるように、必要ならば、特定なチャネルの小区間にダミー音符Ｄが挿入される。この挿入処理によって小区間同期記述が確立する。小区間同期記述によって、各チャネルの音符数Ｎはどのチャネルも等価となる。結果として、音楽セル集合ＭＴはＮ＊（３＊ｃ）の音符行列で表現されることになる。
【実施例２】
【００４６】
展開型エクセル楽譜は、音楽の音の波から自動的に生成される。自動採譜である。自動生成では、まず、音楽の音の波の時系列集合Ｗａｖファイルを時間周波数変換部１０３にて周波数変換すれば、時系列化された周波数集合が生成される。テンポ解析処理１０４は、周波数の音符時系列の平均により、すべての音符に共通かつ等価な音符長を求める。クラスタリング処理１０５は、音符の音程集合を抽出し分類する。それらの結果を使って、音符粒子の時系列行と複数チャネル列からなる行列、すなわち、音符粒子集合を音符粒子集合部１０６にて求める。各チャネルは、ＭＩＤＩ番号、音符粒子長、および大きさの要素からなる３列で表現される。そして、音符長結合部１０７にて行方向に隣接する（行間に休止無音がない）時系列行間の同音程音符粒子の音符長を結合することにより音符の長さを変更する。音符粒子集合から音符集合への変換である。行方向に近接する（行間に有長休止無音がある）時系列行間の同音程音符粒子の音符長は連結されない。抽出された音符集合は、展開型エクセル生成処理部１０８にて小区間同期の条件を満たす行列として展開型エクセル楽譜となる。小区間は、元の作曲楽譜にある小節とは異なる。小区間の同期記述の概念は満たされる。ダミー音符Ｄの挿入処理は不必要で、常に、チャネル間秩序のある小区間同期記述を満たす空間での変換処理となる。これが本発明の自動楽譜生成、自動採譜である。
【００４７】
展開型エクセル楽譜の自動生成について詳細に述べる。アナログ空間Ｓａにおける１つの音の波をＲＭａとする。ＲＭａをＡＤ変換してできるデジタル空間Ｓｄにおける音をＲＭｄとする。すなわち、音の波形ＲＭａを実サンプリング周波数ｆＲでサンプリングしたとき、離散時刻ｔｄごとに生成された音要素の集合がＲＭｄとして定義される。音の波形ＲＭａに対するＡＤ変換あるいは音の物理現象に対する数値積分時に使われる実サンプリング周波数ｆＲは、例えば、音楽サンプリング周波数ｆｃ＝４４，１００Ｈｚ（あるいはそれよりも高いＨｉｇｈ  Ｒｅｓｏｌｕｔｉｏｎの周波数）よりも大きい高周波数あるいは小さい低周波数である。しかし、音楽で利用される時間ｔは音楽サンプリング周波数ｆｃで離散化したときの離散時刻である。実サンプリング周波数ｆＲの離散時刻は、音楽サンプリングｆｃの離散時刻ｔに写像される。音楽サンプリング周波数ｆｃによって定義されるデジタル空間Ｍｄにおいて、離散時刻ｔの音楽データの集合、すなわち、時間周波数変換部１０３に入力されるＷａｖファイルは、デジタル空間Ｍｄにおける音楽である。音楽サンプリング周波数ｆｃのサンプリングによって得られた時間域Ｔの音楽である。その音楽は、ステレオ音楽のＷａｖファイルとして、左音と右音の各ダンプ情報として記憶部１１に格納され、採譜処理される。
【００４８】
音楽のＷａｖファイルの各ダンプ情報に対して、時間周波数変換部１０３にて時間周波数変換Ｔを実行する。得られる周波数の時系列集合をＦＭｄとする。ＦＭｄの各要素の周波数成分は必ずしもＭＩＤＩ音符の音程に対応するとは限らず、むしろかなり異なるものである。ＦＭｄは１個の周波数時系列であるが、離散時刻ｔにおける振幅が大きい周波数成分は複数ある。その周波数成分数に等しい数の音程（その周波数成分に最も近いＭＩＤＩ周波数（音程））があると考えれば、音程に対応する音符もその数に等しい数だけ存在することになる。すなわち、採譜のための処理１０３、１０４、１０５、１０６、１０７の目的は、時間周波数変換Ｔにより生成されたＦＭｄの各要素を、最も確からしい音符Ｍ（ｉ，ｊ）の音符集合
Ｍｉ＝｛Ｍ（ｉ，ｊ）｜ｊ＝１，４，７，・・・，３＊（ｃ−１）＋１｝
に変換することである。ここで、音符Ｍ（ｉ，ｊ）の音程ｍ（ｉ，ｊ）に近い周波数成分は、時間周波数変換処理Ｔにより導出されるが、周波数音程変換を必要とする。音符Ｍ（ｉ，ｊ）の大きさａ（ｉ，ｊ）は、時間周波数変換処理Ｔにより導出される。大きさａ（ｉ，ｊ）は、変換処理Ｔによる周波数成分の複素数における実部と虚部の２乗和の平方根である。音符Ｍ（ｉ，ｊ）の音符長ｌ（ｉ，ｊ）は、音楽サンプリング周波数ｆｃによってサンプリングされた離散時刻ｔの数によって定義される秒単位の長さである。チャネルの定義は、単鍵チャネルである。各離散時刻にｃ個の音程があると仮定して、本発明は、ｃ個の複鍵チャネルを同期記述の条件下で生成する。採譜処理の問題は、チャネルの音符集合Ｍｉが未知、特に、音程ｍ（ｉ，ｊ）が未知、チャネル数ｃの数が未知、チャネル内の音符の音符長ｌ（ｉ，ｊ）が未知であることである。
【００４９】
今、チャネル数ｃは、クラスタリング部１０５によるクラスタリング処理において、クラス数と等価にする。例えば、６と決める。音符番号ｉは音符時系列のｉ番目の音符を特定するインデックスである。音符番号ｉの成分Ｍｉの要素Ｍ（ｉ，ｊ）は、音符番号ｉのｊ列目の音符である。本発明では、さらに、音楽
ＭＴ＝｛Ｍ（ｉ，ｊ）｜ｉ＝１，２，・・・，Ｎ；
ｊ＝１，４，７，・・・,３＊（ｃ−１）＋１
｝
内の音符Ｍ（ｉ，ｊ）の音符長ｌ（ｉ，ｊ）も固定とする。音符長ｌ（ｉ，ｊ）はテンポ解析部１０４で求められる。音符粒子集合部１０６が、音符粒子の時系列行と複数チャネル列からなる行列、すなわち、音符長が等しい音符粒子集合を求める。すべての音符粒子の長さは等価である。音符長結合部１０７の処理によって、小区間の同期記述を満足しながら音符粒子の長さが変更され、各チャネルの音符数はＮとして固定化される。
【００５０】
音符Ｍ（ｉ，ｊ）のＭＩＤＩ番号をｍ（ｉ，ｊ）、音程周波数をｆ（ｉ，ｊ）、音符長をｌ（ｉ，ｊ＋１）、 正規化された音の大きさをａ（ｉ，ｊ＋２）とすれば、音符Ｍ（ｉ，ｊ）は、
Ｍ（ｉ，ｊ）＝Ｍ（ｍ（ｉ，ｊ），ｌ（ｉ，ｊ＋１），ａ（ｉ，ｊ＋２））
として表現される。音程周波数ｆ（ｉ，ｊ）とＭＩＤＩ番号ｍ（ｉ、ｊ）との対応関係は、次式で定義される。
【数１】
2016212205.tif 000005
ここで、基準となる６９はデフォルトのＡ音のＭＩＤI番号で、４４０は、Ａ音の周波数（Ｈｚ）である。音符Ｍ（ｉ，ｊ）のＭＩＤＩ番号ｍ（ｉ，ｊ）に対応する音程周波数ｆ（ｉ，ｊ）は、単位時間の音符波形の繰り返し数に対応する。音程周波数ｆ（ｉ，ｊ）はひとつなので、逆フーリエ変換（ＩＦＦＴ）を実行すれば、音符Ｍ（ｉ，ｊ）は、周波数ｆ（ｉ、ｊ）の正弦波となるが、音符Ｍ（ｉ，ｊ）そのものは、音符パルス波であるので、その時間域Ｔにおける陽的表現は複雑である。また、音符Ｍ（ｉ，ｊ）の正規化された音の大きさａ（ｉ，ｊ＋２）は、ＦＦＴ変換Ｔの複素数における実部と虚部の２乗和の平方根に対応する。音符長ｌ（ｉ，ｊ＋１）は音符Ｍ（ｉ，ｊ）の始点時刻から終点時刻までのサンプリング点数に（１／ｆｃ)を掛けた長さであるが、個々の音符Ｍ（ｉ，ｊ）の音符長ｌ（ｉ，ｊ＋１）を混合波から求めることは非常に難しい。そこで、複鍵チャネルにおける音符粒子の音程（ＭＩＤＩ周波数）の音符長（平均時間）をテンポ解析部１０４にて求めることが重要となる。
【００５１】
ＦＦＴ処理を含むテンポ解析について説明する。テンポ解析部１０４のテンポ解析によって、楽譜の音符粒子集合のすべての音符粒子に共通な音符長を求める。解析は、抽出、すなわち、１分間の拍数ＢＰＭ（Ｂｅａｔｓ  Ｐｅｒ  Ｍｉｎｕｔｅ）をＷａｖファイルから抽出することである。抽出は、時系列情報の統計処理、ＦＦＴ、畳み込み、相関などの信号処理を必要とする。人間は、リズムを理解するが、計算機１０は、音のエネルギー（音量、振幅値の2乗）の差分情報から生成する。この差分情報は、周波数サブバンドの帯域分割ごとに生成されるべきである。各音源（楽器）の周波数帯域が異なるからである。そして、ステレオ音楽であれば、左音と右音ごとに生成される。次の解析は、帯域の分割数分実行される。
【００５２】
各サブバンド帯域において、先ず、サンプリング周波数をｆｃ＝４４，１００Ｈｚとし、Ｗａｖファイル（例えば、Ｄａｔａ  Ｓｉｚｅ ＝  ４３，０５７，１５２）をフレーム数ＤＮ（例えば、４０９６＊２）に分割し、フレームごとの音量（平均エネルギー）を次式に従って求める。
【数２】
2016212205.tif 000006
ここで、Ｄ（ｎ）は  フレーム内のｎ番目のデータの振幅値である。また、例えば、ｓｉｚｅｏｆ（ｓｈｏｒｔ）＝８とし、 Ｎｆ＝Ｄａｔａ  Ｓｉｚｅ／ｓｉｚｅｏｆ（ｓｈｏｒｔ）／２／ＤＮは、フレーム数（例えば、１３１４）とする。音量
【数３】
2016212205.tif 000007
は、ｍ＝０，１，・・・，Ｎｆ−１番目の各フレームの音量（平均エネルギー）である。解析時間は、フレーム数Ｎｆ（１，３１４)＊フレーム内サンプル数（ＤＮ＊（１／ｆｃ））＝２４４，０８８，１６３である。ＤＮは各フレームのサンプリング数に対応するので、フレームの長さＬｆは
Ｌｆ＝ＤＮ／ｆｃ（０．１８５７ｓ）
で一定とする。
【００５３】
次に、隣接するフレームの音量増加量を求める。ｍ番目のフレームの音量をＸ(ｍ)としたとき、減少する場合は０とし、増加差分、
ＤＸ(ｍ)＝  Ｘ(ｍ) &#8211; Ｘ(ｍ−１)  
を求める。その増加差分ＤＸの周波数成分をテンポ解析部１０４内にて求める。ｍ番目のフレームの音量の増加差分ＤＸ（ｍ）が時間域のデータである。また、フレームのサンプリング周波数をｆｓとしたとき、ＢＰＭ（Ｂｅａｔｓ  Ｐｅｒ  Ｍｉｎｕｔｅ）、すなわち、1分間（６０ｓ）に刻む拍数がテンポ解析における周波数の定義となる。周波数域の定義は、ＢＰＭ空間域となる。すなわち、ＢＭＰ値を６０から２４０まで変化させる。そして、各ＢＰＭ空間の関数ＤＸ（ｍ）対するＦＦＴの実部Ｒと虚部Ｑを次式から導出する。
【数４】
2016212205.tif 000008
2016212205.tif 000009
2016212205.tif 000010
ここで、ｆｂはＢＰＭ値／６０、ｆｓ＝（１／Ｌｆ）はサンプリング周波数ｆｃ／（フレームのサンプル数ＤＮ）である。実際は、窓関数による波形端部の補正処理を含む。
【００５４】
音符粒子の音符長解析は、ＢＰＭ空間の周波数Ｒ（ｆｂ）、Ｑ（ｆｂ）から求める方法となる。生のＷａｖ波形は、各音符区域の開始位置で音量が増加する特性があり、しかも、その音量の増加量は周期的現象となる。ＢＰＭ空間において、各振幅値Ａの最大値を検出する。音符長は、最大値の周波数ＢＰＭｍの逆数として定義され、抽出される。すなわち、解析の処理の流れは、Ｗａｖファイルのフレーム分割、隣接フレームの音量変化の取得、その時間変化分のＦＦＴ、振幅最大の周波数成分の検出、振幅最大の周波数成分の逆数の算出、となる。以上により、ＢＰＭ空間におけるＦＦＴを使って、音符粒子時系列の周期，すなわち、ひとつの平均音符長Ｌを求めることができる。音符粒子の平均音符長Ｌ（ｓ）は、例えば、６４分音符の長さに固定される場合もあるが、曲依存値として、
Ｌ  ＝６０／ＢＰＭｍ
となる。以上の手続きをサイドバンド帯域ごとに実行する。
【００５５】
他の方法として、時間ｔ、遅延変数Ｔｉとする学習インパルス信号Ｉ（ｔ−Ｔｉ）を使う方法（非特許文献３）がある。学習インパルス信号Ｉ（ｔ−Ｔｉ）は、インデックスｍを１からＮｆまでインクリメントするＦｏｒ文
Ｆｏｒ（ｍ＝０；ｍ＜Ｎｆ；ｍ＋＋）｛
ｉｆ  （（ｍ％Ｔｉ）＝０）
Ｉ［ｍ］(実部)  ＝  Ａｍｐ；
ｅｌｓｅ
Ｉ［ｍ］(実部)  ＝Ｊ［ｍ］(虚部)  ＝０；
｝
となるＣ言語で記述される。記述は、ｍ％Ｔｉ＝０,すなわち、離散時刻Ｔｉのみ関数値が一定値Ａｍｐをもち、それ以外の時間区域では０となる関数である。非常に簡単に生成できる。時間域において、信号ＤＸ（ｍ）と学習インパルス信号Ｉ（ｍ−Ｔｉ）との離散畳み込み積分は、いわば、２信号の類似性を表現する。ＢＭＰの周波数域において、ＦＦＴ（ＤＸ（ｍ））とＦＦＴ（（Ｉ（ｍ−Ｔｉ））との積からエネルギーＥが計算できる。周波数域において、エネルギーＥの大きさ｜Ｅ｜が最大Ｅｍａｘとなる学習インパルス信号I（ｍ−Ｔｉ）の周期Ｔｍａｘを求めることができる。すなわち、ＢＰＭ値を、例えば、６０から２４０までを適当なステップごとに変化させて、大きさ｜Ｅ｜が最大となるＢＰＭｍを値とする。音符粒子の音符長は、
Ｌ＝６０／ＢＰＭｍ
として導出できる。以上の手続きをサイドバンド帯域ごとに実行する。
【００５６】
次に、クラスタリング部１０５において、音符粒子の音程（ＭＩＤＩ番号）の集合を求める。ステレオＷａｖファイルの左音と右音を分けて実行する。時間域と周波数域におけるサンプリング周波数を同じｆｃ（＝４４，１００）、フレームのサンプリング数をＤＮ（４０９６＊２）とする。フレーム周期（時間）はＬｆ＝ＤＮ／ｆｃである。変換部１０３における時間周波数変換ＦＦＴの結果を周波数ｆ（ｔ）とする。周波数ｆ（ｔ）と離散時刻ｔ、すなわち、周期Ｌｆごとの時刻には関係がある。離散時刻tの周波数ｆ（ｔ）は,
帯域０＜ｆ（ｔ）＜ＤＮ／２において，
ｆ（ｔ）＝ｔ＊（１／Ｌｆ）  
帯域ＤＮ／２＜＝ｆ（ｔ）＜ＤＮにおいて，
ｆ（ｔ）＝（ＤＮ−ｔ）／Ｌｆ
となる。これは時間周波数の変換基本式であって、積パラメータあるいはオフセットパラメータで補正され、それをｆ（ｔ）とする。
【００５７】
周波数ｆ（ｔ）に対応するＭＩＤＩ番号（音程周波数）は、ｉｎｔの整数化を使って
［数１］の逆関数として、
ＭＩＤＩ番号＝（ｉｎｔ）（６９．０＋１２．０＊ｌｏｇ２（ｆ（ｔ）／４４０．０））
となる。ＭＩＤＩ番号は，各フレームＤＮ内のスペクトルｆ（ｔ）に対応するので、その抽出数はＤＮ個存在する。多数である。そこで、正規化された最大振幅値Ａｍａｘを有する線スペクトルｆｍａｘ（ｔ）を基準として，倍率パラメータｂａｉに対する下限振幅値ｂａｉ＊Ａｍａｘから上限振幅値ＡｍａｘまでのＲ個の線スペクトル
Ｆ＝｛ｆｋ（ｔ）｜ｋ＝０，１，２，・・・，Ｒ｝
に限定して抽出する。抽出数Ｒは各フレーム  ｍ＝０，１，２，・・・，Ｎｆ−１ごとに異なるので、Ｒをチャネル数ｃに固定する処理、すなわち、ｃ個のクラスタのクラスタリング処理をクラスタリング部１０５にて実行する。
【００５８】
音符粒子集合のクラスタリング処理を説明する。Ｒ＜ｃのときは、抽出されたＲ個のＭＩＤＩ番号中から適切なＭＩＤＩ番号を（ｃ−Ｒ）個複写する。チャネル数は必ずcとなる。Ｒ＞ｃのときは、抽出されたＲ個の中からｋ−ｍｅａｎｓ法によりクラスタリングすることになる。ｋ−ｍｅａｎｓ法は、ＭＩＤＩ番号集合において、ｃ個のクラスタ重心（ＭＩＤＩ番号）に距離が近く、かつ、ｃ個のクラスタ重心間の距離が大きくなるようにクラスタ重心を見つけるアルゴリズムである。ｃ個のクラスタ重心に対応するｃ個のＭＩＤＩ番号のみを選択することになる。デフォルトは、ｃ＝６、Ｂａｉ＝０．４である。抽出数Ｒが大きすぎる場合もあるので、曲依存で倍率Ｂａｉを選択する必要がある。ｋ−ｍｅａｎｓの真の解を求める問題はＮＰ困難となるが、６チャネル程度の音符粒子の集合を求めるｋ−ｍｅａｎｓ法は高速である。ｋ−ｍｅａｎｓ法は初期値依存性などの欠点もある。他のクラスタリング手法、例えば、アフィニティマトリックス法、行列クラスタリング法、隣接行列クラスタリング法、相関行列クラスタリング法などを使ってもよい。例えば、クラスタリング処理後の音符粒子集合の展開型エクセル楽譜を表３に示す。
【表３】
2016212205.tif 000011
【００５９】
１列目は、メロディ１の音符粒子のＭＩＤＩ番号である。２行目が音符粒子の音符長列で、すべて、０．２５３１６５と等価である。３行目は、メロディ１の音符粒子の大きさである。４行目はメロディ２の音符粒子のＭＩＤＩ番号である。５行目がメロディ２の音符粒子の音符長列で、すべて等価である。６行目は、メロディ２の音符粒子の大きさである。７行目はメロディ３の音符粒子のＭＩＤＩ番号である。８行目がメロディ３の音符粒子の音符長列で、すべて等価である。９行目は、メロディ４の音符粒子のＭＩＤＩ番号である。１０行目がメロディ４の音符粒子の音符長列で、すべて等価である。１１行目は、メロディ５の音符粒子のＭＩＤＩ番号である。１２行目は、メロディ５の音符粒子の音符長で、すべて等価である。１３行目は、メロディ６の音符粒子のＭＩＤＩ番号である。１４行目は、メロディ６の音符粒子の音符長で、すべて等価である。なお、メロディ３，４，５，６は、大きさが予め決められた和音扱いとなっている。すべての音符粒子の音符長は、テンポ解析結果として導出された値で、Ｌ＝０．２５３１６５ですべて同じ値である。このように、各チャネルは、ＭＩＤＩ番号、音符粒子長、および大きさの要素からなる３列で表現されるが、大きさの要素は予め決められているならば削除される。
【００６０】
音符長が等価な音符粒子集合の展開型エクセル楽譜に従って演奏すると、同期性と秩序性は高いが、当然、複数音が情緒性のない機械的な音楽になる。そこで、音符長結合部１０７における音符長結合処理を説明する。音符長が等価な音符粒子集合の展開型エクセル楽譜において、各チャネルは、ＭＩＤＩ番号、音符粒子長、および大きさの要素からなる３列、または、和音展開列の２列で表現される。ただし、自動採譜であるので、和音の再現は不完全となる。音符長結合部１０７では、行方向に隣接する（行間に休止無音がない）時系列行間の同音程音符粒子の音符長を結合することにより音符の長さを変更する。行方向に近接する（行間に有長休止無音がある）時系列行間の同音程音符粒子の音符長は連結されない。小区間内の時系列行間の同音程音符粒子の音符長は累積され、その小区間の最後の行にある音符長が累積長に変更され、小区間内の他の行は削除される。音符粒子集合から音符集合への変換である。抽出された音符集合は、同期記述、すなわち、小区間同期の条件を満たす行列として展開型エクセル楽譜となる。
【００６１】
音符集合からなる展開型エクセル楽譜を表４に示す。
【表４】
2016212205.tif 000012
例えば、結合前の状態が表３の展開型エクセル楽譜であるが、音符長結合処理後は、表４の展開型エクセル楽譜となる。表３において、１列目の２行目にあるＭＩＤＩ番号７９は、３行目、４行目、さらに、5行目に連続して存在する。小区間は、４行分である。小区間内の各行の音符粒子の音符長は、それぞれ、０．２５３１６５ですべて同じ値である。音符長結合処理後の表４の展開型エクセル楽譜では、ＭＩＤＩ番号７９は、表３の５行目にあるＭＩＤＩ番号７９としてまとめられ、音符長は、累積値０．２５３１６５＊４＝１．０１２６６となっている。時系列行間の同音程音符粒子を含む他の小区間において、同様な結合処理が実行される。音符長結合部１０７の音符長結合処理によって、全体の行数は２３から１０行に減らされる。以上が、音符粒子集合から音符集合への変換である。抽出された音符集合は、小区間同期の条件を満たす行列で、行列楽譜の展開型エクセル楽譜となる。これが自動楽譜生成、自動採譜である。
【００６２】
本発明では、同期記述された行（小区間）からなる音符長等価な音符粒子集合を生成し、時系列行間の同音程音符粒子を含む同期小区間内で音符長を結合して音符集合に変換している。同期記述の範囲での行列変換である。音楽セル集合ＭＴの展開型エクセル楽譜生成時には、チャネル間に渡る列方向の書き込み処理を含み、その展開型エクセル楽譜の読み出し時には、その読み出し処理は、チャネルごとの行方向で実行される。音楽セル集合ＭＴの展開型エクセル楽譜は、計算機１０によって５線楽譜に変換されてもよい。処理部１１０にて、展開型エクセル楽譜は、汎用のＭＩＤＩ.ｃｓｖに変換される。この変換に新規性がある。変換後は、汎用のＭＩＤＩシステムを使うことができる。複数チャネルの音源付き演奏が、デスプレィ上で、トラックリスト表示、ピアノロール表示、イベントリスト表示、自動５線音符表示のうち少なくとも１つを動画表示しながら、計算機１０によって実行される。編集もできる。図３は、本発明の行列楽譜処理法の処理を実行する計算機１０内の音楽システムの画像表示である。ＭＩＤＩシーケンサのＰＣ上の画面である。上部にあるのが６トラックリストである。メロディのトラックリストが２、和音展開されたトラックリストが４となっている。さらに、下部上側にあるピアノロール、下部左側にあるイベントリスト、下部右側にある自動採譜の譜面ウインドウが表示される。処理部１１０にて生成されたＭＩＤＩ．ｃｓｖは、回路シミュレーション１１１からの変数と処理部１１２にて結合されると、Ｗａｖファイルに変換され、再生部１１５にて複数チャネルの同時演奏がＰＣ上で実行される。処理部１１０にて生成されたＭＩＤＩ.ｃｓｖは、ＭＩＤＩ．ｍｉｄに変換され、再生部１１５において音が再生される場合もある。
【００６３】
本発明では、圧縮型エクセル楽譜は、小区間同期が記述された５線楽譜対応の媒体で、ＰＣ演奏、ＰＣ保存、インターネット通信の容易なＩＴＣ媒体となる。展開型エクセル楽譜は、複数チャネルの時系列音符集合の各チャネルの音符の音程、音符長、大きさが列方向に展開されたＩＣＴ媒体となる。ユーザにとって、極めて理解し易いエクセル楽譜の媒体である。展開型エクセル楽譜は、音楽の音の波から小区間同期の条件を満たす行列楽譜として自動生成され、複鍵チャネルを含む複数チャネルとして採譜される。
【産業上の利用可能性】
【００６４】
産業の利用分野として、音楽の自動採譜、自動編曲、音楽情報検索、音楽の加工がある。本発明の行列楽譜は、ユーザにとって、高データベース性、高圧縮性、高使用性、高理解性、高表現性、高通信性、高同期性を有し、複数ＰＣのオーケストラ演奏化、インターネット配信化に利用できる。本発明の行列楽譜処理法は、演奏の音から自動でエクセル楽譜、あるいは５線楽譜を作成することを含み、自動楽譜による複数チャネル演奏は、元の楽譜演奏とは異なる編曲された近似音楽となる。そのことが逆に新しい編曲産業を生む。
【００６５】
クライアント側からの要求に基づいて、サーバ側のデータベースにある圧縮型エクセル楽譜あるいは展開型エクセル楽譜がインターネット媒体としてクライアント側にダウンロードされる。複数チャネルの音源付き演奏は、トラックリスト表示、ピアノロール表示、自動５線音符表示、イベントリスト表示のうち少なくとも１つを動画表示しながら、実行される。あるいは、自分の音源を回路シミュレータにて生成し、自分のＷａｖ音を聞いて楽しむこともできる。
【符号の説明】
【００６６】
１  本発明の行列楽譜生成法の主要な部
１００  ５線楽譜認識部
１０１  圧縮型エクセル生成部
１０２  和音展開、繰り返し記号展開部
１０３  時間周波数変換（ＦＦＴ）部
１０４  テンポ解析（音符粒子長解析）部
１０５  クラスタリング（ｋ−ｍｅａｎｓ法）部
１０６  音符粒子集合部
１０７  音符長結合部
１０８  展開型エクセル生成処理部
１０９  ＭＩＤＩｔｏＷＡＶ変換部
１１０  ＭＩＤＩ.ｃｓｖ生成部
１１１  回路シミュレーション部
１１２  音源（ｗａｖファイル）生成部
１１３  標準音源生成部かつｍｉｄファイル生成部
１１４  トラックリスト、ピアノロール、イベントリスト、5線楽譜自動生成部
１１５  音の再生部
１０  計算機（ＰＣ）
１１  記憶部
１２  演算部
１３  制御部
１４  入力部
１５  出力部
【図４】
2016212205.tif 000013
【図５】
2016212205.tif 000014
【図６】
2016212205.tif 000015
【図１】
2016212205.tif 000016
【図２】
2016212205.tif 000017
【図３】
2016212205.tif 000018
【手続補正書】
【提出日】平成27年5月23日(2015.5.23)
【手続補正１】
【補正対象書類名】明細書
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、デジタル音楽、特に、音楽理解に関するものである。
【背景技術】
【０００２】
音楽の音は、楽譜が作曲され、演奏され、そして、流される。音学は工学を含む。表現のための工学である。特に、混合された多重音の理解には、統計確率、時空間の構造、時間周波数の構造、同期、機械学習、調波、最適化、回路、ニューロ、通信、認識、歌唱言語の韻律、音素、知覚、発声など、いわば、非線形情報処理の解析を必要とする。楽譜は、時系列の音符集合である。音符集合の各音符は、音程、長さ、そして、大きさを有する要素である。音符の音程の周波数は一つであって、ＭＩＤＩ（Ｍｕｓｉｃａｌ  Ｉｎｓｔｒｕｍｅｎｔ  Ｄｉｇｉｔａｌ  Ｉｎｔｅｒｆａｃｅ）番号に対応するが、楽器が奏でる音楽の音の波は、非線形で、ひとつの正弦波の基本周波数成分に加えて、可聴できる程の大きさの高調波成分を多く含む。いわば、音楽の音は、正弦波の混合波である。混ぜることは簡単であるが、混ぜた波から元の正弦波、すなわち、音符の音程、長さ、そして大きさを再現することはむつかしい。音源分離、混合音理解の難しさである。チャネル数が多くなればなるほどむつかしい。音楽の音の波から音符に対応する音程、長さ、大きさを検出する、いわば、多重周波数推定、楽譜自動生成（自動採譜）のむつかしさへの克服は技術の挑戦でもある。歌唱の言語理解、音素分解とも関係する、いわば、インタラクション性の高い音楽理解への挑戦である。
従来、楽譜が１チャネル（楽器音）のみである場合には、音楽の音の波、すなわち、音符集合の時系列をフレームごとに時間周波数変換し、フレーム内の基本周波数スペクトルをひとつ検出し、対応するＭＩＤＩ周波数に変換する方法等が有効に利用されてきた。口笛、鼻歌、楽器の演奏から自動で楽譜を作成するソフト、ＳｃｏｒｅＣｌｏｕｄや、複数の楽器音を独立にそれぞれ複数のＭＩＤＩトラックに表示し演奏するソフト、Ｉｎｔｅｌｌｉｓｃｏｐｅ、周波数の連続性を持つ音の集合からクラスタリングでひとつのＭＩＤＩ周波数を生成するＥａｓy  Ｍｕｓｉｃ  Ａｎａｌｙｓｉｓなどが活用されている。また、複数トラックのＭＩＤＩの音符表現媒体として、制御記号の多いＭＩＤＩ.ｃｓｖ、ＭＩＤＩ．ｍｉｄ（バイナリ）が汎用的に利用されている。従来、音楽の音の波に対応するひとつのチャネルに関する楽譜生成の技術は多く存在する。ひとつのチャネルである場合には、チャネル間の同期、特に小区間の同期取得の処理が不必要で、不完全ではあるが、音程と音符長を再現できる。テンポ処理は、一拍の長さ、すなわち、ビート（発音時刻）間隔の時間長を求める処理である。音量の時間変化のピークからビートあるいはテンポを検出する技術（非特許文献１）、音量変化のエネルギーから発音時刻を検出する技術（非特許文献１、３）が開示されている。音量変化の周期性により、その自己相関のピークを与える時間差から、テンポを統計的に探索する技術（非特許文献２）が開示されている。自動楽譜作成技術の特許文献として、基本周波数抽出、位相抽出、調波解析、最適化手法、誤り訂正法を組み合わせた方法（特許文献１）が開示されている。音楽データと楽譜記号データとを対応化させる技術（特許文献２）、楽譜音符を基準単位の音符に結合する結合処理の技術（特許文献３）が開示されている。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特許公開  ＵＳ  ２００９―１８６８１８
【特許文献２】特許公開  ２００８−１２９５０８号広報
【特許文献３】特許公開  ２００２−２５８８３７号広報
【非特許文献】
【０００４】
【非特許文献１】J. Bello, L. Daudet, S. Abdallah, C. Duxbury, M. Davies, and M. Sandler, “A tutorial on onset detection in music signals,” IEEE Trans. Speech Audio Process., vol. 13, pp. 1035 &#8211; 1047, 2005.
【非特許文献２】M. Goto, “An audio-based real-time beat tracking system for music with or without drum-sounds,” J. New Music Res., vol. 30, no. 2, pp.159&#8211;171, 2001.
【非特許文献３】Federic Patin, ”Beat Detection Algorithms”, Jun 07 2003, Math and Phisics.
【発明の概要】
【発明が解決しようとする課題】
【０００５】
音楽の音の波は、時刻ごとの周波数成分集合の中に複数の音程成分、いわば、ピアノロール空間の複鍵チャネルを含み、その複鍵チャネル数は時刻ごとに異なる。単鍵チャネルは、一本指による鍵盤演奏に対応する単チャネルと定義され、複鍵チャネルは、複数本の指による同時鍵盤演奏に対応する複数チャネルと定義される。従来、１チャネルは、１楽器に対応する場合が多く、複鍵チャネルを含む複数チャネルのＭＩＤＩ音符集合の行列楽譜を、小区間（小節を含む）同期条件下で、自動生成する処理はなかった。また、小区間の同期条件を満足させながら、複数チャネルの同音符長の音符粒子集合を生成し、それを異音符長の音符集合に変換する処理もなかった。理由は、音程粒子、音符長粒子の概念はなく、標準ＭＩＤIファイル（ＳＦＭ）には、複数チャネルの小区間の同期イベントの概念、小区間の累積音符長の等価管理の概念がないため、そして、小区間の行数等価と音符数等価を条件とする同期記述による行列化処理の概念もなかったからである。そのため、採譜結果において、小区間同期記述を満足する複鍵チャネルをエクセル楽譜として展開できず、楽器音が内包する同時音程数の減少化現象が起きるという問題がある。さらに、汎用のＭＩＤＩ.ｃｓｖは、ＯＮとＯＦＦの音符イベント表現以外の多くの制御記号を含み、同期記述化される複数チャネルの同時列書き込み処理の概念がなく、同期記述のＭＩＤＩ記憶媒体として活用されていないという問題がある。
【０００６】
１つの側面において、本発明は、チャネル間秩序のある小区間同期記述を必要とする複鍵チャネルの採譜技術であって、音楽の同音符長の音符粒子集合への分解かつ展開により、同期記述の条件を満足する複数チャネルの行列、すなわち、空でない有効要素（セル）からなるエクセル表現として、音譜を自動生成する。
【課題を解決するための手段】
【０００７】
複鍵チャネルを含む複数チャネルの採譜処理であって、
計算機が、
音符時系列のすべての音符粒子に共通な音符粒子長を求める抽出処理と、
音楽の音の波の時系列集合を時間周波数変換し、得られた複数チャネルの周波数集合から音符粒子集合を抽出し、要求されたチャネル数に分類する音符粒子集合のクラスタリング処理と、
前記抽出処理と前記クラスタリング処理に基づいて、前記音符粒子長単位ごとの複数チャネルの音符粒子集合の各行を行、各チャネルが、少なくとも、ＭＩＤＩ記号と前記音符粒子長の要素を含む前記複数チャネルを列とする行列であって、小区間内の行数と音符粒子数が等価となる行列を生成する行列化処理と、
前記行列の行方向に隣接する時系列行間の同音程音符粒子の音符長を結合して、前記小区間同期の範囲で、音符の長さを変更することにより、前記音符粒子集合から音符集合を生成する音符長変換処理と、
を有し、
本発明は、前記音符集合が小区間同期の条件を満たす行列となることを特徴とする行列楽譜処理法を構成している。
【発明の効果】
【０００８】
本発明では、圧縮型エクセル楽譜は、小区間にて同期記述された５線対応の媒体で、ＰＣ演奏、ＰＣ保存、インターネット通信の容易なＩＴＣ媒体となり、展開型エクセル楽譜は、複数チャネルの時系列音符集合の各チャネルの音符の音程、音符長、大きさが列方向に展開されたＩＣＴ媒体であって、しかも、音楽の音の波からチャネル間秩序のある小区間同期の条件を満たす行列楽譜として自動生成され、複鍵チャネルを含む複数チャネルが採譜されるという効果がある。
【図面の簡単な説明】
【０００９】
【図１】図１は、本発明の行列楽譜処理法の処理の流れを示す図である。
【図２】図２は、本発明の行列楽譜処理法の処理を実行する計算機（ＰＣ）のハードウェア構成を示す図である。
【図３】図３は、本発明の行列楽譜処理法の処理を実行する音楽プログラムの実行画像表示を示す図である。
【図４】図４は、従来の５線楽譜に使用されている一部の繰り返し記号の図である。
【図５】図５は、従来の５線楽譜に使用されている一部の繰り返し記号の図である。
【図６】図６は、従来の５線楽譜に使用されている一部の繰り返し記号の図である。
【発明を実施するための最良の形態】
【００１０】
楽器を奏でることによって混合された音楽の音の波は、耳の蝸牛部分にある周波数振動子（有毛細胞）アレイの共鳴現象によって、基本振動波に分解され、脳に伝達され、認識される。脳は、楽譜情報を感覚的に復元している。計算機（マシン）は、音楽の音の波から楽譜情報をどこまで理解し再現できるだろうか？  音楽の音の波は、正弦波ひとつの基本周波数成分に可聴できる程の大きさを有する高調波成分が混合されている。音源生成の最も簡単な方法は周波数成分を多く持ち、様々な音色に使用される鋸波形、鋸波形よりも周波数成分が少なく丸い音がする三角波、Ｄｕｔｙ比の調整可能なパルス状の矩形波、非周期的なノイズ波形などを数学方程式によって生成することである。すでに確立された方法である。この方法は、自由度が小さく、生成できる種類と音色が制限される。制限されないほどの自由度を上げる方法は多く考えられる。例えば、多くのオシレータの回路構成を回路シミュレーションにて記述し、内包する回路の微分方程式を数値積分することにより複数の波形を生成する。この回路解析法は、ネットリスト設計による自由度が高く、複数の波形を混合するだけでなく、オシレータを複雑組み合わせることにより、様々な音をつくることができる。回路によるＳｏｕｎｄ  Ｄｙｎａｍｉｃａｌ  ＰｒｏｇｒａｍをＰＣ上で実行することになる。複数の線スペクトルを生成するコムフィルタ（Ｃｏｍｂ  Ｆｉｌｔｅｒ）を回路で表現できる。カオス現象や概周期現象などを表現するアトラクタの形は音色に対応しないが、アトラクタに対する演算処理を使って可聴できる程の大きさのスペクトルに対応する音を生成する非線形情報処理も有効となる。音源によって生成された音の波は、楽譜に表現された各音符の音程、音符長、そして大きさの情報を含むＭＩＤＩ情報と結合することにより、音符集合の音の波に変換される。
【００１１】
ＭＩＤＩ情報のうち、音程に対応するＭＩＤＩ番号（例えば、６９）、ＭＩＤＩアルファベット（ＭＩＤＩ番号６９に対応するＡ音）あるいはドレミ表記は、総称してＭＩＤＩ記号と呼ぶ。音符は、ＭＩＤＩ記号、音符長、大きさの集合である。ＭＩＤＩ記号は、ピアノ鍵盤番号に対応し、音符の音程（例えば、Ａ音なら周波数は４４０Ｈｚ）に対応する。本発明のチャネルは、行（下）方向に展開する音符の時系列の集合として定義される。音程は、ＭＩＤＩ番号に対応するひとつの周波数であるので、ひとつのチャネルは、ひとつの音程変化に依存した単音に対応し、鍵盤よるピアノ演奏では、１指演奏、すなわち、単鍵チャネルとして定義される。１０指演奏は、１０チャネル演奏、すなわち、複鍵チャネルとして定義される。複数チャネルは、複鍵チャネルを含む。和音は、展開すると最大４つの音符から構成されるので４チャネルの複数チャネルである。また、メロディチャネルは、ピアノでは、単鍵チャネルに対応する独立したひとつのチャネルとして定義される。間欠に演奏されるメロディチャネルも休符の多い独立したひとつの単鍵チャネルとして定義される。どんな楽器でも、その音の波を採譜する場合、本発明では、音楽の音の波は同期記述の複鍵チャネルからなるピアノロールに写像される。どんな音でも、採譜先をピアノ楽譜と仮定すれば、複数チャネルという言葉は複鍵チャネルを含む意味で使われる。本発明の基本概念は、異種音程を有し、同期かつ等価な長さを有する音符粒子集合から音楽が生成されることである。
【００１２】
展開型エクセル楽譜の生成時には、行列の複数チャネルは、チャネル間に渡る列方向に書き込まれ、生成された複数チャネルの行列は、チャネルごとに行方向に読み出される。
【００１３】
図１は、本発明を実施するための行列楽譜処理法の処理、すなわち、図２の計算機１０が実行する処理の流れである。本発明の主たる部分は、処理の流れ１の部分である。ＭＩＤＩ空間における圧縮型と展開型のエクセル楽譜の生成処理法を供給する。エクセル（主に、マイクロソフト・エクセルの表計算ソフトを想定）は、セル要素からなる表集合である。ここで、空でない有効セルを要素とする表、すなわち、空セルの要素を含まない行と列からなる２次元のセル集合を行列と定義する。有効な空セルを含めたセル集合を行列と定義することもできるが、容易性の範疇である。
【００１４】
５線楽譜認識部１００によって５線楽譜が認識される。その５線楽譜に対応する圧縮型エクセル楽譜は、生成処理部１０１にて、列方向に、メロディ領域、和音領域、そして、繰り返し制御領域に区分される。圧縮型エクセル楽譜の音符集合は、展開部１０２において、メロディ領域と和音領域に関し、繰り返し制御領域の各繰り返し記号の意味解析に従ったアペンド処理による展開と和音展開とによって展開される。結果として、繰り返し制御領域は削除され、展開型エクセル生成処理部１０８において、メロディ領域と和音領域は、行列表現、すなわち、展開型エクセル楽譜となる。展開は、ダミー音符Ｄによる同期記述の処理を含む。ここで、ダミー音符Ｄ（ＤはＭＩＤＩ記号で代表されるが、ＭＩＤＩ記号、０の音符長、大きさから成る音符）のセルは、エクセル上では、空セルでない有効セルであって、音符長が０である無長無音を表現する。
【００１５】
別な処理の流れとして、処理部１０３、１０４、１０５、１０６がある。展開型エクセル楽譜は、音楽の音の波から自動的に生成される。展開型エクセル楽譜は、音符時系列の複数チャネルの行列表現となる。この自動生成では、まず、Ｗａｖファイルとして入力された音楽の音の波の時系列集合は、時間周波数変換部１０３にて、周波数集合に変換される。Ｗａｖファイルは、ステレオである場合、左音Ｌ（ｔ）と右音Ｒ（ｔ）に分けてダンプ化され、それぞれが周波数変換ＴによってＦ（Ｌ（ｔ））とＦ（Ｒ（ｔ））となる。これらが処理対象となる。場合によっては、演算を記号＊＊としたとき、時間域演算Ｌ（ｔ）＝Ｌ（ｔ）＊＊Ｒ（ｔ）後の周波数変換Ｆ（Ｌ（ｔ））、あるいは、周波域演算Ｆ（Ｌ（ｔ））＝Ｆ（Ｌ（ｔ））＊＊Ｆ（Ｒ（ｔ））の結果を処理対象としてもよい。テンポ解析部１０４にて、周波数集合から、音符時系列の平均的周期性の仮定により、すべての音符に共通な音符長を求める解析が実行される。共通な音符長を有する音符粒子集合は、複数チャネルの音符粒子の音符長が等価であるから、同期条件が満される集合である。複数チャネルの各音符の音符長が等価、または、各チャネルの行方向の小区間内の累積音符長が等価となるとき、それぞれ、行の同期、あるいは小区間の同期といい、書き込まれた結果を同期記述という。小区間は、５線楽譜の小節に相当する同期区間であるが、本発明では、始点と終点において時間同期する音符部分集合の時間小区域と定義される。そして、クラスタリング部１０５にて、音符の音程集合を抽出し、要求されたチャネル数の音符粒子集合に分類する、音符粒子集合のクラスタリング処理（ｋ−ｍｅａｎｓ法等）が実行される。すなわち、音符時系列行と複数チャネル列からなる行列の音符粒子集合１０６を求める。各チャネルは、ＭＩＤＩ番号、音符粒子長の２列を必須とし、必要であれば、さらに、大きさの要素からなる３列で表現される。複数チャネルの基本的なエクセル楽譜が生成される。そして、音符長結合部１０７にて、行方向に隣接する時系列行間の同音程音符粒子の音符長を結合することにより、音符の長さを変更する。音符粒子集合から音符集合への変換である。音符集合は、小区間同期記述の条件を満たす行列として生成され、展開型エクセル楽譜１０８となって、記憶部１１に保存される。これが複数チャネルの自動楽譜生成、自動採譜である。計算機１０が自動採譜された展開型エクセル楽譜１０８を５線楽譜に変換するのは容易である。
【００１６】
流れ１０１と１０２の処理によって、圧縮型エクセル楽譜、あるいは、そえを展開してできる展開型エクセル楽譜は、５線楽譜の音符集合を完全に包含する。流れ１０３、１０４、１０５、１０６、１０７の処理によって、音楽の音の波から自動生成される展開型エクセル楽譜は、５線楽譜の音符集合を不完全に包含する。複数チャネルは不完全な包含となるが、自動採譜による生成音は、小区間の同期記述、すなわち、秩序ある、非同期雑音がない、５線上に音符混じりがない、低音高音域が明確に分離された、編曲音楽として、ジャズ的音色価値を有する。
【００１７】
音楽の音は、ＭＩＤＩシステムを使って生成できる。展開型エクセル楽譜１０８がＭＩＤＩ.ｃｓｖ化部１１０にてチャネルの行方向展開型ＭＩＤＩ.ｃｓｖ（Ｆｏｒｍａｔ  ０）に変換される。そして、複数チャネルの音源付き演奏が、処理部１１４にて、メロディのトラックリスト表示、ピアノロール表示、イベントリスト表示、５線楽譜自動表示され、音の再生部１１５にて演奏される。ＭＩＤＩ．ｍｉｄ（バイナリ）への変換部１１３を介して演奏される場合もある。複数チャネルの数は、音符粒子集合のクラスタリング処理のクラスタ数によって決まる。ステレオの左音と右音は、それぞれが複数チャネルとなる。ＭＩＤＩ楽器の音が入力される場合、例えば、１ポート、楽器数に対応する１６チャネルのＭＩＤＩ入力端子のひとつのチャネルからその音が入力される場合でも、その音は、本発明では、複数チャネル(複数音程、複鍵チャネル)への採譜処理対象となる。
【００１８】
また、生成部１０８にて生成された展開型エクセル楽譜の複数チャネルの各ＭＩＤＩ情報は、ＭＩＤＩｔｏＷａｖ部１０９にてＷａｖファイルに変換される。そのためには、各ＭＩＤI情報と回路シミュレータ（ＳＤＰ）１１１から生成される回路変数とがＷａｖ音源生成部１１２にて結合される。再生可能なＷａｖファイルとなる。以上の処理の流れは、図２の計算機１０によって実行される。
【００１９】
図２の計算機１０は汎用ＰＣである。記憶部１１に命令とデータが記憶される。逐次、分岐、読み出し、書き込み等の命令に従って制御部１３が制御し、演算部１２がその命令に関する算術論理演算を実行する。制御部１３の制御によって、記憶部１１内のデータは入力部１４から入力され、出力部１５から出力される。無線を含むネットワーク関係の処理も入力部１４と出力部１５に含まれる。複数ＰＣによる無線同期された多重音演奏も可能となる。
【００２０】
本発明の行列楽譜処理法は、主として、Ｃ言語とＣ＋＋言語をコンパイルして実行できる環境、例えば、マイクロソフト社が開発したＶｉｓｕａｌ  Ｓｔｕｄｉｏ の環境下で開発され、任意のユーザが任意の場所にて実行できる実行形式のファイルとしてまとめられる。
【００２１】
「生成」「記述」「表現」なる言葉は、計算機１０が記憶部１１のデータ構造、すなわち、エクセルのセル行列として情報を書き込み、保持し、その情報を読み出す場合の計算機処理を意味し、「自動」は、人間の行為を除外する処理を意味する。「演奏」も計算機１０が実行する。
【実施例１】
【００２２】
５線楽譜から変換してできる圧縮型エクセル楽譜の処理法について述べる。圧縮型エクセル楽譜の生成と展開はそれぞれ生成処理部１０１と展開部１０２において実行される。本発明は、計算機１０の５線楽譜の認識処理を介して得られるが、人手による認識入力に対するエクセル支援を計算機１０が行う方式でもよい。この場合、５線楽譜は、入力されないが、エクセルのデータ構造を含むエクセル支援情報が処理部１０１に入力される。計算機１０の処理によって、圧縮型エクセル楽譜のフォーマットに対応するデータ構造が計算機１０の記憶部１１に格納され、その後、展開型エクセル楽譜に展開されることが重要である。また、定義された圧縮型エクセル楽譜は、計算機（ＰＣ）の保存媒体、インターネット等の通信媒体となる、そのことが重要である。
【００２３】
５線楽譜は縦（行）方向に同時に演奏される複数のチャネル（トラック）を有し、人間、あるいは、計算機などの機器（マシン）が、横（列）方向に並んだ音符列を読むことにより、時系列音符集合が演奏される。本発明のエクセル楽譜は列（横）方向に複数チャネルが構成され、行（縦）方向にセルを読むことにより、時系列音符集合が演奏される。５線楽譜は、音符記号の５線上位置の情報による音程とq分音符（例えば、４分音符）による音符長を表現する。演奏者(人間)にとってたいへん読みやすい視覚的データ構造となっている。５線、音符記号、そのものが視覚的記号であるが、繰り返し記号も視覚的記号となっている。５線楽譜の特徴として、多種多様な繰り返し記号の記述があり、時系列な音符集合の特定部分集合に対する重複表現が最小化されている点がある。その特定部分集合の繰り返し処理あるいはスキップ処理は、主に、演奏者（人間）の行為となる。計算機が情報の読み書きを行う場合は、視覚的データ構造である必要性はなく、むしろ、記憶の内容を指定するポインタ（アドレス）によって指定される文字数値要素による行列型データ構造を必要とする。本発明の圧縮型エクセル楽譜は、行列型データ構造であり、メロディ領域Ｍ、和音領域Ｗからなる行列と、空セルを含む繰り返し制御領域Ｒのセル集合からなる５線楽譜に対応するデータ構造である。
【００２４】
圧縮型エクセル楽譜は、音楽セル集合ＭＴであって、そのｉ行目は音楽行ベクトルＭｉを形成する。音楽行ベクトルＭｉは、メロディ領域Ｍ、和音領域Ｗおよび繰り返し制御領域Ｒの３つの部分ベクトルに分割される。メロディ領域Ｍと和音領域Ｗは、有効セルのみからなる行列であるが、繰り返し制御領域Ｒには、繰り返し記号のあるセル以外はすべて空（ＮＵＬＬ）セルとなる。
【００２５】
音楽セル集合ＭＴのメロディ領域Ｍにおいて、ｉ行目にあるｊ列目のメロディ音符はＭ（ｉ，ｊ）と表現され、音符Ｍ（ｉ，ｊ）の音程（ＭＩＤＩ記号）をｍ（ｉ，ｊ）、音符長ｌ（ｉ，ｊ＋１）に対応するｑ分音符をｑ（ｉ，ｊ＋１）、正規化された音の大きさ(振幅)をａ（ｉ，ｊ＋２）とすれば、音符Ｍ（ｉ，ｊ）は
Ｍ（ｉ，ｊ）＝  Ｍ（ｍ（ｉ，ｊ），ｑ（ｉ，ｊ＋１），ａ（ｉ，ｊ＋２））；
ｊ＝１，４，７，・・・，３（ｍｍ−１）＋１
として表現される。ここで、ｍｍはメロディ数である。ｊ＝３ｍｍ＋１の列には領域デリミタのセミコロン;が記述される。和音領域Ｗにおいて、和音（例えば、Ａｍ）のコード記号Ｃ（ｉ，ｊ）と音符長ｌ（ｉ，ｊ＋１）、 正規化された音の大きさをａ（ｉ，ｊ＋２）とすれば、
和音Ｗ（ｉ，ｊ）は、
Ｗ（ｉ，ｊ）＝  Ｗ（Ｃ（ｉ，ｊ），ｌ（ｉ，ｊ＋１），ａ（ｉ，ｊ＋２））；
ｊ＝３ｍｍ＋２，３ｍｍ＋３，３ｍｍ＋４
として3列で表現される。決められた大きさaである場合には、
ａ（ｉ，ｊ＋２）＝ａ
が自動挿入されるので、表面的には、和音記号列Ｃ（ｉ，ｊ）とその音符長列ｌ（ｉ，ｊ＋１)の２列となる。２列の場合、ｊ＝３ｍｍ＋４の列には領域デリミタのセミコロン;が記述される。３列表現の場合は、ｊ＝３ｍｍ＋５の列にセミコロン;が記述される。和音が展開されると、和音領域Ｗは、メロディ領域Ｍに変更され、４つの音符列｛Ｍ（ｉ，ｊ）｝で表現されるので、チャネル数ｃは、ｃ＝ｍｍ（メロディ数）＋４となる。
【００２６】
繰り返し制御領域Ｒにおいて、繰り返し記号をＲ（ｉ，ｊ）とすれば、
Ｒ（ｉ，ｊ）  ; ｊ＞３ｍｍ＋４  または、ｊ＞＝３ｍｍ＋４
として表現される。繰り返し記号Ｒ（ｉ，ｊ）が存在しない行は、空セルとするので、繰り返し制御領域Ｒにおけるほとんどの行が空白Ｒ（ｉ，ｊ）＝ＮＵＬＬとなる。また、ｉ行目に存在する繰り返し記号Ｒ（ｉ，ｊ）は制御領域Ｒであれば、ｉ行目のどこでもよい。
【００２７】
以上の定義により、音楽行ベクトルＭｉを形成するｉ番目の行は、領域区別のデリミタ記号のセミコロン;を使用して
Ｍｉ＝｛Ｍ（ｉ，ｊ１）；Ｗ（ｉ，ｊ２）；Ｒ（ｉ，ｊ３）｝
と表現される。ｊ１，ｊ２，ｊ３は、列番号である。
【００２８】
圧縮型エクセル楽譜の空間では、音楽セル集合ＭＴは、小区間の同期記述によるダミー音符Ｄ（音符長０，Ｔ０の表記）の挿入処理と行列化処理を必要とする。例えば、音楽セル集合ＭＴを具体的に圧縮型エクセル楽譜として表現すると、小区間すなわち小節の区間において、表１のようになる。
【表１】
2016212205.tif 000019
チャネル数ｃは、メロディが２、和音は展開されれば４なので、６である。１列目はメロディ１のＭＩＤＩ番号に対応するアルファベット記述で、ピアノ鍵盤のオクターブ番号（Ｃ４の４）が付加される。オクターブ番号なしはデフォルトの３を意味する。１列目は、ドレミ表記またはＭＩＤＩ番号表記（Ａはラ音で、６９）でもよい。２列目はｑ分音符の番号qである。音符長の時間表記の場合、Ｔの接頭字が付加され秒表現となる。３列目は正規化された音の大きさの表現である。４、５、６列はメロディ２であって、同様に表現されるが、ＨＨは休み記号となっている。休み音符ＨＨは、音符長は０でない場合が多いが、この例では、音符長０であるので、ダミー音符Ｄとなる。すなわち、音符長０の音符ＨＨは、行数の数と音符数の数が等価になるように挿入される。また、音符長Ｔ０となっているＥ４もダミー音符Ｄである。ダミー音符Ｄをセルに挿入することによって、行列化される。行数と音符数の数が等価になることによって、メロディ領域Ｍと和音領域Ｗが行列化される。７列目はセミコロンであって、メロディ領域Ｍの終わりと和音領域Ｗの始まりを意味する。８列目は和音のアルファベット記述（例えば、Ａｍ）である。９列目は、和音の長さ、１０列目はセミコロンであって、和音領域Ｗの終わりと繰り返し制御領域Ｒの始まりを意味する。ＧＥ（Ｇｏ  Ｅｎｄ）が繰り返し記号で、それ以外のセルは空セルである。メロディ領域Ｍと和音領域Ｗは、有効セルからなり、無効セル（ＮＵＬＬ）のない行列表現となる。
【００２９】
ダミー音符Ｄの挿入による同期記述と行列化処理を実行することにより、音楽セル集合ＭＴは、時系列の音楽行ベクトルＭｉの集合
ＭＴ＝｛Ｍｉ｜ｉ＝１，２，・・・，Ｎ｝
として定義される。メロディ領域Ｍと和音領域Ｗは、ダミー音符Ｄを含む行列、すなわち、小区間において、行数の数と音符数が等価なセル集合として表現される。Ｎは、チャネルの音符数である。
【００３０】
小区間同期記述と行列化処理の必要性は、エクセル、すなわち、セル集合体によって、複数チャネルの５線楽譜と等価な論理動作（小節間同期のある複数行音符時系列）を表現し、認識処理を除き、人間が５線楽譜を読む動作と計算機がエクセル楽譜を読む動作を等価にするところにある。逆に、例えば、各チャネルの音符を上方向に詰めたエクセル表現であるとすると、特定な行の列方向に記述された音符集合は、５線楽譜表現と異なり、無相関、無秩序な音情報となる。有効セルのセル集合を行列としているので、領域ＭとＷは、要素（セル）がすべて空（ＮＵＬＬ）でない行列となり、どのチャネルも同じ行数Ｎとなる。
【００３１】
音符長ｌ（ｉ，ｊ）がチャネル間で異なる場合、同期記述と行列化処理のために、ダミー音符Ｄが挿入される。音符Ｍ（ｉ，ｊ）＝Ｍ（（ｍ（ｉ，ｊ）,ｑ（ｉ，ｊ＋１），ａ（ｉ，ｊ＋２））の同期記述は、計算機１０による記憶部１１への書き込み処理である。同期記述は、各チャネル間において、同時読み出し（演奏）される小区間内音符集合の音符長の累積時間長が等価、音符数が等価、行数が等価、そして、各小区間の始点終点時刻が同期するように音符長０のダミー音符Ｄを書き込む（記述する）ことである。
【００３２】
今、エクセルの小区間内セルの要求行数をＴqとする。Ｔｑは小区間音符数が最大となるチャネルのその行数である。これを音符数最大小区間と呼ぶ。音符数最大小区間以外の特定なチャネルのその小区間内における音符数をｓとするとき、ｓ＜＝Ｔqとなる。ｓ個のｑ分音符ｑ（ｉ，ｊ）の部分行集合に対して、
Ｔｑ−ｓ
個のダミー音符Ｄ（音符長０）をそのチャネル小区間に挿入すれば、小区間内音符集合の行数はどのチャネルもＴｑに統一される。ダミー音符Ｄは任意のＭＩＤＩ記号と音符長Ｔ０を含む無長音符である。ダミー音符Ｄは音符長０の休み音符(ＭＩＤＩ記号が０またはＨＨ（非標準）)でもよい。同期小区間内であれば、どの行に挿入されてもよい。すべての小区間に対してこの同期記述のルールを適用すれば、音楽セル集合ＭＴのメロディ領域Ｍと和音領域Ｗは，エクセル上でセル表現可能な行列として表現できる。すべてのチャネルの音符数は統一されＮとなる。
【００３３】
例えば、表２の圧縮型エクセル楽譜を使って同期記述を説明する。
【表２】
2016212205.tif 000020
１列目は、メロディ１のＭＩＤＩアルファベット記号列である。２列目が音符長列であって、最後の２行が音符長０（すなわち、時間表現Ｔ０）のダミー音符Ｄが存在する行となっている。４列目はメロディ２のＭＩＤＩアルファベット記号列である。５列目が音符数最大小区間の音符数Ｔｑ＝６の行表現であって、２分音符、１６、１６、８による合計４分音符分、次の８、８による合計４分音符分で、合計すれば、全音符分の４ｓ（４分音符が１秒とする）の累積音符長４ｓに対応する。１小区間の累積音符長となっている。１列目は、最初の４行で、１小区間の累積音符長４ｓを満たすが、最大音符数はＴｑ＝６なので、ｓ＝６−４＝２の２行分をダミー音符ＤのＭＩＤＩアルファベット記号＝Ｇ４、ＨＨを挿入し、音符長Ｔ０としている。大きさは、それぞれ、０．７、０．６となっているが、音符長はＴ０であるから無音となる。８列目の和音Ｅｍの音符長はすでに全音符に対応する４ｓとなっているので、２行目以降のＨＨ（休み記号）が音符長０（Ｔ０と等価）のダミー音符Ｄとして挿入されている。
【００３４】
今、小区間内の要求累積音符長(時間)をＬとする。エクセルの小区間内セルの要求行数をＴｑとすれば、Ｔｑは音符数最大小区間の音符数であるが、一般的には、それ以上であればよい。特定なチャネルのその小区間内における音符数をｓとするとき、ｓ＜＝Ｔqとなるｓ個のq分音符ｑ（ｉ，ｊ）を選択する。そのとき、ｓ個の累積音符長をΣｌ（ｉ，ｊ）で表現すると、
Σｌ（ｉ，ｊ）＋０＊（Ｔｑ−ｓ）＝Ｌ
を満足する。累積音符長が０＊（Ｔｑ−ｓ）になるように、ダミー音符Ｄ（音符長０）を（Ｔｑ−ｓ）個、チャネルの小区間に挿入する。小区間内音符集合の行数はどのチャネルもＴｑに統一される。ダミー音符Ｄは休み音符（ＨＨ）でもよいが音符長は０である。小区間内であれば、どの行に挿入してもよい。すべての小区間に対して同期記述を適用すれば、領域ＭとＷは、エクセル上でセル表現可能な行列で表現できる。
【００３５】
圧縮型エクセル楽譜は、繰り返し制御に従った部分音符集合のアペンド処理とスキップ処理により，展開型エクセル楽譜に展開される。エクセルの音符セル集合、あるいは、その部分集合の行番号ｉに対応するポインタがある。そのポインタによって、各チャネルの音符Ｍｉの時系列位置（行番号）が指定される。繰り返し制御領域Ｒにある繰り返し記号として、曲の始点から終点方向に、始点記号Ｓと終点記号Ｅが定義される。その記号は、方向の意味も含めて、予め定義されている。終点記号Ｅの行（分岐行）にある音符から始点記号Ｓの行（分岐先行）にある音符に、すなわち、Ｂａｃｋｗａｒｄ方向に、ポインタが戻る（無条件ジャンプ命令の）場合には、終点記号Ｅの行（分岐行）までの途中に他の制御記号Ｃｏｎがなければ、始点記号Ｓの行（分岐先行）にある音符から、終点記号Ｅの行（分岐行）にある音符までの遷移後の部分音符集合が，現在のポインタＰ（Ｅ）の行（分岐行）にある音符までの累積時系列音符集合に、アペンドされる。制御記号Ｃｏｎがあれば、始点記号Ｓの行（分岐先行が分岐行に変化）にある音符から、制御記号Ｃｏｎの行（分岐先行）にある音符までの部分音符集合が，現在のポインタＰ（Ｅ）の行（分岐行）にある音符までの累積時系列音符集合に、アペンドされ、その後は、制御記号Ｃｏｎの意味定義に従うことになる。始点記号Ｓの行（分岐行）にある音符から終点記号Ｅの行（分岐先行）にある音符に、すなわち、Ｆｏｒｗａｒｄ方向に、ポインタが進む（無条件ジャンプ命令の）場合には、始点記号Ｓの行（分岐行）にある音符の次の音符から終点記号Ｅの行（分岐先行）にある音符の前の音符までの部分音符集合は、現在のポインタＰ（Ｓ）の行（分岐行）にある音符までの累積時系列音符集合に、アペンドされずに、スキップされる。すなわち、終点記号Ｅの行（分岐先行）にある音符のそれ以降の時系列音符集合の始点Ｅに、ポインタが遷移される。繰り返し制御領域Ｒに存在する各繰り返し記号は、分岐行記号のある分岐行Ａと分岐先行記号Ｂのある分岐先行Ｂの対に、分類される。このとき、メロディ領域Ｍと和音領域Ｗに存在する音符集合において、展開処理のポインタが、分岐行記号のある分岐行Ａの位置にあるとき、そのポインタが、分岐先行記号のある分岐先行Ｂの位置に、遷移する。ＡからＢへの遷移である。アペンド処理は、そのポインタ遷移に従って、ＡからＢへの遷移後に読み出される部分音符集合を、分岐行記号のある分岐行Ａの現在位置までに生成された累積部分音符集合に、追加する処理となる。なお、スキップ処理は、ポインタ（アドレス）のＡからＢへの遷移処理と等価であるから、読み書き処理はない。
【００３６】
多種多様な繰り返し制御記号の始点記号Ｓと始点記号Ｅは、ペアになっている場合が多い。５線楽譜の標準ペアとして、２重線｜｜とコロン：と、コロン：と２重線｜｜がある。それらに対応する始点記号Ｓと終点記号Ｅがある。そのコロン：と２重線｜｜に対応する終点記号Ｅの曲始点方向に部分音符集合の始点位置に、Ｆ１（制御記号）があって、その２重線｜｜の直後に、Ｆ２（制御記号）がある場合、コロン：と２重線｜｜に対応する終点記号Ｅの行から２重線｜｜とコロン：に対応する始点記号Ｓのある行に戻って繰り返される。このとき、Ｆ１からＦ２の音符の前音符までの領域に含まれるその部分音符集合をスキップし、Ｆ２のある行の音符にジャンプする制御となる。この場合は、２重線｜｜とコロン：に対応する制御記号Ｓの行にある音符からＦ１の行の直前にある行の音符までをアペンドし、その後、Ｆ２（制御記号Ｅ）の行にある音符にジャンプする制御となる。また、５線楽譜を使って説明すれば、例えば、Ｄ．Ｃ．（制御記号Ｅ）は、ｄａ  Ｃａｐｏ（最初から）の略で、曲の最初（制御記号Ｓ）に戻って再度処理され、「終わり」の意味の繰り返し記号Ｆｉｎｅ（制御記号Ｅ）まで処理される。Ｆｉｎｅのかわりに図４の記号を使うこともある。Ｄ．Ｓ．（制御記号Ｅ）は、ｄａｌ  ｓｅｇｎｏの略で、図５の記号（制御記号Ｓ）に戻って再度処理される。そして、Ｔｏ  Ｃｏｄａ記号（制御記号Ｓ）から図６の記号（制御記号Ｅ）に分岐するように処理される。この記号は、ＶＩＤＥ「見よ」の意味で、これがあるときは、時として、その記号（制御記号Ｓ）から次の同じ記号（制御記号Ｅ）までを飛ばして、遷移後の部分音符集合がアペンドされる場合がある。このような場合でも、本発明では、５線楽譜のそれらの繰り返し記号に対応する制御記号ＳとＥが定義され、エクセルの制御領域Ｒの適当なセルに挿入される。それらの記号の意味解析に従った無条件ジャンプ命令によるポインタの遷移処理を実行すれば、音符集合のアペンド処理（または、スキップ処理）によって、圧縮型エクセル楽譜は展開型エクセル楽譜に連続した時系列音符集合として展開される。
【００３７】
方向制御は、多種多様で、その数は膨大である。方向制御のすべてを表現した方向タイプをデータ構造として記憶することはできない。本発明では、ポインタの現在位置までに集計された累積部分音符集合に、その時点に現れた制御記号の意味に従って、ポインタ遷移後の次の部分音符集合を、アペンドし、再び現在位置のポインタとする。いわば、本発明の処理体は、部分音符集合の再帰機能的アペンド方式に従う制御プログラムである。展開時は、常に、ダミー音符Ｄの挿入処理により、同期記述の条件は満たされる。
【００３８】
繰り返し制御による展開時には、和音の同時音符集合への展開も実行される。基本的には、記憶部１１にある各和音記号（例えば、Ａｍ）の文字と圧縮型エクセル楽譜上の和音領域Ｗにある和音記号（Ａｍ）との一致処理で、特定された和音を構成する４個の音符列が４列として展開される。
【００３９】
圧縮型エクセル楽譜における各行ベクトルＭｉは展開処理、すなわち、繰り返し展開と和音展開が実行されると、結果として、展開型エクセル楽譜の音符集合は、同期記述を満足し、
Ｍｉ＝｛Ｍ（ｉ，ｊ）｜ｊ＝１，４，７，・・・，３＊（ｃ−１）＋１｝；
ｉ＝１，２，・・・，Ｎ
と表現され、Ｎ＊（３＊ｃ）の行列に変換される。以降、この３列表現が代表として使われる。ここで、
Ｍ（ｉ，ｊ）＝Ｍ（ｍ（ｉ，ｊ），ｑ（ｉ，ｊ＋１），ａ（ｉ，ｊ＋２））；
ｊ＝１，４，７，・・・，３＊（ｃ−１）＋１
である。ｃはチャネル数、Ｎはチャネルの音符数である。
【００４０】
すなわち、展開型エクセル楽譜は、２次元集合
ＭＴ＝｛Ｍ（ｉ，ｊ）｜ｉ＝１，２，・・・，Ｎ；
ｊ＝１，４，７，・・・,３＊（ｃ−１）＋１
｝
として行列表現される。和音領域Ｗの展開後の和音チャネルの各行は音符長および大きさは同じ値となる。同時演奏により和音として聞こえることになる。デフォルトの展開型エクセル表現では、メロディの２チャネル、和音の４チャネルとし、合計６チャネルで構成される。生成された展開型エクセル楽譜を読み出し（演奏）する場合は、各チャネルは縦読み、すなわち、行方向処理を基本とする。
【００４１】
同期記述を含む圧縮型エクセル楽譜の生成処理は、５線楽譜からの変換処理によって行われる。重要なことは、演奏の読み出しはチャネルごとの行方向であるが、生成の書き込みは、複数チャネルに渡って列方向であるということである。本発明では、複数チャネルの小区間の同期イベントの概念、小区間の累積音符長の等価管理の概念がある。小区間の行数等価と音符数等価を条件とする行列化処理の概念がある。
【００４２】
計算機１０を使って複数チャネルを同時演奏し、これを人間の耳で聞いたとき、同時音が正しく聞こえるためには、同期した始点行から終点行までの音符が、同時に読み出される必要がある。同期音符集合として保障されるべきものは、小節を含む小区間とチャネル全体である。読み出し処理は、展開型エクセル楽譜における各チャネルの１行目からＮ行目までを行方向（縦）に読むことを基本とし、それをチャネル数ｃだけ列方向に繰り返すことを基本とする。すなわち、各チャネルの読み出しは縦読み原則である。読み出した音符集合Ｍ（ｍ（ｉ，ｊ）,ｌ（ｉ，ｊ＋１），ａ（ｉ，ｊ＋２）)は、音源生成時には、サンプリング周波数ｆｃの離散時刻ｔの各音符の波形関数
Ｆ（ｔ, Ｍ（ｍ（ｉ，ｊ）,ｌ（ｉ，ｊ＋１），ａ（ｉ，ｊ＋２）），ｘ（ｉ，ｔ））
に変換される。ここで、ｘ（ｉ，ｔ）は音源の波形変数である。
【００４３】
波形変数ｘ（ｉ，ｔ）は、回路シミュレーション上で設計されるオシレータ（発振器）の内部に内包する回路方程式から生成される変数である。回路シミュレーションによる音源生成である。ｘ（ｉ，ｔ）は、オシレータの発音構造や共鳴構造を含む非線形現象の固有的な音色の波、すなわち、物理モデル音源からの変数である。回路シミュレーションによる音源生成は生の楽器だけでなく、実在しない楽器の音も作成することが可能である。例えば、回路として構成されたコムフィルタ（Ｃｏｍｂ  Ｆｉｌｔｅｒ）は、その周波数特性が一定間隔のスパイク状になるフィルタで、多様な音色を生成する。周期倍周期によるカオス発振器では、そのアトラクタの周波数成分の振幅は複数のスペクトル状にはならないことが多い。しかし、例えば、回路変数の差分を複数回実行すると、周波数領域において、スパイク状の振幅が複数個生成でき、多様な音色を生成する。標準ＭＩＤＩシステムに内蔵されているデフォルト音源を利用する場合には、展開型エクセル楽譜を標準のＭＩＤＩ．ｃｓｖ，ＭＩＤＩ．ｍｉｄファイルに変換する処理が必要となる。
【００４４】
圧縮型エクセル楽譜を展開した展開型エクセル楽譜は、複数チャネルの各チャネルに含まれる音符数Ｎが等価になる。小区間同期記述を満足する行列である。複数チャネルは、５線楽譜の音符集合を完全に包含する行列となる。
【００４５】
展開型エクセル生成処理部１０８において、５線楽譜の音符集合を完全に包含する行列の展開型エクセル楽譜を直接自動で生成する場合もある。このとき、各チャネルの各小区間の行数と音符数が等価になるように、必要ならば、特定なチャネルの小区間にダミー音符Ｄが挿入される。この挿入処理によって小区間同期記述が確立する。小区間同期記述によって、各チャネルの音符数Ｎはどのチャネルも等価となる。結果として、音楽セル集合ＭＴはＮ＊（３＊ｃ）の音符行列で表現されることになる。
【実施例２】
【００４６】
展開型エクセル楽譜は、音楽の音の波から自動的に生成される。自動採譜である。自動生成では、まず、音楽の音の波の時系列集合Ｗａｖファイルを時間周波数変換部１０３にて周波数変換すれば、時系列化された周波数集合が生成される。テンポ解析処理１０４は、周波数の音符時系列の平均により、すべての音符に共通かつ等価な音符長を求める。クラスタリング処理１０５は、音符の音程集合を抽出し分類する。それらの結果を使って、音符粒子の時系列行と複数チャネル列からなる行列、すなわち、音符粒子集合を音符粒子集合部１０６にて求める。各チャネルは、ＭＩＤＩ番号、音符粒子長、および大きさの要素からなる３列で表現される。そして、音符長結合部１０７にて行方向に隣接する（行間に休止無音がない）時系列行間の同音程音符粒子の音符長を結合することにより音符の長さを変更する。音符粒子集合から音符集合への変換である。行方向に近接する（行間に有長休止無音がある）時系列行間の同音程音符粒子の音符長は連結されない。抽出された音符集合は、展開型エクセル生成処理部１０８にて小区間同期の条件を満たす行列として展開型エクセル楽譜となる。小区間は、元の作曲楽譜にある小節とは異なる。小区間の同期記述の概念は満たされる。ダミー音符Ｄの挿入処理は不必要で、常に、チャネル間秩序のある小区間同期記述を満たす空間での変換処理となる。これが本発明の自動楽譜生成、自動採譜である。
【００４７】
展開型エクセル楽譜の自動生成について詳細に述べる。アナログ空間Ｓａにおける１つの音の波をＲＭａとする。ＲＭａをＡＤ変換してできるデジタル空間Ｓｄにおける音をＲＭｄとする。すなわち、音の波形ＲＭａを実サンプリング周波数ｆＲでサンプリングしたとき、離散時刻ｔｄごとに生成された音要素の集合がＲＭｄとして定義される。音の波形ＲＭａに対するＡＤ変換あるいは音の物理現象に対する数値積分時に使われる実サンプリング周波数ｆＲは、例えば、音楽サンプリング周波数ｆｃ＝４４，１００Ｈｚ（あるいはそれよりも高いＨｉｇｈ  Ｒｅｓｏｌｕｔｉｏｎの周波数）よりも大きい高周波数あるいは小さい低周波数である。しかし、音楽で利用される時間ｔは音楽サンプリング周波数ｆｃで離散化したときの離散時刻である。実サンプリング周波数ｆＲの離散時刻は、音楽サンプリングｆｃの離散時刻ｔに写像される。音楽サンプリング周波数ｆｃによって定義されるデジタル空間Ｍｄにおいて、離散時刻ｔの音楽データの集合、すなわち、時間周波数変換部１０３に入力されるＷａｖファイルは、デジタル空間Ｍｄにおける音楽である。音楽サンプリング周波数ｆｃのサンプリングによって得られた時間域Ｔの音楽である。その音楽は、ステレオ音楽のＷａｖファイルとして、左音と右音の各ダンプ情報として記憶部１１に格納され、採譜処理される。
【００４８】
音楽のＷａｖファイルの各ダンプ情報に対して、時間周波数変換部１０３にて時間周波数変換Ｔを実行する。得られる周波数の時系列集合をＦＭｄとする。ＦＭｄの各要素の周波数成分は必ずしもＭＩＤＩ音符の音程に対応するとは限らず、むしろかなり異なるものである。ＦＭｄは１個の周波数時系列であるが、離散時刻ｔにおける振幅が大きい周波数成分は複数ある。その周波数成分数に等しい数の音程（その周波数成分に最も近いＭＩＤＩ周波数（音程））があると考えれば、音程に対応する音符もその数に等しい数だけ存在することになる。すなわち、採譜のための処理１０３、１０４、１０５、１０６、１０７の目的は、時間周波数変換Ｔにより生成されたＦＭｄの各要素を、最も確からしい音符Ｍ（ｉ，ｊ）の音符集合
Ｍｉ＝｛Ｍ（ｉ，ｊ）｜ｊ＝１，４，７，・・・，３＊（ｃ−１）＋１｝
に変換することである。ここで、音符Ｍ（ｉ，ｊ）の音程ｍ（ｉ，ｊ）に近い周波数成分は、時間周波数変換処理Ｔにより導出されるが、周波数音程変換を必要とする。音符Ｍ（ｉ，ｊ）の大きさａ（ｉ，ｊ）は、時間周波数変換処理Ｔにより導出される。大きさａ（ｉ，ｊ）は、変換処理Ｔによる周波数成分の複素数における実部と虚部の２乗和の平方根である。音符Ｍ（ｉ，ｊ）の音符長ｌ（ｉ，ｊ）は、音楽サンプリング周波数ｆｃによってサンプリングされた離散時刻ｔの数によって定義される秒単位の長さである。チャネルの定義は、単鍵チャネルである。各離散時刻にｃ個の音程があると仮定して、本発明は、ｃ個の複鍵チャネルを同期記述の条件下で生成する。採譜処理の問題は、チャネルの音符集合Ｍｉが未知、特に、音程ｍ（ｉ，ｊ）が未知、チャネル数ｃの数が未知、チャネル内の音符の音符長ｌ（ｉ，ｊ）が未知であることである。
【００４９】
今、チャネル数ｃは、クラスタリング部１０５によるクラスタリング処理において、クラス数と等価にする。例えば、６と決める。音符番号ｉは音符時系列のｉ番目の音符を特定するインデックスである。音符番号ｉの成分Ｍｉの要素Ｍ（ｉ，ｊ）は、音符番号ｉのｊ列目の音符である。本発明では、さらに、音楽
ＭＴ＝｛Ｍ（ｉ，ｊ）｜ｉ＝１，２，・・・，Ｎ；
ｊ＝１，４，７，・・・,３＊（ｃ−１）＋１
｝
内の音符Ｍ（ｉ，ｊ）の音符長ｌ（ｉ，ｊ）も固定とする。音符長ｌ（ｉ，ｊ）はテンポ解析部１０４で求められる。音符粒子集合部１０６が、音符粒子の時系列行と複数チャネル列からなる行列、すなわち、音符長が等しい音符粒子集合を求める。すべての音符粒子の長さは等価である。音符長結合部１０７の処理によって、小区間の同期記述を満足しながら音符粒子の長さが変更され、各チャネルの音符数はＮとして固定化される。
【００５０】
音符Ｍ（ｉ，ｊ）のＭＩＤＩ番号をｍ（ｉ，ｊ）、音程周波数をｆ（ｉ，ｊ）、音符長をｌ（ｉ，ｊ＋１）、 正規化された音の大きさをａ（ｉ，ｊ＋２）とすれば、音符Ｍ（ｉ，ｊ）は、
Ｍ（ｉ，ｊ）＝Ｍ（ｍ（ｉ，ｊ），ｌ（ｉ，ｊ＋１），ａ（ｉ，ｊ＋２））
として表現される。音程周波数ｆ（ｉ，ｊ）とＭＩＤＩ番号ｍ（ｉ、ｊ）との対応関係は、次式で定義される。
【数１】
2016212205.tif 000021
ここで、基準となる６９はデフォルトのＡ音のＭＩＤI番号で、４４０は、Ａ音の周波数（Ｈｚ）である。音符Ｍ（ｉ，ｊ）のＭＩＤＩ番号ｍ（ｉ，ｊ）に対応する音程周波数ｆ（ｉ，ｊ）は、単位時間の音符波形の繰り返し数に対応する。音程周波数ｆ（ｉ，ｊ）はひとつなので、逆フーリエ変換（ＩＦＦＴ）を実行すれば、音符Ｍ（ｉ，ｊ）は、周波数ｆ（ｉ、ｊ）の正弦波となるが、音符Ｍ（ｉ，ｊ）そのものは、音符パルス波であるので、その時間域Ｔにおける陽的表現は複雑である。また、音符Ｍ（ｉ，ｊ）の正規化された音の大きさａ（ｉ，ｊ＋２）は、ＦＦＴ変換Ｔの複素数における実部と虚部の２乗和の平方根に対応する。音符長ｌ（ｉ，ｊ＋１）は音符Ｍ（ｉ，ｊ）の始点時刻から終点時刻までのサンプリング点数に（１／ｆｃ)を掛けた長さであるが、個々の音符Ｍ（ｉ，ｊ）の音符長ｌ（ｉ，ｊ＋１）を混合波から求めることは非常に難しい。そこで、複鍵チャネルにおける音符粒子の音程（ＭＩＤＩ周波数）の音符長（平均時間）をテンポ解析部１０４にて求めることが重要となる。
【００５１】
ＦＦＴ処理を含むテンポ解析について説明する。テンポ解析部１０４のテンポ解析によって、楽譜の音符粒子集合のすべての音符粒子に共通な音符長を求める。解析は、抽出、すなわち、１分間の拍数ＢＰＭ（Ｂｅａｔｓ  Ｐｅｒ  Ｍｉｎｕｔｅ）をＷａｖファイルから抽出することである。抽出は、時系列情報の統計処理、ＦＦＴ、畳み込み、相関などの信号処理を必要とする。人間は、リズムを理解するが、計算機１０は、音のエネルギー（音量、振幅値の2乗）の差分情報から生成する。この差分情報は、周波数サブバンドの帯域分割ごとに生成されるべきである。各音源（楽器）の周波数帯域が異なるからである。そして、ステレオ音楽であれば、左音と右音ごとに生成される。次の解析は、帯域の分割数分実行される。
【００５２】
各サブバンド帯域において、先ず、サンプリング周波数をｆｃ＝４４，１００Ｈｚとし、Ｗａｖファイル（例えば、Ｄａｔａ  Ｓｉｚｅ ＝  ４３，０５７，１５２）をフレーム数ＤＮ（例えば、４０９６＊２）に分割し、フレームごとの音量（平均エネルギー）を次式に従って求める。
【数２】
2016212205.tif 000022
ここで、Ｄ（ｎ）は  フレーム内のｎ番目のデータの振幅値である。また、例えば、ｓｉｚｅｏｆ（ｓｈｏｒｔ）＝８とし、 Ｎｆ＝Ｄａｔａ  Ｓｉｚｅ／ｓｉｚｅｏｆ（ｓｈｏｒｔ）／２／ＤＮは、フレーム数（例えば、１３１４）とする。音量
【数３】
2016212205.tif 000023
は、ｍ＝０，１，・・・，Ｎｆ−１番目の各フレームの音量（平均エネルギー）である。解析時間は、フレーム数Ｎｆ（１，３１４)＊フレーム内サンプル数（ＤＮ＊（１／ｆｃ））＝２４４．０８８１６３である。ＤＮは各フレームのサンプリング数に対応するので、フレームの長さＬｆは
Ｌｆ＝ＤＮ／ｆｃ（０．１８５７ｓ）
で一定とする。
【００５３】
次に、隣接するフレームの音量増加量を求める。ｍ番目のフレームの音量をＸ(ｍ)としたとき、減少する場合は０とし、増加差分、
ＤＸ(ｍ)＝  Ｘ(ｍ) &#8211; Ｘ(ｍ−１)  
を求める。Ｘ（ｍ）＝Ｘ［ｍ］である。その増加差分ＤＸの周波数成分をテンポ解析部１０４内にて求める。ｍ番目のフレームの音量の増加差分ＤＸ（ｍ）が時間域のデータである。また、フレームのサンプリング周波数をｆｓとしたとき、ＢＰＭ（Ｂｅａｔｓ  Ｐｅｒ  Ｍｉｎｕｔｅ）、すなわち、1分間（６０ｓ）に刻む拍数がテンポ解析における周波数の定義となる。周波数域の定義は、ＢＰＭ空間域となる。すなわち、ＢＭＰ値を６０から２４０まで変化させる。そして、各ＢＰＭ空間の関数ＤＸ（ｍ）対するＦＦＴの実部Ｒと虚部Ｑを次式から導出する。
【数４】
2016212205.tif 000024
2016212205.tif 000025
2016212205.tif 000026
ここで、ｆｂはＢＰＭ値／６０、ｆｓ＝（１／Ｌｆ）はサンプリング周波数ｆｃ／（フレームのサンプル数ＤＮ）である。実際は、窓関数による波形端部の補正処理を含む。
【００５４】
音符粒子の音符長解析は、ＢＰＭ空間の周波数Ｒ（ｆｂ）、Ｑ（ｆｂ）から求める方法となる。生のＷａｖ波形は、各音符区域の開始位置で音量が増加する特性があり、しかも、その音量の増加量は周期的現象となる。ＢＰＭ空間において、各振幅値Ａの最大値を検出する。音符長は、最大値の周波数ＢＰＭｍの逆数として定義され、抽出される。すなわち、解析の処理の流れは、Ｗａｖファイルのフレーム分割、隣接フレームの音量変化の取得、その時間変化分のＦＦＴ、振幅最大の周波数成分の検出、振幅最大の周波数成分の逆数の算出、となる。以上により、ＢＰＭ空間におけるＦＦＴを使って、音符粒子時系列の周期，すなわち、ひとつの平均音符長Ｌを求めることができる。音符粒子の平均音符長Ｌ（ｓ）は、例えば、６４分音符の長さに固定される場合もあるが、曲依存値として、
Ｌ  ＝６０／ＢＰＭｍ
となる。以上の手続きをサイドバンド帯域ごとに実行する。
【００５５】
他の方法として、時間ｔ、遅延変数Ｔｉとする学習インパルス信号Ｉ（ｔ−Ｔｉ）を使う方法（非特許文献３）がある。学習インパルス信号Ｉ（ｔ−Ｔｉ）は、インデックスｍを１からＮｆまでインクリメントするＦｏｒ文
Ｆｏｒ（ｍ＝０；ｍ＜Ｎｆ；ｍ＋＋）｛
ｉｆ  （（ｍ％Ｔｉ）＝０）
Ｉ［ｍ］(実部)  ＝  Ａｍｐ；
ｅｌｓｅ
Ｉ［ｍ］(実部)  ＝Ｊ［ｍ］(虚部)  ＝０；
｝
となるＣ言語で記述される。記述は、ｍ％Ｔｉ＝０,すなわち、離散時刻Ｔｉのみ関数値が一定値Ａｍｐをもち、それ以外の時間区域では０となる関数である。非常に簡単に生成できる。時間域において、信号ＤＸ（ｍ）と学習インパルス信号Ｉ（ｍ−Ｔｉ）との離散畳み込み積分は、いわば、２信号の類似性を表現する。ＢＭＰの周波数域において、ＦＦＴ（ＤＸ（ｍ））とＦＦＴ（（Ｉ（ｍ−Ｔｉ））との積からエネルギーＥが計算できる。周波数域において、エネルギーＥの大きさ｜Ｅ｜が最大Ｅｍａｘとなる学習インパルス信号I（ｍ−Ｔｉ）の周期Ｔｍａｘを求めることができる。すなわち、ＢＰＭ値を、例えば、６０から２４０までを適当なステップごとに変化させて、大きさ｜Ｅ｜が最大となるＢＰＭｍを値とする。音符粒子の音符長は、
Ｌ＝６０／ＢＰＭｍ
として導出できる。以上の手続きをサイドバンド帯域ごとに実行する。
【００５６】
次に、クラスタリング部１０５において、音符粒子の音程（ＭＩＤＩ番号）の集合を求める。ステレオＷａｖファイルの左音と右音を分けて実行する。時間域と周波数域におけるサンプリング周波数を同じｆｃ（＝４４，１００）、フレームのサンプリング数をＤＮ（４０９６＊２）とする。フレーム周期（時間）はＬｆ＝ＤＮ／ｆｃである。変換部１０３における時間周波数変換ＦＦＴの結果を周波数ｆ（ｔ）とする。周波数ｆ（ｔ）と離散時刻ｔ、すなわち、周期Ｌｆごとの時刻には関係がある。離散時刻tの周波数ｆ（ｔ）は,
帯域０＜ｆ（ｔ）＜ＤＮ／２において，
ｆ（ｔ）＝ｔ＊（１／Ｌｆ）  
帯域ＤＮ／２＜＝ｆ（ｔ）＜ＤＮにおいて，
ｆ（ｔ）＝（ＤＮ−ｔ）／Ｌｆ
となる。これは時間周波数の変換基本式であって、積パラメータあるいはオフセットパラメータで補正され、それをｆ（ｔ）とする。
【００５７】
周波数ｆ（ｔ）に対応するＭＩＤＩ番号（音程周波数）は、ｉｎｔの整数化を使って
［数１］の逆関数として、
ＭＩＤＩ番号＝（ｉｎｔ）（６９．０＋１２．０＊ｌｏｇ２（ｆ（ｔ）／４４０．０））
となる。ＭＩＤＩ番号は，各フレームＤＮ内のスペクトルｆ（ｔ）に対応するので、その抽出数はＤＮ個存在する。多数である。そこで、正規化された最大振幅値Ａｍａｘを有する線スペクトルｆｍａｘ（ｔ）を基準として，倍率パラメータｂａｉに対する下限振幅値ｂａｉ＊Ａｍａｘから上限振幅値ＡｍａｘまでのＲ個の線スペクトル
Ｆ＝｛ｆｋ（ｔ）｜ｋ＝０，１，２，・・・，Ｒ｝
に限定して抽出する。抽出数Ｒは各フレーム  ｍ＝０，１，２，・・・，Ｎｆ−１ごとに異なるので、Ｒをチャネル数ｃに固定する処理、すなわち、ｃ個のクラスタのクラスタリング処理をクラスタリング部１０５にて実行する。
【００５８】
音符粒子集合のクラスタリング処理を説明する。Ｒ＜ｃのときは、抽出されたＲ個のＭＩＤＩ番号中から適切なＭＩＤＩ番号を（ｃ−Ｒ）個複写する。チャネル数は必ずcとなる。Ｒ＞ｃのときは、抽出されたＲ個の中からｋ−ｍｅａｎｓ法によりクラスタリングすることになる。ｋ−ｍｅａｎｓ法は、ＭＩＤＩ番号集合において、ｃ個のクラスタ重心（ＭＩＤＩ番号）に距離が近く、かつ、ｃ個のクラスタ重心間の距離が大きくなるようにクラスタ重心を見つけるアルゴリズムである。ｃ個のクラスタ重心に対応するｃ個のＭＩＤＩ番号のみを選択することになる。デフォルトは、ｃ＝６、ｂａｉ＝０．４である。抽出数Ｒが大きすぎる場合もあるので、曲依存で倍率ｂａｉを選択する必要がある。ｋ−ｍｅａｎｓの真の解を求める問題はＮＰ困難となるが、６チャネル程度の音符粒子の集合を求めるｋ−ｍｅａｎｓ法は高速である。ｋ−ｍｅａｎｓ法は初期値依存性などの欠点もある。他のクラスタリング手法、例えば、アフィニティマトリックス法、行列クラスタリング法、隣接行列クラスタリング法、相関行列クラスタリング法などを使ってもよい。例えば、クラスタリング処理後の音符粒子集合の展開型エクセル楽譜を表３に示す。
【表３】
2016212205.tif 000027
【００５９】
１列目は、メロディ１の音符粒子のＭＩＤＩ番号である。２列目が音符粒子の音符長列で、すべて、０．２５３１６５と等価である。３列目は、メロディ１の音符粒子の大きさである。４列目はメロディ２の音符粒子のＭＩＤＩ番号である。５列目がメロディ２の音符粒子の音符長列で、すべて等価である。６列目は、メロディ２の音符粒子の大きさである。７列目はメロディ３の音符粒子のＭＩＤＩ番号である。８列目がメロディ３の音符粒子の音符長列で、すべて等価である。９列目は、メロディ４の音符粒子のＭＩＤＩ番号である。１０列目がメロディ４の音符粒子の音符長列で、すべて等価である。１１列目は、メロディ５の音符粒子のＭＩＤＩ番号である。１２列目は、メロディ５の音符粒子の音符長で、すべて等価である。１３列目は、メロディ６の音符粒子のＭＩＤＩ番号である。１４列目は、メロディ６の音符粒子の音符長で、すべて等価である。なお、メロディ３，４，５，６は、大きさが予め決められた和音扱いとなっている。すべての音符粒子の音符長は、テンポ解析結果として導出された値で、Ｌ＝０．２５３１６５ですべて同じ値である。このように、各チャネルは、ＭＩＤＩ番号、音符粒子長、および大きさの要素からなる３列で表現されるが、大きさの要素は予め決められているならば削除される。
【００６０】
音符長が等価な音符粒子集合の展開型エクセル楽譜に従って演奏すると、同期性と秩序性は高いが、当然、複数音が情緒性のない機械的な音楽になる。そこで、音符長結合部１０７における音符長結合処理を説明する。音符長が等価な音符粒子集合の展開型エクセル楽譜において、各チャネルは、ＭＩＤＩ番号、音符粒子長、および大きさの要素からなる３列、または、和音展開列の２列で表現される。ただし、自動採譜であるので、和音の再現は不完全となる。音符長結合部１０７では、行方向に隣接する（行間に休止無音がない）時系列行間の同音程音符粒子の音符長を結合することにより音符の長さを変更する。行方向に近接する（行間に有長休止無音がある）時系列行間の同音程音符粒子の音符長は連結されない。小区間内の時系列行間の同音程音符粒子の音符長は累積され、その小区間の最後の行にある音符長が累積長に変更され、小区間内の他の行は削除または０にされる。音符粒子集合から音符集合への変換である。抽出された音符集合は、同期記述、すなわち、小区間同期の条件を満たす行列として展開型エクセル楽譜となる。
【００６１】
音符集合からなる展開型エクセル楽譜を表４に示す。
【表４】
2016212205.tif 000028
例えば、結合前の状態が表３の展開型エクセル楽譜であるが、音符長結合処理後は、表４の展開型エクセル楽譜となる。表３において、１列目の２行目にあるＭＩＤＩ番号７９は、３行目、４行目、さらに、5行目に連続して存在する。小区間は、４行分である。小区間内の各行の音符粒子の音符長は、それぞれ、０．２５３１６５ですべて同じ値である。音符長結合処理後の表４の展開型エクセル楽譜では、ＭＩＤＩ番号７９は、表３の５行目にあるＭＩＤＩ番号７９としてまとめられ、音符長は、累積値０．２５３１６５＊４＝１．０１２６６となっている。時系列行間の同音程音符粒子を含む他の小区間において、同様な結合処理が実行される。音符長結合部１０７の音符長結合処理によって、全体の行数は２３から１９行に減らされる。以上が、音符粒子集合から音符集合への変換である。抽出された音符集合は、小区間同期の条件を満たす行列で、行列楽譜の展開型エクセル楽譜となる。これが自動楽譜生成、自動採譜である。
【００６２】
本発明では、同期記述された行（小区間）からなる音符長等価な音符粒子集合を生成し、時系列行間の同音程音符粒子を含む同期小区間内で音符長を結合して音符集合に変換している。同期記述の範囲での行列変換である。音楽セル集合ＭＴの展開型エクセル楽譜生成時には、チャネル間に渡る列方向の書き込み処理を含み、その展開型エクセル楽譜の読み出し時には、その読み出し処理は、チャネルごとの行方向で実行される。音楽セル集合ＭＴの展開型エクセル楽譜は、計算機１０によって５線楽譜に変換されてもよい。処理部１１０にて、展開型エクセル楽譜は、汎用のＭＩＤＩ.ｃｓｖに変換される。この変換に新規性がある。変換後は、汎用のＭＩＤＩシステムを使うことができる。複数チャネルの音源付き演奏が、デスプレィ上で、トラックリスト表示、ピアノロール表示、イベントリスト表示、自動５線音符表示のうち少なくとも１つを動画表示しながら、計算機１０によって実行される。編集もできる。図３は、本発明の行列楽譜処理法の処理を実行する計算機１０内の音楽システムの画像表示である。ＭＩＤＩシーケンサのＰＣ上の画面である。上部にあるのが６トラックリストである。メロディのトラックリストが２、和音展開されたトラックリストが４となっている。さらに、下部上側にあるピアノロール、下部左側にあるイベントリスト、下部右側にある自動採譜の譜面ウインドウが表示される。処理部１１０にて生成されたＭＩＤＩ．ｃｓｖは、回路シミュレーション１１１からの変数と処理部１１２にて結合されると、Ｗａｖファイルに変換され、再生部１１５にて複数チャネルの同時演奏がＰＣ上で実行される。処理部１１０にて生成されたＭＩＤＩ.ｃｓｖは、ＭＩＤＩ．ｍｉｄに変換され、再生部１１５において音が再生される場合もある。
【００６３】
本発明では、圧縮型エクセル楽譜は、小区間同期が記述された５線楽譜対応の媒体で、ＰＣ演奏、ＰＣ保存、インターネット通信の容易なＩＴＣ媒体となる。展開型エクセル楽譜は、複数チャネルの時系列音符集合の各チャネルの音符の音程、音符長、大きさが列方向に展開されたＩＣＴ媒体となる。ユーザにとって、極めて理解し易いエクセル楽譜の媒体である。展開型エクセル楽譜は、音楽の音の波から小区間同期の条件を満たす行列楽譜として自動生成され、複鍵チャネルを含む複数チャネルとして採譜される。
【産業上の利用可能性】
【００６４】
産業の利用分野として、音楽の自動採譜、自動編曲、音楽情報検索、音楽の加工がある。本発明の行列楽譜は、ユーザにとって、高データベース性、高圧縮性、高使用性、高理解性、高表現性、高通信性、高同期性を有し、複数ＰＣのオーケストラ演奏化、インターネット配信化に利用できる。本発明の行列楽譜処理法は、演奏の音から自動でエクセル楽譜、あるいは５線楽譜を作成することを含み、自動楽譜による複数チャネル演奏は、元の楽譜演奏とは異なる編曲された近似音楽となる。そのことが逆に新しい編曲産業を生む。
【００６５】
クライアント側からの要求に基づいて、サーバ側のデータベースにある圧縮型エクセル楽譜あるいは展開型エクセル楽譜がインターネット媒体としてクライアント側にダウンロードされる。複数チャネルの音源付き演奏は、トラックリスト表示、ピアノロール表示、自動５線音符表示、イベントリスト表示のうち少なくとも１つを動画表示しながら、実行される。あるいは、自分の音源を回路シミュレータにて生成し、自分のＷａｖ音を聞いて楽しむこともできる。
【符号の説明】
【００６６】
１  本発明の行列楽譜生成法の主要な部
１００  ５線楽譜認識部
１０１  圧縮型エクセル生成部
１０２  和音展開、繰り返し記号展開部
１０３  時間周波数変換（ＦＦＴ）部
１０４  テンポ解析（音符粒子長解析）部
１０５  クラスタリング（ｋ−ｍｅａｎｓ法）部
１０６  音符粒子集合部
１０７  音符長結合部
１０８  展開型エクセル生成処理部
１０９  ＭＩＤＩｔｏＷＡＶ変換部
１１０  ＭＩＤＩ.ｃｓｖ生成部
１１１  回路シミュレーション部
１１２  音源（ｗａｖファイル）生成部
１１３  標準音源生成部かつｍｉｄファイル生成部
１１４  トラックリスト、ピアノロール、イベントリスト、5線楽譜自動生成部
１１５  音の再生部
１０  計算機（ＰＣ）
１１  記憶部
１２  演算部
１３  制御部
１４  入力部
１５  出力部