(57)【要約】【課題】  身体の動きに基づき、楽曲の演奏位置に応じた適切なフレーズを生成する。【解決手段】  オーディオＩ／Ｆ１４０は、オーケストラが楽曲を演奏することにより生成される演奏音の音信号を受信する。無線通信Ｉ／Ｆ１５０は、体操選手の身体に装着されたセンシングユニットからのセンサ信号を受信する。スコアアライメント部１０１は、演奏音の音信号に基づいて、楽曲の演奏位置を検出する。フレーズ生成制御部１０２は、楽曲の演奏位置に対応付けられたフレーズ構成データを参照する。そして、フレーズ構成データに従って、センサ信号からフレーズを構成する音を決定し、フレーズの生成制御のためのＭＩＤＩメッセージを生成する。【選択図】  図４
2018022019.tif 000002
【特許請求の範囲】
【請求項１】
楽曲の演奏位置を取得する演奏位置取得手段と、
前記楽曲の演奏位置と、演技者の身体の状態または動きを検出するセンサの出力信号とに基づいて、フレーズの生成制御を行うフレーズ生成制御手段と
を具備することを特徴とするフレーズ生成装置。
【請求項２】
前記演奏位置取得手段は、楽曲の演奏または再生により生じる音信号に基づいて、前記楽曲の演奏位置を取得することを特徴とする請求項１に記載のフレーズ生成装置。
【請求項３】
前記フレーズ生成制御手段は、
各種の演奏位置において前記センサの出力信号に基づいてフレーズを生成する条件を各々定義したフレーズ構成データを参照し、前記演奏位置取得手段により取得された演奏位置に対応したフレーズ構成データに従ってフレーズの生成制御を行うことを特徴とする請求項１または２に記載のフレーズ生成装置。
【請求項４】
前記フレーズ構成データは、フレーズを構成する音の発音タイミングを示す発音タイミングデータと、前記発音タイミングに対応付けられており、当該発音タイミングにおいて発音する音を前記センサの出力信号に基づいて決定する方法を定義した音定義データとを含み、
前記フレーズ生成制御手段は、前記発音タイミングデータが示す発音タイミングにおいて、当該発音タイミングに対応付けられた前記音定義データに従って、前記センサの出力信号に基づいて前記フレーズを構成する音の生成制御を行うことを特徴とする請求項３に記載のフレーズ生成装置。
【請求項５】
前記フレーズ構成データは、フレーズを構成する音を発音するために前記センサの出力信号が満たすべき条件を定義した発音条件データと、前記フレーズを構成する音を前記センサの出力信号に基づいて決定する方法を定義した音定義データとを含み、
前記フレーズ生成制御手段は、前記発音条件データにより定義された条件を前記センサの出力信号が満たしたとき、前記音定義データに従って、前記センサの出力信号に基づいて前記フレーズを構成する音の生成制御を行うことを特徴とする請求項３に記載のフレーズ生成装置。
【請求項６】
前記フレーズ構成データは、フレーズの生成制御を開始するために前記センサの出力信号が満たすべき条件を定義したトリガ条件データと、前記フレーズを構成する各音を示す情報を時系列化したフレーズ定義データとを含み、
前記フレーズ生成制御手段は、前記トリガ条件データにより定義された条件を前記センサの出力信号が満たしたとき、前記フレーズ定義データに従って、前記フレーズの生成制御を行うことを特徴とする請求項３に記載のフレーズ生成装置。
【請求項７】
前記フレーズ構成データは、前記トリガ条件データおよび前記フレーズ定義データの組を複数含み、
前記フレーズ生成制御手段は、前記トリガ条件が満たされた組の前記フレーズ定義データに従って、前記フレーズの生成制御を行うことを特徴とする請求項６に記載のフレーズ生成装置。
【請求項８】
前記フレーズ構成データは、
第１のフレーズを構成する音の発音タイミングを示す発音タイミングデータと、前記発音タイミングに対応付けられており、当該発音タイミングにおいて発音する音を前記センサの出力信号に基づいて決定する方法を定義した音定義データとを含む直接生成対応フレーズ構成データと、
第２のフレーズの生成制御を開始するために前記センサの出力信号が満たすべき条件を定義したトリガ条件データと、前記第２のフレーズを構成する各音を示す情報を時系列化したフレーズ定義データとを含むフレーズトリガ対応フレーズ構成データとを含み、
前記フレーズ生成制御手段は、
前記発音タイミングデータが示す発音タイミングにおいて、当該発音タイミングに対応付けられた前記音定義データに従って、前記センサの出力信号に基づいて前記第１のフレーズを構成する音の生成制御を行い、
前記トリガ条件データにより定義された条件を前記センサの出力信号が満たしたとき、前記フレーズ定義データに従って、前記第２のフレーズの生成制御を行うことを特徴とする請求項３に記載のフレーズ生成装置。
【請求項９】
前記フレーズ構成データは、
第１のフレーズを構成する音を発音するために前記センサの出力信号が満たすべき条件を定義した発音条件データと、前記第１のフレーズを構成する音を前記センサの出力信号に基づいて決定する方法を定義した音定義データとを含む直接生成対応フレーズ構成データと、
第２のフレーズの生成制御を開始するために前記センサの出力信号が満たすべき条件を定義したトリガ条件データと、前記第２のフレーズを構成する各音を示す情報を時系列化したフレーズ定義データとを含むフレーズトリガ対応フレーズ構成データとを含み、
前記フレーズ生成制御手段は、
前記発音条件データにより定義された条件を前記センサの出力信号が満たしたとき、前記音定義データに従って、前記センサの出力信号に基づいて前記第１のフレーズを構成する音の生成制御を行い、
前記トリガ条件データにより定義された条件を前記センサの出力信号が満たしたとき、前記フレーズ定義データに従って、前記第２のフレーズの生成制御を行うことを特徴とする請求項３に記載のフレーズ生成装置。
【請求項１０】
楽曲の演奏位置を取得する演奏位置取得過程と、
前記楽曲の演奏位置と、演技者の身体の状態または動きを検出するセンサの出力信号とに基づいて、フレーズの生成制御を行うフレーズ生成制御過程と
を具備することを特徴とするフレーズ生成方法。
【発明の詳細な説明】
【技術分野】
【０００１】
この発明は、体の動きに応じて、音列であるフレーズを生成する装置および方法に関する。
【背景技術】
【０００２】
楽曲の演奏等の演出効果を高めるための手段として、例えば津軽三味線の演奏とジャズ演奏等、異種の演出者によるコラボレーションが行われる場合がある。また、例えば音を出す演出形態である楽器演奏と、体を動かす演出形態であるダンス等、異種の演出形態のコラボレーションもよく行われている。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２００６−２５１０５３号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
ところで、音を出す演出形態と体を動かす演出形態とのコラボレーションにおいて、体の動きに基づいて、音列であるフレーズを生成することができれば、演出効果をより一層高めることができると考えられる。
【０００５】
ここで、人間の運動に基づいて音を生成する点に関しては従来から各種の技術が提案されている。例えば特許文献１は、「歩いている」、「止まっている」等の身体の状態をセンサにより検出し、身体の状態に応じて、ループパターン、音程パターン、音色パターン、効果パターン等の楽曲の要素を切り換える技術を開示している。そこで、この種の技術を利用して、体の動きに基づいて、フレーズを生成することも考えられる。
【０００６】
しかしながら、体の動きに基づいてフレーズを生成する場合、体の動きが同じであれば、楽曲の演奏位置とは無関係に同じフレーズが生成されることになるので、フレーズが単調あるいは楽曲と無関係なものになり、コラボレーションとは言い難いものになり易いという問題がある。
【０００７】
この発明は以上のような事情に鑑みてなされたものであり、体の動きに基づき、楽曲の演奏位置に応じた適切なフレーズを生成することを可能にする技術的手段を提供することを目的としている。
【課題を解決するための手段】
【０００８】
この発明では、楽曲の演奏位置を取得し、この楽曲の演奏位置と、演技者の身体の状態または動きを検出するセンサの出力信号とに基づいて、フレーズの生成制御を行う。
【０００９】
この発明によれば、楽曲の演奏位置と、演技者の身体の状態または動きを検出するセンサの出力信号とに基づいて、フレーズの生成制御が行われるので、楽曲の演奏位置に応じた適切なフレーズを生成することができる。
【図面の簡単な説明】
【００１０】
【図１】この発明の一実施形態である演奏システムの構成を示す図である。
【図２】同実施形態におけるセンシングユニットの身体への装着態様を示す図である。
【図３】同実施形態におけるセンシングユニットの機能構成を示すブロック図である。
【図４】同実施形態においてフレーズ生成装置としての役割を果たすパーソナルコンピュータの機能構成を示すブロック図である。
【図５】同実施形態において用いられる演出データを示す図である。
【図６】同実施形態における第１種フレーズ構成データに基づくフレーズ生成制御を示す図である。
【図７】同実施形態における第２種フレーズ構成データに基づくフレーズ生成制御を示す図である。
【図８】同実施形態における第３種フレーズ構成データに基づくフレーズ生成制御を示す図である。
【図９】同実施形態における第４種フレーズ構成データに基づくフレーズ生成制御を示す図である。
【図１０】同実施形態における第５種フレーズ構成データに基づくフレーズ生成制御を示す図である。
【図１１】同実施形態におけるフレーズ生成制御部の動作を示すフローチャートである。
【図１２】同実施形態におけるフレーズ生成制御部の動作を示すフローチャートである。
【発明を実施するための形態】
【００１１】
以下、図面を参照しつつ本発明の実施の形態について説明する。
【００１２】
図１は、この発明の一実施形態である演奏システムの構成を示す図である。本実施形態による演奏システムは、フレーズ生成装置として機能するパーソナルコンピュータ（以下、ＰＣと略す）１と、自動演奏ピアノ等により構成される音源２とを有する。音源２は、ＭＩＤＩメッセージに従って演奏を行う機能を備えた音源であり、１台の音源であってもよく、同種または異種の複数台の音源であってもよい。
【００１３】
この演奏システムでは、オーケストラ３が弦楽器、和太鼓等の各種の楽器により楽曲の演奏を行い、体操選手がこのオーケストラの演奏に合わせて体操演技を行う。図１に示す例では、２名の女子体操選手４１および４２が平均台の演技を行い、２名の男子体操選手４３および４４が床運動の演技を行っている。各体操選手４１〜４４の身体の部位には、その部位の動きや状態を検出し、検出結果であるセンサ信号を無線送信するセンシングユニット（図１では図示略）が装着されている。
【００１４】
ＰＣ１は、マイクロフォン５により収音されるオーケストラ３の演奏音と、各体操選手４１〜４４のセンシングユニットから受信されるセンサ信号とに基づいて、音列であるフレーズを生成するためのＭＩＤＩメッセージを生成し、音源２に供給し、フレーズを放音させる。
【００１５】
図２（ａ）および（ｂ）は体操選手４１〜４４におけるセンシングユニットの装着状態を示す図であり、図２（ａ）は体操選手を正面から見た状態、図２（ｂ）は体操選手を背面から見た状態を示している。図２（ｂ）に示すように、体操選手の左肘および右肘には、センシングユニット６１Ｌおよび６１Ｒが装着される。図２（ａ）に示すように、体操選手の左下腕および右下腕にはセンシングユニット６２Ｌおよび６２Ｒが、左手首および右手首にはセンシングユニット６３Ｌおよび６３Ｒが、左膝および右膝にはセンシングユニット６４Ｌおよび６４Ｒが、左脛および右脛にはセンシングユニット６５Ｌおよび６５Ｒが、左足首および右足首にはセンシングユニット６６Ｌおよび６６Ｒが、各々装着されている。
【００１６】
図３は各センシングユニット６１Ｌ（６１Ｒ）〜６６Ｌ（６６Ｒ）の機能構成を示すブロック図である。図３に示すように、センシングユニット６１Ｌ（６１Ｒ）〜６６Ｌ（６６Ｒ）は、センサ部６０１と、センサ部６０１の出力信号をデジタル形式のセンサ信号に変換するＡ／Ｄ変換部６０２と、このセンサ信号をブルートゥース（登録商標）等の無線通信方式により送信する無線通信部６０３とを有する。
【００１７】
ここで、体操選手の左下腕および右下腕のセンシングユニット６２Ｌおよび６２Ｒと、左脛および右脛のセンシングユニット６５Ｌおよび６５Ｒとにおけるセンサ部６０１は、例えばジャイロセンサや加速度センサである。このセンサ部６０１は、当該センシングユニットの装着部位の回転やその装着部位に加わる衝撃を検出する役割を担っている。すなわち、このセンサ部６０１は、体操選手のジャンプや回転を検出する。また、その他のセンシングユニット６１Ｌ、６１Ｒ、６３Ｌ、６３Ｒ、６４Ｌ、６４Ｒ、６６Ｌ、６６Ｒのセンサ部６０１は、ＣＮＴ（Ｃａｒｂｏｎ  ＮａｎｏＴｕｂｅ）センサ等の歪センサである。このセンサ部６０１は、当該センシングユニットの装着部位の曲げを検出する役割を担っている。すなわち、このセンサ部６０１は、体操選手の手や足の曲がり方を検出する。
【００１８】
なお、本実施形態ではセンシングユニット６１Ｌ（６１Ｒ）〜６６Ｌ（６６Ｒ）を備えるが、少なくとも１つのセンシングユニットがあればよい。また、センシングユニットは、センサ部６０１を複数備えてもよい。例えば、センシングユニットに、ジャイロセンサと加速度センサの両方を備えるようにしてもよい。
【００１９】
図４はフレーズ生成装置としての役割を果たすＰＣ１の機能構成を示すブロック図である。図４に示すように、ＰＣ１は、制御中枢であるＣＰＵ１００と、液晶ディスプレイ等からなる表示部１１０と、キーボードやマウス等からなる操作部１２０と、ＲＡＭ等の揮発性メモリやＥＥＰＲＯＭ、ＨＤ等の不揮発性メモリからなる記憶部１３０と、マイクロフォン５から音信号を受信する音信号取得手段であるオーディオＩ／Ｆ１４０と、センシングユニット６１Ｌ（６１Ｒ）〜６６Ｌ（６６Ｒ）の無線通信部６０３と無線通信を行ってセンサ信号を受信する無線通信Ｉ／Ｆ１５０と、ＣＰＵ１００による制御の下、フレーズ生成のためのＭＩＤＩメッセージを音源２に供給するＭＩＤＩ＿Ｉ／Ｆ１６０とを有する。
【００２０】
記憶部１３０には、オーディオＩ／Ｆ１４０により受信される音信号と、無線通信Ｉ／Ｆ１５０により受信されるセンサ信号に基づいて、フレーズの生成制御を行うフレーズ生成制御アプリケーションプログラムが記憶されている。図４におけるスコアアライメント部１０１およびフレーズ生成制御部１０２は、ＣＰＵ１００がこのフレーズ生成制御アプリケーションプログラムを実行することにより実現される機能である。
【００２１】
スコアアライメント部１０１には、オーケストラ演奏により発生する音信号がオーディオＩ／Ｆ１４０から入力される。スコアアライメント部１０１は、この音信号に基づいて、オーケストラ３が演奏する楽曲における現在の演奏位置を取得する演奏位置取得手段である。
【００２２】
この演奏位置の取得を可能にするため、記憶部１３０には、オーケストラ３が演奏する楽曲の楽譜を示す楽譜データが予め記憶される。この楽譜データは、各種の楽器パート毎に、当該楽曲の各演奏位置（当該楽曲の演奏開始時刻を基準とした相対時刻）において発生すべき演奏音のピッチ、音長、音量等を定義した音データの集まりと、楽曲のテンポ等、楽曲に関する各種の情報を含むデータである。
【００２３】
スコアアライメント部１０１は、楽曲の各演奏位置において出力しうる音の特性を予め計算する。そして、オーディオＩ／Ｆ１４０から逐次入力される音信号を分析し、音信号が示す音の特性と、楽曲の各演奏位置における音の特性と照合する。最後に、「楽曲の演奏位置は滑らかに移動する」といった音楽的な制約と統合することで、最終的な演奏位置を割り出す。なお、スコアアライメント部１０１における演奏位置を求めるためのアルゴリズムとしては、例えば特開２０１５−７９１８３号公報等に開示のアルゴリズムを用いればよい。
【００２４】
フレーズ生成制御部１０２は、体操選手４１〜４４の各センシングユニット６１Ｌ（６１Ｒ）〜６６Ｌ（６６Ｒ）からのセンサ信号と、スコアアライメント部１０１により算出された演奏位置とに基づいて、フレーズの生成制御のためのＭＩＤＩメッセージを生成する手段である。
【００２５】
このフレーズの生成制御を行うため、図５に例示する演出データＤＤが記憶部１３０に予め記憶される。この演出データＤＤは、複数の演出トラックからなる。各演出トラックは、各々異なるパートのフレーズの生成制御に用いられるデータである。各演出トラックは、楽曲を時間軸上において分割した各区間に各々対応付けられたフレーズ構成データＤＦにより構成されている。このフレーズ構成データは、当該区間において体操選手４１〜４３の各センシングユニット６１Ｌ（６１Ｒ）〜６６Ｌ（６６Ｒ）からのセンサ信号に基づいてフレーズを生成する条件を定義したデータである。
【００２６】
本実施形態において、演出データＤＤの各演出トラックには、１小節に相当する区間毎にこのフレーズ構成データＤＤが格納されている。フレーズ生成制御部１０２は、スコアアライメント部１０１により検出される演奏位置に対応した小節のフレーズ構成データを記憶部１３０内の演出データＤの各演出トラックから読み出し、複数の演出トラックについて並行してフレーズの生成制御を行う。演出データＤＤの各演出トラックは、全ての小節についてのフレーズ構成データＤＦを含んでいてもよく、一部の小節のみについてのフレーズ構成データＤＦを含んでいてもよい。ある演奏トラックが、ある小節に対応したフレーズ構成データＤＦを含んでいない場合、フレーズ生成制御部１０２は、その演奏トラックに対応したフレーム生成制御において、その小節におけるフレーズの生成制御を行わない。
【００２７】
ある好ましい態様では、演奏トラック１に体操選手４１に関連したセンサ信号に基づいてフレーズの生成制御を行うためのフレーズ構成データが格納され、演奏トラック２に体操選手４２に関連したセンサ信号に基づいてフレーズの生成制御を行うためのフレーズ構成データが格納され、…という具合に、演奏トラック毎に特定の体操選手に関連したセンサ信号を取り扱うフレーズ構成データが格納されている。しかし、これは一例であり、各演奏トラックのフレーズ構成データにおいて、体操選手４１〜４４に各々関連した各センサ信号をどのように扱うかは任意である。
【００２８】
本実施形態において、演出データＤＤの各演出トラックには、フレーズ構成データＤＦとして、図６〜図１０に示す第１種フレーズ構成データＤＦ１〜第５種フレーズ構成データＤＦ５が格納され得る。
【００２９】
ここで、第１種フレーズ構成データＤＦ１および第２種フレーズ構成データＤＦ２に基づくフレーズ生成制御モードは、フレーズを構成する各音の生成制御にセンサ信号を直接関与させるモードであるので、直接生成モードと呼ばれる。また、第３種フレーズ構成データＤＦ３に基づくフレーズ生成制御モードは、センサ信号が所定のトリガ条件を満たしたときに、予め定義されたフレーズの生成制御を行うモードであるので、フレーズトリガモードと呼ばれる。第４種フレーズ構成データＤＦ４および第５種フレーズ構成データＤＦ５に基づくフレーズ生成制御モードは、直接生成モードとフレーズトリガモードの折衷案的なモードである。
【００３０】
以下、これらのフレーズ構成データＤＦの内容とこれらのフレーズ構成データＤＦに従ってフレーズ生成制御部１０２により行われるフレーズ生成制御の詳細について説明する。
【００３１】
＜第１種フレーズ構成データＤＦ１および同データに基づくフレーズ生成制御＞
図６に示すように、第１種フレーズ構成データＤＦ１は、発音タイミングデータと、音定義データとにより構成されている。ここで、発音タイミングデータは、フレーズを構成する第１音、第２音、…の発音タイミングを生成対象であるフレーズの基準タイミング（具体的には当該第１種フレーズ構成データＤＦ１が対応付けられた小節の開始タイミング）からの経過時間により定義したデータである。
【００３２】
また、音定義データは、発音タイミングデータにより定義された各発音タイミングに対応付けられた各データからなる。音定義データは、当該発音タイミングにおける発音対象を当該発音タイミングにおけるセンサ信号に基づいて決定する方法を定義するデータである。例えば、関節の曲げを示すセンサ信号から発音対象である音のピッチを算出し、同センサ信号の時間変化率に基づき発音対象である音のベロシティを算出する算出式が音定義データにより定義される、という具合である。
【００３３】
この場合、例えば関節が曲がっていることをセンサ信号が示している場合には発音対象を低音にし、関節が伸びていることをセンサ信号が示している場合には発音対象を高音にするように音定義データにより定義してもよい。また、例えば関節が曲がり具合の時間変化率が小さい場合には発音対象のベロシティを弱くし、関節の曲がり具合の時間変化率が大きい場合には発音対象のベロシティが強くなるように音定義データにより定義してもよい。
【００３４】
また、体操選手の左右の同部位から得られるセンサ信号を１セットとして扱い、フレーズの音を決定する算出式を音定義データにより定義してもよい。例えば左右の同じ関節の曲げを示す各センサ信号の和に基づいて発音対象である音のピッチを算出する算出式を音定義データにより定義してもよい。この場合、体操選手の左右の同じ関節が独立した動きをすると、発音対象である音のピッチの時間変化が緩和された穏やかなフレーズが生成され、左右の同じ関節が同調した動きをすると、発音対象である音のピッチの時間変化が強調されたダイナミックなフレーズが生成される、という効果を期待することができる。音定義データにおいて、ベロシティについても同様な取り扱いをした場合には、左右の同じ関節が独立した動きを独立させるか同調させるかにより、フレーズの緩急の差をさらに際立たせることができると考えられる。
【００３５】
また、例えば、ある演出トラックの第１種フレーズ構成データＤＦ１において、体操選手４１または４２の左肘および右肘に装着されたセンシングユニット６１Ｌおよび６１Ｒからの各センサ信号の和に基づき、発音対象の音のピッチ等を算出する算出式を音定義データにより定義してもよい。また、別の演出トラックの同一小節に対応した第１種フレーズ構成データＤＦ１において、体操選手４１または４２の左膝および右膝に装着されたセンシングユニット６４Ｌおよび６４Ｒからの各センサ信号の和に基づき、発音対象の音のピッチ等を算出する算出式を音定義データにより定義してもよい。これらの音定義データを用いることにより、体操選手４１または４２の左肘および右肘の動きに応じて第１のフレーズを奏で、左膝および右膝の動きに応じて第２のフレーズを奏でる、という演出が可能になる。
【００３６】
このような音のパラメータを算出するための算出式を定義する他、算出式以外の形態で表現された各種の条件を音定義データにより定義してもよい。例えば体操選手４１の右足首のセンシングユニット６６Ｒからのセンサ信号が第１の閾値未満であり、体操選手４１の左脛のセンシングユニット６５Ｌからのセンサ信号が第２の閾値未満である場合は、発音対象を第１の音とし、同センシングユニット６６Ｒからのセンサ信号が第１の閾値以上であり、同センシングユニット６５Ｌからのセンサ信号が第２の閾値未満である場合は、発音対象を第２の音とし、…という具合に各センサ信号が予め設定された範囲のいずれに属するかにより発音対象の音を決定する方法を音定義データにより定義してもよい。
【００３７】
フレーズ生成制御部１０２は、演奏位置に対応したフレーズ構成データＤＦとして、第１種フレーズ構成データＤＦ１を記憶部１３０から読み出した場合、次のようなフレーズ生成制御を行う。
【００３８】
まず、フレーズ生成制御部１０２は、発音タイミングデータが示す第１音の発音タイミングになると、その時点における各センサ信号をサンプリングする。そして、サンプリングした各センサ信号の中から第１音の発音タイミングに対応付けられた音定義データに使用されているものを選択し、そのセンサ信号を用いて第１音を決定する。そして、第１音の生成を指示するＭＩＤＩメッセージを生成し、ＭＩＤＩ＿Ｉ／Ｆ１６０から音源２に供給する。
【００３９】
第２音以降の各音についても同様であり、フレーズ生成制御部１０２は、発音タイミングデータが示す各音の発音タイミングにおいて、当該発音タイミングに対応付けられた音定義データに従って、その時点におけるセンサ信号に基づいて、発音対象の音を決定する。
【００４０】
＜第２種フレーズ構成データＤＦ２および同データに基づくフレーズ生成制御＞
図７に示すように、第２種フレーズ構成データＤＦ２は、発音条件データと、音定義データとにより構成されている。ここで、発音条件データは、フレーズを構成する第１音、第２音、…の各音について、当該音を発音するためにセンサ信号が満たすべき条件を定義したデータである。音定義データは、発音条件データにより定義された条件が満たされた場合に、センサ信号に基づいて発音対象とする音を決定する方法を定義したデータであり、第１種フレーズ構成データＤＦ１の音定義データと同様である。
【００４１】
フレーズ生成制御部１０２は、演奏位置に対応したフレーズ構成データＤＦとして、第２種フレーズ構成データＤＦ２を記憶部１３０から読み出した場合、次のようなフレーズ生成制御を行う。
【００４２】
フレーズ生成制御部１０２は、まず、各体操選手に関連したセンサ信号が第１音に対応した発音条件データにより定義された発音条件を満たしたか否かの判断を繰り返す。そして、第１音に対応した発音条件データにより定義された条件をセンサ信号が満たした場合、フレーズ生成制御部１０２は、第１音に対応付けられた音定義データに従って、センサ信号から発音対象の第１音を決定する。そして、第１音の生成を指示するＭＩＤＩメッセージを生成し、ＭＩＤＩ＿Ｉ／Ｆ１６０から音源２に供給する。
以後、フレーズ生成制御部１０２は、第２音、第３音、…等の各音について同様な制御を繰り返す。
【００４３】
第２種フレーズ構成データＤＦ２は、体操選手の激しい動きに合わせてフレーズの生成制御を行うのに有効である。例えば体操選手４３が跳躍し、その左脛のセンシングユニット６５Ｌからのセンサ信号が示す垂直方向の加速度の２重積分値（床からの距離）が閾値を越えたときにフレーズの第１音を発音する場合、その旨を第１音に対応した発音条件データとして定義すればよい。あるいは体操選手４３が着地し、その左脛のセンシングユニット６５Ｌからのセンサ信号が示す垂直方向の加速度は急激に変化したときにフレーズの第２音を発音する場合、その旨を第２音に対応した発音条件データとして定義すればよい。
【００４４】
＜第３種フレーズ構成データＤＦ３および同データに基づくフレーズ生成制御＞
図８に示すように、第３種フレーズ構成データＤＦ３は、トリガ条件データと、フレーズ定義データとにより構成されている。ここで、トリガ条件データは、フレーズの生成制御を開始するためにセンサ信号が満たすべき条件を定義したデータである。例えば体操選手４１に装着された各センシングユニットのいずれかからのセンサ信号が閾値を越えたときにフレーズの生成制御を開始する場合には、その旨がトリガ条件データにより定義される。あるいは体操選手４１に装着された特定のセンシングユニットからのセンサ信号に正のピークまたは負のピークが現れたときにフレーズの生成制御を開始する場合には、その旨がトリガ条件データにより定義される。フレーズ定義データは、フレーズを構成する各音を生成するためのＭＩＤＩメッセージを時系列化したデータである。
【００４５】
フレーズ生成制御部１０２は、演奏位置に対応したフレーズ構成データＤＦとして、第３種フレーズ構成データＤＦ３を記憶部１３０から読み出した場合、次のようなフレーズ生成制御を行う。
【００４６】
フレーズ生成制御部１０２は、センサ信号がトリガ条件データにより定義された条件を満たしたか否かの判断を繰り返す。そして、トリガ条件データにより定義された条件をセンサ信号が満たした場合、フレーズ生成制御部１０２は、フレーズ定義データに従って、フレーズを構成する各音を生成するための各ＭＩＤＩメッセージを順次生成し、ＭＩＤＩ＿Ｉ／Ｆ１６０から音源２に供給する。
【００４７】
＜第４種フレーズ構成データＤＦ４および同データに基づくフレーズ生成制御＞
図９に示すように、第４種フレーズ構成データＤＦ４は、トリガ条件データと、フレーズ定義データとにより構成されている。ここで、トリガ条件データは、第３種フレーズ構成データＤＦ３のトリガ条件データと同様、フレーズの生成制御を開始するためにセンサ信号が満たすべき条件を定義したデータである。フレーズ定義データは、第１種フレーズ構成データＤＦ１の発音タイミングデータおよび音定義データに相当するデータにより構成されている。ここで、フレーズ定義データの発音タイミングデータは、フレーズを構成する第１音、第２音、…等の各音の発音タイミングを、トリガ条件データにより定義された条件が満たされたタイミングからの経過時間により定義したデータである。フレーズ定義データの音定義データは、第１種フレーズ構成データＤＦ１の音定義データと同様、フレーズを構成する第１音、第２音、…等の各音をセンサ信号に基づいて決定する方法を定義したデータである。
【００４８】
フレーズ生成制御部１０２は、演奏位置に対応したフレーズ構成データＤＦとして、第４種フレーズ構成データＤＦ４を記憶部１３０から読み出した場合、次のようなフレーズ生成制御を行う。
【００４９】
第３種フレーズ構成データＤＦ３の場合と同様、フレーズ生成制御部１０２は、センサ信号がトリガ条件データにより定義された条件を満たしたか否かの判断を繰り返す。そして、トリガ条件データにより定義された条件をセンサ信号が満たした場合、フレーズ生成制御部１０２は、フレーズ定義データの発音タイミングデータが示す第１音の発音タイミングまで待機する。そして、第１音の発音タイミングになると、フレーズ生成制御部１０２は、フレーズ定義データにおける第１音の音定義データに従い、その時点におけるセンサ信号から発音対象である音を決定し、その音を生成するためのＭＩＤＩメッセージを生成し、ＭＩＤＩ＿Ｉ／Ｆ１６０から音源２に供給する。フレーズを構成する第２音以降の各音についても同様である。
【００５０】
＜第５種フレーズ構成データＤＦ５および同データに基づくフレーズ生成制御＞
図１０に示すように、第５種フレーズ構成データＤＦ５は、トリガ条件データと、フレーズ定義データとにより構成されている。ここで、トリガ条件データは、第３種フレーズ構成データＤＦ３のトリガ条件データと同様である。フレーズ定義データは、第２種フレーズ構成データＤＦ２の発音条件データおよび音定義データに相当するデータにより構成されている。ここで、発音条件データは、第２種フレーズ構成データＤＦ２の発音条件データと同様、フレーズを構成する第１音、第２音、…等の各音について、当該音を発音するためにセンサ信号が満たすべき条件を定義したデータである。音定義データは、第２種フレーズ構成データＤＦ２の音定義データと同様、フレーズを構成する第１音、第２音、…等の各音をセンサ信号に基づいて決定する方法を定義したデータである。
【００５１】
フレーズ生成制御部１０２は、演奏位置に対応したフレーズ構成データＤＦとして、第５種フレーズ構成データＤＦ５を記憶部１３０から読み出した場合、次のようなフレーズ生成制御を行う。
【００５２】
第３種フレーズ構成データＤＦ３の場合と同様、フレーズ生成制御部１０２は、センサ信号がトリガ条件データにより定義された条件を満たすまで待機する。そして、トリガ条件データにより定義された条件をセンサ信号が満たした場合、フレーズ生成制御部１０２は、フレーズ定義データの発音条件データおよび音定義データに基づいてフレーズの生成制御を行う。このフレーズの生成制御の態様は、上述した第２種フレーズ構成データＤＦ２に基づくフレーズの生成制御の態様と同様である。
【００５３】
次に本実施形態の動作を説明する。図１１は本実施形態におけるフレーズ生成制御部１０２の動作を示すフローチャートである。また、図１２（ａ）〜（ｅ）は、図１１におけるステップＳ１０、Ｓ２０、Ｓ３０、Ｓ４０およびＳ５０の処理内容を各々示すフローチャートである。なお、図１１および図１２には、フレーズ生成制御部１０２の動作のうち１演出トラック分の動作が示されている。フレーズ生成制御部１０２は、複数の演出トラックに各々対応した図１１および図１２の処理を並列に実行する。
【００５４】
本実施形態において、オーケストラ３による楽曲の演奏が開始され、スコアアライメント部１０１が楽曲の演奏位置として楽曲の開始位置を示す情報を出力すると、フレーズ生成制御部１０２は、図１１および図１２に示す処理の実行を開始する。
【００５５】
まず、フレーズ生成制御部１０２は、楽曲の演奏位置が楽曲の終了位置に達したか否かを判断する（ステップＳ１）。この判断結果が「ＹＥＳ」である場合、フレーズ生成制御部１０２は、図１１に示す処理を終了する。一方、ステップＳ１の判断結果が「ＮＯ」である場合、フレーズ生成制御部１０２は、フレーズ構成データの更新タイミングになったか否か、すなわち、スコアアライメント部１０１の出力する演奏位置が小節線タイミングを越え、新たな小節に対応付けられたフレーズ構成データが演出データＤＤ内にあるか否かを判断する。この判断結果が「ＮＯ」である場合、フレーズ生成制御部１０２の処理はステップＳ４に進む。一方、ステップＳ２の判断結果が「ＹＥＳ」である場合、フレーズ生成制御部１０２は、新たな小節に対応付けられたフレーズ構成データを演出データＤＤから読み出し、そのフレーズ構成データを処理対象とする（ステップＳ３）。そして、フレーズ生成制御部１０２の処理はステップＳ４に進む。
【００５６】
次にステップＳ４に進むと、フレーズ生成制御部１０２は、処理対象であるフレーズ構成データの種別を判断する。そして、フレーズ生成制御部１０２は、処理対象が第１種フレーズ構成データである場合は第１種フレーズ生成制御（ステップＳ１０）を、処理対象が第２種フレーズ構成データである場合は第２種フレーズ生成制御（ステップＳ２０）を、処理対象が第３種フレーズ構成データである場合は第３種フレーズ生成制御（ステップＳ３０）を、処理対象が第４種フレーズ構成データである場合は第４種フレーズ生成制御（ステップＳ４０）を、処理対象が第５種フレーズ構成データである場合は第５種フレーズ生成制御（ステップＳ５０）を各々実行し、ステップＳ１に戻る。
【００５７】
次に図１２（ａ）に示す第１種フレーズ生成制御（ステップＳ１０）について説明する。まず、フレーズ生成制御部１０２は、処理対象である第１種フレーズ構成データにより定義されたフレーズが終了しているか否かを判断する（ステップＳ１１）。ここで、フレーズが終了しているとは、当該第１種フレーズ構成データにより定義されたフレーズの全ての音についてのＭＩＤＩメッセージを生成し終えていること、あるいは当該第１種フレーズ構成データに基づくフレーズの生成制御を開始してから所定の限度時間を越えていることを意味する。この判断結果が「ＹＥＳ」である場合、フレーズ生成制御部１０２の処理は図１１のステップＳ１に戻る。一方、ステップＳ１１の判断結果が「ＮＯ」である場合、フレーズ生成制御部１０２の処理はステップＳ１２に進む。
【００５８】
次にステップＳ１２に進むと、フレーズ生成制御部１０２は、処理対象である第１種フレーズ構成データの発音タイミングデータにより定義された発音タイミングになったか否かを判断する。この判断結果が「ＮＯ」である場合、フレーズ生成制御部１０２の処理は図１１のステップＳ１に戻る。一方、ステップＳ１２の判断結果が「ＹＥＳ」である場合、フレーズ生成制御部１０２の処理はステップＳ１３に進む。
【００５９】
次にステップＳ１３に進むと、フレーズ生成制御部１０２は、処理対象である第１種フレーズ構成データの音定義データのうち当該発音タイミング（ステップＳ１２の判断結果を「ＹＥＳ」にした発音タイミング）に対応付けられた音定義データに従い、その時点におけるセンサ信号から発音対象である音を決定する。
【００６０】
次にステップＳ１４に進むと、フレーズ生成制御部１０２は、ステップＳ１３において決定した音の生成を指示するＭＩＤＩメッセージを生成し、ＭＩＤＩ＿Ｉ／Ｆ１６０から音源２に供給する。そして、フレーズ生成制御部１０２の処理は図１１のステップＳ１に戻る。
【００６１】
次に図１２（ｂ）に示す第２種フレーズ生成制御（ステップＳ２０）について説明する。まず、フレーズ生成制御部１０２は、処理対象である第２種フレーズ構成データにより定義されたフレーズが終了しているか否かを判断する（ステップＳ２１）。この判断の内容は上述したステップＳ１１と同様である。この判断結果が「ＹＥＳ」である場合、フレーズ生成制御部１０２の処理は図１１のステップＳ１に戻る。一方、ステップＳ２１の判断結果が「ＮＯ」である場合、フレーズ生成制御部１０２の処理はステップＳ２２に進む。
【００６２】
次にステップＳ２２に進むと、フレーズ生成制御部１０２は、処理対象である第２種フレーズ構成データの発音条件データのうち処理対象である発音条件データにより定義された発音条件をセンサ信号が満たしたか否かを判断する。ここで、処理対象である発音条件データとは、発音対象とする音を未だ１個も決定していない状況では第１音の発音条件データを指し、第ｋ音までについて発音対象とする音を決定した状況では第ｋ＋１音の発音条件データを指す。ステップＳ２２の判断結果が「ＮＯ」である場合、フレーズ生成制御部１０２の処理は図１１のステップＳ１に戻る。一方、ステップＳ２２の判断結果が「ＹＥＳ」である場合、フレーズ生成制御部１０２の処理はステップＳ２３に進む。
【００６３】
次にステップＳ２３に進むと、フレーズ生成制御部１０２は、処理対象である第２種フレーズ構成データの音定義データのうち当該発音条件データ（ステップＳ２２の判断結果を「ＹＥＳ」にした発音条件データ）に対応付けられた音定義データに従い、その時点におけるセンサ信号から発音対象である音を決定する。
【００６４】
次にステップＳ２４に進むと、フレーズ生成制御部１０２は、ステップＳ２３において決定した音の生成を指示するＭＩＤＩメッセージを生成し、ＭＩＤＩ＿Ｉ／Ｆ１６０から音源２に供給する。そして、フレーズ生成制御部１０２の処理は図１１のステップＳ１に戻る。
【００６５】
次に図１２（ｃ）に示す第３種フレーズ生成制御（ステップＳ３０）について説明する。まず、フレーズ生成制御部１０２は、処理対象である第３種フレーズ構成データにより定義されたフレーズが終了しているか否かを判断する（ステップＳ３１）。この判断の内容は上述したステップＳ１１と同様である。この判断結果が「ＹＥＳ」である場合、フレーズ生成制御部１０２の処理は図１１のステップＳ１に戻る。一方、ステップＳ３１の判断結果が「ＮＯ」である場合、フレーズ生成制御部１０２の処理はステップＳ３２に進む。
【００６６】
次にステップＳ３２に進むと、フレーズ生成制御部１０２は、処理対象である第３種フレーズ構成データのトリガ条件データにより定義されたトリガ条件をセンサ信号が満たしたか否かを判断する。この判断結果が「ＮＯ」である場合、フレーズ生成制御部１０２の処理は図１１のステップＳ１に戻る。一方、ステップＳ３２の判断結果が「ＹＥＳ」である場合、フレーズ生成制御部１０２の処理はステップＳ３３のフレーズ生成に進む。なお、第３種フレーズ構成データが処理対象となり、その第３種フレーズ構成データのトルガ条件データにより定義されたトリガ条件が一旦満たされると、その時点以降、新たなフレーズ構成データが処理対象となるまでの間、ステップＳ３２の判断結果は継続的に「ＹＥＳ」となり、ステップＳ３３の処理が実行される。
【００６７】
次にステップＳ３３に進むと、フレーズ生成制御部１０２は、処理対象である第３種フレーズ構成データのフレーズ定義データに従い、フレーズを構成する各音を生成するためのＭＩＤＩメッセージを順次生成し、ＭＩＤＩ＿Ｉ／Ｆ１６０から音源２に供給する。そして、フレーズ生成制御部１０２の処理は図１１のステップＳ１に戻る。
【００６８】
次に図１２（ｄ）に示す第４種フレーズ生成制御（ステップＳ４０）について説明する。この第４種フレーズ生成制御（ステップＳ４０）では、第３種フレーズ生成制御（ステップＳ３０）のステップＳ３１およびＳ３２と同様な処理を行った後、フレーズ生成（ステップＳ４３）を実行する。このフレーズ生成（ステップＳ４３）では、第１種フレーズ生成制御（ステップＳ１０）のステップＳ１３〜Ｓ１４と同様な処理を実行することにより、フレーズを構成する各音についてのＭＩＤＩメッセージの生成および出力を行う。
【００６９】
次に図１２（ｅ）に示す第５種フレーズ生成制御（ステップＳ５０）について説明する。この第５種フレーズ生成制御（ステップＳ５０）では、第３種フレーズ生成制御（ステップＳ３０）のステップＳ３１およびＳ３２と同様な処理を行った後、フレーズ生成（ステップＳ５３）を実行する。このフレーズ生成（ステップＳ５３）では、第２種フレーズ生成制御（ステップＳ２０）のステップＳ２３〜Ｓ２４と同様な処理を実行することにより、フレーズを構成する各音についてのＭＩＤＩメッセージの生成および出力を行う。
以上が本実施形態の動作である。
【００７０】
以上説明したように、本実施形態によれば、オーケストラ３の演奏に合わせて、体操選手４１〜４４が体操演技を行うと、その体操演技に応じたフレーズが生成される。従って、オーケストラ３の演奏と体操選手４１〜４４の体操演技に基づくフレーズ生成とのコラボレーションを実現することができる。
【００７１】
また、本実施形態によれば、楽曲の各種の演奏位置において、その演奏位置に対応付けられたフレーズ構成データに従ってフレーズの生成制御を行うので、センサ信号のフレーズ生成への関与の態様を演奏位置により変えることができ、演奏位置に適したフレーズを生成することができる。
【００７２】
例えば、ある小節において、体操選手の動きが緩やかである場合には、その小節に対応したフレーズ構成データとして、例えば第１種フレーズ構成データを利用することが考えられる。この場合、第１種フレーズ構成データの発音タイミングデータにより定義された各発音タイミングにおけるセンサ信号に基づいて、発音対象の音が決定される。従って、体操選手の身体の部位の微妙な動きを反映したセンサ信号により、発音対象である音を変化させる、といった演出が可能となる。
【００７３】
また、別の小節において、体操選手が跳躍する等、激しい動きをする場合には、その小節に対応したフレーズ構成データとして、例えば第３種フレーズ構成データを利用することが考えられる。この場合、第３種フレーズ構成データのトリガ条件データにより、体操選手の跳躍の瞬間にセンサ信号に現れる特徴をトリガ条件として定義しておくことにより、体操選手による跳躍をトリガとしてフレーズの生成および出力を行う演出が可能となる。なお、第３種フレーズ構成データを利用する代わりに、第２種、第４種、第５種のフレーズ構成データを利用してもよい。
【００７４】
また、本実施形態によれば、フレーズを構成する音がセンサ信号に基づいて決定されるので、体操選手の動きにより、フレーズを構成する音のピッチ、ベロシティ等を変化させることができ、表情豊かなフレーズを生成することができる。
【００７５】
＜他の実施形態＞
以上、この発明の一実施形態について説明したが、この発明には他にも実施形態が考えられる。例えば次の通りである。
【００７６】
（１）上記実施形態では、小節単位でフレーズの生成を行ったが、フレーズを生成するタイミング、フレーズの長さは任意である。例えば楽曲における任意のタイミングをフレーズ生成開始タイミングとして設定し、そのフレーズ生成開始タイミングに対応付けられたフレーズ構成データを記憶部１３０に記憶させ、フレーズの生成制御に使用してもよい。
【００７７】
（２）上記実施形態において、楽曲演奏の途中でオーケストラ３の演奏音が継続的に途絶えるということがあり得る。その場合、例えば体操選手４１〜４４の誰かが一定の速度で走る等の規則的な動きを行い、スコアアライメント部１０１が、センサ信号の変化からその規則的な動きを検出し、その動きに合わせて演奏位置を進めるようにしてもよい。
【００７８】
（３）上記実施形態では、オーケストラ３による演奏と、体操選手の演技と、ＰＣ１および音源２によるフレーズの生成を同一会場において行った。しかし、これらは必ずしも同一会場において行われる必要はない。例えばオーケストラ会場において収音されたオーケストラ演奏の音信号を通信手段により別の会場に送信する。その会場において、スピーカがオーケストラ演奏の音信号を放音し、体操選手が演技を行い、ＰＣ１および音源２がオーケストラ演奏の音信号が示す演奏位置および体操選手から得られるセンサ信号に基づいてフレーズを生成して出力してもよい。
【００７９】
（４）上記実施形態において、オーケストラ演奏は生演奏であったが、記録媒体に録音されたオーケストラ演奏を再生してもよい。その際、ＰＣ１は、スコアアライメント技術を利用する代わりに、再生開始からの経過時間等に基づいて楽曲の演奏位置を取得してもよい。
【００８０】
（５）フレーズは、音長が短い複数の音の列であってもよく、持続時間の長い効果音のような音であってもよい。また、フレーズは、持続時間が長く、ピッチベンドを伴う効果音であってもよい。この場合において、上述した音定義データによりピッチベンドの態様を指定してもよい。
【００８１】
（６）発音条件データに加えて、消音条件データを採用してもよい。すなわち、発音条件データにより定義された発音条件をセンサ信号が満たしたとき、ある音の発音を開始し、消音条件データにより定義された消音条件をセンサ信号が満たしたとき、同音の発音を停止するのである。この態様によれば、ある音の発音を継続させ、その間に別の音を発音させる、という演出が容易になる。
【００８２】
（７）各種の演奏位置に対応付けて、フレーズ構成データにより生成対象であるフレーズを定義しておき、そのフレーズの生成タイミングにおいて、センサ信号に基づいてフレーズにピッチシフト等の編集処理を施すようにしてもよい。また、この態様において、センサ信号に基づいてフレーズに施す編集処理の内容をフレーズ構成データにおいて定義するようにしてもよい。
【００８３】
（８）上記実施形態において、発音タイミングデータ、音定義データ、発音条件データ、トリガ条件データ等と同じ役割を果たすサブルーチンを作成して記憶部１３０に記憶させ、フレーズ構成データ内には、これらのデータの代わりに、これらのデータの役割を果たすサブルーチンの格納先のアドレスを格納してもよい。
【００８４】
（９）上記実施形態において、フレーズの時間長は任意である。例えば任意の小節において、１小節よりも時間長の長いフレーズを生成してもよい。
【００８５】
（１０）上記第２種または第５種のフレーズ構成データに基づくフレーズ生成制御において、生成中のフレーズの時間長が指定された上限に達したときにフレーズの生成制御を打ち切るようにしてもよい。その場合において、フレーズの時間長の上限をフレーズ構成データにおいて定義するようにしてもよい。
【００８６】
（１１）上記実施形態において、１つの第３種フレーズ構成データの中で、トリガ条件データおよびフレーズ定義データの組を複数定義することができるようにしてもよい。この態様において、フレーズ生成制御部１０２は、トリガ条件が満たされた組のフレーズ定義データに従って、フレーズの生成制御を行う。ここで、複数組のトリガ条件データおよびフレーズ定義データにおける各組のトリガ条件データは、１つのトリガ条件データが示す条件のみが満たされる排他的な関係であってもよく、複数のトリガ条件データが示す条件が重複して満たされることがある関係であってもよい。前者の例として、第１のセンサ信号が第１の閾値以上であり、かつ、第２のセンサ信号が第２の閾値未満である場合は、第１のトリガ条件データが満たされて第１のフレーズ定義データに基づく第１のフレーズの生成制御を行い、第１のセンサ信号が第１の閾値以上であり、かつ、第２のセンサ信号が第２の閾値以上である場合は、第２のトリガ条件データが満たされて第２のフレーズ定義データに基づく第２のフレーズの生成制御を行う、といった制御が可能になる。また、後者の例として、生成対象とするフレーズを、第１のフレーズのみ、第２のフレーズのみ、あるいは第１のフレーズおよび第２のフレーズの両方という具合にセンサ信号に応じて切り換えることが可能になる。
【００８７】
なお、このようにする代わりに、例えば演出トラック１において、上記第１のトリガ条件データおよび第１のフレーズ定義データからなるフレーズ構成データを定義し、演奏トラック２の同じ演奏位置において上記第２のトリガ条件データおよび第２のフレーズ定義データからなるフレーズ構成データを定義してもよい。この場合も上記と同様な効果が得られる。
【００８８】
（１２）１つの演奏位置において、直接生成モードでのフレーズ生成制御とフレーズトリガモードでのフレーズ生成制御の両方を行うようにしてもよい。具体的には、１つの演奏位置に対応したフレーズ構成データにおいて、直接生成対応フレーズ構成データと、フレーズトリガ対応フレーズ構成データの両方を定義することができるようにする。ここで、直接生成対応フレーズ構成データは、例えば第１種フレーズ構成データであり、第１のフレーズを構成する音の発音タイミングを示す発音タイミングデータと、各発音タイミングに対応付けられており、当該発音タイミングにおいて発音する音をセンサ信号に基づいて決定する方法を定義した音定義データとを含む。また、フレーズトリガ対応フレーズ構成データは、例えば第３種フレーズ構成データであり、第２のフレーズの生成制御を開始するためにセンサ信号が満たすべき条件を定義したトリガ条件データと、第２のフレーズを構成する各音を示す情報（例えばＭＩＤＩメッセージ）を時系列化したフレーズ定義データとを含む。
【００８９】
この態様において、フレーズ生成制御部１０２は、直接生成対応フレーズ構成データの発音タイミングデータが示す発音タイミングにおいて、当該発音タイミングに対応付けられた音定義データに従って、センサの出力信号に基づいて第１のフレーズを構成する音の生成制御を行う。なお、直接生成対応フレーズ構成データは、第２種フレーズ構成データであってもよい。この場合、フレーズ生成制御部１０２は、直接生成対応フレーズ構成データの発音条件データにより定義された条件をセンサ信号が満たしたとき、当該発音条件データに対応付けられた音定義データに従って、センサの出力信号に基づいて第１のフレーズを構成する音の生成制御を行う。
【００９０】
また、フレーズ生成制御部１０２は、トリガ条件データにより定義された条件をセンサの出力信号が満たしたとき、フレーズ定義データに従って、第２のフレーズの生成制御を行う。
【００９１】
この態様によれば、例えば体操選手の腕に装着されたセンシングユニットからのセンサ信号に従って直接生成モードによるフレーズ生成制御を行い、同選手の足に装着されたセンシングユニットからのセンサ信号に従ってフレーズトリガモードによるフレーズ生成制御を行う、といったことが可能になる。
【００９２】
なお、このようにする代わりに、例えば演出トラック１において、上記第１種または第２種のフレーズ構成データを定義し、演奏トラック２の同じ演奏位置において上記第３種フレーズ構成データを定義してもよい。この場合も上記と同様な効果が得られる。
【００９３】
（１３）直接生成モードでは、単音のフレーズを生成してもよく、和音のフレーズを生成してもよい。また、フレーズトリガモードでは、モノフォニックなフレーズを生成してもよく、ポリフォニックなフレーズを生成してもよい。
【００９４】
（１４）上記実施形態において、フレーズ生成制御部１０２は、ＭＩＤＩメッセージを音源２に供給することによりフレーズを生成したが、他の手段によりフレーズを生成してもよい。例えばフレーズ生成制御部１０２は、ＭＩＤＩメッセージの代わりに、フレーズの音波形を示すオーディオデータを生成し、このオーディオデータに基づく音信号によりスピーカを駆動してフレーズの生成を行ってもよい。
【符号の説明】
【００９５】
１……ＰＣ、２……音源、３……オーケストラ、４１〜４４……体操選手、５……マイクロフォン、６１Ｌ（６１Ｒ）〜６６Ｌ（６６Ｒ）……センシングユニット、６０１……センサ部、６０２……Ａ／Ｄ変換部、６０３……無線通信部、１００……ＣＰＵ、１０１……スコアアライメント部、１０２……フレーズ生成制御部、１１０……表示部、１２０……操作部、１３０……記憶部、１４０……オーディオＩ／Ｆ、１５０……無線通信Ｉ／Ｆ、１６０……ＭＩＤＩ＿Ｉ／Ｆ。
【図１】
2018022019.tif 000003
【図２】
2018022019.tif 000004
【図３】
2018022019.tif 000005
【図４】
2018022019.tif 000006
【図５】
2018022019.tif 000007
【図６】
2018022019.tif 000008
【図７】
2018022019.tif 000009
【図８】
2018022019.tif 000010
【図９】
2018022019.tif 000011
【図１０】
2018022019.tif 000012
【図１１】
2018022019.tif 000013
【図１２】
2018022019.tif 000014