(57)【特許請求の範囲】
【請求項１】
１または複数の演奏パートの各音色を識別するステップと、
識別された前記各演奏パートの音色に応じて、前記各演奏パートの音色を表現するアイコンを出力するとともに、前記１または複数の演奏パートによる演奏システムの仮想的な演奏場所を表現する画像中に、前記各演奏パートの音色を表現するアイコンが配置された画像を作成するステップと、
前記各アイコンの位置設定データを入力して前記演奏場所を表現する画像中における前記各アイコンの位置を設定するステップと、
設定された前記各アイコンの左右方向の位置が中央の所定幅の領域内にあるときは、各演奏パートのパンを同一の中央値に設定し、該設定された前記各アイコンの左右方向の位置が該中央の所定幅の領域内にないときは、設定された前記各アイコンの左右方向の位置に応じて前記各演奏パートのパンを設定する、情報を出力するステップ、
を有することを特徴とする演奏システムの視覚的表示方法。
【請求項２】
１または複数の演奏パートの各音色を識別するステップと、
識別された前記各演奏パートの音色に応じて、前記各演奏パートの音色を表現するアイコンを出力するとともに、前記１または複数の演奏パートによる演奏システムの仮想的な演奏場所を表現する画像中に、前記各演奏パートの音色を表現するアイコンが配置された画像を作成するステップと、
前記各アイコンの位置設定データを入力して前記演奏場所を表現する画像中における前記各アイコンの位置を設定するステップと、
設定された前記各アイコンの左右方向の位置が中央の所定幅の領域内にあるときは、各演奏パートのパンを同一の中央値に設定し、該設定された前記各アイコンの左右方向の位置が該中央の所定幅の領域内にないときは、設定された前記各アイコンの左右方向の位置に応じて前記各演奏パートのパンを設定する、情報を出力するステップ、
をコンピュータに実行させるための、演奏システムの視覚的表示プログラムが記録されたコンピュータ読み取り可能な記録媒体。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は、演奏システムを視覚的に表示する技術に関するものである。
【０００２】
【従来の技術】
専用のシーケンサ、あるいは、パーソナルコンピュータを用いたデスクトップミュージック（ＤＴＭ）においては、マウス等を使用した音符指定によるステップレコーディング，ＭＩＤＩキーボード等を使用した実演奏によるリアルタイムレコーディング、あるいは、曲データファイルの読み出しなどにより、各演奏パートに割り当てられた楽器の楽音を再生して演奏する。その際、ディスプレイの表示画面上に、上述した演奏パートの音色に対応させて具象的なキャラクタを表示することによって、初心者にも親しみやすくした装置が考えらる。しかし、単に、キャラクタを表示するだけでは、表示画面の変化が乏しく、また、演奏のイメージとの結びつきがない。そのため、単調になってしまうという問題があった。
【０００３】
【発明が解決しようとする課題】
本発明は、上述した問題点を解決するためになされたもので、１または複数の演奏パートによる演奏システムを視覚的に表示する演奏システムの視覚的表示方法、および、演奏システムの視覚的表示プログラムが記録されたコンピュータ読み取り可能な記録媒体を提供することを目的とするものである。
【０００６】
【課題を解決するための手段】
本発明は、演奏システムの視覚的表示方法において、１または複数の演奏パートの各音色を識別するステップと、識別された前記各演奏パートの音色に応じて、前記各演奏パートの音色を表現するアイコンを出力するとともに、前記１または複数の演奏パートによる演奏システムの仮想的な演奏場所を表現する画像中に、前記各演奏パートの音色を表現するアイコンが配置された画像を作成するステップと、前記各アイコンの位置設定データを入力して前記演奏場所を表現する画像中における前記各アイコンの位置を設定するステップと、設定された前記各アイコンの左右方向の位置が中央の所定幅の領域内にあるときは、各演奏パートのパンを同一の中央値に設定し、該設定された前記各アイコンの左右方向の位置が該中央の所定幅の領域内にないときは、設定された前記各アイコンの左右方向の位置に応じて前記各演奏パートのパンを設定する、情報を出力するステップ、を有するものである。
本発明は、また、上述したステップをコンピュータに実行させるための、演奏システムの視覚的表示プログラムが記録されたコンピュータ読み取り可能な記録媒体である。
【０００７】
したがって、各演奏パートのパン情報を視覚的に表示することができるとともに、各演奏パートのアイコンの位置を設定することにより、各演奏パートのパンを設定する情報を出力することができる。
さらに、各アイコンの位置が演奏場所を表現する画像の左右方向における中央の所定幅の領域内に設定されているときには各演奏パートのパンを同一の中央値に設定するから、中央値にパンを設定する演奏パートのアイコンについて、表示位置に自由度を持たせることができる。
【０００８】
【発明の実施の形態】
図１は、本発明の演奏システムの視覚的表示方法の実施の一形態を説明するための、演奏システムの視覚的表示装置の機能ブロック構成図である。図中、１は演奏パートメモリ、２はアイコン画像データメモリ、３は演奏場所画像データメモリ、４は画像データ合成部、５はアイコン位置指定部、６はパン設定部である。
図２は、本発明の演奏システムの視覚的表示方法の実施の一形態を説明するための表示画面の説明図である。演奏場所を表現する画像１１には、プレイヤーアイコンＡ１３、プレイヤーアイコンＢ１４、プレイヤーアイコンＣ１５、マウスポインタ１６が表示されている。
【０００９】
図１において、１または複数の演奏パートによって演奏システムが構築される。演奏パートメモリ１には、各演奏パートの音色を示す音色情報、および、各演奏パートのパン情報が記憶されている。ユーザが演奏パートメモリ１に対し、演奏パートを指定し、音色情報を読み出すことにより、各演奏パートの音色が識別される。音色情報に応じてアイコン画像データメモリ２から各演奏パートの音色に対応するアイコン画像情報が読み出されるとともに、演奏システム全体に対して設定される効果情報に応じて演奏場所画像データメモリ３から演奏システムの仮想的な演奏場所を表現する画像データが読み出される。画像データ合成部４は、読み出された各演奏パートのアイコン画像データおよび演奏場所を表現する画像データに応じて、演奏場所を表現する画像中に各演奏パートを表現するアイコンが配置された合成画像を作成し、表示部に出力する。
【００１０】
図２に示すプレイヤーアイコンＡ１３等のアイコンは、図１５ないし図１８を参照して後述するように、各演奏パートの音色に対応する楽器を演奏している状態のプレイヤーを具象的に表わす画像である。このアイコンは、演奏システムにおいて、次のような機能を有する。
第１に、各演奏パートの音色および動作状態を表示する機能、第２に、このアイコンにマウスポインタを当てて左クリックすることにより、このアイコンに対応した演奏パートを指定する機能、第３に、このアイコンの位置によって、この演奏システムにおけるアイコンに対応した演奏パートの音像定位位置を表示する機能を有している。
【００１１】
演奏システムに設定される効果とは、言い換えれば、演奏システムに設定される環境であり、一具体例としては、自動伴奏スタイルの音楽ジャンルである。自動伴奏スタイルは、自動伴奏に使用する楽器、リズム、テンポ等を規定するスタイルである。この自動伴奏スタイルは、音楽ジャンル別に分類して記憶されている。音楽ジャンルは、例えば、ダンシング系、クラシック系、ジャズ系、ロック系、民族系といったものに分類される。
【００１２】
演奏システムの仮想的な演奏場所を表現する画像１１とは、図１５ないし図１７を参照して後述するように、現実の演奏ステージやホール等の演奏場所を仮想的に示す画像である。この画像の配色やデザイン等を自動伴奏スタイルの音楽ジャンルに応じて異なるものとすることによって、変化に富んだ画像表示を行うことができる。例えば、自動伴奏スタイルの音楽ジャンルがクラッシック系であれば、演奏ステージのカーテンの形や色、ステージの床や壁の配色や材質、小道具などが、そのクラシック系のイメージに合わせて選定された画像を用いる。
【００１３】
演奏システムに設定される効果の他の具体例としては、残響（リバーブ）等のステージ効果がある。残響タイプを、例えば、ホール、ルーム、ステージと分類し、リバーブタイム，ディフュージョン，イニシアルディレイ等の種々のパラメータを一括して設定している。これらの残響タイプに応じて、演奏場所を表現する画像を異ならせる。例えば、ホールにはホールをイメージさせる画像を、ルームには、ルームをイメージさせる画像を、ステージにはステージをイメージさせる画像を用いる。
あるいは、表示画面上の見かけ上の奥行きや広がりの異なる演奏場所の画像を用意して、リバーブタイムに応じて、画像を選択するようにしてもよい。
【００１４】
次に、各演奏パートの楽音のパン制御について説明する。図２において、演奏場所を表現する画像１１上におけるプレイヤーアイコンＡ１３，プレイヤーアイコンＢ１４，プレイヤーアイコンＣ１５の左右方向の位置は、各アイコンに対応する演奏パートの音像定位位置を視覚的に表わす。
図１に示すように、演奏パートメモリ１に各演奏パートの音像定位位置を示すパン情報が記憶されている。このパン情報を読み出すことによって各演奏パートの音像定位位置を識別し、アイコン位置設定部５は、画像データ合成部４を制御して、演奏場所を表現する画像中に各アイコンがパン情報に応じた位置に配置された画像を作成する。
【００１５】
図２に示す具体例では、演奏システムの仮想音場における、各楽音パートの音像定位位置に応じて、プレイヤーアイコンＡ１３等のアイコンの左右方向の表示位置が決定される。その結果、アイコンが左側に位置する演奏パートの楽音ほど、左のスピーカから出力される音量を右のスピーカから出力される音量よりも大きくし、逆に、アイコンが右側に位置する演奏パートの楽音ほど、右のスピーカから出力される音量を左のスピーカから出力される音量よりも大きくするというパン制御が視覚的に表示される。
【００１６】
また、逆に、演奏場所を表現する画像１１上での各プレイヤーアイコンＡ１３等の表示位置によりパン情報を設定することもできる。
図１において、アイコン位置設定部５は、ユーザがキーボードやマウス等の入力デバイスを使って各アイコンの位置設定データを入力することにより、画像データ合成部４を制御して、各アイコンの位置を上下左右に移動させて新たな位置に配置させる。そして、パン設定部６は、各アイコンの新たな左右方向の位置に応じて、演奏システムの仮想音場における各演奏パートのパンを制御するためのパン情報をパン制御部に出力する。このようにして、各演奏パートの音像定位を視覚的に表現するとともに、視覚的にパン情報を設定することもできる。なお、パン設定部６から出力されるパン情報によって、演奏パートメモリ１の各演奏パートのパン情報を更新するようにしてもよい。なお、ＭＩＤＩ規格において、パン情報は１２８段階に設定できる。しかし、アイコン移動させてパン情報を設定する場合には、これほど細かい分解能でパンを設定する必要はないので、１６段階程度の分解能で横座標位置に対応させるのが適当である。
【００１７】
図２においては、ユーザが、マウスを動かしてマウスポインタ１６をプレイヤーアイコンＡ１３に合わせてマウスの左ボタンを押すと、プレイヤーアイコンＡ１３が選択され、そのままマウスをドラッグすると、プレイヤーアイコンＡ１３の位置設定データが更新される。その結果、マウスポインタ１６と一緒にプレイヤーアイコンＡ１３が移動する。左ボタンの押圧を解除すると、プレイヤーアイコンＡ１３はその位置に停止して新たな位置が設定され、その結果、プレイヤーアイコンＡ１３の位置設定データが固定される。
なお、図１において、マウスポインタ１６の画像データの合成およびマウスポインタ１６の位置設定データの入力、上述したマウスによるプレイヤーアイコンＡ１３の位置設定データを出力する機能ブロックについて図示を省略している。
【００１８】
パン設定部６は、プレイヤーアイコンＡ１３の位置設定データが更新されている期間も含めて、この位置設定データに応じて、プレイヤーアイコンＡ１３に対応する演奏パートのパン情報を出力する。あるいは、パン設定部６は、プレイヤーアイコンＡ１３の位置設定データが固定されたときに、この固定された位置設定データに応じたパン情報を出力するようにしてもよい。
このように、プレイヤーアイコンＡ１３の画面上の配置、より具体的には横座標の位置によってパン情報を設定すると視覚的にわかりやすく設定操作が直感的に行えるようになる。
【００１９】
なお、プレイヤーアイコンＡ１３等を演奏場所を表現する画像１１上に最初に配置する方法の一具体例としては、編集時のメニュー画面で、音色を演奏パートに割り当てることによって初期位置に配置する。あるいは、編集時に、演奏場所を表現する画像１１の横に楽屋を表現する画像の領域を表示し、ここに、予め用意された複数のプレイヤーアイコンを表示しておき、マウスを用いて、１つずつプレイヤーアイコンを演奏場所を表現する画像１１に配置する。
【００２０】
演奏パートの音像は、中央部に定位させる傾向がある。その際、単純に音像定位位置とアイコンの表示位置とを比例的な関係にすると、アイコンが中央位置に重なって表示されてしまい、画面が見づらくなる。また、表示画面のバランスが悪く不自然な感じがしてしまうという問題がある。これを避けるため、中央パンレベルを示す中央領域１２を広く取った上で、パン情報をアイコンの位置で表示する。逆に、アイコンの設定位置を変えることによりパン制御する際は、中央領域１２内を制御の中央不感帯とする。
【００２１】
すなわち、中央領域１２については、画面上の横座標に対して広い範囲を割り当てる。したがって、画面の左右方向における中央の所定幅の領域内に配置されたプレイヤーアイコンＡ１３とプレイヤーアイコンＢ１４とは、各演奏パートの音像定位については同一の中央パンレベルにあるものとする。既にプレイヤーアイコンが配置されている位置に他のプレイヤーアイコンをもってきた場合、その位置を避けて、他のプレイヤーアイコンが配置されるようにするため、各プレイヤーアイコンが完全に重ならないように位置調整を行ってもよい。
【００２２】
中央領域１２として、横座標の中央１／５程度を中央パンレベルに割り当てると比較的プレイヤーアイコンが分散する。もちろん、この値は、演奏パート数にもよるし、さまざまな要因があるので状況によって最適値がある。したがって、演奏パート数に応じて所定幅を変えてもよい。
なお、中央領域１２に限らず、画面上の横座標に対して、複数の小領域に分割し、同じ小領域にあるプレイヤーアイコンは、同じパン情報値を有するもの、同じパン情報値を設定するものであるとして、プレイヤーアイコンが重ならないように表示位置を調整してもよい。
【００２３】
図３は、本発明の演奏システムの視覚的表示方法の他の実施の形態を説明するための表示画面の説明図である。図中、図２と同様な部分には同じ符号を付して説明を省略する。１１ａはステージを表現する線画である。
図２に示した表示画面と比較して、この表示画面では、ステージを表現する線画１１ａからわかるように、演奏場所を表現する画像が遠近法を用いて３次元的に表示されている。その結果、画面の上方にあるプレイヤーアイコンＢ１４は、ステージの奥にあるかのように表示される。したがって、アイコンの上下方向の位置を各演奏パートの音量に対応させると直感的に分かりやすくなる。
【００２４】
すなわち、図１において、各演奏パートメモリ１に各演奏パートの音量を示す音量情報を記憶しておく。この音量情報を読み出すことによって、アイコン位置設定部５は、各演奏パートの音量を識別することによりアイコン位置を設定し、画像データ合成部４を制御して、演奏場所を表現する画像中に各アイコンが、識別された音量情報に応じた上下方向の位置に配置された画像を作成する。なお、縦方向に音量を割り当てる代わりに、各演奏パートに個別に設定されるエフェクトの深さを割り当ててもよい。
【００２５】
また、図１において、アイコン位置設定部５は、各アイコンの位置設定データを入力することにより、画像データ合成部４を制御して、各アイコンの位置を移動させて新たな位置に配置させる。そして、音量設定部を新たに設け、各アイコンの新たな上下方向の位置に応じて、各演奏パートの音量を制御するための音量情報を音量制御部に出力する。さらに、音量設定部から出力される音量情報によって、演奏パートメモリ１の各演奏パートの音量情報を更新することもできる。図３においては、プレイヤーアイコンＡ１３の演奏パートの音量よりも、プレイヤーアイコンＢ１４の音量の方を上下方向の位置に応じて小さくする。各アイコンは、マウスポインタ１６によって表示位置を移動させることができる。
【００２６】
図４は、本発明の演奏システムの視覚的表示方法の実施の一形態を説明するためのハードウエア構成図である。シーケンサ装置、あるいは、サウンドボードが組み込まれたパーソナルコンピュータのハードウエア構成である。図１に示した機能ブロック構成は、このハードウエア上で、オペレーティング・システムとアプリケーションのソフトウエアを実行することによって実現される。
【００２７】
バス２１には、ＣＰＵ２２，ＲＯＭ２３，ＲＡＭ２４，外部記憶装置２５，インターフェース２７，表示部２９，入力部３０，音源部３１がバス接続されている。外部記憶装置２５は、ＦＤＤ（フレキシブル磁気ディスクドライブ），ハード磁気ディスクドライブ（ＨＤＤ），ＣＤ−ＲＯＭドライブ等の１まはた複数の記録再生装置であり、それぞれに対応する記録媒体２６が装填される。インターフェース２７にはＭＩＤＩキーボード等の外部演奏装置２８が接続される。音源部３１からの楽音出力は、ＤＳＰ３２に出力され、Ｄ／Ａ変換器３３によりアナログ信号に変換されて、ステレオ２チャネルのアンプ３４で増幅され、右スピーカ３５，左スピーカ３６から楽音信号が出力される。
【００２８】
オペレーティング・システムのソフトウエアおよびシーケンスソフトウエアは、記録媒体２６の１つであるハードディスクに記録されている。ＣＰＵ２２は、ＲＯＭ２３およびハードディスクから必要なプログラムやデータをＲＡＭ２４にロードすることにより各種の処理を実行する。シーケンスソフトウエアは、記録媒体２６の１つであるＣＤ−ＲＯＭに記録されて頒布され、このソフトウエアをハードディスクにインストールして用いる。あるいは、図示しない通信インターフェースを介して外部のサーバからハードディスクにダウンロードされる。
【００２９】
ＣＰＵ２２は、シーケンサ機能として、外部演奏機器２８からの入力情報に基づいて、リアルタイムレコーディングを行う。あるいは、ＬＣＤディスプレイ，ＣＲＴディスプレイ等の表示部２９にスタッフウィンドウ，ピアノロールウインドウ等を表示させて、キーボード，マウス等の入力部３０を用いてステップレコーディングを行う。あるいは、記録媒体２６に保存された曲データファイルをＲＡＭ２４にロードして、曲を再生する。
【００３０】
音源部３１は複数の演奏パートを同時発音させることができる。音源部３１は各演奏パートに割り当てられた音色を有する楽音を生成して、ＤＳＰ３２に出力し、ＤＳＰ３２においては、残響，コーラスといったエフェクトを楽音に付与する。また、仮想音場における音像定位を行うために、各楽音パートの楽音のパン情報により右チャネルと左チャネルの音量比を設定してＡ／Ｄ変換器３３に出力する。Ａ／Ｄ変換された楽音信号は、ステレオアンプ３４に出力され増幅されて、右スピーカ３５，左スピーカ３６から楽音信号が出力される。
【００３１】
ＣＰＵ２２は、また、楽音発生時に、複数の音源の仮想位置を表示して、演奏システムを視覚的に表示する機能を実行する。アンプ３４以降は外部装置とすることができる。音源部３１，ＤＳＰ３２も外部音源装置とし、図示しないＭＩＤＩインターフェースを介してＭＩＤＩデータを外部音源装置に出力する場合もある。また、ＭＩＤＩキーボードを入力部３０に備える場合もある。ハード磁気ディスクドライブを持たない装置の場合には、ＲＯＭ２３にソフトウエアがインストールされている場合もある。
【００３２】
なお、上述した説明では、シーケンスソフトウエア等のＤＴＭ用プログラムが外部記憶装置２５の記録媒体２６にインストールされたパーソナルコンピュータを前提に説明したが、ＤＴＭ専用の装置であってもよく、また、プログラムの少なくとも一部をハードウエアロジックで組んだものでもよい。
【００３３】
図５ないし図１０は、本発明の演奏システムの視覚的表示方法の実施の一形態を説明するためのフローチャートである。
図５は、メインのフローチャートである。図６は、図５に示したＳ４２の機能選択ステップのフローチャートである。図７は、図６に示したＳ５２の編集メニュー処理ステップの第１のフローチャートである。図８は、図６に示したＳ５２の編集メニュー処理ステップの第２のフローチャートである。図９は、図５に示したＳ４３の作動指示ステップのフローチャートである。図１０は、図５に示したＳ４４の演奏ステップのフローチャートである。
【００３４】
図５に示すように、本発明の演奏システムの視覚的表示方法の実施の一形態のメインのフローチャートでは、Ｓ４１において、レジスタ等の初期化を行う。次に、Ｓ４２において機能選択処理を行い、Ｓ４３において作動指示の処理を行い、Ｓ４４において演奏の処理を行う。Ｓ４４の処理を終了するとＳ４２に戻り、Ｓ４２〜Ｓ４４の処理を繰り返す。以下、各ステップのフローチャートを説明するが、本発明に直接関係しないステップは記載を省略する。
【００３５】
図６に示す機能選択のフローチャートにおいて、Ｓ５１においては、編集メニューの選択があるか否かを判定し、ある場合にはＳ５２の編集メニュー処理に進み、ない場合にはＳ５３に処理を進める。編集メニューは、アプリケーションウィンドウのメニューバーにある「編集」をマウスで左クリックすることによって選択される。
【００３６】
先に、Ｓ５２の編集メニュー処理について説明する。
図７に示すＳ７１において、ドロップダウンメニューが表示され、Ｓ７２に処理を進める。Ｓ７２においては、ドロップダウンメニューの中にある「自動伴奏スタイルの作成」がマウスの左クリックによって選択されたか否かを判定する。選択された場合には、Ｓ７４に処理を進め、選択されない場合にはＳ７３に処理を進める。Ｓ７４においては、自動伴奏スタイルのダイアログボックスが表示される。Ｓ７５において、自動伴奏スタイルの一覧の中から１つを選択して自動伴奏スタイルを設定して図６のＳ５８に戻る。自動伴奏スタイルでは、音楽ジャンル、この音楽ジャンルに属する複数の自動伴奏データのファイルおよびそのセクション、曲中にこの自動伴奏を入れる期間の開示時間と終了時間などが設定される。
【００３７】
Ｓ７３においては、「プレイヤーの編集」が選択されたか否かを判定する。選択された場合には、Ｓ７７に処理を進め、選択されていないときにはＳ７６に処理を進める。Ｓ７７においては、選択されたプレイヤーがあるか否かを判定する。この判定は、後述する図６のステップＳ５４によって既にプレイヤーアイコンが選択されているか否かによって判定する。選択されている場合にはＳ７８に処理を進め、選択されていないときにはメインのフローチャートに戻る。Ｓ７８においては、選択されたプレイヤーアイコンに対応する演奏パートに対して、音量調整、音色変更、パン調整等を選択するサブメニューが開き、その中の１つをさらに選択すると、それぞれに専用のダイアログボックスが開いて、Ｓ７９に処理を進める。Ｓ７９においては、開いている音量，音色，パン等のいずれかのダイアログボックスで、パラメータ値を入力して設定し、図６のＳ５８に戻る。
【００３８】
Ｓ７６においては、「ステージ効果」が選択されたか否かを判定する。選択された場合にはＳ８１に処理を進め、選択されない場合にはＳ８０に処理を進める。Ｓ８１においては、「ステージ効果」のダイアログボックスが開き、ステージ効果名が一覧表示され、Ｓ８２に処理を進める。このステージ効果は、演奏システムに付与する効果の一種であって、図１を参照して説明した残響のエフェクトである。Ｓ８２においては、図１を参照して説明した残響のタイプを選択して設定して、メインのフロチャートに戻る。
【００３９】
Ｓ８０においては、「調・拍子」が選択されたか否かを判定する。選択された場合には、Ｓ８３に処理を進め、選択されない場合には、図８のＳ８５に処理を進める。Ｓ８３においては、調と拍子の選択ダイアログボックスが開き、Ｓ８４に処理を進める。Ｓ８４においては、調の設定と拍子の入力を曲の先頭の他、曲中の任意の小節先頭位置を入力して指定し、図６のＳ５８に戻る。
【００４０】
図８に示すＳ８５においては、「プレイヤー」が選択されたか否かを判定する。選択されたときにはＳ８７に処理を進め、選択されないときにはＳ８６に処理を進める。Ｓ８７においては、全てのプレイヤー名、具体的には、音色（通常、楽器名で示される）がダイアログボックスに表示され、Ｓ８８に処理を進める。Ｓ８８においては、録音あるいは編集する場合に、任意の数の演奏パートのそれぞれに任意のプレイヤ（音色）を設定して図６のＳ５８に戻る。なお、曲データを再生する場合には、曲データファイル中に指定された音色番号（プログラムナンバー）によって、自動的にプレイヤーが選択されているが、選択されたプレイヤーをここで変更することもできる。
【００４１】
Ｓ８６においては「曲」が選択されたか否かを判定する。選択されたときには、Ｓ８９に処理を進め、選択されないときには図６のＳ５８に戻る。Ｓ８９においては、曲目選択ダイアログボックスが開き、音楽ジャンル別に区分けされた曲目が表示され、Ｓ９０に処理を進める。Ｓ９０においては、曲目または音楽ジャンルを選択して設定する。
図１１は、曲目選択の説明図である。曲の音楽ジャンル別に、曲目がまとめられている。曲を選択する他、曲の音楽ジャンル自体を選択することができ、この場合、選択された音楽ジャンルの代表的な曲が自動的に選択されるようにしている。
【００４２】
図７，図８に示した編集メニュー処理が終了すると、図６のＳ５８に戻る。Ｓ５８においては、編集メニュー処理の過程において、設定の変更があったか否かを判定し、変更があった場合にはＳ５９に処理を進め、ない場合にはメインのフローチャートに戻る。Ｓ５９においては、図７のＳ７５で設定された自動伴奏スタイル、Ｓ８１で設定されたステージ効果に応じて、演奏場所の画面デザインを変更し、Ｓ６０においては、図８のＳ８８において選択されたプレイヤーアイコンを演奏場所の画像上に表示する。図７のＳ７８のパン調整ダイアログボックスでパンが設定し直された場合には、このパン情報に応じてプレイヤーアイコンの配置を変更する。
【００４３】
図１２は、自動伴奏スタイルおよびステージ効果と演奏場所の画像との関係の説明図である。自動伴奏スタイルは音楽ジャンル別に分類され、図では、ダンシング，クラシック，ジャズ，民族を例示している。ステージ効果としては、ここでは残響を例示し、残響のタイプとして、残響のエフェクトなし、ホール，ステージの例を示している。そして自動伴奏スタイルと残響のタイプの組み合わせ条件により演奏場所の画像を異ならせている。演奏場所の画像の作り方は任意である。簡単な例を示すと、自動伴奏スタイルによって、演奏場所のカーテンの色や模様を異ならせたり、スピーカボックス等の小道具を異ならせる。残響のタイプによって、ホールやステージをイメージした画像を用いたり、場合により、カーテンをなくした画像を用いる。残響の強さを識別して、演奏場所の奥行き、あるいは広さの異なる画像を用いるようにしてもよい。
【００４４】
図１５ないし図１７は、プレイヤーアイコンが配置された演奏場所の画像の具体例の説明図である。しかし、図１２とは特に関連付けられたものではない。
図１５においては、開かれたカーテン１２１の間にステージ１２２が３次元的に描かれている。ステージ１２２には、ギタープレイヤーアイコン１２３，電子ピアノプレイヤーアイコン１２４，人声音プレイヤーアイコン１２５，グランドピアノプレイヤーアイコン１２６，バイオリンプレイヤーアイコン１２７が配置されている。演奏場所の画像としては殺風景な画像を用いており、ステージ効果の設定がない場合に用いる。
【００４５】
人声音プレイヤーアイコン１２５は、人声音が楽器の音色として扱われた演奏パートのアイコンである。歌詞を発音させる場合もある。女性を３人並べたキャラクタを用いているが、この演奏パートに対してコーラスのエフェクトがかかることを表わすようにして、コーラスのエフェクトがかからない場合には、人物が１人のキャラクタを用いるようにしてもよい。また、男声音と女声音とでキャラクタを代えたアイコンにしてもよい。
バイオリンプレイヤーアイコン１２７も３人の人物並べているが、この演奏パートに対してアンサンブルのエフェクトがかかることを表わすようにして、アンサンブルのエフェクトがかからない場合には、人物が１人のキャラクタを用いるようにしてもよい。
なお、図示のようにプレイヤーアイコンの床面のスポットライトをイメージする楕円形の中に、演奏パートの番号を表示するようにしてもよい。
【００４６】
図１６においては、図１５のカーテンとは色や模様の異なる開かれたカーテン１３１の間にステージ１３２が３次元的に描かれている。ステージ１３２は、床面および壁面が木製のコンサートホールをイメージしたものとしている。
図１７においては、図１５，図１６のカーテンとは色や模様の異なる開かれたカーテン１４１の間に、ステージ１４２が３次元的に描かれている。ステージ１４２は、スポットライトで浮かび上がったライブステージをイメージしたものである。
このように、自動伴奏スタイルやステージ効果などの演奏システムに対する効果、言い換えれば、演奏システムの環境設定に応じて、演奏場所の画像を変更することによって臨場感を増すことができる。
【００４７】
図６の機能選択のフローチャートに戻って説明する。Ｓ５１において編集メニューの選択がなかったときにＳ５３に処理を進める。Ｓ５３においては、演奏場所の画像上に配置されたプレイヤーアイコンの選択があるか否かを判定し、プレイヤーアイコンが選択されているときにはＳ５４に処理を進め、選択されていない場合にはメインのフローチャートに戻る。マウスポインタを１つのプレイヤーアイコンに当てて、左クリックされた場合にプレイヤーアイコンの選択があると判定する。
【００４８】
Ｓ５４においては、プレイヤーが選択されたことを視覚的に表示するために、選択されたプレイヤーアイコンを囲む四角形の枠を表示し、Ｓ５５に処理を進める。Ｓ５５においては、プレイヤーアイコンの移動指示があるか否かを判定し、移動指示があるときにはＳ５６に処理を進め、移動指示がないときには、メインのフローチャートに戻る。プレイヤーアイコンにマウスポインタを当ててマウスを左クリックしたままマウスをドラッグすることにより移動指示があると判定する。Ｓ５６においては、プレイヤーアイコンの表示位置を変え、Ｓ５７に処理を進める。Ｓ５７においては、そのプレイヤーアイコンに対応する演奏パートのパン制御を、プレイヤーアイコンの位置に応じて設定して、メインのフローチャートに戻る。詳細は、先に図１，図２を参照して説明した通りである。
【００４９】
したがって、曲が選択されて演奏する曲のファイルデータが取り込まれている時点で、この曲に使用されている演奏パートに対応したプレイヤーアイコンがパン情報に応じた位置に表示されるが、このプレイヤーアイコンの位置を動かすことによりパンの設定を変えることができる。また、曲が選択された後であったり、ユーザーが編集した曲においても、このプレイヤーアイコンの位置を動かすことによりパンの設定を変えることができる。
【００５０】
図９を参照して、作動指示のフローチャートを説明する。Ｓ１０１において、再生指示があるか否かを判定し、再生指示があるときには、Ｓ１０３に処理を進め、再生指示がないときにはＳ１０２に処理を進める。この実施の形態では、画面上に表示された仮想的な記録再生装置のコントロールパネルの再生ボタンにマウスポインタを当てて、左クリックしたときに再生指示があったと判定する。
【００５１】
Ｓ１０３においては、演奏場所の画像上に配置されたプレイヤーアイコンのいずれか１つが選択されている状態であるか否かを判定し、選択されているときにはＳ１０５に処理を進め、選択されていないときにはＳ１０４に処理を進める。なお、プレイヤーアイコンは、図６のＳ５３において選択され、選択されたときには、Ｓ５４において付された枠が画面上に表示されている。
【００５２】
Ｓ１０５においては、選択されたプレーヤーアイコンの音色に対応する試聴用楽曲データを選定して演奏を開始する。
試聴用楽曲データは、例えば、個々の音符や音色の情報に加え、楽音発生イベントの時間間隔を指示するデューレーション情報を含むものであり、音源部において楽音波形データに変換可能なファイル形式のシーケンスデータある。具体例としては、スタンダードＭＩＤＩファイル（ＳＭＦ）形式のデータである。この試聴用楽曲データは、ある程度まとまりのある楽曲を構成し、具体例としては、１または数小節分のフレーズデータであるが、１曲全部を用いてもよい。なお、試聴用楽曲データは、ウエーブ形式のファイルでもよく、波形データをアナログ波形に変換するＤ／Ａ変換機能を持たせるだけでよくなるが、記憶しておくべき容量は大幅に増大することになる。
【００５３】
試聴用楽曲データには、演奏パートの音色を視聴するのにふさわしい曲の中の、ふさわしいフレーズを選定する。この試聴用楽曲データを視聴して、演奏あるいは編集を行おうとしている曲にこの演奏パートの音色がふさわしいかどうかを調べる。そのため、曲の音楽ジャンル、曲のスタイル、メロディー用の演奏パートであるか、バッキング（伴奏）用の演奏パートであるかを指定する。そして、指定された音楽ジャンルに属する曲の中から、曲のスタイルに合ったものを予め選定しておき、さらに、その曲の中から、その音色の視聴にふさわしいシーケンスを、メロディー用、バッキング用にあらかじめ記憶しておく。
【００５４】
図１３は、試聴用楽曲データ設定方法の第１の説明図である。試聴用楽曲データは、音色毎に選定されるため、音色ごとに選定テーブルを有している。図示の例では、音楽ジャンル，曲の速さ（テンポ），演奏パートのメロディ用／バッキング（伴奏）用種別等の組み合わせによって、予め記憶されている試聴用楽曲データを選定する。
【００５５】
上述した選定は、例えば、Ｓ１０５において、ポップアップメニューを表示して、選択された演奏パートについて、ユーザが指定する。
この選定条件中、音楽ジャンルについては、曲あるいは自動伴奏スタイルが既に設定された状態である場合に、曲あるいは自動伴奏スタイルの音楽ジャンルに一致させるようにすれば、ユーザがこのＳ１０５のステップにおいて音楽ジャンルを特に設定しなくてもよい。
曲の速さについても同様に、曲あるいは自動伴奏スタイルが既に設定された状態である場合に、曲あるいは自動伴奏スタイルのテンポに合わせるようにすれば、ユーザがこのステップにおいて曲のスタイルを特に設定しなくてもよい。
また、演奏パートのメロディ用／バッキング（伴奏）用種別については、プレイヤーアイコンの配置に連動させて設定することもでき、この場合、ユーザがこのステップにおいてメロディ用／バッキング（伴奏）用種別を特に設定しなくてもよい。
上述した説明では、音色に加えて、音楽ジャンル等の諸条件によっても試聴用楽曲データを変えるようにしたが、音色のみにより試聴用楽曲データを設定しただけでも、音色の特徴をつかみやすくすることができる。
【００５６】
図１４は、試聴用楽曲データの選定方法の第２の説明図である。図中、図２，図３と同様な部分には同じ符号を付して説明を省略する。
演奏場所を表現する画像１１は、ステージを表現する線画１１ａに示されるように３次元的に図示されている。その結果、画面の上方にあるプレイヤーアイコンＢ１４は、ステージの奥にあるかのように表示される。図３の例とは異なり、この表示画面では、図中に▲１▼−▲１▼の破線で示した境界よりも上の画面の領域をバッキング領域とし、この領域に配置されたプレイヤーアイコンに対応する演奏パートは、バッキング（伴奏）用に設定する。これに対し、▲１▼−▲１▼の破線で示した境界線よりも下の画面の領域をメロディ領域とし、この領域に配置されたプレイヤーアイコンＢ１３，プレイヤーアイコンＣ１５に対応する演奏パートはメロディ用に設定される。
【００５７】
なお、変形例として、図中に、▲１▼−▲１▼の破線、▲２▼−▲２▼の破線、▲３▼−▲３▼の破線で示す境界線よりも中央側の領域をメロディ領域とし、周辺部の領域をバッキング領域にしてもよい。この場合、プレイヤーアイコンＢ１３に対応する演奏パートのみがメロディ用に設定される。
上述したような試聴用楽曲データの選択によって、音色を選定するにあたって、音色のイメージがわかりやすくなり、音色選択の質や効率が上がる。特に、音楽ジャンルや曲のスタイルによって試聴用楽曲データを取り替えることにより、よりユーザの利用環境に適した試聴用楽曲データを提供することができるようになる。
【００５８】
図９のＳ１０５において、プレイヤーアイコンの音色に対応した試聴用楽曲データが選定されると、この試聴用楽曲データを演奏用のデータバッファに取り込んで、演奏開始状態となり、メインのフローチャートに戻る。
Ｓ１０４においては、曲が指定されている状態であるか否かを判定し、指定されているときにはＳ１０７に処理を進め、指定されていないときにはＳ１０６に処理を進める。曲の設定は、図８におけるＳ９０において行われた。Ｓ１０７においては、指定されている曲の曲データを演奏用のデータバッファに取り込んで、演奏開始状態となり、メインのフローチャートに戻る。
【００５９】
Ｓ１０６においては、自動伴奏スタイルが選択されている状態であるか否かを判定し、選択されているときにはＳ１０８に処理を進め、選択されていないときにはメインのフローチャートに戻る。
Ｓ１０８においては、選択されている自動伴奏スタイルの伴奏データを演奏用のバッファに取り込んで演奏開始状態となり、メインのフローチャートに戻る。
【００６０】
Ｓ１０２においては、その他の指示があるか否かを判定する。その他の指示があるときにはＳ１０９に処理を進め、その他の指示がないときにはメインのフローチャートに戻る。
Ｓ１０９においては、指示のあったその他の処理、例えば、巻き戻し、早送り、一時停止、停止等の処理を実行する。上述した処理の指示は、再生指示と同様に、画面上に表示された仮想的な記録再生装置の巻き戻し、早送り、一時停止、停止等のボタンにマウスポインタを当てて、左クリックしたときに指示があったと判定する。
【００６１】
図１０に示す演奏のフローチャートにおいて、Ｓ１１１においては演奏用のデータバッファに演奏データがあるか否かを判定し、ある場合にはＳ１１２に処理を進め、ない場合にはメインのフローチャートに戻る。Ｓ１１２においては、演奏用のデータバッファから順次取り出されるノートオンデータ等に基づいて楽音再生処理を行い、Ｓ１１３に処理を進める。
Ｓ１１３〜Ｓ１１５においては、プレーヤーアイコンおよびコンダクターアイコンのアニメーション（動画）表示を行う。
Ｓ１１３においては、楽音発生期間中の演奏パートの楽音レベルを検出し、検出レベルに応じた動きをするプレイヤーアイコンの画像を選択する。このようにして、発音レベルに応じて、それに対応したプレイヤーアイコンの動作を大きくしたり、また、小さくしたりする。同時に、プレイヤーアイコンの画像をテンポに応じて切り替える処理を行い、Ｓ１１４に処理を進める。
【００６２】
図１８は、プレイヤーアイコンの具体例を示す説明図である。図１８（ａ），図１８（ｂ）は、電気ギターを演奏している状態のプレイヤーを具象的に表す画像である。演奏中のキャラクターの動きを２種類取り出して作成された画像である。スポットライトの部分には、演奏パートの番号が表示されている。
各演奏パートの楽音発生期間中、その演奏パートのプレイヤーアイコンを表す図１８に示すような画像をテンポに合わせて切り替えることによりプレイヤーアイコンに動きを与える。
【００６３】
各演奏パートの楽音発生期間は、各演奏パートの楽音発生指示（ＭＩＤＩ情報では「ノートオン」に対応する）を検出して開始する。
各演奏パートの楽音発生期間の終了については、何通りかの検出方法がある。第１の検出方法として、各演奏パートの楽音が消音する時点を検出して終了とする。具体的には各演奏パートの楽音のエンベロープがゼロまたは所定の閾値より小さくなった時点を検出する。
第２の検出方法としては、各演奏パートのノートオンが所定時間にわたって検出されなくなることにより楽音発生期間の終了を検出する。
【００６４】
その際、第１の検出方法、第２の検出方法のいずれにおいても、このような楽音発生期間中に再度の楽音発生指示があった場合に、その演奏パートのプレイヤーアイコンを表す画像の切り替えを、一連の動作を示す画像の最初のものに戻す方法を採用してもよい。このようにすることにより、プレイヤーアイコンの動作を、各演奏パートの楽音発生指示ごとに、動作開始時の画像から動き出すようにすることができる。そして、１度の楽音発生指示によっては、演奏パートのプレイヤーアイコンを表す画像として同じ画像を繰り返し使用しないものとする。ギターのように、楽音発音開始時とその後の楽音発音期間中とで、演奏操作の形態の違いが視覚的に目立つような楽器の場合でも、プレイヤーアイコンの動きが不自然にならない。
【００６５】
Ｓ１１４においては、第１モードであるか否かを判定し、第１モードであるときにはＳ１１５に処理を進め、第２モードのときには、Ｓ１１６に処理を進める。
Ｓ１１５においては、演奏期間中、楽音が発生していないときを含めて常時、コンダクターアイコンの画像をテンポおよび拍子に応じて切り替えるようにしてメインのフローチャートに戻る。従って、第１モードでは、１曲を自動演奏するときなどの演奏期間中、いずれの演奏パートも楽音発生期間中でないときを含め、常時、コンダクターアイコンコンを表す画像を切り替えてコンダクターアイコンに動きを与える。
【００６６】
図１９は、コンダクターアイコンの具体例を示す説明図である。図１９（ａ），図１９（ｂ），図１９（ｃ）は、指揮をしている状態の指揮者（コンダクター）を具象的に表す画像である。指揮中のキャラクターの動きを３種類取り出して作成された画像である。
切り替えに使用するコンダクターアイコンの画像の枚数を拍子に応じて決め、例えば、２拍子の場合には動作コマ数を２として、２枚の異なる画像を周期的に切り替え、３拍子の場合には、動作コマ数を３コマとして、３枚の異なる画像を周期的に切り替える。すなわち、コンダクターアイコンの画像をテンポに合わせた間隔で切り替え、拍子に合わせて同じ画像を繰り返すようにする。
【００６７】
Ｓ１１６における第２モードでは、  演奏期間中であって、かつ、いずれかの演奏パートが楽音発生期間中であるときに限り、コンダクターアイコンに動きを与える。いずれか１つの演奏パートの楽音発生期間に、その楽音発生期間中の演奏パートのプレイヤーアイコンの方向にコンダクターアイコンの指揮者の向きが変わる画像を表示するとともに、拍子に合わせた一連の画像を繰り返し、テンポに合わせて画像を切り替える。そのために、指揮の一連の動作を示す複数の画像として、コンダクターの向きを異ならせたものを複数セット用意してあり、コンダクターアイコンの位置から楽音発生期間中のプレイヤーアイコンの位置を見た角度を計算して画像のセットを選択する。
【００６８】
上述した説明では、プレイヤーアイコンおよびコンダクターアイコンの画像として、一連の動作を表す複数枚の静止画像を画像データメモリに記憶しておき、この静止画像を切り替えることにより、各アイコンに１連の動きを与えている。この静止画像の枚数を少なくすると、記憶すべき画像データ容量が少なくなるとともに、画像切り替えの処理負担も少なくなる。これに対し、静止画像の枚数を、例えば、毎秒３０フレーム（コマ）のように多くして切り替えの時間間隔を短くすれば、動きが滑らかになり表示品質が向上し、ユーザにとって見やすいものとなる。
また、静止画像が表す一連の動作間隔において、これらの静止画像をキーフレームとして、静止画像データを補間処理して中間の静止画像を生成することにより、元となる静止画像の枚数が少なくても、プレイヤーアイコンおよびコンダクターアイコンに滑らかな動きを与えることができる。このような技術は、３Ｄコンピュータグラフィックス技術等において、アニメーション（動画）作成技術として知られている。
【００６９】
上述したように、プレイヤーアイコンの位置でパンの設定状態がわかり、プレイヤーアイコンおよびコンダクターアイコンの動きで演奏状態がわかるため、視覚的に演奏システムの状態が一目でわかるようになる。
なお、演奏場所を表現する画像に観客席を設けて観客を表示してもよい。観客が騒いでいる様子を表す画像データを複数枚用意して、演奏場所画像データメモリ４に記憶しておき、キーオンイベント等の演奏データの発生頻度が大きいときには、演奏が盛り上がっていると推定して、観客が騒いでいる状態の一連の画像を順次切り替えることにより、観客が騒いでいるように見せると、さらに臨場感が増す。また、拍手音等の効果音を出力する際に、同様にして、観客が騒いでいるように見せることができる。
【００７０】
上述した説明では、自動伴奏スタイルの設定、ステージ効果の設定、調と拍子の設定、プレイヤー（音色）の設定については、編集メニュー処理を用いて設定を行った。しかし、アプリケーションウインドウの画面上にそれぞれのアイコンを表示して、このアイコンをマウスで選択してポップアップメニューを表示させて設定を行ってもよい。
【００７１】
また、上述した説明では、試聴用楽曲データの演奏、自動伴奏スタイルの演奏を、通常の曲再生と同様に、プレイボタンのマウス操作によって行った。しかし、編集メニューにおける自動伴奏スタイルのダイアログボックスにおいて自動伴奏スタイルを設定する際に、視聴のチェックボタンをマウスでクリックすることにより、自動伴奏スタイルの演奏を行うようにしてもよい。同様に、編集メニューにおける音色変更のダイアログボックスにおいて音色を設定する際に、視聴のチェックボタンをマウスでクリックすることにより、音色の視聴を行うようにしてもよい。
【００７２】
【発明の効果】
本発明は、上述した説明から明らかなように、演奏システムを視覚的に表示することができるという効果がある。
その結果、ユーザーに視覚的に飽きのこない演奏を楽しませることができる。ユーザーは、画面をみることから聴覚で認識する情報を視覚からの情報と合わせてより正確に認識また確認することができるようになる。
【図面の簡単な説明】
【図１】本発明の演奏システムの視覚的表示方法の実施の一形態を説明するための、演奏システムの視覚的表示装置の機能ブロック構成図である。
【図２】本発明の演奏システムの視覚的表示方法の実施の一形態を説明するための表示画面の説明図である。
【図３】本発明の演奏システムの視覚的表示方法の他の実施の形態を説明するための表示画面の説明図である。
【図４】本発明の演奏システムの視覚的表示方法の実施の一形態を説明するためのハードウエア構成図である。
【図５】本発明の演奏システムの視覚的表示方法の実施の一形態を説明するためのメインのフローチャートである。
【図６】図５に示した機能選択ステップのフローチャートである。
【図７】図６に示した編集メニュー処理ステップの第１のフローチャートである。
【図８】図６に示した編集メニュー処理ステップの第２のフローチャートである。
【図９】図５に示した作動指示ステップのフローチャートである。
【図１０】図５に示した演奏ステップのフローチャートである。
【図１１】曲目選択の説明図である。
【図１２】自動伴奏スタイルおよびステージ効果と演奏場所の画像との関係の説明図である。
【図１３】試聴用楽曲データ設定方法の第１の説明図である。
【図１４】試聴用楽曲データ設定方法の第２の説明図である。
【図１５】プレイヤーアイコンが配置された演奏場所の画像の第１の具体例の説明図である。
【図１６】プレイヤーアイコンが配置された演奏場所の画像の第２の具体例の説明図である。
【図１７】プレイヤーアイコンが配置された演奏場所の画像の第３の具体例の説明図である。
【図１８】プレイヤーアイコンの具体例を示す説明図である。
【図１９】コンダクターアイコンの具体例を示す説明図である。
【符号の説明】
１  演奏パートメモリ、２  アイコン画像データメモリ、３  演奏場所画像データメモリ、４  画像データ合成部、５  アイコン位置指定部、６  パン設定部、１１  演奏場所を表現する画面、１１ａ  ステージを表現する線画、１３  プレイヤーアイコンＡ、１４  プレイヤーアイコンＢ、１５  プレイヤーアイコンＣ、１６  マウスポインタ
【図１】
0003603599.tif 000002
【図２】
0003603599.tif 000003
【図３】
0003603599.tif 000004
【図４】
0003603599.tif 000005
【図５】
0003603599.tif 000006
【図６】
0003603599.tif 000007
【図７】
0003603599.tif 000008
【図８】
0003603599.tif 000009
【図９】
0003603599.tif 000010
【図１０】
0003603599.tif 000011
【図１１】
0003603599.tif 000012
【図１２】
0003603599.tif 000013
【図１３】
0003603599.tif 000014
【図１４】
0003603599.tif 000015
【図１５】
0003603599.tif 000016
【図１６】
0003603599.tif 000017
【図１７】
0003603599.tif 000018
【図１８】
0003603599.tif 000019
【図１９】
0003603599.tif 000020