(57)【要約】      （修正有）【課題】楽譜を、あるいは楽譜とともにその運指を、楽器を演奏中の演奏者に見易く表示することが可能となる楽譜表示装置および楽譜表示方法を実現するためのプログラムを提供する。【解決手段】楽譜表示モードが選択され、自動演奏の開始が指示されると、投影装置１３による鍵盤上への楽譜および運指の投影が開始する。撮像装置１２により撮像情報に含まれる鍵盤上の各鍵の位置が認識され、認識された鍵盤上の鍵の位置が特定され、その鍵を演奏者が押鍵したときに自身の演奏部位があるべき位置が推定される。そして、推定された位置の近傍で、表示楽譜が当該演奏部位に重ならない位置が、撮像情報内から検出されて、楽譜表示位置に決定される。さらに、楽譜画像データとガイド画像データがそれぞれ生成され、楽譜画像データが決定された楽譜表示位置に、ガイド画像データが次に指があるべき位置に重ねて表示される。【選択図】図２
2010204450.tif 000002
【特許請求の範囲】
【請求項１】
楽譜情報を取得する取得手段と、
演奏者が現在演奏すべきあるいは現在演奏中の、前記楽譜情報上の演奏位置を決定する決定手段と、
該決定手段によって決定された演奏位置の次の演奏位置で楽器を演奏する際に、演奏者の演奏部位があるべき楽器上の位置を推定する推定手段と、
該推定手段によって推定された、演奏者の演奏部位があるべき楽器上の位置の近傍で、当該演奏部位に重ならない位置に、前記決定された演奏位置の次の演奏位置を指示する演奏位置指示情報を含む楽譜情報を表示する表示手段と
を有することを特徴とする楽譜表示装置。
【請求項２】
前記決定手段は、演奏者が楽器を演奏することで生成された演奏情報を取得し、該取得された演奏情報と前記取得された楽譜情報に基づいて、前記演奏位置を決定することを特徴とする請求項１に記載の楽譜表示装置。
【請求項３】
前記表示手段はさらに、前記決定された演奏位置の次の演奏位置に対応する、前記楽器の演奏操作子上の位置に、生成した演奏指示情報を表示することを特徴とする請求項１または２に記載の楽譜表示装置。
【請求項４】
楽譜表示方法をコンピュータに実行させるためのプログラムであって、
前記楽譜表示方法は、
楽譜情報を取得する取得ステップと、
演奏者が現在演奏すべきあるいは現在演奏中の、前記楽譜情報上の演奏位置を決定する決定ステップと、
該決定ステップによって決定された演奏位置の次の演奏位置で楽器を演奏する際に、演奏者の演奏部位があるべき楽器上の位置を推定する推定ステップと、
該推定ステップによって推定された、演奏者の演奏部位があるべき楽器上の位置の近傍で、当該演奏部位に重ならない位置に、前記決定された演奏位置の次の演奏位置を指示する演奏位置指示情報を含む楽譜情報を表示する表示ステップと
を有することを特徴とするプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、楽譜とともにその運指を表示することができる楽譜表示装置および楽譜表示方法を実現するためのプログラムに関する。
【背景技術】
【０００２】
楽譜とともにその運指を表示することができる楽譜表示装置は、従来から知られている。
【０００３】
このような楽譜表示装置を適用した電子鍵盤楽器として、本体パネルに設けられたＬＣＤ（liquid crystal display）上に演奏曲の楽譜を表示するとともに、鍵盤の鍵毎に設けられた鍵盤ガイドランプに鍵盤を弾くタイミングや音符の長さ、押さえる鍵盤位置を表示するようにしたものがある（たとえば、非特許文献１参照）。
【先行技術文献】
【非特許文献】
【０００４】
【非特許文献１】ＣＶＰ−２０９／２０７取扱説明書，２００１年，ヤマハ株式会社（第７９頁および第８１頁）
【発明の概要】
【発明が解決しようとする課題】
【０００５】
しかし、上記従来の電子鍵盤楽器では、楽譜の表示位置と鍵盤の設置位置とが離れているので、鍵盤を見ながら演奏することが多い初心の演奏者にとっては、楽譜と鍵盤を同時に見ながら演奏することは難しかった。さらに上記従来の電子鍵盤楽器では、運指の表示位置も楽譜の表示位置と離れているので、楽譜と運指についても、両者を同時に見ながら演奏することは難しかった。
【０００６】
また、弦楽器などの鍵盤楽器以外の楽器、特にアコースティック楽器には、運指を表示するものは知られていなかった。
【０００７】
本発明は、この点に着目してなされたものであり、楽譜を、あるいは楽譜とともにその運指を、楽器を演奏中の演奏者に見易く表示することが可能となる楽譜表示装置および楽譜表示方法を実現するためのプログラムを提供することを目的とする。
【課題を解決するための手段】
【０００８】
上記目的を達成するため、請求項１に記載の楽譜表示装置は、楽譜情報を取得する取得手段と、演奏者が現在演奏すべきあるいは現在演奏中の、前記楽譜情報上の演奏位置を決定する決定手段と、該決定手段によって決定された演奏位置の次の演奏位置で楽器を演奏する際に、演奏者の演奏部位があるべき楽器上の位置を推定する推定手段と、該推定手段によって推定された、演奏者の演奏部位があるべき楽器上の位置の近傍で、当該演奏部位に重ならない位置に、前記決定された演奏位置の次の演奏位置を指示する演奏位置指示情報を含む楽譜情報を表示する表示手段とを有することを特徴とする。
【０００９】
請求項２に記載の楽譜表示装置は、請求項１の楽譜表示装置において、前記決定手段は、演奏者が楽器を演奏することで生成された演奏情報を取得し、該取得された演奏情報と前記取得された楽譜情報に基づいて、前記演奏位置を決定することを特徴とする。
【００１０】
請求項３に記載の楽譜表示装置は、請求項１または２の楽譜表示装置において、前記表示手段はさらに、前記決定された演奏位置の次の演奏位置に対応する、前記楽器の演奏操作子上の位置に、生成した演奏指示情報を表示することを特徴とする。
【００１１】
上記目的を達成するため、請求項４に記載のプログラムは、請求項１と同様の技術的思想によって実現できる。
【発明の効果】
【００１２】
請求項１または４に記載の発明によれば、演奏者の演奏部位が次にあるべき楽器上の位置の近傍で、当該演奏部位に重ならない位置に楽譜が表示されるので、自身の演奏部位を見ながら演奏することが多い初心の演奏者にとっては、演奏曲の楽譜を暗記しなくてもよくなり、演奏練習に集中することができる。そして楽譜は常に、次にあるべき位置の演奏部位に重ならないように表示されるので、表示楽譜が演奏者の演奏の邪魔になることもない。
【００１３】
請求項２に記載の発明によれば、演奏者が楽器を演奏することで生成された演奏情報が取得され、該取得された演奏情報と前記取得された楽譜情報に基づいて、前記演奏位置が決定されるので、演奏者の演奏状態に応じて楽譜の表示を進ませることができる。
【００１４】
請求項３に記載の発明によれば、運指も次に指があるべき演奏操作子上の位置に表示されるので、演奏者は押さえる場所や指の形などに細心の注意を払いながら演奏練習でき、これにより練習効率が向上する。さらに、楽譜と運指が同時に表示されるので、演奏者は慣れない曲を演奏するときでも迷いなく演奏することができる。
【図面の簡単な説明】
【００１５】
【図１】本発明の第１の実施の形態に係る楽譜表示装置を適用した電子鍵盤楽器の概略構成を示すブロック図である。
【図２】図１の演奏操作子に含まれる鍵盤上に楽譜と運指を表示した様子を示す図である。
【図３】図１の電子鍵盤楽器、特にＣＰＵが実行する楽譜表示モード処理の手順を示すフローチャートである。
【図４】本発明の第１の実施の形態の変形例についてのカレントポジション決定処理の手順を示すフローチャートである。
【図５】本発明の第２の実施の形態に係る楽譜表示装置を演奏者が使用している様子と楽譜および運指を表示した様子を示す図である。
【図６】本発明の第３の実施の形態に係る楽譜表示装置を演奏者が使用している様子と楽譜および運指を表示した様子を示す図である。
【発明を実施するための形態】
【００１６】
以下、本発明の実施の形態を図面に基づいて詳細に説明する。
【００１７】
図１は、本発明の第１の実施の形態に係る楽譜表示装置を適用した電子鍵盤楽器の概略構成を示すブロック図である。
【００１８】
同図に示すように、本実施の形態の電子鍵盤楽器は、音高情報を含む演奏データを入力するための鍵盤を含む演奏操作子１と、各種情報を入力するための複数のスイッチやホイール、ジョイスティックを含むパネル操作子２と、周囲の音声を集音して音声信号に変換するマイクロフォン（以下、「マイク」と略して言う）３と、演奏操作子１の操作状態を検出する検出回路４と、パネル操作子２の操作状態を検出する検出回路５と、マイク３から出力された音声信号を入力する音声入力インターフェース（Ｉ／Ｆ）６と、装置全体の制御を司るＣＰＵ７と、該ＣＰＵ７が実行する制御プログラムや、各種テーブルデータ等を記憶するＲＯＭ８と、演奏データ、各種入力情報および演算結果等を一時的に記憶するＲＡＭ９と、タイマ割込み処理における割込み時間や各種時間を計時するタイマ１０と、各種情報等を表示する、たとえばＬＣＤおよびＬＥＤ（light emitting diode）等を備えた表示器１１と、前記鍵盤全体を撮像する撮像装置１２と、鍵盤上に楽譜および運指を投影して表示する投影装置１３と、前記制御プログラムを含む各種アプリケーションプログラムや各種楽曲データ、各種データ等を記憶する記憶装置１４と、外部からのＭＩＤＩ（musical instrument digital interface）メッセージを入力したり、ＭＩＤＩメッセージを外部に出力したりするＭＩＤＩインターフェース（Ｉ／Ｆ）１５と、通信ネットワーク１０１を介して、たとえばサーバコンピュータ（以下、「サーバ」と略して言う）１０２とデータの送受信を行う通信インターフェース（Ｉ／Ｆ）１６と、演奏操作子１から入力された演奏データや、前記記憶装置１４に記憶されたいずれかの楽曲データを再生して得られた演奏データ等を楽音信号に変換する音源回路１７と、該音源回路１７からの楽音信号に各種効果を付与するための効果回路１８と、該効果回路１８からの楽音信号を音響に変換する、たとえば、ＤＡＣ（digital-to-analog converter）やアンプ、スピーカ等のサウンドシステム１９とにより構成されている。
【００１９】
上記構成要素４〜１８は、バス２０を介して相互に接続され、ＣＰＵ７にはタイマ１０が接続され、ＭＩＤＩＩ／Ｆ１５には他のＭＩＤＩ機器１００が接続され、通信Ｉ／Ｆ１６には通信ネットワーク１０１が接続され、音源回路１７には効果回路１８が接続され、効果回路１８にはサウンドシステム１９が接続されている。ここで、通信Ｉ／Ｆ１６および通信ネットワーク１０１は、有線方式のものに限らず、無線方式のものであってもよい。また、両方式のものを備えていてもよい。
【００２０】
マイク３のブロックは、破線で描かれている。これは、マイク３は本実施の形態の電子鍵盤楽器の必須の構成ではないことを意味する。マイク３は、図４（ｂ）を用いて後述するように、楽器から発生される楽音を集音し、その楽音のピッチ（音高）を検出することで、演奏者の現在の演奏位置（以下、「カレントポジション」という）を決定するために用いられる。しかし本実施の形態では、楽器として電子（鍵盤）楽器を採用しており、楽音のピッチは、演奏操作子１から入力された演奏データ（キーオンイベント）から直接検出できるので、楽器本体から発生した楽音からそのピッチを検出する必要はない。つまりマイク３は、楽器としてアコースティック楽器を採用する場合に必須の構成となり、本実施の形態のように電子楽器を採用した場合には必須の構成とはならない。このようにマイク３が必須の構成ではない場合には、マイク３からの音声信号を入力する音声入力Ｉ／Ｆ６も必須の構成でないので、音声入力Ｉ／Ｆ６のブロックも、破線で描かれている。
【００２１】
撮像装置１２は、鍵盤全体を撮像し、その結果得られた撮像情報（映像データ）を解析することで、鍵盤上の各鍵の位置を検出したり、楽譜および運指を投影する鍵盤上の領域の背景色（本実施の形態では、白色（白鍵の場合）あるいは黒色（黒鍵の場合））を検出したりするために設けられている。このように撮像装置１２は鍵盤全体を撮影できればよいので、撮像装置１２としては、本体パネルの鍵盤に近い部分に埋め込んだ小型カメラを用いればよい。
【００２２】
投影装置１３は、上述のように鍵盤上に楽譜および運指を投影するために設けられているので、投影装置１３も、撮像装置１２と同様に、鍵盤全体に画像を投影できればよく、本体パネルの鍵盤に近い部分に埋め込むようにすればよい。
【００２３】
記憶装置１４としては、たとえば、フレキシブルディスクドライブ（ＦＤＤ）、ハードディスクドライブ（ＨＤＤ）、ＣＤ−ＲＯＭドライブおよび光磁気ディスク（ＭＯ）ドライブ等を挙げることができる。そして、記憶装置１４には、前述のように、ＣＰＵ７が実行する制御プログラムも記憶でき、ＲＯＭ８に制御プログラムが記憶されていない場合には、この記憶装置１４に制御プログラムを記憶させておき、それをＲＡＭ９に読み込むことにより、ＲＯＭ８に制御プログラムを記憶している場合と同様の動作をＣＰＵ７にさせることができる。このようにすると、制御プログラムの追加やバージョンアップ等が容易に行える。
【００２４】
ＭＩＤＩＩ／Ｆ１５は、専用のものに限らず、ＲＳ−２３２ＣやＵＳＢ（universal serial bus）、ＩＥＥＥ１３９４等の汎用のインターフェースによって構成してもよい。この場合、ＭＩＤＩメッセージ以外のデータをも同時に送受信してもよい。
【００２５】
通信Ｉ／Ｆ１６は、上述のように、たとえばＬＡＮ（local area network）やインターネット、電話回線等の通信ネットワーク１０１に接続されており、該通信ネットワーク１０１を介して、サーバ１０２に接続される。記憶装置１４に上記各プログラムや各種パラメータが記憶されていない場合には、通信Ｉ／Ｆ１６は、サーバ１０２からプログラムやパラメータをダウンロードするために用いられる。クライアントとなる電子鍵盤楽器は、通信Ｉ／Ｆ１６および通信ネットワーク１０１を介してサーバ１０２へとプログラムやパラメータのダウンロードを要求するコマンドを送信する。サーバ１０２は、このコマンドを受け、要求されたプログラムやパラメータを、通信ネットワーク１０１を介して電子鍵盤楽器へと配信し、電子鍵盤楽器が通信Ｉ／Ｆ１６を介して、これらプログラムやパラメータを受信して記憶装置１４に蓄積することにより、ダウンロードが完了する。
【００２６】
なお本実施の形態では、楽譜表示装置を電子鍵盤楽器上に構築するようにしたが、これに限らず、鍵盤を外部接続した汎用的なＰＣ上に構築してもよい。
【００２７】
以上のように構成された電子鍵盤楽器が実行する制御処理を、まず図２を参照してその概要を説明し、次に図３を参照して詳細に説明する。
【００２８】
ユーザ（演奏者）が、動作モードとして楽譜表示モードを選択した後、演奏曲と演奏楽器を指定すると、指定された演奏曲に対応する楽曲データおよび楽譜情報が前記記憶装置１４から読み出されて、前記ＲＡＭ９内に一時的に記憶される。次に、演奏者が自動演奏の開始を指示すると、上記楽曲データの自動演奏（本実施の形態では、自動伴奏）、前記撮像装置１２による鍵盤全体の撮像、および前記投影装置１３による鍵盤上への楽譜および運指の投影がそれぞれ開始される。
【００２９】
撮像装置１２による撮像で得られた撮像情報には、各種画像処理が施された後、画像認識がなされ、その撮像情報に含まれる鍵盤上の各鍵の位置が検出される。これとは別に検出されたカレントポジションが示す、上記楽譜情報中の音符の次の音符に対応する、上記認識された鍵盤上の鍵の位置が特定され、その鍵を演奏者が押鍵したときに自身の演奏部位（本実施の形態では、指と手の甲の一部）があるべき位置が推定される。そして、推定された位置の近傍で、表示楽譜が当該演奏部位に重ならない位置が、撮像情報内から検出されて、楽譜表示位置に決定される。さらに、楽譜画像データとガイド画像データがそれぞれ生成され、楽譜画像データが決定された楽譜表示位置に、ガイド画像データが次に指があるべき鍵盤上の位置に重ねて表示される。
【００３０】
図２は、鍵盤１ａ上に楽譜および運指を表示した様子を示す図である。
【００３１】
同図に示すように、演奏者の右手ＲＨの近傍には、カレントポジションの音符の次の音符を示す矢印ＣＰが付けられた楽譜Ｍが表示される。さらに運指を示す円形状のガイド画像Ｇが、演奏者が次に押さえるべき鍵上に表示される。なお同図には、もう１組の演奏者の右手ＲＨ′、楽譜Ｍ′およびガイド画像Ｇ′が描かれているが、これは、演奏者が次に押さえるべき鍵の位置が変われば、それに応じて楽譜Ｍ′の表示位置も変わることを示している（ガイド画像Ｇ′の表示位置が変わるのは、当然である）。
【００３２】
このように本実施の形態では、演奏者の演奏部位が次にあるべき楽器上の位置の近傍で、当該演奏部位に重ならない位置に、楽譜が表示されるので、自身の演奏部位を見ながら演奏することが多い初心の演奏者にとっては、演奏曲の楽譜を暗記しなくてもよくなり、演奏練習に集中することができる。そして、楽譜は常に、次にあるべき位置の演奏部位に重ならないように表示されるので、表示楽譜が演奏者の演奏の邪魔になることもない。
【００３３】
また、運指も次に指があるべき鍵盤上の位置に表示されるので、演奏者は押さえる場所や指の形などに細心の注意を払いながら練習でき、これにより練習効率が向上する。
【００３４】
さらに、楽譜と運指が同時に表示されるので、演奏者は慣れない曲を演奏するときでも迷いなく演奏することができる。
【００３５】
次に、この制御処理を詳細に説明する。
【００３６】
図３は、本実施の形態の電子鍵盤楽器、特にＣＰＵ７が実行する楽譜表示モード処理の手順を示すフローチャートである。
【００３７】
本楽譜表示モード処理は、主として
（１）楽譜表示前処理（ステップＳ１）
（２）楽譜表示処理（ステップＳ３〜Ｓ１１）
によって構成され、（２）楽譜表示処理は、主として
（２１）カレントポジション決定処理（ステップＳ４）
（２２）演奏部位推定処理（ステップＳ５）
（２３）撮像範囲認識処理（ステップＳ６）
（２４）表示範囲＆（および）表示倍率決定処理（ステップＳ７）
（２５）楽譜表示位置決定処理（ステップＳ８）
（２６）楽譜画像データ生成処理（ステップＳ９）
（２７）ガイド画像データ生成処理（ステップＳ１０）
（２８）楽譜＆運指表示処理（ステップＳ１１）
によって構成されている。
【００３８】
本楽譜表示モード処理は、たとえば前記パネル操作子２に含まれる楽譜表示モードスイッチ（図示せず）が押下されて楽譜表示モードが選択されたときに起動する。本楽譜表示モード処理が起動すると、前記（１）の楽譜表示前処理が１回実行された後、自動演奏の開始が指示されるまで待ち（ステップＳ２）、自動演奏の開始が指示されると、カレントポジションが自動演奏の対象となっている楽曲データに対応する楽譜情報の終端に到達するまで、あるいは自動演奏の終了が指示されるまで（ステップＳ１２）、前記（２）の楽譜表示処理が繰り返し実行される。なお本楽譜表示モード処理では、ある演奏曲が１曲指定されると、カレントポジションがその演奏曲（楽譜情報）の最後（終端）に至った時点で、楽譜表示は終了となるので、同じ曲を繰り返して、あるいは別の曲を選択して再度、楽譜表示を続けることはできない。このように構成したのは、専ら説明を簡単化するために過ぎないので、カレントポジションがその演奏曲の最後に至ったとしても、直ちに本楽譜表示モード処理を終了せずに、演奏者の指示を待って、同じ曲を繰り返して、あるいは別の曲を選択して再度、楽譜および運指の表示を続けるようにしてもよい。
【００３９】
前記（１）の楽譜表示前処理では、まずＣＰＵ７は、ユーザ操作に応じて演奏曲および演奏楽器を決定する。ユーザ（演奏者）が、たとえばパネル操作子２に含まれる選曲スイッチ（図示せず）を押下すると、前記表示器１１のＬＣＤ上には、前記記憶装置１４に記憶されている楽曲データの名称の一覧が表示される。そして演奏者がこの名称一覧から好みの名称を選択すると、ＣＰＵ７は、その名称に対応する楽曲データを記憶装置１４から読み出して、前記ＲＡＭ９の所定位置に確保された楽曲データ格納領域（図示せず）に格納する。楽曲データは、本実施の形態では自動伴奏のために用いているので、複数パートからなる自動演奏データとする。なお楽曲データのフォーマットとしては、どのようなものを採用しても構わないが、本実施の形態では、通常の電子楽器でよく用いられているＳＭＦ（standard MIDI file）形式を採用することにする。さらに演奏者が、たとえばパネル操作子２に含まれる楽器選択スイッチ（図示せず）を押下すると、選択可能な楽器の種類の一覧がＬＣＤ上に表示されるので、その中からいずれかの楽器の種類、つまり演奏者がこれから演奏する楽器の種類（本実施の形態では、電子鍵盤楽器）を選択すると、ＣＰＵ７は、その楽器の種類（を示す情報）をＲＡＭ９の所定位置に確保された楽器種格納領域（図示せず）に格納する。このように演奏楽器の種類を選択するようにしたのは、本発明は、後述するように、電子楽器ではないアコースティック楽器あるいは鍵盤楽器ではない弦楽器にも適用することができ、これらの種類の異なる楽器に対する各楽譜表示モード処理をまとめて１つのフローチャートで記述したからである。したがって、本楽譜表示モード処理を本実施の形態の電子鍵盤楽器のために専用に作成した場合には、演奏楽器の種類を選択できるようにする必要はない。
【００４０】
次にＣＰＵ７は、決定された演奏曲に対応する楽譜情報を取得する。楽譜情報とは、楽譜画像データを生成する際に基礎となる情報であり、たとえば、楽譜を構成する音符などの部品の種類とその譜面上の配置（時間的位置）などからなる、いわゆる論理楽譜情報である。本実施の形態では、各楽曲データにはそれぞれ、楽譜情報が対応付けられて、記憶装置１４内に記憶されているので、上記楽譜情報の取得とは、決定された演奏曲に対応付けられた楽譜情報を記憶装置１４から読み出して、ＲＡＭ９の所定位置に確保された楽譜情報格納領域に格納することを意味する。ただし論理楽譜情報は、簡単な演算処理によって楽曲データから直接取得することができるので、記憶装置１４には楽曲データだけを記憶させておき、演奏者が演奏曲を選択した時点で、その楽曲データから論理楽譜情報を算出して、楽譜情報格納領域に格納するようにしてもよい。なお楽譜情報は、論理楽譜情報に限らず、そのまま表示可能な楽譜画像データを用いてもよい。ただし楽譜画像データには、当該楽譜を構成する各音符の時間的位置は含まれていないので、各音符の時間的位置を付加情報として、あるいは小節位置および拍位置を示すインデックスまたはマークを付加情報として添付しておく。
【００４１】
次に演奏者が、たとえばパネル操作子２に含まれるプレイスイッチ（図示せず）を押下することにより自動演奏の開始を指示すると、ＣＰＵ７は、処理を前記（２）の楽譜表示処理に進める。この（２）楽譜表示処理に進む前に、ＣＰＵ７は、前記タイマ１０による計時と前記撮像装置１２による撮像を開始させる（ステップＳ３）。これに応じて、タイマ１０は計時を開始し、停止の指示があるまで計時を続ける一方、撮像装置１２は撮像を開始し、停止の指示があるまで撮像を続ける。撮像によって得られた撮像情報は、画像認識がし易いように各種画像処理が施された後、ＲＡＭ９の所定位置に確保された撮像情報格納領域（図示せず）に格納される。そして撮像情報格納領域には常に、所定時間分の撮像情報、つまり最新の撮像情報から所定時間前の撮像情報までが格納されるようにする。この他にもＣＰＵ７は、シーケンサ（図示せず）に対して自動演奏の開始を指示する。シーケンサは、たとえばＣＰＵ７が所定の制御プログラムを実行することで実現され、楽曲データ格納領域に格納された楽曲データに含まれる各イベントデータを所定のタイミングで読み出して、前記音源回路１７に供給することにより、音源回路１７を介して楽音信号を生成する。楽曲データは、前述のように自動伴奏のために用いられるので、シーケンサによる自動演奏は、演奏者が演奏するパートを除いて行われる。なお、本発明の特徴は、楽譜と運指を表示することにあり、楽曲データを自動演奏（自動伴奏）することにある訳ではないので、自動演奏処理についてのこれ以上の説明は行わない。
【００４２】
（２）楽譜表示処理に進むと、まずＣＰＵ７は、前記（２１）のカレントポジション決定処理を実行する。カレントポジションは、前述のように演奏者の現在の演奏位置であり、楽譜情報中のいずれかの音符を示している。そして、楽譜情報中の各音符には、前述のように時間的位置（たとえば、楽譜情報の先頭からの絶対時間）が対応付けられているので、ＣＰＵ７は、タイマ１０の計時時間と各音符の時間的位置とを比較することで簡単にカレントポジションを決定することができる。
【００４３】
次にＣＰＵ７は、処理を前記（２２）の演奏部位推定処理に進める。この（２２）演奏部位推定処理では、ＣＰＵ７は、上記決定されたカレントポジションから、次に演奏者の演奏部位があるべき位置、つまり演奏操作子（本実施の形態では、鍵盤）上の位置を推定する。具体的には、まずＣＰＵ７は、前記撮像情報格納領域に格納されている撮像情報（ただし、演奏者の演奏部位などが撮像されず、鍵盤全体のみが撮像されたもの）を画像認識することで、その撮像情報に含まれる鍵盤上の各鍵の位置（それぞれの輪郭線によって囲まれる各鍵領域と各鍵領域がそれぞれ属する音高）を認識する。撮像装置１２は、前述のように固定して設置され、撮像倍率も固定である（とする）ので、撮像情報に含まれる鍵盤全体は変動しない。このため、上記鍵盤上の各鍵の位置の認識は、１回のみ行うだけでよい。次にＣＰＵ７は、上記決定されたカレントポジションの音符の次の音符に対応する鍵の位置（鍵領域）を特定し、その鍵を演奏者が押鍵したときに自身の演奏部位、つまり指と手の甲の一部があるべき位置（指と手の甲の一部の輪郭によって囲まれる領域）を推定する。ここで演奏部位の輪郭（の形状と大きさ）は、予め設定された仮想的なもの、つまり、実際に演奏している演奏者とは無関係に予め用意された一般的な人の演奏部位の輪郭とする。このように演奏部位の輪郭として仮想的なものを用いたのは、実際に演奏している演奏者自身の演奏部位の輪郭を用いたのでは、その輪郭を画像認識する処理が必要となって、ＣＰＵ７にかかる演算負荷が増大するからである。
【００４４】
次にＣＰＵ７は、処理を前記（２３）の撮像範囲認識処理に進める。本実施の形態では前述のように、撮像装置１２は鍵盤全体を撮影し、その他の部分を撮影しないので、ＣＰＵ７は、撮像情報から、その撮像範囲が楽器のどの部分に相当するかを認識する必要はない。つまり本実施の形態では、この（２３）撮像範囲認識処理を省略することができる。したがって、図３中、この（２３）撮像範囲認識処理に相当するステップＳ６のブロックは破線で描かれている。なお、後述する第２および第３の実施の形態では、この（２３）撮像範囲認識処理は必須の処理となるので、この（２３）撮像範囲認識処理についての説明は、そこで行うことにする。
【００４５】
次にＣＰＵ７は、処理を前記（２４）の表示範囲＆表示倍率決定処理に進める。本実施の形態では、この（２４）表示範囲＆表示倍率決定処理も、上記（２３）撮像範囲認識処理が省略可能である理由と同様の理由で省略することができる。なおこの（２４）表示範囲＆表示倍率決定処理についての説明も、後述する第２および第３の実施の形態で行うことにする。
【００４６】
次にＣＰＵ７は、処理を前記（２５）の楽譜表示位置決定処理に進める。この（２５）楽譜表示位置決定処理では、ＣＰＵ７は、前述のようにして推定された、演奏者の演奏部位があるべき位置の近傍で、表示楽譜が重ならない位置を撮像情報内から検出し、この位置を楽譜表示位置に決定する。楽譜が常に所定長（たとえば、１小節長）分表示されるとすると、その表示楽譜は撮像情報内で常に一定の領域を占めることになる。そして、演奏者の演奏部位（の輪郭）が占める領域を上記推定された位置に仮想的に配置しておけば、ＣＰＵ７は、撮像情報内から仮想的に配置された演奏者の演奏部位が占める領域を除外した残りの領域内で、当該演奏部位が占める領域に近く、表示楽譜が占める一定の領域を簡単に探し出すことができる。
【００４７】
次にＣＰＵ７は、処理を前記（２６）の楽譜画像データ生成処理に進める。この（２６）楽譜画像データ生成処理では、ＣＰＵ７は、標準的な楽譜画像データを生成する。ここで標準的な楽譜画像データは、所定の色（たとえば、黒色）の楽譜を表示するものであり、カレントポジションの音符の次の音符を含む小節の楽譜情報に基づいて生成される。あるいはＣＰＵ７は、撮像情報から楽譜表示位置の背景色を検出し、この背景色に基づいて、上記生成された標準的な楽譜画像データに対する補色補正を行うことで、見易い楽譜画像データを生成するようにしてもよい。このように楽譜を背景色に対する補色に設定して表示することで、楽譜を周囲から目立たせて表示させることができる。
【００４８】
補色は、まず撮像情報全体のうちで支配的な色を求め、次にそのＲ（赤）Ｇ（緑）Ｂ（青）値を求め、さらにそのＲＧＢ値を反転させる（最大値から減算する）ことで、求めることができる。しかしこの方法では、支配的な色がグレイ系ではその補色は目立った色にならないため、ＲＧＢの各値が同じような値の場合には、補色に代えて白または黒を用いることにする。これにより目立った色使いとなる。より具体的には、背景色が薄い場合には黒を採用し、背景色が濃い場合には白を採用する。背景色が中間の場合には、白でも黒でも目立つので、どちらを採用してもよい。なお、上記「ＲＧＢの各値が同じような値」の評価方法としては、たとえば、次式の値が所定値以下であれば「同じような値」と評価する方法を挙げることができる。
【００４９】
(Ｒ−Ｇ)２ ＋ (Ｒ−Ｂ)２ ＋ (Ｇ−Ｂ)２
ＲＧＢの各値の最大値が、たとえば“２５５”である場合、概ね“１００００”程度が上記所定値と考えられるが、この値は実際の環境に合わせてユーザが調整できるようにしてもよい。このようにして求めた補色一色で楽譜を構成する線や記号の画像を描く。
【００５０】
なお本実施の形態では、上述のように撮像情報全体のうちで支配的な色から補色を求めたが、これに限らず、撮像情報のうちの楽譜表示位置に相当する領域内の支配的な色から補色を求めるようにしてもよいし、楽譜表示位置となる撮像情報の下側半分など、特定の領域内の支配的な色から補色を求めるようにしてもよい。あるいは、撮像情報に対して所定の細かい分割を行い、分割後の領域毎にその支配的な色から補色を求め、表示する楽譜が跨る複数の領域では、それぞれの補色で楽譜を描くようにしてもよい。また、楽譜を構成する線や記号の画像を描く際の画素毎にその背景となる撮像情報の色を求め、画素毎に求めた補色で描画するようにしてもよい。
【００５１】
次にＣＰＵ７は、処理を前記（２７）のガイド画像データ生成処理に進める。この（２７）ガイド画像データ生成処理では、ＣＰＵ７は、ガイド画像データを生成する。ガイド画像データは、前記図２で説明したように、円形状のガイド画像Ｇを表示するためのものである。楽譜と比較してガイド画像は単純な表示形態であるが、演奏者がはっきりと認識できる目立った色をガイド画像の表示色とする必要があるので、楽譜画像データについての前記補色補正と同様の補正を、一旦生成した標準的なガイド画像データにも施すようにした方が好ましい。もちろんこの補正を省略して、標準的なガイド画像データのみを生成し、これを表示させるようにしてもよい。なおガイド画像データの表示形状は、上記円形状に限らず、どのような形状のものを採用してもよい。
【００５２】
次にＣＰＵ７は、処理を前記（２８）の楽譜＆運指表示処理に進める。この（２８）楽譜＆運指表示処理では、ＣＰＵ７は、楽譜表示位置に楽譜画像データを、次に指があるべき位置にガイド画像データを重ねて表示する。
【００５３】
次に、本実施の形態の変形例について説明する。
【００５４】
本実施の形態では、タイマ１０の計時が進むに従ってカレントポジションも進んで行くため、演奏者の演奏状態に拘わらず楽譜と運指の表示が進んで行くのに対して、本実施の形態の変形例では、演奏者の演奏状態に基づいてカレントポジションを決定し、演奏者の演奏状態に応じて楽譜と運指の表示を進ませるようにした点が異なっている。
【００５５】
図４は、本実施の形態の変形例についてのカレントポジション決定処理の手順を示すフローチャートであり、同図（ａ）は、本実施の形態と同様に電子鍵盤楽器を採用した場合のカレントポジション決定処理を示し、同図（ｂ）は、電子鍵盤楽器に代えてアコースティック鍵盤楽器を採用した場合のカレントポジション決定処理を示している。
【００５６】
図４（ａ）のカレントポジション決定処理では、まずＣＰＵ７は、演奏者が演奏して得られた演奏情報を所定時間分、前記ＲＡＭ９の所定位置に確保された演奏情報格納領域に取得しておく（ステップＳ４ａ１）。このように演奏情報の所定時間分の履歴を取得するようにしたのは、カレントポジションを決定する際の精度を向上させるためである。したがって、それほど精度を向上させる必要のない場合や、他の方法によって十分な精度が得られる場合には、最新の演奏情報のみ取得するだけでよい。
【００５７】
次にＣＰＵ７は、取得された演奏情報と楽譜情報を比較して、カレントポジションを決定する（ステップＳ４ａ２）。本変形例では、演奏情報として所定時間分の履歴が取得されているので、演奏情報と楽譜情報の比較は、当該履歴に含まれる個数の演奏情報（の各音高）がその個数分の楽譜情報（の各音高）に完全に一致するかどうかによってなされている。
【００５８】
さらにＣＰＵ７は、新たな演奏情報が取得される度に、その演奏情報に応じた楽音の生成を前記音源回路１７に指示する（ステップＳ４ａ３）。この音源回路１７に対する楽音生成の指示は、本実施の形態、つまり第１の実施の形態でも、記載はされていないもののどこかでなされるべきものである。
【００５９】
このようにしてカレントポジションが演奏者の演奏状態に応じて決定されると、これ以降の楽譜表示モード処理はすべて、カレントポジションに基づいてなされているので、楽譜と運指の表示は、演奏者の演奏状態に応じて進むことになる。ただし自動伴奏は、上記実施の形態では、カレントポジションに応じて進まない（タイマ１０の計時に応じて進む）ので、自動伴奏の進行と、楽譜と運指の表示の進行（および音源回路１７に対する楽音生成の指示）とが一致しなくなることがある。そこで、自動伴奏（自動演奏）は、本実施の形態と同様にしてタイマ１０の計時に従って進行させるが、演奏者の演奏が所定時間遅延したときには、その遅延が解消するまでタイマ１０の計時自体を停止する。あるいは、自動演奏を行わないようにしてもよい。この事情は、次の変形例についても同様である。
【００６０】
一方、図４（ｂ）のカレントポジション決定処理では、まずＣＰＵ７は、演奏者の演奏によって当該アコースティック鍵盤楽器から発生した楽音が前記マイク３によって集音されて得られた音声信号（オーディオ信号）を、前記音声信号入力Ｉ／Ｆ６を介して前記演奏情報格納領域に取得しておく（ステップＳ４ｂ１）。このとき、前記ステップＳ４ａ１の処理と同様に、オーディオ信号（演奏情報）の所定時間分の履歴を取得する。
【００６１】
次にＣＰＵ７は、取得された演奏情報からピッチを検出する（ステップＳ４ｂ２）。オーディオ信号からピッチを検出する方法には、既によく用いられている周知のピッチ検出方法があり、さらに本発明の特徴は、オーディオ信号からピッチを検出することにある訳ではないので、上記ステップＳ４ｂ２では、周知のピッチ検出方法を用いてピッチを検出することにする。
【００６２】
さらにＣＰＵ７は、検出されたピッチと楽譜情報（のピッチ（＝音高））を比較して、カレントポジションを決定する（ステップＳ４ｂ３）。
【００６３】
なお本変形例では、カレントポジションは、オーディオ信号から検出したピッチに基づいて決定するようにしたが、これに限らず、オーディオ信号（の履歴）から音量の時間的変化を観測し、そこから音符に対応した音の開始時刻（立ち上がり時刻）や終了タイミング（立ち下がり時刻）を検出し、検出した開始時刻や終了時刻と当該楽曲データ内の各音の開始位置（ＭＩＤＩイベントのノートオン時刻）や終了位置（ＭＩＤＩイベントのノートオフ時刻）とを比較して決定するようにしてもよい。ここで、検出されたピッチと開始や終了の時刻とを組み合わせて当該楽曲データと比較するようにしてもよいし、音程情報を無視して開始や終了の時刻のみを当該楽曲データと比較するようにしてもよい。
【００６４】
次に、本発明の第２の実施の形態に係る楽譜表示装置について説明する。
【００６５】
図５は、本実施の形態の楽譜表示装置を演奏者が使用している様子（（ａ））と楽譜および運指を表示した様子（（ｂ））を示す図である。
【００６６】
図５（ａ）に示すように、本実施の形態の楽譜表示装置は、前記第１の実施の形態の楽譜表示装置に含まれる投影装置１３に代えてゴーグル型ディスプレイ３２を採用するとともに、撮像装置１２に対応する撮像装置３１をゴーグル型ディスプレイ３２上に積載して、一体型の撮像表示装置とし、その一体型の撮像表示装置を本体装置（図１のハードウェアから撮像装置１２と投影装置１３を除いたもの）に外付けしたものによって構成されている。そして一体型の撮像表示装置は、信号線ケーブル（図示せず）を介して本体装置と着脱可能に接続されているため、本体装置側には、撮像装置３１（用の信号線）を接続するための撮像装置インターフェース（図示せず）と、ゴーグル型ディスプレイ３２（用の信号線）を接続するためのディスプレイインターフェース（図示せず）が設けられている。
【００６７】
本実施の形態の楽譜表示装置は、前記図３の楽譜表示モード処理を、ステップＳ６およびＳ７の各処理を含め、そのまま用いて、あるいは若干変更して、楽譜と運指の表示を行う。以下、ステップＳ６およびＳ７の各処理を中心にして、本楽譜表示モード処理を説明する。
【００６８】
図５（ａ）のように、ゴーグル型ディスプレイ３２を装着してアコースティックギターを演奏する場合、まず演奏者は、楽譜表示モードスイッチを押下して、本楽譜表示モード処理を起動する。次に演奏者が、演奏曲と演奏楽器（つまり、アコースティックギター）を選択すると、ＣＰＵ７は、前記（１）の楽譜表示前処理を実行する。さらに演奏者がプレイスイッチを押下すると、ＣＰＵ７は、処理を前記（２）の楽譜表示処理に進め、前記（２１）のカレントポジション決定処理を実行した後、前記（２２）の演奏部位推定処理を実行する。本楽譜表示モード処理中の上記（１）および（２１）の各処理は、前記第１の実施の形態の楽譜表示モード処理中の対応する処理と同様であるので、その説明は省略する。上記（２２）演奏部位推定処理では、まずＣＰＵ７は、演奏操作子１、つまりアコースティックギターのフィンガーボードを前記ＲＡＭ９内に仮想的に構築する。たとえば、撮像装置３１とフィンガーボードとの距離と方向を一定に保ちながら、撮像装置３１によってフィンガーボード全体を撮像し、撮像によって得られた撮像情報を画像認識することで、フィンガーボードを仮想的に構築する。このようにして構築されたフィンガーボードを、以下、「仮想基準フィンガーボード」という。仮想基準フィンガーボードには、少なくとも、フィンガーボードの輪郭、弦およびフレットが含まれるものとする。なお、「仮想基準フィンガーボード」をデータとして前記記憶装置１４内に予め記憶しておき、あるいは必要に応じて外部から取得し、これをＲＡＭ９内に読み出すことで、（フィンガーボードを撮像するという面倒な行為を介さずに）「仮想基準フィンガーボード」を直ちに構築するようにしてもよい。次にＣＰＵ７は、前記（２１）カレントポジション決定処理によって決定されたカレントポジションの音符の次の音符に対応する、仮想基準フィンガーボードの弦上の位置を特定し、その位置を演奏者が押さえたときに自身の演奏部位、つまり指があるべき位置（指の輪郭によって囲まれる領域）を推定する。
【００６９】
次にＣＰＵ７は、処理を前記（２３）の撮像範囲認識処理に進める。この（２３）撮像範囲認識処理では、ＣＰＵ７は、撮像情報から、その撮像範囲が楽器のどの部分に相当するかを認識する。このような認識が必要な１つの理由は、撮像装置３１は、前述のように演奏者の頭の動きに従って動くために、撮像装置３１による撮像範囲は常に変動し、撮像範囲内に抽出すべき楽器の部分が撮像されていないことがあるからである。そしてもう１つの理由は、撮像範囲内に抽出すべき楽器の部分が撮像されていたとしても、その楽器の部分がどこか認識できなければ、楽譜と運指を表示させる位置を決めることができないからである。本発明は、演奏者が自身の演奏部位（本実施の形態では、指）を見ながら演奏することを想定し、自身の演奏部位（本実施の形態では、撮像されて表示された指）の近傍に楽譜と運指を表示するので、認識する楽器の部分は、当該楽器の演奏操作子であるフィンガーボードである。さらに撮像範囲内に、フィンガーボードの一部が含まれることもあるので、その場合には、撮像範囲がフィンガーボード上のどの部分かを認識しておく必要がある。
【００７０】
撮像情報からフィンガーボードを認識する方法としては、たとえば、撮像情報を画像認識することで、そこに含まれているフィンガーボードの輪郭、弦、フレット、ナットおよびポジションマークを抽出し、この抽出結果と前記仮想基準フィンガーボードとを比較する方法が考えられる。ただし、仮想基準フィンガーボードは、前述のように所定の条件でフィンガーボードを撮影して得られた撮像情報に基づいて構築されているので、抽出元の撮像情報がこの所定の条件で撮影して得られたものでない限り、抽出結果と仮想基準フィンガーボードとを単純に比較するだけでは、撮像範囲がフィンガーボードのどの部分に相当するかを認識できない。このため、仮想基準フィンガーボードあるいは抽出結果を回転させたり、平行移動させたりしながら、両者を比較する必要がある。
【００７１】
なお、撮像範囲内に１つ以上のフレットを含むフィンガーボードの一部が含まれている場合に、そのフィンガーボードの一部上に運指を表示するには、そのフィンガーボードの一部が、フィンガーボード上のどの部分、たとえば何番目のフレットを含む部分に相当するかを認識する必要がある。このとき、撮像情報から抽出されたフレットやナットおよびポジションマーク、その近傍の弦と弦との間隔やフィンガーボードの輪郭と、仮想基準フィンガーボードとを比較することで、当該撮像範囲のフィンガーボード上の位置を認識する。しかし、抽出結果にフレット以外の特徴がはっきりと現れていない場合には、フィンガーボード上に設けられている各フレットは略同一形状であるので、認識されたフレットがフィンガーボード上、何番目に位置するものであるかを確定することは難しい。このため、たとえば、各フレットの表面上に、何番目のものであるかを示す数字を刻印しておき、フレットを認識する際に同時に、その数字も認識するようにすればよい。もちろんこれに限らず、フレットの位置が認識できれば、どのような方法を用いてもよい。
【００７２】
次にＣＰＵ７は、処理を前記（２４）の表示範囲＆表示倍率決定処理に進める。この（２４）表示範囲＆表示倍率決定処理では、ＣＰＵ７は、ユーザ設定に応じて、表示範囲および表示倍率を決定する。本実施の形態では、撮像装置３１とギター、特にフィンガーボードとの距離は、演奏者の演奏スタイルなどの各種要因に従って変動するので、表示範囲も固定化しておくことはできない。このため、表示範囲をユーザ設定に応じて自由に決定できるようにしている。また表示倍率も、演奏者の好みに応じて変更できるようにしている。なお、このユーザ設定に応じた処理に代えて、ユーザがゴーグルを通して見たギターや指の映像がゴーグルをしていなかったときの見え方から違和感のない表示になるように、映像の表示範囲や回転や表示倍率を自動的に処理するようにしてもよい。
【００７３】
これに続く（２５）および（２７）の各処理は、前記第１の実施の形態の楽譜表示モード処理に含まれる各処理とほぼ同様であるので、その説明は省略する。ただし、前記図３のステップＳ８の処理内のカッコ書きのカッコ、つまり「（撮像範囲内で、）」のカッコは外しておく必要がある。カッコを外しておくのは、同図のステップＳ６の処理を、本実施の形態では必須の処理としたからである。
【００７４】
前記（２６）の楽譜画像データ生成処理について、前記第１の実施の形態では、標準的な楽譜画像データに補色補正を行う例を挙げて説明したが、本実施の形態では、透過率を変更する例を挙げて説明する。
【００７５】
楽譜表示は周囲から目立たせることが重要なので、これを実現するために、たとえば透過率を自動調整する方法が考えられる。背景と楽譜の色合いが近い場合には、透過率を下げて背景をぼんやり表示させ、楽譜のみを目立たせると、楽譜の視認性が向上する。これとは逆に、背景と楽譜の色合いが遠い場合には、透過率を上げて背景をしっかり表示させても、楽譜の視認性の高い状態は維持できる。色合いの遠近は、ＲＧＢ値を比較することにより評価できる。たとえば、ＲＧＢの各値の距離を次のようにして求める。
【００７６】
色距離 ＝ (Ｒ１−Ｒ２)２ ＋ (Ｇ１−Ｇ２)２ ＋ (Ｂ１−Ｂ２)２
ここで（Ｒ１，Ｇ１，Ｂ１）と（Ｒ２，Ｇ２，Ｂ２）は、比較対象となる２地点のＲＧＢ値である。この距離に応じて透過率が調整される。
【００７７】
透過率を下げて背景をぼんやり表示させる場合には、図５（ｂ）に示すように、楽譜をフィンガーボード上の指の位置からずれた邪魔にならないところに表示すると、よりユーザの手の近くに楽譜を表示しつつガイドすることができる。このとき、前記第１の実施の形態で説明した補色補正を組み合わせると、楽譜の視認性がさらに向上する。
【００７８】
前記（２８）の楽譜＆運指表示処理では、前記第１の実施の形態では、楽譜画像データとガイド画像データとを重ねて表示するようにしていたが、本実施の形態では、楽譜画像データとガイド画像データとさらに撮像装置３１で実際に撮像されたフィンガーボード付近の撮像情報とを合成してゴーグル型ディスプレイ３２に表示する。すなわち、周囲の状況が見えないゴーグル型ディスプレイ３２であっても、少なくともフィンガーボード付近の実際の状況は、ゴーグルをかけていないときと同じように見えていて欲しいので、ゴーグル型ディスプレイ３２に備え付けた撮像装置３１の撮像情報をゴーグルに映すことによって、実際のフィンガーボード付近を表示させ、それに加えて、前述の透過率処理を施した楽譜画像データとガイド画像データとを合成して表示する。なお、ゴーグル型ディスプレイ３２が透過型であって、周囲の状況が見える場合には、撮像装置３１で実際に撮像された撮像情報をわざわざ表示させる必要はない。
【００７９】
このようにして楽譜と運指を表示したものの一例が、図５（ｂ）の画面３２ａである。同図（ｂ）に示すように、演奏者の左手の近傍には、カレントポジションを示す矢印ＣＰの付いた楽譜Ｍが表示されるとともに、運指を示す円形状のガイド画像Ｇ１〜Ｇ４が、次に押さえるべき弦上の位置に表示される。
【００８０】
次に、本発明の第３の実施の形態に係る楽譜表示装置について説明する。
【００８１】
図６は、本実施の形態の楽譜表示装置を演奏者が使用している様子（（ａ））と楽譜および運指を表示した様子（（ｂ），（ｃ））を示す図である。
【００８２】
図６（ａ）に示すように、本実施の形態の楽譜表示装置は、前記第２の実施の形態の楽譜表示装置に含まれるゴーグル型ディスプレイ３２に代えて、たとえばＣＲＴ（cathode ray tube）からなる据置型ディスプレイ４２を採用するとともに、ゴーグル型ディスプレイ３２に積載されている撮像装置３１に代えて、据置型ディスプレイ４２と独立した据置型撮像装置４１を採用し、据置型撮像装置４１および据置型ディスプレイ４２を本体装置（図１のハードウェアから撮像装置１２と投影装置１３を除いたもの）に外付けしたものによって構成されている。そして据置型撮像装置４１および据置型ディスプレイ４２は、信号線ケーブル（図示せず）を介して本体装置と着脱可能に接続されているため、本体装置側には、据置型撮像装置４１を接続するための撮像装置インターフェース（図示せず）と、据置型ディスプレイ４２を接続するためのディスプレイインターフェース（図示せず）が設けられている。
【００８３】
本実施の形態の楽譜表示装置が実行する楽譜表示モード処理は、前記第２の実施の形態の楽譜表示装置が実行する楽譜表示モード処理に対して、主として（２３）の撮像範囲認識処理が異なるのみであるので、以下、この（２３）撮像範囲認識処理について説明する。
【００８４】
図６（ａ）のように演奏者がチェロを演奏する場合、ＣＰＵ７は、前記第２の実施の形態と同様に（２３）撮像範囲認識処理において、撮像情報から、その撮像範囲が楽器のどの部分に相当するかを認識する。ただし前記第２の実施の形態と異なり、チェロのフィンガーボード上にはフレットが存在しないので、撮像範囲がフィンガーボード上のどの部分に相当するかを、フレットに基づいて認識することはできない。このため、たとえば、フィンガーボードの幅やフィンガーボードと表板あるいはナットとの距離などに基づいて、当該撮像範囲のフィンガーボード上の位置を認識する。
【００８５】
このようにして楽譜と運指を表示したものの一例が、図６（ｂ）の画面４２ａである。同図（ｂ）に示すように、演奏者の左手の近傍には、カレントポジションを示す矢印ＣＰの付いた楽譜Ｍが表示されるとともに、運指を示す円形状のガイド画像Ｇが、次に押さえるべき弦上の位置に表示される。
【００８６】
また、図６（ｃ）の画面４２ａは、図６（ｂ）の画面４２ａに対して、表示倍率を低下させたものである。
【００８７】
なお、上述した各実施の形態の機能を実現するソフトウェアのプログラムコードを記録した記憶媒体を、システムまたは装置に供給し、そのシステムまたは装置のコンピュータ（またはＣＰＵやＭＰＵ）が記憶媒体に格納されたプログラムコードを読出し実行することによっても、本発明の目的が達成されることは言うまでもない。
【００８８】
この場合、記憶媒体から読出されたプログラムコード自体が本発明の新規な機能を実現することになり、そのプログラムコードおよび該プログラムコードを記憶した記憶媒体は本発明を構成することになる。
【００８９】
プログラムコードを供給するための記憶媒体としては、たとえば、フレキシブルディスク、ハードディスク、光磁気ディスク、ＣＤ−ＲＯＭ、ＣＤ−Ｒ、ＣＤ−ＲＷ、ＤＶＤ−ＲＯＭ、ＤＶＤ−ＲＡＭ、ＤＶＤ−ＲＷ、ＤＶＤ＋ＲＷ、磁気テープ、不揮発性のメモリカード、ＲＯＭなどを用いることができる。また、通信ネットワークを介してサーバコンピュータからプログラムコードが供給されるようにしてもよい。
【００９０】
また、コンピュータが読出したプログラムコードを実行することにより、上述した各実施の形態の機能が実現されるだけでなく、そのプログラムコードの指示に基づき、コンピュータ上で稼働しているＯＳなどが実際の処理の一部または全部を行い、その処理によって上述した各実施の形態の機能が実現される場合も含まれることは言うまでもない。
【００９１】
さらに、記憶媒体から読出されたプログラムコードが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書込まれた後、そのプログラムコードの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるＣＰＵなどが実際の処理の一部または全部を行い、その処理によって上述した各実施の形態の機能が実現される場合も含まれることは言うまでもない。
【符号の説明】
【００９２】
７…ＣＰＵ（取得手段、決定手段、推定手段、表示手段），１３…投影装置（表示手段），３２…ゴーグル型ディスプレイ（表示手段），４２…据置型ディスプレイ（表示手段）
【図１】
2010204450.tif 000003
【図２】
2010204450.tif 000004
【図３】
2010204450.tif 000005
【図４】
2010204450.tif 000006
【図５】
2010204450.tif 000007
【図６】
2010204450.tif 000008