(57)【要約】【課題】ＭＩＤＩデータ等の演奏データを活用して歌声を合成する。【解決手段】入力された演奏データを音の高さ、長さ、歌詞の音楽情報として解析する（Ｓ２、Ｓ３）。解析された音楽情報から歌詞の対象とするトラックを選択し（Ｓ５）、トラックの中から歌声音を割り当てる音符を選択し（Ｓ６）、歌唱に適するように音符長を変更し（Ｓ７）、トラック名／シーケンス名等に基づいて歌唱に適する声質を選択し（Ｓ８）、歌声データを作成し（Ｓ９）、歌声データに基づき歌声を生成する（Ｓ１１）。【選択図】  図６
2004287099.tif 000002
【特許請求の範囲】
【請求項１】
演奏データを音の高さ、長さ、歌詞の音楽情報として解析する解析工程と、
解析された音楽情報に基づき歌声を生成する歌声生成工程と
を有し、上記歌声生成工程は上記解析された音楽情報に含まれる音の種類に関する情報に基づき上記歌声の種類を決定することを特徴とする歌声合成方法。
【請求項２】
上記演奏データはＭＩＤＩファイルの演奏データであることを特徴とする請求項１記載の歌声合成方法。
【請求項３】
上記歌声生成工程は上記ＭＩＤＩファイルの演奏データにおけるトラックに含まれるトラック名／シーケンス名又は楽器名に基づいて上記歌声の種類を決定することを特徴とする請求項２記載の歌声合成方法。
【請求項４】
上記歌声生成工程は、歌声の各音の開始は上記ＭＩＤＩファイルの演奏データにおけるノートオンのタイミングを基準とし、そのノートオフまでの間を一つの歌声音として割り当てることを特徴とする請求項２記載の歌声合成方法。
【請求項５】
上記歌声生成工程は、歌声の各音の開始は上記ＭＩＤＩファイルの演奏データにおけるノートオンのタイミングを基準とし、その第１のノートのノートオフまでの間に重なり合うノートとして第２のノートのノートオンがある場合には第１のノートオフの前であっても第１の歌声音をきりやめ、第２の歌声音を次の音として第２のノートのノートオンのタイミングで発声することを特徴とする請求項４記載の歌声合成方法。
【請求項６】
上記歌声生成工程は、上記ＭＩＤＩファイルの演奏データにおいて第１のノートと第２のノートとの間に重なりが無い場合には第１の歌声音に対して音量の減衰処理を施し、第２の歌声音との区切りを明確にし、重なりがある場合には音量の減衰処理を行わずに第１の歌声音と第２の歌声音をつなぎ合わせることにより楽曲におけるスラーを表現することを特徴とする請求項５記載の歌声合成方法。
【請求項７】
上記歌声生成工程は、第１のノートと第２のノートとの間に重なりが無い場合でもあらかじめ指定された時間よりも短い音の切れ間しか第１のノートと第２のノートの間にない場合に第１の歌声音の終了のタイミングを第２の歌声音の開始のタイミングにずらし、第１の歌声音と第２の歌声音をつなぎ合わせることを特徴とする請求項５記載の歌声合成方法。
【請求項８】
上記歌声生成工程は、上記ＭＩＤＩファイルの演奏データにおいてノートオンのタイミングが同じノートが複数ある場合、音高の一番高いノートを歌唱の対象の音として選択することを特徴とする請求項４記載の歌声合成方法。
【請求項９】
上記歌声生成工程は、上記ＭＩＤＩファイルの演奏データにおいてノートオンのタイミングが同じノートが複数ある場合、音高の一番低いノートを歌唱の対象の音として選択することを特徴とする請求項４記載の歌声合成方法。
【請求項１０】
上記歌声生成工程は、上記ＭＩＤＩファイルの演奏データにおいてノートオンのタイミングが同じノートが複数ある場合、指定されている音量が大きいノートを歌唱の対象の音として選択することを特徴とする請求項４記載の歌声合成方法。
【請求項１１】
上記歌声生成工程は、上記ＭＩＤＩファイルの演奏データにおいてノートオンのタイミングが同じノートが複数ある場合、それぞれのノートを別の声部として扱い同一の歌詞をそれぞれの声部に付与し別の音高の歌声を生成することを特徴とする請求項４記載の歌声合成方法。
【請求項１２】
上記歌声生成工程は、上記ＭＩＤＩファイルの演奏データにおいてノートオンからノートオフまでの時間が規定値よりも短い場合にはそのノートを歌唱の対象としないことを特徴とする請求項４記載の歌声合成方法。
【請求項１３】
上記歌声生成工程は、上記ＭＩＤＩファイルの演奏データにおいてノートオンからノートオフまでの時間をあらかじめ規定された比率に従い伸張して歌声の生成を行うことを特徴とする請求項４記載の歌声合成方法。
【請求項１４】
上記ノートオンからノートオフまでの時間の変更を行うあらかじめ規定された比率のデータは、楽器名に対応した形で用意されていることを特徴とする請求項１３記載の歌声合成方法。
【請求項１５】
上記歌声生成工程は、上記ＭＩＤＩファイルの演奏データにおいてノートオンからノートオフまでの時間にあらかじめ規定された時間を加算して歌声の生成を行うことを特徴とする請求項４記載の歌声合成方法。
【請求項１６】
上記ノートオンからノートオフまでの時間の変更を行うあらかじめ規定された加算のデータは、楽器名に対応した形で用意されていることを特徴とする請求項１５記載の歌声合成方法。
【請求項１７】
上記歌声生成工程は、上記ＭＩＤＩファイルの演奏データにおいてノートオンからノートオフまでの時間を変更し、当該変更のためのデータは、オペレータにより設定されることを特徴とする請求項４記載の歌声合成方法。
【請求項１８】
上記歌声生成工程は、楽器名毎に発声する歌声の種類を設定することを特徴とする請求項２記載の歌声合成方法。
【請求項１９】
上記歌声生成工程は、上記ＭＩＤＩファイルの演奏データにおいてパッチにより楽器の指定が変えられた場合は同一トラック内であっても途中で歌声の種類を変えることを特徴とする請求項２記載の歌声合成方法。
【請求項２０】
演奏データを音の高さ、長さ、歌詞の音楽情報として解析する解析手段と、
解析された音楽情報に基づき歌声を生成する歌声生成手段と
を有し、上記歌声生成手段は上記解析された音楽情報に含まれる音の種類に関する情報に基づき上記歌声の種類を決定することを特徴とする歌声合成装置。
【請求項２１】
上記演奏データはＭＩＤＩファイルの演奏データであることを特徴とする請求項２０記載の歌声合成装置。
【請求項２２】
上記歌声生成手段は上記ＭＩＤＩファイルの演奏データにおけるトラックに含まれるトラック名／シーケンス名又は楽器名に基づいて上記歌声の種類を決定することを特徴とする請求項２１記載の歌声合成装置。
【請求項２３】
上記歌声生成手段は、歌声の各音の開始は上記ＭＩＤＩファイルの演奏データにおけるノートオンのタイミングを基準とし、そのノートオフまでの間を一つの歌声音として割り当てることを特徴とする請求項２１記載の歌声合成装置。
【請求項２４】
所定の処理をコンピュータに実行させるためのプログラムであって、
入力された演奏データを音の高さ、長さ、歌詞の音楽情報として解析する解析工程と、
解析された音楽情報に基づき歌声を生成する歌声生成工程と
を有し、上記歌声生成工程は上記解析された音楽情報に含まれる音の種類に関する情報に基づき上記歌声の種類を決定することを特徴とするプログラム。
【請求項２５】
上記演奏データはＭＩＤＩファイルの演奏データであることを特徴とする請求項２４記載のプログラム。
【請求項２６】
所定の処理をコンピュータに実行させるためのプログラムが記録されたコンピュータ読取可能な記録媒体であって、
入力された演奏データを音の高さ、長さ、歌詞の音楽情報として解析する解析工程と、
解析された音楽情報に基づき歌声を生成する歌声生成工程と
を有し、上記歌声生成工程は上記解析された音楽情報に含まれる音の種類に関する情報に基づき上記歌声の種類を決定することを特徴とするプログラムが記録された記録媒体。
【請求項２７】
上記演奏データはＭＩＤＩファイルの演奏データであることを特徴とする請求項２６記載の記録媒体。
【請求項２８】
供給された入力情報に基づいて動作を行う自律型のロボット装置であって、
入力された演奏データを音の高さ、長さ、歌詞の音楽情報として解析する解析手段と、
解析された音楽情報に基づき歌声を生成する歌声生成手段と
を有し、上記歌声生成手段は上記解析された音楽情報に含まれる音の種類に関する情報に基づき上記歌声の種類を決定することを特徴とするロボット装置。
【請求項２９】
上記演奏データはＭＩＤＩファイルの演奏データであることを特徴とする請求項２８記載のロボット装置。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は、演奏データから歌声を合成する歌声合成方法、歌声合成装置、プログラム及び記録媒体、並びにロボット装置に関する。
【０００２】
【従来の技術】
コンピュータ等により、与えられた歌唱データから歌声を生成する技術は特許文献１に代表されるように既に知られている。
【０００３】
ＭＩＤＩ（ｍｕｓｉｃａｌ  ｉｎｓｔｒｕｍｅｎｔ  ｄｉｇｉｔａｌ  ｉｎｔｅｒｆａｃｅ）データは代表的な演奏データであり、事実上の業界標準である。代表的には、ＭＩＤＩデータはＭＩＤＩ音源と呼ばれるデジタル音源（コンピュータ音源や電子楽器音源等のＭＩＤＩデータにより動作する音源）を制御して楽音を生成するのに使用される。ＭＩＤＩファイル（例えば、ＳＭＦ（ｓｔａｎｄａｒｄ  ＭＩＤＩ  ｆｉｌｅ））には歌詞データを入れることができ、歌詞付きの楽譜の自動作成に利用される。
【０００４】
また、ＭＩＤＩデータを歌声又は歌声を構成する音素セグメントのパラメータ表現（特殊データ表現）として利用する試みも特許文献２に代表されるように提案されている。
【０００５】
しかし、これらの従来の技術においてはＭＩＤＩデータのデータ形式の中で歌声を表現しようとしているが、あくまでも楽器をコントロールする感覚でのコントロールに過ぎなかった。
【０００６】
また、ほかの楽器用に作成されたＭＩＤＩデータを、修正を加えることなく歌声にすることはできなかった。
【０００７】
また、電子メールやホームページを読み上げる音声合成ソフトはソニー（株）の「Ｓｉｍｐｌｅ  Ｓｐｅｅｃｈ」をはじめ多くのメーカーから発売されているが、読み上げ方は普通の文章を読み上げるのと同じような口調であった。
【０００８】
ところで、電気的又は磁気的な作用を用いて人間（生物）の動作に似た運動を行う機械装置を「ロボット」という。我が国においてロボットが普及し始めたのは、１９６０年代末からであるが、その多くは、工場における生産作業の自動化・無人化等を目的としたマニピュレータや搬送ロボット等の産業用ロボット（Ｉｎｄｕｓｔｒｉａｌ  Ｒｏｂｏｔ）であった。
【０００９】
最近では、人間のパートナーとして生活を支援する、すなわち住環境その他の日常生活上の様々な場面における人的活動を支援する実用ロボットの開発が進められている。このような実用ロボットは、産業用ロボットとは異なり、人間の生活環境の様々な局面において、個々に個性の相違した人間、又は様々な環境への適応方法を自ら学習する能力を備えている。例えば、犬、猫のように４足歩行の動物の身体メカニズムやその動作を模した「ペット型」ロボット、あるいは、２足直立歩行を行う人間等の身体メカニズムや動作をモデルにしてデザインされた「人間型」又は「人間形」ロボット（Ｈｕｍａｎｏｉｄ  Ｒｏｂｏｔ）等のロボット装置は、既に実用化されつつある。
【００１０】
これらのロボット装置は、産業用ロボットと比較して、エンターテインメント性を重視した様々な動作を行うことができるため、エンターテインメントロボットと呼称される場合もある。また、そのようなロボット装置には、外部からの情報や内部の状態に応じて自律的に動作するものがある。
【００１１】
この自律的に動作するロボット装置に用いられる人工知能（ＡＩ：ａｒｔｉｆｉｃｉａｌ  ｉｎｔｅｌｌｉｇｅｎｃｅ）は、推論・判断等の知的な機能を人工的に実現したものであり、さらに感情や本能等の機能をも人工的に実現することが試みられている。このような人工知能の外部への表現手段としての視覚的な表現手段や自然言語の表現手段等のうちで、自然言語表現機能の一例として、音声を用いることが挙げられる。
【００１２】
【特許文献１】
特許第３２３３０３６号公報
【特許文献２】
特開平１１−９５７９８号公報
【００１３】
【発明が解決しようとする課題】
以上のように従来の歌声合成は特殊な形式のデータを用いていたり、仮にＭＩＤＩデータを用いていてもその中に埋め込まれている歌詞データを有効に活用できなかったり、ほかの楽器用に作成されたＭＩＤＩデータを歌い上げたりすることはできなかった。
【００１４】
本発明は、このような従来の実情に鑑みて提案されたものであり、例えばＭＩＤＩデータのような演奏データを活用して歌声を合成することが可能な歌声合成方法及び装置を提供することを目的とする。
【００１５】
さらに、本発明の目的は、ＭＩＤＩファイル（代表的にはＳＭＦ）により規定されたＭＩＤＩデータの歌詞情報をもとに歌声の生成を行い、歌唱の対象になる音列を自動的に判断し、音列の音楽情報を歌声として再生する際にスラーやマルカートなどの音楽表現を可能にするとともに、もともとのＭＩＤＩデータが歌声用に入力されたものでない場合でも、その演奏データから歌唱の対象になる音を選択し、その音の長さや休符の長さを調整することにより歌唱の音符として適切なものに変換することが可能な歌声合成方法及び装置を提供することである。
【００１６】
さらに、本発明の目的は、このような歌声合成機能をコンピュータに実施させるプログラム及び記録媒体を提供することである。
【００１７】
さらに、本発明の目的は、このような歌声合成機能を実現するロボット装置を提供することである。
【００１８】
【課題を解決するための手段】
本発明に係る歌声合成方法は、上記目的を達成するため、演奏データを音の高さ、長さ、歌詞の音楽情報として解析する解析工程と、解析された音楽情報に基づき歌声を生成する歌声生成工程とを有し、上記歌声生成工程は上記解析された音楽情報に含まれる音の種類に関する情報に基づき上記歌声の種類を決定することを特徴とする。
【００１９】
また、本発明に係る歌声合成装置は、上記目的を達成するため、演奏データを音の高さ、長さ、歌詞の音楽情報として解析する解析手段と、解析された音楽情報に基づき歌声を生成する歌声生成手段とを有し、上記歌声生成手段は上記解析された音楽情報に含まれる音の種類に関する情報に基づき上記歌声の種類を決定することを特徴とする。
【００２０】
この構成によれば、本発明に係る歌声合成方法及び装置は、演奏データを解析してそれから得られる歌詞や音の高さ、長さ、強さをもとにした音符情報に基づき歌声情報を生成し、その歌声情報をもとに歌声の生成を行うことができ、かつ解析された音楽情報に含まれる音の種類に関する情報に基づき上記歌声の種類を決定することにより、対象とする音楽に適した声色、声質で歌い上げることができる。
【００２１】
上記演奏データはＭＩＤＩファイル（例えばＳＭＦ）の演奏データであることが好ましい。
【００２２】
この場合、上記歌声生成工程は上記ＭＩＤＩファイルの演奏データにおけるトラックに含まれるトラック名／シーケンス名又は楽器名に基づいて上記歌声の種類を決定するとＭＩＤＩデータを活用できて都合がよい。
【００２３】
歌詞を演奏データの音列に割り振ることに関し、歌声の各音の開始は上記ＭＩＤＩファイルの演奏データにおけるノートオンのタイミングを基準とし、そのノートオフまでの間を一つの歌声音として割り当てるのが日本語等では好ましい。これにより、演奏データのノート毎に一つずつ歌声が発声されて演奏データの音列が歌い上げられることになる。
【００２４】
演奏データの音列における隣り合うノートの時間的関係に依存して歌声のタイミングやつながり方等を調整することが好ましい。例えば、第１のノートのノートオフまでの間に重なり合うノートとして第２のノートのノートオンがある場合には第１のノートオフの前であっても第１の歌声音をきりやめ、第２の歌声音を次の音として第２のノートのノートオンのタイミングで発声する。また、第１のノートと第２のノートとの間に重なりが無い場合には第１の歌声音に対して音量の減衰処理を施し、第２の歌声音との区切りを明確にし、重なりがある場合には音量の減衰処理を行わずに第１の歌声音と第２の歌声音をつなぎ合わせる。前者により一音ずつ区切って歌われるマルカート（ｍａｒｃａｔｏ）が実現され、後者によりなめらかに歌われるスラー（ｓｌｕｒ）が実現される。また、第１のノートと第２のノートとの間に重なりが無い場合でもあらかじめ指定された時間よりも短い音の切れ間しか第１のノートと第２のノートの間にない場合に第１の歌声音の終了のタイミングを第２の歌声音の開始のタイミングにずらし、第１の歌声音と第２の歌声音をつなぎ合わせる。
【００２５】
演奏データにはしばしば和音の演奏データが含まれる。例えばＭＩＤＩデータの場合、あるトラック又はチャンネルに和音の演奏データが記録されることがある。本発明はこのような和音の演奏データが存在する場合にどの音列を歌詞の対象とするか等についても配慮する。例えば、上記ＭＩＤＩファイルの演奏データにおいてノートオンのタイミングが同じノートが複数ある場合、音高の一番高いノートを歌唱の対象の音として選択する。これにより、所謂ソプラノパートを歌い上げることが容易となる。あるいは、上記ＭＩＤＩファイルの演奏データにおいてノートオンのタイミングが同じノートが複数ある場合、音高の一番低いノートを歌唱の対象の音として選択する。これにより、所謂ベースパートを歌い上げることができる。また、上記ＭＩＤＩファイルの演奏データにおいてノートオンのタイミングが同じノートが複数ある場合、指定されている音量が大きいノートを歌唱の対象の音として選択する。これにより、所謂主旋律を歌い上げることができる。あるいは上記ＭＩＤＩファイルの演奏データにおいてノートオンのタイミングが同じノートが複数ある場合、それぞれのノートを別の声部として扱い同一の歌詞をそれぞれの声部に付与し別の音高の歌声を生成する。これにより複数の声部による合唱が可能となる。
【００２６】
また、入力された演奏データに、例えば木琴のような打楽器系の楽音再生を意図するものが含まれることや、短い修飾音が含まれることがある。このような場合、歌声音の長さを歌唱向きに調整することが好ましい。このために例えば、上記ＭＩＤＩファイルの演奏データにおいてノートオンからノートオフまでの時間が規定値よりも短い場合にはそのノートを歌唱の対象としない。また、上記ＭＩＤＩファイルの演奏データにおいてノートオンからノートオフまでの時間をあらかじめ規定された比率に従い伸張して歌声の生成を行う。あるいは、ノートオンからノートオフまでの時間にあらかじめ規定された時間を加算して歌声の生成を行う。このようなノートオンからノートオフまでの時間の変更を行うあらかじめ規定された加算又は比率のデータは、楽器名に対応した形で用意されていることが好ましく、及び／又はオペレータが設定できることが好ましい。
【００２７】
また、上記歌声生成工程は、楽器名毎に発声する歌声の種類を設定することが好ましい。
【００２８】
また、上記歌声生成工程は、上記ＭＩＤＩファイルの演奏データにおいてパッチにより楽器の指定が変えられた場合は同一トラック内であっても途中で歌声の種類を変えることが好ましい。
【００２９】
また、本発明に係るプログラムは、本発明の歌声合成機能をコンピュータに実行させるものであり、本発明に係る記録媒体は、このプログラムが記録されたコンピュータ読み取り可能なものである。
【００３０】
さらに、本発明に係るロボット装置は、上記目的を達成するため、供給された入力情報に基づいて動作を行う自律型のロボット装置であって、入力された演奏データを音の高さ、長さ、歌詞の音楽情報として解析する解析手段と、解析された音楽情報に基づき歌声を生成する歌声生成手段とを有し、上記歌声生成手段は上記解析された音楽情報に含まれる音の種類に関する情報に基づき上記歌声の種類を決定することを特徴とする。これにより、ロボットの持っているエンターテインメント性を格段に向上させることができる。
【００３１】
【発明の実施の形態】
以下、本発明を適用した具体的な実施の形態について、図面を参照しながら詳細に説明する。
【００３２】
先ず、本実施の形態における歌声合成装置の概略システム構成を図１に示す。ここで、この歌声合成装置は、少なくとも感情モデル、音声合成手段及び発音手段を有する例えばロボット装置に適用することを想定しているが、これに限定されず、各種ロボット装置や、ロボット以外の各種コンピュータＡＩ（ａｒｔｉｆｉｃｉａｌ  ｉｎｔｅｌｌｉｇｅｎｃｅ）等への適用も可能であることは勿論である。
【００３３】
図１において、ＭＩＤＩデータに代表される演奏データ１を解析する演奏データ解析部２は入力された演奏データ１を解析し演奏データ内にあるトラックやチャンネルの音の高さや長さ、強さを表す楽譜情報４に変換する。
【００３４】
図２に楽譜情報４に変換された演奏データ（ＭＩＤＩデータ）の例を示す。図２において、トラック毎、チャンネル毎にイベントが書かれている。イベントにはノートイベントとコントロールイベントが含まれる。ノートイベントは発生時刻（図中の時間の欄）、高さ、長さ、強さ（ｖｅｌｏｃｉｔｙ）の情報を持つ。したがって、ノートイベントのシーケンスにより音符列又は音列が定義される。コントロールイベントは発生時刻、コントロールのタイプデータ（例えばビブラート、演奏ダイナミクス表現（ｅｘｐｒｅｓｓｉｏｎ））及びコントロールのコンテンツを示すデータを持つ。例えば、ビブラートの場合、コントロールのコンテンツとして、音の振れの大きさを指示する「深さ」、音の揺れの周期を指示する「幅」、音の揺れの開始タイミング（発音タイミングからの遅れ時間）を指示する「遅れ」の項目を有する。特定のトラック、チャンネルに対するコントロールイベントはそのコントロールタイプについて新たなコントロールイベント（コントロールチェンジ）が発生しない限り、そのトラック、チャンネルの音符列の楽音再生に適用される。さらに、ＭＩＤＩファイルの演奏データにはトラック単位で歌詞を記入することができる。図２において、上方に示す「あるうひ」はトラック１に記入された歌詞の一部であり、下方に示す「あるうひ」はトラック２に記入された歌詞の一部である。すなわち図２の例は、解析した音楽情報（楽譜情報）の中に歌詞が埋め込まれた例である。
【００３５】
なお、図２において、時間は「小節：拍：ティック数」で表され、長さは「ティック数」で表され、強さは「０−１２７」の数値で表され、高さは４４０Ｈｚが「Ａ４」で表される。また、ビブラートは、深さ、幅、遅れがそれぞれ「０−６４−１２７」の数値で表される。
【００３６】
図１に戻り、変換された楽譜情報４は歌詞付与部５に渡される。歌詞付与部５では楽譜情報４をもとに音符に対応した音の長さ、高さ、強さ、表情などの情報とともにその音に対する歌詞が付与された歌声情報６の生成を行う。
【００３７】
図３に歌声情報６の例を示す。図３において、「￥ｓｏｎｇ￥」は歌詞情報の開始を示すタグである。タグ「￥ＰＰ，Ｔ１０６７３０７５￥」は１０６７３０７５μｓｅｃの休みを示し、タグ「￥ｔｄｙｎａ  １１０  ６４９０７５￥」は先頭から１０６７３０７５μｓｅｃの全体の強さを示し、タグ「￥ｆｉｎｅ−１００￥」はＭＩＤＩのファインチューンに相当する高さの微調整を示し、タグ「￥ｖｉｂｒａｔｏ  ＮＲＰＮ＿ｄｅｐ＝６４￥」、［￥ｖｉｂｒａｔｏ  ＮＲＰＮ＿ｄｅｌ＝５０￥］、「￥ｖｉｂｒａｔｏ  ＮＲＰＮ＿ｒａｔ＝６４￥」はそれぞれ、ビブラートの深さ、遅れ、幅を示す。また、タグ「￥ｄｙｎａ  １００￥」は音毎の強弱を示し、タグ「￥Ｇ４，Ｔ２８８４６１￥あ」はＧ４の高さで、長さが２８８４６１μｓｅｃの歌詞「あ」を示す。図３の歌声情報は図２に示す楽譜情報（ＭＩＤＩデータの解析結果）から得られたものである。図２と図３の比較から分かるように、楽器制御用の演奏データ（例えば音符情報）が歌声情報の生成において十分に活用されている。例えば、歌詞「あるうひ」の構成要素「あ」について、「あ」以外の歌唱属性である「あ」の音の発生時刻、長さ、高さ、強さ等について、楽譜情報（図２）中のコントロール情報やノートイベント情報に含まれる発生時刻、長さ、高さ、強さ等が直接的に利用され、次の歌詞要素「る」についても楽譜情報中の同じトラック、チャンネルにおける次のノートイベント情報が直接的に利用され、以下同様である。
【００３８】
図１に戻り、歌声情報６は歌声生成部７に渡され、歌声生成部７においては歌声情報６をもとに歌声波形８の生成を行う。ここで、歌声情報６から歌声波形８を生成する歌声生成部７は例えば図４に示すように構成される。
【００３９】
図４において、歌声韻律生成部７−１は歌声情報６を歌声韻律データに変換する。波形生成部７−２は声質別波形メモリ７−３を介して歌声韻律データを歌声波形８に変換する。
【００４０】
具体例として、「Ａ４」の高さの歌詞要素「ら」を一定時間伸ばす場合について説明する。ビブラートをかけない場合の歌声韻律データは、以下の表のように表される。
【００４１】
【表１】
2004287099.tif 000003
【００４２】
この表において、［ＬＡＢＥＬ］は、各音韻の継続時間長を表したものである。すなわち、「ｒａ」という音韻（音素セグメント）は、０サンプルから１０００サンプルまでの１０００サンプルの継続時間長であり、「ｒａ」に続く最初の「ａａ」という音韻は、１０００サンプルから３９６００サンプルまでの３８６００サンプルの継続時間長である。また、［ＰＩＴＣＨ］は、ピッチ周期を点ピッチで表したものである。すなわち、０サンプル点におけるピッチ周期は５６サンプルである。ここでは「ら」の高さを変えないので全てのサンプルに渡り５６サンプルのピッチ周期が適用される。また、［ＶＯＬＵＭＥ］は、各サンプル点での相対的な音量を表したものである。すなわち、デフォルト値を１００％としたときに、０サンプル点では６６％の音量であり、３９６００サンプル点では５７％の音量である。以下同様にして、４０１００サンプル点では４８％の音量等が続き４２６００サンプル点では３％の音量となる。これにより「ら」の音声が時間の経過と共に減衰することが実現される。
【００４３】
これに対して、ビブラートをかける場合には、例えば、以下に示すような歌声韻律データが作成される。
【００４４】
【表２】
2004287099.tif 000004
【００４５】
この表の［ＰＩＴＣＨ］の欄に示すように、０サンプル点と１０００サンプル点におけるピッチ周期は５０サンプルで同じであり、この間は音声の高さに変化がないが、それ以降は、２０００サンプル点で５３サンプルのピッチ周期、４００９サンプル点で４７サンプルのピッチ周期、６００９サンプル点で５３のピッチ周期というようにピッチ周期が約４０００サンプルの周期（幅）を以て上下（５０±３）に振れている。これにより音声の高さの揺れであるビブラートが実現される。この［ＰＩＴＣＨ］の欄のデータは歌声情報６における対応歌声要素（例えば「ら」）に関する情報、特にノートナンバー（例えばＡ４）とビブラートコントロールデータ（例えば、タグ「￥ｖｉｂｒａｔｏ  ＮＲＰＮ＿ｄｅｐ＝６４￥」、［￥ｖｉｂｒａｔｏ  ＮＲＰＮ＿ｄｅｌ＝５０￥］、「￥ｖｉｂｒａｔｏ  ＮＲＰＮ＿ｒａｔ＝６４￥」）に基づいて生成される。
【００４６】
波形生成部７−２はこのような歌声音韻データに基づき、声質別に音素セグメントデータを記憶する声質別波形メモリ７−３から該当する声質のサンプルを読み出して歌声波形８を生成する。すなわち、波形生成部７−２は、声質別波形メモリ７−３を参照しながら、歌声韻律データに示される音韻系列、ピッチ周期、音量等をもとに、なるべくこれに近い音素セグメントデータを検索してその部分を切り出して並べ、音声波形データを生成する。すなわち、声質別波形メモリ７−３には、声質別に、例えば、ＣＶ（Ｃｏｎｓｏｎａｎｔ，  Ｖｏｗｅｌ）や、ＶＣＶ、ＣＶＣ等の形で音素セグメントデータが記憶されており、波形生成部７−２は、歌声韻律データに基づいて、必要な音素セグメントデータを接続し、さらに、ポーズ、アクセント、イントネーション等を適切に付加することで、歌声波形８を生成する。なお、歌声情報６から歌声波形８を生成する歌声生成部７については上記の例に限らず、任意の適当な公知の歌声生成器を使用できる。
【００４７】
図１に戻り、演奏データ１はＭＩＤＩ音源９に渡され、ＭＩＤＩ音源９は演奏データをもとに楽音の生成を行う。この楽音は伴奏波形１０である。
【００４８】
歌声波形８と伴奏波形１０はともに同期を取りミキシングを行うミキシング部１１に渡される。
【００４９】
ミキシング部１１では、歌声波形８と伴奏波形１０との同期を取りそれぞれを重ね合わせて出力波形３として再生を行うことにより、演奏データ１をもとに伴奏を伴った歌声による音楽再生を行う。
【００５０】
ここで、歌詞付与部５ではトラック選択部１２により楽譜情報４に記載されている音楽情報のトラック名／シーケンス名、楽器名のいずれかをもとに歌声の対象となるトラックの選択を行う。例えばトラック名として「ｓｏｐｒａｎｏ」等の音の種類又は声の種類の指定がある場合はそのままそのトラックを歌声トラックと判断し、「ｖｉｏｌｉｎ」のように楽器名の場合、オペレータにより指示された場合はそのトラックを歌声の対象とするがそうでない場合はならない。これらの対象になるかならないかの情報は歌声対象データ１３に収められており、オペレータによりその内容の変更は可能である。
【００５１】
また、声質設定部１６により先に選択されたトラックに対してどのような声質を適用するかの設定が可能である。声質の指定は、トラック毎、楽器名毎に発声する声の種類を設定できる。楽器名と声質の対応を設定された情報は声質対応データ１９として保持され、これを参照して楽器名などに対応した声質の選択を行う。例えば、楽器名「ｆｌｕｔｅ」、「ｃｌａｒｉｎｅｔ」、「ａｌｔｏ  ｓａｘ」、「ｔｅｎｏｒ  ｓａｘ」、「ｂａｓｓｏｏｎ」に対してそれぞれ声質「ｓｏｐｒａｎｏ１」、「ａｌｔｏ１」、「ａｌｔｏ２」、「ｔｅｎｏｒ１」、「ｂａｓｓ１」を歌声の声質として対応づけることができる。声質の指定の優先順序に関しては、例えば、（ａ）オペレータが指定した場合はその声質に、（ｂ）トラック名／シーケンス名の中に声質を表す文字が含まれている場合には該当する文字列の声質に、（ｃ）楽器名の声質対応データ１９に対応している楽器の場合は声質対応データ１９に記載された対応する声質を、（ｄ）上記の条件に当てはまらない場合はデフォルトの声質を適用する。このデフォルトの声質は適用するモードと適用しないモードがあり、適用しないモードでは楽器の音がＭＩＤＩから再生される。
【００５２】
また、ＭＩＤＩのトラック内にコントロールデータとしてパッチにより楽器の指定が変えられた場合はこの声質対応データ１９に従い、同一トラック内であっても途中で歌声の声質を変えることが可能である。
【００５３】
歌詞付与部５では楽譜情報４に基づいて歌声情報６の生成を行うが、その際、歌唱の各歌声音の開始はＭＩＤＩデータにおけるノートオンのタイミングを基準とし、そのノートオフまでの間を一つの音と考える。
【００５４】
図５に、ＭＩＤＩデータにおける第１のノート又は音ＮＴ１と第２のノート又は音ＮＴ２の関係を示す。図５において、第１の音ＮＴ１のノートオンのタイミングをｔ１ａで示し、第１の音ＮＴ１のノートオフのタイミングをｔ１ｂで示し、第２の音ＮＴ２のノートオンのタイミングをｔ２ａで示す。上記のように、歌詞付与部５では、歌唱の各歌声音の開始はＭＩＤＩデータにおけるノートオンのタイミング（第１の音ＮＴ１についていえばｔ１ａ）を基準とし、そのノートオフ（ｔ１ｂ）までの間を一つの歌声音として割り当てる。これが基本であり、これによればＭＩＤＩデータの音列における各ノートのノートオンタイミングと長さに合わせて１音ずつ歌詞が歌い上げられることになる。
【００５５】
ただし、ＭＩＤＩデータにおける第１の音ＴＮ１のノートオンからノートオフまでの間（ｔ１ａ〜ｔ１ｂ）に重なり合う音として第２の音ＴＮ２のノートオンがある場合（ｔ１ｂ＞ｔ２ａ）には第１のノートオフの前であっても歌声音をきりやめ、次の歌声音を第２の音ＴＮ２のノートオンのタイミングｔ２ａで発声するように音符長変更部１４は歌声音のノートオフのタイミングを変更する。
【００５６】
ここで、歌詞付与部５はＭＩＤＩデータにおける第１の音ＴＮ１と第２の音ＴＮ２との間に重なりが無い場合（ｔ１ｂ＜ｔ２ａ）には第１の歌声音に対して音量の減衰処理を施し、第２の歌声音との区切りを明確にしてマルカートを表現し、重なりがある場合には音量の減衰処理を行わずに第１の歌声音と第２の歌声音をつなぎ合わせることにより楽曲におけるスラーを表現する。
【００５７】
また、音符長変更部１４ではＭＩＤＩデータにおける第１の音ＴＮ１と第２の音ＴＮ２との間に重なりが無い場合でも、音符長変更データ１５に格納されたあらかじめ指定された時間よりも短い音の切れ間しか第１の音ＴＮ１と第２の音ＴＮ２の間にない場合には第１の歌声音のノートオフのタイミングを第２の歌声音のノートオンのタイミングにずらすことにより、第１の歌声音と第２の歌声音をつなぎ合わせる。
【００５８】
また、歌詞付与部５では音符選択部１７を介してＭＩＤＩデータ中にノートオンのタイミングが同じノート又は音が複数ある（ｔ１ａ＝ｔ２ａ等）場合、音符選択モード１８に従い音高の一番高い音、音高の一番低い音、音量が大きい音の中から選択した音を歌唱の対象の音として選択する。
【００５９】
音符選択モード１８には声の種類に対応して音高の一番高い音、音高の一番低い音、音量が大きい音、独立した音のどれを選択するかの設定ができる。
【００６０】
また、歌詞付与部５では、ＭＩＤＩファイルの演奏データにおいてノートオンのタイミングが同じノートが複数ある場合、音符選択モード１８において独立した音に設定されている場合にそれぞれの音を別の声部として扱い同一の歌詞をそれぞれに付与し別の音高の歌声を生成する。
【００６１】
また、歌詞付与部５はノートオンからノートオフまでの時間が音符長変更部１４を介して音符長変更データ１５に規定されている規定値よりも短い場合にはその音を歌唱の対象としない。
【００６２】
また、音符長変更部１４はノートオンからノートオフまでの時間を音符長変更データ１５にあらかじめ規定された比率もしくは規定された時間を加算することにより伸張する。これらの音符長変更データ１５は楽譜情報における楽器名に対応した形で保持されており、オペレータにより設定が可能である。
【００６３】
なお、歌声情報に関して、演奏データに歌詞が含まれている場合を説明したが、これには限られず、演奏データに歌詞が含まれない場合に任意の歌詞、例えば「ら」や「ぼん」等を自動生成し、又はオペレータにより入力し、歌詞の対象とする演奏データ（トラック、チャンネル）を、トラック選択部、歌詞付与部を介して選択して歌詞を割り振るようにしてもよい。
【００６４】
図６に図１に示す歌声合成装置の全体動作をフローチャートで示す。
【００６５】
先ずＭＩＤＩファイルの演奏データ１を入力する（ステップＳ１）。次に演奏データ１を解析し、楽譜データ４を作成する（ステップＳ２、Ｓ３）。次にオペレータに問い合わせオペレータの設定処理（例えば、歌声対象データの設定、音符選択モードの設定、音符長変更データの設定、声質対応データの設定等）を行う（ステップＳ４）。なおオペレータが設定しなかった部分についてはデフォルトが後続処理で使用される。
【００６６】
ステップＳ５〜Ｓ１０は歌声情報の生成ループである。先ずトラック選択部１２により歌詞の対象とするトラックを上述した方法で選択する（ステップＳ５）。次に音符選択部１７により、歌詞の対象としたトラックの中から音符選択モードに従って歌声音に割り当てる音符（ノート）を上述した方法で決定する（ステップＳ６）。次に音符長変更部１４により、歌声音を割り当てた音符の長さ（発声タイミング、持続時間等）を必要に応じ上述した条件に従って変更する（ステップＳ７）。次に声質設定部１６を介し、歌声の声質を上述したようにして選択する（ステップＳ８）。次に歌詞付与部５によりステップＳ５〜Ｓ８で得たデータに基づき歌声情報６を作成する（ステップＳ９）。
【００６７】
次に全てのトラックの参照を終了したかチェックし（ステップＳ１０）、終了してなければステップＳ５に戻り、終了していればしていれば歌声生成部７に歌声情報６を渡して歌声波形を作成する（ステップＳ１１）。
【００６８】
次にＭＩＤＩ音源９によりＭＩＤＩを再生して伴奏波形１０を作成する（ステップＳ１２）。
【００６９】
ここまでの処理で、歌声波形８、及び伴奏波形１０が得られた。
【００７０】
そこで、ミキシング部１１により、歌声波形８と伴奏波形１０との同期を取りそれぞれを重ね合わせて出力波形３として再生を行う（ステップＳ１３、Ｓ１４）。この出力波形３は図示しないサウンドシステムを介して音響信号として出力される。
【００７１】
以上説明した歌声合成機能は例えば、ロボット装置に搭載される。
【００７２】
以下、一構成例として示す２足歩行タイプのロボット装置は、住環境その他の日常生活上の様々な場面における人的活動を支援する実用ロボットであり、内部状態（怒り、悲しみ、喜び、楽しみ等）に応じて行動できるほか、人間が行う基本的な動作を表出できるエンターテインメントロボットである。
【００７３】
図７に示すように、ロボット装置６０は、体幹部ユニット６２の所定の位置に頭部ユニット６３が連結されると共に、左右２つの腕部ユニット６４Ｒ／Ｌと、左右２つの脚部ユニット６５Ｒ／Ｌが連結されて構成されている（ただし、Ｒ及びＬの各々は、右及び左の各々を示す接尾辞である。以下において同じ。）。
【００７４】
このロボット装置６０が具備する関節自由度構成を図８に模式的に示す。頭部ユニット６３を支持する首関節は、首関節ヨー軸１０１と、首関節ピッチ軸１０２と、首関節ロール軸１０３という３自由度を有している。
【００７５】
また、上肢を構成する各々の腕部ユニット６４Ｒ／Ｌは、、肩関節ピッチ軸１０７と、肩関節ロール軸１０８と、上腕ヨー軸１０９と、肘関節ピッチ軸１１０と、前腕ヨー軸１１１と、手首関節ピッチ軸１１２と、手首関節ロール軸１１３と、手部１１４とで構成される。手部１１４は、実際には、複数本の指を含む多関節・多自由度構造体である。ただし、手部１１４の動作は、ロボット装置６０の姿勢制御や歩行制御に対する寄与や影響が少ないので、本明細書ではゼロ自由度と仮定する。したがって、各腕部は７自由度を有するとする。
【００７６】
また、体幹部ユニット６２は、体幹ピッチ軸１０４と、体幹ロール軸１０５と、体幹ヨー軸１０６という３自由度を有する。
【００７７】
また、下肢を構成する各々の脚部ユニット６５Ｒ／Ｌは、股関節ヨー軸１１５と、股関節ピッチ軸１１６と、股関節ロール軸１１７と、膝関節ピッチ軸１１８と、足首関節ピッチ軸１１９と、足首関節ロール軸１２０と、足部１２１とで構成される。本明細書中では、股関節ピッチ軸１１６と股関節ロール軸１１７の交点は、ロボット装置６０の股関節位置を定義する。人体の足部１２１は、実際には多関節・多自由度の足底を含んだ構造体であるが、ロボット装置６０の足底は、ゼロ自由度とする。したがって、各脚部は、６自由度で構成される。
【００７８】
以上を総括すれば、ロボット装置６０全体としては、合計で３＋７×２＋３＋６×２＝３２自由度を有することになる。ただし、エンターテインメント向けのロボット装置６０が必ずしも３２自由度に限定されるわけではない。設計・制作上の制約条件や要求仕様等に応じて、自由度すなわち関節数を適宜増減することができることはいうまでもない。
【００７９】
上述したようなロボット装置６０がもつ各自由度は、実際にはアクチュエータを用いて実装される。外観上で余分な膨らみを排してヒトの自然体形状に近似させること、２足歩行という不安定構造体に対して姿勢制御を行うことなどの要請から、アクチュエータは小型かつ軽量であることが好ましい。また、アクチュエータは、ギア直結型でかつサーボ制御系をワンチップ化してモータユニット内に搭載したタイプの小型ＡＣサーボ・アクチュエータで構成することがより好ましい。
【００８０】
図９には、ロボット装置６０の制御システム構成を模式的に示している。図９に示すように、制御システムは、ユーザ入力などに動的に反応して情緒判断や感情表現を司る思考制御モジュール２００と、アクチュエータ３５０の駆動などロボット装置６０の全身協調運動を制御する運動制御モジュール３００とで構成される。
【００８１】
思考制御モジュール２００は、情緒判断や感情表現に関する演算処理を実行するＣＰＵ（Ｃｅｎｔｒａｌ  Ｐｒｏｃｅｓｓｉｎｇ  Ｕｎｉｔ）２１１や、ＲＡＭ（Ｒａｎｄｏｍ  Ａｃｃｅｓｓ  Ｍｅｍｏｒｙ）２１２、ＲＯＭ（Ｒｅａｄ  ｏｎｌｙ  Ｍｅｍｏｒｙ）２１３、及び、外部記憶装置（ハード・ディスク・ドライブなど）２１４で構成される、モジュール内で自己完結した処理を行うことができる、独立駆動型の情報処理装置である。
【００８２】
この思考制御モジュール２００は、画像入力装置２５１から入力される画像データや音声入力装置２５２から入力される音声データなど、外界からの刺激などに従って、ロボット装置６０の現在の感情や意思を決定する。ここで、画像入力装置２５１は、例えばＣＣＤ（Ｃｈａｒｇｅ  Ｃｏｕｐｌｅｄ  Ｄｅｖｉｃｅ）カメラを複数備えており、また、音声入力装置２５２は、例えばマイクロホンを複数備えている。
【００８３】
また、思考制御モジュール２００は、意思決定に基づいた動作又は行動シーケンス、すなわち四肢の運動を実行するように、運動制御モジュール３００に対して指令を発行する。
【００８４】
一方の運動制御モジュール３００は、ロボット装置６０の全身協調運動を制御するＣＰＵ３１１や、ＲＡＭ３１２、ＲＯＭ３１３、及び外部記憶装置（ハード・ディスク・ドライブなど）３１４で構成される、モジュール内で自己完結した処理を行うことができる、独立駆動型の情報処理装置である。外部記憶装置３１４には、例えば、オフラインで算出された歩行パターンや目標とするＺＭＰ軌道、その他の行動計画を蓄積することができる。ここで、ＺＭＰとは、歩行中の床反力によるモーメントがゼロとなる床面上の点のことであり、また、ＺＭＰ軌道とは、例えばロボット装置６０の歩行動作期間中にＺＭＰが動く軌跡を意味する。なお、ＺＭＰの概念並びにＺＭＰを歩行ロボットの安定度判別規範に適用する点については、Ｍｉｏｍｉｒ  Ｖｕｋｏｂｒａｔｏｖｉｃ  著“ＬＥＧＧＥＤ  ＬＯＣＯＭＯＴＩＯＮ  ＲＯＢＯＴＳ”（加藤一郎外著『歩行ロボットと人工の足』（日刊工業新聞社））に記載されている。
【００８５】
運動制御モジュール３００には、図８に示したロボット装置６０の全身に分散するそれぞれの関節自由度を実現するアクチュエータ３５０、体幹部ユニット６２の姿勢や傾斜を計測する姿勢センサ３５１、左右の足底の離床又は着床を検出する接地確認センサ３５２，３５３、バッテリなどの電源を管理する電源制御装置３５４などの各種の装置が、バス・インターフェース（Ｉ／Ｆ）３０１経由で接続されている。ここで、姿勢センサ３５１は、例えば加速度センサとジャイロ・センサの組み合わせによって構成され、接地確認センサ３５２，３５３は、近接センサ又はマイクロ・スイッチなどで構成される。
【００８６】
思考制御モジュール２００と運動制御モジュール３００は、共通のプラットフォーム上で構築され、両者間はバス・インターフェース２０１，３０１を介して相互接続されている。
【００８７】
運動制御モジュール３００では、思考制御モジュール２００から指示された行動を体現すべく、各アクチュエータ３５０による全身協調運動を制御する。すなわち、ＣＰＵ３１１は、思考制御モジュール２００から指示された行動に応じた動作パターンを外部記憶装置３１４から取り出し、又は、内部的に動作パターンを生成する。そして、ＣＰＵ３１１は、指定された動作パターンに従って、足部運動、ＺＭＰ軌道、体幹運動、上肢運動、腰部水平位置及び高さなどを設定するとともに、これらの設定内容に従った動作を指示する指令値を各アクチュエータ３５０に転送する。
【００８８】
また、ＣＰＵ３１１は、姿勢センサ３５１の出力信号によりロボット装置６０の体幹部ユニット６２の姿勢や傾きを検出するとともに、各接地確認センサ３５２，３５３の出力信号により各脚部ユニット６５Ｒ／Ｌが遊脚又は立脚のいずれの状態であるかを検出することによって、ロボット装置６０の全身協調運動を適応的に制御することができる。
【００８９】
また、ＣＰＵ３１１は、ＺＭＰ位置が常にＺＭＰ安定領域の中心に向かうように、ロボット装置６０の姿勢や動作を制御する。
【００９０】
さらに、運動制御モジュール３００は、思考制御モジュール２００において決定された意思通りの行動がどの程度発現されたか、すなわち処理の状況を、思考制御モジュール２００に返すようになっている。
【００９１】
このようにしてロボット装置６０は、制御プログラムに基づいて自己及び周囲の状況を判断し、自律的に行動することができる。
【００９２】
このロボット装置６０において、上述した歌声合成機能をインプリメントしたプログラム（データを含む）は例えば思考制御モジュール２００のＲＯＭ２１３に置かれる。この場合、歌声合成プログラムの実行は思考制御モジュール２００のＣＰＵ２１１により行われる。
【００９３】
このようなロボット装置に上記歌声合成機能を組み込むことにより、伴奏に合わせて歌うロボットとしての表現能力が新たに獲得され、エンターテインメント性が広がり、人間との親密性が深められる。
【００９４】
【発明の効果】
以上詳細に説明したように、本発明に係る歌声合成方法及び装置によれば、演奏データを音の高さ、長さ、歌詞の音楽情報として解析し、解析された音楽情報に基づき歌声を生成し、かつ上記解析された音楽情報に含まれる音の種類に関する情報に基づき上記歌声の種類を決定することを特徴としているので、与えられた演奏データを解析してそれから得られる歌詞や音の高さ、長さ、強さをもとにした音符情報に基づき歌声情報を生成し、その歌声情報をもとに歌声の生成を行うことができ、かつ解析された音楽情報に含まれる音の種類に関する情報に基づき上記歌声の種類を決定することにより、対象とする音楽に適した声色、声質で歌い上げることができる。したがって、従来、楽器の音のみにより表現していた音楽の作成や再生において特別な情報を加えることがなく歌声の再生を行ることによりその音楽表現は格段に向上する。
【００９５】
また、本発明に係るプログラムは、本発明の歌声合成機能をコンピュータに実行させるものであり、本発明に係る記録媒体は、このプログラムが記録されたコンピュータ読み取り可能なものである。
【００９６】
本発明に係るプログラム及び記録媒体によれば、演奏データを音の高さ、長さ、歌詞の音楽情報として解析し、解析された音楽情報に基づき歌声を生成し、かつ上記解析された音楽情報に含まれる音の種類に関する情報に基づき上記歌声の種類を決定することにより、与えられた演奏データを解析してそれから得られる歌詞や音の高さ、長さ、強さをもとにした音符情報に基づき歌声情報を生成し、その歌声情報をもとに歌声の生成を行うことができ、かつ解析された音楽情報に含まれる音の種類に関する情報に基づき上記歌声の種類を決定することにより、対象とする音楽に適した声色、声質で歌い上げることができる。
【００９７】
また、本発明に係るロボット装置は本発明の歌声合成機能を実現する。すなわち、本発明のロボット装置によれば、供給された入力情報に基づいて動作を行う自律型のロボット装置において、入力された演奏データを音の高さ、長さ、歌詞の音楽情報として解析し、解析された音楽情報に基づき歌声を生成し、かつ上記解析された音楽情報に含まれる音の種類に関する情報に基づき上記歌声の種類を決定することにより、与えられた演奏データを解析してそれから得られる歌詞や音の高さ、長さ、強さをもとにした音符情報に基づき歌声情報を生成し、その歌声情報をもとに歌声の生成を行うことができ、かつ解析された音楽情報に含まれる音の種類に関する情報に基づき上記歌声の種類を決定することにより、対象とする音楽に適した声色、声質で歌い上げることができる。したがって、ロボット装置の表現能力が向上し、エンターテインメント性を高めることができると共に、人間との親密性を深めることができる。
【図面の簡単な説明】
【図１】本実施の形態における歌声合成装置のシステム構成を説明するブロック図である。
【図２】解析結果の楽譜情報の例を示す図である。
【図３】歌声情報の例を示す図である。
【図４】歌声生成部の構成例を説明するブロック図である。
【図５】歌声音の音符長調整の説明に用いた、演奏データにおける第１音と第２音を模式的に示す図である。
【図６】本実施の形態における歌声合成装置の動作を説明するフローチャートである。
【図７】本実施の形態におけるロボット装置の外観構成を示す斜視図である。
【図８】同ロボット装置の自由度構成モデルを模式的に示す図である。
【図９】同ロボット装置のシステム構成を示すブロック図である。
【符号の説明】
２  演奏データ解析部、５  歌詞付与部、７  歌声生成部、１２  トラック選択部、１４  音符長変更部、１６  声質設定部、１７  音符選択部、６０  ロボット装置、２１１  ＣＰＵ、２１３  ＲＯＭ
【図１】
2004287099.tif 000005
【図２】
2004287099.tif 000006
【図３】
2004287099.tif 000007
【図４】
2004287099.tif 000008
【図５】
2004287099.tif 000009
【図６】
2004287099.tif 000010
【図７】
2004287099.tif 000011
【図８】
2004287099.tif 000012
【図９】
2004287099.tif 000013