(57)【要約】【課題】合成音声の言語属性と、合成音声の音響的特徴と、使用者が合成音声全体により表現しようする感情との相互の関連性を適切に保つ音声合成装置を提供する。【解決手段】言語属性ベクトルと、音響属性ベクトルと、それらによって表現される感情を示す感情ベクトルとから構成される感情表出パターンを複数保持する感情データベース３０６と、テキストの言語属性を示す言語属性ベクトルを生成するテキスト入力部３０１、言語解析部３０４および言語属性解析部３０５と、感情を示す感情ベクトルを取得する感情入力部３０２と、感情データベース３０６から、テキストの言語属性ベクトルおよび感情入力部３０２で取得された感情ベクトルに近い内容を有する感情表出パターンを検索して抽出するパターン検索部３０７ａと、抽出された感情表出パターンに含まれる音響属性ベクトルに基づいて、テキストに対して音声合成を行う音声合成部３０９とを備える。【選択図】図１
2007183421.tif 000002
【特許請求の範囲】
【請求項１】
テキストを合成音声に変換して出力する音声合成装置であって、
言語属性を示す言語属性情報と、音響的特徴を示す音響属性情報と、前記言語属性と前記音響的特徴によって表現される感情を示す感情情報とから構成される感情パターンを複数保持する感情パターン保持手段と、
テキストの言語属性を示す入力言語属性情報を生成する言語属性生成手段と、
感情を示す入力感情情報を取得する感情取得手段と、
前記感情パターン保持手段に保持されている複数の感情パターンから、前記入力言語属性情報および前記入力感情情報に近い内容を示す前記言語属性情報および前記感情情報を有する感情パターンを検索して抽出するパターン検索手段と、
前記パターン検索手段により抽出された感情パターンに含まれる音響属性情報に基づいて、前記テキストに対して音声合成を行うことにより、前記音響属性情報の示す音響的特徴を有する合成音声を生成する音声合成手段と
を備えることを特徴とする音声合成装置。
【請求項２】
前記感情パターンに含まれる前記感情情報、言語属性情報、および音響属性情報のうちの何れか１つの情報と他の情報とは、それぞれ相反する内容を示す
ことを特徴とする請求項１記載の音声合成装置。
【請求項３】
前記言語属性生成手段は、
前記テキストを取得するテキスト取得手段と、
前記テキスト取得手段により取得されたテキストに対して言語解析を行なうことにより前記入力言語属性情報を生成する解析手段とを備える
ことを特徴とする請求項１記載の音声合成装置。
【請求項４】
テキストを合成音声に変換して出力する音声合成装置であって、
言語属性を示す言語属性情報と、音響的特徴を示す音響属性情報と、前記言語属性と前記音響的特徴によって表現される感情を示す感情情報とから構成される感情パターンを複数保持する感情パターン保持手段と、
音響的特徴を示す入力音響属性情報を取得する音響属性取得手段と、
感情を示す入力感情情報を取得する感情取得手段と、
前記感情パターン保持手段に保持されている複数の感情パターンから、前記入力音響属性情報および前記入力感情情報に近い内容を示す前記音響属性情報および前記感情情報を有する感情パターンを検索して抽出するパターン検索手段と、
前記パターン検索手段により抽出された感情パターンに含まれる言語属性情報に基づいて、文を構成するための構成単位の選択を行うことにより、前記言語属性情報の示す言語属性を有するテキストを生成するテキスト生成手段と、
前記入力音響属性情報に基づいて、前記テキストに対して音声合成を行うことにより、前記入力音響属性情報の示す音響的特徴を有する合成音声を生成する音声合成手段と
を備えることを特徴とする音声合成装置。
【請求項５】
前記音声合成装置は、さらに、
文を構成するための各構成単位、および前記各構成単位の言語属性を記憶している属性記憶手段を備え、
前記テキスト生成手段は、前記属性記憶手段に記憶されている言語属性に基づいて、前記属性記憶手段から選択された１つまたは複数の構成単位の全体的な言語属性が、前記パターン検索手段により抽出された感情パターンの言語属性情報の示す言語属性に近くなるように、前記属性記憶手段から１つまたは複数の構成単位を選択する
ことを特徴とする請求項４記載の音声合成装置。
【請求項６】
前記属性記憶手段は、前記各構成単位の意味内容に応じて、前記各構成単位を複数のクラスに分けて記憶しており、
前記テキスト生成手段は、前記属性記憶手段から前記複数のクラスに従って前記構成単位を選択する
ことを特徴とする請求項５記載の音声合成装置。
【請求項７】
前記音声合成装置は、さらに、
言語的意味内容を有する内容語を取得する内容語取得手段と、
複数の構文を記憶している構文記憶手段とを備え、
前記テキスト生成手段は、前記内容語取得手段により取得された内容語に応じた前記構成単位の選択を行い、選択された前記構成単位を、前記構文記憶手段に記憶されている何れかの構文に当てはめることによりテキストを生成する
ことを特徴とする請求項４記載の音声合成装置。
【請求項８】
前記音声合成装置は、さらに、
シナリオを取得するシナリオ取得手段を備え、
前記テキスト生成手段は、前記シナリオ取得手段に取得されたシナリオに合ったテキストを生成する
ことを特徴とする請求項４記載の音声合成装置。
【請求項９】
テキストを合成音声に変換して出力する音声合成装置であって、
言語属性を示す言語属性情報と、音響的特徴を示す音響属性情報と、前記言語属性と前記音響的特徴によって表現される感情を示す感情情報とから構成される感情パターンを複数保持する感情パターン保持手段と、
テキストを取得するテキスト取得手段と、
音響的特徴を示す入力音響属性情報を取得する音響属性取得手段と、
感情を示す入力感情情報を取得する感情取得手段と、
前記感情パターン保持手段に保持されている複数の感情パターンから、前記入力音響属性情報および前記入力感情情報に近い内容を示す前記音響属性情報および前記感情情報を有する感情パターンを検索して抽出するパターン検索手段と、
前記パターン検索手段により抽出された感情パターンに含まれる言語属性情報に基づいて、前記テキストを変形することにより、前記言語属性情報の示す言語属性を有する変形テキストを生成するテキスト変形手段と、
前記パターン検索手段により抽出された感情パターンに含まれる音響属性情報に基づいて、前記変形テキストに対して音声合成を行うことにより、前記音響属性情報の示す音響的特徴を有する合成音声を生成する音声合成手段と
を備えることを特徴とする音声合成装置。
【請求項１０】
前記音声合成装置は、さらに、
文を構成するための各構成単位、および前記各構成単位の言語属性を記憶している属性記憶手段を備え、
前記テキスト変形手段は、前記属性記憶手段に記憶されている各言語属性に基づいて、前記属性記憶手段に記憶されている構成単位が適用された前記変形テキストの言語属性が、前記パターン検索手段により抽出された感情パターンの言語属性情報の示す言語属性に近くなるように、前記属性記憶手段に記憶されている構成単位を前記テキストに適用して前記変形テキストを生成する
ことを特徴とする請求項９記載の音声合成装置。
【請求項１１】
前記属性記憶手段は、前記各構成単位の意味内容に応じて、前記各構成単位を複数のクラスに分けて記憶しており、
前記テキスト変形手段は、前記属性記憶手段から前記複数のクラスに従って前記構成単位を選択して前記テキストに適用する
ことを特徴とする請求項１０記載の音声合成装置。
【請求項１２】
記憶手段を用いてテキストを合成音声に変換して出力する音声合成方法であって、
前記記憶手段には、言語属性を示す言語属性情報と、音響的特徴を示す音響属性情報と、前記言語属性と前記音響的特徴によって表現される感情を示す感情情報とから構成される感情パターンが複数格納されており、
前記音声合成方法は、
テキストの言語属性を示す入力言語属性情報を生成する言語属性生成ステップと、
感情を示す入力感情情報を取得する感情取得ステップと、
前記記憶手段に格納されている複数の感情パターンから、前記入力言語属性情報および前記入力感情情報に近い内容を示す前記言語属性情報および前記感情情報を有する感情パターンを検索して抽出するパターン検索ステップと、
前記パターン検索ステップで抽出された感情パターンに含まれる音響属性情報に基づいて、前記テキストに対して音声合成を行うことにより、前記音響属性情報の示す音響的特徴を有する合成音声を生成する音声合成ステップと
を含むことを特徴とする音声合成方法。
【請求項１３】
記憶手段を用いてテキストを合成音声に変換して出力する音声合成方法であって、
前記記憶手段には、言語属性を示す言語属性情報と、音響的特徴を示す音響属性情報と、前記言語属性と前記音響的特徴によって表現される感情を示す感情情報とから構成される感情パターンが複数格納されており、
前記音声合成方法は、
音響的特徴を示す入力音響属性情報を取得する音響属性取得ステップと、
感情を示す入力感情情報を取得する感情取得ステップと、
前記記憶手段に格納されている複数の感情パターンから、前記入力音響属性情報および前記入力感情情報に近い内容を示す前記音響属性情報および前記感情情報を有する感情パターンを検索して抽出するパターン検索ステップと、
前記パターン検索ステップで抽出された感情パターンに含まれる言語属性情報に基づいて、文を構成するための構成単位の選択を行うことにより、前記言語属性情報の示す言語属性を有するテキストを生成するテキスト生成ステップと、
前記入力音響属性情報に基づいて、前記テキストに対して音声合成を行うことにより、前記入力音響属性情報の示す音響的特徴を有する合成音声を生成する音声合成ステップと
を含むことを特徴とする音声合成方法。
【請求項１４】
記憶手段を用いてテキストを合成音声に変換して出力する音声合成方法であって、
前記記憶手段には、言語属性を示す言語属性情報と、音響的特徴を示す音響属性情報と、前記言語属性と前記音響的特徴によって表現される感情を示す感情情報とから構成される感情パターンを複数格納されており、
前記音声合成方法は、
テキストを取得するテキスト取得ステップと、
音響的特徴を示す入力音響属性情報を取得する音響属性取得ステップと、
感情を示す入力感情情報を取得する感情取得ステップと、
前記記憶手段に格納されている複数の感情パターンから、前記入力音響属性情報および前記入力感情情報に近い内容を示す前記音響属性情報および前記感情情報を有する感情パターンを検索して抽出するパターン検索ステップと、
前記パターン検索ステップで抽出された感情パターンに含まれる言語属性情報に基づいて、前記テキストを変形することにより、前記言語属性情報の示す言語属性を有する変形テキストを生成するテキスト変形ステップと、
前記パターン検索ステップで抽出された感情パターンに含まれる音響属性情報に基づいて、前記変形テキストに対して音声合成を行うことにより、前記音響属性情報の示す音響的特徴を有する合成音声を生成する音声合成ステップと
を含むことを特徴とする音声合成方法。
【請求項１５】
記憶手段を用いてテキストを合成音声に変換して出力するためのプログラムであって、
前記記憶手段には、言語属性を示す言語属性情報と、音響的特徴を示す音響属性情報と、前記言語属性と前記音響的特徴によって表現される感情を示す感情情報とから構成される感情パターンが複数格納されており、
前記プログラムは、
テキストの言語属性を示す入力言語属性情報を生成する言語属性生成ステップと、
感情を示す入力感情情報を取得する感情取得ステップと、
前記記憶手段に格納されている複数の感情パターンから、前記入力言語属性情報および前記入力感情情報に近い内容を示す前記言語属性情報および前記感情情報を有する感情パターンを検索して抽出するパターン検索ステップと、
前記パターン検索ステップで抽出された感情パターンに含まれる音響属性情報に基づいて、前記テキストに対して音声合成を行うことにより、前記音響属性情報の示す音響的特徴を有する合成音声を生成する音声合成ステップと
をコンピュータに実行させることを特徴とするプログラム。
【請求項１６】
記憶手段を用いてテキストを合成音声に変換して出力するためのプログラムであって、
前記記憶手段には、言語属性を示す言語属性情報と、音響的特徴を示す音響属性情報と、前記言語属性と前記音響的特徴によって表現される感情を示す感情情報とから構成される感情パターンが複数格納されており、
前記プログラムは、
音響的特徴を示す入力音響属性情報を取得する音響属性取得ステップと、
感情を示す入力感情情報を取得する感情取得ステップと、
前記記憶手段に格納されている複数の感情パターンから、前記入力音響属性情報および前記入力感情情報に近い内容を示す前記音響属性情報および前記感情情報を有する感情パターンを検索して抽出するパターン検索ステップと、
前記パターン検索ステップで抽出された感情パターンに含まれる言語属性情報に基づいて、文を構成するための構成単位の選択を行うことにより、前記言語属性情報の示す言語属性を有するテキストを生成するテキスト生成ステップと、
前記入力音響属性情報に基づいて、前記テキストに対して音声合成を行うことにより、前記入力音響属性情報の示す音響的特徴を有する合成音声を生成する音声合成ステップと
をコンピュータに実行させることを特徴とするプログラム。
【請求項１７】
記憶手段を用いてテキストを合成音声に変換して出力するためのプログラムであって、
前記記憶手段には、言語属性を示す言語属性情報と、音響的特徴を示す音響属性情報と、前記言語属性と前記音響的特徴によって表現される感情を示す感情情報とから構成される感情パターンを複数格納されており、
前記プログラムは、
テキストを取得するテキスト取得ステップと、
音響的特徴を示す入力音響属性情報を取得する音響属性取得ステップと、
感情を示す入力感情情報を取得する感情取得ステップと、
前記記憶手段に格納されている複数の感情パターンから、前記入力音響属性情報および前記入力感情情報に近い内容を示す前記音響属性情報および前記感情情報を有する感情パターンを検索して抽出するパターン検索ステップと、
前記パターン検索ステップで抽出された感情パターンに含まれる言語属性情報に基づいて、前記テキストを変形することにより、前記言語属性情報の示す言語属性を有する変形テキストを生成するテキスト変形ステップと、
前記パターン検索ステップで抽出された感情パターンに含まれる音響属性情報に基づいて、前記変形テキストに対して音声合成を行うことにより、前記音響属性情報の示す音響的特徴を有する合成音声を生成する音声合成ステップと
をコンピュータに実行させることを特徴とするプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、テキストを合成音声に変換して出力する音声合成装置に関し、特に、感情が含まれるような合成音声を生成する音声合成装置に関する。
【背景技術】
【０００２】
従来より、テキストに対して音声合成を行い、話者の感情が聴取者に伝わるような音響の合成音声を出力する音声合成装置（電子メール受信装置）が提案されている（例えば、特許文献１参照）。
【０００３】
上記特許文献１の音声合成装置は、テキストに対して、喜びや怒り、悲しみなどの感情を示す感情パラメータが付加されているか否かを判別する。そして、この音声合成装置は、感情パラメータが付加されていれば、その感情パラメータに基づいて、基本周波数の変調や音韻継続時間の変更などを行い、その結果が反映された音響の合成音声を出力する。例えば、その音声合成装置は、感情パラメータが怒りを示していれば、全体的に声を高くして語尾を強調するような音響の合成音声を出力し、感情パラメータが悲しみを示していれば、全体的に声を低くして語尾を弱めるような音響の合成音声を出力する。
【０００４】
また、上記特許文献１の音声合成装置とは逆に、ユーザの音声によって示される言語表現と、その音声に含まれる感情とを認識し、その認識結果に対する応答を合成音声で出力する音声対話装置が提案されている（例えば、特許文献２参照）。
【０００５】
上記特許文献２の音声対話装置では、ユーザの入力音声を音声認識し、言語表現より抽出された感情を示す概念感情情報を生成するとともに、ユーザの入力音声の発話速度と音声強度より抽出された感情を示す感情情報を生成する。そして、この音声対話装置では、このように言語表現より抽出された概念感情情報と音声より抽出された感情情報とを加算して、ユーザの感情パラメータを決定する。
【０００６】
図３０は、上記特許文献２に記載された従来の音声対話装置のブロック図である。
図３０において、感情情報抽出部２０４は、入力音声の発話速度と音声強度を分析し、速度と強度のそれぞれの標準パターンとの差に基づいて感情情報を決定し、その感情情報を、ユーザ感情パラメータ生成部に出力する。言語理解部２０３は、入力音声の認識結果である単語列を、シソーラスあるいは類義語辞典のように、単語が表す概念に置き換えて、概念信号としてユーザ感情パラメータ生成部２０５へ出力する。ユーザ感情パラメータ生成部２０５は、言語理解部２０３より出力された概念信号から生成した概念感情情報と感情情報抽出部２０４より出力された感情情報とを加算してユーザ感情情報（上述の感情パラメータ）を生成する。これにより、上記特許文献２の音声対話装置は、ユーザが言葉とは裏腹な感情を抱いていた場合でも正確にユーザの感情を認識する。
【特許文献１】特開２００１−３４２８０号公報
【特許文献２】特開２００２−１２３２８９(第４頁−第５頁、図1)
【発明の開示】
【発明が解決しようとする課題】
【０００７】
しかしながら、上記特許文献１の音声合成装置では、使用者が合成音声全体により表現しようする感情およびテキストに応じて適切な音響的特徴を有する合成音声を生成することができないという問題がある。
【０００８】
つまり、従来の音声合成技術では、音声全体によって表現あるいは伝達される感情と、特定の感情を表す音響的な特徴とが混同されている。言い換えれば、音響的な「怒りを表す特徴」や「喜びを表す特徴」といった制御しうる音響的な発話スタイルの特徴と、言語的内容を含めて出力される音声全体によって「表現あるいは伝達される感情」とが同一視されている。したがって、上記特許文献１の音声合成装置では、音声全体によって所望の感情を表現あるいは伝達するために、音声合成の対象とされるテキストに関わらず、音響的な発話スタイルの特徴を調整することにより、音声による感情表現を実現している。
【０００９】
しかし、例えば日常の会話において伝達される意図や感情が、その言語的内容と音響的な特徴の双方から影響を受けるという事実がある。例えば、「喜び」を伝達するはずの音響的特徴を持つ発話スタイルで「良かったね」と発話すれば、その発話された音声は、言語表現を含めた音声全体で、素直な喜びや、共感を表現する音声となる。ところが、「怒り」を伝達するはずの音響的特徴を持つ発話スタイルで「良かったね」と発話すれば、その発話された音声は、言語表現を含めた音声全体で、皮肉を表現する音声となる。同様に、「謝罪」あるいは「悲しみ」を表す音響的特徴を持つ発話スタイルで「悪かったね」と発話すれば、その発話された音声は、言語表現を含めた音声全体で、謝罪や申し訳ない気持ちを表現する音声となるが、「喜び」の音響的特徴を持つ発話スタイルで「悪かったね」と発話すれば、その発話された音声は、言語表現を含めた音声全体で、嘲笑や小ばかにしたような感情を伝達する音声となる。このように、音声全体によって表現される感情は、音声の音響的特徴だけではなく、その音響的特徴と、テキストの言語的内容を示す言語属性とによって変化する。
【００１０】
したがって、上記特許文献１の音声合成装置では、テキストの言語属性に関わらず、音響的特徴を調整しようとするため、そのテキスの合成音声によって、「怒り」を表現するはずが、皮肉を表現してしまったり、喜びを表現するはずが、嘲笑を表現してしまったりする。このように、この音声合成装置では、合成音声全体で表現しようとする感情を適切に制御することができず、複雑な感情を表現することができない。すなわち、上記特許文献１の音声合成装置では、皮肉や嘲笑といった言語的内容によって表される属性と音響的特性によって現される属性が逆転するような複雑な感情や表情を表現する合成音声を制御することが非常に困難であり、合成音声の生成時にそれらの複雑な感情や表情をユーザが思い通りに制御することが困難である。
【００１１】
つまり、上記特許文献１の音声合成装置では、合成音声の言語属性と、合成音声の音響的特徴と、使用者が合成音声全体により表現しようする感情との相互の関連性を適切に保つことができず、使用者が合成音声全体により表現しようする感情とテキストの言語属性とに応じて適切な音響的特徴を有する合成音声を生成することができない。
【００１２】
なお、上記特許文献２の音声対話装置では、音声全体で表現あるいは伝達される感情が言語的内容と音響的特徴との組み合わせによって制御されていることに着目して、入力音声によって伝達された感情を正確に理解しているが、その入力音声に対する応答である出力音声の生成においては、言語表現にシステム感情を反映させるのみで、出力音声の音響的特徴による感情制御は行っていない。
【００１３】
そこで、本発明は、かかる問題に鑑みてなされたものであって、合成音声の言語属性と、合成音声の音響的特徴と、使用者が合成音声全体により表現しようする感情との相互の関連性を適切に保つ音声合成装置を提供することを目的とする。
【課題を解決するための手段】
【００１４】
上記目的を達成するために、本発明に係る音声合成装置は、テキストを合成音声に変換して出力する音声合成装置であって、言語属性を示す言語属性情報と、音響的特徴を示す音響属性情報と、前記言語属性と前記音響的特徴によって表現される感情を示す感情情報とから構成される感情パターンを複数保持する感情パターン保持手段と、テキストの言語属性を示す入力言語属性情報を生成する言語属性生成手段と、感情を示す入力感情情報を取得する感情取得手段と、前記感情パターン保持手段に保持されている複数の感情パターンから、前記入力言語属性情報および前記入力感情情報に近い内容を示す前記言語属性情報および前記感情情報を有する感情パターンを検索して抽出するパターン検索手段と、前記パターン検索手段により抽出された感情パターンに含まれる音響属性情報に基づいて、前記テキストに対して音声合成を行うことにより、前記音響属性情報の示す音響的特徴を有する合成音声を生成する音声合成手段とを備えることを特徴とする。
【００１５】
これにより、感情パターン保持手段の各感情パターンにはそれぞれ、言語属性と、音響的特徴と、それらによって表現される感情とが関連付けられおり、入力言語属性情報および入力感情情報に近い内容を有する感情パターンが抽出され、その感情パターンに含まれる音響属性情報の示す音響的特徴を有する合成音声が生成されるため、使用者が合成音声全体で表現しようとする感情を示す入力感情情報が感情取得手段によって取得されたときには、テキストの言語属性、合成音声の音響的特徴、およびその入力感情情報の示す感情を、感情パターンで関連付けられた言語属性、音響的特徴、および感情に近づけることができ、その結果、テキストの言語属性、つまり合成音声の言語属性と、合成音声の音響的特徴と、使用者が合成音声全体により表現しようとする感情との相互の関連性を適切に保つことができる。したがって、合成音声全体により表現しようする感情およびテキストに応じて適切な音響的特徴を有する合成音声を生成することができる。さらに、合成音声全体で表現しようとする感情を適切に制御することができ、複雑な感情を表現することができる。
【００１６】
また、前記感情パターンに含まれる前記感情情報、言語属性情報、および音響属性情報のうちの何れか１つの情報と他の情報とは、それぞれ相反する内容を示すことを特徴としてもよい。
【００１７】
これにより、例えば、感情パターンに含まれる言語属性情報と音響属性情報とがそれぞれ相反する内容を示す場合であっても、その感情パターンには、そのように相反する内容によって表現される感情を示す感情情報が含まれているため、このような感情パターンがパターン検索手段により抽出されたときには、使用者が合成音声全体で表現しようとする複雑な感情を示す合成音声を生成することができる。
【００１８】
また、前記言語属性生成手段は、前記テキストを取得するテキスト取得手段と、前記テキスト取得手段により取得されたテキストに対して言語解析を行なうことにより前記入力言語属性情報を生成する解析手段とを備えることを特徴としてもよい。
【００１９】
これにより、使用者は、テキストを入力すれば、そのテキストに対する合成音声を簡単に生成することができる。
【００２０】
ここで、上記目的を達成するために、本発明に係る音声合成装置は、テキストを合成音声に変換して出力する音声合成装置であって、言語属性を示す言語属性情報と、音響的特徴を示す音響属性情報と、前記言語属性と前記音響的特徴によって表現される感情を示す感情情報とから構成される感情パターンを複数保持する感情パターン保持手段と、音響的特徴を示す入力音響属性情報を取得する音響属性取得手段と、感情を示す入力感情情報を取得する感情取得手段と、前記感情パターン保持手段に保持されている複数の感情パターンから、前記入力音響属性情報および前記入力感情情報に近い内容を示す前記音響属性情報および前記感情情報を有する感情パターンを検索して抽出するパターン検索手段と、前記パターン検索手段により抽出された感情パターンに含まれる言語属性情報に基づいて、文を構成するための構成単位の選択を行うことにより、前記言語属性情報の示す言語属性を有するテキストを生成するテキスト生成手段と、前記入力音響属性情報に基づいて、前記テキストに対して音声合成を行うことにより、前記入力音響属性情報の示す音響的特徴を有する合成音声を生成する音声合成手段とを備えることを特徴とする。
【００２１】
これにより、感情パターン保持手段の各感情パターンにはそれぞれ、言語属性と、音響的特徴と、それらによって表現される感情とが関連付けられおり、入力音響属性情報および入力感情情報に近い内容を有する感情パターンが抽出され、その感情パターンに含まれる言語属性情報の示す言語属性を有するテキストが生成されるため、使用者が合成音声全体で表現しようとする感情を示す入力感情情報が感情取得手段によって取得され、使用者の所望の音響的特徴を示す入力音響属性情報が音響属性取得手段によって取得されたときには、使用者の所望の音響的特徴と、使用者が合成音声全体で表現しようとする感情とに応じた言語属性を有するテキストを適切に生成することができる。さらに、そのテキストに対して音声合成を行って、入力音響属性情報の示す音響的特徴を有する合成音声が生成されるため、合成音声の言語属性、入力音響属性情報の示す音響的特徴、および入力感情情報の示す感情を、感情パターンで関連付けられた言語属性、音響的特徴、および感情に近づけることができ、その結果、合成音声の言語属性と、合成音声の音響的特徴と、使用者が合成音声全体により表現しようとする感情との相互の関連性を適切に保つことができる。
【００２２】
ここで、上記目的を達成するために、本発明に係る音声合成装置は、テキストを合成音声に変換して出力する音声合成装置であって、言語属性を示す言語属性情報と、音響的特徴を示す音響属性情報と、前記言語属性と前記音響的特徴によって表現される感情を示す感情情報とから構成される感情パターンを複数保持する感情パターン保持手段と、テキストを取得するテキスト取得手段と、音響的特徴を示す入力音響属性情報を取得する音響属性取得手段と、感情を示す入力感情情報を取得する感情取得手段と、前記感情パターン保持手段に保持されている複数の感情パターンから、前記入力音響属性情報および前記入力感情情報に近い内容を示す前記音響属性情報および前記感情情報を有する感情パターンを検索して抽出するパターン検索手段と、前記パターン検索手段により抽出された感情パターンに含まれる言語属性情報に基づいて、前記テキストを変形することにより、前記言語属性情報の示す言語属性を有する変形テキストを生成するテキスト変形手段と、前記パターン検索手段により抽出された感情パターンに含まれる音響属性情報に基づいて、前記変形テキストに対して音声合成を行うことにより、前記音響属性情報の示す音響的特徴を有する合成音声を生成する音声合成手段とを備えることを特徴とする。
【００２３】
これにより、感情パターン保持手段の各感情パターンにはそれぞれ、言語属性と、音響的特徴と、それらによって表現される感情とが関連付けられおり、入力音響属性情報および入力感情情報に近い内容を有する感情パターンが抽出され、その感情パターンに含まれる言語属性情報の示す言語属性を有するように、テキスト取得手段で取得されたテキストが変形されるため、使用者が合成音声全体で表現しようとする感情を示す入力感情情報が感情取得手段によって取得され、使用者の所望の音響的特徴を示す入力音響属性情報が音響属性取得手段によって取得されたときには、テキスト取得手段で取得されたテキストを、使用者の所望の音響的特徴と、使用者が合成音声全体で表現しようとする感情とに応じた言語属性を有する変形テキストに適切に変形することができる。さらに、その変形されたテキストに対して音声合成を行って、上述の抽出された感情パターンに含まれる音響属性情報の示す音響的特徴を有する合成音声が生成されるため、合成音声の言語属性、合成音声の示す音響的特徴、および入力感情情報の示す感情を、感情パターンで関連付けられた言語属性、音響的特徴、および感情に近づけることができ、その結果、合成音声の言語属性と、合成音声の音響的特徴と、使用者が合成音声全体により表現しようとする感情との相互の関連性を適切に保つことができる。
【００２４】
なお、本発明は、このような音声合成装置として実現することができるだけでなく、その方法やプログラム、そのプログラムを格納する記憶媒体としても実現することができる。
【発明の効果】
【００２５】
本発明の音声合成装置は、合成音声の言語属性と、合成音声の音響的特徴と、使用者が合成音声全体により表現しようする感情との相互の関連性を適切に保つことができ、言語的内容と音響的特性と音声全体で表現される感情との関係を制御することで、言語的内容によって表される属性と音響的特性によって現される属性が逆転するような、例えば皮肉や嘲笑といった複雑な感情や表情を音声によって表現し、ユーザの望む音声および言語内容を生成することができる。
【発明を実施するための最良の形態】
【００２６】
まず、本発明の着想点を説明する。
音声合成の技術開発において、正確な発音の自然な音声を合成するための技術開発がなされてきた。その過程において、特別な感情の表現や起伏は無いが、人間と区別が付かないほどに自然な音声で淡々とテキストを読み上げる音声合成装置が完成し、利用されている。しかし、このような淡々と読み上げる音声合成装置に手紙、電子メール、あるいは店舗の広告文のような感情や価値判断等を含む文章を入力すると、しばしば、その音声に違和感を感じることがある。言語内容としては賞賛としてしか表現されていなかった部分が「皮肉」や「非難」として感じられる場合である。言語内容としては「賞賛」であり、音声の音響的特徴としては「無感情」であり、どちらか一方だけでは「皮肉」や「非難」を表現しないにもかかわらず、言語内容と音声の音響的特徴とが合わさることで、まったく異なる感情を表出することになるという事実が明らかになった。
【００２７】
本発明は、このように言語内容と音響的特徴とがそれぞれ異なる内容を表現する場合、音声全体としては、言語内容と音響的特徴とのどちらとも異なる内容を表現するという、音声言語に特徴的な表現方法を音声合成装置として実現するための構成を明らかにするものである。
【００２８】
以下、本発明の実施の形態について、図面を参照しながら説明する。
【００２９】
（実施の形態１）
図１は、本発明の実施の形態１における音声合成装置の機能ブロック図である。
【００３０】
本実施の形態における音声合成装置３００は、図１に示すように、テキスト入力部３０１と、感情入力部３０２と、属性付き辞書３０３と、言語解析部３０４と、言語属性解析部３０５と、感情データベース３０６と、パターン検索部３０７ａと、発話スタイル制御部３０８と、音声合成部３０９と、音声出力部３１０とを備えている。
【００３１】
テキスト入力部３０１は、テキスト取得手段として構成されており、音声に変換するための原稿としての入力テキストを受け付ける。つまり、使用者はこのテキスト入力部３０１に対して入力テキストを入力する。
【００３２】
感情入力部３０２は、感情を示す入力感情情報（感情ベクトル）を取得する感情取得手段として構成されており、喜怒哀楽や皮肉、嘲笑といった音声全体で表現あるいは伝達しようとする感情や、依頼や命令といった話者の態度、対等か目上か、主従の関係か等の話者と聴取者の社会的関係性といった、日常的な人間同士の会話において言葉遣いや口調、声質等によって表現あるいは伝達される概念を取得する。ここでは、これらを代表して感情と呼ぶ。つまり、使用者はこの感情入力部３０２に対して感情（感情ベクトル）を入力する。
【００３３】
属性付き辞書３０３は、読みアクセント、アクセント結合情報等の通常の音声合成に見られる言語処理用辞書内容に加えて、各形態素の言語属性ベクトルを保持する。
【００３４】
言語解析部３０４は、入力テキストに対して形態素解析および構文解析を行い、読み、アクセント、区切り位置などを決定する。そして、言語解析部３０４は、決定された読み、アクセント、区切り位置などを示す読み情報を出力する。さらに、言語解析部３０４は、入力テキストの形態素ごとに、属性付き辞書３０３からその形態素の言語属性ベクトルを抽出して出力する。
【００３５】
言語属性解析部３０５は、入力テキストの形態素ごと、あるいは内容語ごとに設定された言語属性ベクトルを、入力テキストの文ごと、フレーズごと等の単位で統合する。例えば、言語属性解析部３０５は、形態素ごとの言語属性ベクトルを、入力テキストの文ごとに統合したときには、１文ごとの言語属性ベクトルと、上述の読み情報とを出力する。
【００３６】
なお、本実施の形態では、言語解析部３０４および言語属性解析部３０５は、上述のテキスト取得手段により取得されたテキストに対して言語解析を行なうことにより入力言語属性情報（１文ごとの言語属性ベクトル）を生成する解析手段として構成されている。また、本実施の形態では、テキスト入力部３０１、言語解析部３０４および言語属性解析部３０５は、テキストの言語属性を示す入力言語属性情報（１文ごとの言語属性ベクトル）を生成する言語属性生成手段として構成されている。
【００３７】
感情データベース３０６は、実際の音声言語より作成された、言語属性ベクトルと、音響属性ベクトルと、感情ベクトルとから構成される感情表出パターンを複数個蓄積している。
【００３８】
言語属性ベクトルは、言語的内容、意味あるいは概念のもつ好悪のような感情や、依頼や命令といった話者の態度、対等か目上か、主従の関係か等の話者と聴取者の社会的関係性を構成する属性を示す。
【００３９】
音響属性ベクトルは、音響的特徴として平均ピッチやピッチのダイナミックレンジ、声門開放度のような感情や、依頼や命令といった話者の態度、対等か目上か、主従の関係か等の話者と聴取者の社会的関係性を表現するのに用いられている音響的特徴量を示す。
【００４０】
感情ベクトルは、音声全体として表現されている感情や、依頼や命令といった話者の態度、対等か目上か、主従の関係か等の話者と聴取者の社会的関係性を示す。
【００４１】
なお、感情データベース３０６は、例えば、話者の感情や表情や態度が現れた実際に発話された音声に対し、複数人に対して実施された言語的内容と声質や口調といった音響的特徴をあわせた音声全体の印象を問うアンケート調査によって音声ごとに特定された印象と、言語属性の分析結果と音響特徴の分析結果とを合わせて記録することによって作られる。
【００４２】
なお、本実施の形態では、感情データベース３０６は、言語属性を示す言語属性情報（言語属性ベクトル）と、音響的特徴を示す音響属性情報（音響属性ベクトル）と、その言語属性と音響的特徴によって表現される感情を示す感情情報（感情ベクトル）とから構成される感情パターン（感情表出パターン）を複数保持する感情パターン保持手段として構成されている。また、何れかの感情パターンに含まれる感情情報、言語属性情報、および音響属性情報のうちの何れか１つの情報と他の情報とは、それぞれ相反する内容を示している。例えば、言語属性情報たる言語属性ベクトルによって表現される印象が怒りを示す一方、音響属性情報たる音響属性ベクトルによって表現される印象が喜びを示すことがある。
【００４３】
パターン検索部３０７ａは、言語属性解析部３０５より出力された文ごとの言語属性ベクトルと、感情入力部３０２より取得された感情ベクトルとを検索キーとして用い、感情データベース３０６を検索する。そして、パターン検索部３０７ａは、その検索キーに該当する感情表出パターンを抽出する。
【００４４】
なお、本実施の形態では、パターン検索部３０７ａは、上述の感情パターン保持手段に保持されている複数の感情パターンから、入力言語属性情報および入力感情情報に近い内容を示す言語属性情報および前記感情情報を有する感情パターンを検索して抽出するパターン検索手段として構成されている。
【００４５】
発話スタイル制御部３０８は、パターン検索部３０７ａで抽出された感情表出パターンに含まれる音響属性ベクトルに基づいて、音声合成パラメータの変形情報を生成する。
【００４６】
音声合成部３０９は、言語解析部３０４で生成された読み情報の示す読み、アクセント等に従って音声合成を行う。このとき、音声合成部３０９は、発話スタイル制御部３０８からの変形情報に従ってパラメータを変形して音声を合成する。
【００４７】
なお、本実施の形態では、発話スタイル制御部３０８および音声合成部３０９は、上述のパターン検索手段により抽出された感情パターンに含まれる音響属性情報に基づいて、テキストに対して音声合成を行うことにより、その音響属性情報の示す音響的特徴を有する合成音声を生成する音声合成手段として構成されている。
【００４８】
音声出力部３１０は、音声合成部３０９で生成された合成音声を出力する。
図２は、実施の形態１における音声合成部３０９のブロック図である。
【００４９】
音声合成部３０９は、図２に示すとおり、読み情報に基づいて音声の韻律情報を生成する韻律生成部３１１と、変形情報に含まれる韻律変形情報に基づいて、韻律情報の示す韻律を変形する韻律変形部３１２と、音声合成パラメータを音素ごとに記録したパラメータ素片データベース３１３と、変形射された韻律と読み情報とよりパラメータ素片データベース３１３から最適な音声合成パラメータを選択するパラメータ選択部３１４と、選択された音声合成パラメータを、変形情報に含まれる声質パラメータ変形情報に従って変形する声質パラメータ変形部３１５と、変形された音声合成パラメータから波形を生成する波形生成部３１６とを備えている。
【００５０】
図３は、本実施の形態における感情入力部３０２を示す図である。
感情入力部３０２は、例えば、図３に示すようなインタフェースを有し、使用者による操作に基づいて、使用者が音声によって表現しようとする感情を取得する。このようなインタフェースを有する感情入力部３０２は、人間の様々な感情が基本的な８つの感情とその強度の組み合わせによって表現されるというプルチックの「情動の立体モデル」に従って構成されたものであって、基本感情の強度を８つのスライダで調整できるようにしたものである。例えば、使用者は嫌みな印象を与える音声を合成しようとする場合には、嫌悪のレベルを「４」に設定し、怒りのレベルを「２」に設定し、さらに、喜びのレベルを「１」に設定し、他の感情（例えば、悲しみ、驚き、恐れ、親しみ、警戒）のレベルを「０」に設定する。このようにして設定された嫌みの感情は、基本感情による感情ベクトルとしてパターン検索部３０７ａに出力される。即ち、感情ベクトルは、（怒り、嫌悪、悲しみ、驚き、恐れ、親しみ、喜び、警戒）の各要素からなり、上述のように設定されたときには、感情ベクトル＝（ 2， 4， 0， 0， 0， 0， 1， 0）となる。
【００５１】
図４は、属性付き辞書３０３に含まれるデータの内容と、形態素ごとの言語属性ベクトルを示す図である。
【００５２】
属性付き辞書３０３は、図４の（ａ）に示すように、形態素ごとに、読みや品詞、活用型等の音声合成および構文解析に必要な情報と、内容語属性または機能語属性からなる言語属性ベクトルを保持している。内容語属性は、内容語の示す、丁寧さ、上昇下降、賞罰、および美醜の４つの要素を有し、機能語属性は、機能語の示す、丁寧さ、全体強調、および部分強調の３つの要素を有する。内容語とは、名詞や、動詞、形容詞などのその形態素自身が意味をもつものであって、機能語とは、例えば助詞や助動詞など、その形態素自身の意味よりも他の内容語の意味を活用するような役割をもつものである。また、上昇下降とは、相手を持ち上げたり下げたりするような属性を示し、賞罰は、相手を褒めたりけなしたりするような属性を示し、美醜は、相手を美しく表現したり醜く表現したりするような属性を示す。例えば、「きれいな」という内容語に対する言語属性ベクトルは、内容語属性の（ 0， 1， 2， 1）から構成され、「た」という機能語に対する言語属性ベクトルは、機能語属性の（ 0， 0， 0）から構成される。
【００５３】
言語解析部３０４は、テキスト入力部３０１から入力テキストを取得すると、その入力テキストに含まれる形態素ごとに、その形態素の言語属性ベクトルと読み情報とを、属性付き辞書３０３から抽出する。例えば、入力テキストが「きれいな花が咲きましたね。」である場合には、言語解析部３０４は、図４の（ｂ）に示すように、「きれいな」という形容動詞である内容語に対して、言語属性ベクトル（丁寧さ、上昇下降、賞罰、美醜）＝（ 0， 1， 2， 1）を抽出する。さらに、言語解析部３０４は、「花」という名詞である内容語に対して、言語属性ベクトル（丁寧さ、上昇下降、賞罰、美醜）＝（ 0， 1， 0， 2）を抽出し、「が」という助詞である機能語に対して、言語属性ベクトル（丁寧さ、全体強調、部分強調）＝（ 0， 0， 0）を抽出し、「咲き」という動詞である内容語に対して、言語属性ベクトル（丁寧さ、上昇下降、賞罰、美醜）＝（ 0， 1， 1， 1）を抽出し、「まし」という助動詞である機能語に対して、言語属性ベクトル（丁寧さ、全体強調、部分強調）＝（ 1， 0， 0）を抽出し、「た」という助動詞である機能語に対して、言語属性ベクトル（丁寧さ、全体強調、部分強調）＝（ 0， 0， 0）を抽出し、さらに、「ね」という助詞である機能語に対して、言語属性ベクトル（丁寧さ、全体強調、部分強調）＝（ 1， 2， 0）を抽出する。
【００５４】
なお、上記例では、言語解析部３０４は、文中の全形態素について言語属性ベクトルを抽出するものとするが、名詞や動詞のような内容語のみに対して抽出しても良い。
【００５５】
言語属性解析部３０５は、このように抽出された形態素ごとの言語属性ベクトルから、例えば文単位の言語属性ベクトルを算出する。例えば、上述のように入力テキストが「きれいな花が咲きましたね。」である場合には、言語属性解析部３０５は、まず、内容語の言語属性ベクトルの平均、（丁寧さ、上昇下降、賞罰、美醜）＝（ 0， 1， 1， 1.3）を算出する。さらに、言語属性解析部３０５は、機能語の言語属性ベクトルの平均、（丁寧さ、全体強調、部分強調）＝（ 0.5， 0.5， 0）を算出する。そして、言語属性解析部３０５は、内容語の言語属性ベクトルの平均を、機能語の言語属性ベクトルの平均により変形する。即ち、言語属性解析部３０５は、平均された機能語の言語属性ベクトルにおける全体強調が０．５であることから、平均された内容語の言語属性ベクトルの各要素に対して１．５を乗算して、言語属性ベクトル（丁寧さ、上昇下降、賞罰、美醜）＝（ 0， 1.5， 1.5， 2）を算出する。さらに、言語属性解析部３０５は、その算出された言語属性ベクトルに対して、平均された機能語の言語属性ベクトルにおける丁寧さ「０．５」を加算する。これにより、文単位の言語属性ベクトル（丁寧さ、上昇下降、賞罰、美醜）＝（ 0.5， 1.5， 1.5， 2）が算出される。
【００５６】
図５は、感情データベース３０６が格納しているデータの一例を示す模式図である。
感情データベース３０６が格納しているデータには、複数の感情表出パターンが含まれており、各感情表出パターンには、感情ベクトルと言語属性ベクトルと音響属性ベクトルとが含まれている。音響属性ベクトルは、合成音声の音響的特徴を示し、平均ピッチと、ピッチダイナミックレンジと、声門開放度と、スペクトル傾斜と、文末ピッチ変動と、ポーズ頻度となどを構成要素として有する。
【００５７】
図６は、本実施の形態における音声合成装置３００の動作を示すフローチャートである。
【００５８】
音声合成装置３００は、まず、使用者によるテキスト入力部３０１に対する操作に基づいて、使用者が音声に変換しようとする入力テキストを取得し、使用者による感情入力部３０２に対する操作に基づいて、使用者が音声によって表現あるいは伝達しようとする感情を取得する（ステップＳ３０１）。
【００５９】
言語解析部３０４は、ステップＳ３０１で取得された入力テキストを、属性付き辞書３０３を参照することにより形態素に分割する（ステップＳ３０２）。その際、言語解析部３０４は、分割された各形態素について、属性付き辞書３０３に記憶されている形態素の言語属性ベクトルを抽出する。さらに、言語解析部３０４は、構文解析を行う（ステップＳ３０３）。即ち、言語解析部３０４は、文節の決定、文節間の係り受けの解析等の構文解析を行い、フレーズおよびアクセント句を決定し、形態素のつながりによって変化する部分（例えば助数詞の読み。１本、２本は前にある数字によって「ぽん」と「ほん」と読みが変わる）を含めて読みとアクセント位置と区切り位置を決定する。このように決定された内容は、読み情報として出力される。
【００６０】
次に、言語属性解析部３０５は、言語解析部３０４で決定された形態素ごとの言語属性ベクトルを１文単位の言語属性ベクトルにまとめる（ステップＳ３０４）。
【００６１】
パターン検索部３０７ａは、ステップＳ３０１で取得された感情ベクトルと、ステップＳ３０４で生成された文単位の言語属性ベクトルとに基づいて、感情データベース３０６を検索し、その感情ベクトルと言語属性ベクトルに最も近い組み合わせの感情表出パターンを抽出する(ステップＳ３０５)。
【００６２】
例えば、パターン検索部３０７ａは、ステップＳ３０１で、感情ベクトル（怒り、嫌悪、悲しみ、驚き、恐れ、親しみ、喜び、警戒）＝（ 2， 4， 0， 0， 0， 0， 1， 0）を取得し、ステップＳ３０４で、１文単位の言語属性ベクトル（丁寧さ、上昇下降、賞罰、美醜）＝（ 0.5， 1.5， 1.5， 2）を取得する。このとき、パターン検索部３０７ａは、これらの感情ベクトルおよび言語属性ベクトルの組み合わせに最も近い感情ベクトルおよび言語属性ベクトルを有する感情表出パターンを検索する。即ち、パターン検索部３０７ａは、図５に示すように、感情ベクトル（怒り、嫌悪、悲しみ、驚き、恐れ、親しみ、喜び、警戒）＝（ 2， 4， 0， 0， 0， 0， 1， 0）と、言語属性ベクトル（丁寧さ、上昇下降、賞罰、美醜）＝（ 1， 1.5， 1.5， 2）を有する感情表出パターンを見つけ出す。
【００６３】
次に、パターン検索部３０７ａは、ステップＳ３０５で選択された感情表出パターンから音響属性ベクトルを抽出する（ステップＳ３０６）。例えば、ステップＳ３０５で上記例に示すような感情表出パターンが選択されたときには、パターン検索部３０７ａは、ステップＳ３０６で、音響属性ベクトル（平均ピッチ、ピッチダイナミックレンジ、声門開放度、スペクトル傾斜、文末ピッチ変動、ポーズ頻度）＝（ -2， -2， 1， 1， 1， -1）を抽出する。
【００６４】
発話スタイル制御部３０８は、その音響属性ベクトルに基づいて、韻律変形情報と声質パラメータ変形情報からなる変形情報を生成する(ステップＳ３０７)。ここでは例えば、発話スタイル制御部３０８は、その音響属性ベクトルに含まれる平均ピッチおよびピッチダイナミックレンジの属性に基づいて、文全体の標準韻律パターンのパラメータに対して定数倍するための韻律変形情報を生成する。さらに、発話スタイル制御部３０８は、その音響属性ベクトルに含まれる声門開放度の属性に基づいて、文全体の標準パラメータの声門開放度を制御するパラメータに対して定数倍するための声質パラメータ変形情報を生成する。具体的に、発話スタイル制御部３０８は、抽出された音響特性属性ベクトルの各属性に基づいて、例えば平均ピッチを０．７倍にしてピッチダイナミックレンジを０．６倍にするような韻律変形情報と、声門開放度を１．２倍にしてスペクトル傾斜を１．１倍にするような声質パラメータ変形情報を生成する。
【００６５】
なお、ここでは文全体の標準韻律パターンと文全体の標準パラメータを変形するものとしたが、図５に示す文末ピッチ変動のように、文頭、句頭、文末、または句末等や特定の音韻等の局所的な韻律パターンや声質のパラメータを変形するものとしても良い。
【００６６】
一方、音声合成部３０９は、ステップＳ３０３で生成された読みとアクセント位置と区切り位置とを示す読み情報を取得し、韻律生成部３１１は、規則に基づいて、標準発話スタイルもしくは無表情の音声の韻律パターンを生成する（ステップＳ３０８）。そして、韻律変形部３１２は、ステップＳ３０７で生成された変形情報のうち、韻律変形情報にしたがって、ステップＳ３０８で生成された標準発話スタイルの韻律パターンを変形して、ステップＳ３０６で抽出された音響属性ベクトルに合致した韻律パターンを生成する（ステップＳ３０９）。ここでは前述したように、例えば、標準発話スタイルの韻律パターンに対して平均ピッチを０．７倍にしてピッチダイナミックレンジを０．６倍にする。
【００６７】
パラメータ選択部３１４は、ステップＳ３０３で生成された読み情報と、ステップＳ３０９で生成された変形済みの韻律パターンとに基づいて、その読み情報および韻律パターンに応じた素片の音声合成パラメータを、パラメータ素片データベース３１３から選択することで、標準的声質での音声合成パラメータを生成する（ステップＳ３１０）。
【００６８】
さらに、声質パラメータ変形部３１５は、ステップＳ３０７で生成された変形情報のうち声質パラメータ変形情報に従って、ステップＳ３１０で生成した音声合成パラメータの声質パラメータを変形する（ステップＳ３１１）。即ち、声質パラメータ変形部３１５は、ステップＳ３１０で生成された標準的声質の音声合成パラメータを、ステップＳ３０６で抽出された音響属性ベクトルに合致した声質を実現するパラメータに変形する。ここでは前述したように、声質パラメータ変形部３１５は、例えば、標準的声質の音声合成パラメータのうち声門開放度を０．６倍にする。波形生成部３１６は、声質パラメータ変形部３１５で生成された音声合成パラメータに基づき音声波形を生成し（ステップＳ３１２）、音声出力部３１０は、その音声波形を示す合成音声を出力する（ステップＳ３１３）。
【００６９】
かかる構成によれば、入力テキストの言語的属性と入力感情とにしたがって、言語内容による属性と音響的特徴による属性と音声全体で表現あるいは伝達される感情との組み合わせパターンを蓄積した感情データベース３０６より感情表出パターンを選択し、選択された感情表出パターンに含まれる音響属性ベクトルにしたがって音声合成パラメータを変形することにより、入力された感情を、音声の音響的特徴と入力されたテキストの言語表現との組み合わせによって表現することができ、そのような音響的特徴の音声を合成することができる。
【００７０】
図７は、実施の形態１において使用者の入力と、音声合成装置３００の内部状態と、出力された合成音声が与える印象とをそれぞれ対比して示す図である。
【００７１】
図７の行Ｌ７０１および行Ｌ７０２に示すように、入力テキスト「きれいな花が咲きましたね。」に対するテキストのみの印象は、美しく丁寧である。このような場合、行Ｌ７０２のように、入力された感情が「喜び」を示すときには、音響特徴として「声が高く、抑揚が大きく」なるような音響属性ベクトルが生成され、その音響属性ベクトルに応じて生成される合成音声の音響（発話スタイル）の印象は「喜び」を表す。したがって、このような合成音声の音声全体としての印象は、「喜びと親しみ」を表現することになる。
【００７２】
一方、同じ入力テキストであっても行Ｌ７０１のように、入力された感情に「嫌悪や怒り」が含まれているときには、音響的特徴として「声が低く、抑揚が無く」なるような音響属性ベクトルが生成され、その音響属性ベクトルに応じて生成される合成音声の音響（発話スタイル）の印象は、嫌悪や怒りを示す。したがって、このような合成音声の音声全体としての印象は、「嫌み」や「皮肉」を表現するものとなる。
【００７３】
このように、テキストの言語的な印象と、音響的な発話スタイルの印象とが相反することによって、「嫌味」という複雑な感情が表現される。
【００７４】
また、図７の行Ｌ７０３および行Ｌ７０４に示すように、入力テキスト「ざまみやがれ。」に対するテキストのみの印象は、憎憎しく乱暴である。このような場合、行Ｌ７０３のように、入力された感情に「喜び」が含まれているときには、音響的特徴として「喜び」を表すような音響属性ベクトルが生成され、その音響属性ベクトルに応じて生成される合成音声の音響（発話スタイル）の印象は、喜びを示す。したがって、このような合成音声の音声全体としての印象は、単純な憎しみを表現するものではなく、「嘲笑」や「小ばかにしたような態度」といった複雑な感情あるいは表情を表現するものとなる。
【００７５】
すなわち、上述と同様、テキストの言語的な印象と、音響的な発話スタイルの印象とが相反することによって、「嘲笑」などという複雑な感情が表現される。
【００７６】
このように本実施の形態では、使用者の入力に対して音響属性ベクトルを決定することで、合成音声の全体の印象を、言語内容の印象と、音響的特徴による印象との組み合わせによって制御することができる。すなわち、嫌味や皮肉、あるいは嘲笑のように、言語的内容と音響的特徴とによる表現あるいは印象が一致しないことによって表現される複雑な感情や表情を表現する音声を合成することができる。したがって、同一の入力テキストであっても、表現したい感情に合わせて、自動的に音響的特徴を制御して音声全体としてはまったく異なる感情を表現し分けることができる。
【００７７】
つまり、本実施の形態では、感情データベース３０６の各感情表出パターンにはそれぞれ、言語属性ベクトルと、音響属性ベクトルと、それらによって表現される感情ベクトルとが関連付けられおり、入力テキストの言語属性ベクトルおよび入力された感情ベクトルに近い内容を有する感情表出パターンが抽出され、その感情表出パターンに含まれる音響属性ベクトルの示す音響的特徴を有する合成音声が生成されるため、使用者が合成音声全体で表現しようとする感情を感情ベクトルとして感情入力部３０２に入力したときには、テキストの言語属性、合成音声の音響的特徴、およびその感情ベクトルの示す感情を、感情表出パターンで関連付けられた言語属性、音響的特徴、および感情に近づけることができ、その結果、テキストの言語属性、つまり合成音声の言語属性と、合成音声の音響的特徴と、使用者が合成音声全体により表現しようとする感情との相互の関連性を適切に保つことができる。したがって、合成音声全体により表現しようする感情およびテキストに応じて適切な音響的特徴を有する合成音声を生成することができる。さらに、合成音声全体で表現しようとする感情を適切に制御することができ、複雑な感情を表現することができる。
【００７８】
なお、本実施の形態では、発話スタイル制御部３０８は韻律変形情報を韻律変形部３１２に出力し、韻律変形部３１２は韻律生成部３１１で生成された標準韻律パターンを韻律変形情報に従って変形した。しかし、音響属性ベクトルが、図５に示す「ポーズ頻度」等の韻律の制御単位に影響をおよぼす項目を含む場合は、発話スタイル制御部３０８は、韻律制御単位の単位変形情報を含む韻律変形情報を生成し、韻律生成部３１１へその韻律変形情報を出力してもよい。この場合、韻律生成部３１１は、韻律制御単位を単位変形情報に従って変形して標準韻律パターンを生成する。そして、韻律生成部３１１は、標準韻律パターンとあわせて韻律変形情報を韻律変形部３１２へ出力する。
【００７９】
＜変形例１＞
ここで、本実施の形態における音声合成部３０９の変形例について説明する。
【００８０】
上記実施の形態における音声合成部３０９は、図２に示すように、韻律生成部３１１、韻律変形部３１２、パラメータ素片データベース３１３、パラメータ選択部３１４、声質パラメータ変形部３１５、および波形生成部３１６によって構成される。そして、その音声合成部３０９は、標準発話スタイルの韻律パターンを生成した後にその韻律パターンを変形し、変形した韻律パターンにあわせて音声合成パラメータを選択した後に、その音声合成パラメータに含まれる声質パラメータを変形して波形を生成する。
【００８１】
一方、本変形例に係る音声合成部は、標準発話スタイルの音声合成パラメータを選択して、その音声合成パラメータの示す韻律と声質とを変形する。
【００８２】
図８は、本変形例に係る音声合成部のブロック図である。
本変形例に係る音声合成部３０９ａは、図８に示すように、上記実施の形態の音声合成部３０９の構成に対して、韻律変形部３１２がなく、声質パラメータ変形部３１５をパラメータ変形部３２５に入れ替えて構成されている。
【００８３】
この音声合成部３０９ａの韻律生成部３１１は、標準発話スタイルでの韻律を生成し、パラメータ選択部３１４は、パラメータ素片データベース３１３から、標準発話スタイルの素片ごとの音声合成パラメータを選択することで、韻律、声質とも標準発話スタイルの音声合成パラメータを生成する。パラメータ変形部３２５は、パラメータ選択部３１４で生成された標準発話スタイルの音声合成パラメータを、変形情報に従って変形する。その結果、パターン検索部３０７ａによって抽出された音響属性ベクトルに合致した音声合成パラメータが生成される。そして、波形生成部３１６は、その音声合成パラメータに基づいて合成音声の波形を生成する。
【００８４】
なお、パラメータによる音声合成以外の方式で生成した波形に対して、後処理として音声波形を変形する手段を備えてもよい。この場合には、標準発話スタイルの音声波形が、パターン検索部３０７ａによって抽出された音響属性ベクトルに合致した合成音声を示すように変形される。
【００８５】
＜変形例２＞
ここで、本実施の形態における音声合成部３０９の他の変形例について説明する。
【００８６】
本変形例に係る音声合成部は、波形接続方式により音声を生成する。
図９は、本変形例に係る音声合成部のブロック図である。
【００８７】
本変形例に係る音声合成部３０９ｂは、図９に示すように、上記実施の形態の音声合成部３０９の構成に対して、パラメータ素片データベース３１３を音声素片データベース３３３に入れ替え、パラメータ選択部３１４を素片選択部３３４に置き換え、声質パラメータ変形部３１５がなく、波形生成部３１６を波形接続部３３６に入れ替えて構成される。
【００８８】
また、本変形例に係る発話スタイル制御部３０８は、上述の声質パラメータ変形情報に変わって、パターン検索部３０７ａによって抽出された音響属性ベクトルに応じた音声素片が選択されるために、その音声素片の性質を指定する内容の素片選択条件変形情報を生成する。
【００８９】
この音声合成部３０９ｂの韻律生成部３１１は、標準発話スタイルの韻律を生成し、その韻律の韻律パターンを韻律変形情報に基づいて変形する。そして、素片選択部３３４は、読み、アクセント、および区切を示す読み情報と、変形された韻律パターンと、素片選択条件変形情報に従って、音声素片データベース３３３から、音響属性ベクトルに合った音声素片を選択する。波形接続部３３６は、その音声素片の波形を接続して音声波形を生成する。
【００９０】
＜変形例３＞
ここで、本実施の形態における音声合成部３０９のさらに他の変形例について説明する。
【００９１】
本変形例に係る音声合成部は、学習モデルなどのルールにしたがって音声合成パラメータを生成するように、規則合成方式による音声を生成する。
【００９２】
図１０は、本変形例に係る音声合成部のブロック図である。
本変形例に係る音声合成部３０９ｃは、図１０に示すように、上記実施の形態の音声合成部３０９の構成に対して、パラメータ素片データベース３１３、韻律変形部３１２、声質パラメータ変形部３１５がなく、パラメータ選択部３１４をパラメータ生成部３４４に入れ替えて構成される。
【００９３】
この音声合成部３０９ｃの韻律生成部３１１は、読み、アクセント、および区切を示す読み情報と、変形情報に含まれる韻律変形情報とに従って、感情ごとのルールの入れ替えや、パラメータ空間の写像による手法等を用いて韻律生成ルールを変換し、変形結果としての韻律パターンを生成する。パラメータ生成部３４４は、変形情報のうちの声質パラメータ変形情報に従って、パラメータ生成ルールを変換し、変形結果としての声質パラメータを生成する。波形生成部３１６は、韻律生成部３１１で生成された韻律パターンと、パラメータ生成部３４４で生成された声質パラメータとに基づいて、パターン検索部３０７ａによって抽出された音響属性ベクトルに合った音声波形を生成する。
【００９４】
＜変形例４＞
ここで、本実施の形態における感情入力部３０２の変形例について説明する。
【００９５】
上記実施の形態では、プルチックの８つの感情をスライダで入力可能なように感情入力部３０２を構成したが、本変形例では、このような感情以外の情報をスライダで入力可能なように感情入力部を構成する。
【００９６】
図１１は、本変形例に係る感情入力部を示す図である。
本変形例に係る感情入力部３０２ａは、話者の態度（モダリティ）を説明する要素である、推定、伝聞、疑問、価値表明、および派生的当為のそれぞれの強度を、使用者によるスライダに対する操作に応じて取得するように構成されている。このような推定などの各要素によって発話意図が特定される（非特許文献：益岡隆志, 1991, 「モダリティの文法」くろしお出版参照）
【００９７】
なお、入力方式はスライダ以外の他の入力方式であってもよい。例えば、感情や意図、社会的関係を選択する方式や、空間内の点を指定する方式など、感情、意図あるいは社会的関係の状態を項目とその程度によって指定することのできるインタフェースであれば良い。
【００９８】
＜変形例５＞
ここで、本実施の形態における音声合成装置３００の変形例について説明する。
【００９９】
本変形例に係る音声合成装置は、話者に応じて感情データベースを切り替える点に特徴がある。
【０１００】
図１２は、本変形例の音声合成装置の機能ブロック図である。図１２において、図１と同じ構成要素については同じ符号を用い、説明を省略する。
【０１０１】
本変形例に係る音声合成装置３００ａは、図１２に示すように、上記実施の形態の音声合成装置３００に対して、感情データベース３０６をデータベース群４０６に置き換え、話者属性入力部４０１、データベース選択部４０２、およびスイッチ４０３を備えている。
【０１０２】
データベース群４０６は、話者属性ごとに作成された複数セットの感情データベースｄ１〜ｄｎを備えている。感情データベースｄ１〜ｄｎは、それぞれ上記実施の形態の感情データベース３０６と同様のデータを格納しているが、その各データは、話者の属性に応じて作成されている。
【０１０３】
話者属性入力部４０１は、話者の属性、例えば、男性や女性、年齢などを取得して、その話者属性をデータベース選択部４０２に出力する。つまり、使用者はこの話者属性入力部４０１に対して話者属性を入力する。
【０１０４】
データベース選択部４０２は、話者属性入力部４０１から話者属性を取得して、スイッチ４０３を操作することにより、その話者属性に応じた感情データベースをパターン検索部３０７ａに接続する。
【０１０５】
図１３は、本変形例に係る音声合成装置３００ａの動作を示すフローチャートである。
音声合成装置３００ａは、まず、使用者によるテキスト入力部３０１に対する操作に基づいて、使用者が音声に変換しようとする入力テキストを取得し、使用者による感情入力部３０２に対する操作に基づいて、使用者が音声によって表現あるいは伝達しようとする感情を取得する。さらに、音声合成装置３００ａは、使用者による話者属性入力部４０１に対する操作に基づいて、使用者が想定する合成音声の話者の属性、例えば２０代の女性で、明るく礼儀正しい性格というような話者の属性を取得する（ステップＳ４０１）。
【０１０６】
言語解析部３０４は、ステップＳ４０１で取得された入力テキストを、形態素解析すると同時に形態素ごとの言語属性ベクトルを抽出する（ステップＳ３０２）。さらに、言語解析部３０４は、構文解析を行い、読みとアクセント位置と区切り位置とを決定する（ステップＳ３０３）。
【０１０７】
次に、言語属性解析部３０５は、言語解析部３０４で決定された形態素ごとの言語属性ベクトルを１文単位の言語属性ベクトルにまとめる（ステップＳ３０４）。
【０１０８】
一方、データベース選択部４０２は、ステップＳ４０１で話者属性入力部４０１より取得された話者属性を、データベース群４０６に含まれる各感情データベースｄ１〜ｄｎの話者属性のカテゴリに変換する（ステップＳ４０２）。例えば、カテゴリは、性別ごとに子供、少年期、青年期、壮年期、老年期に分類され、さらに、それぞれで、表情豊かなものと落ちつたものとに分類される。このように分類された各カテゴリは、感情データベース群４０６の各感情データベースｄ１〜ｄｎに対応付けられている。つまり、各感情データベースｄ１〜ｄｎは、その対応付けられたカテゴリに属する話者に応じたデータを格納している。つまり、ステップＳ４０１で話者属性入力部４０１より「２０代の女性で、明るく礼儀正しい性格」という話者属性が取得された場合、その話者属性のカテゴリは、女性で青年期で且つ表情豊かなカテゴリとして特定される。
【０１０９】
さらに、データベース選択部４０２は、スイッチ４０３を切り替えて、ステップＳ４０２で特定されたカテゴリの感情データベースを、データベース群４０６から選択する（ステップＳ４０３）。
【０１１０】
パターン検索部３０７ａは、ステップＳ４０１で取得された感情ベクトルと、ステップＳ３０４で生成された文単位の言語属性ベクトルとに基づいて、ステップＳ４０３で選択された感情データベースを検索し、その感情ベクトルと言語属性ベクトルに最も近い組み合わせの感情表出パターンを抽出する(ステップＳ３０５)。
【０１１１】
次に、パターン検索部３０７ａは、ステップＳ３０５で選択された感情表出パターンから音響属性ベクトルを抽出し（ステップＳ３０６）、発話スタイル制御部３０８は、その音響属性ベクトルに基づいて韻律変形情報と声質パラメータ変形情報からなる変形情報を生成する(ステップＳ３０７)。
【０１１２】
一方、音声合成部３０９は、ステップＳ３０３で生成された読みとアクセント位置と区切り位置とを示す読み情報を取得し、その音声合成部３０９の韻律生成部３１１は、規則に基づき標準発話スタイルもしくは無表情の音声の韻律パターンを生成する（ステップＳ３０８）。次に、韻律変形部３１２は、ステップＳ３０７で生成された変形情報のうち、韻律変形情報にしたがって、ステップＳ３０８で生成された標準発話スタイルの韻律パターンを変形して、ステップＳ３０６で抽出された音響属性ベクトルに合致した韻律パターンを生成する（ステップＳ３０９）。
【０１１３】
パラメータ選択部３１４は、ステップＳ３０３で生成された読み情報と、ステップＳ３０９で生成された変形済みの韻律パターンとに基づいて、その読み情報および韻律パターンに応じた素片の音声合成パラメータを、パラメータ素片データベース３１３から選択することで、標準的声質での音声合成パラメータを生成する（ステップＳ３１０）。
【０１１４】
さらに、声質パラメータ変形部３１５は、ステップＳ３０７で生成された変形情報のうち声質パラメータ変形情報に従って、ステップＳ３１０で生成した音声合成パラメータの声質パラメータを変形する（ステップＳ３１１）。即ち、声質パラメータ変形部３１５は、ステップＳ３１０で生成された標準的声質の音声合成パラメータを、ステップＳ３０６で抽出された音響属性ベクトルに合致した声質を実現するパラメータにする。波形生成部３１６は、声質パラメータ変形部３１５で生成された音声合成パラメータに基づき音声波形を生成し（ステップＳ３１２）、音声出力部３１０は、その音声波形を示す合成音声を出力する（ステップＳ３１３）。
【０１１５】
かかる構成によれば、複数種類の話者属性でカテゴライズされた複数個の感情データベースをデータベース群４０６に格納し、使用者によって入力された話者属性に合致した感情データベースを選択する。そして、入力テキストの言語属性ベクトルと感情ベクトルとにしたがって、感情データベースより感情表出パターンを選択し、選択された感情表出パターンに含まれる音響属性ベクトルにしたがって音声合成パラメータを変形する。
【０１１６】
これにより、入力された感情を、音声の音響的特徴と入力されたテキストの言語表現との組み合わせによって表現することができ、そのような音響的特徴の音声を合成することができる。
【０１１７】
実施の形態１と同様に、嫌味や皮肉、あるいは嘲笑のように、言語的内容と音響的特徴とによる表現あるいは印象が一致しないことによって表現されるような複雑な感情や表情を表現する音声を合成することができる。また、同一の入力テキストであっても表現したい感情に合わせて自動的に音響的特徴を制御して音声全体としてはまったく異なる感情を表現し分けることができる。さらに、話者属性ごとに感情データベースを用意し、これらを選択して用いることで、言語内容による属性と音響的特徴による属性と音声全体で表現あるいは伝達される感情との組み合わせパターンを、それぞれ異なる話者属性に対して適切に使い分けることができ、より多様で詳細な音声の表現が可能になる。
【０１１８】
＜変形例６＞
ここで、本実施の形態における音声合成装置３００の他の変形例について説明する。
【０１１９】
本変形例に係る音声合成装置は、聴取者に応じて感情データベースを切り替える点に特徴がある。
【０１２０】
図１４は、本変形例の音声合成装置の機能ブロック図である。図１４において、図１２と同じ構成要素については同じ符号を用い、説明を省略する。
【０１２１】
本変形例に係る音声合成装置３００ｂは、図１４に示すように、変形例５の図１２に示す音声合成装置３００ａに対して、話者属性入力部４０１を聴取者属性入力部５０１に置き換え、データベース選択部４０２をデータベース選択部５０２に置き換え、データベース群４０６をデータベース群５０６に置き換えて構成されている。
【０１２２】
データベース群５０６は、聴取者属性ごとに作成された複数セットの感情データベースｄ１〜ｄｎを備えている。感情データベースｄ１〜ｄｎは、それぞれ上記実施の形態の感情データベース３０６と同様のデータを格納しているが、その各データは、聴取者の属性に応じて作成されている。
【０１２３】
聴取者属性入力部５０１は、聴取者の属性、例えば、男性や女性、年齢などを取得して、その聴取者属性をデータベース選択部５０２に出力する。つまり、使用者はこの聴取者属性入力部５０１に対して聴取者属性を入力する。
【０１２４】
データベース選択部５０２は、聴取者属性入力部５０１から聴取者属性を取得して、スイッチ４０３を操作することにより、その聴取者属性に応じた感情データベースをパターン検索部３０７ａに接続する。
【０１２５】
図１５は、本変形例に係る音声合成装置３００ｂの動作を示すフローチャートである。
音声合成装置３００ｂは、変形例５と同様、まず、使用者によるテキスト入力部３０１に対する操作に基づいて、使用者が音声に変換しようとする入力テキストを取得し、使用者による感情入力部３０２に対する操作に基づいて、使用者が音声によって表現あるいは伝達しようとする感情を取得する。さらに、音声合成装置３００ｂは、使用者による聴取者属性入力部５０１に対する操作に基づいて、使用者が想定する合成音声の聴取者の属性を入力する、例えば８０代の男性というような聴取者の属性を取得する（ステップＳ５０１）。
【０１２６】
言語解析部３０４は、ステップＳ５０１で取得された入力テキストを、形態素解析すると同時に形態素ごとの言語属性ベクトルを抽出する（ステップＳ３０２）。さらに、言語解析部３０４は、構文解析を行い、読みとアクセント位置と区切り位置とを決定する（ステップＳ３０３）。
【０１２７】
次に、言語属性解析部３０５は、言語解析部３０４で決定された形態素ごとの言語属性ベクトルを１文単位の言語属性ベクトルにまとめる（ステップＳ３０４）。
【０１２８】
一方、データベース選択部５０２は、ステップＳ５０１で聴取者属性入力部５０１より取得された聴取者属性を、データベース群５０６に含まれる各感情データベースｄ１〜ｄｎの聴取者属性のカテゴリに変換する（ステップＳ５０２）。例えば、カテゴリは、性別ごとに子供、少年期、青年期、壮年期、老年期に分類される。ステップＳ５０１で聴取者属性入力部５０１より「８０代の男性」という聴取者属性が取得された場合、その聴取者属性のカテゴリは、男性で老年期のカテゴリとして特定される。
【０１２９】
さらに、データベース選択部５０２は、スイッチ４０３を切り替えて、ステップＳ５０２で特定されたカテゴリの感情データベースを、データベース群５０６から選択する（ステップＳ５０３）。
【０１３０】
パターン検索部３０７ａは、ステップＳ５０１で取得された感情ベクトルと、ステップＳ３０４で生成された文単位の言語属性ベクトルとに基づいて、ステップＳ５０３で選択された感情データベースを検索し、その感情ベクトルと言語属性ベクトルに最も近い組み合わせの感情表出パターンを抽出する(ステップＳ３０５)。
【０１３１】
次に、パターン検索部３０７ａは、ステップＳ３０５で選択された感情表出パターンから音響属性ベクトルを抽出し（ステップＳ３０６）、発話スタイル制御部３０８は、その音響属性ベクトルに基づいて韻律変形情報と声質パラメータ変形情報からなる変形情報を生成する(ステップＳ３０７)。
【０１３２】
一方、音声合成部３０９は、ステップＳ３０３で生成された読みとアクセント位置と区切り位置とを示す読み情報を取得し、その音声合成部３０９の韻律生成部３１１は、規則に基づき標準発話スタイルもしくは無表情の音声の韻律パターンを生成する（ステップＳ３０８）。次に、韻律変形部３１２は、ステップＳ３０７で生成された変形情報のうち、韻律変形情報にしたがって、ステップＳ３０８で生成された標準発話スタイルの韻律パターンを変形して、ステップＳ３０６で抽出された音響属性ベクトルに合致した韻律パターンを生成する（ステップＳ３０９）。
【０１３３】
パラメータ選択部３１４は、ステップＳ３０３で生成された読み情報と、ステップＳ３０９で生成された変形済みの韻律パターンとに基づいて、その読み情報および韻律パターンに応じた素片の音声合成パラメータを、パラメータ素片データベース３１３から選択することで、標準的声質での音声合成パラメータを生成する（ステップＳ３１０）。
【０１３４】
さらに、声質パラメータ変形部３１５は、ステップＳ３０７で生成された変形情報のうち声質パラメータ変形情報に従って、ステップＳ３１０で生成した音声合成パラメータの声質パラメータを変形する（ステップＳ３１１）。即ち、声質パラメータ変形部３１５は、ステップＳ３１０で生成された標準的声質の音声合成パラメータを、ステップＳ３０６で抽出された音響属性ベクトルに合致した声質を実現するパラメータにする。波形生成部３１６は、声質パラメータ変形部３１５で生成された音声合成パラメータに基づき音声波形を生成し（ステップＳ３１２）、音声出力部３１０は、その音声波形を示す合成音声を出力する（ステップＳ３１３）。
【０１３５】
かかる構成によれば、複数種類の聴取者属性でカテゴライズされた複数個の感情データベースをデータベース群５０６に格納し、使用者によって入力された聴取者属性に合致した感情データベースを選択する。そして、入力テキストの言語属性ベクトルと感情ベクトルとにしたがって、感情データベースより感情表出パターンを選択し、選択された感情表出パターンに含まれる音響属性ベクトルにしたがって音声合成パラメータを変形する。
【０１３６】
これにより、入力された感情を、音声の音響的特徴と入力されたテキストの言語表現との組み合わせによって表現することができ、そのような音響的特徴の音声を合成することができる。
【０１３７】
実施の形態１と同様に、嫌味や皮肉、あるいは嘲笑のように、言語的内容と音響的特徴とによる表現あるいは印象が一致しないことによって表現されるような複雑な感情や表情を表現する音声を合成することができる。また、同一の入力テキストであっても表現したい感情に合わせて自動的に音響的特徴を制御して音声全体としてはまったく異なる感情を表現し分けることができる。さらに、聴取者属性ごとに感情データベースを用意し、これらを選択して用いることで、言語内容による属性と音響的特徴による属性と音声全体で表現あるいは伝達される感情との組み合わせパターンを、それぞれ異なる聴取者属性に対して適切に使い分けることができる。例えば、聴取者属性の入力としてカメラ入力に対する画像認識結果を用いることで、ロボットや対話システムの音声出力として、合成音声を聴取する使用者にあわせた合成音声を生成することができる。また、合成音声を生成してメールとして送るサービスにおいては、取引先に送信する場合と、友人に送信する場合等、受信者と送信者との社会的関係に合致した感情データベースおよび感情表出パターンを選択して用いることができる。その結果、多様で詳細で、伝達しようとする感情や意図が正確に伝わる音声の表現が可能になる。
【０１３８】
なお、変形例５では、ステップＳ３０４で文単位の言語属性ベクトルを生成した後にステップＳ４０２で話者属性をカテゴライズし、ステップＳ４０３でデータベース群４０６から該当する話者属性のカテゴリの感情データベースを選択した。また、変形例６では、ステップＳ３０４で文単位の言語属性ベクトルを生成した後にステップＳ５０２で聴取者属性をカテゴライズし、ステップＳ５０３でデータベース群５０６から該当する話者属性のカテゴリの感情データベースを選択した。しかし、本発明では、ステップＳ４０２およびステップＳ４０３の動作と、ステップＳ５０２およびステップＳ５０３の動作とは、ステップＳ３０５の感情表出パターンの検索以前であれば、上記以外のタイミングで行なわれてもよい。
【０１３９】
なお、変形例５および変形例６では、話者属性や聴取者属性に合わせて感情データベースを選択したが、属性付き辞書３０３を複数用意し話者属性や聴取者属性に合わせて選択してもよい。
【０１４０】
なお、実施の形態１およびその変形例では、言語属性解析部３０５は１文あたりの言語属性ベクトルを生成するとしたが、フレーズごと、アクセント句ごと、文節ごと、１段落ごと等の他の言語的単位または音声的単位で言語属性ベクトルを生成してもよい。
【０１４１】
なお、実施の形態１およびその変形例では、属性付き辞書３０３と感情データベースとに含まれる言語属性ベクトルの形式及び各要素が示す属性の内容を同じとしたが、両者が異なっていても良い。ただし、両言語属性ベクトルが異なる形式を持つ場合には、パターン検索部３０７ａは、属性付き辞書３０３の属性ベクトルから感情データベースに含まれる言語属性ベクトルへの変換を行う。
【０１４２】
（実施の形態２）
本実施の形態における音声合成装置は、感情データベースを用いて、音響属性ベクトルおよび感情ベクトルに応じた言語属性ベクトルを生成し、さらに、この言語属性ベクトルを用いてテキスト（せりふ）を生成する点に特徴がある。
【０１４３】
図１６は、本実施の形態における音声合成装置の機能ブロック図である。図１６において、図１と同じ構成要素については同じ符号を用い、説明を省略する。
【０１４４】
本実施の形態における音声合成装置６００は、発話スタイル入力部６０１と、変換テーブル格納部６０４と、音響属性ベクトル生成部６０５ａと、感情入力部３０２と、内容語入力部６０３と、文生成部６１０と、パターン検索部３０７ｂと、感情データベース３０６と、意味クラス・属性付き辞書６０８と、構文データベース６０９と、読み記号生成部６１１と、発話スタイル制御部３０８と、音声合成部３０９と、音声出力部３１０と、せりふ表示部６１２とを備えている。
【０１４５】
発話スタイル入力部６０１は、使用者による操作に基づいて、合成しようとする音声の音響的特徴によって表される特性すなわち発話スタイルを取得する。
【０１４６】
感情入力部３０２は、使用者による操作に基づいて、音声全体として表現しようとする感情や意図、社会的関係等を取得する。つまり、使用者はこの感情入力部３０２に対して感情（感情ベクトル）を入力する。
【０１４７】
内容語入力部６０３は、音声の言語的内容すなわちせりふの文意を指示するための内容語列を取得して出力する。つまり、使用者はこの内容語入力部６０３に対して内容語列を入力する。なお、本実施の形態では、内容語入力部６０３は、言語的意味内容を有する内容語を取得する内容語取得手段として構成されている。
【０１４８】
変換テーブル格納部６０４は、音声の音響的特徴量を示す音響属性ベクトルに発話スタイルを対応付けた変換テーブルを格納している。
【０１４９】
音響属性ベクトル生成部６０５ａは、変換テーブル格納部６０４を参照して、発話スタイル入力部６０１で取得された発話スタイルを、音響属性ベクトルに変換して、合成しようとする音声に対して１種類の音響属性ベクトルを生成する。
【０１５０】
なお、本実施の形態では、発話スタイル入力部６０１と音響属性ベクトル生成部６０５ａは、音響的特徴を示す入力音響属性情報（音響属性ベクトル）を取得する音響属性取得手段として構成されている。
【０１５１】
発話スタイル制御部３０８は、音響属性ベクトルにしたがって音声合成パラメータを変形するための変形情報を生成する。
【０１５２】
パターン検索部３０７ｂは、音響属性ベクトルと感情ベクトルとに従って感情データベース３０６を検索し、検索条件に最も近い感情表出パターンを抽出する。
【０１５３】
なお、本実施の形態では、パターン検索部３０７ｂは、上述の感情パターン保持手段に保持されている複数の感情パターンから、入力音響属性情報および入力感情情報に近い内容を示す音響属性情報および感情情報を有する感情パターンを検索して抽出するパターン検索手段として構成されている。
【０１５４】
意味クラス・属性付き辞書６０８は、表記、読み、および品詞等の、読み、アクセント、および区切記号を決定するための情報に加え、単語の属する意味クラスと、単語の言語属性ベクトル（内容語属性と機能語属性）とを保持する。
【０１５５】
なお、本実施の形態では、意味クラス・属性付き辞書６０８は、文を構成するための各構成単位（形態素）、およびその各構成単位の言語属性を記憶している属性記憶手段として構成されている。
【０１５６】
構文データベース６０９は、品詞列と意味クラスとのパターンを構文として記録したデータを有する。なお、本実施の形態では、構文データベース６０９は、複数の構文を記憶している構文記憶手段として構成されている。
【０１５７】
文生成部６１０は、内容語入力部６０３から出力された文意を示す内容語列に基づき、意味クラス・属性付き辞書６０８と構文データベース６０９とを参照し、言語属性ベクトルに合致した文（テキスト）を生成する。さらに、文生成部６１０は、その文の構文を示す構文情報と、その文を構成する各形態素を示す形態素情報とを生成して、文、構文情報および形態素情報を出力する。
【０１５８】
なお、本実施の形態では、文生成部６１０は、上述のパターン検索手段により抽出された感情パターンに含まれる言語属性情報に基づいて、文を構成するための構成単位の選択を行うことにより、前記言語属性情報の示す言語属性を有するテキストを生成するテキスト生成手段として構成されている。つまり、このテキスト生成手段は、上述の属性記憶手段に記憶されている言語属性に基づいて、属性記憶手段から選択された１つまたは複数の構成単位の全体的な言語属性が、前記パターン検索手段により抽出された感情パターンの言語属性情報の示す言語属性に近くなるように、前記属性記憶手段から１つまたは複数の構成単位を選択する。
【０１５９】
読み記号生成部６１１は、文生成部６１０より出力される構文情報と形態素情報とに基づいて、読み、アクセント、および区切を示す読み情報を生成する。
【０１６０】
音声合成部３０９は、読み情報に従って音声合成パラメータを生成し、さらに、変形情報に従ってその音声合成パラメータを変形し、変形した音声合成パラメータに基づいて音声波形を生成する。
【０１６１】
なお、本実施の形態では、音声合成部３０９は、上述の入力音響属性情報に基づいて、生成されたテキストに対して音声合成を行うことにより、その入力音響属性情報の示す音響的特徴を有する合成音声を生成する音声合成手段として構成されている。
【０１６２】
音声出力部３１０は、音声合成部３０９によって生成された音声波形を示す合成音声を出力する。
【０１６３】
せりふ表示部６１２は、文生成部６１０で生成されたテキスト（せりふ）を表示する。
図１７は、本実施の形態における発話スタイル入力部６０１を示す図である。
【０１６４】
発話スタイル入力部６０１は、例えば図１７に示すように、使用者によるスライダのスライド操作に基づいて、音声の音響的特徴に現れる年齢と性別（女性らしさと男性らしさ）を発話スタイルの一部として取得し、さらに、使用者による選択操作に基づいて、例えば、ラジオニュース風や、販売トーク風などの声の調子や話し方の特徴を、発話スタイルの一部として取得する。
【０１６５】
図１８は、変換テーブル格納部６０４に格納されている変換テーブルを示す図である。
変換テーブル格納部６０４に格納されている変換テーブルは、例えば図１８に示すように、性別（男性らしさや女性らしさ）と年齢と話し方などの各発話スタイルと、その発話スタイルに応じた音響属性ベクトルとを関連付けている。
【０１６６】
例えば、性別のレベルが「１」の男性らしい、年齢のレベルが「２」で少年の、ラジオニュース風の発話スタイルには、音響属性ベクトル（平均ピッチ、ピッチダイナミックレンジ、声門開放度、スペクトル傾斜、文末ピッチ変動、ポーズ頻度）＝（ -1， 0， 0， 0， -2， 0）が関連付けられている。
【０１６７】
ここで、変換テーブルに示される平均ピッチは、主に性別で決定された上に年齢による調整が行われ、ピッチダイナミックレンジは、性別と話し方によって設定され、声門開放度は、話し方で決定される。なお、本実施の形態では変換テーブルを用意しておくものとしたが、性別と年齢で平均ピッチを設定し、ピッチダイナミックレンジを性別と話し方によって設定し、声門開放度を話し方によって決定するためのルールを持ち、そのルールに従って発話スタイルから音響属性ベクトルの各要素の値を算出してもよい。
【０１６８】
図１９は、意味クラス・属性付き辞書６０８に含まれるデータの内容を示す図である。
意味クラス・属性付き辞書６０８は、上述のように、表記、読み、および品詞等の、読み、アクセント、および区切記号を決定するための情報に加え、単語の属する意味クラスと、単語の言語属性ベクトル（内容語属性と機能語属性）とを保持する。例えば、意味クラス・属性付き辞書６０８は、「美しい」に対して、読み「うつくしい」、品詞「形容詞」、活用型「形容詞型」、意味クラス「美的高価値」、および言語属性ベクトル（内容語属性）＝（ 1， 1， 2， 2）を保持している。したがって、意味クラス・属性付き辞書６０８を参照すれば、単語の意味クラスや言語属性ベクトルなどを特定することができる。また、このような意味クラス・属性付き辞書６０８は、上述のような意味クラスによって、各構成単位たる形態素を複数のクラスに分けて記憶している。
【０１６９】
図２０は、構文データベース６０９に含まれるデータの内容を示す図である。
構文データベース６０９は、例えば、図２０に示すように、文を構成する内容語の意味クラスに対して、その内容語の意味クラスに合致する構文を関連付けて示す。図２１中の括弧で囲まれた部分は、１つの内容語あるいは機能語である単語、あるいは１つの句を示し、小括弧で囲まれた部分は付加可能な機能語を示している。
【０１７０】
図２１は、本実施の形態における音声合成装置６００の動作を示すフローチャートである。
【０１７１】
音声合成装置６００は、まず、使用者による発話スタイル入力部６０１に対する操作に基づいて、使用者が音響的特徴として表現しようとする発話スタイルを取得する。さらに、音声合成装置６００は、使用者による感情入力部３０２に対する操作に基づいて、実施の形態１と同様に、言語的内容と音響的特徴をあわせた音声全体で使用者が表現あるいは伝達しようとする感情や意図あるいは社会的関係等を取得する。さらに、音声合成装置６００は、使用者による内容語入力部６０３に対する操作に基づいて、使用者が音声として出力しようとする文意を示す内容語の列を取得する（ステップＳ６０１）。例えば、発話スタイル入力部６０１は、使用者によるスライド操作に基づいて、性別のレベルとして「５」（非常に女性らしい）と、年齢のレベルとして「２」（やや若い）とを取得し、使用者による選択操作に基づいて、口調「高級クラブのママ」を取得する。感情入力部３０２は、嫌みを表現するための嫌悪「４」、怒り「２」、および喜び「１」を示す感情ベクトルを取得し、さらに、内容語入力部６０３は、内容語列として、「美しい」「花」および「咲く」を取得する。
【０１７２】
音響属性ベクトル生成部６０５ａは、ステップＳ６０１で発話スタイル入力部６０１によって取得された発話スタイルを、変換テーブル格納部６０４の変換テーブルを参照して、音響属性ベクトルに変換する（ステップＳ６０２）。ここでは、年齢と性別と話し方により示される発話スタイルを、平均ピッチ、ピッチダイナミックレンジおよび声門開放度等で示される音響属性ベクトルに変換する。例えば、ステップＳ６０１で性別レベル「５」、年齢レベル「２」、および口調「高級クラブのママ」により示される発話スタイルが取得されているため、その発話スタイルは、図１８に示す変換テーブルに従い、平均ピッチが「１」、ピッチダイナミックレンジが「２」、声門開放度が「２」、スペクトル傾斜が「１」、文末ピッチ変動が「２」、ポーズ頻度が「１」という音響属性ベクトルに変換される。
【０１７３】
次に、発話スタイル制御部３０８は、ステップＳ６０２で設定された音響属性ベクトルに従って、実施の形態１と同様に、標準音声の音声合成パラメータに対する変形量を設定し、その変形を示す変形情報を生成する（ステップＳ３０７）。
【０１７４】
一方、パターン検索部３０７ｂは、ステップＳ６０１で取得された感情ベクトルと、ステップＳ６０２で生成された音響属性ベクトルを検索キーとして扱い、感情データベース３０６を検索する（ステップＳ６０３）。そして、パターン検索部３０７ｂは、感情データベース３０６内の検索キーに最も近い感情表出パターンを特定する。パターン検索部３０７ｂは、その特定された感情表出パターンから、合成する音声のせりふの言語属性ベクトルを抽出する（ステップＳ６０４）。ここでは、例えば図５に示すように、喜び「１」、嫌悪「４」、および怒り「２」を含む感情ベクトルと、平均ピッチ「１」、ピッチダイナミックレンジ「２」、声門開放度「２」、スペクトル傾斜「１」、文末ピッチ変動「２」、およびポーズ頻度「１．５」を含む音響属性ベクトルとを有する感情表出パターンが、最も近い感情表出パターンとして抽出される。そして、抽出された感情表出パターンからは、丁寧さ「２」、上昇下降「１．５」、賞罰「２」、および美醜「１」を含む言語属性ベクトルが抽出される。
【０１７５】
文生成部６１０は、意味クラス・属性付き辞書６０８を参照して、ステップＳ６０１で内容語入力部６０３によって取得された内容語列に含まれる内容語の意味クラスを特定し、同一の意味クラスに属する単語とその言語属性ベクトルを抽出する。各意味クラスに属する単語群より単語を抽出し、文を構成する単語の組み合わせとして、ステップＳ６０４で抽出された言語属性ベクトルに最も近くなる組み合わせを選択する。ここでは内容語列に含まれる内容語が「美しい」「花」「咲く」であるため、文生成部６１０は、意味クラス・属性付き辞書６０８を参照することにより、それぞれの内容語と同一の意味クラスを持つ単語を取得する。例えば、「美しい」の意味クラスは「美的高価値」であり、同一意味クラスを持つ単語には、図１９に示すように、「美しい」、「お美しい」、「きれいな」および「おきれいな」がある。また、「花」の意味クラスは「花」であり、同一意味クラスを持つ単語とには、図１９に示すように、「花」および「お花」がある。また、「咲く」の意味クラスは「開花」であり、同一意味クラスを持つ単語には、図１９に示すように、「開花する」、「咲く」、「開く」、および「ほころぶ」がある。文生成部６１０は、各意味クラスより１単語ずつ取り出し、各言語属性ベクトルの平均と、ステップＳ６０４で抽出された言語属性ベクトルに含まれる丁寧さ「２」、上昇下降「１．５」、賞罰「２」および美醜「１」とを比較する。その結果、文生成部６１０は、差の最も小さい組み合わせは、「おきれいな」、「お花」および「咲く」の組み合わせであると判断する。
【０１７６】
さらに、文生成部６１０は、構文データベース６０９を参照し、内容語列に含まれる単語の意味クラスよりなる意味クラス列を文として成立させるための構文を抽出する。そして、文生成部６１０は、ステップＳ６０４で抽出した言語属性ベクトルに最も近くなる組み合わせの単語を、構文データベース６０９より抽出した構文の意味クラス列に当てはめることで、内容語列に合致する文意を持ち、ステップＳ６０４で抽出された言語属性ベクトルを実現する文を生成する。文生成部６１０は、このように生成されたテキストを出力するとともに、生成した文の構文情報と形態素情報とを出力する（ステップＳ６０５）。
【０１７７】
上述の例では、入力された内容語の意味クラスは「美的高価値」、「花」および「開花」であるので、図２０に示す構文データベース６０９のデータの中から、意味クラスの一致する「[美的高価値：主部修飾]   [花：主部]  [主格]  [開花：述部] (丁寧) [過去・完了](強調)」を抽出する。この構文に、ステップＳ６０４で決定された「おきれいな」、「お花」、および「咲く」を当てはめ[主格]、[過去・完了]の機能語を補うと、「[美的高価値：主部修飾]＝おきれいな  [花：主部]＝お花  [主格]＝が  [開花：述部]＝咲く (丁寧) [過去・完了]＝た(強調)」となり、動詞の活用を行って、「おきれいなお花が咲いた」という文が得られる。
【０１７８】
このように、本実施の形態では、文生成部６１０たるテキスト生成手段は、上述の属性記憶手段から上述の複数のクラスに従って、上述の内容語取得手段により取得された内容語に応じた構成単位（形態素）の選択を行い、選択された構成単位を、上述の構文記憶手段に記憶されている何れかの構文に当てはめることによりテキストを生成する。
【０１７９】
なお、ここでは、内容語の言語属性ベクトルの平均が文全体の言語属性ベクトルに合うように単語を選択したが、構文データベース６０９の構文に機能語の言語属性ベクトルが付与されていれば、意味クラス列より構文を選択した後に、内容語の言語属性ベクトルと、構文データに含まれる機能語の言語属性ベクトルをあわせて、全体の言語属性ベクトルを計算して、その計算された言語属性ベクトルが、ステップＳ６０４で抽出した言語属性ベクトルに近づくように、同一意味クラスに属する単語から、使用する単語を選択してもよい。
【０１８０】
読み記号生成部６１１は、ステップＳ６０５で出力された構文情報と形態素情報より、読み、アクセント、および区切を示す読み情報を生成する（ステップＳ６０６）。
【０１８１】
一方、せりふ表示部６１２は、ステップＳ６０５で生成された文のテキストを文字列として画面表示あるいは印字により表示する（ステップＳ６０７）。
【０１８２】
音声合成部３０９は、実施の形態１と同様に、ステップＳ６０６で生成された読み情報に基づき、標準発話スタイルでの韻律パターンを生成し（ステップＳ３０８）、ステップＳ３０７で生成された変形情報のうち、韻律変形情報に基づいてその韻律パターンを変形する（ステップＳ３０９）。
【０１８３】
さらに、音声合成部３０９は、ステップＳ６０６で生成された読み情報と、ステップＳ３０９で変形された韻律パターンとに基づいて、標準発話スタイルの声質での音声合成パラメータを選択し（ステップＳ３１０）、ステップＳ３０７で生成された変形情報のうち声質パラメータ変形情報に基づいて、その音声合成パラメータの声質パラメータを変形する（ステップＳ３１１）。音声合成部３０９は、ステップＳ３１１で変形された音声合成パラメータ列に基づき音声波形を生成する（ステップＳ３１２）。音声出力部３１０は、ステップＳ３１２で生成された音声波形を音声として出力する（ステップＳ３１３）。
【０１８４】
かかる構成によれば、入力された発話スタイルを実現する音響属性ベクトルと入力感情（感情ベクトル）とにしたがって、感情表出パターンを選択し、文生成部６１０で、選択された感情表出パターンに含まれる言語属性ベクトルに従って文を生成する。これにより、入力された感情を、入力された発話スタイルと言語表現との組み合わせによって表現することのできる文、すなわちせりふを生成して音声を合成することができる。使用者の入力に対して、本実施の形態の音声合成装置６００内部で文生成を行うことで、合成する音声の印象を音声の言語内容の印象と、音響的特徴による印象と、その両者の組み合わせによって決まる音声全体での印象とを制御することができる。すなわち、嫌味や皮肉、あるいは嘲笑のように、言語的内容と音響的特徴による表現あるいは印象が一致しない複雑な感情や表情を表現する音声を合成することができる。あるいは、音響的特徴の印象と言語表現の印象とが重なって極端な印象を与えることによって表現されるような複雑な感情や表情を表現する音声を合成することができる。同一のテキストであっても表現したい感情に合わせて自動的に音響的特徴を制御して音声全体としてはまったく異なる感情を表現し分けることができる。
【０１８５】
図２２は、実施の形態２において使用者の入力と、音声合成装置６００の内部状態と、出力された合成音声が与える印象とをそれぞれ対比して示す図ある。
【０１８６】
図２２の行Ｌ２２０１に示すように、比較的若い女性で高級クラブのママ風という丁寧さや親しみを印象付ける発話スタイルを指定しても、「嫌み」を表す「嫌悪４＋怒り２＋喜び１」の入力感情（感情ベクトル）に対しては、「おきれいな・・・」というテキストが生成され、過剰な丁寧さによる嫌みな表現がなされる。
【０１８７】
逆に、行Ｌ２２０２に示すように、「喜び５」の入力感情に対しては、「きれいな花が咲いた。」という、言語内容としては丁寧さや賞罰の属性を抑えたテキストが生成され、音声全体として喜びを表現するように制御される。
【０１８８】
本実施の形態では、実施の形態１と異なり、入力テキストを必要としないため、詳細にせりふを決定しておく必要がなく、キャラクタ設定、ストーリー、場面等から各キャラクタに合ったせりふを都度生成して音声出力することができる。そのため、ゲームソフトのキャラクタの音声をあらかじめ録音しておく必要がなく、膨大な音声データの録音や蓄積をする必要がないばかりか、あらかじめ原稿を用意する必要もないため、ゲームやアニメ、あるいは吹き替え音声を作成する際の労力を大幅に削減しうる。
【０１８９】
さらには、ゲーム機あるいはゲームソフトに本実施の形態を組み込めば、ゲームのプレーヤが設定したキャラクタにあわせてせりふを生成して音声を出力することができるため、録音あるいは蓄積された音声では対応不可能な任意のキャラクタによるせりふの音声出力が可能になる。
【０１９０】
このように、本実施の形態では、感情データベース３０６の各感情表出パターンにはそれぞれ、言語属性ベクトルと、音響属性ベクトルと、それらによって表現される感情ベクトルとが関連付けられおり、入力された発話スタイルの音響属性ベクトルおよび入力された感情ベクトルに近い内容を有する感情表出パターンが抽出され、その感情表出パターンに含まれる言語属性ベクトルの示す言語属性を有するテキストが生成される。したがって、使用者が合成音声全体で表現しようとする感情を示す感情ベクトルが感情入力部３０２に入力され、使用者の所望の音響的特徴を示す発話スタイルが発話スタイル入力部６０１によって取得されたときには、使用者の所望の音響的特徴と、使用者が合成音声全体で表現しようとする感情とに応じた言語属性を有するテキストを適切に生成することができる。さらに、そのテキストに対して音声合成を行って、使用者の所望の音響的特徴を有する合成音声が生成されるため、合成音声の言語属性、合成音声の音響的特徴、および入力された感情を、感情表出パターンで関連付けられた言語属性、音響的特徴、および感情に近づけることができ、その結果、合成音声の言語属性と、合成音声の音響的特徴と、使用者が合成音声全体により表現しようとする感情との相互の関連性を適切に保つことができる。
【０１９１】
なお、本実施の形態では、ステップＳ６０５において、入力された内容語と同一意味クラスの単語を抽出し、それらの単語による言語属性ベクトルが、ステップＳ６０４で抽出した言語属性ベクトルに最も近くなるよう、それぞれの内容語に対応する単語を決定し、その後に構文を選択して文を生成したが、内容語より構文を選択した後に、それぞれの内容語に対応する単語を決定しても良い。
【０１９２】
なお、本実施の形態では、ステップＳ６０５において、入力された内容語と同一意味クラスの単語を抽出し、それらの単語による言語属性ベクトルが、ステップＳ６０４で抽出した言語属性ベクトルに最も近くなるよう、それぞれの内容語に対応する単語を決定し、その後に構文を選択して文を生成した。しかし、構文データベース６０９中の機能語について機能語属性を記録しておき、言語属性ベクトルを内容語の組み合わせのみで制御するのではなく、内容語の組み合わせと機能語による補完と強調による制御を含めて最適な単語と構文の組み合わせを採用するものとしても良い。
【０１９３】
なお、本実施の形態では、内容語入力部６０３が使用者の操作に応じて内容語を取得したが、ストーリー展開、場面、登場人物設定等のシナリオから、生成しようとするせりふの内容語あるいは意味クラスを決定して取得してもよい。このような場合、音声合成装置６００は、さらに、シナリオを取得するシナリオ取得手段を備え、テキスト生成手段たる文生成部６１０は、そのシナリオ取得手段に取得されたシナリオに合ったテキストを生成する。
【０１９４】
（実施の形態３）
本実施の形態における音声合成装置は、感情データベースを用いて、音響属性ベクトルおよび言語属性ベクトルに応じた感情ベクトルを生成し、さらに、この感情ベクトルの示す感情を表示する点に特徴がある。
【０１９５】
図２３は、本実施の形態における音声合成装置の機能ブロック図である。図２３において、図１および図１６と同じ構成要素については同じ符号を用い、説明を省略する。
【０１９６】
本実施の形態における音声合成装置７００は、発話スタイル入力部６０１と、テキスト入力部３０１と、言語解析部３０４と、属性付き辞書３０３と、変換テーブル格納部６０４と、音響属性ベクトル生成部６０５ａと、言語属性解析部３０５と、感情データベース３０６と、パターン検索部３０７ｃと、発話スタイル制御部３０８と、音声合成部３０９と、感情表示部７０１と、音声出力部３１０とを備えている。ここで、テキスト入力部３０１、属性付き辞書３０３、言語解析部３０４、言語属性解析部３０５、音声合成部３０９、および音声出力部３１０は、図１に示す同一符号が付された構成要素と同じであり、発話スタイル入力部６０１、変換テーブル格納部６０４、および音響属性ベクトル生成部６０５ａは、図１６に示す同一符号が付された構成要素と同じである。感情データベース３０６は、図１および図１６に示す同一符号が付された構成要素と同じである。
【０１９７】
パターン検索部３０７ｃは、音響属性ベクトルと言語属性ベクトルとに従って感情データベース３０６を検索し、検索条件に最も近い感情表出パターンを抽出する。そして、パターン検索部３０７ｃは、さらに、その感情表出パターンから感情ベクトルを抽出して感情表示部７０１に出力する。
【０１９８】
感情表示部７０１は、パターン検索部３０７ｃから出力された感情ベクトルの示す感情を表示する。即ち、感情表示部７０１は、使用者によって入力された発話スタイルと入力テキストの組み合わせによって、言語的内容と音響特徴とをあわせた音声全体でどのような感情を表現することになるのかを表示する。
【０１９９】
図２４は、本実施の形態における音声合成装置７００の動作を示すフローチャートである。
【０２００】
音声合成装置７００は、まず、使用者によるテキスト入力部３０１に対する操作に基づいて、使用者が音声に変換しようとする入力テキストを取得し、さらに、実施の形態２と同様に、使用者による発話スタイル入力部６０１に対する操作に基づいて、使用者が音響的特徴として表現しようとする発話スタイルを取得する。（ステップＳ７０１）。
【０２０１】
言語解析部３０４は、ステップＳ７０１で取得された入力テキストを、実施の形態１と同様に、属性付き辞書３０３を参照することにより形態素に分割し、分割された各形態素について、属性付き辞書３０３に記憶されている形態素の言語属性ベクトルを抽出する（ステップＳ３０２）。さらに、言語解析部３０４は、構文解析を行い、文節の決定、文節間の係り受けの解析等の構文解析を行って、フレーズおよびアクセント句を決定し、読みとアクセント位置と区切り位置を決定する（ステップＳ３０３）。次に、言語属性解析部３０５は、言語解析部３０４で抽出された形態素ごとの言語属性ベクトルを、１文単位の言語属性ベクトルにまとめる（ステップＳ３０４）。
【０２０２】
一方、音響属性ベクトル生成部６０５ａは、ステップＳ７０１で発話スタイル入力部６０１によって取得された発話スタイルを、変換テーブル格納部６０４の変換テーブルを参照することにより、音響属性ベクトルに変換する(ステップＳ６０２)。発話スタイル制御部３０８は、ステップＳ６０２で設定された音響属性ベクトルに従って、実施の形態１と同様に、標準発話スタイルの音声合成パラメータの変形量を設定し、その変形を示す変形情報を生成する（ステップＳ３０７）。
【０２０３】
パターン検索部３０７ｃは、ステップＳ３０４で生成された言語属性ベクトルと、ステップＳ６０２で生成された音響属性ベクトルを検索キーとして扱い、感情データベース３０６を検索する（ステップＳ７０３）。そして、パターン検索部３０７ｃは、感情データベース３０６内の検索キーに最も近い感情表出パターンを特定し、その感情表出パターンから、合成する音声が全体として表出する感情ベクトルを抽出する（ステップＳ７０４）。
【０２０４】
感情表示部７０１は、ステップＳ７０４で抽出された感情ベクトルの示す感情を画面表示あるいは印刷により表示する（ステップＳ７０５）。
【０２０５】
一方、音声合成部３０９は、ステップＳ３０３で生成された読みとアクセント位置と区切り位置とを示す読み情報を取得し、音声合成部３０９の韻律生成部３１１は、規則に基づき標準発話スタイルもしくは無表情の音声の韻律パターンを生成する（ステップＳ３０８）。
【０２０６】
次に、韻律変形部３１２は、ステップＳ３０７で生成された変形情報のうち、韻律変形情報にしたがって、ステップＳ３０８で生成された標準発話スタイルの韻律パターンを変形して、ステップＳ６０２で生成された音響属性ベクトルに合致した韻律パターンを生成する（ステップＳ３０９）。
【０２０７】
パラメータ選択部３１４は、ステップＳ３０３で生成された読み情報と、ステップＳ３０９で生成された変形済みの韻律パターンとに基づいて、その読み情報および韻律パターンに応じた素片の音声合成パラメータを、パラメータ素片データベース３１３から選択することで、標準的声質での音声合成パラメータを生成する（ステップＳ３１０）。
【０２０８】
さらに、声質パラメータ変形部３１５は、ステップＳ３０７で生成された変形情報のうち声質パラメータ変形情報に従って、ステップＳ３１０で生成した音声合成パラメータの声質パラメータを変形する（ステップＳ３１１）。即ち、声質パラメータ変形部３１５は、ステップＳ３１０で生成された標準的声質の音声合成パラメータを、ステップＳ６０２で生成された音響属性ベクトルに合致した声質を実現するパラメータに変形する。波形生成部３１６は、声質パラメータ変形部３１５で生成された音声合成パラメータに基づき音声波形を生成し（ステップＳ３１２）、音声出力部３１０は、その音声波形を示す合成音声を出力する（ステップＳ３１３）。
【０２０９】
図２５は、感情表示部７０１によって表示される画面を示す図である。
感情表示部７０１は、図２５に示すように、ブルチックの情動のモデルに基づく基本感情の８つの感情を軸としたレーダーチャートを画面表示する。なお、このようなレーダーチャートを印刷により表示してもよい。
【０２１０】
また、本実施の形態では、レーダーチャートにより感情を表示したが、図３に示すように、スライダの動きによって感情を表示してもよく、感情を示す数値やレベルを表示してもよい。さらには、各々の基本感情の値に応じて変化する、顔画像の表情や、全身画像の姿勢または動作を含めた表情を、表示してもよい。また、基本感情の組み合わせパターンと、複雑な感情を表す言語表現とを対応付けるテーブルを用いることにより、嫌みや、ねたみ、嘲笑、泣き笑い等々、をテキストにより表示してもよい。
【０２１１】
かかる構成によれば、入力された発話スタイルを実現する音響属性ベクトルと、入力されたテキストの言語属性ベクトルとに従って、感情表出パターンを選択し、その感情表出パターンから音声全体で表現される感情を特定する。これにより、入力されたテキストを、入力された発話スタイルの合成音声として出力するだけでなく、その合成音声が言語的内容と音響的印象とを含む音声全体として一般的にはどのような感情を表現あるいは伝達するものになるかを明確に示すことができる。
【０２１２】
また、音声の言語的内容と発話スタイルとが逆の感情や相容れない感情を表す場合には、音声全体に対して複雑で魅力的な表現が期待できる。しかし、従来では、生成される合成音声を聞いてみるまでその合成音声がどのような感情を表現するものかわからなかった。
【０２１３】
本実施の形態によれば、合成音声を出力する以前にその合成音声が表出する感情を確認することができ、合成音声によって予想外の感情を表出してしまうことを避けることができる。さらに、テキストあるいは発話スタイルを調整して合成音声を聞き比べることで、使用者が求める感情に近い感情が合成音声から表現されるかどうかを感情表示によって確認することができる。その結果、コンテンツの作成等においては効率よく作業を進めることができる。
【０２１４】
（実施の形態４）
本実施の形態における音声合成装置は、実施の形態１〜３の機能をあわせて有する点に特徴がある。
【０２１５】
図２６は、本実施の形態における音声合成装置の機能ブロック図である。図２６において、図１、図１６、図２３と同じ構成要素については同じ符号を用い、説明を省略する。
【０２１６】
本実施の形態の音声合成装置８００は、重み入力部８０１と、重み制御部８０２と、パターン選択部８０３と、文変換部８０４と、表示部８１０と、選択入力部８１１と、感情入力部３０２と、パターン検索部３０７ｂと、感情データベース３０６と、発話スタイル入力部６０１と、音響属性ベクトル生成部６０５ｂと、テキスト入力部３０１と、言語解析部３０４と、言語属性解析部３０５と、意味クラス・属性付き辞書６０８と、発話スタイル制御部３０８と、読み記号生成部６１１と、音声合成部３０９と、音声出力部３１０とを備えている。
【０２１７】
表示部８１０は、音声出力部３１０から出力される合成音声の言語内容をテキストで表示するとともに、合成音声全体として表現される感情を表示する。つまり、表示部８１０は、テキストと感情の組を１つまたは複数個表示する。
【０２１８】
図２７は、表示部８１０に表示される内容を示す図である。
表示部８１０は、文変換部８０４からの制御に基づいて、上述のように感情とテキストの組を１つまたは複数個表示する。例えば、表示部８１０は、感情「怒り２、嫌悪４、喜び１」とテキスト「きれいな花が開花しましたね」の組と、感情「怒り２、嫌悪４、喜び１」とテキスト「美しいお花が咲きました」の組とを表示する。
【０２１９】
選択入力部８１１は、表示部８１０に表示された１つまたは複数の組から、使用者による操作に基づいて何れか１つを選択して、その選択された組に含まれるテキストを音声出力するように音声出力部３１０に指示する。
【０２２０】
音響属性ベクトル生成部６０５ｂは、発話スタイル入力部６０１により取得された発話スタイルを、ルールに従って音響属性ベクトルに変換する。
【０２２１】
図２８は、音響属性ベクトル生成部６０５ｂのルールを説明するための図である。
例えば、音響属性ベクトル生成部６０５ｂは、図２８の（ａ）および（ｂ）に示すように、音響属性ベクトルの要素「平均ピッチ」に対しては、発話スタイルの年齢が増加するに伴って、その平均ピッチが下がり、発話スタイルの性別が男性らしさから女性らしさへ強まるに従って、その平均ピッチが上昇するようなルールを有する。音響属性ベクトル生成部６０５ｂは、このようなルールに従って、音響属性ベクトルの要素「平均ピッチ」に対する値を決定する。
【０２２２】
また、音響属性ベクトル生成部６０５ｂは、図２８の（ｃ）に示すように、音響属性ベクトルの要素「ピッチダイナミックレンジ」に対しては、発話スタイルの性別が男性らしさから女性らしさへ強まるに従って、そのピッチダイナミックレンジが上昇して最大となり、その後、小さくなるようなルールを有する。音響属性ベクトル生成部６０５ｂは、このようなルールに従って、音響属性ベクトルの要素「ピッチダイナミックレンジ」に対する値を決定する。
【０２２３】
重み入力部８０１は、使用者による操作に基づいて、テキスト入力部３０１、感情入力部３０２、および発話スタイル入力部６０１によってそれぞれ取得された入力テキスト、感情ベクトルおよび発話スタイルに対する重みを取得する。具体的には、重み入力部８０１は、入力テキストに対する言語属性ベクトルの重みと、感情ベクトルの重みと、発話スタイルに対する音響属性ベクトルの重みとを取得する。このような重みは、例えば重みが大きいほど、入力テキスト、感情ベクトルまたは発話スタイルに対して、変形量を少なくすべきことを示し、重みが小さいほど、その入力テキスト、感情ベクトルまたは発話スタイルに対して、大きな変形が許可されることを示す。
【０２２４】
重み制御部８０２は、重み入力部８０１によって取得された感情ベクトル、音響属性ベクトル、および言語属性ベクトルに対する重みに従って、それらのベクトルに対する変形許容度を指定するための重み信号をパターン検索部３０７ｄに出力する。
【０２２５】
パターン選択部８０３は、パターン検索部３０７ｄによって複数の感情表出パターンが抽出された際に、いずれか１つの感情表出パターンを選択する。
【０２２６】
文変換部８０４は、テキスト入力部３０１によって取得された入力テキストを、パターン選択部８０３の出力結果に従って変形する。
【０２２７】
なお、本実施の形態では、文変換部８０４は、上述のパターン検索手段たるパターン検索部３０７ｄにより抽出された感情パターンに含まれる言語属性情報に基づいて、入力テキストを変形することにより、その言語属性情報の示す言語属性を有する変形テキストを生成するテキスト変形手段として構成されている。
【０２２８】
図２９は、本実施の形態における音声合成装置８００の動作を示すフローチャートである。
【０２２９】
音声合成装置８００は、まず、使用者によるテキスト入力部３０１に対する操作に基づいて、使用者が音声に変換しようとする入力テキストを取得し、実施の形態１と同様に、使用者による感情入力部３０２に対する操作に基づいて、使用者が音声によって表現あるいは伝達しようとする感情を感情ベクトルとして取得する。さらに、音声合成装置８００は、実施の形態２と同様に、使用者による発話スタイル入力部６０１に対する操作に基づいて、使用者が音響的特徴として表現しようとする発話スタイルを取得する（ステップＳ８０１）。また、使用者は、重み入力部８０１に対して、テキスト、感情、および発話スタイルのそれぞれの重みを入力する。つまり、重み入力部８０１は、使用者による操作に基づいて、上述の各情報に対する重みを取得して、その重みの順位を重み制御部８０２に指定する（ステップＳ８０２）。なお、ステップＳ８０１とステップＳ８０２の順序は逆であっても良い。
【０２３０】
言語解析部３０４は、ステップＳ８０１で取得された入力テキストを、実施の形態１と同様、意味クラス・属性付き辞書６０８を参照することにより、形態素に分割し、分割された各形態素について、意味クラス・属性付き辞書６０８に記憶されている形態素の言語属性ベクトルを抽出する（ステップＳ３０２）。
【０２３１】
さらに、言語解析部３０４は、構文解析を行い、文節の決定、文節間の係り受けの解析等の構文解析を行い、フレーズおよびアクセント句を決定し、読みとアクセント位置と区切り位置とを決定する（ステップＳ３０３）。
【０２３２】
次に、言語属性解析部３０５は、言語解析部３０４で決定された形態素ごとの言語属性ベクトルを１文単位の言語属性ベクトルにまとめる（ステップＳ３０４）。
【０２３３】
一方、音響属性ベクトル生成部６０５ｂは、ステップＳ８０１で発話スタイル入力部６０１によって取得された発話スタイルを、あらかじめ定められたルールにより音響属性ベクトルに変換する(ステップＳ８０３)。
【０２３４】
重み制御部８０２は、ステップＳ８０２で重み入力部８０１によって指定されたテキスト、感情、および発話スタイルの３つの情報に対しする重みの順位（優先順位）に従って、テキスト、感情、および発話スタイル、即ち、言語属性ベクトル、感情ベクトル、および音響属性ベクトルのそれぞれに対する変形許容度を決定する。そして、重み制御部８０２は、それらに対する変形許容度を示す重み信号を出力する（ステップＳ８０４）。
【０２３５】
例えば、ステップＳ８０２で重み入力部８０１によって指定された優先順位が「１：感情、２：発話スタイル、３：テキスト」であった場合、重み制御部８０２は、あらかじめ定められたルールに従って、テキスト、感情、および発話スタイルに対する変形許容度を決定する。
【０２３６】
ルールでは、例えば、感情（感情ベクトル）に対して、優先順位が１の時は、その感情に対する変形を全く認めない変形許容度「０」が決定され、優先順位が２の時は、基本感情の比を変更しない範囲で変形を認める変形許容度「１」が決定され、優先順位が３の時は、各基本感情の大小関係のみが維持されている範囲で変形を認める変形許容度「２」が決定される。また、発話スタイル（音響属性ベクトル）に対して、優先順位が１の時は、その音響属性ベクトルに対する変形を全く認めない変形許容度「０」が決定され、優先順位が２の時は、その音響属性ベクトルのうち韻律に対する変形を認めず、声質に対する任意の変形を認める変形許容度「１」が決定される。また、テキスト（言語属性ベクトル）に対して、優先順位が１の時は、その言語属性ベクトルに対する変形を全く認めない変形許容度「０」が決定され、優先順位が２の時は、機能語の変形を認めず、内容語の同一意味クラス内での変形を認める変形許容度「１」が決定され、優先順位が３のときは、内容語の同一意味クラス内での変形を認め、機能語の同一機能内で変更を認め、全体強調機能を持つ機能語については削除を認める変形許容度「２」が決定される。
【０２３７】
このようなルールに従った場合、重み制御部８０２は、優先順位「１：感情、２：発話スタイル、３：テキスト」に対して、感情（感情ベクトル）に対しては変形許容度「０」、発話スタイル（音響属性ベクトル）に対しては変形許容度「１」、テキスト（言語属性ベクトル）に対しては変形許容度「２」を設定する。
【０２３８】
パターン検索部３０７ｄは、ステップＳ８０１で取得された感情ベクトルと、ステップＳ３０４で生成された言語属性ベクトルと、ステップＳ８０３で生成された音響属性ベクトルとを検索キーとして扱い、感情データベース３０６を検索する。このとき、パターン検索部３０７ｄは、まず、感情ベクトル、言語属性ベクトル、および音響属性ベクトルに変形を加えることなく、感情データベース３０６から、これらのベクトルを含む感情表出パターンを見つけ出そうとする。しかし、感情データベース３０６内に、それらのベクトルの組み合わせに合致する感情表出パターンがない場合は、パターン検索部３０７ｄは、ステップＳ８０４で生成した変形許容度に従って上記各ベクトルを変形し、検索範囲を広げて検索を行う（ステップＳ８０５）。例えば、感情ベクトルに対する変形許容度は「０」であり、音響属性ベクトルに対する変形許容度は「１」であり、言語属性ベクトルに対する変形許容度は「２」である。そして、感情ベクトルは「怒り２、嫌悪４、喜び１」を示し、テキスト「きれいな花が咲きましたね」の言語属性ベクトルは「丁寧さ０．５、上昇下降１．５、賞罰１．５、美醜２」を示し、発話スタイル「男性的、若い年齢、やくざ風」の音響属性ベクトルは「平均ピッチ−１、ピッチダイナミックレンジ−１、声門開放度−２、スペクトル傾斜２、文末ピッチ変動２、ポーズ頻度２」である。このような場合、パターン検索部３０７ｄは、感情ベクトルを変形せず、音響属性ベクトルのうち韻律に関わる「平均ピッチ−１、ピッチダイナミックレンジ−１、文末ピッチ変動２、ポーズ頻度２」は変形しない条件で、図５に示す感情データベース３０６の複数の感情表出パターンから、言語属性ベクトルが「丁寧さ２、上昇下降１．５、賞罰１．５、美醜１．５」または「丁寧さ２、上昇下降１．５、賞罰２、美醜１．５」である感情表出パターンを見つけ出して抽出する。
【０２３９】
なお、本実施の形態では、パターン検索部３０７ｄは、上述の感情パターン保持手段たる感情データベース３０６に保持されている複数の感情パターンから、上述の入力音響属性情報および入力感情情報に近い内容を示す音響属性情報および感情情報を有する感情パターンを検索して抽出するパターン検索手段として構成されている。
【０２４０】
パターン選択部８０３は、ステップＳ８０５で１つ以上抽出された感情表出パターンから１つの感情表出パターンを選択し（ステップＳ８０６）、実施の形態１と同様に、発話スタイル制御部３０８は、その感情表出パターンに含まれる音響属性ベクトルを抽出して（ステップＳ３０６）、変形情報を生成する（ステップＳ３０７）。例えば、音響属性ベクトル「平均ピッチ−１、ピッチダイナミックレンジ−1、声門開放度−1、スペクトル傾斜０、文末ピッチ変動２、ポーズ頻度２」が抽出された場合、発話スタイル制御部３０８は、標準発話スタイルからの変化比率として、平均ピッチを０．９倍、ピッチダイナミックレンジを０．８倍、声門開放度を０．９倍、スペクトル傾斜を１．０倍、文末ピッチの変動を１．５倍、ポーズ頻度を１．２倍に変形するような変形情報を生成する。
【０２４１】
また、文変換部８０４は、ステップＳ８０６で選択された感情表出パターンに含まれる言語属性ベクトルを抽出して(ステップＳ８０７)、入力テキストに合致する文意を持ち、その言語属性ベクトルを実現する文（変形テキスト）を生成し、その変形テキストの構文情報および形態素情報を読み記号生成部６１１へ出力する(ステップＳ８０８)。
【０２４２】
例えば、図５に示すように、音響属性ベクトル「平均ピッチ−１、ピッチダイナミックレンジ−1、声門開放度−1、スペクトル傾斜０、文末ピッチ変動２、ポーズ頻度２」を有する感情表出パターンが選択されていれば、文変換部８０４は、ステップＳ８０７において言語属性ベクトル「丁寧さ２、上昇下降１．５、賞罰１．５、美醜１．５」を抽出する。
【０２４３】
また、入力テキスト「きれいな花が咲きましたね」は、ステップＳ３０２で形態素解析され、ステップＳ３０３の構文解析により、「きれいな：主部修飾：美的高価値」、「花：主部：花」、「が：主格」、「咲き：述部：開花」、「まし：丁寧」、「た：完了」、および「ね：全体強調」を示す形態素情報と構文情報と意味クラスが付与される。文変換部８０４は、これらに基づき、ステップＳ８０８では、まず機能語による言語属性ベクトルを、図１９に従って特定する。即ち、文変換部８０４は、「まし」に対する「丁寧１、全体強調０、部分強調０」や、「ね」に対する「丁寧１、全体強調２、部分強調０」を特定し、さらに、それらの平均値に基づいて、補完属性である「丁寧さ０．５」と、強調属性である「全体強調０．５、部分強調０」とを特定する。
【０２４４】
これにより、文変換部８０４は、言語属性ベクトル「丁寧さ２、上昇下降１．５、賞罰１．５、美醜１．５」の各属性の値を、機能語による全体強調分１．５倍で割り、言語属性ベクトル「丁寧さ１．３、上昇下降１、賞罰１、美醜１」を算出する。さらに、文変換部８０４は、その算出された言語属性ベクトルから、機能語の補完分となる丁寧さ「１」を減算する。その結果、「丁寧さ０．３、上昇下降１、賞罰１、美醜１」が内容語の３語の平均の値となる。このような平均値を有する内容語の組み合わせは、図１９の意味クラス・属性付き辞書６０８中には無いため、文変換部８０４は、入力テキスト「きれいな花が咲きましたね」を、上述の平均値を満たす内容語の組み合わせに最も近い組み合わせを有する変形テキスト「きれいな花が開花しましたね」に変形する。また、文変換部８０４は、その変形テキストから全体強調「ね」を削除した場合には、「美しいお花が咲きました」に変換する。
【０２４５】
このように本実施の形態では、文変換部８０４たるテキスト変形手段は、上述の属性記憶手段に記憶されている各言語属性に基づいて、その属性記憶手段に記憶されている構成単位が適用された変形テキストの言語属性が、上述のパターン検索手段により抽出された感情パターンの言語属性情報の示す言語属性に近くなるように、その属性記憶手段に記憶されている構成単位を入力テキストに適用して変形テキストを生成する。また、そのテキスト変形手段は、属性記憶手段から複数のクラス（意味クラス）に従って構成単位を選択して入力テキストに適用する。
【０２４６】
読み記号生成部６１１は、ステップＳ８０８で生成された変換後の文の構文情報および形態素情報から、読み情報を生成する(ステップＳ８０９)。
【０２４７】
音声合成部３０９は、実施の形態１と同様に、ステップＳ８０９で生成された読みとアクセント位置と区切り位置とを示す読み情報を取得し、音声合成部３０９の韻律生成部３１１は、規則に基づき標準発話スタイルもしくは無表情の音声の韻律パターンを生成する（ステップＳ３０８）。
【０２４８】
次に、韻律変形部３１２は、ステップＳ３０７で生成された変形情報のうち、韻律変形情報にしたがって、ステップＳ３０８で生成された標準発話スタイルの韻律パターンを変形して、ステップＳ３０６で抽出された音響属性ベクトルに合致した韻律パターンを生成する（ステップＳ３０９）。
【０２４９】
パラメータ選択部３１４は、ステップＳ８０９で生成された読み情報と、ステップＳ３０９で生成された変形済みの韻律パターンとに基づいて、その読み情報と韻律パターンに応じた素片の音声合成パラメータをパラメータ素片データベース３１３から選択することで、標準的声質での音声合成パラメータを生成する（ステップＳ３１０）。
【０２５０】
さらに、声質パラメータ変形部３１５は、ステップＳ３０７で生成された変形情報のうち声質パラメータ変形情報に従って、ステップＳ３１０で生成した音声合成パラメータの声質パラメータを変形する（ステップＳ３１１）。波形生成部３１６は、声質パラメータ変形部３１５で生成された音声合成パラメータに基づき音声波形を生成する（ステップＳ３１２）。
【０２５１】
なお、本実施の形態では、発話スタイル制御部３０８と音声合成部３０９とからなる音声合成手段は、上述のパターン検索手段たるパターン検索部３０７ｄにより抽出された感情パターンに含まれる音響属性情報に基づいて、上述の変形テキストに対して音声合成を行うことにより、その音響属性情報の示す音響的特徴を有する合成音声を生成する。
【０２５２】
ここで、音声合成装置８００は、ステップＳ８０５で抽出された感情表出パターンのうち音声波形を生成していないパターンが残っているか否かを判断する(ステップＳ８０９)。音声波形を生成していないパターンが残っていると判断した場合は、音声合成装置８００は、ステップＳ８０６からステップＳ３１２までの動作を繰り返す。一方、ステップＳ８０９において音声波形を生成していないパターンが残っていないと判断した場合は、音声合成装置８００は、生成されたすべての合成音声の波形について、その合成音声が表出する感情と変換済みテキスト（変形テキスト）とを、表示部８１０に表示する(ステップＳ８１０)。ここで、使用者が選択入力部８１１を操作して、表示部８１０に表示された、感情と変換済みテキストから構成される複数の組のうちいずれかを指定する。その結果、選択入力部８１１は、その指定された組を選択して音声出力部３１０に指示し、音声出力部３１０は、その選択された組に対応する合成音声を出力する(ステップＳ８１１)。
【０２５３】
なお、表示部８１０と選択入力部８１１とを一体に構成してもよい。この場合には、表示部８１０および選択入力部８１１は、いわゆるタッチパネルとして構成される。そして、表示部８１０は、例えば図２７のように、組の内容が記されたボタンを表示し、選択入力部８１１は、そのボタンに対する使用者の接触操作に応じて、そのボタンに対応する組を選択する。
【０２５４】
かかる構成によれば、重み入力部８０１で取得された感情、発話スタイル、およびテキストの優先順位により、感情ベクトル、音響属性ベクトル、および言語属性ベクトルに対する変形許容度を設定したうえで、その感情ベクトル、音響属性ベクトル、および言語属性ベクトルにしたがって、感情表出パターンを１つ以上選択する。そして、言語属性ベクトルに対する変形の許容範囲がある場合には、文変換部８０４で入力テキストを変形し、入力された感情、発話スタイル、テキストに対して、入力どおりの音声が実現不可能な場合にも、優先順位に従って、入力された条件に近い音声を合成し、使用者が音声を聞き比べて好みの音声を決定することができる。
【０２５５】
また、合成音声の印象を、音声の言語内容の印象と、音響的特徴による印象と、その両者の組み合わせによって決まる音声全体での印象との３つの属性として捉え、自然音声の分析結果から作成した感情データベース３０６中に含まれる音響的特徴と言語的属性とのバランスに変更することで、音声として自然な範囲の中で音響的特徴と言語的属性との組み合わせによる音声全体の印象を制御することができる。
【０２５６】
すなわち、嫌味や皮肉、あるいは嘲笑のように、言語的内容と音響的特徴とによる表現あるいは印象が一致しない、あるいは音響的特徴の印象と言語表現の印象とが重なって極端な印象を与えることによって表現されるような複雑な感情や表情を表現する音声を合成することができ、同一のテキストであっても表現したい感情に合わせて自動的に音響的特徴を制御して、音声全体としてはまったく異なる感情を表現し分けることができる。
【０２５７】
また、言語によって伝えられる意味内容を変更することなく、言語属性のみを変形することにより、標準のせりふから、キャラクタ設定、ストーリ、場面等により各キャラクタに合ったせりふを都度生成して候補となる音声を提示することができる。その結果、ゲーム、アニメ、あるいは吹き替え音声を作成する場面において製作者が大体のイメージと標準的せりふを入力するだけで候補音声が生成され、使用者はイメージに合った音声を選択するだけで音声を生成することができ、音声を作成する際の労力を大幅に削減しうる。さらには、ゲーム機あるいはゲームソフトに本実施の形態を組み込めば、ゲームのプレーヤが設定したキャラクタ設定にあわせてせりふを生成し、プレーヤの好みの音声を出力することができるため、録音あるいは蓄積された音声では対応不可能な任意のキャラクタによるせりふの音声出力が可能になる。
【０２５８】
つまり、本実施の形態では、感情データベース３０６の各感情表出パターンにはそれぞれ、言語属性ベクトルと、音響属性ベクトルと、それらによって表現される感情ベクトルとが関連付けられおり、入力された発話スタイルの音響属性ベクトルおよび入力された感情ベクトルに近い内容を有する感情表出パターンが抽出され、その感情表出パターンに含まれる言語属性ベクトルの示す言語属性を有するように、テキスト入力部３０１で取得された入力テキストが変形されるため、使用者が合成音声全体で表現しようとする感情を示す感情ベクトルが感情入力部３０２によって取得され、使用者の所望の音響的特徴を示す発話スタイルが発話スタイル入力部６０１によって取得されたときには、テキスト入力部３０１で取得された入力テキストを、使用者の所望の音響的特徴と、使用者が合成音声全体で表現しようとする感情とに応じた言語属性を有する変形テキストに適切に変形することができる。さらに、その変形されたテキストに対して音声合成を行って、抽出された感情表出パターンに含まれる音響属性情報の示す音響的特徴を有する合成音声が生成されるため、合成音声の言語属性、合成音声の示す音響的特徴、および入力された感情を、感情表出パターンで関連付けられた言語属性、音響的特徴、および感情に近づけることができ、その結果、合成音声の言語属性と、合成音声の音響的特徴と、使用者が合成音声全体により表現しようとする感情との相互の関連性を適切に保つことができる。
【０２５９】
なお、実施の形態２〜４では、音声合成部３０９を図２に示す構成としたが、実施の形態１の変形例の図８、図９、あるいは図１０のそれぞれに示す構成としてもよい。
【０２６０】
なお、実施の形態１および３では、言語解析部３０４は単一の属性付き辞書３０３を参照したが、このような辞書を複数個用意して、話者属性、あるいは聴取者属性で切り替えてもよい。
【０２６１】
なお、実施の形態２および４では、言語解析部３０４は単一の意味クラス・属性付き辞書６０８を参照するものとしたが、多くの翻訳技術に見られるように、ドメイン(話題)にあわせて辞書を複数個用意し、ドメイン（話題)によって辞書を切り替えて使用してもよい。
【０２６２】
なお、実施の形態２および４では、言語解析部３０４は単一の意味クラス・属性付き辞書６０８を参照するものとしたが、このような辞書を複数個用意し、話者属性、あるいは聴取者属性で切り替えてもよい。また、ドメインとあわせて切り替えてもよい。
【０２６３】
なお、実施の形態３および実施の形態４において、入力テキストから言語属性ベクトルを生成した後に、入力された発話スタイルから音響属性ベクトルを生成したが、言語属性ベクトルの生成と音響属性ベクトルの生成は、ステップＳ７０３あるいはステップＳ８０５で感情表出パターンの検索を行う以前であれば、どのようなタイミングで行われてもよい。
【産業上の利用可能性】
【０２６４】
本発明にかかる音声合成装置は、合成音声の言語属性と、合成音声の音響的特徴と、使用者が合成音声全体により表現しようする感情との相互の関連性を適切に保つことができ、例えば、電子メールの読み上げ装置や、音声メール、マルチメディアメールなどに備えられる音声合成装置などに適用することができるとともに、ロボットや電話応答サービス等に使われる音声対話システムに備えられる音声出力装置や、翻訳装置や、アニメのせりふ音声の作成や、映画やドラマの吹き替え音声の作成、ゲームソフトのキャラクタ音声の生成を行なう装置などにも応用できる。
【図面の簡単な説明】
【０２６５】
【図１】本発明の実施の形態１における音声合成装置の機能ブロック図である。
【図２】同上の音声合成部のブロック図である。
【図３】同上の感情入力部を示す図である。
【図４】同上の属性付き辞書に含まれるデータの内容と、形態素ごとの言語属性ベクトルを示す図である。
【図５】同上の感情データベースが格納しているデータの一例を示す模式図である。
【図６】同上の音声合成装置の動作を示すフローチャートである。
【図７】同上の使用者の入力と、音声合成装置の内部状態と、出力された合成音声が与える印象とをそれぞれ対比して示す図である。
【図８】同上の変形例１に係る音声合成部のブロック図である。
【図９】同上の変形例２に係る音声合成部のブロック図である。
【図１０】同上の変形例３に係る音声合成部のブロック図である。
【図１１】同上の変形例４に係る感情入力部を示す図である。
【図１２】同上の変形例５に係る音声合成装置の機能ブロック図である。
【図１３】同上の変形例５に係る音声合成装置の動作を示すフローチャートである。
【図１４】同上の変形例６に係る音声合成装置の機能ブロック図である。
【図１５】同上の変形例６に係る音声合成装置の動作を示すフローチャートである。
【図１６】本発明の実施の形態２における音声合成装置の機能ブロック図である。
【図１７】同上の発話スタイル入力部を示す図である。
【図１８】同上の変換テーブル格納部に格納されている変換テーブルを示す図である。
【図１９】同上の意味クラス・属性付き辞書に含まれるデータの内容を示す図である。
【図２０】同上の構文データベースに含まれるデータの内容を示す図である。
【図２１】同上の音声合成装置の動作を示すフローチャートである。
【図２２】同上の使用者の入力と、音声合成装置の内部状態と、出力された合成音声が与える印象とをそれぞれ対比して示す図ある。
【図２３】本発明の実施の形態３における音声合成装置の機能ブロック図である。
【図２４】同上の音声合成装置の動作を示すフローチャートである。
【図２５】同上の感情表示部によって表示される画面を示す図である。
【図２６】本発明の実施の形態４における音声合成装置の機能ブロック図である。
【図２７】同上の表示部に表示される内容を示す図である。
【図２８】同上の音響属性ベクトル生成部のルールを説明するための図である。
【図２９】同上の音声合成装置の動作を示すフローチャートである。
【図３０】従来の音声対話装置のブロック図である。
【符号の説明】
【０２６６】
３００，３００ａ，３００ｂ  音声合成装置
３０１  テキスト入力部
３０２  感情入力部
３０３  属性付き辞書
３０４  言語解析部
３０５  言語属性解析部
３０６  感情データベース
３０７ａ、３０７ｂ、３０７ｃ、３０７ｄ  パターン検索部
３０８  発話スタイル制御部
３０９  音声合成部
３１０  音声出力部
３１１  韻律生成部
３１２  韻律変形部
３１３  パラメータ素片データベース
３１４  パラメータ選択部
３１５  声質パラメータ変形部
３１６  波形生成部
３２５  パラメータ変形部
３３３  音声素片データベース
３３４  素片選択部
３３６  波形接続部
３４４  パラメータ生成部
４０１  話者属性入力部
４０２  データベース選択部
４０３  スイッチ
４０６  データベース群
５０１  聴取者属性入力部
５０２  データベース選択部
５０６  データベース群
６００  音声合成装置
６０１  発話スタイル入力部
６０３  内容語入力部
６０４  変換テーブル格納部
６０５ａ、６０５ｂ  音響属性ベクトル生成部
６０８  意味クラス・属性付き辞書
６０９  構文データベース
６１０  文生成部
６１１  読み記号生成部
６１２  せりふ表示部
７００  音声合成装置
７０１  感情表示部
８００  音声合成装置
８０１  重み入力部
８０２  重み制御部
８０３  パターン選択部
８０４  文変換部
８１０  表示部
８１１  選択入力部
【図１】
2007183421.tif 000003
【図２】
2007183421.tif 000004
【図３】
2007183421.tif 000005
【図４】
2007183421.tif 000006
【図５】
2007183421.tif 000007
【図６】
2007183421.tif 000008
【図７】
2007183421.tif 000009
【図８】
2007183421.tif 000010
【図９】
2007183421.tif 000011
【図１０】
2007183421.tif 000012
【図１１】
2007183421.tif 000013
【図１２】
2007183421.tif 000014
【図１３】
2007183421.tif 000015
【図１４】
2007183421.tif 000016
【図１５】
2007183421.tif 000017
【図１６】
2007183421.tif 000018
【図１７】
2007183421.tif 000019
【図１８】
2007183421.tif 000020
【図１９】
2007183421.tif 000021
【図２０】
2007183421.tif 000022
【図２１】
2007183421.tif 000023
【図２２】
2007183421.tif 000024
【図２３】
2007183421.tif 000025
【図２４】
2007183421.tif 000026
【図２５】
2007183421.tif 000027
【図２６】
2007183421.tif 000028
【図２７】
2007183421.tif 000029
【図２８】
2007183421.tif 000030
【図２９】
2007183421.tif 000031
【図３０】
2007183421.tif 000032