(57)【要約】  メッセージ管理部は映像に表された競技の最新の状況を表すデータであり、その更新の都度配信されるメッセージを受信して蓄積し、説明生成部は伝達済情報に基づいて前記メッセージから検出した未伝達情報を伝達するための説明テキストを生成し、音声合成部は前記説明テキストから変換した音声を出力し、前記説明生成部は、前記説明テキストの生成に用いた未伝達情報を伝達済情報として記録し、前記音声の再生が完了するまで待機した後に、再び、新たな未伝達情報の説明テキストを生成するまでの一連の処理を反復することを特徴とする。
2018216729.tif 000002
【特許請求の範囲】
【請求項１】
競技の最新の状況を表すデータであり、その更新の都度配信されるメッセージを受信して蓄積するメッセージ管理部と、
伝達済情報に基づいて前記メッセージから検出した未伝達情報を伝達するための説明テキストを生成する説明生成部と、
前記説明テキストから変換した音声を出力する音声合成部と、を備え
前記説明生成部は、
前記説明テキストの生成を行った後に、前記説明テキストの生成に用いた未伝達情報を伝達済情報として記録し、その後、前記音声の再生が完了するまで待機した後に、再び、新たな未伝達情報の説明テキストを生成するまでの一連の処理を反復することを特徴とする
音声ガイド生成装置。
【請求項２】
前記メッセージ管理部は、
前記メッセージの更新により生じた変動部分を検出して、前記変動部分の種類に応じた新たな情報を生成し、生成した新たな情報をさらに蓄積する
請求項１に記載の音声ガイド生成装置。
【請求項３】
前記メッセージ管理部は、
前記新たな情報の構造を示す情報生成テンプレートを前記変動部分の種類毎に予め記憶し、
前記情報生成テンプレートから、前記変動部分の種類に対応する情報生成テンプレートを選択し、
選択した情報生成テンプレートに、前記変動部分の要素を統合することで前記新たな情報を生成する
請求項２に記載の音声ガイド生成装置。
【請求項４】
前記説明生成部は、
伝達済情報として保持されている情報の中で所定の種類の情報を、伝達完了時刻から所定の時間が経過した場合に、未伝達であるとみなす
請求項１から請求項３のいずれか一項に記載の音声ガイド生成装置。
【請求項５】
前記説明生成部は、
前記説明テキストの文型を示す説明テンプレートを未伝達情報の種類毎に予め記憶し、
前記説明テンプレートから、前記未伝達情報の種類に対応する説明テンプレートを選択し、
選択した説明テンプレートに、前記未伝達情報の要素を統合して前記説明テキストを生成する
請求項１から請求項４のいずれか一項に記載の音声ガイド生成装置。
【請求項６】
前記説明生成部は、前記メッセージが示す競技の状況を示す競技データに対して強調箇所を予め定めたテキストのテンプレートを用いて、前記競技データから前記強調箇所を示した前記説明テキストを生成し、
前記音声合成部は、
前記説明テキストを解析し、音素ごとの言語特徴量と前記音素に対する強調情報とを生成する音素言語特徴量生成部と、
時間長モデルを用いて、前記音素言語特徴量生成部が生成した前記言語特徴量と前記強調情報とから、前記音素の時間長を生成する時間長演算部と、
前記時間長演算部が生成した音素の時間長と前記音素の言語特徴量とから、前記音素のフレームごとの言語特徴量を生成し、前記フレームに対応する音素の強調情報と対応付けるフレーム言語特徴量生成部と、
音響特徴量モデルを用いて、前記フレーム言語特徴量生成部が生成したフレームの言語特徴量と前記フレームに対応する強調情報とから、前記フレームごとの音響特徴量を生成する音響特徴量演算部と、
前記音響特徴量演算部が生成したフレームごとの音響特徴量を用いて音声合成を行う合成部と、を備え、
前記時間長モデルは、音素ごとの言語特徴量と前記音素に対する強調の有無を示す強調情報とを入力とし、前記音素の時間長を出力として予め学習され、
前記音響特徴量モデルは、前記音素のフレームごとの言語特徴量と前記フレームの強調の有無を示す強調情報とを入力とし、前記フレームの音響特徴量を出力として予め学習されたことを特徴とする
請求項１から請求項５のいずれか一項に記載の音声ガイド生成装置。
【請求項７】
前記時間長モデルおよび前記音響特徴量モデルは、それぞれ前記音素が品詞を名詞とする文末単語の音素であるか否かを示す文末情報をさらに用いて学習され、
前記音素言語特徴量生成部は、前記テキストの文末単語の品詞により、前記音素ごとの前記文末情報を生成し、
前記時間長演算部は、前記音素の言語特徴量と前記強調情報と前記文末情報とから、前記時間長モデルにより、前記音素の時間長を生成し、
前記フレーム言語特徴量生成部は、前記フレームごとの言語特徴量に、さらに前記文末情報を対応付け、
前記音響特徴量演算部は、前記フレームの言語特徴量と前記フレームに対応する前記強調情報および前記文末情報とから、前記音響特徴量モデルにより、前記フレームごとの音響特徴量を生成することを特徴とする
請求項６に記載の音声ガイド生成装置。
【請求項８】
請求項１から請求項７のいずれか一項に記載の音声ガイド生成装置と、
前記音声合成部が変換した音声を示す音声データと前記説明テキストの生成に用いた競技の状況の時刻を示す時刻情報を記憶する第１バッファ部と、
前記競技の状況を示す映像データと当該状況の時刻を示す時刻情報を対応付けて記憶する第２バッファ部と、
現在時刻から所定時間過去の時刻である指定時刻の音声データを前記第１バッファ部から抽出し、前記指定時刻の映像データを前記第２バッファ部から抽出し、抽出した前記音声データと抽出した映像データとを重畳する重畳処理部と、を備える
放送システム。
【請求項９】
前記メッセージ管理部は、前記メッセージを含む競技データと前記メッセージが示す競技の状況の時刻を示す時刻情報を対応付けて記憶し、
前記説明生成部は、前記未伝達情報として現在時刻から第２の所定時間過去の時刻の前記競技データを未伝達情報として前記メッセージ管理部から参照し、かつ、
前記第２の所定時間は、前記所定時間よりも短いことを特徴とする
請求項８に記載の放送システム。
【請求項１０】
請求項１から請求項７のいずれか一項に記載の音声ガイド生成装置と、
前記説明テキストと前記音声を送信する送信装置と、を備える
放送システム。
【請求項１１】
音声ガイド生成装置における音声ガイド生成方法であって、
競技の最新の状況を表すデータであり、その更新の都度配信されるメッセージを受信して蓄積するメッセージ管理過程と、
伝達済情報に基づいて前記メッセージから検出した未伝達情報を伝達するための説明テキストを生成する説明生成過程と、
前記説明テキストから変換した音声を出力する音声合成過程と、を有し、
前記説明生成過程は、
前記説明テキストの生成を行った後に、前記説明テキストの生成に用いた未伝達情報を伝達済情報として記録し、その後、前記音声の再生が完了するまで待機した後に、再び、新たな未伝達情報の説明テキストを生成するまでの一連の処理を反復することを特徴とする
音声ガイド生成方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、音声ガイド生成装置、音声ガイド生成方法及び放送システムに関する。
本願は、２０１７年５月２４日に、日本に出願された特願２０１７−１０２８４７号に基づき優先権を主張し、その内容をここに援用する。
【背景技術】
【０００２】
テレビジョン放送やその他の配信形態で、スポーツ競技の映像及び音声からなるスポーツ番組を提供する際、競技を説明する実況音声を重畳することは、広く行われている。このことは、スポーツ番組をより理解しやすく楽しめるものとすることに貢献する。【０００３】
実況音声を制作するためには、従来、当該競技に精通したアナウンサーなどを競技が行われている間中、常に試合会場等に配置し、実況解説を行わせることがあった。この実況解説は、多くのコストがかかるため、多くの競技のスポーツ番組において提供を断念することや、あるいは実況音声を重畳しない形で提供にとどめることがあった。このことは、特に多くの競技が同時並行して実施される大規模スポーツ大会などで著しい。【０００４】
そこで、スポーツ競技の競技データから競技の状況を説明するテキストを自動生成する手法が提案されていた。例えば、非特許文献１には、野球の各イニングにおける打者成績、スコアボードに表された情報などに基づくイニング速報テキストの自動生成について記載されている。
【先行技術文献】
【非特許文献】
【０００５】
【非特許文献１】村上  聡一朗、笹野  遼平、高村  大也、奥村  学、“打者成績からのイニング速報の自動生成”、言語処理学会  第２２回年次大会  発表論文集、ｐ．３３８−３４１、２０１６年２月２９日
【０００６】
一方、アナウンサーや解説者が発話する実況コメントが重畳されたテレビジョン放送番組においても、視聴者は、スポーツ競技の音声を聞く際、アナウンサーや解説者が発話する実況コメントだけでは競技の状況を十分に把握できないことがある。また、生放送の字幕放送では実況コメントが発話されてから、その発話内容を示す字幕が提示されるまで１０秒程度の遅れが生じる。このことも直近の競技の状況を十分に把握できない原因になりうる。【０００７】
視覚障がい者がテレビジョン放送番組をより楽しめるように、放送事業者は、解説放送を実施することがある。解説放送は、画面に映されている内容をアナウンサー等の説明者の音声で提供する放送サービスである。従来、解説放送のコンテンツを制作するには多くの人手を要する。そのため、放送事業者が提供する放送番組のうち解説放送が実施される放送番組の割合が限られている。また、字幕は、実況アナウンサー等が発話した音声に基づいて音声認識処理又は人手により制作されていた。このような発話内容に対しても、前述の非特許文献１に記載された技術を用いて、解説放送と同様の補足情報を音声で提供することが検討されてきた。
【発明の概要】
【発明が解決しようとする課題】
【０００８】
しかしながら、非特許文献１に記載の手法は、野球に限定され、イニング毎のデータをまとめて解析し、各イニングで起きている状況を要約した説明テキストを生成する手法である。即ち、非特許文献１に記載の手法では、スポーツ中継などの生放送番組の映像に連動して説明テキストを生成することは考慮されていなかった。【０００９】
本発明は上記の点に鑑みてなされたものであり、映像と連動して競技の状況を的確に伝達する音声を生成することができる音声ガイド生成装置、音声ガイド生成方法及び放送システムを提供することを課題とする。
【課題を解決するための手段】
【００１０】
本発明は上記の課題を解決するためになされたものであり、本発明の一態様は、競技の最新の状況を表すデータであり、その更新の都度配信されるメッセージを受信して蓄積するメッセージ管理部と、伝達済情報に基づいて前記メッセージから検出した未伝達情報の説明テキストを生成する説明生成部と、前記説明テキストから変換した音声を出力する音声合成部と、を備え、前記説明生成部は、前記説明テキストの生成を行った後に、前記説明テキストの生成に用いた未伝達情報を伝達済情報として記録し、その後、前記音声の再生が完了するまで待機した後に、再び、新たな未伝達情報の説明テキストを生成するまでの一連の処理を反復することを特徴とする音声ガイド生成装置である。【００１１】
また、本発明の一態様は、上記の音声ガイド生成装置であって、前記メッセージ管理部は、前記メッセージの更新により生じた変動部分を検出して、前記変動部分の種類に応じた新たな情報を生成し、生成した前記情報をさらに蓄積してもよい。【００１２】
また、本発明の一態様は、上記の音声ガイド生成装置であって、前記メッセージ管理部は、前記新たな情報の構造を示す情報生成テンプレートを前記変動部分の種類毎に予め記憶し、前記情報生成テンプレートから、前記変動部分の種類に対応する情報生成テンプレートを選択し、選択した情報生成テンプレートに、前記変動部分の要素を統合することで前記新たな情報を生成してもよい。【００１３】
また、本発明の一態様は、上記の音声ガイド生成装置であって、前記説明生成部は、伝達済情報として保持されている情報の中で所定の種類の情報を、伝達完了時刻から所定の時間が経過した場合に、未伝達であるとみなしてもよい。【００１４】
また、本発明の一態様は、上記の音声ガイド生成装置であって、前記説明生成部は、前記説明テキストの文型を示す説明テンプレートを伝達する未伝達情報の種類毎に予め記憶し、前記説明テンプレートから、前記未伝達情報の種類に対応する説明テンプレートを選択し、選択した説明テンプレートに、前記未伝達情報の要素を統合して前記説明テキストを生成してもよい。【００１５】
また、本発明の一態様は、上記の音声ガイド生成装置であって、前記説明生成部は、前記メッセージが示す競技の状況を示す競技データに対して強調箇所を予め定めたテキストのテンプレートを用いて、前記競技データから前記強調箇所を示した前記説明テキストを生成し、前記音声合成部は、前記説明テキストを解析し、音素ごとの言語特徴量と前記音素に対する強調情報とを生成する音素言語特徴量生成部と、時間長モデルを用いて、前記音素言語特徴量生成部が生成した前記言語特徴量と前記強調情報とから、前記音素の時間長を生成する時間長演算部と、前記時間長演算部が生成した音素の時間長と前記音素の言語特徴量とから、前記音素のフレームごとの言語特徴量を生成し、前記フレームに対応する音素の強調情報と対応付けるフレーム言語特徴量生成部と、音響特徴量モデルを用いて、前記フレーム言語特徴量生成部が生成したフレームの言語特徴量と前記フレームに対応する強調情報とから、前記フレームごとの音響特徴量を生成する音響特徴量演算部と、前記音響特徴量演算部が生成したフレームごとの音響特徴量を用いて音声合成を行う合成部と、を備え、前記時間長モデルは、音素ごとの言語特徴量と前記音素に対する強調の有無を示す強調情報とを入力とし、前記音素の時間長を出力として予め学習され、前記音響特徴量モデルは、前記音素のフレームごとの言語特徴量と前記フレームの強調の有無を示す強調情報とを入力とし、前記フレームの音響特徴量を出力として予め学習されたこと、を特徴としてもよい。【００１６】
また、本発明の一態様は、上記の音声ガイド生成装置であって、前記時間長モデルおよび前記音響特徴量モデルは、それぞれ前記音素が品詞を名詞とする文末単語の音素であるか否かを示す文末情報をさらに用いて学習され、前記音素言語特徴量生成部は、前記テキストの文末単語の品詞により、前記音素ごとの前記文末情報を生成し、前記時間長演算部は、前記音素の言語特徴量と前記強調情報と前記文末情報とから、前記時間長モデルにより、前記音素の時間長を生成し、前記フレーム言語特徴量生成部は、前記フレームごとの言語特徴量に、さらに前記文末情報を対応付け、前記音響特徴量演算部は、前記フレームの言語特徴量と前記フレームに対応する前記強調情報および前記文末情報とから、前記音響特徴量モデルにより、前記フレームごとの音響特徴量を生成すること、を特徴としてもよい。【００１７】
また、本発明の一態様は、上記の音声ガイド生成装置と、前記音声合成部が変換した音声を示す音声データと前記説明テキストの生成に用いた競技の状況の時刻を示す時刻情報を記憶する第１バッファ部と、競技の状況を示す映像データと当該状況の時刻を示す時刻情報を対応付けて記憶する第２バッファ部と、現在時刻から所定時間過去の時刻である指定時刻の音声データを前記第１バッファ部から抽出し、前記指定時刻の映像データを前記第２バッファ部から抽出し、抽出した前記音声データと抽出した映像データとを重畳する重畳処理部と、を備える放送システムであってもよい。【００１８】
また、本発明の一態様は、上記の放送システムであって、前記メッセージ管理部は、前記メッセージを含む競技データと前記メッセージが示す競技の状況の時刻を示す時刻情報を対応付けて記憶し、前記説明生成部は、前記未伝達情報として現在時刻から第２の所定時間過去の時刻の前記競技データを未伝達情報として前記メッセージ管理部から参照し、かつ、前記第２の所定時間は、前記所定時間よりも短いこと、を特徴としてもよい。【００１９】
また、本発明の一態様は、上記の音声ガイド生成装置と、前記説明テキストと前記音声を送信する送信装置と、を備える放送システムであってもよい。【００２０】
また、本発明の一態様は、音声ガイド生成装置における音声ガイド生成方法であって、競技の最新の状況を表すデータであり、その更新の都度配信されるメッセージを受信して蓄積するメッセージ管理過程と、伝達済情報に基づいて前記メッセージから検出した未伝達情報を伝達するための説明テキストを生成する説明生成過程と、前記説明テキストから変換した音声を出力する音声合成過程と、を有し、前記説明生成過程は、前記説明テキストの生成を行った後に、前記説明テキストの生成に用いた未伝達情報を伝達済情報として記録し、その後、前記音声の再生が完了するまで待機した後に、再び、新たな未伝達情報の説明テキストを生成するまでの一連の処理を反復すること、を特徴とする音声ガイド生成方法である。
【発明の効果】
【００２１】
本発明によれば、映像と連動して競技の状況を的確に伝達する音声を効率的に提供することができる。
【図面の簡単な説明】
【００２２】
【図１】第１の実施形態に係る放送システムの構成例を示すブロック図である。
【図２】第１の実施形態に係る音声ガイド生成装置の構成例を示すブロック図である。
【図３】第１の実施形態に係るメッセージの一例を示す図である。
【図４】第１の実施形態に係るメッセージの他の例を示す図である。
【図５】第１の実施形態に係るメッセージ管理処理の第１例を示すフローチャートである。
【図６】第１の実施形態に係るメッセージ管理処理の第２例を示すフローチャートである。
【図７】第１の実施形態に係るメッセージ管理処理の第３例を示すフローチャートである。
【図８】第１の実施形態に係るイベント情報生成処理の一例を示す説明図である。
【図９】第１の実施形態に係る説明生成処理の一例を示すフローチャートである。
【図１０】第１の実施形態に係る説明テンプレートの一例を示す図である。
【図１１】第１の実施形態に係る説明テンプレートの選択ルールの一例を示す図である。
【図１２】第１の実施形態に係る説明テキストの一例を示す図である。
【図１３】第２の実施形態に係る音声ガイド生成装置の構成例を示すブロック図である。
【図１４】第２の実施形態に係る事前学習部の構成例を示すブロック図である。
【図１５】第２の実施形態に係る音声合成部の構成例を示すブロック図である。
【図１６】第２の実施形態に係る時間長モデルの例を示す図である。
【図１７】第２の実施形態に係る音響特徴量モデルの例を示す図である。
【図１８】第２の実施形態に係る競技データの一例を示す図である。
【図１９】第２の実施形態に係る競技データの他の例を示す図である。
【図２０】第２の実施形態に係る説明テンプレートの一例を示す図である。
【図２１】第２の実施形態に係る説明テンプレートの他の例を示す図である。
【図２２】第２の実施形態に係る説明テンプレートのさらに他の例を示す図である。
【図２３】第２の実施形態により生成されたテキストの一例を示す図である。
【図２４】第２の実施形態により生成されたテキストの他の例を示す図である。
【図２５】第２の実施形態により生成された合成音声の抑揚の一例を示す図である。
【図２６】第２の実施形態により生成された合成音声の抑揚の他の例を示す図である。
【図２７】第２の実施形態に係る事前学習の一例を示すフローチャートである。
【図２８】第２の実施形態に係る音声ガイド生成処理の一例を示すフローチャートである。
【図２９】第３の実施形態に係る音声ガイド生成装置の構成例を示すブロック図である。
【図３０】第３の実施形態に係る音声ガイド配信処理の一例を示すフローチャートである
【発明を実施するための形態】
【００２３】
＜第１の実施形態＞
以下、図面を参照しながら本発明の第１の実施形態を詳細に説明する。
図１は、本実施形態に係る放送システム１の構成例を示すブロック図である。放送システム１は、音声ガイド生成装置１０と、映像処理部１５と、送信装置１６と、受信装置２０と、を備える。音声ガイド生成装置１０、映像処理部１５及び送信装置１６は、主に放送事業者が有する送信側の装置群である。受信装置２０は、主に視聴者が有する受信側の装置である。以下の説明では、放送システム１がテレビジョン放送に適用される場合を例にする。
【００２４】
音声ガイド生成装置１０は、競技の最新情報を表すデータで、その更新の都度最新版のメッセージを取得する。音声ガイド生成装置１０は、メッセージとして、例えば、データセンタから実時間で配信される競技データを、通信ネットワークを介して受信する。データセンタは、例えば、ＯＢＳ（Ｏｌｙｍｐｉｃ  Ｂｒｏａｄｃａｓｔｉｎｇ  Ｓｅｒｖｉｃｅｓ）など競技大会の公式のデータセンタでありうる。また、音声ガイド生成装置１０は、放送事業者もしくはコンテンツ制作者の編集装置から競技データを直接又は間接的に受信してもよい。競技データは、放送などにより提供される映像に表されるスポーツ競技の状況を示す所定の形式のデータ（例えば、ＯＤＦ（Ｏｌｙｍｐｉｃ  Ｄａｔａ  Ｆｅｅｄ））である。競技データの例については、後述する。
【００２５】
音声ガイド生成装置１０は、取得した最新版の受信メッセージを蓄積する。音声ガイド生成装置１０は、伝達済情報に基づいて受信メッセージから未伝達情報を検出する。音声ガイド生成装置１０は、検出した未伝達情報を伝達するための説明テキストを生成し、生成した説明テキストから変換した音声データを送信装置１６に出力する。また、音声ガイド生成装置１０は、説明テキストの生成に用いた未伝達情報を伝達済情報として累積する。そして、音声ガイド生成装置１０は、音声データを再生するのに必要な時間だけ待機した後、再び、新たに未伝達情報を検出し、検出した未伝達情報の説明テキストを生成する、という、一連の処理を反復する。音声ガイド生成装置１０は、生成した説明テキストを送信装置１６に出力してもよい。
【００２６】
映像処理部１５は、映像データと音声データを取得する。取得される映像データ、音声データは、それぞれ競技データが示すスポーツ競技の映像、音声を表すデータである。映像処理部１５は、例えば、競技会場に設置された撮影装置（例えば、ビデオカメラ）から映像データを、収音装置（例えば、マイクロホン）から音声データを直接又は間接的に受信する。映像処理部１５は、取得された映像データと音声データからオペレータの操作に応じて放送される区間もしくは部分の映像データと音声データを編集してもよい。映像処理部１５は、取得もしくは編集した映像データと音声データを送信装置１６に出力する。
【００２７】
以下の説明では、映像処理部１５から提供される音声データを原音声データと呼び、音声ガイド生成装置１０が生成した音声データを音声ガイドデータと呼んで、両音声データを区別する。原音声データは、会場で収録した背景音のみであってもよいし、背景音に実況解説等の音声が重畳された音声を示すデータであってもよい。
【００２８】
送信装置１６は、音声ガイド生成装置１０から入力された音声ガイドデータと、映像処理部１５から入力された映像データならびに原音声データとを多重化する、送信装置１６は、多重化により得られた多重化データを放送伝送路に送出する。放送伝送路は、例えば、所定の周波数帯域の放送波である。放送伝送路の一部には、通信回線が含まれてもよい。
【００２９】
なお、音声ガイドデータ、原音声データは、それぞれ音声多重放送における副音声、主音声として多重化されてもよい。送信装置１６は、音声ガイド生成装置１０から説明テキストが入力されるとき、入力される説明テキストを字幕データとして、さらに多重化してもよい。
【００３０】
受信装置２０は、放送伝送路を介して伝送される多重化データを受信し、受信した多重化データに基づいて放送番組の内容を提示する。受信装置２０は、受信した多重化データから映像データ、原音声データ及び音声ガイドデータに分離する。受信装置２０は、表示部（例えば、ディスプレイ）と、再生部（例えば、スピーカ）とを備える。表示部は、分離した映像データに基づく映像を表示する。再生部は、原音声データと音声ガイドデータのいずれか一方又は両方に係る音声を再生する。受信装置２０は、ユーザの操作（例えば、リモートコントローラの主音声ボタンもしくは副音声ボタンの押下）に応じて、原音声データに基づく音声と、音声ガイドデータに基づくガイド音声のいずれか一方を選択してもよい。また、受信装置２０は、原音声とガイド音声を重畳し、重畳により得られた重畳音声を再生部に再生させてもよい。
【００３１】
なお、多重化データに字幕データが含まれる場合には、受信装置２０は、多重化データから字幕データを分離してもよい。受信装置２０は、ユーザの操作（例えば、リモートコントローラの字幕ボタンの押下）に応じて、分離した字幕データで示される文字列を映像に重畳してもよい。受信装置２０は、文字列を重畳した映像を表示部に表示させる。受信装置２０は、例えば、テレビジョン受信装置である。
【００３２】
また、音声ガイド生成装置１０は、生成した説明テキストを送信装置１６に代えて、映像処理部１５に出力してもよい。
映像処理部１５は、音声ガイド生成装置１０から説明テキストが入力されるとき、説明テキストで表される文字列を字幕として映像データに重畳し、字幕を重畳した映像データを送信装置１６に出力してもよい。
【００３３】
（音声ガイド生成装置）
次に、本実施形態に係る音声ガイド生成装置１０の構成例について説明する。
図２は、本実施形態に係る音声ガイド生成装置１０の構成例を示すブロック図である。
音声ガイド生成装置１０は、メッセージ管理部１１と、説明生成部１２と、音声合成部１３と、を備える。
【００３４】
メッセージ管理部１１は、取得した受信メッセージの最新版を保持する。メッセージ管理部１１は、取得した受信メッセージが、複数の異なる種別に分かれているものとして、種別ごとに最新版を保持するように構成されてもよい。メッセージの種別は、例えば、競技の状態（試合状態）を示す試合状態メッセージや、起こった出来事を列挙したイベント一覧メッセージなどである。また、メッセージ管理部１１は、取得した受信メッセージを最新版より以前のものも併せて保持し、新しい受信メッセージを取得した際にその以前の版と比較することでメッセージ変動部分を検出する。メッセージ管理部１１は、検出した変動の種類に応じた新たな情報を生成した上で、生成した情報をメッセージ管理部１１が保持する特別なメッセージ種別のメッセージに追加して保持するよう構成してもよい。この機能は、一例として、試合状態のみがメッセージとして配信される競技において、試合状態の変動からイベントを検出してイベント情報を生成し、生成したイベント情報からなるイベント一覧として保持するために用いることができる。メッセージ管理部１１が行う処理については、後述する。
【００３５】
メッセージ管理部が前記の手順で新たな情報を生成する際、メッセージ管理部１１は、自部に予め記憶しておいた情報生成テンプレートを用いてもよい。情報生成テンプレートは、メッセージの予め指定された一部である情報要素を空欄として有し、その情報要素を含んだ新たな情報をメッセージの一部として生成するための情報構造の雛形を示すデータである。メッセージ管理部１１は、記憶した情報生成テンプレートから、受信メッセージの変動部分の種類を手がかりとする所定の選択ルールに合致するか否かを判定し、合致すると判定した選択ルールに対応する情報生成テンプレートを選択する。メッセージ管理部１１は、選択した情報生成テンプレートに、所定の情報要素を統合して、追加すべきメッセージの一部を生成する。
【００３６】
説明生成部１２は、説明生成処理と発話管理処理とを行う。説明生成処理において、説明生成部１２は、メッセージ管理部１１に記憶された受信メッセージと、自部に既に記憶した伝達済情報とを比較して、新たな未伝達情報の有無を検出する。未伝達情報は、メッセージ管理部１１に記憶された受信メッセージのうち、伝達済情報との差分に相当する。伝達済情報は、既に出力された音声ガイドデータに変換された説明テキストの生成に用いられた過去の未伝達情報に相当する。説明生成部１２は、新たに検出した未伝達情報で表される競技の状況を示す説明テキストを生成する。説明生成部１２は、生成した説明テキストを音声合成部１３に出力する。説明生成部１２は、音声合成部１３への出力と並行して、生成した説明テキストを送信装置１６（図１）に出力してもよい。
【００３７】
発話管理処理において、説明生成部１２は、音声合成部１３からの音声ガイドデータの出力状態（つまり、発話状態）を監視し、その出力が完了するまで待機する。説明生成部１２は、例えば、説明テキストの出力時点から音声合成部１３から出力終了通知（後述）が入力される時点までの間、音声ガイドデータが出力中であると判定する。音声合成部１３は、出力終了通知の入力後、次に説明テキストを出力するまでの間、音声ガイドデータが出力されていない（無発話）と判定する。説明生成部１２は、音声ガイドデータの出力の終了後、出力が終了した音声ガイドデータへの変換に用いられた説明テキストの生成に用いられた未伝達情報を伝達済情報の追加分として記憶する。これにより、伝達済情報が更新される。なお、伝達済情報の更新処理は、音声合成部１３における出力処理完了までの待機時間中に行われてもよい。その後、説明生成部１２は、更新後の伝達済情報と最新の受信メッセージについて、再度、説明生成処理を行う。
【００３８】
説明テキストを生成する際、説明生成部１２は、自部に予め記憶しておいた説明テンプレートを用いてもよい。説明テンプレートは、メッセージの予め指定された一部である情報要素の入力欄を空欄として有し、その情報要素を説明するための説明文の文型（つまり、穴あきテキスト）を示すデータである。説明生成部１２は、記憶した説明テンプレートから、未伝達情報の種類を手がかりとする所定の選択ルールに従って対応する説明テンプレートを選択する。説明生成部１２は、選択した説明テンプレートに、所定の情報要素を統合して、説明テキストを生成する。
【００３９】
音声合成部１３は、説明生成部１２から入力される説明テキストに対して音声合成処理を行って、その説明テキストで発話内容を表す発話音声を示す音声ガイドデータを生成する。音声合成部１３は、公知の音声合成方式として、例えば、コーパスベース音声合成方式を用いることができる。コーパスベース音声合成方式を用いる場合、音声合成部１３は、予め記憶させておいた音声コーパスを参照する。音声合成部１３は、生成した音声ガイドデータを所定の発話速度（日本語の場合、例えば、３００〜４００モーラ／分）で送信装置１６に出力する。音声合成部１３は、音声ガイドデータの出力が終了したとき、その終了を示す出力終了通知を説明生成部１２に出力する。
【００４０】
説明テキストが日本語で記述されるときであっても、説明テキストの一部の要素情報、例えば、競技の選手名にアルファベットからなる文字列が含まれる場合がある。その場合には、説明生成部１２は、その文字列から、あるいはそれに加えて選手の国籍情報から、その要素情報の読み方推定処理を行い、その要素情報の文字列の読みを定めることとしてもよい。音声合成部１３は、読み方推定処理の手法として、例えば、非特許文献：宮崎、熊野、今井、“国籍情報を用いた人名の音訳”、第１５回情報科学技術フォーラム講演論文集（ＦＩＴ２０１６）、Ｅ−０１８  Ｎｏ．２、ｐ．１４５−１４６、２０１６年８月２３日、に記載の手法を用いることができる。
【００４１】
（メッセージ）
次に、本実施形態に係るメッセージの例について説明する。
図３は、試合状態データを含むメッセージの一例を示す図である。本実施形態では、メッセージとしてＯＤＦに基づいて構成された競技データが利用可能である。ＯＤＦは、マークアップ言語の一種であるＸＭＬ（Ｅｘｔｅｎｓｉｂｌｅ  Ｍａｒｋｕｐ  Ｌａｎｇｕａｇｅ）を用いて記述されるメッセージを示すデータフィードである。マークアップ言語で規定されたタグが用いられることで、構成情報間の包含関係ならびに並列関係、それらの種別や属性が記述される。但し、図３、図４に示す例では、タグの表記が省略もしくは簡略化され、実体的な情報が表されている。
【００４２】
図３の冒頭には、メッセージ種別として「試合状態」が記述され、対象となる試合として、「サッカー男子決勝」が記述されている。
また、対戦カードの一方であるチーム１として「ブラジル」が記述され、他方であるチーム２として「ドイツ」が記述されている。
チーム１、２の得点として、それぞれ「３」、「４」が記述されている。
従って、図３に示すメッセージは、試合状態として、サッカー男子決勝がブラジルチームとドイツチームの対戦であり、得点が３対４であることを示す。
【００４３】
図４は、イベント情報を含むメッセージの一例を示す。図４の冒頭には、メッセージ種別として「イベント一覧」が記述され、対象となる試合として「サッカー男子決勝」が記述されている。
イベント［１］、イベント［２］、…、イベント［８］は、それぞれ第１、２、８番目のイベント情報を示す。
イベント［８］において、時刻として「前半２７分」が記述されている。イベント種別として「フリーキック（直接ゴールを狙う）」が記述されている。結果として「成功」が記述されている。行為者として「チーム：ブラジル、選手名ＮＭ」が記述されている。
従って、図４に示すメッセージは、第８番目のイベントとして、サッカー男子決勝の前半セットの開始から２７分において、ブラジルチームに所属する選手ＮＭがフリーキックにより直接ゴールを狙ったことを示す。
【００４４】
（メッセージ管理）
次に、本実施形態に係るメッセージ管理処理について説明する。
図５は、本実施形態に係るメッセージ管理処理の第１例を示すフローチャートである。本例は、メッセージ管理処理の基本型である。
（ステップＳ１１）メッセージ管理部１１は、その時点において最新版のメッセージを配信元から受信する。その後、ステップＳ１２の処理に進む。
（ステップＳ１２）メッセージ管理部１１は、受信した最新版のメッセージを蓄積する。その後、ステップＳ１１の処理に戻る。
【００４５】
図６は、本実施形態に係るメッセージ管理処理の第２例を示すフローチャートである。本例は、メッセージの種別が複数あり、そのうちのいずれに分類することを特徴とする。
（ステップＳ２１）メッセージ管理部１１は、その時点において最新版のメッセージを配信元から受信する。その後、ステップＳ２２の処理に進む。
（ステップＳ２２）メッセージ管理部１１は、その時点において最新版のメッセージの種別を判定する。種別の判定において、メッセージ管理部１１は、メッセージに付随したタグや、設定されたパラメータを参照してもよい。その後、ステップＳ２３の処理に進む。
（ステップＳ２３）メッセージ管理部１１は、判定した種別毎に受信した最新版のメッセージを蓄積する。その後、ステップＳ２１の処理に戻る。
【００４６】
なお、ステップＳ１２（図５）もしくはステップＳ２３（図６）において、メッセージ管理部１１は、過去に蓄積したメッセージを棄却し、完全に最新版のメッセージに置き換えてもよい。
【００４７】
図７は、本実施形態に係るメッセージ管理処理の第３例を示すフローチャートである。本例は、メッセージの変動部分のパターンが所定のパターンに合致する場合に、そのパターンに応じたイベント情報を生成することを特徴とする。
（ステップＳ３１）メッセージ管理部１１は、その時点において最新版のメッセージを配信元から受信する。その後、ステップＳ３２の処理に進む。
（ステップＳ３２）メッセージ管理部１１は、受信した最新版のメッセージを蓄積する。このとき、メッセージ管理部１１は、過去に蓄積したメッセージを棄却せずに維持する。その後、ステップＳ３３の処理に進む。
（ステップＳ３３）メッセージ管理部１１は、最新版のメッセージと直前の版のメッセージとを比較し、直前の版からの変動部分を検出する。その後、ステップＳ３４の処理に進む。
【００４８】
（ステップＳ３４）メッセージ管理部１１は、予め記憶しておいた変動部分のパターンのうち、検出した変動部分のパターンに合致（つまり、マッチ）するパターンの有無を判定する。メッセージ管理部１１には、変動部分のパターンと、そのパターンに対応する情報生成テンプレートのセットを、その変動部分の種別毎に記憶しておく。
合致するパターンがあると判定されるとき（ステップＳ３４  ＹＥＳ）、ステップＳ３５の処理に進む。合致するパターンがないと判定されるとき（ステップＳ３４  ＮＯ）、ステップＳ３１の処理に戻る。
【００４９】
（ステップＳ３５）メッセージ管理部１１は、イベント生成データを参照して、合致するパターンに対応する生成ルールを特定し、特定した生成ルールと最新版のメッセージに基づいてイベント情報を生成する。その後、ステップＳ３６の処理に進む。
（ステップＳ３６）メッセージ管理部１１は、生成したイベント情報を最新版のメッセージに追加することで、その最新版メッセージと対応付けて蓄積する。その後、ステップＳ３１の処理に戻る。
【００５０】
（イベント情報生成処理）
次に、ステップＳ３３からステップＳ３５（図７）で行われるイベント情報生成処理について説明する。
図８は、イベント情報生成処理の一例を示す説明図である。
図８は、過去のメッセージ、最新版のメッセージ、及び生成されたイベント情報の例を上方から下方に向けてその順序で示す。図８に示す例では、直前の版のメッセージ、最新版のメッセージが、それぞれテニス競技における試合状態データである場合を仮定する。
【００５１】
メッセージ管理部１１は、ステップＳ３３において、直前の版のメッセージと最新版のメッセージを比較し、変動部分を検出する。図８に示す例では、変動部分として、ゲームカウント、アンフォーストエラーの回数及びブレーク数（ブレーク成功）の項目が検出される。ここで、第４セット（４Ｓ）における競技者ＭＲのゲームカウントの４から５への変化、競技者ＤＰのアンフォーストエラーの回数の１１から１２への変化、ならびに競技者ＭＲのブレーク数の２から３への変化が検出される。
【００５２】
メッセージ管理部１１は、ステップＳ３４において、検出された変動部分の要素情報のパターンと合致するパターンとして、予め記憶しておいた変動部分のパターンのうち、種別をポイント（得点）とするパターンがあると判定する。
メッセージ管理部１１は、ステップＳ３５において、情報生成テンプレートを参照して、選択したパターンに対応する生成ルールを特定し、特定した生成ルールに基づいてイベント情報を生成する。ここで、メッセージ管理部１１は、変動部分に含まれる行為者として競技者ＭＲと、原因として行為者の対戦相手である競技者ＤＰのアンフォーストエラーと競技者ＭＲのブレークの成功（Ｙ）とを特定する。そして、メッセージ管理部１１は、識別子「［イベント１１２３］」と特定した情報を統合して、種別「ポイント」、行為者「ＭＲ」、原因「ＤＰのアンフォーストエラー」と「ブレーク：Ｙ」、を含むイベント情報を生成する。識別子［イベント１１２３］は、個々のイベントを一意に特定するための識別情報である。
【００５３】
（説明生成処理）
次に、本実施形態に係る説明生成処理について説明する。
図９は、本実施形態に係る説明生成処理の一例を示すフローチャートである。図９に示す処理は、図５−図７のいずれかに示す処理とは、非同期で実行される。
（ステップＳ４１）説明生成部１２は、メッセージ管理部１１に記憶された最新のメッセージと自部に記憶された伝達済情報とを比較し、未伝達情報を検出する。説明生成部１２は、予め記憶しておいた未伝達情報のパターンのうち、検出した未伝達情報と合致（マッチ）するパターンの有無を判定する。説明生成部１２には、未伝達情報のパターンと、そのパターンに対応する説明テンプレートのセットを、その未伝達情報の種別毎に記憶しておく。合致するパターンがあると判定するとき（ステップＳ４１  ＹＥＳ）、ステップＳ４３の処理に進む。合致するパターンがないと判定するとき（ステップＳ４１  ＮＯ）、ステップＳ４２の処理に進む。
（ステップＳ４２）説明生成部１２は、一定時間（例えば、１秒）処理を行わずに待機し（スリープ）、その後、ステップＳ４１の処理に戻る。
【００５４】
（ステップＳ４３）説明生成部１２は、合致すると判定されたパターンに対応する説明テンプレートを読み出し、読み出した説明テンプレートと未伝達情報に基づいて説明テキストを生成する。その後、ステップＳ４４の処理に進む。
（ステップＳ４４）説明生成部１２は、説明テキストに、例えば、アルファベットからなる文字列で記述される選手名が含まれるか否かを判定する。選手名が含まれると判定されるとき（ステップＳ４４  ＹＥＳ）、ステップＳ４５の処理に進む。選手名が含まれないと判定するとき（ステップＳ４４  ＮＯ）、ステップＳ４６の処理に進む。
（ステップＳ４５）説明生成部１２は、選手名の部分について国籍情報に基づいて上述の読み方推定処理を行って説明テキストの日本語の読みを定める。説明生成部１２は、その部分について定めた読みをもって説明テキストを更新する。その後、ステップＳ４６の処理に進む。
【００５５】
（ステップＳ４６）説明生成部１２は、生成した説明テキストを音声合成部１３に出力する。音声合成部１３は、説明生成部１２から入力された説明テキストについて音声合成処理を行って音声ガイドデータを生成する。音声合成部１３は、生成した音声ガイドデータを所定の発話速度で送信装置１６に出力する。説明生成部１２は、音声ガイドデータの出力が完了するまで待機し、その後、ステップＳ４７の処理に進む。
（ステップＳ４７）説明生成部１２は、出力した説明テキストの生成に用いた未伝達情報を新たな伝達済情報として蓄積することにより、伝達済情報を更新する。その後、ステップＳ４１の処理に戻る。
【００５６】
なお、未伝達情報のパターンには、伝達済情報のうち所定の情報要素について所定時間（例えば、３０秒）経過後に未伝達とみなすことを示す指定情報が含まれることがある。説明生成部１２は、ステップＳ４１の処理において、その指定情報が含まれるパターンと未伝達情報のパターンとが合致するか否かを判定する際、指定された情報要素を未伝達情報に含める。そのため、指定された情報要素が、現実には伝達済であっても、再度伝達されうる。そのため、試合状況の変動がない、もしくは変動が少ない場合であっても、指定された情報要素、例えば、試合状態を反復して伝達することが可能となる。従って、そのような場合において受聴者が試合状況を忘れてしまうことを避けることができる。また、音声ガイドを試合の途中から受聴した受聴者であっても試合状態を把握することができる。
また、図９に示す処理のうち、ステップＳ４４ならびにステップＳ４５の処理は、必須ではなく、省略されてもよい。
【００５７】
（説明テンプレート）
次に、本実施形態に係る説明テンプレートの一例について説明する。
図１０は、本実施形態に係る説明テンプレートの一例を示す図である。
図１０は、イベントの種別をポイントとするパターンに対応付けられた説明テンプレートの例である。この説明テンプレートは、競技におけるイベントとして選手Ｂの動作を原因とするポイントと、試合状態としてゲームカウント、獲得ゲーム数、対象セットのブレーク数を説明するための文型を示す。この説明テンプレートには、未伝達情報の情報要素のうち、得点した［選手Ｂのフルネーム］、［原因］、その原因となるゲームブレークに成功した［選手Ｂのフルネーム］、［全体ゲーム数］、競技者である［選手Ａのファミリーネーム］、［選手Ｂのファミリーネーム］、各競技者の得点として［選手Ａの獲得ゲーム数］、［選手Ｂの獲得ゲーム数］、得点時における行為者である［選手Ｂのブレーク数］、をそれぞれ代入するための空欄が設けられている。
【００５８】
次に、図１０に示す説明テンプレートに対応するパターンの選択ルールの例について説明する。
図１１は、図１０に示す説明テンプレートの選択ルールの例を示す図である。
この例では、説明テンプレートに対応するパターンを選択するための条件が、未伝達情報に含まれる情報要素として、イベントの種別を「ポイント」とし、かつ、イベントの原因として「選手Ａ（もしくは選手Ｂ）のアンフォーストエラー」と「ブレークの成功（Ｙ）」をいずれも含むこと、に合致することである。かかる選択ルールは、個々の説明テンプレートのパターン毎に予め設定される。
【００５９】
（説明テキスト）
次に、図１０に示す説明テンプレートを用いて生成された説明テキストの例について説明する。図１２は、図１０に示す説明テンプレートを用いて生成された説明テキストの例を示す図である。
説明生成部１２は、ステップＳ４３（図９）において、未伝達情報のパターンとして、その未伝達情報に含まれる情報要素と合致するパターンとして、予め記憶されたパターンのうち図１１に示すパターンの選択ルールを特定する。説明生成部１２は、特定したパターンに対応する説明テンプレートとして図１２に示す説明テンプレートを選択する。
そして、説明生成部１２は、選択した説明テンプレートに設けられた空欄のそれぞれに対応する未伝達情報の情報要素を代入する。具体的には、説明生成部１２は、図１０に示す説明テンプレートに、［選手Ｂのフルネーム］、［原因］、［選手Ｂのファミリーネーム］、及び［全体ゲーム数］の空欄に、それぞれ「ＡＤ・ＭＲ」、「ＤＰのアンフォーストエラー」、「ＭＲ」、及び「１０」を代入する。説明生成部１２は、この説明テンプレートに、さらに［選手Ａのファミリーネーム］、［選手Ｂのファミリーネーム］、［選手Ａの獲得ゲーム数］、［選手Ｂの獲得ゲーム数］、及び［選手Ｂのブレーク数］の空欄に、それぞれ「ＤＲ」、「ＭＲ」、「５」、「５」、及び「３」を代入する。よって、「ＭＲ、第１０ゲームブレーク成功。ゲームカウント、ＤＲ対ＭＲ、５−５。この３回目のブレーク。」との文を示す説明テキストが生成される。
【００６０】
なお、あるパターンに対して上述の指定情報が対応付けられている場合においても、説明生成部１２は、指定情報で指定された情報要素については、伝達してから所定時間経過後に未伝達情報とみなしたうえで、上述した手法で説明テキストを生成することができる。
例えば、指定情報においてメッセージ種別を試合状態とする要素情報が設定する場合を仮定する。その場合には、メッセージ種別を試合状態とする要素情報を未伝達情報に含め、その未伝達情報の全体に含まれる要素情報のパターンに合致するパターンに対応する説明テンプレートを選択する。ここで、選択ルールとして、説明生成部１２は、試合状態種別が「ゲームカウント」であり、要素情報として、［試合名］、［選手Ａのファミリーネーム］、［選手Ｂのファミリーネーム］、［セット数］、［選手Ａの獲得ゲーム数］、及び［選手Ｂの獲得ゲーム数］をいずれも含むという条件に合致するとき、対応する説明テンプレートとして、次の説明テンプレートを選択する。
［試合名］、［選手Ａのファミリーネーム］対［選手Ｂのファミリーネーム］。現在第［セット数］。ゲームカウント［選手Ａの獲得ゲーム数］対［選手Ｂの獲得ゲーム数］。
【００６１】
そして、説明生成部１２は、未伝達情報に含まれる要素情報である、それぞれ未伝達情報に含まれる要素情報である「テニス男子シングルス決勝」、「ＤＰ」、「ＭＲ」、「１」、「５」、及び「５」を、選択したテンプレートの［試合名］、［選手Ａのファミリーネーム］、［選手Ｂのファミリーネーム］、［セット数］、［選手Ａの獲得ゲーム数］、及び［選手Ｂの獲得ゲーム数として］の各欄に代入する。これにより、説明生成部１２は、次に示す説明テキストを生成することができる。
「テニス男子シングルス決勝、ＤＰ対ＭＲ。現在第１セット。ゲームカウント５対５。」
【００６２】
以上に説明したように、本実施形態に係る音声ガイド生成装置１０は、メッセージ管理部１１と、説明生成部１２と、音声合成部１３と、を備える。メッセージ管理部１１は、競技の状況を示す競技データを受信メッセージとして蓄積する。競技データに記述される競技の状況は、並行して放送される映像に表されるものであってもよい。説明生成部１２は、伝達済情報に基づいて受信メッセージから検出した未伝達情報の説明テキストを生成する。音声合成部１３は、説明テキストから変換した音声を出力する。説明生成部１２は、説明テキストの生成に用いた未伝達情報を伝達済情報とし、音声合成部１３から音声の出力が終了した後、新たな未伝達情報の説明テキストを生成してもよい。
【００６３】
この構成によれば、映像に表された競技の状況を示す説明テキストに基づく音声が人手を介さずに提供される。また、１回の音声の提供が中断されずに完了した後で、その時点で新たな競技の状況を説明する音声の提供が開始される。そのため、映像に表された競技の進行に連動して、競技の状況を受聴者に的確に伝達することができる。
【００６４】
また、メッセージ管理部１１は、受信メッセージの変動部分に競技のイベントを示すイベント情報が含まれないとき、変動部分に含まれる競技の状態である試合状態の変動をイベントとするイベント情報を生成してもよい。
この構成によれば、イベント情報が提供されない場合でも、試合状態の変動をイベントとして変動した試合状態とともに受聴者に伝達することができる。受聴者は競技の進行をより詳細に把握できるので、競技をより楽しむことができる。
【００６５】
また、説明生成部１２は、伝達済情報に保持されている情報のうち、伝達されてから所定の時間が経過したものを、最新メッセージから変化していなくとも未伝達として扱い、再度同じ内容を説明するテキストを生成することが可能であってもよい。
この構成によれば、競技の状況が時間経過に応じて変化しない場合に、受聴者が忘却したかもしれない情報を繰り返し伝達することができる。また、競技の途中から受聴を開始する受聴者でも競技の状況を把握することができる。
【００６６】
説明生成部１２は、説明テキストの文型を示す説明テンプレートを伝達すべき未伝達情報の種別毎に予め記憶しておき、記憶した説明テンプレートから、未伝達情報の種別に対応する説明テンプレートを選択してもよい。説明生成部１２は、選択したテンプレートに、未伝達情報を統合して説明テキストを生成する。
この構成によれば、異なる競技に対応するシステムを個別に開発することなく、競技ごとに説明テンプレートを予め記述しておくだけでよいので、複雑な処理を行わずに競技の状況を伝達することができる。そのための作業やシステム規模を低減することで、経済的な実現を図ることができる。
【００６７】
また、放送システム１は、音声ガイド生成装置１０と、説明テキストと生成された音声を送信する送信装置１６とを備えてもよい。
この構成によれば、送信される音声の内容を示す説明テキストを介して競技の状況が視聴者に伝達される。そのため、聴覚が不自由な者であっても説明テキストを視認して、その競技の状況を把握することができる。そのため、経済的に多様な視聴者にスポーツ競技を楽しませることができる。
【００６８】
＜第２の実施形態＞
次に、本発明の第２の実施形態について説明する。第１の実施形態に係る音声ガイド生成装置１０は、スポーツ競技のスコア、ゴール、反則等の進行状態を示す競技データから、音声による解説（つまり、音声ガイド）を生成する。この競技データから音声ガイドを生成することで、例えば、視覚障害者がテレビのスポーツ中継をより楽しむことができることや、インターネットで配信されるスポーツ競技映像に音声による解説を付加したりすることが可能になる。
【００６９】
また、近年、統計モデルを用いた音声合成技術が進歩している。例えば、ディープニューラルネットワーク（Deep Neural Network：ＤＮＮ）を用いて、話者の特徴や感情表現を学習し、テキストから、話者や感情を制御した音声合成を行う技術が提案されている。これによって、表現の豊かな音声合成が可能になる。
【００７０】
第１の実施形態で説明したように、競技データから音声ガイドを生成する手法を用いることで、競技の進行を音声で案内することが可能になる。しかし、第１の実施形態では、単にテキストを音声合成するに過ぎない。そのため、合成音声は抑揚にメリハリのない音声となるので、案内の意図が十分に表現されないことがある。
【００７１】
また、話者や感情を制御した音声合成を行う手法を用いて、音声ガイドを生成するとき、テキスト全体に対して話者や感情を制御するだけでは、テキストの途中で音声を強調する等の制御を行うことはできない。そのため、この手法を用いて、競技データから音声ガイドを生成することとしても、音声の抑揚にメリハリをつけることはできないので、案内の意図を十分に表現することができないという課題がある。
【００７２】
本実施形態では、このような問題に鑑みてなされたものであり、競技データから、抑揚にメリハリのついた音声を生成することを課題とする。以下では、第１の実施形態との差異点を主として説明する。第１の実施形態と同一の構成については、同一の符号を付してその説明を援用する。
【００７３】
図１３は、本実施形態に係る音声ガイド生成装置３０の構成例を示すブロック図である。
音声ガイド生成装置３０は、スポーツ等の進行状態を示す競技データから、音声（合成音声）を生成するものである。
音声ガイド生成装置３０は、事前学習段階において、コーパス記憶装置４０に記憶した学習用のデータとしてコーパスを用いて、テキストを音声に変換するための音声モデルをＤＮＮによりオフラインで学習する。
コーパスには、強調音声コーパスと通常音声コーパスとがある。
強調音声コーパスは、テキストと、当該テキストを強調して発話した音声（強調音声）とを対とした学習データである。
通常音声コーパスは、テキストと、当該テキストを通常（強調せず）に発話した音声（通常音声）とを対とした学習データである。
【００７４】
音声ガイド生成装置３０は、合成処理段階において、学習した音声モデルを用いて、競技データから、競技の進行を解説した音声をオンラインで生成する。
音声ガイド生成装置３０は、競技データの強調すべき箇所を予め定めたテンプレートに基づいて、競技データから、強調箇所を示す発話スタイルを付加した競技の進行を解説したテキスト（発話スタイル付きテキスト）を生成し、学習した音声モデルを用いて、音声合成を行う。
これによって、音声ガイド生成装置３０は、競技データから、抑揚にメリハリのついた音声を生成することができる。
【００７５】
音声ガイド生成装置３０は、メッセージ管理部１１と、説明生成部１２と、事前学習部３１と、音声合成部３４と、を含んで構成される。
事前学習部３１は、事前学習段階において、音声モデルを構成する各種のパラメータを学習する。
音声合成部３４は、合成処理段階において、学習済みの音声モデルを用いて、競技データから音声（合成音声）を生成する。
音声ガイド生成装置３０は、コーパス記憶装置４０と各種のデータを送受信可能に接続する。
【００７６】
（事前学習部）
次に、図１４を参照して、事前学習部３１の構成について説明する。事前学習部３１は、コーパス入力部３２と、モデル学習部３３と、を備える。
【００７７】
コーパス入力部３２は、コーパス記憶装置４０から、強調音声コーパスおよび通常音声コーパスを入力する。
コーパス入力部３２は、テキストと音声（つまり、強調音声または通常音声）とを対応付けて、コーパス記憶装置４０から読み出し、モデル学習部３３に出力する。コーパス入力部３２は、強調音声コーパスから読み込んだテキストに対応する音声が強調音声であることを示す強調判別情報とともに、そのテキストと音声とを対応付けてモデル学習部３３に出力する。また、コーパス入力部３２は、通常音声コーパスから読み込んだテキストと対応する音声が通常音声である（強調音声ではない）ことを示す強調判別情報とともに、そのテキストと音声とを対応付けてモデル学習部３３に出力する。
【００７８】
モデル学習部３３は、コーパス入力部３２から入力されたテキスト、強調判別情報および音声（つまり、強調音声または通常音声）を用いて、ＤＮＮの音声モデルとして、時間長モデル３４６ａと、音響特徴量モデル３４６ｂと、を学習する。モデル学習部３３は、テキスト解析部３３１と、音声解析部３３２と、ＤＮＮ学習部３３３と、を備える。
【００７９】
テキスト解析部３３１は、テキストを解析して、音素およびフレームごとの言語特徴量を生成するとともに、強調判別情報に基づいて、発話スタイルを特定する音素ごとのラベル（強調情報、文末情報）を生成するものである。テキスト解析部３３１は、音素言語特徴量生成部３３１ａと、フレーム言語特徴量生成部３３１ｂと、を備える。
【００８０】
音素言語特徴量生成部３３１ａは、入力したテキストを構成する音素ごとの言語特徴量である音素言語特徴量を生成するものである。音素言語特徴量は、音素が有する文脈に依存する素性を示す。例えば、音素言語特徴量は、音素情報（前後の音素を含む音素ラベル）、アクセントの位置、アクセント句情報、品詞情報、呼気段落情報等のいずれかもしくはこれらの組である。なお、これらの音素言語特徴量は、公知の一般的なテキスト解析（例えば、形態素解析、韻律推定、等）により求めることができるため、解析手法についての詳細な説明を省略する。
【００８１】
また、音素言語特徴量生成部３３１ａは、生成した音素言語特徴量に、強調、体言止めを示す発話スタイル固有のラベル（発話スタイルラベル〔強調情報、文末情報〕）を付加する。
音素言語特徴量生成部３３１ａは、テキストとともに入力される強調判別情報が、音声が強調音声であることを示す情報である場合、テキストを構成するすべての音素に対して、発話スタイルラベルとして、強調を示すラベル（強調情報；強調有り）を付加する。また、音素言語特徴量生成部３３１ａは、テキストとともに入力される強調判別情報が、音声が通常音声である（つまり、強調音声ではない）ことを示す情報である場合、テキストを構成するすべての音素に対して、発話スタイルラベルとして、通常を示すラベル（強調情報；強調無し）を付加する。
【００８２】
また、音素言語特徴量生成部３３１ａは、入力したテキストの文末単語の品詞が名詞である場合、文末単語を構成するすべての音素に対して、発話スタイルラベルとして、体言止めを示すラベル（文末情報；体言止め有り）を付加する。また、音素言語特徴量生成部３３１ａは、体言止めを示すラベルを付加する音素以外の音素については、体言止めではないことを示すラベル（文末情報；体言止め無し）を付加する。体言止めとは、日本語文において文末の単語の品詞が名詞である表現形式を意味する。日本語文では、通例、述語が文末に配置される。述語として、品詞が動詞、形容詞、形容動詞又は助動詞となる単語が用いられる。言い換えれば、体言止めの文は、文末の名詞の動作や状態を表す述語が省略された表現形式と捉えることができる。そのため、文末単語が述語となる文とは、抑揚が異なりうる。一般に、日本語の陳述文では、体言止めの頻度は稀である。しかしながら、スポーツ実況等で用いられる陳述文では、体言止めが比較的多用される傾向がある。本実施形態に係る事前学習部３１は、このことに着目して、体言止めの有無を示す情報を音声モデルの学習に利用する。
【００８３】
音素言語特徴量生成部３３１ａは、音素言語特徴量と、発話スタイルラベル（強調情報、文末情報）とを、フレーム言語特徴量生成部３３１ｂに出力するとともに、ＤＮＮ学習部３３３の時間長モデル学習部３３３ａに出力する。
さらに、音素言語特徴量生成部３３１ａは、音素ごとに、解析した音素固有の音素ラベルを音声解析部３３２の音素区切り部３３２ａに出力する。
【００８４】
フレーム言語特徴量生成部３３１ｂは、入力したテキストの音素の時間長の区間を構成するフレームに対応した言語特徴量であるフレーム言語特徴量を生成するものである。なお、フレームは、音声解析部３３２で解析される音響特徴量を生成する単位である。
フレーム言語特徴量は、音素言語特徴量生成部３３１ａで生成された音素言語特徴量に、音素の時間長の区間を構成するフレームの番号（つまり、フレームの位置）、フレームの総数等の音素の時間的特徴を含んで構成される。このフレーム言語特徴量生成部３３１ｂは、１音素に対して、その音素の時間長に対応したフレーム言語特徴量を生成する。
【００８５】
フレーム言語特徴量生成部３３１ｂは、音声解析部３３２から音素の時間長を入力し、音素の時間長の区間を構成するフレームの番号、フレームの総数等を求める。なお、音素の時間長は、例えば、１音素あたりのフレームの数である。
フレーム言語特徴量生成部３３１ｂは、生成した１音素に対応するフレーム数分のフレーム言語特徴量と、音素言語特徴量生成部３３１ａから入力された発話スタイルラベルとを対応付けて、ＤＮＮ学習部３３３の音響特徴量モデル学習部３３３ｂに出力する。
【００８６】
音声解析部３３２は、入力した音声を解析して、音素の時間長とフレームごとの音響特徴量とを生成するものである。音声解析部３３２は、音素区切り部３３２ａと、音響特徴量生成部３３２ｂと、を備える。
【００８７】
音素区切り部３３２ａは、コーパス入力部３２に入力される音声の音声波形において、テキスト解析部３３１から入力される音素ラベルの音素の区切りを検出するものである。
音素区切り部３３２ａは、例えば、音素と当該音素の波形とを対応付けた素片辞書（図示せず）を用いて、音素の区切り位置を検出する。
音素区切り部３３２ａは、検出した音素の区切り位置を音響特徴量生成部３３２ｂに出力する。
【００８８】
さらに、音素区切り部３３２ａは、検出した音素の区切り位置に基づいて、音素ラベルに対応する音素の時間長を求め、テキスト解析部３３１のフレーム言語特徴量生成部３３１ｂと、ＤＮＮ学習部３３３の時間長モデル学習部３３３ａとに出力する。
なお、音素区切り部３３２ａが生成する音素の時間長は、時間長モデル学習部３３３ａで時間長モデル３４６ａを学習する際の正解データとなる。
【００８９】
音響特徴量生成部３３２ｂは、入力した音声のフレームごとの音響特徴量を生成する。音響特徴量生成部３３２ｂは、音素の時間長の区間を構成するフレーム数分の音響特徴量を生成する。音響特徴量生成部３３２ｂは、音素区切り部３３２ａで検出された区切り位置に基づく音素の時間長の区間において、入力した音声を所定のフレーム長（例えば、２５ミリ秒）、所定のフレーム周期（例えば、５ミリ秒）ごとに切り出し、音響分析を行うことで、音響特徴量として、スペクトル係数（メルケプストラム係数等）、ピッチ（対数ピッチ周波数等）、雑音性係数、有声／無声判定値等を生成する。
【００９０】
例えば、音響特徴量生成部３３２ｂは、６０次元のスペクトル係数、１次元のピッチ、１次元の雑音性係数の計６２次元の静特性と、静特性の時間方向の１次差分および２次差分の１２４次元の動特性と、１次元の有声／無声判定値とからなる計１８７次元の音響特徴量を生成する。なお、これらの音響特徴量は、一般的な音響解析により求めることができるため、解析手法についての詳細な説明を省略する。
【００９１】
音響特徴量生成部３３２ｂは、生成した音響特徴量を、ＤＮＮ学習部３３３の音響特徴量モデル学習部３３３ｂに出力する。
なお、音響特徴量生成部３３２ｂが生成する音響特徴量は、音響特徴量モデル学習部３３３ｂで音響特徴量モデル３４６ｂを学習する際の正解データとなる。
【００９２】
ＤＮＮ学習部３３３は、ＤＮＮの音声モデルとして、時間長モデル３４６ａと、音響特徴量モデル３４６ｂと、を学習する。ＤＮＮ学習部３３３は、時間長モデル学習部３３３ａと、音響特徴量モデル学習部３３３ｂと、を備える。
【００９３】
時間長モデル学習部３３３ａは、音素言語特徴量と発話スタイルラベル（強調情報、文末情報）を入力とし、音素の時間長を出力とするＤＮＮのモデルとして時間長モデル３４６ａを学習する。
図１６にＤＮＮで構成した時間長モデル３４６ａの例を示す。図１６に示すように、時間長モデル３４６ａは、入力層Ｉ、隠れ層Ｈ、出力層Ｏで構成される順伝播ニューラルネットワーク（Feed Forward Neural Network：ＦＦＮＮ）で構成することができる。
【００９４】
時間長モデル学習部３３３ａは、時間長モデル３４６ａの入力層Ｉの各ユニットに、テキスト解析部３３１で解析された音素言語特徴量をそれぞれ入力するとともに、発話スタイルラベルである強調情報（強調有無）、文末情報（体言止め有無）の各ラベルを入力する。そして、時間長モデル学習部３３３ａは、入力層Ｉに入力された音素言語特徴量および発話スタイルラベル（強調情報、文末情報）の各値を、重みを付加して伝播させ、出力層Ｏからの出力が、音声解析部３３２で解析された音素の時間長となるように、時間長モデル３４６ａにおける重みとするパラメータを学習する。なお、パラメータの学習には、例えば、誤差逆伝播法（back propagation）を用いることができる。
時間長モデル学習部３３３ａは、モデル記憶部３４６において記憶した時間長モデル３４６ａを、学習により得られた時間長モデル３４６ａに逐次更新する。
【００９５】
音響特徴量モデル学習部３３３ｂは、フレーム言語特徴量と発話スタイルラベル（強調情報、文末情報）とを入力し、音素のフレームごとの音響特徴量を出力するＤＮＮのモデルとして音響特徴量モデル３４６ｂを学習する。
図１７にＤＮＮで構成した音響特徴量モデル３４６ｂの例を示す。図１７に示すように、音響特徴量モデル３４６ｂは、入力層Ｉ、隠れ層Ｈ、出力層Ｏで構成される順伝播ニューラルネットワーク（ＦＦＮＮ）で構成することができる。
【００９６】
音響特徴量モデル学習部３３３ｂは、音響特徴量モデル３４６ｂの入力層Ｉの各ユニットに、テキスト解析部３３１で解析されたフレーム言語特徴量を入力するとともに、発話スタイルラベルである強調情報（強調有無）、文末情報（体言止め有無）の各ラベルを入力する。そして、音響特徴量モデル学習部３３３ｂは、入力層Ｉに入力されたフレーム言語特徴量および発話スタイルラベル（強調情報、文末情報）の各値を、重みを付加して伝播させ、出力層Ｏからの出力が、音声解析部３３２で解析されたフレームの音響特徴量となるように、音響特徴量モデル３４６ｂにおける重みとするパラメータを学習する。なお、パラメータの学習には、時間長モデル３４６ａと同様に、誤差逆伝播法を用いることができる。
音響特徴量モデル学習部３３３ｂは、モデル記憶部３４６において記憶した音響特徴量モデル３４６ｂを、学習により得られた音響特徴量モデル３４６ｂに逐次更新する。
【００９７】
モデル記憶部３４６は、モデル学習部３３で学習される音声モデル（つまり、時間長モデル３４６ａ、音響特徴量モデル３４６ｂ）を記憶するものである。モデル記憶部３４６は、半導体メモリ等の一般的な記憶媒体で構成することができる。
モデル記憶部３４６に記憶された事前学習段階で学習した音声モデル（つまり、時間長モデル３４６ａ、音響特徴量モデル３４６ｂ）は、合成音声生成部３４１において使用される。
【００９８】
以上に説明した事前学習部３１は、通常の音声以外に、通常の音声よりも強調した音声や体言止めの音声における音素の時間長や音響特徴量を学習した音声モデルを生成することができる。
【００９９】
次に、図１８と図１９を参照して、競技データの他の例について説明する。
競技データは、例えば、試合に出場する出場選手（図１８）、試合中に発生するイベント一覧（図１９等の試合内容および試合進行に応じたデータである。図１８と図１９は、一例として、テニスを対象とした競技データの例を示す。
【０１００】
図１８は、［選手Ａのフルネーム］が“Ａ１・Ａ２”、［選手Ａのファミリーネーム］が“Ａ２”等であることを示している。
また、図１９は、１２３番目のイベントが、［時刻］○時△分□秒に発生したことを示している。［セット］はゲームのセット数を示す。なお、競技データは、イベントが更新されるたびに、メッセージ管理部１１に順次追加されていく。ここでは、１２３番目のイベントにおいて、第４セット（“４Ｓ”）であることを示している。［ゲームカウント］はゲームカウントが更新されたことを示す。ここでは、“Ｂ２”（選手Ｂ）に５点目（“５”）が入ったことを示している。［アンフォーストエラー］はアンフォーストエラーが発生したことを示す。ここでは、“Ａ２”（選手Ａ）がアンフォーストエラーを起こし、アンフォーストエラーが“１２”回目であることを示している。［ブレーク成功］はブレークに成功したことを示す。ここでは、“Ｂ２”（選手Ｂ）が“６”回目のブレークに成功したことを示している。
さらに、図１９は、［全体ゲーム数］、［選手Ａの獲得ゲーム数］、［選手Ｂの獲得ゲーム数］、［選手Ｂのブレーク数］等を試合状況として例示している。
もちろん、図１８、図１９に例示した競技データはこれに限定されるものでないし、競技の種類によっても競技データが異なりうる。
【０１０１】
なお、説明生成部１２には、競技データを、音声合成用のテキストに変換するための説明テンプレートを予め記憶させておく。説明テンプレートを記憶するテンプレート記憶部（図示せず）は、半導体メモリ等の一般的な記憶媒体で構成することができる。
【０１０２】
テンプレート記憶部は、競技データにおける予め定めたデータを示す条件に対応付けて、説明テンプレートを複数記憶する。
例えば、図２０は、図１８に示した競技データにおいて、選手Ａがアンフォーストエラーを起こし、選手Ｂがブレークに成功した場合のテンプレートを示す。
図２０に示した説明テンプレートにおいて、“［”および“］”で挟まれた箇所が、競技データに応じて変化することになる。
この説明テンプレートにおいて、音声を強調して発声させようとする箇所には、予め定めたタグで示すこととする。例えば、図２０に示すように、＜強調＞タグと＜／強調＞タグとで挟まれた箇所を強調対象とする。ここでは、“［選手Ｂのブレーク数］回目のブレーク”を強調する例を示している。
【０１０３】
なお、説明テンプレートは、図２０で示した条件において、さらに条件を付加して、強調の有無を制御するものとしてもよい。
例えば、図２１に示すように、図２０で示した、選手Ａがアンフォーストエラーを起こし、選手Ｂがブレークに成功した場合に加え、選手Ｂのブレーク数が予め定めた数（例えば“５”）以上である場合に使用する説明テンプレートは、図２０と同様に、“［選手Ｂのブレーク数］回目のブレーク”を強調する説明テンプレートとする。
また、選手Ｂのブレーク数が予め定めた数（例えば“５”）未満である場合に使用する説明テンプレートは、図２２に示すように、図２１に示す説明テンプレートから＜強調＞タグと＜／強調＞タグとを削除した説明テンプレートとする。
【０１０４】
なお、説明生成部１２は、予め記憶された説明テンプレートを用いて、メッセージ管理部１１に入力された競技データを、音声合成を行うための説明テキストに変換する。
例えば、説明生成部１２は、図１８と図１９で例示した競技データを入力し、各種データが条件に合致する説明テンプレートを読み出し、競技データに依存する文字列を埋め込む。なお、説明生成部１２は、競技データが更新された場合、その更新した内容から説明テキストを生成する。
例えば、説明生成部１２は、図１９で示した競技データ（ここでは、１２３番目のイベント）を入力する場合、図２０あるいは、図２１に示した説明テンプレートに文字列を埋め込むことによって、図２３に例示する説明テキストを生成する。
なお、説明生成部１２は、図２２に示した説明テンプレートを用いる場合、図２４に例示する説明テキストを生成する。
これによって、説明生成部１２は、発話スタイルとしてテキスト中に強調すべき箇所をタグで示した発話スタイル付きテキストを説明テキストとして生成することができる。
説明生成部１２は、生成した発話スタイル付きテキストを音声合成部１３に出力する。
【０１０５】
（音声合成部）
次に、音声合成部１３の構成について説明する。図１３に示す例では、音声合成部１３は、合成音声生成部３４１と、モデル記憶部３４６と、を備える。
合成音声生成部３４１は、モデル記憶部３４６に記憶されている学習済みの音声モデル（つまり、時間長モデル３４６ａ、音響特徴量モデル３４６ｂ）を用いて、説明生成部１２が生成した発話スタイル付きテキストに対して音声合成処理を行う。
図１５に示す例では、合成音声生成部３４１は、スタイル解析部３４２と、テキスト解析部３４３と、ＤＮＮ演算部３４４と、合成部３４５と、を備える。
【０１０６】
スタイル解析部３４２は、説明生成部１２が生成した発話スタイル付きテキストにおいて、強調箇所を解析する。
スタイル解析部３４２は、発話スタイル付きテキストにおいて、一文ごとに予め定めたタグ（＜強調＞、＜／強調＞）を検出することで、当該文中における強調箇所を特定する。そして、スタイル解析部３４２は、文単位で、発話スタイル付きテキストからタグを削除したテキストと、当該テキストにおける強調箇所を示す強調位置情報とを、テキスト解析部３４３に出力する。なお、発話スタイル付きテキストにおいて、予め定めたタグが存在しない場合、スタイル解析部３４２は、文単位で、テキストと、強調箇所が存在しないことを示す強調位置情報とを、テキスト解析部３４３に出力する。
【０１０７】
テキスト解析部３４３は、テキストを解析して、音素およびフレームごとの言語特徴量を生成するとともに、強調位置情報に基づいて、発話スタイルを特定する音素ごとのラベルを生成する。テキスト解析部３４３は、音素言語特徴量生成部３４３ａと、フレーム言語特徴量生成部３４３ｂと、を備える。
【０１０８】
音素言語特徴量生成部３４３ａは、入力したテキストを構成する音素ごとの言語特徴量である音素言語特徴量を生成するものである。音素言語特徴量は、音素が有する素性を示す。また、音素言語特徴量生成部３４３ａは、生成した音素言語特徴量に、強調、体言止めを示す発話スタイル固有のラベル（発話スタイルラベル〔強調情報、文末情報〕）を含んで構成される。この音素言語特徴量生成部３４３ａは、図１４で説明した音素言語特徴量生成部３３１ａと同じ機能を有する。
【０１０９】
なお、音素言語特徴量生成部３３１ａは、強調音声に対応するテキストを構成するすべての音素に対して、発話スタイルラベルとして、強調を示すラベル（強調有り）を付加する。一方、音素言語特徴量生成部３４３ａは、スタイル解析部３４２で解析された強調位置情報で示される強調箇所に対応する音素に対して、発話スタイルラベルとして、強調を示すラベル（強調情報；強調有り）を付加し、それ以外の音素に対して、強調ではないことを示すラベル（強調情報；強調無し）を付加する。
音素言語特徴量生成部３４３ａは、音素言語特徴量と、発話スタイルラベル（強調情報、文末情報）とを、フレーム言語特徴量生成部３４３ｂに出力するとともに、ＤＮＮ演算部３４４の時間長演算部３４４ａに出力する。
【０１１０】
フレーム言語特徴量生成部３４３ｂは、入力したテキストの音素の時間長の区間を構成するフレームに対応した言語特徴量であるフレーム言語特徴量を生成するものである。このフレーム言語特徴量生成部３４３ｂは、図１４で説明したフレーム言語特徴量生成部３３１ｂと同様の機能を有する。
【０１１１】
フレーム言語特徴量生成部３４３ｂは、音素言語特徴量生成部３４３ａで生成された音素言語特徴量と、ＤＮＮ演算部３４４の時間長演算部３４４ａで生成された当該音素の時間長とを入力し、フレーム言語特徴量生成部３３１ｂ（図１４）と同様にフレーム言語特徴量を生成する。
フレーム言語特徴量生成部３４３ｂは、生成したフレーム言語特徴量と、音素言語特徴量生成部３４３ａから入力された発話スタイルラベルとを対応付けて、ＤＮＮ演算部３４４の音響特徴量演算部３４４ｂに出力する。
【０１１２】
ＤＮＮ演算部３４４は、モデル記憶部３４６に記憶されている音声モデル（時間長モデル３４６ａ、音響特徴量モデル３４６ｂ）を用いて、ＤＮＮの演算を行う。ＤＮＮ演算部３４４は、時間長演算部３４４ａと、音響特徴量演算部３４４ｂと、を備える。
【０１１３】
時間長演算部３４４ａは、学習済みの時間長モデル３４６ａを用いて、音素言語特徴量と発話スタイルラベル（強調情報、文末情報）とから、音素の時間長を生成するものである。
時間長演算部３４４ａは、例えば、図１６に示した時間長モデル３４６ａの入力層Ｉの各ユニットに、音素言語特徴量と発話スタイルラベル（強調情報、文末情報）とを入力する。そして、時間長演算部３４４ａは、学習済みの時間長モデル３４６ａのパラメータを用いてＤＮＮの演算を行い、出力層Ｏから出力される値を音素の時間長とする。
時間長演算部３４４ａは、生成した音素の時間長を、テキスト解析部３４３のフレーム言語特徴量生成部３４３ｂに出力する。
【０１１４】
音響特徴量演算部３４４ｂは、学習済みの音響特徴量モデル３４６ｂを用いて、フレーム言語特徴量と発話スタイルラベル（強調情報、文末情報）とから、音素のフレームごとの音響特徴量を生成するものである。
音響特徴量演算部３４４ｂは、例えば、図１７に示した音響特徴量モデル３４６ｂの入力層Ｉの各ユニットに、フレーム言語特徴量と発話スタイルラベル（強調情報、文末情報）とを入力する。そして、音響特徴量演算部３４４ｂは、学習済みの音響特徴量モデル３４６ｂのパラメータを用いてＤＮＮの演算を行い、出力層Ｏから出力される値を音響特徴量とする。
音響特徴量演算部３４４ｂは、生成したフレームごとの音響特徴量を、合成部３４５に出力する。
【０１１５】
合成部３４５は、ＤＮＮ演算部３４４の音響特徴量演算部３４４ｂで生成されたフレームごとの音響特徴量を用いて音声合成を行い、合成音声を生成する。
合成部３４５は、音響特徴量に含まれるピッチ、雑音特性等の情報（音源パラメータ）に基づいて、声の高さ、大きさ、雑音性度合いの時間変化を表現した声帯音源波形を生成する。また、合成部３４５は、フレームごとの音響特徴量に含まれるスペクトル係数等の情報（スペクトルパラメータ）に基づいて、音韻の違いや声質を表現した声道フィルタを生成する。そして、合成部３４５は、声帯音源波形を声道フィルタへの入力として、フレームに対応する音声波形を生成する。
なお、音響特徴量を用いて音声合成を行う手法は、公知のボコーダ方式の一般的な手法を用いればよいため、ここでは、詳細な説明を省略する。
合成部３４５は、フレームごとの音声波形を連結して合成音声を生成し、生成した合成音声を示す音声ガイドデータを出力する。
【０１１６】
以上説明したように合成音声生成部３４１を構成することで、音声ガイド生成装置３０は、事前学習部３１で事前学習した音声モデルを用いて、競技データから、スポーツ実況として使用可能な強調および体言止めを表現した合成音声を生成することができる。
【０１１７】
例えば、強調を学習せずに音声合成を行う場合、図２５に示すように、「このセット６回目のブレーク。」を表す音声として、通常、平坦な音の高さの音声が合成される。また、体言止めを学習せずに音声合成を行う場合、図２５に示すように、通常、文末の「ブレーク」を表す音声として、下がり調子の音声が合成される。なお、図中、文字列の上に一般的な声の高さＬを示している。
一方、音声ガイド生成装置３０は、強調や体言止めを学習して得られた音声モデルを用いるため、図２６に示すように、強調箇所である「６回目のブレーク」を表す音声の高さが高くなり、体言止めとなる文末の「ブレーク」を表す音声の高さが持ち上げられる。
【０１１８】
以上、本発明の実施形態に係る音声ガイド生成装置３０の構成について説明したが、音声ガイド生成装置３０は、コンピュータを前記した各部として機能させるためのプログラム（音声合成プログラム）で動作させることができる。
【０１１９】
（音声ガイド生成装置の動作）
次に、図２７および図２８を参照して、本発明の実施形態に係る音声ガイド生成装置３０の動作について説明する。ここでは、音声ガイド生成装置３０の動作を、事前学習部３１の動作と、合成音声生成部３４１の動作とに分けて説明する。
（事前学習）
まず、図２７を参照して、音声ガイド生成装置３０の事前学習部３１の動作について説明する。
【０１２０】
（ステップＳ５１）コーパス入力部３２は、テキストと音声（強調音声または通常音声）とを対として、コーパス記憶装置４０からコーパスを入力する。ここで、コーパス入力部３２は、強調音声に対応するテキストに、当該テキストが強調音声に対応するものであることを示す強調判別情報を付加する。また、コーパス入力部３２は、通常音声に対応するテキストに、当該テキストが強調音声ではないことを示す強調判別情報を付加する。
【０１２１】
（ステップＳ５２）テキスト解析部３３１の音素言語特徴量生成部３３１ａは、ステップＳ５１で入力したテキストを解析し、テキストを構成する音素ごとの言語特徴量（音素言語特徴量）を生成する。
【０１２２】
（ステップＳ５３）音素言語特徴量生成部３３１ａは、ステップＳ５２で生成した音素言語特徴量に、発話スタイルラベルを付加する。ここで、音素言語特徴量生成部３３１ａは、テキストに、当該テキストが強調音声であることを示す強調判別情報が付加されている場合、音素言語特徴量に、発話スタイルラベルとして、強調を示すラベル（強調情報；強調有り）を付加する。また、音素言語特徴量生成部３３１ａは、テキストに、当該テキストが強調音声ではないことを示す強調判別情報が付加されている場合、音素言語特徴量に、発話スタイルラベルとして、通常を示すラベル（強調情報；強調無し）を付加する。
【０１２３】
さらに、音素言語特徴量生成部３３１ａは、文末単語の品詞が名詞である単語に対応する音素については、音素言語特徴量に、発話スタイルラベルとして、体言止めを示すラベル（文末情報；体言止め有り）を付加する。また、音素言語特徴量生成部３３１ａは、文末単語以外、および、文末単語であっても名詞ではない単語に対応する音素については、音素言語特徴量に、発話スタイルラベルとして、体言止めではないことを示すラベル（文末情報；体言止め無し）を付加する。
【０１２４】
（ステップＳ５４）音声解析部３３２の音素区切り部３３２ａは、ステップＳ５１で入力した音声について、音素の区切り位置を検出し、音素の時間長を求める。
（ステップＳ５５）ＤＮＮ学習部３３３の時間長モデル学習部３３３ａは、ステップＳ５２で生成した音素言語特徴量と、ステップＳ５３で付加した発話スタイルラベルとを入力し、ステップＳ５４で求めた音素の時間長を出力するように、時間長モデル３４６ａを学習する。
【０１２５】
（ステップＳ５６）テキスト解析部３３１のフレーム言語特徴量生成部３３１ｂは、ステップＳ５４で求めた音素の時間長に基づいて音素の時間長の区間を構成するフレームの言語特徴量（フレーム言語特徴量）を生成する。
（ステップＳ５７）フレーム言語特徴量生成部３３１ｂは、ステップＳ５６で生成したフレーム言語特徴量に、ステップＳ５３で音素言語特徴量に付加したものと同じ発話スタイルラベルを付加する。
【０１２６】
（ステップＳ５８）音声解析部３３２の音響特徴量生成部３３２ｂは、ステップＳ５１で入力した音声について、ステップＳ５４で求めた音素の区切り位置に基づいて、フレームの音響特徴量を生成する。
（ステップＳ５９）ＤＮＮ学習部３３３の音響特徴量モデル学習部３３３ｂは、ステップＳ５６で生成したフレーム言語特徴量と、ステップＳ５７で付加した発話スタイルラベルとを入力し、ステップＳ５８で生成した音響特徴量を出力するように、音響特徴量モデル３４６ｂを学習する。その後、事前学習部３１は、図２７の処理を終了する。
【０１２７】
（音声ガイド生成処理）
次に、図２８を参照して、音声ガイド生成装置３０の音声ガイド生成処理に係る動作について説明する。
【０１２８】
（ステップＳ６０）メッセージ管理部１１は、音声ガイド生成装置３０の外部から競技データを入力する。
（ステップＳ６１）説明生成部１２は、予めテンプレート記憶部（図示せず）に記憶されている説明テンプレートに基づいて、ステップＳ６０で入力した競技データのうち未送信の競技データから、発話スタイル付きテキストを生成する。このテンプレートは、音声を強調して発声させたい箇所に、予め定めたタグ（＜強調＞、＜／強調＞）が付加されている（図２３参照）。説明生成部１２は、説明テンプレートの可変箇所を、競技データで特定される情報に置き換えることで、発話スタイル付きテキストを生成する（図２３参照）。
【０１２９】
（ステップＳ６２）合成音声生成部３４１のスタイル解析部３４２は、ステップＳ６１で生成した発話スタイル付きテキストを解析し、タグを削除したテキストと、タグで指定された当該テキストにおける強調箇所を示す強調位置情報とを生成する。
（ステップＳ６３）テキスト解析部３４３の音素言語特徴量生成部３４３ａは、ステップＳ６２で生成したテキストを解析し、テキストを構成する音素ごとの言語特徴量（音素言語特徴量）を生成する。
【０１３０】
（ステップＳ６４）音素言語特徴量生成部３４３ａは、ステップＳ６３で生成した音素言語特徴量に、発話スタイルラベルを付加する。ここで、音素言語特徴量生成部３４３ａは、強調位置情報に基づいて強調が指定された強調箇所に対応する音素に対して、発話スタイルラベルとして、強調を示すラベル（強調情報；強調有り）を付加し、それ以外の音素に対して、強調ではないことを示すラベル（強調情報；強調無し）を付加する。
【０１３１】
また、音素言語特徴量生成部３４３ａは、文末単語の品詞が名詞である単語に対応する音素については、音素言語特徴量に、発話スタイルラベルとして、体言止めを示すラベル（文末情報；体言止め有り）を付加する。また、音素言語特徴量生成部３４３ａは、文末単語以外、および、文末単語であっても名詞ではない単語に対応する音素については、音素言語特徴量に、発話スタイルラベルとして、体言止めではないことを示すラベル（文末情報；体言止め無し）を付加する。
【０１３２】
（ステップＳ６５）ＤＮＮ演算部３４４の時間長演算部３４４ａは、学習済みの時間長モデル３４６ａを用いて、ステップＳ６３で生成した音素言語特徴量と、ステップＳ６４で付加した発話スタイルラベルとから、音素の時間長を生成する。
（ステップＳ６６）テキスト解析部３４３のフレーム言語特徴量生成部３４３ｂは、ステップＳ６５で生成した音素の時間長に基づいて、音素の時間長の区間を構成するフレームの言語特徴量（フレーム言語特徴量）を生成する。
【０１３３】
（ステップＳ６７）フレーム言語特徴量生成部３４３ｂは、ステップＳ６６で生成したフレーム言語特徴量に、ステップＳ６４で音素言語特徴量に付加したものと同じ発話スタイルラベルを付加する。
（ステップＳ６８）ＤＮＮ演算部３４４の音響特徴量演算部３４４ｂは、学習済みの音響特徴量モデル３４６ｂを用いて、ステップＳ６６で生成したフレーム言語特徴量と、ステップＳ６７で付加した発話スタイルラベルとから、フレームの音響特徴量を生成する。
【０１３４】
（ステップＳ６９）合成部３４５は、ステップＳ６８で生成したフレームの音響特徴量を用いて音声合成を行い、生成した合成音声を示す音声ガイドデータを出力する。その後、音声ガイド生成装置３０は、図２８の処理を終了する。
以上の動作によって、音声ガイド生成装置３０は、競技データから、スポーツ実況として使用可能な強調および体言止めを表現した合成音声を生成することができる。
【０１３５】
以上に説明したように、本実施形態に係る音声ガイド生成装置３０は、ディープニューラルネットワークにより、音素ごとの言語特徴量と前記音素に対する強調の有無を示す強調情報とを入力し、前記音素の時間長を出力する予め学習された時間長モデルと、前記音素のフレームごとの言語特徴量と前記フレームの強調の有無を示す強調情報とを入力し、前記フレームの音響特徴量を出力する予め学習された音響特徴量モデルとを用いて、競技データから競技内容の音声を合成する音声ガイド生成装置３０であって、説明生成部１２と、音素言語特徴量生成部３４３ａと、時間長演算部３４４ａと、フレーム言語特徴量生成部３４３ｂと、音響特徴量演算部３４４ｂと、合成部３４５と、を備える構成とした。
【０１３６】
かかる構成において、音声ガイド生成装置３０は、説明生成部１２によって、競技データに対して強調箇所を予め定めたテキストのテンプレートを用いて、競技データから強調箇所を示したテキストを生成する。
そして、音声ガイド生成装置３０は、音素言語特徴量生成部３４３ａによって、説明生成部１２で生成されたテキストに対して、形態素解析、韻律推定等の解析を行うことで、音素ごとの言語特徴量と音素に対する強調情報とを生成する。
そして、音声ガイド生成装置３０は、時間長演算部３４４ａによって、音素言語特徴量生成部３４３ａで生成された音素の言語特徴量と強調情報とを、時間長モデルの入力として演算することで、音素の時間長を生成する。
【０１３７】
また、音声ガイド生成装置３０は、フレーム言語特徴量生成部３４３ｂによって、時間長演算部３４４ａで生成された音素の時間長と、音素言語特徴量生成部３４３ａで生成された音素の言語特徴量とから、音素のフレームごとの言語特徴量を生成し、フレームに対応する音素の強調情報と対応付ける。これによって、音素の時間長の区間を構成するフレームごとの言語特徴量と強調情報とが対応付けられる。
そして、音声ガイド生成装置３０は、音響特徴量演算部３４４ｂによって、フレーム言語特徴量生成部３４３ｂで生成されたフレームの言語特徴量とフレームに対応する強調情報とを、音響特徴量モデルの入力として演算することで、フレームごとの音響特徴量を生成する。
【０１３８】
さらに、音声ガイド生成装置３０は、合成部３４５によって、音響特徴量演算部３４４ｂで生成されたフレームごとの音響特徴量により音声合成を行う。
これによって、音声ガイド生成装置３０は、予め強調音声の特徴を学習した音響特徴量モデルにより、テキスト中の強調箇所を強調した合成音声を生成することができる。
【０１３９】
なお、音声ガイド生成装置３０は、コンピュータを、音声ガイド生成装置３０の各部として機能させるための音声ガイド生成プログラムで動作させることができる。
【０１４０】
本実施形態によれば、競技データから、強調すべき箇所を特定したテキストを生成し、当該個所を強調した合成音声を生成することができる。
これによって、本実施形態は、競技データから、抑揚にメリハリがつき、意図を表現可能な音声を生成することができる。
【０１４１】
（変形例）
以上、本発明の実施形態に係る音声ガイド生成装置３０の構成および動作について例示したが、この例に限定されるものではない。
音声ガイド生成装置３０は、音声モデル（時間長モデル３４６ａ、音響特徴量モデル３４６ｂ）を学習する事前学習と、音声モデルを用いて競技データから音声合成を行う合成処理との２つの動作を１つの装置で行うものである。しかし、これらの動作は、別々の装置で行うようにしても構わない。
【０１４２】
具体的には、音声モデルを事前学習する装置として、図１３に示した事前学習部３１を独立した音声モデル学習装置として分離することができる。この場合、音声モデル学習装置（事前学習部３１）は、コンピュータを、事前学習部３１で説明した音声モデル学習装置の各部として機能させるためのプログラム（音声モデル学習プログラム）で動作させることができる。
【０１４３】
音声モデル生成装置は、テキストと、前記テキストを強調して発話した音声および強調せずに発話した音声とを用いて、合成音声生成部３４１で使用するディープニューラルネットワークの時間長モデルおよび音響特徴量モデルを学習するモデル学習部３３において、音素言語特徴量生成部３３１ａと、音素区切り部３３２ａと、時間長モデル学習部３３３ａと、フレーム言語特徴量生成部３３１ｂと、音響特徴量生成部３３２ｂと、音響特徴量モデル学習部３３３ｂと、を備える構成とした。
【０１４４】
かかる構成において、音素言語特徴量生成部３３１ａは、テキストに対して、形態素解析、韻律推定等の解析を行うとともに、テキストが強調した音声に対応したものか否かにより、音素ごとの言語特徴量と音素に対する強調の有無を示す強調情報とを生成する。
そして、音素区切り部３３２ａは、テキストに対応する音声から、音素ごとの区切りを検出し、音素の時間長を特定する。
そして、時間長モデル学習部３３３ａは、音素言語特徴量生成部３３１ａが生成した音素の言語特徴量と強調情報とを入力し、音素区切り部３３２ａが特定した音素の時間長を出力するように時間長モデルを学習する。
【０１４５】
また、フレーム言語特徴量生成部３３１ｂは、音素区切り部３３２ａが特定した音素の時間長と、音素言語特徴量生成部３３１ａが生成した音素の言語特徴量とから、音素のフレームごとの言語特徴量を生成し、フレームに対応する音素の強調情報と対応付ける。
そして、音響特徴量生成部３３２ｂは、音素区切り部３３２ａが検出した音素の区切りに基づいて、テキストに対応する音声から音素の時間長の区間を構成するフレームごとの音響特徴量を生成する。
そして、音響特徴量モデル学習部３３３ｂは、フレーム言語特徴量生成部３３１ｂが生成したフレームの言語特徴量と強調情報とを入力し、音響特徴量生成部３３２ｂが生成した音響特徴量を出力するように音響特徴量モデルを学習する。
これによって、音声モデル学習装置は、テキストが同一であっても、強調情報によって異なる音素の時間長および音響特徴量を学習するモデルを生成することができる。
【０１４６】
他方、競技データから音声合成を行う装置として、図１３に示した音声ガイド生成装置３０において事前学習部３１が省略されてもよい。この場合、音声ガイド生成装置３０は、コンピュータを、メッセージ管理部１１、説明生成部１２及び音声合成部３４の各部の処理を実行させるためのプログラム（音声ガイド生成プログラム）で動作させることができる。
【０１４７】
このように、音声モデルを学習する事前学習動作と、競技データの受信から音声モデルを用いて音声合成を行うまでの合成処理動作とを、異なる装置で動作させることで、１つの音声モデル学習装置（事前学習部３１）で学習により得られた音声モデルを、複数の音声ガイド生成装置３０で利用することが可能になる。
【０１４８】
また、ここでは、音声ガイド生成装置３０は、発話スタイルとして、強調および体言止めを実現した合成音声を生成するものとして説明したが、これには限られない。
例えば、音声ガイド生成装置３０は、発話スタイルとして、強調のみを実現した合成音声を生成するものとしてもよい。
この場合、時間長モデル３４６ａおよび音響特徴量モデル３４６ｂは、図１６に示した時間長モデル３４６ａの入力層Ｉから、文末情報（体言止め有無のラベル）を省略し、図１７に示した音響特徴量モデル３４６ｂの入力層Ｉから、文末情報を省略したモデルとすればよい。また、テキスト解析部３３１からＤＮＮ学習部３３３に出力される発話スタイルラベルから、文末情報を省略すればよい。また、テキスト解析部３４３からＤＮＮ演算部３４４に出力される発話スタイルラベルから、文末情報を省略すればよい。
【０１４９】
＜第３の実施形態＞
次に、本発明の第３の実施形態について説明する。以下の説明は、上記の実施形態との差異を主とする。上記の実施形態と共通する構成や処理については、同一の符号を付して、その説明を援用する。
【０１５０】
スポーツ競技などの生中継番組を提供する際、上述の放送システム１は、配信ストリームと競技データの双方を、別個の手段もしくは経路で受信することがある。配信ストリームは、競技の状況を定常的に表す映像データとその背景音を示す実況音声データが含まれる。競技データは、競技もしくは競技外のイベント等の発生に応じて散発的に配信されうる。これらのデータが、競技会場から放送システム１の設備の設置場所までに配信されるまでの伝送路において伝送遅延が生じる。伝送遅延の遅延量や揺らぎ特性は、伝送路に依存する。
【０１５１】
仮に、配信ストリームと競技データの双方を単一の伝送路を通じて同期して配信されたとしても、配信ストリームを受信してから受信装置２０に送信できるまでの処理時間と、競技データを受信してから当該競技データに基づいて音声ガイドデータを生成し背景音を示す実況音声データを含む配信ストリームに重畳できるまでに要する処理時間とは、一般に異なる。また、音声合成処理の所要時間は発話長に依存するため、処理時間は一定ではなく変動しうる。
【０１５２】
これらの理由で、放送システム１では、受信装置２０に提供される映像や背景音に表れるイベント発生と、その競技データに基づいて生成された音声ガイドデータが示すガイド音声とが同期しないことがある。そのため、ガイド音声がイベントに対して遅延することがある。場合によっては、発声したイベントを表す映像や背景音よりも前にガイド音声が提供されることがある。
また、競技データの配信に係る遅延時間は個々に異なりうるため、配信手段の動作や伝送路が不安定な場合には、イベント等の発生とは異なる順序で受信されることがある。逐次に競技データに基づいて音声ガイドデータを生成し、そのまま配信すると、本来イベントが発生した順序とは異なる順序で音声ガイドデータが提供される。このことも映像データと原音声データからなる配信ストリームが示すイベントの順序と異なる原因となる。
【０１５３】
そこで、図２９に例示するように、本実施形態に係る放送システム５は、音声ガイド生成装置５０と、映像処理部５５と、送信装置５６と、を備える。
音声ガイド生成装置５０は、メッセージ管理部１１と、説明生成部１２と、音声合成部１３と、第１受信部１７と、を備える。
送信装置５６は、第１バッファ部５６１と、第２バッファ部５６２と、重畳処理部５６３と、を備える。第１バッファ部５６１は、音声ガイド生成装置１０から逐次に所定の単位毎に受信した音声ガイドデータと時刻情報と対応付けて記憶する。所定の単位は、例えば、所定の時間長のフレーム（例えば、２０ｍｓ−１ｓ）であり、イベントの発生間隔と同等以下の期間であればよい。時刻情報は、説明生成部１２が未伝達情報として説明テキストの生成に用いた競技データが示す競技の状況が生じた時刻の情報である。競技データは時刻情報と対応付けて取得される。その説明テキストは、音声合成部１３が、音声合成処理を行ってその音声ガイドデータの生成に用いたものである。
【０１５４】
第２バッファ部５６２は、映像処理部５５から入力される映像データと時刻情報とを対応付けて記憶する。映像データは、その競技の状況の映像を示すデータである。その時刻情報は、その状況が生じた時刻を示す情報である。映像データは、その競技の状況の音声を示す原音声データをさらに対応付けて第２バッファ部５６２に記憶されてもよい。以下の説明では、映像データと原音声データを配信ストリームと総称する。
重畳処理部５６３は、現在時刻から所定のオフセット時間Ｄ過去の時刻（以下、指定時刻と呼ぶ）ｔ−Ｄの音声ガイドデータと、その時刻ｔ−Ｄの配信ストリームを、それぞれ第１バッファ部５６１と第２バッファ部５６２から読み出す。重畳処理部５６３には、予めオフセット時間Ｄを設定しておく。オフセット時間Ｄは、音声ガイド生成装置５０における競技データの受信から音声ガイドデータの送信開始までの所要時間よりも長い時間であればよい。重畳処理部５６３は、読み出した音声ガイドデータと配信ストリームを重畳して、受信装置２０に配信するための多重化データを生成する。
【０１５５】
より具体的には、配信ストリームに原音声データが含まれず、映像データが含まれる場合には、重畳処理部５６３は、音声ガイドデータとその映像データとを多重化して、多重化データを生成する。配信ストリームに原音声データが含まれる場合には、重畳処理部５６３は、音声ガイドデータが示すガイド音声と原音声データが示す音声とをミキシングしてもよい。重畳処理部５６３は、ミキシングにより得られた重畳音声を示す重畳音声データと、配信ストリームに含まれる映像データとを多重化して多重化データを生成する。重畳処理部５６３は、生成した多重化データを放送伝送路又は通信伝送路に送出する。
受信装置２０は、放送伝送路又は通信伝送路を介して多重化データを受信し、受信した多重化データから映像データと重畳音声データ又は音声ガイドデータに分離する。受信装置２０は、分離した映像データに基づいて映像を表示し、重畳音声データ又は音声ガイドデータに基づいて音声を再生する。
【０１５６】
また、音声ガイド生成装置１０は、さらに第１受信部１７を備える。第１受信部１７は、例えば、データセンタから競技の最新の状況を示す競技データとその状況が生じた時刻を示す時刻情報を受信し、メッセージ管理部１１に出力する。第１受信部１７は、例えば、通信インタフェースを含んで構成される。
メッセージ管理部１１は、第１受信部１７から入力される競技データと時刻情報とを対応付けて記憶する。なお、時刻情報は、競技データに記述されていることがある。その場合には、第１受信部１７は、競技データと別個に時刻情報を受信せずに、メッセージ管理部１１が競技データに記述された時刻情報を抽出すればよい。
メッセージ管理部１１は、送信元のデータセンタから第１受信部１７を介してその時点の時刻を示す時刻情報を示す同期信号をさらに受信し、受信した時刻情報に基づいてデータセンタと同期をとってもよい。
【０１５７】
説明生成部１２は、メッセージ管理部１１が蓄積する競技データのうち未伝達情報として現在時刻ｔから所定の第２のオフセット時間Ｄ’過去の時刻ｔ−Ｄ’の競技データをメッセージ管理部１１から参照する。説明生成部１２には、予め第２のオフセット時間Ｄ’を設定しておく。第２のオフセット時間Ｄ’は、データセンタから自装置までの伝送時間の標準的なゆらぎ量よりも大きい時間であって、第１のオフセット時間Ｄよりも短い正の値であればよい（０＜Ｄ’＜Ｄ）。説明生成部１２は、参照した競技データを説明テキストの生成に用いる。即ち、第１のオフセット時間Ｄは、第２のオフセット時間Ｄ’に説明生成部１２が未伝達情報から説明テキストの生成に要する時間の最大値と、説明テキストから音声ガイドデータの生成に要する時間の最大値を加えた時間以上であることが望ましい。仮に、オフセット時間Ｄと第２のオフセット時間Ｄ’との差分Ｄ−Ｄ’が、説明テキストの生成に要する時間と音声ガイドデータの生成に要する時間の和である処理時間Δに満たない場合には、重畳処理部５６３は、時間差Δ−Ｄ＋Ｄ’だけ、配信データを遅延させて音声ガイドデータと重畳させればよい。一般に、説明テキストの生成に要する時間と音声ガイドデータの生成に要する時間は、その説明テキストや音声ガイドデータが長いほど多くなる傾向がある。重畳処理部５６３に許容される遅延時間の最大値をオフセット時間Ｄと設定したとき、オフセット時間Ｄがそれらの時間の和である処理時間Δに満たない場合には、その音声ガイドデータによるガイド音声が遅延することとなる。一般に、短いガイド音声ほど、その内容に即応性が期待され、長いガイド音声には即応性が比較的期待されない傾向がある。そのため、このような遅延は、一時的に発生しても許容されうる。
【０１５８】
映像処理部５５は、第２受信部５５１を含んで構成される。第２受信部５５１は、例えば、データセンタから競技の状況を示す配信ストリームと、その状況が生じた時刻を示す時刻情報と所定の単位ごとに受信する。第２受信部５５１は、受信した配信ストリームと時刻情報とを対応付けて送信装置５６の第２バッファ部５６２に逐次に記憶する。所定の単位は、例えば、映像のフレームである。時刻情報として、例えば、その映像が生成された時刻を示すタイムスタンプを用いることができる。所定の単位は、イベントの発生間隔と同等以下の期間であればよい。第２受信部５５１は、例えば、通信インタフェースを含んで構成される。
【０１５９】
なお、第１バッファ部５６１、第２バッファ部５６２は、それぞれＦＩＦＯ（Ｆｉｒｓｔ−ｉｎ  Ｆｉｒｓｔ−ｏｕｔ；先入れ先出し）バッファとして構成されてもよい。その構成によれば、第１バッファ部５６１には、音声ガイドデータと時刻情報からなるセットの時系列として第１のＦＩＦＯキューが形成される。第２バッファ部５６２には、配信データと時刻情報とからなるセットの時系列として第２のＦＩＦＯキューが形成される。
【０１６０】
次に、本実施形態に係る音声ガイド配信処理について説明する。
図３０は、本実施形態に係る音声ガイド配信処理の例を示すフローチャートである。
（ステップＳ７１）第２受信部５５１は、競技の状況を示す配信ストリームと、時刻情報と所定の単位ごとに受信する。第２受信部５５１は、受信した配信ストリームと時刻情報とを対応付けて送信装置５６の第２バッファ部５６２に逐次に記憶する。
（ステップＳ７２）第１受信部１７は、競技の最新の状況を示す競技データとその状況が生じた時刻を示す時刻情報を受信する。メッセージ管理部１１は、第１受信部１７が受信した競技データと時刻情報とを対応付けて記憶する。
【０１６１】
（ステップＳ７３）説明生成部１２は、メッセージ管理部１１が蓄積する競技データのうち未伝達情報として現在時刻ｔから第２のオフセット時間Ｄ’過去の時刻ｔ−Ｄ’の競技データをメッセージ管理部１１から参照する。説明生成部１２は、参照した競技データを用いて説明テキストを生成する。
（ステップＳ７４）音声合成部１３は、説明生成部１２が生成した説明テキストに対して音声合成処理を行って音声ガイドデータを生成し、生成した音声ガイドデータと、その説明テキストの生成に用いた競技データに係る時刻を示す時刻情報と対応付けて第１バッファ部５６１に記憶する。
【０１６２】
（ステップＳ７５）重畳処理部５６３は、第１バッファ部５６１から現在時刻ｔから第１のオフセット時間Ｄ過去の指定時刻ｔ−Ｄの音声ガイドデータを読み出し、第２バッファ部５６２から指定時刻ｔ−Ｄの配信ストリームを読み出す。重畳処理部５６３は、読み出した音声ガイドデータと配信ストリームを重畳して多重化データを生成し、生成した多重化データを放送伝送路に送出する。その後、図３０に示す処理を終了する。
【０１６３】
（変形例）
なお、配信ストリームは、必ずしも時刻情報と対応付けて伝送されるとは限らない。そこで、第２バッファ部５６２は、配信ストリームを取得した時点の時刻ｔから遅延時間δを差し引いて、その配信ストリームが示す競技の状況を示す時刻ｔ’を算出してもよい。第２バッファ部５６２は、例えば、配信ストリームの送信元（例えば、データセンタ）から第２受信部５５１を介して同期信号を受信し、現在時刻ｔ０から受信した同期信号が示す時刻ｔ１を差し引いてその遅延時間δを測定することができる。そして、第２バッファ部５６２は、取得した配信ストリームと算出した時刻ｔ’を示す時刻情報とを対応付けて記憶する。これにより、送信元から音声ガイド生成装置５０までの伝送ゆらぎが無視できるほど小さい場合には、配信ストリームで表されるイベントと、競技データから生成された音声ガイドデータが示すガイド音声との同期をとることができる。
また、音声ガイド生成装置５０は、音声合成部１３に代えて、音声合成部３４（図１３）を備えてもよい。
【０１６４】
以上に説明したように、本実施形態に係る放送システム５によれば、競技の状況を示す配信データと、その状況に係る音声ガイドデータとを同期して配信することができる。また、競技データの伝送遅延のゆらぎが吸収されるので、競技データに基づいて生成される音声ガイドデータと配信データとの同期を、より安定的に実現することができる。
【０１６５】
以上、図面を参照してこの発明の実施形態について詳しく説明してきたが、具体的な構成は上述のものに限られることはなく、この発明の要旨を逸脱しない範囲内において様々な設計変更等をすることが可能である。
【０１６６】
例えば、音声ガイド生成装置１０、３０は、映像処理部１５と送信装置１６の一方又は双方と一体化され、単一の音声ガイド生成装置１０、３０として構成されてもよい。
また、音声ガイド生成装置５０は、映像処理部５５と送信装置５６の一方又は双方と一体化され、単一の音声ガイド生成装置５０として構成されてもよい。
また、放送システム１、５は、さらにサーバ装置（図示せず）を備え、放送通信連携システムとして構成されてもよい。その場合、音声ガイド生成装置１０、３０、５０は、生成した音声ガイドデータをサーバ装置に出力する。サーバ装置は、通信伝送路を介して接続された受信装置２０に、音声ガイドデータを送信可能とする。他方、受信装置２０は、アプリケーションプログラムに記述された命令で指示される処理を実行して通信放送連携サービスの機能を提供する。受信装置２０は、その機能として、サーバ装置から受信した音声ガイドデータに基づく音声を再生する。
【０１６７】
音声ガイド生成装置１０、３０は、必ずしも放送システム１の一部をなしていなくてもよい。例えば、音声ガイド生成装置１０、３０は、通信伝送路に接続されたサーバ装置に音声ガイドデータを出力してもよい。サーバ装置は、音声ガイド生成装置１０、３０から入力された音声ガイドデータと、その競技の映像データとを対応付けて通信伝送路に接続された各種の端末装置に送信してもよい。サーバ装置は、端末装置からの配信要求信号の受信の応答として、映像データと音声ガイドデータを送信してもよいし、予め登録された端末装置に一斉に送信してもよい。
また、放送システム５の送信装置５６は、生成した多重化データを放送伝送路に代え、又は放送伝送路とともに通信伝送路に送信してもよい。
【０１６８】
なお、上述の音声ガイド生成装置１０、３０、５０は、専用のハードウェアとして構成されてもよいし、内部にコンピュータシステムを備えたハードウェアとして構成されてもよい。そして、音声ガイド生成装置１０、３０、５０の一部の動作の過程は、プログラムの形式でコンピュータ読み取り可能な記録媒体に記憶されており、このプログラムをコンピュータシステムが読み出して実行することによって、上記処理が行われる。ここでいうコンピュータシステムとは、ＣＰＵ（Ｃｅｎｔｒａｌ  Ｐｒｏｃｅｓｓｉｎｇ  Ｕｎｉｔ）などのプロセッサ及び各種メモリやＯＳ（Ｏｐｅｒａｔｉｎｇ  Ｓｙｓｔｅｍ）、周辺機器等のハードウェアを含むものである。また、上述の各機能部は、１個又は２以上のコンピュータシステムで構成されてもよいし、１個の機能部又は２以上の機能部からなるセットが各１個のコンピュータシステムで構成されてもよい。
【０１６９】
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ＲＯＭ（Ｒｅａｄ−Ｏｎｌｙ  Ｍｅｍｏｒｙ）、ＣＤ（Ｃｏｍｐａｃｔ  Ｄｉｓｃ）−ＲＯＭ等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含むものとする。また上記プログラムは、前述した機能の一部を実現するためのものであってもよく、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現されてもよい。
【符号の説明】
【０１７０】
１、５…放送システム、１０、３０、５０…音声ガイド生成装置、１１…メッセージ管理部、１２…説明生成部、１３、３４…音声合成部、１５、５５…映像処理部、１６、５６…送信装置、１７…第１受信部、２０…受信装置、３１…事前学習部、３２…コーパス入力部、３３…モデル学習部、３４…音声合成部、３３１…テキスト解析部、３３１ａ…音素言語特徴量生成部、３３１ｂ…フレーム言語特徴量生成部、３３２…音声解析部、３３２ａ…音素区切り部、３３２ｂ…音響特徴量生成部、３３３…ＤＮＮ学習部、３３３ａ…時間長モデル学習部、３３３ｂ…音響特徴量モデル学習部、３４１…合成音声生成部、３４２…スタイル解析部、３４３…テキスト解析部、３４３ａ…音素言語特徴量生成部、３４３ｂ…フレーム言語特徴量生成部、３４４…ＤＮＮ演算部、３４４ａ…時間長演算部、３４４ｂ…音響特徴量演算部、３４５…合成部、３４６…モデル記憶部、３４６ａ…時間長モデル、３４６ｂ…音響特徴量モデル、５５１…第２受信部、５６１…第１バッファ部、５６２…第２バッファ部、５６３…重畳処理部
【図１】
2018216729.tif 000003
【図２】
2018216729.tif 000004
【図３】
2018216729.tif 000005
【図４】
2018216729.tif 000006
【図５】
2018216729.tif 000007
【図６】
2018216729.tif 000008
【図７】
2018216729.tif 000009
【図８】
2018216729.tif 000010
【図９】
2018216729.tif 000011
【図１０】
2018216729.tif 000012
【図１１】
2018216729.tif 000013
【図１２】
2018216729.tif 000014
【図１３】
2018216729.tif 000015
【図１４】
2018216729.tif 000016
【図１５】
2018216729.tif 000017
【図１６】
2018216729.tif 000018
【図１７】
2018216729.tif 000019
【図１８】
2018216729.tif 000020
【図１９】
2018216729.tif 000021
【図２０】
2018216729.tif 000022
【図２１】
2018216729.tif 000023
【図２２】
2018216729.tif 000024
【図２３】
2018216729.tif 000025
【図２４】
2018216729.tif 000026
【図２５】
2018216729.tif 000027
【図２６】
2018216729.tif 000028
【図２７】
2018216729.tif 000029
【図２８】
2018216729.tif 000030
【図２９】
2018216729.tif 000031
【図３０】
2018216729.tif 000032
【国際調査報告】
2018216729.tif 000033
2018216729.tif 000034
2018216729.tif 000035
2018216729.tif 000036