(57)【特許請求の範囲】
【請求項１】
複数の字幕原稿からなる電子化原稿をストアするためのストア手段と、
該ストア手段から字幕原稿を順に取り出す取出手段と、
該取出手段により取り出された字幕原稿から冒頭部分として予め定めた数の文節を先頭から連続して取り出す冒頭部分取出手段と、
該冒頭部分取出手段により取り出された冒頭部分全体を発音記号列に変換する第１変換手段と、
該第１変換手段により変換して得られた各発音記号ごとに音響モデルを連結する第１連結手段と、
番組音声を音響パラメータ列に変換する第２変換手段と、
該第２変換手段により得られた音響パラメータ列と、前記第１連結手段により連結された音響モデルとを照合する照合手段と、
該照合手段により照合した結果、スコアが所定の閾値を超えた場合に、前記取出手段から取り出した字幕原稿を、前記番組音声に関連付けられた映像にスーパーする字幕スーパー・タイミング信号を生成する信号生成手段と
を備えたことを特徴とする字幕スーパー・タイミング発生装置。
【請求項２】
複数の字幕原稿からなる電子化原稿をストアするためのストア手段と、
該ストア手段から字幕原稿を順に取り出す取出手段と、
該取出手段により取り出された字幕原稿から冒頭部分として予め定めた数の文節を先頭から連続して取り出す冒頭部分取出手段と、
該冒頭部分取出手段により取り出された冒頭部分全体を発音記号列に変換する第１変換手段と、
該第１変換手段により変換して得られた各発音記号ごとに音響モデルを連結する第１連結手段と、
番組音声を音響パラメータ列に変換する第２変換手段と、
該第２変換手段により得られた音響パラメータ列と、
前記第１連結手段により連結された音響モデルとを照合する照合手段と、
該照合手段により照合した結果、スコアが所定の閾値を超えた場合に、前記取出手段から取り出した字幕原稿を、前記番組音声に関連付けられた番組映像にスーパーする字幕スーパー・タイミング信号を生成する信号生成手段と、
該信号生成手段により生成された字幕スーパー・タイミング信号に同期して、前記取出手段により取り出された前記字幕原稿を、前記番組映像に多重化する多重化手段と
を備えたことを特徴とする字幕スーパー処理装置。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は、字幕スーパー・タイミング発生装置ならびに字幕スーパー処理装置に関する。
【０００２】
【従来の技術】
従来は、字幕スーパーのタイミングを自動的に与える装置はなく、放送局等では、字幕スーパーのタイミングは人間がボタンを押すことにより与えていた。
【０００３】
放送中の音声を文字化し得られた文字を字幕スーパーにするという聴覚障害者等の要求に応え得るものとしては、例えば、ニュース番組のアナウンスに際して予め設けられた電子化した原稿を、字幕スーパーするタイミングで操作者がボタンを押して字幕スーパーとして送出する装置がある。
【０００４】
また、従来から、音響モデルを用いた音声認識法が知られている。
【０００５】
【発明が解決しようとする課題】
しかしながら、字幕スーパーするタイミングを監視する要員等の多くの人手が必要となり、作業の自動化が課題として残されていた。
【０００６】
本発明の第１の目的は、上記のような問題点を解決し、字幕スーパーするタイミング信号を自動的に発生することができる字幕スーパー・タイミング発生装置および方法を提供することにある。
【０００７】
本発明の第２の目的は、上記のような問題点を解決し、字幕スーパーするタイミングに同期して字幕スーパー処理を行うことができる字幕スーパー処理装置および方法を提供することにある。
【０００８】
【課題を解決するための手段】
請求項１の発明は、字幕スーパー・タイミング発生装置であって、複数の字幕原稿からなる電子化原稿をストアするためのストア手段と、該ストア手段から字幕原稿を順に取り出す取出手段と、該取出手段により取り出された字幕原稿から冒頭部分として予め定めた数の文節を先頭から連続して取り出す冒頭部分取出手段と、該冒頭部分取出手段により取り出された冒頭部分全体を発音記号列に変換する第１変換手段と、該第１変換手段により変換して得られた各発音記号ごとに音響モデルを連結する第１連結手段と、番組音声を音響パラメータ列に変換する第２変換手段と、該第２変換手段により得られた音響パラメータ列と、前記第１連結手段により連結された音響モデルとを照合する照合手段と、該照合手段により照合した結果、スコアが所定の閾値を超えた場合に、前記取出手段から取り出した字幕原稿を、前記番組音声に関連付けられた映像にスーパーする字幕スーパー・タイミング信号を生成する信号生成手段とを備えたことを特徴とするものである。
【００１０】
請求項２の発明は、字幕スーパー処理装置であって、複数の字幕原稿からなる電子化原稿をストアするためのストア手段と、該ストア手段から字幕原稿を順に取り出す取出手段と、該取出手段により取り出された字幕原稿から冒頭部分として予め定めた数の文節を先頭から連続して取り出す冒頭部分取出手段と、該冒頭部分取出手段により取り出された冒頭部分全体を発音記号列に変換する第１変換手段と、該第１変換手段により変換して得られた各発音記号ごとに音響モデルを連結する第１連結手段と、番組音声を音響パラメータ列に変換する第２変換手段と、該第２変換手段により得られた音響パラメータ列と、前記第１連結手段により連結された音響モデルとを照合する照合手段と、該照合手段により照合した結果、スコアが所定の閾値を超えた場合に、前記取出手段から取り出した字幕原稿を、前記番組音声に関連付けられた番組映像にスーパーする字幕スーパー・タイミング信号を生成する信号生成手段と、該信号生成手段により生成された字幕スーパー・タイミング信号に同期して、前記取出手段により取り出された前記字幕原稿を、前記番組映像に多重化する多重化手段とを備えたことを特徴とするものである。
【００１２】
【発明の実施の形態】
以下、本発明の実施の形態を図面を参照して詳細に説明する。
【００１３】
図１は本発明の一実施の形態を示す。図１において、２はテレビ番組送出装置であり、テレビ番組を送出するものである。４は電子化原稿記憶装置であり、電子化原稿を記憶するためのものである。６は字幕自動同期装置であり、字幕スーパー・タイミング信号を生成するものである。８は字幕スーパー多重装置であり、取り出された字幕原稿を一旦ストアし、このストアされている字幕原稿を、字幕自動同期装置６からの字幕スーパー・タイミング信号に同期して、テレビ番組送出装置２からの番組映像に多重化するものである。
【００１４】
図２は図１の字幕自動同期装置６の構成を示す。図２において、６１はニュース項目取出部であり、適正なタイミングで電子化原稿記憶装置４からニュース項目を取り出すものである。６２は冒頭部分抽出部であり、ニュース項目取出部６１により取り出されたニュース項目の冒頭部分として所定数の文節を先頭から連続して抽出するものである。この冒頭部分はその長さを長くすればするほど、照合性が高くなるが、実際には、照合にかかる時間を考慮して、連続する数文節にするのが望ましい。
【００１５】
６３は発音記号列変換部であり、冒頭部分抽出部６２からの冒頭部分を形態素解析（文を品詞ごとに分割する技術）して品詞ごとに分割し、さらに全て平仮名からなる文字列に変換し、この平仮名からなる文字列を、表１〜表４の平仮名・発音記号対応表を用いて、発音記号列に変換するものである。形態素解析については、例えば、田中穂積著「自然言語解析の基礎」産業図書を参照されたい。
【００１６】
【表１】
0003830588.tif 000002
【００１７】
【表２】
0003830588.tif 000003
【００１８】
【表３】
0003830588.tif 000004
【００１９】
【表４】
0003830588.tif 000005
【００２０】
６４は音響モデル連結部であり、発音記号列変換部６３からの各発音記号ごとに所定の音響モデルを連結するものである。音響モデルとしては、例えば、ＨＭＭ(Hidden Markov Model) が好ましい。ＨＭＭについては、例えば、中川聖一著「確率モデルによる音声認識」電子通信学会を参照されたい。６５は音響パラメータ列変換部であり、テレビ番組送出装置２からの番組音声を、音響パラメータ列（例えば、スペクトルの時系列）に変換するものである。
【００２１】
６７は照合部であり、音響モデル連結部６４からの音響モデルと、音響パラメータ列変換部６５から送られてきた音響パラメータ列とを照合し、スコア（ＨＭＭの場合には尤度；  音響モデル連結部６４からの音響モデルが、音響パラメータ列変換部６５から送られてきた音響パラメータ列を生成すると仮定した場合の尤もらしさ）が予め定めた閾値より高くなった場合に、冒頭部分の音響モデルが番組音声中に存在するとして、字幕スーパー・タイミング信号を生成するものである。
【００２２】
次に、照合部６７の動作を詳細に説明する。まず、母音、子音等の単位である音素ごとに、ＨＭＭを構成しておき、各ＨＭＭのパラメータは多数話者が発声したデータベース、例えば、ＡＴＲ（国際電気通信基礎研究所）が発行している音声データベースを用いて学習しておくものとする。そして、処理の実時間化を考慮して、入力される番組音声のサンプル（以下、単に、音声サンプルという）に対して、冒頭部分に対するＨＭＭにより逆向き照合（終端状態から過去の方向に向かって順に対応させていく照合）を行い、始端フリーの照合を行う。そして、冒頭部分に対するＨＭＭの始端状態に対応する音声サンプル中の最も過去の時刻（通常、１つのＨＭＭ状態に対し、複数の音声サンプルが対応する）、すなわち、音声開始時刻と、照合によって得られたＨＭＭ尤度の組とを求める。そして、ＨＭＭ尤度が予め定めた閾値を超えたとき、字幕スーパー・タイミング信号を出力する。
【００２３】
図３は字幕スーパ処理手順の一例を示すフローチャートである。ニュース番組におけるニュース項目の順番は予め定められているものとする。
【００２４】
ニュース項目取出部６１により１つのニュース項目を電子化原稿記憶装置４から取り出し（Ｓ３０１）、取り出されたニュース項目を字幕スーパー多重装置８にストアし、他方、ニュース項目取出部６１により取り出されたニュース項目の冒頭部分（例えば、先頭から２文節）を冒頭部分抽出部６２により抽出する。ついで、抽出された冒頭部分全体を発音記号列変換部６３により発音記号列に変換し（Ｓ３０２）、各発音記号ごとに、音響モデル連結部６４により、音響モデルを連結する（Ｓ３０３）。例えば、図４に示す項目３のニュース項目が取り出されると、冒頭部分抽出部６２により２文節、すなわち、「政府は閣議に」が抽出され、表１〜表４の発音記号表に従って、図５に示すように、「seihuwakakugini 」という発音記号列に変換されることになる。
【００２５】
一方、番組音声は音響パラメータ列変換部６５により音響パラメータ列に変換される。そして、音響モデル連結部６４からの音響モデルと、音響パラメータ列変換部６５から送られた音響パラメータ列とを照合していき（Ｓ３０４およびＳ３０５）、番組音声中に、冒頭部分が存在する個所を推定する。そして、冒頭部分が番組音声中に存在すると推定した場合、上記の例では、図６に示すように、「seihuwakakugini 」という発音記号列と、「seihuwa kakugini」という音声（図６には、便宜上、波形ではなく、発音記号列で示してある）との照合尤度が大きくなった時点で、字幕スーパー・タイミング信号を生成する。この字幕スーパー・タイミング信号に同期して、字幕多重処理装置８により字幕原稿が、テレビ番組送出装置２からの番組映像に多重化される（Ｓ３０７）。このニュース項目が最後のニュース項目でない場合には（Ｓ３０８）、次のニュース項目に対して、上記の手順を繰り返し、他方、最後のニュース項目である場合には（Ｓ３０８）、この字幕スーパ処理手順を終了する。
【００２６】
本実施の形態では、音響モデルとしてＨＭＭを用いた例を説明したが、この音響モデルに限定されるものではなく、例えば、ニューラルネットワーク等を用いることができることは当然である。
【００２７】
また、番組音声はニュース番組の音声に限定されるものではなく、電子化原稿が用意されているのであれば、任意の番組音声でもよいことは当然である。
【００２８】
【実施例】
以下、シミュレーション実験を行った結果を示す。評価用音声データとしては、１９９６年６月３日に放送された「ＮＨＫニュース７」中の１３個のニュース項目、計６７文が連続して発生されているデータを用いた。ニュース項目当たり５．２文である。また、音響モデルとして音素ＨＭＭを用いた。ＨＭＭは男女ごとに分けて作成した。作成に当たっては、男女ごとに、ＡＴＲデータベースとして各２０名ずつが発声した５０文ずつのデータを用いた。さらに、冒頭部分として、各ニュース項目の先頭の文全体を用いた。
【００２９】
実験した結果、字幕スーパー・タイミング信号が出力されるタイミングが、各ニュース項目の先頭音素区間内（数１００ms程度の長さ）に含まれる率は、９３％（１２項目／１３項目）であった。
【００３０】
しかし、これらのタイミングが先頭音素区間内に含まれていない場合でも、このタイミングは実際の放送における字幕スーパーのタイミングと比べ違和感のあるものではなかった。
【００３１】
【発明の効果】
以上説明したように、請求項１および請求項３の発明によれば、上記のように構成したので、字幕スーパーするタイミング信号を自動的に発生させることができる。
【００３２】
また、請求項２および請求項４の発明によれば、上記のように構成したので、字幕スーパーするタイミングに同期して字幕スーパー処理を行うことができる。
【図面の簡単な説明】
【図１】本発明の実施の形態を示すブロック図である。
【図２】図１の字幕自動同期装置６の構成を示すブロック図である。
【図３】字幕スーパ処理手順の一例を示すフローチャートである。
【図４】ニュース項目の取出しを説明するための説明図である。
【図５】発音記号変換により得られた冒頭部分の発音記号列を示す図である。
【図６】番組音声中の冒頭部分と一致する箇所を示す図である。
【符号の説明】
２  テレビ番組送出装置
４  電子化原稿記憶装置
６  字幕自動同期装置
８  字幕スーパー多重装置
６１  ニュース項目取出部
６２  冒頭部分抽出部
６３  発音記号列変換部
６４  音響モデル連結部
６５  音響パラメータ列変換部
６７  照合部
【図１】
0003830588.tif 000006
【図２】
0003830588.tif 000007
【図３】
0003830588.tif 000008
【図４】
0003830588.tif 000009
【図５】
0003830588.tif 000010
【図６】
0003830588.tif 000011