(57)【要約】【課題】ショートポーズを含む発話にも含まない発話にも柔軟に対応可能な音声認識用言語モデルを作成できる技術を提供する。【解決手段】ショートポーズありテキスト生成部１１が、外部資源テキストに含まれる所定の記号をショートポーズに変換することにより、ショートポーズありテキストを生成する。ショートポーズなしテキスト生成部１２が、ショートポーズありテキストからショートポーズを削除することにより、ショートポーズなしテキストを生成する。ショートポーズあり言語モデル構築部２１が、ショートポーズありテキストを用いて、ショートポーズあり言語モデルを構築する。ショートポーズなし言語モデル構築部２２が、ショートポーズなしテキストを用いて、ショートポーズなし言語モデルを構築する。混合言語モデル構築部３が、ショートポーズあり言語モデル及びショートポーズなし言語モデルを混合する。【選択図】図１
2014098870.tif 000002
【特許請求の範囲】
【請求項１】
形態素ごとに区切られた外部資源テキストに含まれる所定の記号をショートポーズに変換することにより、ショートポーズありテキストを生成するショートポーズありテキスト生成部と、
上記ショートポーズありテキストからショートポーズを削除することにより、ショートポーズなしテキストを生成するショートポーズなしテキスト生成部と、
上記ショートポーズありテキストを用いて、ショートポーズあり言語モデルを構築するショートポーズあり言語モデル構築部と、
上記ショートポーズなしテキストを用いて、ショートポーズなし言語モデルを構築するショートポーズなし言語モデル構築部と、
ショートポーズあり言語モデル及びショートポーズなし言語モデルを混合する混合言語モデル構築部と、
を含む言語モデル作成装置。
【請求項２】
請求項１の言語モデル作成装置において、
ショートポーズあり言語モデル及びショートポーズなし言語モデルの混合比を決定する混合比決定部を更に含み、
上記混合言語モデル構築部は、上記混合比に基づいて、ショートポーズあり言語モデル及びショートポーズなし言語モデルを混合する、
言語モデル作成装置。
【請求項３】
テキスト生成部が、形態素ごとに区切られた外部資源テキストに含まれる所定の記号をショートポーズに変換することにより、ショートポーズありテキストを生成するショートポーズありテキスト生成ステップと、
ショートポーズなしテキスト生成部が、上記ショートポーズありテキストからショートポーズを削除することにより、ショートポーズなしテキストを生成するショートポーズなしテキスト生成ステップと、
ショートポーズあり言語モデル構築部が、上記ショートポーズありテキストを用いて、ショートポーズあり言語モデルを構築するショートポーズあり言語モデル構築ステップと、
ショートポーズなし言語モデル構築部が、上記ショートポーズなしテキストを用いて、ショートポーズなし言語モデルを構築するショートポーズなし言語モデル構築ステップと、
混合言語モデル構築部が、ショートポーズあり言語モデル及びショートポーズなし言語モデルを混合する混合言語モデル構築ステップと、
を含む言語モデル作成方法。
【請求項４】
請求項１又は２の言語モデル作成装置の各部としてコンピュータを機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
この発明は、音声認識技術に関する。特に、言語モデルを作成する技術に関する。
【背景技術】
【０００２】
音声認識では、言語的に認識結果を予測するために、文脈ごとに言語現象(基本的には単語)の生起確率が定義されている言語モデルが使用される。そして、音声認識のための言語モデルは、ショートポーズも言語現象として積極的にモデル化したほうが良いことが知られている。音声認識用言語モデルにおけるショートポーズの有効性については、例えば非特許文献１を参照のこと。ショートポーズは、0.5から1.0秒程度の間を表した言語現象のことである。ショートポーズは、無音を表す音響モデルに対応付けられ、無音音声を音声認識した場合は、この記号を出力することが可能である。高性能な音声認識を実現するためには、どのような時にショートポーズが発生しやすいのか（無音が発生しやすいのか）を考慮して、言語モデル内でショートポーズの生起確率を適切に定めることが重要である。
【０００３】
音声認識のための言語モデルを学習するためには、大量のテキストデータが必要である。ショートポーズを含む言語モデルを学習するためのテキストとして最も優れているのが、音声認識で想定するタスクの実際の音声を人手でテキスト化した書き起こしテキストである。実際の音声でショートポーズが入った部分を言語現象として書き起こしておけば、そのテキストからポーズの生起確率を適切に反映させた言語モデルを学習することが可能である。しかしながら、音声を大量に書き起こすことは容易な作業ではなく、対象とするタスクに関して少量の書き起こしテキストしか得られないことが大半である。
【０００４】
そのため、一般的に外部から得られる外部資源テキストを利用することが多い。外部資源テキストとは、人間が記述したテキスト、例えば新聞を指す。非特許文献２では、講義音声の音声認識タスクにおいて、Web上のテキストを外部資源テキストとして利用している。新聞やWebデータのような人間が記述したテキストならば、句点や読点、スペースなどの記号が含まれている。これらの記号は一般的にテキストを見やすくするために付与されたものであるが、これらの記号をショートポーズという言語現象であると考えることで、ショートポーズという言語現象を含む言語モデルを学習することが可能である。
【０００５】
従来は、外部資源テキストからショートポーズを含む言語モデルを学習する際は、あらかじめショートポーズに置き換える記号を事前に決めておき、それに従ってショートポーズを含むテキストを作成し、言語モデルを作成することが一般的であった。
【先行技術文献】
【非特許文献】
【０００６】
【非特許文献１】太田健吾, 土屋雅稔, 中川聖一,“ 音声認識用言語モデルにおけるポーズ情報の有効利用”, 日本音響学会春季講演論文集, 2-5-8, pp.59-62, 2009.
【非特許文献２】Ryo Masumura, Seongjun Hahm, and Akinori Ito, “Training a language model using webdata for large vocabulary Japanese spontaneous speech recognition”, In Proc. Interspeech, pp.1465-1468, 2011.
【発明の概要】
【発明が解決しようとする課題】
【０００７】
しかしながら、音声認識用の言語モデルを学習するために、すべての句点や読点、スペースをショートポーズに置き換えた外部資源テキスト言語モデルを学習することが音声認識において良い方法とは考えられない。
【０００８】
まず、１つ目の問題として、外部資源テキストと音声書き起こしテキストのショートポーズの出現傾向のミスマッチが考えられる。一般的に外部資源テキストにおいて、読点やスペースは見易さのために挿入された記号であるが、実際に音声として発話する場合はショートポーズを入れないで話す場合も非常に多い。外部資源テキストの全ての句読点やスペースをショートポーズと考えると、ショートポーズを入れないで発話した場合の音声に対して認識性能が劣化してしまうことが考えられる。
【０００９】
また、２つ目の問題として、必ずショートポーズを入れて言語モデルを学習することにより、ショートポーズの前の単語と後の単語の繋がりの情報は獲得できなくなってしまう。本来ショートポーズと前の単語と後の単語は繋がりやすい関係にあり、その間にショートポーズを含まない発話も十分に考えられるはずである。ショートポーズの前の単語と後の単語も繋がりやすいという情報を言語モデルに反映できれば、さらに高性能な言語モデルが実現できるのではないかと考えられる。
【００１０】
上記の２つの問題を解決するためには、外部資源テキストから言語モデルを作成する際に、ショートポーズが入る音声にも入らない音声にも柔軟な出現確率設定することが重要となる。すなわち、ショートポーズの前の単語と後の単語も繋がりやすいという情報も、うまく反映させる手段が重要となる。
【００１１】
この発明は、ショートポーズを含む発話にも含まない発話にも柔軟に対応可能な音声認識用言語モデルを作成できる言語モデル作成装置、方法及びプログラムを提供することを目的とする。
【課題を解決するための手段】
【００１２】
この発明の一態様による言語モデル作成装置は、形態素ごとに区切られた外部資源テキストに含まれる所定の記号をショートポーズに変換することにより、ショートポーズありテキストを生成するショートポーズありテキスト生成部と、ショートポーズありテキストからショートポーズを削除することにより、ショートポーズなしテキストを生成するショートポーズなしテキスト生成部と、ショートポーズありテキストを用いて、ショートポーズあり言語モデルを構築するショートポーズあり言語モデル構築部と、ショートポーズなしテキストを用いて、ショートポーズなし言語モデルを構築するショートポーズなし言語モデル構築部と、ショートポーズあり言語モデル及びショートポーズなし言語モデルを混合する混合言語モデル構築部と、を備える。
【発明の効果】
【００１３】
従来と同様の方法で学習したショートポーズあり言語モデルと全てのショートポーズを削除した外部資源テキストから学習したショートポーズなし言語モデルの両方を使用して、両者の混合モデルとして音声認識用言語モデルを構築する。これにより、ショートポーズを含む発話にも含まない発話にも柔軟に対応可能な音声認識用言語モデルを作成できる。
【図面の簡単な説明】
【００１４】
【図１】言語モデル作成装置の例を説明するためのブロック図。
【図２】言語モデル作成方法の例を説明するためのフローチャート。
【図３】外部資源テキストの例を説明するための図。
【図４】ショートポーズ変更記号リストの例を説明するための図。
【図５】ショートポーズありテキストの例を説明するための図。
【図６】ショートポーズありテキストの例を説明するための図。
【発明を実施するための形態】
【００１５】
以下、図面を参照して、言語モデル作成装置及び方法の実施形態を説明する。
【００１６】
まず、この実施形態の説明で利用される語彙の説明をする。
【００１７】
ショートポーズとは、人間が発話する際の短時間(0.5〜1.0s程度)の間を表す言語現象のことである。ショートポーズを表す記号を、例えば<sp>と表現することにする。「今日は<sp>すごく暑いなぁ」であれば、「今日は」と「すごく暑いなぁ」の間に0.5〜1.0s程度があることを表している。
【００１８】
タスクとは、構成する音声認識システムが想定している入力発話のスタイルや話題の傾向のことである。例えば、「コールセンター音声タスク」、「ニュース音声タスク」、「会議音声タスク」又は「音声検索タスク」といった風に使う。
【００１９】
書き起こしテキストとは、タスクに関する音声の書き起こしによって得られたテキスト又はテキスト群のことである。ショートポーズという言語現象も音声通りに正しく書き起こされているとする。
【００２０】
外部資源テキストとは、人間が記述したテキスト、例えば新聞やWebテキスト、Web検索クエリログを指す。ショートポーズという言語現象は存在しないが、句読点やスペースなどの記号は含む。
【００２１】
ショートポーズありテキストとは、外部資源テキストに対して、あらかじめ決めてある記号(読点やスペースなどの記号)をショートポーズに入れ替えたテキストのことである。
【００２２】
ショートポーズなしテキストとは、ショートポーズありテキストの全てのショートポーズを消去したテキストのことである。
【００２３】
言語モデル作成装置は、図１に示すように、ショートポーズありなしテキスト生成部１、言語モデル構築部２及び混合言語モデル構築部３を例えば備えている。
【００２４】
ショートポーズありなしテキスト生成部１は、ショートポーズありテキスト生成部１１及びショートポーズなしテキスト生成部１２を例えば備えている。ショートポーズありなしテキスト生成部１は、外部資源テキスト及びショートポーズ変更記号リストを用いて、ショートポーズありテキスト及びショートポーズなしテキストを生成する。
【００２５】
具体的には、まず、ショートポーズありテキスト生成部１１は、形態素ごとに区切られた外部資源テキストに含まれる所定の記号をショートポーズに変換することにより、ショートポーズありテキストを生成する（ステップＳ１，図２）。ショートポーズありテキストは、ショートポーズなしテキスト生成部１２及びショートポーズあり言語モデル構築部２１に送信される。
【００２６】
外部資源テキストは、単語又は形態素ごとに区切られたテキストを想定している。外部資源テキストの例を図３に示す。このように、例えば１行に１形態素が書かれたテキストデータとすることで、形態素同士の区切りを明確化しておく。
【００２７】
ショートポーズありテキスト生成部１１は、この外部資源テキストに対して、あらかじめショートポーズに変更する記号を定めたショートポーズ変更記号リストを利用して、テキストデータ中の該当する形態素をショートポーズに変更する。
【００２８】
ショートポーズ変更記号リストに掲載されたショートポーズに変換する記号の例を図４に示す。このようにショートポーズにしたい記号を１行ごとに書いておくことにより、どの記号をショートポーズに変えればよいかが容易に判断可能となる。
【００２９】
ショートポーズの記号は、例えば<sp>を使用する。例として、図３の外部資源テキストの一部を図４のショートポーズ変更記号リストを利用して<sp>に変更することにより生成されたショートポーズありテキストを図５に示す。この例では、外部資源テキストに含まれる記号「、」及び記号「。」が、ショートポーズの記号<sp>に変換されている。例えば、このような図５のテキストがショートポーズありテキストとして出力される。
【００３０】
ショートポーズなしテキスト生成部１２は、ショートポーズありテキストからショートポーズを削除することにより、ショートポーズなしテキストを生成する（ステップＳ２）。ショートポーズなしテキストは、ショートポーズなし言語モデル構築部２２に送信される。
【００３１】
例えば、linuxなどのsedコマンド等を利用することにより、ショートポーズありテキストから、ショートポーズの記号を完全に除去したテキストを作成することが可能である。図５のショートポーズありテキストから、ショートポーズの記号<sp>を削除することにより生成したショートポーズなしテキストを図６示す。
【００３２】
なお、ショートポーズなしテキストの生成は、外部資源テキストとショートポーズ変更記号リストを利用して実現してもよい。すなわち、ショートポーズなしテキスト生成部１２は、外部資源テキストの中の、ショートポーズ変更記号リストに掲載されている記号を削除することにより、外部資源テキスト及びショートポーズ変更記号リストから直接的にショートポーズなしテキストを生成してもよい。
【００３３】
言語モデル構築部２は、ショートポーズあり言語モデル構築部２１及びショートポーズなし言語モデル構築部２２を例えば備えている。言語モデル構築部２は、ショートポーズありテキストを用いてショートポーズあり言語モデルを構築し、ショートポーズなしテキストを用いてショートポーズなし言語モデルを構築する。
【００３４】
まず、ショートポーズあり言語モデル構築部２１が、ショートポーズありテキストを用いて、ショートポーズあり言語モデルを構築する（ステップＳ３）。ショートポーズあり言語モデルは、混合言語モデル構築部３に送信される。
【００３５】
ショートポーズあり言語モデル構築部２１は、ショートポーズありテキスト中の全てのN個組みの単語の組み合わせの頻度を数え、N-gram言語モデルを作成する。例えば、N=3とする場合が、音声認識において最も一般的である。これに従って、N-gramと呼ばれる言語モデルを作成する。N=3の場合ならば、3-gram言語モデルとなる。N-gram言語モデルの学習方法は、公知の技術であるためここではその説明を省略する。最終的にショートポーズあり言語モデルはP1(w|h)という確率分布を与えるものである。これは、単語列hが出た後の単語wの出現する確率を表す。N-gram言語モデルの学習方法の詳細については、例えば参考文献１を参照のこと。
〔参考文献１〕北健二，“言語と計算-4 確率的言語モデル”,東京大学出版界, pp.57-62.
【００３６】
次に、ショートポーズなし言語モデル構築部２２が、ショートポーズなしテキストを用いて、ショートポーズなし言語モデルを構築する（ステップＳ４）。ショートポーズなし言語モデルは、混合言語モデル構築部３に送信される。
【００３７】
ショートポーズなし言語モデル構築部２２は、ショートポーズありテキスト中の全てのN個組みの単語の組み合わせの頻度を数え、N-gram言語モデルを作成する。その際、基本的にショートポーズあり言語モデルのNの値と同じ値を使用することとする。N-gram言語モデルの学習方法は、公知の技術であるためここではその説明は省略する。最終的にショートポーズなし言語モデルはP2(w|h)という確率分布を与えるものである。これは、単語列hが出た後の単語wの出現する確率を表す。N-gram言語モデルの学習方法の詳細については、例えば参考文献１を参照のこと。
【００３８】
混合言語モデル構築部３は、混合比決定部３１を備えている。混合言語モデル構築部３は、ショートポーズあり言語モデル及びショートポーズなし言語モデルを混合して混合言語モデルを生成する（ステップＳ６）。
【００３９】
まず、混合言語モデル構築部３の混合比決定部３１が、ショートポーズあり言語モデル及びショートポーズなし言語モデルの混合比を決定する（ステップＳ５）。
【００４０】
ショートポーズありモデルに対する重みをt1、ショートポーズなしモデルに対する重みをt2とすると両者は以下の制約を持つ。
t1+t2=1
これは、混合した言語モデルの確率の和を一定に保つためである。これに従って、混合比は、例えば、(t1,t2)=(0.6、0.4)と表される。混合比決定部３１は、上記の制約を満たす重みt1,t2を決定する。
【００４１】
混合比決定部３１は、想定する音声認識タスクの書き起こしテキストが得られる場合は、その書き起こしテキストを利用して、書き起こしテキストを生成する確率が最も高くなるように混合比を決定してもよい。この混合比の算出方法は、EMアルゴリズムを利用して求められることが知られている。この算出方法は公知の技術であるためここでは省略する。EMアルゴリズムの詳細は、参考文献２を参照のこと。
〔参考文献２〕安藤彰男, “リアルタイム音声認識”,社団法人電子通信情報学会, pp.135-137.
【００４２】
混合言語モデル構築部３は、ショートポーズあり言語モデル及びショートポーズなし言語モデルを混合する（ステップＳ６）。
【００４３】
ショートポーズありなし混合モデルを表すP(w|h)は、ショートポーズあり言語モデルを表す確率分布P1(w|h)と、ショートポーズなし言語モデルを表す確率分布P2(w|h)と、混合比t1,t2とを用いて、以下のように実現することができる。
P(w|h)=t1P1(w|h)+t2P2(w|h)
【００４４】
この確率分布P(w|h)を持つ言語モデルを混合言語モデルとして利用することができる。
【００４５】
上記の実施形態では、混合言語モデル構築部３は、混合比決定部３１が決定した混合比を用いてショートポーズあり言語モデル及びショートポーズなし言語モデルを混合したが、予め定められた混合比を用いてショートポーズあり言語モデル及びショートポーズなし言語モデルを混合してもよい。
【００４６】
上記装置及び方法において説明した処理は、記載の順に従って時系列に実行されるのみならず、処理を実行する装置の処理能力あるいは必要に応じて並列的にあるいは個別に実行されてもよい。
【００４７】
また、言語モデル作成装置における処理手段をコンピュータによって実現する場合、言語モデル作成装置が有すべき機能の処理内容はプログラムによって記述される。そして、このプログラムをコンピュータで実行することにより、言語モデル作成装置における処理手段がコンピュータ上で実現される。
【００４８】
この処理内容を記述したプログラムは、コンピュータで読み取り可能な記録媒体に記録しておくことができる。コンピュータで読み取り可能な記録媒体としては、例えば、磁気記録装置、光ディスク、光磁気記録媒体、半導体メモリ等どのようなものでもよい。
【００４９】
また、各処理手段は、コンピュータ上で所定のプログラムを実行させることにより構成することにしてもよいし、これらの処理内容の少なくとも一部をハードウェア的に実現することとしてもよい。
【００５０】
その他、この発明の趣旨を逸脱しない範囲で適宜変更が可能であることはいうまでもない。
【符号の説明】
【００５１】
１      ショートポーズありなしテキスト生成部
１１    ショートポーズありテキスト生成部
１２    ショートポーズなしテキスト生成部
２      言語モデル構築部
２１    ショートポーズあり言語モデル構築部
２２    ショートポーズなし言語モデル構築部
３      混合言語モデル構築部
３１    混合比決定部
【図１】
2014098870.tif 000003
【図２】
2014098870.tif 000004
【図３】
2014098870.tif 000005
【図４】
2014098870.tif 000006
【図５】
2014098870.tif 000007
【図６】
2014098870.tif 000008