(57)【要約】  学習装置は、ある音声データに対する音声認識結果候補と音声認識の正解文との組によって、誤り訂正モデルを学習する学習部を含み、音声認識結果候補には正解文とは異なる音声認識結果候補が含まれ、誤り訂正モデルは、音声認識結果候補の単語系列を入力とし、音声認識誤りを考慮した音声認識結果候補の単語系列の尤もらしさを示す誤り訂正スコアを出力とするモデルである。
2019163718.tif 000002
【特許請求の範囲】
【請求項１】
ある音声データに対する音声認識結果候補と音声認識の正解文との組によって、誤り訂正モデルを学習する学習部を含み、
前記音声認識結果候補には前記正解文とは異なる音声認識結果候補が含まれ、前記誤り訂正モデルは、音声認識結果候補の単語系列を入力とし、音声認識誤りを考慮した前記音声認識結果候補の単語系列の尤もらしさを示す誤り訂正スコアを出力とするモデルである、
学習装置。
【請求項２】
請求項１の学習装置であって、
前記誤り訂正モデルの学習に用いる前記音声認識結果候補と前記正解文との組は、複数の音声認識結果候補と1つの正解文とからなる、
学習装置。
【請求項３】
請求項１または請求項２の学習装置により学習された誤り訂正モデルを用いる音声認識順位推定装置であって、
音声認識結果候補の単語系列に対する単語分散表現系列と前記音声認識結果候補の分散表現とを前記誤り訂正モデルの入力とし、前記誤り訂正モデルの出力である前記音声認識結果候補の単語系列ごとの誤り訂正スコアを求める誤り訂正スコア計算部と、
前記誤り訂正スコアを用いて前記音声認識結果候補の順位付けを行う音声認識結果候補順位付け部とを含む、
音声認識順位推定装置。
【請求項４】
請求項３の音声認識順位推定装置であって、
前記音声認識結果候補順位付け部は、
前記音声認識結果候補の単語系列ごとの音声認識スコアと前記誤り訂正スコアとを重み付け加算して算出したスコアを用いて、前記音声認識結果候補の順位付けを行なう、
音声認識順位推定装置。
【請求項５】
学習部が、ある音声データに対する音声認識結果候補と音声認識の正解文との組によって、誤り訂正モデルを学習する学習ステップを含み、
前記音声認識結果候補には前記正解文とは異なる音声認識結果候補が含まれ、前記誤り訂正モデルは、音声認識結果候補の単語系列を入力とし、音声認識誤りを考慮した前記音声認識結果候補の単語系列の尤もらしさを示す誤り訂正スコアを出力とするモデルである、
学習方法。
【請求項６】
請求項５の学習方法であって、
前記誤り訂正モデルの学習に用いる前記音声認識結果候補と前記正解文との組は、複数の音声認識結果候補と1つの正解文とからなる、
学習方法。
【請求項７】
請求項５または請求項６の学習方法により学習された誤り訂正モデルを用いる音声認識順位推定方法であって、
誤り訂正スコア計算部が、音声認識結果候補の単語系列に対する単語分散表現系列と前記音声認識結果候補の分散表現とを前記誤り訂正モデルの入力とし、前記誤り訂正モデルの出力である前記音声認識結果候補の単語系列ごとの誤り訂正スコアを求める誤り訂正スコア計算ステップと、
音声認識結果候補順位付け部が、前記誤り訂正スコアを用いて前記音声認識結果候補の順位付けを行う音声認識結果候補順位付けステップとを含む、
音声認識順位推定方法。
【請求項８】
請求項１もしくは請求項２の学習装置、または、請求項３もしくは請求項４の音声認識順位推定装置としてコンピュータを機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、音声認識をして得られる認識結果の誤りを訂正する技術に関する。
【背景技術】
【０００２】
音声認識システムにおいて、認識の過程で得られる複数の認識結果の候補(以下、音声認識結果候補ともいう)をリランキングすることで音声認識精度が改善することが知られている。特にRecurrent Neural Network(RNN)言語モデルを用いたリランキングが広く用いられている(非特許文献１参照)。ここではRNNに関しては公知の技術であるため省略する。RNN言語モデルでは、入力単語を連続値からなる固定長のベクトルに変換してRNNに入力し、得られた固定長のベクトルを識別関数に入力することで次に出現する単語の生起確率を計算する。入力される単語系列を{w1,w2,…,wT}と表す場合、系列内の単語wt+1(ただし、t=1,2,…,T)の生起確率は以下のように推定する。
Et=EMBEDDING(wt)
ht=RNN(Et)
Ot+1=DISTRIBUTE(ht)
ここでEtは単語wtの単語分散表現である。なお、単語分散表現とは、単語を高次元の実数ベクトルで表現したもの(単語ベクトル)である。例えば、コーパス等に含まれる全ての単語に対応する次元を持ち、表現しようとする単語に対応する次元の値を1とし、他の次元の値を0とするベクトルである。htは、単語分散表現系列EtをRNNにより変換した連続値からなる固定長のベクトルである。また、Ot+1は、コーパス等に含まれる全ての単語の生起確率を含むベクトルであり、各単語に対応した生起確率を各次元の値とするベクトルである。EMBEDDING()は単語を単語分散表現(単語ベクトル)に変換する機能を持つ関数であり、RNN()はRNNの機能を持つ関数であり、DISTRIBUTE()は固定長のベクトルから全ての単語の生起確率の計算を行う関数である。EMBEDDING()については線形変換の関数、DISTRIBUTE()についてはsoftmax関数を用いることができる。softmax関数については公知の技術であるためここではその説明を省略する。上記で計算されたOt+1において、単語wt+1に対応する次元の値を単語wt+1の生起確率とする。個々の処理の詳細については非特許文献１を参考にされたい。【０００３】
RNN言語モデルを用いて音声認識の認識結果のリランキングを行う場合、音声認識の過程で得られる認識結果の上位N個の音声認識結果候補をRNN言語モデルにそれぞれ入力し、各音声認識結果候補の全ての単語に対して生起確率を計算する。ただし、Nは2以上の整数の何れかである。得られた生起確率からRNN言語モデルのスコアを計算し、前段の音声認識で得られるスコアと組み合わせることによりN個の音声認識結果候補のスコア付けを行い、スコアに応じて各音声認識結果候補の順が決定する。
【先行技術文献】
【非特許文献】
【０００４】
【非特許文献１】Tomas Mikolov, Martin Karafiat, Lukas Burget, Jan Cernocky, Sanjeev Khudanpur, “Recurrent Neural Network Based Language Model”,  In Proc. INTERSPEECH, pp. 1045-1048, 2010.
【発明の概要】
【発明が解決しようとする課題】
【０００５】
しかしながら、RNN言語モデルを用いた従来の手法の場合、文脈を考慮したモデル化が行われているものの、音声認識誤りを考慮できていない。【０００６】
音声認識誤りを考慮したモデル化によりさらなる認識精度の改善が可能となる。そこで、本発明は、音声認識誤りを考慮したモデルの学習装置、そのモデルを用いた音声認識順位推定装置、それらの方法、およびプログラムを提供することを目的とする。
【課題を解決するための手段】
【０００７】
上記の課題を解決するために、本発明の一態様によれば、学習装置は、ある音声データに対する音声認識結果候補と音声認識の正解文との組によって、誤り訂正モデルを学習する学習部を含み、音声認識結果候補には正解文とは異なる音声認識結果候補が含まれ、誤り訂正モデルは、音声認識結果候補の単語系列を入力とし、音声認識誤りを考慮した音声認識結果候補の単語系列の尤もらしさを示す誤り訂正スコアを出力とするモデルである。【０００８】
上記の課題を解決するために、本発明の他の態様によれば、学習方法は、学習部が、ある音声データに対する音声認識結果候補と音声認識の正解文との組によって、誤り訂正モデルを学習する学習ステップを含み、音声認識結果候補には正解文とは異なる音声認識結果候補が含まれ、誤り訂正モデルは、音声認識結果候補の単語系列を入力とし、音声認識誤りを考慮した音声認識結果候補の単語系列の尤もらしさを示す誤り訂正スコアを出力とするモデルである。
【発明の効果】
【０００９】
本発明によれば、音声認識誤りを考慮したモデル化が可能となる。また、音声認識誤りを考慮したモデルを用いることで、音声認識誤りを考慮した音声認識結果候補のリランキングが可能となり、より認識精度の高い認識結果が獲得できるという効果を奏する。
【図面の簡単な説明】
【００１０】
【図１】第一実施形態に係る音声認識順位推定装置の機能ブロック図。
【図２】第一実施形態に係る音声認識順位推定装置の処理フローの例を示す図。
【図３】誤り訂正スコア計算部の機能ブロック図。
【図４】N=3の場合の処理結果の例を示す図。
【図５】第一実施形態に係る学習装置の機能ブロック図。
【発明を実施するための形態】
【００１１】
以下、本発明の実施形態について、説明する。なお、以下の説明に用いる図面では、同じ機能を持つ構成部や同じ処理を行うステップには同一の符号を記し、重複説明を省略する。以下の説明において、ベクトルや行列の各要素単位で行われる処理は、特に断りが無い限り、そのベクトルやその行列の全ての要素に対して適用されるものとする。
＜第一実施形態のポイント＞
本発明では、前述のRNN言語モデルを用いたリランキングにおいて、Sequence-to-Sequence（Seq2Seq）モデル(参考文献１参照)により音声認識誤りを扱う枠組みを取り入れる。
(参考文献１)Ilya Sutskever, Oriol Vinyals, Quoc V. Le, “Sequence to Sequence Learning with Neural Networks”, In Proc. NIPS, pp. 3104-3112, 2014.
Seq2Seqモデルは、可変長の系列情報を入力として、可変長の系列を出力することができるモデルである。音声認識誤りを含んだ単語系列と、音声認識誤りを含まない単語系列の系列長は異なる。Seq2Seqモデルにより、この系列長の異なる2つの系列を扱うことが可能となる。また、Seq2Seqの構造の一つとして注意機構(参考文献２)を利用することもできる。
(参考文献２)Minh-Thang Luong, Hieu Pham, Christopher D. Manning, “Effective Approaches to Attention-based Neural Machine Translation”, In Proc. EMNLP, pp. 1412-1421, 2015.
従来のRNN言語モデルでは音声認識誤りを含まない単語系列を用いてモデルの学習を行う。一方、本実施形態では、音声認識誤りを含む音声認識結果候補の単語系列と音声認識誤りを含まない正解文の単語系列とを入力とし、ターゲットを正解文として学習を行うことで、音声認識誤りのモデル化を可能とする。
＜第一実施形態＞
図１は第一実施形態に係る音声認識順位推定装置１００の機能ブロック図を、図２はその処理フローを示す。
【００１２】
音声認識順位推定装置１００は、誤り訂正スコア計算部１１０と、音声認識結果候補順位付け部１２０とを含む。
【００１３】
音声認識順位推定装置１００は、N個の音声認識結果候補の単語系列を入力とし、N個の音声認識結果候補に対して順位付けを行い、その結果を出力する。ただし、Nは2以上の整数の何れかである。順位付けの結果として、N個の音声認識結果候補と各音声認識結果候補の順位との組を出力してもよいし、N個の音声認識結果候補の中の上位M個の音声認識結果候補を降順、または、昇順に出力してもよい（この場合、出力の順番が順位と対応する）。要は、音声認識順位推定装置１００の後段においてどのような処理を行うのかに応じて適切な値を出力すればよい。例えば、音声認識結果を出力する場合には、M=1とし、最も順位の高い音声認識結果候補を音声認識結果として出力すればよい。この実施形態では、各音声認識結果候補の順位に基づき昇順に並び替えられたN個の音声認識結果候補を出力するものとする。
【００１４】
音声認識順位推定装置は、例えば、中央演算処理装置（CPU: Central Processing Unit）、主記憶装置（RAM: Random Access Memory）などを有する公知又は専用のコンピュータに特別なプログラムが読み込まれて構成された特別な装置である。音声認識順位推定装置は、例えば、中央演算処理装置の制御のもとで各処理を実行する。音声認識順位推定装置に入力されたデータや各処理で得られたデータは、例えば、主記憶装置に格納され、主記憶装置に格納されたデータは必要に応じて中央演算処理装置へ読み出されて他の処理に利用される。音声認識順位推定装置の各処理部は、少なくとも一部が集積回路等のハードウェアによって構成されていてもよい。音声認識順位推定装置が備える各記憶部は、例えば、RAM（Random Access Memory）などの主記憶装置、またはリレーショナルデータベースやキーバリューストアなどのミドルウェアにより構成することができる。ただし、各記憶部は、必ずしも音声認識順位推定装置がその内部に備える必要はなく、ハードディスクや光ディスクもしくはフラッシュメモリ（Flash Memory）のような半導体メモリ素子により構成される補助記憶装置により構成し、音声認識順位推定装置の外部に備える構成としてもよい。
【００１５】
以下、各部について説明する。
＜誤り訂正スコア計算部１１０＞
入力：N個の音声認識結果候補の単語系列wn
出力：N個の誤り訂正スコアSerror,n
誤り訂正スコア計算部１１０は、N個の音声認識結果候補の単語系列wnから音声認識結果候補の単語系列に対する単語分散表現系列と音声認識結果候補の分散表現を求め、求めた単語分散表現系列と分散表現とを誤り訂正モデルの入力とし、誤り訂正モデルの出力である音声認識結果候補の単語系列ごとのN個の誤り訂正スコアSerror,nを求める（Ｓ１１０）。なお、n=1,2,…,Nとし、n番目の音声認識結果候補の単語系列には、Tn個の単語が含まれるものとし、単語系列wn={wn,1,wn,2,…,wn,T_n}と表現し、t=1,2,…,Tnとし、wn,tをn番目の音声認識結果候補の単語系列wnに含まれるt番目の単語とする。なお、下付き添え字A_BはABを意味する。なお、誤り訂正モデルは、音声認識結果候補の単語系列を入力とし、訂正スコアを出力するモデルである。また、誤り訂正スコアは、音声認識誤りを考慮した、入力された音声認識結果候補の単語系列の尤もらしさを示すものである。誤り訂正スコアの計算方法の詳細は後述する。
＜音声認識結果候補順位付け部１２０＞
入力：N個の誤り訂正スコアSerror,n、(必要に応じてN個の音声認識スコアSASR,n)
出力：各音声認識結果候補の順位に基づき昇順に並び替えられたN個の音声認識結果候補
音声認識結果候補順位付け部１２０は、N個の誤り訂正スコアSerror,nを用いて音声認識結果候補の順位付けを行い(Ｓ１２０)、順位付けの結果を出力する。例えば、
(1)N個の誤り訂正スコアSerror,nを用いて音声認識結果候補の順位付けを行う。例えば、誤り訂正スコアSerror,nが大きいほど高い順位を付ける。
【００１６】
(2)N個の誤り訂正スコアSerror,nとN個の音声認識スコアSASR,nとを用いて、新たなスコアSnew,nを求め、このスコアSnew,nを用いて音声認識結果候補の順位付けを行う。例えば、スコアSnew,nが大きいほど高い順位を付ける。例えば、スコアSnew,nは以下のように計算する。
Snew,n=(1-λ)SASR,n+λSerror,n
なお、λは誤り訂正スコアSerror,nの重みであり、0＜λ≦1である。λ=1のとき上述の(1)と同じ順位付けとなるため、(1)は(2)の一例とも言える。なお、N個の音声認識スコアSASR,nは、音声認識結果候補を求める際に算出された値を用いればよい。本実施形態では、(2)の方法により、順位付けを行うものとする。よって、本実施形態の音声認識順位推定装置１００は、N個の音声認識結果候補の単語系列wnとともに、N個の音声認識スコアSASR,nを入力する。
＜誤り訂正スコア計算部１１０の詳細＞
図３は、誤り訂正スコア計算部１１０の機能ブロック図を示す。
【００１７】
誤り訂正スコア計算部１１０は、音声認識結果候補単語分散表現系列変換部１１１と、音声認識結果候補分散表現系列変換部１１２と、音声認識結果候補単語系列生起確率計算部１１３とを含む。
【００１８】
誤り訂正スコア計算部１１０は、音声認識の過程で得られたN個の音声認識結果候補の単語系列wnを音声認識結果候補の分散表現に変換する。まず音声認識結果候補の単語系列wnの各単語wn,tを分散表現に変換し、その分散表現の系列を1つの分散表現に変換したものを音声認識結果候補の分散表現とする。
【００１９】
以下、各部の処理内容を説明する。
（音声認識結果候補単語分散表現系列変換部１１１）
入力：N個の音声認識結果候補の単語系列wn
出力：N個の音声認識結果候補の単語分散表現系列En
音声認識結果候補単語分散表現系列変換部１１１は、N個の音声認識結果候補のn番目の単語系列wn内のt番目の単語wn,tの音声認識結果候補の単語分散表現を以下のように計算する。
En,t=EMBEDDING(wn,t)
ここでEn,tは単語wn,tの分散表現であり、EMBEDDING()は線形変換を表している。同様の処理を音声認識結果候補単語系列wn内の全ての単語wn,tに対して行う。なお、Tn個の単語分散表現En,tからなる単語分散表現系列をEn={En,1,En,2,…,En,T_n}と表現する。
【００２０】
以上の処理をN個の音声認識結果候補の単語系列wnに対して行い、N個の音声認識結果候補の単語分散表現系列Enを得る。
（音声認識結果候補分散表現系列変換部１１２）
入力：N個の音声認識結果候補の単語分散表現系列En
出力：N個の音声認識結果候補の分散表現Cn
音声認識結果候補分散表現系列変換部１１２は、音声認識結果候補単語分散表現系列変換部１１１で獲得したTn個の単語分散表現En,tからなる単語分散表現系列Enを1つの分散表現Cnに変換する。音声認識結果候補の分散表現は以下のように計算する。
Cn=RNN(En,1,En,2,…,En,T_n)
ここで、Cnは音声認識結果候補の単語系列wnをRNNにより変換した連続値ベクトルである。また、RNN()は可変長のベクトルの系列を連続値ベクトルに変換する機能を持つ関数である。
【００２１】
以上の処理をN個の音声認識結果候補の単語分散表現系列Enに対して行い、N個の音声認識結果候補の分散表現Cnを得る。
（音声認識結果候補単語系列生起確率計算部１１３）
入力：N個の音声認識結果候補の単語分散表現系列En、N個の音声認識結果候補の分散表現Cn
出力：N個の誤り訂正スコアSerror,n
音声認識結果候補単語系列生起確率計算部１１３は、N個の音声認識結果候補の単語分散表現系列Enと、N個の音声認識結果候補の分散表現Cnとを用いて、これらの値を誤り訂正モデルの入力とし、N個の音声認識結果候補の誤り訂正スコアSerror,nを計算する。まず、音声認識結果候補単語系列生起確率計算部１１３は、音声認識結果候補の単語系列wn内の単語wn,tの生起確率の計算を行う。音声認識結果候補の単語系列内の単語wn,t+1の生起確率は以下のように計算する。
hn,t=RNN(En,t,Cn)
On,t+1=DISTRIBUTE(hn,t)
ここでhn,tは連続値からなるベクトルである。また、On,t+1は対象とする全ての単語(例えばコーパス内に含まれる全ての単語)の生起確率を含むベクトルであり、各単語に対応した生起確率を各次元の値とするベクトルである。RNN()は連続値ベクトル系列を固定長の連続値ベクトルに変換する機能を持つ関数であり、その機能を持つ関数であれば任意のものを利用できる。例えば、RNN(Recurrent neural network)を用いることができる。RNNの機能の詳細は前述の通り非特許文献１を参考にされたい。DISTRIBUTE()は固定長のベクトルから全ての単語の生起確率を計算する関数であり、例えばsoftmax関数を用いることができる。softmax関数に関しては公知の技術であるためここでは説明を省略する。単語wn,t+1の生起確率はOn,t+1における単語wn,t+1に対応する値となる。音声認識結果候補の単語系列wn内の各単語wn,tの生起確率を求め、Tn個の生起確率の総積を単語系列wnの誤り訂正スコアSerror,nとする。
【００２２】
音声認識結果候補単語系列生起確率計算部１１３は、上記をN個の単語系列wnに対して行い、N個の誤り訂正スコアSerror,nを求める。
【００２３】
図４は、音声認識順位推定装置１００におけるN=3の場合の処理結果の例を示す。
＜効果＞
このようにして求めた順位付けの結果を用いることで、音声認識誤りを考慮した音声認識結果候補のリランキングが可能となり、より認識精度の高い認識結果が獲得できる。
＜学習方法＞
以下、誤り訂正モデルの学習方法について説明する。
【００２４】
学習装置２００は、学習部２１０を含む。図５は学習装置２００の機能ブロック図を示す。
＜学習部２１０＞
入力：P個の、学習用音声認識結果候補の単語系列と正解文の単語系列との組
出力：誤り訂正モデル
学習部２１０は、P個の、学習用音声認識結果候補の単語系列と正解文の単語系列との組を用いて、誤り訂正モデルを学習する。p=1,2,…,Pとし、p番目の組をSpとし、組Spには、Qp個の学習用音声認識結果候補の単語系列と1個の正解文の単語系列とが含まれるものとする。なお、Qpは1以上の整数の何れかである。Qp個の学習用音声認識結果候補の単語系列には、正解文の単語系列とは異なる学習用音声認識結果候補の単語系列が含まれる。また、Qp個の学習用音声認識結果候補の単語系列には、正解文の単語系列と同じ単語系列が含まれてもよいし、含まれなくともよい。qp=1,2,…,Qpとし、組Spに含まれるQp個の学習用音声認識結果候補の単語系列の中のqp番目の学習用音声認識結果候補の単語系列には、Tq_p個の単語が含まれるものとし、wq_p={wq_p,1,wq_p,2,…,wq_p,T_q_p}と表現する。なお、t=1,2,…,Tq_pとし、wq_p,tは、qp番目の学習用音声認識結果候補の単語系列wq_pに含まれるt番目の単語を意味する。
【００２５】
組Spは、例えば、以下のような組である。
(1)1つの音声認識結果候補を入力する方法
1つの音声データに対する複数の学習用音声認識結果候補の単語系列の中から1つの学習用音声認識結果候補の単語系列を選択する。組Spを選択した単語系列と正解文の単語系列との組とし(Qp=1)、正解文の単語系列をターゲットとして学習を行う。つまり、複数の学習用音声認識結果候補の単語系列の中で、学習に使われる学習用音声認識結果候補の単語系列は1つだけである。例えば、音声認識スコアSASRが最も大きい学習用音声認識結果候補の単語系列や、最も小さい学習用音声認識結果候補の単語系列を用いる方法等が考えられる。
(2)複数の音声認識結果候補を別々に入力する方法
1つの音声データに対するJ個の学習用音声認識結果候補の単語系列の中からL個の学習用音声認識結果候補の単語系列を選択し、組Spを選択したL個の学習用音声認識結果候補の単語系列のうちの1個と正解文の単語系列との組とし(Qp=1)、正解文の単語系列をターゲットとして学習を行う。L個の学習用音声認識結果候補の単語系列全てについて、それぞれ正解文の単語系列との組とし、学習を行う。上述の(1)とは異なり、J個の学習用音声認識結果候補の単語系列の中で、学習に使われる学習用音声認識結果候補の単語系列はL個である。なお、Jは1つの音声データに対する推定される全ての学習用音声認識結果候補の個数を表し、Lは1以上J以下の整数の何れかである。例えば、音声認識スコアSASRが大きい順、または小さい順にL個の学習用音声認識結果候補の単語系列を選択する。
(3)複数の音声認識結果候補をまとめて入力する方法
1つの音声データに対するJ個の学習用音声認識結果候補の単語系列の中からL個の学習用音声認識結果候補の単語系列を選択し、組Spを選択したL個の学習用音声認識結果候補の単語系列全てと正解文の単語系列との組とし(Qp=L)、正解文の単語系列をターゲットとして学習を行う。上述の(2)とは異なり、組Spを選択したL個の学習用音声認識結果候補の単語系列全てと正解文の単語系列との組とする。L個の学習用音声認識結果候補の単語系列の選択方法は(2)と同様である。例えば、L個の学習用音声認識結果候補の単語系列としてコンフュージョンネットワークのような複数の音声認識結果候補がまとまったものを用いる。
【００２６】
例えば、学習部２１０は、音声認識結果候補単語分散表現系列変換部２１１と音声認識結果候補分散表現系列変換部２１２とモデル学習部２１３とを含む。
（音声認識結果候補単語分散表現系列変換部２１１）
入力：P個の組Sp(1つの組Spには、Qp個の学習用音声認識結果候補の単語系列wq_pと1個の正解文の単語系列とが含まれる)
出力：P個の組Rp(1つの組Rpには、Qp個の学習用音声認識結果候補の単語分散表現系列Eq_pと1個の正解文の単語分散表現系列とが含まれる)
音声認識結果候補単語分散表現系列変換部２１１は、P個の組のp番目の組Spに含まれるQp個の学習用音声認識結果候補の単語系列のqp番目の単語系列wq_p内のt番目の単語wq_p,tの学習用音声認識結果候補の単語分散表現を以下のように計算する。
Eq_p,t=EMBEDDING(wq_p,t)
ここでEq_p,tは単語wq_p,tの分散表現である。同様の処理を学習用音声認識結果候補単語系列wq_p内の全ての単語wq_p,tに対して行う。
【００２７】
音声認識結果候補単語分散表現系列変換部２１１は、以上の処理をQp個の音声認識結果候補の単語系列wq_pに対して行い、Qp個の音声認識結果候補の単語分散表現系列Eq_を得る。なお、Tq_p個の単語分散表現Eq_p,tからなる単語分散表現系列をEq_p={En,1,En,2,…,En,T_q_p}と表現する。
【００２８】
また、音声認識結果候補単語分散表現系列変換部２１１は、学習用音声認識結果候補単語系列wq_pに行った処理と同様の処理を1個の正解文の単語系列に対して行い、正解文の単語分散表現系列を得る。
【００２９】
さらに、音声認識結果候補単語分散表現系列変換部２１１は、P個の組Sp全てに対して同様の処理を行う。
（音声認識結果候補分散表現系列変換部２１２）
入力：P個の音声認識結果候補の単語分散表現系列Eq_p
出力：P個の音声認識結果候補の分散表現Cq_p
音声認識結果候補分散表現系列変換部２１２は、音声認識結果候補単語分散表現系列変換部２１１で獲得した単語分散表現系列Eq_pを1つの分散表現Cq_pに変換する。音声認識結果候補の分散表現は以下のように計算する。
Cq_p=RNN(Eq_p,1,Eq_p,2,…,Eq_p,T_q_p)
ここで、Cq_pは音声認識結果候補の単語系列wq_pをRNNにより変換した連続値ベクトルである。
【００３０】
以上の処理をP個の音声認識結果候補の単語分散表現系列Eq_pに対して行い、P個の音声認識結果候補の分散表現Cq_pを得る。
（モデル学習部２１３）
入力：P個の音声認識結果候補の分散表現Cq_p、1個の正解文の単語分散表現系列
出力：誤り訂正モデル
モデル学習部２１３は、P個の音声認識結果候補の分散表現Cq_pと正解文の単語分散表現系列との組を用いて、誤り訂正モデルを学習する。誤り訂正モデルは、ニューラルネットワークからなる。例えば、RNNからなる。例えば、音声認識結果候補の分散表現Cq_pを用いて、正解文の各単語の単語分散表現系列に対する誤り訂正スコアが高くなるように誤り訂正モデルのモデルパラメータを更新する。
【００３１】
また、音声認識結果候補順位付け部１２０で用いる誤り訂正スコアSerror,nの重みλは、データを学習用と検証用のデータに分割し、検証用のデータを用いて調整する。例えば、λを0.1ごとに変化させて最も検証用データの音声認識精度が大きいときのλを評価時に利用する。
＜変形例＞
本実施形態では、順位付け時も学習時も音声認識結果候補の単語系列を入力としているが、音声データを入力とし、図示しない音声認識部において、音声認識処理を行い、音声認識結果候補の単語系列(さらに必要に応じて音声認識スコア)を求める構成としてもよい。図示しない音声認識部については、音声データから音声認識結果候補の単語系列(さらに必要に応じて音声認識スコア)を求めることができるものであればどのようなものであってもよい。
＜その他の変形例＞
本発明は上記の実施形態及び変形例に限定されるものではない。例えば、上述の各種の処理は、記載に従って時系列に実行されるのみならず、処理を実行する装置の処理能力あるいは必要に応じて並列的にあるいは個別に実行されてもよい。その他、本発明の趣旨を逸脱しない範囲で適宜変更が可能である。
＜プログラム及び記録媒体＞
また、上記の実施形態及び変形例で説明した各装置における各種の処理機能をコンピュータによって実現してもよい。その場合、各装置が有すべき機能の処理内容はプログラムによって記述される。そして、このプログラムをコンピュータで実行することにより、上記各装置における各種の処理機能がコンピュータ上で実現される。
【００３２】
この処理内容を記述したプログラムは、コンピュータで読み取り可能な記録媒体に記録しておくことができる。コンピュータで読み取り可能な記録媒体としては、例えば、磁気記録装置、光ディスク、光磁気記録媒体、半導体メモリ等どのようなものでもよい。
【００３３】
また、このプログラムの流通は、例えば、そのプログラムを記録したＤＶＤ、ＣＤ−ＲＯＭ等の可搬型記録媒体を販売、譲渡、貸与等することによって行う。さらに、このプログラムをサーバコンピュータの記憶装置に格納しておき、ネットワークを介して、サーバコンピュータから他のコンピュータにそのプログラムを転送することにより、このプログラムを流通させてもよい。
【００３４】
このようなプログラムを実行するコンピュータは、例えば、まず、可搬型記録媒体に記録されたプログラムもしくはサーバコンピュータから転送されたプログラムを、一旦、自己の記憶部に格納する。そして、処理の実行時、このコンピュータは、自己の記憶部に格納されたプログラムを読み取り、読み取ったプログラムに従った処理を実行する。また、このプログラムの別の実施形態として、コンピュータが可搬型記録媒体から直接プログラムを読み取り、そのプログラムに従った処理を実行することとしてもよい。さらに、このコンピュータにサーバコンピュータからプログラムが転送されるたびに、逐次、受け取ったプログラムに従った処理を実行することとしてもよい。また、サーバコンピュータから、このコンピュータへのプログラムの転送は行わず、その実行指示と結果取得のみによって処理機能を実現する、いわゆるＡＳＰ（Application Service Provider）型のサービスによって、上述の処理を実行する構成としてもよい。なお、プログラムには、電子計算機による処理の用に供する情報であってプログラムに準ずるもの（コンピュータに対する直接の指令ではないがコンピュータの処理を規定する性質を有するデータ等）を含むものとする。
【００３５】
また、コンピュータ上で所定のプログラムを実行させることにより、各装置を構成することとしたが、これらの処理内容の少なくとも一部をハードウェア的に実現することとしてもよい。
【図１】
2019163718.tif 000003
【図２】
2019163718.tif 000004
【図３】
2019163718.tif 000005
【図４】
2019163718.tif 000006
【図５】
2019163718.tif 000007
【国際調査報告】
2019163718.tif 000008
2019163718.tif 000009
2019163718.tif 000010
2019163718.tif 000011