(57)【特許請求の範囲】
【請求項１】
音声認識において用いるパラメタを含む確率有限状態モデルと、学習データと、前記学習データの正しい音声認識結果に対応する状態遷移の系列である正解状態遷移系列と、前記確率有限状態モデルを調整するためのパラメタである調整パラメタとを格納する記録部と、
前記確率有限状態モデルを用いて前記学習データに対して音声認識を行った結果得られる音声認識結果に対応する状態遷移の系列である認識状態遷移系列を生成する認識部と、
前記正解状態遷移系列と前記認識状態遷移系列との差異に基づき、状態遷移誤りの単位でエラー尺度を算出する細粒度エラー尺度算出部と、
前記エラー尺度に応じて前記調整パラメタを修正するパラメタ推定部とを含む、
パラメタ推定装置。
【請求項２】
請求項１記載のパラメタ推定装置であって、
前記細粒度エラー尺度算出部は、前記正解状態遷移系列と前記認識状態遷移系列との間において、異なる状態遷移を行った回数を計数し、その回数、または、その回数に対応する時間を前記エラー尺度として算出する、
パラメタ推定装置。
【請求項３】
請求項２記載のパラメタ推定装置であって、
前記正解状態遷移系列及び前記認識状態遷移系列を、各状態のつながりを表現するラティスにより表現し、ラティスの各アークをajとし、アークａｊの遷移前状態、遷移後状態、遷移前時刻及び遷移後時刻をそれぞれｓ（ａｊ）、ｓ’（ａｊ）、ｔ（ａｊ）及びｔ’（ａｊ）とし、アークａｊに対応する状態遷移を（ｓ（ａｊ），ｓ’（ａｊ））とし、前記正解状態遷移系列に対応するラティスの配列表現の各要素をｃ（ｎ）τとし、クロネッカのデルタ関数をδとし、アークａｊに対応するエラー尺度をE~(ａｊ)とし、前記細粒度エラー尺度算出部は、
【数２６】
0005749187.tif 000027
により前記エラー尺度を算出する、
パラメタ推定装置。
【請求項４】
請求項１から３の何れかに記載のパラメタ推定装置であって、
前記正解状態遷移系列及び前記認識状態遷移系列を、各状態のつながりを表現するラティスにより表現し、
前記認識部は、認識状態遷移系列を示す認識ラティスを生成し、
前記細粒度エラー尺度算出部は、前記正解状態遷移系列に対応する正解ラティスと前記認識ラティスとの差異に基づき、エラー尺度を算出し、
前記パラメタ推定部は、前記正解ラティスと前記認識ラティスとを用いて、前記エラー尺度に応じて前記調整パラメタを修正する、
パラメタ推定装置。
【請求項５】
請求項１から４の何れかに記載のパラメタ推定装置によって推定された前記調整パラメタを用いて、音声データに対する音声認識結果を求める音声認識装置。
【請求項６】
音声認識において用いるパラメタを含む確率有限状態モデルを用いて、学習データに対して音声認識を行った結果得られる音声認識結果に対応する状態遷移の系列である認識状態遷移系列を生成する認識ステップと、
前記学習データの正しい音声認識結果に対応する状態遷移の系列である正解状態遷移系列と前記認識状態遷移系列との差異に基づき、状態遷移誤りの単位でエラー尺度を算出する細粒度エラー尺度算出ステップと、
前記エラー尺度に応じて、前記確率有限状態モデルを調整するためのパラメタである調整パラメタを修正するパラメタ推定ステップとを含む、
パラメタ推定方法。
【請求項７】
請求項６記載のパラメタ推定方法であって、
前記細粒度エラー尺度算出ステップにおいて、前記正解状態遷移系列と前記認識状態遷移系列との間において、異なる状態遷移を行った回数を計数し、その回数、または、その回数に対応する時間を前記エラー尺度として算出する、
パラメタ推定方法。
【請求項８】
請求項７記載のパラメタ推定方法であって、
前記正解状態遷移系列及び前記認識状態遷移系列を、各状態のつながりを表現するラティスにより表現し、ラティスの各アークをajとし、アークａｊの遷移前状態、遷移後状態、遷移前時刻及び遷移後時刻をそれぞれｓ（ａｊ）、ｓ’（ａｊ）、ｔ（ａｊ）及びｔ’（ａｊ）とし、アークａｊに対応する状態遷移を（ｓ（ａｊ），ｓ’（ａｊ））とし、前記正解状態遷移系列に対応するラティスの配列表現の各要素をｃ（ｎ）τとし、クロネッカのデルタ関数をδとし、アークａｊに対応するエラー尺度をE~(ａｊ)とし、前記細粒度エラー尺度算出ステップは、
【数２７】
0005749187.tif 000028
により前記エラー尺度を算出する、
パラメタ推定方法。
【請求項９】
請求項６から８の何れかに記載のパラメタ推定方法であって、
前記正解状態遷移系列及び前記認識状態遷移系列を、各状態のつながりを表現するラティスにより表現し、
前記認識ステップにおいて、認識状態遷移系列を示す認識ラティスを生成し、
前記細粒度エラー尺度算出ステップにおいて、前記正解状態遷移系列に対応する正解ラティスと前記認識ラティスとの差異に基づき、エラー尺度を算出し、
前記パラメタ推定ステップにおいて、前記正解ラティスと前記認識ラティスとを用いて、前記エラー尺度に応じて前記調整パラメタを修正する、
パラメタ推定方法。
【請求項１０】
請求項６から９の何れかに記載のパラメタ推定方法によって推定された前記調整パラメタを用いて、音声データに対する音声認識結果を求める音声認識方法。
【請求項１１】
請求項１から４の何れかに記載のパラメタ推定装置、または、請求項５記載の音声認識装置としてコンピュータを機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、音声認識において用いるパラメタを含む確率有限状態モデルを調整するためのパラメタを推定するパラメタ推定装置及びパラメタ推定方法、推定されたパラメタを用いて音声データに対する音声認識結果を求める音声認識装置及び音声認識方法並びにプログラムに関する。
【背景技術】
【０００２】
以下の説明において、テキスト中で使用する記号「^」、「−」、「〜」等は、本来直前の文字の真上に記載されるべきものであるが、テキスト記法の制限により、当該文字の直後に記載する。式中においてはこれらの記号は本来の位置に記述している。また、以下の説明に用いる図面では、同じ機能を持つ構成部や同じ処理を行うステップには同一の符号を記し、重複説明を省略する。
【０００３】
音声認識装置は一般的に確率的有限状態モデルによって表現される。有限状態モデルは離散値を持つ状態変数が、入力、すなわち音声の一部分（以降「フレーム」と呼ぶ）を受け取ることによって、対応する状態に遷移するものである。確率的有限状態モデルは有限状態モデルを確率の概念を用いて拡張したもので、フレームを受け取った際、どの状態に遷移するかが、確率的にしか与えられていないものを指す。確率的有限状態モデルに基づく音声認識装置では、フレーム系列を全て受け取った後で、最も確率の高い状態遷移を推定し、その状態遷移に対応する単語列を出力する。
【０００４】
確率的有限状態モデルを用いた音声認識装置として近年広く用いられているＷＦＳＴ（Weighted Finite State Transducer、重み付き有限状態トランスデューサ）に基づく音声認識装置では、例えば、単語の確率的遷移を表現した有限状態モデル、単語からその発音（音素列）への確率的変換を定義したＷＦＳＴ、音素から前後の音素との調音結合を考慮したコンテキスト依存音素への変換を定義したＷＦＳＴ、各コンテキスト依存音素に応じて予め作成した隠れマルコフモデル（Hidden Markov Model、以下「ＨＭＭ」ともいう）といったような、音声認識に必要な各モジュールをＷＦＳＴの合成演算を用いて合成することによって、最終的な確率的有限状態モデルを得る。各モジュールのパラメタは予め人手によって定義しておくか、学習データから学習しておくのが一般的である。
【０００５】
しかし、このようにして得られた音声認識装置は仮に各モジュールがそれぞれの学習において最適であっても、合成した確率的有限状態モデルが最適であるとは限らない。例えば、予測される音声認識エラー率を下げるための「識別学習基準」と呼ばれる種類の学習基準において全体の最適性を考えると、各モジュールに分解した形での学習では必ずしも最適解が求まらないことが知られている（非特許文献１参照）。
【０００６】
図１は、確率的有限状態モデルに基づく音声認識装置９１の機能ブロック図を示す。確率的有限状態モデルに基づく音声認識装置では、音声認識装置を遷移コスト関数π（Ｘ−，ｓ，ｓ’，ｔ，ｔ’）と出力シンボルｏ（ｓ，ｓ’）で表現する。ここでＸ−は入力系列であり、入力される音声データから抽出される特徴ベクトルｘ−を時系列に並べたものであり、Ｘ−＝｛ｘ−１，ｘ−２，…，ｘ−Ｔ｝のように表わされる。ただし、Ｔは入力される音声データの大きさ（フレーム総数）を表す。なお、入力系列Ｘ−は音声認識装置９１への入力として予め特徴ベクトル系列算出部７で算出されていることが一般的である。遷移コスト関数πは、ある状態ｓのときに、入力系列Ｘ−の時刻ｔから時刻ｔ’までを入力された場合（ただし、１≦ｔ＜ｔ’≦Ｔ）、次状態ｓ’に遷移する事象の起こりにくさを定義したものであり、遷移コスト関数πの値が大きいほど状態ｓから状態ｓ’に遷移しづらいことを表す。出力シンボルｏ（ｓ，ｓ’）は状態がｓから状態ｓ’に遷移した場合に音声認識の結果として得られる単語を示したもので、出力シンボルとしては例えば単語が考えられる。また、音声認識の結果を生成しない状態遷移もあり、その場合便宜的に、イプシロンシンボルεを出力すると考える。
【０００７】
この遷移コスト関数πと状態系列ｓ−：＝｛ｓ１，ｓ２，…，ｓＭ｝、セグメント時刻ｔ−：＝｛ｔ１，ｔ２，…，ｔＭ｝（ただしｔ１＝１，ｔＭ＝Ｔ）を用いて以下の系列コスト関数Πを定義する。
【０００８】
【数１】
0005749187.tif 000002
【０００９】
この系列コスト関数Πは、時刻ｔｍから時刻ｔｍ＋１の間に状態ｓｍから状態ｓｍ＋１への状態遷移（以下「状態遷移ｓ→ｓ’」ともいう）が起こる遷移コスト関数πの、ｍ＝１からｍ＝Ｍ−１までの和になっており、入力系列Ｘ−全体を入力され、セグメント時刻ｔ−が決まった際に、状態系列ｓ−がどの程度のコストで起こるかを表わしたものである。なお、以下において、遷移コスト関数π及び系列コスト関数Πの出力を単にコストとも呼ぶ。
【００１０】
音声認識装置９１の最短経路探索部９１１は、入力系列Ｘ−を入力した際の最適状態系列ｓ〜を、この系列コスト関数Πを用いて、以下の最短経路問題の解として出力する。
【００１１】
【数２】
0005749187.tif 000003
【００１２】
最終的な認識結果となる単語列は、この最適状態系列ｓ〜＝｛ｓ〜１，ｓ〜２，…｝中の各状態遷移ｓ〜ｍ→ｓ〜ｍ＋１に対応する出力シンボルｏ（ｓ〜ｍ，ｓ〜ｍ＋１）を、εを除いて、列挙したもので表わすことができる。出力シンボル抽出部８は、この最適状態系列ｓ〜から最適単語列を抽出する。
【００１３】
従来よく用いられてきたＨＭＭと言語モデル（Ｎ−ｇｒａｍ言語モデル／ネットワーク文法）に基づく音声認識装置では、各遷移コスト関数πを以下の形で表わす。
【００１４】
【数３】
0005749187.tif 000004
【００１５】
ただし、ω（ｓ，ｓ’）は状態遷移ｓ→ｓ’に対する重みパラメタであり、入力系列Ｘ−と独立に設計される状態遷移コストである。ω（ｓ，ｓ’）は、人手で与えてもよいし、ＷＦＳＴに基づく音声認識では予め複数のＷＦＳＴを合成することによって得られた各状態遷移のコストを用いてもよい。またＩ［ｓ，ｓ’］は状態遷移ｓ→ｓ’に関連付けられた出力分布のインデックスであり、ＨＭＭの学習装置等によって得られる。出力分布Ｐ（ｘ−τ｜Ｉ［ｓ，ｓ’］）は、各Ｉ［ｓ，ｓ’］毎に例えば混合ガウス分布などを用いてモデル化する。これらの遷移コスト関数πに関する状態遷移コストω（ｓ，ｓ’）及びｌｏｇＰ（ｘ−τ｜Ｉ［ｓ，ｓ’］）は有限状態モデル格納部９１２に格納され、上述の最短経路探索部９１１によって利用される。
【００１６】
しかし、式（３）のような遷移コスト関数πの定義では、状態遷移と入力系列の関係は隠れマルコフモデルの学習によって得られる出力分布を通してのみ表現されてきた。すなわち、従来の音声認識装置９１は入力系列Ｘ−に含まれる特徴ベクトルｘ−τに関する部分であるＰ（ｘ−τ｜Ｉ［ｓ，ｓ’］）と、それ以外の部分であるω（ｓ，ｓ’）が個別に学習され、全ての取り得る状態遷移と入力フレームの関係を陽に定義してこなかった。特許文献１では、この遷移コスト関数πを状態遷移ｓ→ｓ’毎の調整パラメタベクトルα−ｈ（ｓ，ｓ’）及び入力系列Ｘ−を含む素性ベクトルφ−（Ｘ−，ｔ，ｔ’）を用いて以下のように拡張することにより、より高度な表現と、その同時最適化を実現する。
【００１７】
【数４】
0005749187.tif 000005
【００１８】
ただし、「Ｔ」は転置を表す。図２は、式（４）で表現される音声認識装置９２の機能ブロック図を示す。ｈ（ｓ，ｓ’）は状態遷移ｓ→ｓ’を表す。この表現の場合、ｈ（ｓ，ｓ’）を適切にデザインすれば、全ての状態遷移ｓ→ｓ’に対し異なる調整パラメタベクトルα−ｈ（ｓ，ｓ’）が導入され、その調整パラメタベクトルα−ｈ（ｓ，ｓ’）と素性ベクトルφ−（Ｘ−，ｔ，ｔ’）の内積が遷移コスト関数πに反映される。素性ベクトルφ−（Ｘ−，ｔ，ｔ’）として特許文献１では、以下の形を例示している。
【００１９】
【数５】
0005749187.tif 000006
【００２０】
この表現を用い、調整パラメタベクトルα−ｈ（ｓ，ｓ’）を適切に学習することにより、従来の音声認識装置に追加で全体を考慮した学習に基づくコストを導入できる。ここで、特許文献１では調整パラメタベクトルα−ｈ（ｓ，ｓ’）の決定にPerceptron法を用いている。
【００２１】
最短経路探索部９２１は、入力系列Ｘ−を受け取り、有限状態モデル調整パラメタ格納部９２３に格納されている調整パラメタベクトルα−ｈ（ｓ，ｓ’）と、有限状態モデル格納部９１２に格納されている状態遷移コストω（ｓ，ｓ’）及びｌｏｇＰ（ｘ−τ｜Ｉ［ｓ，ｓ’］）とを取り出し、式（１）、（２）、（４）に基づき、最適状態系列ｓ〜を求め、出力シンボル抽出部８に出力する。
【先行技術文献】
【特許文献】
【００２２】
【特許文献１】特開特開２０１１−１６４３３６号公報
【非特許文献】
【００２３】
【非特許文献１】Jen-Tzung Chien, Chuang-Hua Chueh, "Joint acoustic and language modeling for speech recognition", Speech Communication, March 2010, Volume 52, Issue 3, p.223-235
【発明の概要】
【発明が解決しようとする課題】
【００２４】
一般に、音声認識のエラーを完全に削減することは困難であるため、音声認識装置の精度は単語エラー率といった指標で測られるが、特許文献１のPerceptron法や、maximum mutual information（以下「ＭＭＩ」とも呼ぶ）法（参考文献１参照）といった従来手法は、正解単語列以外の全ての単語列を不正解とみなして学習を行う方法である。
（参考文献１）S. Kapadia, V. Valtchev, S.J. Young, "MMI training for continuous phoneme recognition on the TIMIT database", Proc. ICASSP, 1993, Vol. 2, pp. 491-494
【００２５】
経験的に、エラーの尺度を測る際は細かいエラーを用いたほうが良いと言われている。正解単語列以外の全ての単語列を不正解とみなして学習を行なう方法では、エラーの単位が大きいため、そのパラメタ推定の精度は十分とは言えない。
【００２６】
本発明は、細粒度エラー基準に基づき、より小さな単位でエラーを求め、不正解の中でも「不正解の度合い」を細かく考慮することによって、より頑健なパラメタ推定を可能にするパラメタ推定技術を提供することを目的とする。
【課題を解決するための手段】
【００２７】
上記の課題を解決するために、本発明の第一の態様によれば、パラメタ推定装置は、音声認識において用いるパラメタを含む確率有限状態モデルと、学習データと、学習データの正しい音声認識結果に対応する状態遷移の系列である正解状態遷移系列と、確率有限状態モデルを調整するためのパラメタである調整パラメタとを格納する記録部と、確率有限状態モデルを用いて学習データに対して音声認識を行った結果得られる音声認識結果に対応する状態遷移の系列である認識状態遷移系列を生成する認識部と、正解状態遷移系列と認識状態遷移系列との差異に基づき、エラー尺度を算出する細粒度エラー尺度算出部と、エラー尺度に応じて調整パラメタを修正するパラメタ推定部とを含む。
【００２８】
上記の課題を解決するために、本発明の第二の態様によれば、パラメタ推定方法は、音声認識において用いるパラメタを含む確率有限状態モデルを用いて、学習データに対して音声認識を行った結果得られる音声認識結果に対応する状態遷移の系列である認識状態遷移系列を生成する認識ステップと、学習データの正しい音声認識結果に対応する状態遷移の系列である正解状態遷移系列と認識状態遷移系列との差異に基づき、エラー尺度を算出する細粒度エラー尺度算出ステップと、エラー尺度に応じて、確率有限状態モデルを調整するためのパラメタである調整パラメタを修正するパラメタ推定ステップとを含む。
【発明の効果】
【００２９】
本発明によれば、パラメタ推定の精度向上という効果を奏する。
【図面の簡単な説明】
【００３０】
【図１】従来の音声認識装置の機能ブロック図。
【図２】特許文献１の音声認識装置の機能ブロック図。
【図３】第一実施形態に係るパラメタ推定装置の機能ブロック図。
【図４】第一実施形態に係るパラメタ推定装置の処理フローを示す図。
【図５】図５Ａは正解ラティスを、図５Ｂは認識ラティスを示す図。
【図６】配列ｃτを生成するための処理フローを説明するための図。
【図７】配列ｃτを説明するための図。
【図８】パラメタ推定部の機能ブロック図。
【図９】パラメタ推定部の処理フローを示す図。
【図１０】音声認識のシミュレーション結果を示す図。
【発明を実施するための形態】
【００３１】
まず、本発明のポイントを説明する。
【００３２】
［発明のポイント］
特許文献１で用いられてきたPerceptron法より高精度な学習方法のために、本発明では細粒度エラー基準を導入する。細粒度エラー基準は、これまで隠れマルコフモデル（式（３）及び式（４）のｌｏｇＰ（ｘ−τ｜ Ｉ［ｓ，ｓ’］））及び状態遷移コストω（ｓ，ｓ’ ）を学習する際に用いられてきた（参考文献２〜４参照）。
（参考文献２） D. Povey, P.C. Woodland, "Minimum phone error and I-smoothing for improved discriminative training", Proc. ICASSP, 2002, Vol. 1, pp. 105-108
（参考文献３） D. Povey, D. Kanevsky, B. Kingsbury, B. Ramabhadran, G. Saon, K. Visweswariah, "Boosted MMI for model and feature-space discriminative training", 2008, Proc. ICASSP, pp. 4057-4060
（参考文献４） E. McDermott, S.  Watanabe, A. Nakamura, "Discriminative training based on an integrated view of MPE and MMI in margin and error space", Proc. ICASSP, 2010, pp. 4894-4897
【００３３】
細粒度エラー基準に基づくminimum phone error（以下「ＭＰＥ」とも呼ぶ）法（参考文献２参照）、boosted MMI（以下「ｂＭＭＩ」とも呼ぶ）法（参考文献３参照）及びdifferenced ＭＭＩ（以下「ｄＭＭＩ」とも呼ぶ）法（参考文献４参照）は、不正解の中でも「不正解の度合い」を細かく考慮することによって、より頑健なパラメタ推定を可能にする技術である。経験的に、エラーの尺度を測る際は細かいエラーを用いたほうが良いと言われており、そういった観点から学習時には音素エラーを最小にするような学習が行われることが多い。
【００３４】
（１）別々に学習した各モジュールを合成した音声認識装置のさらなる精度向上のためには、特許文献１と同様に、合成した後での調整パラメタの学習が必須である。（２）また、既存技術では学習の基準として、認識結果が与えられた正解と完全に一致するかどうかを考慮していたが、実際の音声認識では音声認識の単語エラー率を削減することが重要である。（３）さらに、隠れマルコフモデル学習手法における関連手法（参考文献３及び４参照）では音素エラーが細粒度のエラー尺度として用いられてきたが、有限状態モデルに基づく音声認識装置の最も細かいエラーは状態遷移誤りであり、より細かいエラー尺度を利用することは重要だと考えられる。
【００３５】
よって、本発明では、合成した後で調整パラメタの学習を行い推定し、その際、音声認識装置の状態遷移毎に定義されたパラメタベクトルの学習にＭＰＥ法に代表されるような細粒度エラー基準を用いる。例えば、状態遷移を何回間違えるかを基準とした細粒度エラー基準を用いたパラメタ学習を行う。
【００３６】
以下、本発明の実施形態について説明する。なお、ベクトルや行列の各要素単位で行われる処理は、特に断りが無い限り、そのベクトルやその行列の全ての要素に対して適用されるものとする。
【００３７】
＜第一実施形態＞
図３は第一実施形態に係るパラメタ推定装置１００の機能ブロック図を、図４はその処理フローを示す。パラメタ推定装置１００は、有限状態モデル格納部１０１、学習データ格納部１０３、認識部１０５、細粒度エラー尺度算出部１０７、正解経路格納部１０９、パラメタ推定部１１１及び有限状態モデル調整パラメタ格納部１１３を含む。
【００３８】
パラメタ推定装置１００は、学習用の入力系列Ｘ−（１），Ｘ−（２），…，Ｘ−（Ｎ）を用いて、調整パラメタベクトルα−ｈ（ｓ，ｓ’）を最適化する。本発明の実現方法として、様々な方法が考えられるが、本実施形態ではラティスによるデータ構造とｂＭＭＩまたはｄＭＭＩを応用した学習基準を用いた方法を説明する。また、パラメタ推定装置１００によって学習された調整パラメタベクトルα−ｈ（ｓ，ｓ’）を利用して音声認識を行う音声認識装置１２の機能ブロック図は先述の図２と同様の構成を有する。ただし、有限状態モデル調整パラメタ格納部１２３に記憶されている調整パラメタベクトルα−ｈ（ｓ，ｓ’）の生成方法が、特許文献１とは異なる。
【００３９】
有限状態モデル格納部１０１には、音声認識において用いる状態遷移コストω（ｓ，ｓ’）及びｌｏｇＰ（ｘ−τ｜Ｉ［ｓ，ｓ’］）を含む確率有限状態モデルが格納されている。なお、調整パラメタベクトルα−ｈ（ｓ，ｓ’）の推定に先立ち、状態遷移コストω（ｓ，ｓ’）及びｌｏｇＰ（ｘ−τ｜Ｉ［ｓ，ｓ’］）に関しては学習が終了している状況を考える。例えば、有限状態モデル構築部６５が、ＨＭＭ格納部６１及び言語モデル格納部６３から、従来の音声認識装置の学習手法で得られるＨＭＭや言語モデルを取り出し、状態遷移コストω（ｓ，ｓ’）及びｌｏｇＰ（ｘ−τ｜Ｉ［ｓ，ｓ’］）を算出し、有限状態モデル格納部１０１に格納する。
【００４０】
学習データ格納部１０３には、学習データである入力系列Ｘ−（１），Ｘ−（２），…，Ｘ−（Ｎ）が格納されている。
【００４１】
正解経路格納部１０９には、学習データである入力系列Ｘ−（１），Ｘ−（２），…，Ｘ−（Ｎ）の正しい音声認識結果にそれぞれ対応する状態遷移の系列（以下「正解状態遷移系列」という）ｓ＾（１），ｓ＾（２），…，ｓ＾（Ｎ）とセグメント時刻ｔ＾（１），ｔ＾（２），…，ｔ＾（Ｎ）とが格納されている。正解状態遷移系列とセグメント時刻とは、人手により入力系列に対して正しい音声認識結果となる単語列を与えることで、既存の音声認識装置を用いて簡単に得ることができる。
【００４２】
＜認識部１０５＞
認識部１０５は、確率有限状態モデルの状態遷移コストω（ｓ，ｓ’）及びｌｏｇＰ（ｘ−τ｜Ｉ［ｓ，ｓ’］）を有限状態モデル格納部１０１から取り出し、これらの値を用いて、学習データである入力系列Ｘ−（１），Ｘ−（２），…，Ｘ−（Ｎ）に対して音声認識を行った結果得られる音声認識結果に対応する状態遷移の系列（以下「認識状態遷移系列」という）を生成し（ｓ１）、細粒度エラー尺度算出部１０７及びパラメタ推定部１１１に出力する。
【００４３】
一つの入力系列Ｘ−（ｎ）（ただし、ｎ＝１，２，…，Ｎ）に対して、考えられうる全ての状態遷移の系列を認識状態遷移系列として生成してもよいし、式（１）及び（３）に基づき系列コスト関数Πを求め、系列コスト関数Πの小さいもの上位Ｒ個に対応する状態遷移系列を認識状態遷移系列として生成してもよい。ただし、Ｒは１以上の整数である。そのため、認識状態遷移系列には、間違いやすい状態遷移系列のみが含まれ、正解状態遷移系列が含まれていない場合もある。
【００４４】
本実施形態では、状態遷移誤りを最小にする学習を行うため、準備として、正解状態遷移系列及びセグメント情報に対応するラティスと、実際に学習データである入力系列Ｘ−（１），Ｘ−（２），…，Ｘ−（Ｎ）に対して音声認識処理を行い、認識結果として得られる認識状態遷移系列を記録したラティスを用意する。なお、ラティスとは、各状態のつながり（以下「アーク」ともいう）をグラフとして表現したものである。
【００４５】
正解状態遷移系列に対応するラティスを正解ラティスと呼び、Ｌ＾（ｎ）で表わす。また、認識状態遷移系列に対応するラティスを認識ラティスと呼び、Ｌ（ｎ）で表わす。図５Ａは正解ラティスの例を、図５Ｂに認識ラティスの例を示す。正解ラティスはｓ＾（ｎ）とｔ＾（ｎ）から一意に生成可能であり、図５Ａの場合、ｓ＾（ｎ）＝｛１，１３，９，１４，１５，１｝、ｔ＾（ｎ）＝｛１，３，１３，１７，２０，２５｝からそれらを列挙することによって生成したものと考えることができる。ただし、正解ラティスＬ＾（ｎ）は、正解単語列と音声認識装置を用いて予め算出してあるものとする。
【００４６】
本実施形態では、認識部１０５は、認識状態遷移系列として、この認識ラティスを生成し、出力する。
【００４７】
各ラティスは数学的にはアーク系列の集合として捉えることが可能であり、以降の説明でも、この考えを用いる。この考えではラティス変数Ｌは始端から終端に至るまで通過しなければならないアークを列挙した系列を、取り得る全ての場合について列挙したもの（集合）として考えることができる。例えば、図５Ａの正解ラティスは一つのアーク系列｛ａ^１，ａ＾２，ａ＾３，ａ＾４，ａ＾５｝の集合、図５Ｂの認識ラティスは以下に示す六つのアーク系列ｅ１〜ｅ６の集合と捉えることができる。
ｅ１＝｛ａ１，ａ２，ａ３，ａ４，ａ５｝
ｅ２＝｛ａ１，ａ７，ａ１０，ａ１１，ａ５｝
ｅ３＝｛ａ１，ａ７，ａ１０，ａ１２，ａ１３｝
ｅ４＝｛ａ６，ａ９，ａ３，ａ４，ａ５｝
ｅ５＝｛ａ６，ａ８，ａ１０，ａ１１，ａ５｝
ｅ６＝｛ａ６，ａ８，ａ１０，ａ１２，ａ１３｝。
なお、図５Ｂの場合、各アーク系列に含まれるアークの数が同じであるが、アーク系列毎に異なる個数のアークが含まれる場合もある。各アークａｉには、遷移前状態、遷移後状態、遷移前時刻及び遷移後時刻の情報が関連付いており、それぞれｓ（ａｉ）、ｓ’（ａｉ）、ｔ（ａｉ）及びｔ’（ａｉ）、と表す。例えば、図５Ｂのアークａ２には、ｓ（ａ２）＝１３、ｓ’（ａ２）＝９、ｔ（ａ２）＝３及びｔ’（ａ２）＝１３が関連付いている。また、ラティスにはさらに認識結果に対応する出力シンボルｏ（ｓ，ｓ’）や、認識時に算出したコスト等の情報も付与されてもよい。また、状態ｓから状態ｓ’への状態遷移を（ｓ（ａｉ），ｓ’（ａｉ））と表す。
【００４８】
［パラメタ推定の原理］
パラメタ推定部１１１及び細粒度エラー尺度算出部１０７の処理を説明する前に、パラメタ推定の原理を説明する。本実施形態が対象とするのは式（４）における調整パラメタベクトルα−ｈ（ｓ、ｓ’）であり、この調整パラメタベクトルα−ｈ（ｓ、ｓ’）の集合をＡ：＝｛α−ｉ｜∀ｉ｝と表す。ただし、ｉはｈ（ｓ，ｓ’）によって得られるインデックスであり、α−ｉのｄ次元目をαｉ，ｄと表す。なお、全てのｓ、ｓ’についてｈ（ｓ，ｓ’）が異なる自然数を取るように設計すれば、全ての状態遷移に対応することが可能である。また、ｈ（ｓ，ｓ’）の設計を変更することで、メモリ使用量や計算量を節約してもよい。
【００４９】
（１）ＭＭＩ法
細粒度エラー尺度を導入する前に、集合Ａの学習に既存手法であるＭＭＩ法（参考文献１参照）を適用することを考える。音響モデル学習のために提案されたＭＭＩ法と同様の式を状態系列に関して行なうこと考えると、以下のような最適化問題の解として集合Ａを得る手法が導出される。
【００５０】
【数６】
0005749187.tif 000007
【００５１】
式（６）は、与えられたセグメント時刻ｔ−に従って状態遷移ｓ−が起こる確率をｅｘｐ（−Π｜（ｓ＾（ｎ），ｔ＾（ｎ），Ｘ−（ｎ）））に比例すると仮定し、入力系列Ｘ−を観測した上での正解状態遷移確率の事後確率を最大化するような学習であると言える。この最適化を実行することにより、不正解に比べて正解が起こりやすくなるように集合Ａが調整されるが、この目的関数では正解以外の全ての状態遷移パターンについて同等に扱っており、その状態遷移パターンが正解からどれだけ離れているかという尺度は考慮されていない。
【００５２】
分母にある総和記号Σｓ−，ｔ−（ただし、下付添字ｓ−，ｔ−は、それぞれｓ−，ｔ−を表す）は、全ての取り得る状態遷移及び全ての取り得るセグメント時刻についての総和であるが、一般にこの総和を取るには大きな計算量が必要であると言われている。そこで、例えば上記の目的関数を、認識ラティスを用いて以下のように近似する。
【００５３】
【数７】
0005749187.tif 000008
【００５４】
ここで総和Σa−∈Ｌ（ｎ）（ただし、下付添字ａ−∈Ｌ（ｎ）は、ａ−∈Ｌ（ｎ）を表す）は認識ラティスＬ（ｎ）中で取り得る全てのアーク系列（または系列コスト関数Πの小さい上位Ｒ個のアーク系列）についての総和であり、総和Σｊ（ただし、ａｊはアーク系列ａ−のｊ番目のアークを示す）はアーク系列ａ−に含まれるアークａｊについての総和である。同様にＭＭＩ分子も正解ラティスにより表現にする。
【００５５】
【数８】
0005749187.tif 000009
【００５６】
ここで、総和Σｊ（ただし、ａ＾ｊは正解ラティスのアーク系列のｊ番目のアークを示す）は正解ラティスのアーク系列に含まれるアークａ＾ｊについての総和である。一般的に正解状態遷移ｓ＾に対応するラティスは正確なものを利用することができるため、分子の項は近似ではない。
【００５７】
図５に示される通り、各アークａｊ（ただし、ｊ＝１，２，…，Ｊ）には遷移前状態ｓ（ａｊ）、遷移後状態ｓ’（ａｊ）、遷移前時刻ｔ（ａｊ）、遷移後時刻ｔ’（ａｊ）が記録されておりアークの遷移を辿っていけば、分母の効率の良い近似ができるように設計されている。このような認識ラティスは従来の音声認識装置を用いて得ることができる。この目的関数は連続であり、目的関数の導関数も連続なので、最適化は最急勾配法を用いて行うことができる。パラメタ推定部１１１では、認識ラティスを用いて目的関数を近似することで、計算量を削減し、高速に調整パラメタベクトルの最適化を行うことができる。
【００５８】
（２）ｂＭＭＩ法
細粒度エラー尺度を導入するために、ｂＭＭＩ法（参考文献３参照）を導入する。ｂＭＭＩ法では、単に正解系列の事後確率を最大化するのではなく、エラー尺度の大きい系列が出易いように確率分布を修正した上で、正解系列の事後確率を最大化するように試みる。この修正によって、エラー尺度の大きい系列がより出にくくなるようにパラメタが調整される。
【００５９】
具体的には、エラー尺度Ｅ（ｓ−，ｔ−；ｓ＾（ｎ），ｔ＾（ｎ））が大きいものほど系列コスト関数が小さくなったとみなす、以下の修正目的関数を用いる。
【００６０】
【数９】
0005749187.tif 000010
【００６１】
ただし、σは調整可能なパラメタで、一般にチューニング用のデータセットを用いて調整する。この目的関数を用いることで、エラー尺度Ｅ（ｓ−，ｔ−；ｓ＾（ｎ），ｔ＾（ｎ））が大きい誤りを起こしにくいパラメタが得られることが知られている（参考文献３参照）。
【００６２】
エラー尺度Ｅとして状態遷移誤りを用いた場合、認識ラティスによる近似を行った後でも、各認識ラティスのアーク毎に状態遷移エラーの発生回数を状態遷移のエラー尺度Ｅ〜として求めることができる。
【００６３】
【数１０】
0005749187.tif 000011
【００６４】
また、ｂＭＭＩ分子に関してはＭＭＩ分子と同様にラティスによる表現が可能である。
【００６５】
細粒度エラー尺度は、出力シンボル系列全体が正解とどのくらい離れているかを、従来技術より細かく表現するために必要な尺度である。具体的には、実際に出てくる出力シンボルと正解の出力シンボルの編集距離を用いたり、出力シンボルを音素まで分解した上で実際に出てくる音素列と正解の音素列の編集距離を用いたりすることができる。何れの場合も正解の通りに音声認識動作した場合の動作パターンと、実際の動作パターンがどれくらい異なるかを示す尺度である。出力シンボルのエラーより、音素のエラーといったように、なるべく細かい粒度のエラー尺度を使うことが有効であることが経験的に明かになっている（参考文献２〜４参照）。本実施形態では、例として、有限状態遷移モデルに基づく音声認識で最も細粒度な動作である状態遷移において、正解の状態遷移パターンと、実際の状態遷移パターンがどれだけ異なるかを、異なる状態遷移を行なった回数をカウントすることで表現することを考える。
【００６６】
本実施形態ではラティス表現を用いるため、認識ラティスの各アークにおいて、何回状態遷移誤りを起こしたかというアーク毎の状態遷移エラー尺度（上式におけるＥ〜（ａｊ））が必要になる。アーク毎の状態遷移のエラー尺度Ｅ〜（ａｊ）は、正解ラティスの配列表現ｃ（ｎ）を用いて計算を行う。まず、正解ラティスの配列表現ｃ（ｎ）の各要素ｃ（ｎ）τは各時刻における遷移前状態と遷移後状態のペアを表現し、図６に示すようなアルゴリズムで得ることができる。
【００６７】
このアルゴリズムでは、入力系列のフレーム数と同じ要素数を持つ配列ｃ（ｎ）のτ要素目ｃ（ｎ）τに、そのフレーム（τ番目のフレーム）を処理した時に起こった状態遷移（ｓ（ａ＾ｊ），ｓ’（ａ＾ｊ））を格納していく（ｓ１０７−３）という操作を行う。状態遷移（ｓ（ａ＾ｊ），ｓ’（ａ＾ｊ））が起こっているフレーム全てに対してｓ１０７の処理を行う（ｓ１０７−２、ｓ１０７−４、ｓ１０７−５）。さらに全ての状態遷移（ｓ（ａ＾ｊ），ｓ’（ａ＾ｊ））に対してｓ１０７−２〜ｓ１０７−５の処理を行う（ｓ１０７−１、ｓ１０７−６、ｓ１０７−７）。これによって、フレーム番号ｔとそれに対応する正解状態遷移系列についての簡易な表現を得ることができる。図５Ａの正解ラティスについて上述の処理を行った場合の配列表現ｃ（ｎ）を図７に示す。
【００６８】
この配列表現を用いて、アーク毎の状態遷移のエラー尺度Ｅ〜（ａｊ）は以下のように表現できる。
【００６９】
【数１１】
0005749187.tif 000012
【００７０】
ただし、δ（ａ，ｂ）は、クロネッカのデルタ関数と呼ばれている関数でａ＝ｂなら１、そうでなければ０を取る。
【００７１】
この計算式は各アークａｊと、それに対応する状態遷移（ｓ（ａｊ），ｓ’（ａｊ））が上で求めた正解状態遷移と、何フレーム分異なるかを計算する。具体的には各アークの開始時刻（ｔ（ａｊ））から終了時刻（ｔ’（ａｊ）−１）に関して、そのアークが表現する状態遷移（ｓ（ａｊ），ｓ’（ａｊ））と、正解状態遷移の配列表現ｃ（ｎ）が何フレーム分異なるかをデルタ関数と総和によって計算する。よって、異なる状態遷移を行った回数を計数していると言ってもよいし、異なる状態遷移を行った時間（（異なる状態遷移を行った回数）×（１フレームに対する時間））を算出していると言ってもよい。
【００７２】
（３）ｄＭＭＩ法
ｄＭＭＩ法（参考文献４参照）ではエラー尺度を直接的に削減するため、以下の目的関数を最大化することを試みる。
【００７３】
【数１２】
0005749187.tif 000013
【００７４】
ただし、分母にある総和Σｓ’−，ｔ’−（ただし、下付添字ｓ’−，ｔ’−は、それぞれｓ’−，ｔ’−を表す）は、全ての取り得る状態遷移及び全ての取り得るセグメント時刻についての総和である。式（１２）の分数部分は、全ての取り得る状態遷移及び全ての取り得るセグメント時刻についての、ｓ−，ｔ−の起こりえる確率Ｐ（ｓ−，ｔ−）を表している。この目的関数は負のエラー尺度Ｅ（ｓ−，ｔ−；ｓ＾（ｎ），ｔ＾（ｎ））の確率Ｐ（ｓ−，ｔ−）に関する期待値となっており、これを最大化することはエラー尺度を直接小さくするようにパラメタを調整していることに相当する。参考文献４によると、この目的関数の有効な近似として、ｂＭＭＩの目的関数を用いた以下の形を使用可能であることがわかっている。
【００７５】
【数１３】
0005749187.tif 000014
【００７６】
ここでσ１及びσ２は調整可能なパラメタであり、σ１≠σ２である。なお、原理上は上の最適化を直接近似なしに解くことも可能である。
【００７７】
＜細粒度エラー尺度算出部１０７＞
細粒度エラー尺度算出部１０７は、正解状態遷移系列と認識状態遷移系列との差異に基づき、エラー尺度を算出し（図４のｓ３）、パラメタ推定部１１１に出力する。本実施形態では、正解状態遷移系列と認識状態遷移系列との間において、異なる状態遷移を行った回数を計数し、その回数（または、その回数に対応する時間）をエラー尺度として算出する。例えば、細粒度エラー尺度算出部１０７は、正解経路格納部１０９から正解状態遷移系列ｓ＾（ｎ）と、ｓ＾（ｎ）に対応するセグメント時刻ｔ＾（ｎ）を取り出し、正解ラティスＬ＾（ｎ）を生成する。また、認識部１０５から認識ラティスＬ（ｎ）を受け取る。正解ラティスＬ＾（ｎ）を用いて配列ｃ（ｎ）を生成し、式（１１）によりエラー尺度Ｅ〜を算出し、パラメタ推定部１１１に出力する。なお、生成した正解ラティスは、素性ベクトル生成部１１１ｃに出力する。
【００７８】
＜パラメタ推定部１１１＞
図８はパラメタ推定部１１１の機能ブロック図を、図９はその処理フローを示す。
【００７９】
パラメタ推定部１１１は、エラー尺度Ｅ〜に応じて調整パラメタベクトルα−ｈ（ｓ、ｓ’）を修正する（図４のｓ５）。
【００８０】
パラメタ推定部１１１は、調整パラメタ初期化部１１１ａ、勾配ベクトル初期化部１１１ｂ、素性ベクトル生成部１１１ｃ、アーク重み算出部１１１ｄ、偏微分係数更新部１１１ｅ、調整パラメタ更新部１１１ｆ及び収束判定部１１１ｇを含む。
（調整パラメタ初期化部１１１ａ）
調整パラメタ初期化部１１１ａは、調整パラメタベクトルの集合Ａ：＝｛α−ｉ｜∀ｉ｝の調整パラメタベクトルα−ｉの各要素αｉ，ｄ（調整パラメタベクトルα−ｉのｄ番目の要素）の初期化を行い（ｓ１１１−１）、全ての調整パラメタベクトルα−ｉの全ての要素αｉ，ｄを初期化した集合Ａを有限状態モデル調整パラメタ格納部１１３に格納する。なお、本実施形態では単に０を代入することで初期化する。他にもガウス分布からの等価変換に基づく初期化や、データセットの統計量に基づく初期化などが考えられる。
【００８１】
（勾配ベクトル初期化部１１１ｂ）
勾配ベクトル初期化部１１１ｂは、調整パラメタベクトルα−ｉのｄ番目の要素αｉ，ｄに対応する偏微分係数Δｉ，ｄを初期化し（ｓ１１１−２）、偏微分係数更新部１１１ｅに出力する。ここでは各データから算出される勾配の総和を取るため、最初に勾配ベクトルの全要素を０で初期化する。
【００８２】
（素性ベクトル生成部１１１ｃ）
素性ベクトル生成部１１１ｃは、細粒度エラー尺度算出部１０７から正解ラティスＬ＾（ｎ）を受け取る。さらに素性ベクトル生成部１１１ｃは、学習データ格納部１０３から学習データＸ−（ｎ）を取り出し、正解ラティスＬ＾（ｎ）と認識ラティスＬ（ｎ）の各アークに対応する素性ベクトルを計算し（ｓ１１１−４）、偏微分係数更新部１１１ｅに出力する。φ＾ｎ，ｊ，ｄはｎ番目の正解ラティスのｊ番目のアークに対応する素性ベクトルのｄ次元目の要素であり、φ−ｎ，ｊ，ｄはｎ番目の認識ラティスのｊ番目のアークに対応する素性ベクトルのｄ次元目の要素である。計算は、どのような素性ベクトルを用いるかによって異なるが、例えば式（５）の素性ベクトルを用いるならば、式（５）にアークの時刻情報を代入したベクトルφ−（Ｘ−（ｎ），ｔ（ａｊ），ｔ’（ａｊ））のｄ番目の要素を利用すれば良い。
【００８３】
（アーク重み算出部１１１ｄ）
アーク重み算出部１１１ｄは、有限状態モデル格納部１０１から状態遷移コストω（ｓ，ｓ’）及びｌｏｇＰ（ｘ−τ｜Ｉ［ｓ，ｓ’］）を取り出し、学習データ格納部１０３から学習データＸ−(ｎ)を取り出し、認識部１０５から認識ラティスＬ(ｎ)を受け取り、有限状態モデル調整パラメタ格納部１１３から調整パラメタベクトルα−ｉを取り出し、細粒度エラー尺度算出部１０７からエラー尺度Ｅ〜を受け取り、学習基準（ｂＭＭＩかｄＭＭＩか）に応じて対応するアーク重みγｎ，ｉ，ｊを算出し（ｓ１１１−５）、偏微分係数更新部１１１ｅに出力する。
【００８４】
ｂＭＭＩのアーク重みγｎ，ｉ，ｊはForward-Backwardアルゴリズムを用いて求める。まず、各アークａｊの前向きコストαｊを以下の再帰式によって求める。
【００８５】
【数１４】
0005749187.tif 000015
【００８６】
ここでＰｒｅ（ｊ）はｊ番目のアークａｊに先行して接続しているアークのインデックス集合であり、すなわちＰｒｅ（ｊ）＝｛ｊ’｜ｓ’（ａｊ’）＝ｓ（ａｊ）｝であり、認識ラティスＬ(ｎ)に基づき求めることができる。またｋはラティススムーシング係数とも呼ばれる数値であり、ラティスによる近似を用いた手法の精度向上のために調整可能な係数である。遷移コスト関数πは、状態遷移コストω（ｓ，ｓ’）及びｌｏｇＰ（ｘ−τ｜Ｉ［ｓ，ｓ’］）、学習データＸ−(ｎ)、調整パラメタベクトルα−ｉを用いて式（４）に基づき求める。同様に後ろ向きコストβｊを以下の再帰式によって求める。
【００８７】
【数１５】
0005749187.tif 000016
【００８８】
ここでＦｏｌ（ｊ）はｊ番目のアークａｊに後続して接続しているアークのインデックスの集合であり、すなわちＦｏｌ（ｊ）＝｛ｊ’｜ｓ（ａｊ’）＝ｓ’（ａｊ）｝である。αｊとβｊ及び最初のアークにおける後ろ向きコストＢ＝β１を用いて、γｎ，ｊは以下のように表わされる。
【００８９】
【数１６】
0005749187.tif 000017
【００９０】
ｄＭＭＩのアーク重みγｎ，ｊは、ｂＭＭＩのγｎ，ｊをσの関数としてγ〜ｎ，ｊ（σ）と置いた時、異なるσ２≠σ１に対して二回上述の計算（式（１４）、（１５））を繰り返すことによって、以下のように得られる。
【００９１】
【数１７】
0005749187.tif 000018
【００９２】
（偏微分係数更新部１１１ｅ）
偏微分係数更新部１１１ｅは、素性ベクトル生成部１１１ｃから正解ラティスＬ＾（ｎ）、素性ベクトルφ＾ｎ，ｊ，ｄ及びφ−ｎ，ｊ，ｄを受け取り、認識部１０５から認識ラティスＬ（ｎ）を受け取り、アーク重み算出部１１１ｄからアーク重みγｎ，ｊを受け取り、入力ｎに対応する勾配係数を全アークに対して加算し、偏微分係数Δｉ，ｄを更新し（ｓ１１１−６）、調整パラメタ更新部１１１ｆに出力する。
【００９３】
【数１８】
0005749187.tif 000019
【００９４】
上述の処理（ｓ１１１−４〜ｓ１１１−６）を全ての学習データに対して行う（ｓ１１１−３、ｓ１１１−７、ｓ１１１−８）。
【００９５】
（調整パラメタ更新部１１１ｆ）
調整パラメタ更新部１１１ｆは、偏微分係数Δｉ，ｄを受け取り、このΔｉ，ｄを用いて、調整パラメタベクトルαｉ，ｄの更新を行い（ｓ１１１−９）、有限状態モデル調整パラメタ格納部１１３に格納する。例えば、トレーニング法として最急勾配法を利用した場合、以下の式によって更新を行う。
【００９６】
【数１９】
0005749187.tif 000020
【００９７】
ここでηは学習率と呼ばれる変数であり、適切に設定する必要がある。なお、この更新ルールは用いた最適化法によって異なる。
【００９８】
（収束判定部１１１ｇ）
収束判定部１１１ｇは、有限状態モデル調整パラメタ格納部１１３から調整パラメタベクトルαｉ，ｄを取り出し、収束判定を行い（ｓ１１１−１０）、収束していた場合は学習プログラムを終了する。収束していなかった場合は、ｓ１１１−２〜ｓ１１１−９の処理を繰り返すように各部に対し制御信号を送信する。判定の方法としては、単に何回ループしたかをカウントする方法や、バリデーションデータを用いて音声認識率が向上し続ける限り続ける方法、目的関数の値を評価して変動が閾値より小さくなった時点で打ち切る方法などがある。
【００９９】
図２の音声認識装置１２は、有限状態モデル調整パラメタ格納部１２３に格納されている、パラメタ推定装置１００において生成された調整パラメタベクトルαｉ，ｄを用いて、音声認識を行うことでその精度を向上させることができる。なお、有限状態モデル調整パラメタ格納部１２３（図２参照）には、最終的に有限状態モデル調整パラメタ格納部１１３（図３参照）に格納されている調整パラメタベクトルαｉ，ｄと同一の情報が格納されている。
【０１００】
＜実験結果＞
本実施形態の有効性を確認するため、大語彙音声認識実験を行った。この実験では、収束判定部１１１ｇにおいてバリデーションデータに基づく手法を用いた。特徴ベクトル系列抽出部７としては音声信号を１２次元Mel-frequency cepstral coefficients（ＭＦＣＣ）と、対数パワーに変換し、その上でそれら１３次元変数の時間微分値、及び時間二階微分値を結合することで、３９次元入力ベクトルへと変換する装置を用いた。データセットは、英語の講義音声データを用いた。学習データセットには、講義音声データから１０１時間分のデータを利用した。学習データセットに含まれる系列数は６０３９２、単語数は１，０７６，６４７単語である。エラー率算出のためのデータセットには講義音声データから７．８時間分のデータを利用した。評価データセットに含まれる系列数は６９８９、単語数は７４８２３単語である。結果を図１０に示す。表中の”＋”はｄＭＭＩ法で個別学習された音声認識装置９１に追加で調整パラメタを導入したものを指す。音声認識装置９１の最高スコア（ｄＭＭＩ法，２８．２％）よりも、本実施形態の調整パラメタベクトルα−を用いて音声認識を行う音声認識装置１２の最高スコアは２７．１％であり（ｂＭＭＩ法、σ２．０の場合）、従来技術に比べ１％以上の精度向上を達成できた。加えて、特許文献１の音声認識装置９２と比べても、さらに０．７％の精度向上を確認できた。以上の結果より、本実施形態のパラメタ推定装置が有効に機能しているといえる。
【０１０１】
＜効果＞
このような構成によりパラメタ推定の精度を向上させることができる。本実施形態は、このような各モジュールの個別学習によって構築された音声認識装置において、構築済みの状態遷移コストω（ｓ，ｓ’）及びｌｏｇＰ（ｘ−τ｜Ｉ［ｓ，ｓ’］）を全体を考慮しながら、再学習することにより、より精度の高いパラメタを推定している。同様の試みは、特許文献１でも行われており、本実施形態の音声認識装置は特許文献１記載のものと同じであるが、その内部で使われている調整パラメタの取得方法が特許文献１とは異なる。本実施形態により推定された調整パラメタを用いることでより音声認識の精度を向上させることができる。
【０１０２】
＜その他の変形例＞
なお、本実施形態では、正解ラティスＬ＾（ｎ）を細粒度エラー尺度算出部１０７で求めているが、正解単語列と音声認識装置を用いて、図示しない正解ラティス生成部において予め求め、図示しない記憶部に格納しておいてもよい。
【０１０３】
なお、本実施形態では、一つの正解ラティスに対してアーク系列が一つ存在する場合について述べたが、一つの正解ラティスに対して一つ以上のアーク系列が存在する構成としてもよい。その場合、式（８）に代えて以下の式によりＭＭＩ分子を表す。
【０１０４】
【数２０】
0005749187.tif 000021
【０１０５】
ここで総和Σａ〜∈Ｌ＾（ｎ）（ただし、下付添字ａ〜∈Ｌ＾（ｎ）は、ａ〜∈Ｌ＾（ｎ）を表す）は正解ラティスＬ＾（ｎ）に含まれるアーク系列についての総和であり、総和Σｊ（ただし、ａ＾jはアーク系列ａ〜のｊ番目のアークを示す）はアーク系列ａ〜に含まれるアークａ＾ｊについての総和である。
【０１０６】
本実施形態では、アーク重みγｎ，ｊとして認識ラティスに対応するもののみ計算しているが、正解ラティスに対応するアーク重みγ＾ｎ，ｊを計算してもよい。その場合、アーク重み算出部１１１ｄは、素性ベクトル生成部１１１ｃから正解ラティスを受け取り、式（１４）〜（１６）に代えて、以下の式を用いて、ｂＭＭＩのアーク重みγ＾ｎ，ｊを算出する。
【０１０７】
【数２１】
0005749187.tif 000022
【０１０８】
【数２２】
0005749187.tif 000023
【０１０９】
この場合もエラー尺度Ｅ〜は本実施形態と同様、一つの正解のみを含む正解ラティスを用いて計算する必要がある。
【０１１０】
【数２３】
0005749187.tif 000024
【０１１１】
ｄＭＭＩのアーク重みγｎ，ｊは、式（１７）に代えて以下の式で求める。
【０１１２】
【数２４】
0005749187.tif 000025
【０１１３】
この場合、偏微分係数更新部１１１ｅは式（１８）に代えて以下の式で偏微分係数Δｉ，ｄを計算する。
【０１１４】
【数２５】
0005749187.tif 000026
【０１１５】
なお、素性ベクトルφ＾、φ−の形は特許文献１と同様、式（５）で表現される形には限定されない。
【０１１６】
音声認識のための確率的有限状態モデルの構築法は様々な種類があるが、本発明は、「確率的有限状態モデルに基づく音声認識装置」に対し適用できるものであり、どのように構築した確率的有限状態モデルにも適用できるものである。言い換えると、従来様々な方法で実現されてきた音声認識装置を、確率的有限状態モデルに基づく音声認識装置という抽象的な形に変形することで、本発明を適用することができる。従来の音声認識装置はほぼ全て、従来技術の音声認識装置９１、９２の形に抽象化することが可能であり、本発明はこの形に抽象化できる音声認識装置の高精度化に適用可能である。よって、現在主流となっている音声認識装置のほとんどが本発明によって拡張可能である。
【０１１７】
本実施形態では、収束判定部１１１ｇにおいて、収束判定を行い、収束していなかった場合は、ｓ１１１−２〜ｓ１１１−９の処理を繰り返すが（図９参照）、このときに認識処理（図４のｓ１）以降の処理を繰り返す構成としてもよい。この場合、認識部１０５は、更新された調整パラメタベクトルα−ｈ（ｓ，ｓ’）を有限状態モデル調整パラメタ格納部１１３から取り出し（図３中、破線で示す）、式（４）に基づき認識ラティスＬ（ｎ）を生成する。このとき、二回目以降の繰返しにおいては、調整パラメタの初期化処理（図８のｓ１１１−１）を省略する。
【０１１８】
本実施形態では簡単のため、エラー尺度として状態遷移の誤り回数を用いたが、他のエラー尺度を用いてもよく、本発明は単に正解と不正解を単に分けるのではなく、その間の距離を細かく利用する手法全てに対して適用できる。
【０１１９】
本発明は上記の実施形態及び変形例に限定されるものではない。例えば、上述の各種の処理は、記載に従って時系列に実行されるのみならず、処理を実行する装置の処理能力あるいは必要に応じて並列的にあるいは個別に実行されてもよい。その他、本発明の趣旨を逸脱しない範囲で適宜変更が可能である。
【０１２０】
＜プログラム及び記録媒体＞
上述したパラメタ推定装置及び音声認識装置は、コンピュータにより機能させることもできる。この場合はコンピュータに、目的とする装置（各種実施形態で図に示した機能構成をもつ装置）として機能させるためのプログラム、またはその処理手順（各実施形態で示したもの）の各過程をコンピュータに実行させるためのプログラムを、ＣＤ−ＲＯＭ、磁気ディスク、半導体記憶装置などの記録媒体から、あるいは通信回線を介してそのコンピュータ内にダウンロードし、そのプログラムを実行させればよい。
【符号の説明】
【０１２１】
１２   音声認識装置
１００ パラメタ推定装置
１０１ 有限状態モデル格納部
１０３ 学習データ格納部
１０５ 認識部
１０７ 細粒度エラー尺度算出部
１０７ 細粒度エラー尺度算出部
１０９ 正解経路格納部
１１１ パラメタ推定部
１１１ａ      調整パラメタ初期化部
１１１ｂ      勾配ベクトル初期化部
１１１ｃ      素性ベクトル生成部
１１１ｄ      算出部
１１１ｅ      偏微分係数更新部
１１１ｆ      調整パラメタ更新部
１１１ｇ      収束判定部
１１３ 有限状態モデル調整パラメタ格納部
【図１】
0005749187.tif 000029
【図２】
0005749187.tif 000030
【図３】
0005749187.tif 000031
【図４】
0005749187.tif 000032
【図５】
0005749187.tif 000033
【図６】
0005749187.tif 000034
【図７】
0005749187.tif 000035
【図８】
0005749187.tif 000036
【図９】
0005749187.tif 000037
【図１０】
0005749187.tif 000038