(57)【特許請求の範囲】
【請求項１】
モデルパラメータ初期化部が、各音素及びフレーム毎の部分モデルパラメータを初期化するモデルパラメータ初期化過程と、
入力信号のフレーム毎の特徴量ベクトルを入力とし、当該入力信号の総フレーム数が所定フレーム数未満の場合の上記入力信号の最後のフレーム以降の所定数フレームまでの各フレームの上記特徴量ベクトルはゼロベクトルとして、フレーム毎の上記特徴量ベクトルと各音素及びフレーム毎の部分モデルパラメータとの内積値の、所定フレーム数までの各フレーム及び各音素についての累積に基づく目的関数を求め、算出された上記目的関数を最大化するモデルパラメータを、上記初期化された部分モデルパラメータを更新して求め、各音素及びフレーム毎の部分モデルパラメータを出力するモデルパラメータ更新過程と、
を含む音響モデルパラメータ学習方法。
【請求項２】
請求項１に記載の音響モデルパラメータ学習方法において、
上記モデルパラメータ更新過程は、
目的関数の偏微分関数が外部から与えられ、特徴量ベクトルと、更新されるモデルパラメータとに基づく上記目的関数の傾きを算出する傾き算出ステップと、
上記目的関数の傾きが単調増加して極値となるまで上記目的関数の傾きを評価して各音素に対応する所定フレーム数から成る部分モデルパラメータを出力する傾き評価ステップと、
上記傾き評価ステップの評価結果を基に上記モデルパラメータを更新するパラメータ更新ステップと、
を含むことを特徴とする音響モデルパラメータ学習方法。
【請求項３】
音素ｐごとに所定数ｎ＋１個の状態及び終了状態からなる重み付き有限状態変換器を生成する音素重み付き有限状態変換器生成方法であって、
記憶部には、各音素ｐ及びフレームｉ（ｉ＝１，…，ｎ）毎の部分モデルパラメータＷｐ，ｉが記憶されており、
初期状態設定部が、音素ｐごとに、初期状態（フレームｉ＝１）から次の状態（フレームｉ＝２）への状態遷移であって、時刻ｔにおいて特徴量ベクトルＸｔが入力されたときに、上記部分モデルパラメータのうち先頭フレームの部分モデルパラメータＷｐ，１と時刻ｔにおける特徴量ベクトルＸｔとの内積として定義される関数を出力重みとし、当該音素ｐを出力記号として出力する状態遷移を設定する初期状態設定過程と、
中間状態設定配列部が、フレームｉ＝２〜ｉ＝ｎまで順番に、音素ｐごとに
（ａ）ｉに対応する状態からｉ＋１に対応する状態への状態遷移であって、時刻ｔ＋ｉにおいて特徴量ベクトルＸｔ＋ｉが入力されたときに、上記部分モデルパラメータＷｐ，ｉと時刻ｔ＋ｉにおける特徴量ベクトルＸｔ＋ｉの内積として定義される関数を出力重みとし、かつ、何も出力しないことを表わす記号を出力記号として出力する状態遷移と、
（ｂ）ｉに対応する状態から終了状態への状態遷移であって、入力の有無に関わらず、０を出力重みとし、かつ、何も出力しないことを表わす記号を出力する状態遷移と、
を設定して配列する中間状態設定配列過程と、
最後状態設定部が、
（ｃ）ｎ＋１に対応する状態から自己状態（ｎ＋１）への状態遷移であって、時刻ｔ＋ｎ＋１において特徴量ベクトルＸｔ＋ｎ＋１が入力されたときに、０を出力重みとし、かつ、何も出力しないことを表わす記号を出力記号として出力する状態遷移と、
（ｄ）ｎ＋１に対応する状態から終了状態への状態遷移であって、入力の有無に関わらず、０を出力重みとし、かつ、何も出力しないことを表わす記号を出力する状態遷移と、を設定する最後状態設定過程と、
を含む音素重み付き有限状態変換器生成方法。
【請求項４】
各音素及びフレーム毎の部分モデルパラメータを初期化するモデルパラメータ初期化部と、
入力信号のフレーム毎の特徴量ベクトルを入力とし、当該入力信号の総フレーム数が所定フレーム数未満の場合の上記入力信号の最後のフレーム以降の所定数フレームまでの各フレームの上記特徴量ベクトルはゼロベクトルとして、フレーム毎の上記特徴量ベクトルと各音素及びフレーム毎の部分モデルパラメータとの内積値の、所定フレーム数までの各フレーム及び各音素についての累積に基づく目的関数を求め、算出された上記目的関数を最大化するモデルパラメータを、上記初期化された部分モデルパラメータを更新して求め、各音素及びフレーム毎の部分モデルパラメータを出力するモデルパラメータ更新部と、
を具備する音響モデルパラメータ学習装置。
【請求項５】
請求項４に記載の音響モデルパラメータ学習装置において、
上記モデルパラメータ更新部は、
目的関数の偏微分関数が外部から与えられ、特徴量ベクトルと、更新されるモデルパラメータとに基づく上記目的関数の傾きを算出する傾き算出手段と、
上記目的関数の傾きが単調増加して極値となるまで上記目的関数の傾きを評価して各音素に対応する所定フレーム数から成る部分モデルパラメータを出力する傾き評価手段と、
上記傾き評価ステップの評価結果を基に上記モデルパラメータを更新するパラメータ更新手段と、
を備えることを特徴とする音響モデルパラメータ学習装置。
【請求項６】
音素ｐごとに所定数ｎ＋１個の状態及び終了状態からなる重み付き有限状態変換器を生成する音素重み付き有限状態変換器生成装置であって、
記憶部には、各音素ｐ及びフレームｉ（ｉ＝１，…，ｎ）毎の部分モデルパラメータＷｐ，ｉが記憶されており、
音素ｐごとに、初期状態（フレームｉ＝１）から次の状態（フレームｉ＝２）への状態遷移であって、時刻ｔにおいて特徴量ベクトルＸｔが入力されたときに、上記部分モデルパラメータのうち先頭フレームの部分モデルパラメータＷｐ，１と時刻ｔにおける特徴量ベクトルＸｔとの内積として定義される関数を出力重みとし、当該音素ｐを出力記号として出力する状態遷移を設定する初期状態設定部と、
フレームｉ＝２〜ｉ＝ｎまで順番に、音素ｐごとに
（ａ）ｉに対応する状態からｉ＋１に対応する状態への状態遷移であって、時刻ｔ＋ｉにおいて特徴量ベクトルＸｔ＋ｉが入力されたときに、上記部分モデルパラメータＷｐ，ｉと時刻ｔ＋ｉにおける特徴量ベクトルＸｔ＋ｉの内積として定義される関数を出力重みとし、かつ、何も出力しないことを表わす記号を出力記号として出力する状態遷移と、
（ｂ）ｉに対応する状態から終了状態への状態遷移であって、入力の有無に関わらず、０を出力重みとし、かつ、何も出力しないことを表わす記号を出力する状態遷移と、
を設定して配列する中間状態設定配列部と、
（ｃ）ｎ＋１に対応する状態から自己状態（ｎ＋１）への状態遷移であって、時刻ｔ＋ｎ＋１において特徴量ベクトルＸｔ＋ｎ＋１が入力されたときに、０を出力重みとし、かつ、何も出力しないことを表わす記号を出力記号として出力する状態遷移と、
（ｄ）ｎ＋１に対応する状態から終了状態への状態遷移であって、入力の有無に関わらず、０を出力重みとし、かつ、何も出力しないことを表わす記号を出力する状態遷移と、を設定する最後状態設定部と、
を具備する音素重み付き有限状態変換器生成装置。
【請求項７】
請求項４又は５に記載した音響モデルパラメータ学習装置の各部の機能を、コンピュータに実行させるためのプログラム。
【請求項８】
請求項６に記載した音素重み付き有限状態変換器生成装置の各部の機能を、コンピュータに実行させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
この発明は、ＨＭＭ（Hidden Markov Model）に比べて簡素な構造を持ち、Ｎ−gram言語モデルを表現可能な線形分類モデルにより音響モデルを作成する方法とその装置と、その方法で作成した音響モデルを利用し、音声信号と音素を対応付けるための音素重み付き有限状態変換器生成方法とその装置と、それらのプログラムに関する。
【背景技術】
【０００２】
標準的な音声認識システムを構成する要素のうち、主要な要素は音響モデルと言語モデルである。音響モデルとは、音声信号と音素を対応付けるモデルである。一般に音響モデルにはＨＭＭやそれを基にしたモデルが広く利用されている。時間伸縮を考慮したモデルであり、音声信号のように伸び縮みが存在する物理現象をモデル化するために広く用いられて来た。
【０００３】
言語モデルには、Ｎ−gram言語モデルが広く利用されている。このモデルは音響モデルとは異なる表現形式となっている。図９に、音響モデル（ＨＭＭ）と言語モデルによって単語列の探索空間が構成された例を示す（参考文献１）。この図に示すように、音声認識における探索空間は、言語モデルで決められた音素の並びに音響モデルが埋め込まれたネットワークで表現される。
【０００４】
音響モデルと言語モデルは、それぞれ独立に学習されるのが一般的であるが、近年、全体最適化のための幾つかの試みが行われている。しかし、ＨＭＭ自体の複雑さに加え、異なる形式で表現された言語モデルのモデルパラメータも同時に調整しなければならないため、音声認識システムが複雑なものとなっている。
【先行技術文献】
【非特許文献】
【０００５】
【非特許文献１】堀  貴明、塚田  元“音声情報処理の最先端３「重み付き有限状態トランスデューサによる音声認識」”情報処理学会誌「情報処理」４５巻１０号、pp.1020-1026(2004.10).
【非特許文献２】安藤彰男「リアルタイム音声認識」電子情報通信学会
【非特許文献３】Annette J Dobson, Adrian G Barnett, “An Introduction to Generalized Linear Modeles”,CRC Press.(和訳本、田中  豊、森川敏彦、山内竹春、富田  誠訳「一般化線形モデル入門」共立出版株式会社)
【非特許文献４】Koby Crammer, Ofer Dekel, Joseph Keshet, Shai Shalev-Shwartz, Yoram Singer, “Online passive aggressive algorithms”,Journal of Machine Learning Research, Vol.7, pp.531-583, 2006.
【非特許文献５】工藤  拓、山本  薫、松本祐治“Conditional Random Fields を用いた日本語形態素解析”情報処理学会誌全言語処理研究会  SIGNL-161, 2004.
【非特許文献６】Hal Daume Iii, Daniel Marcu, “Learning as search optimization:Approximate large margin methods for structured prediction”, International Conference on Machine Learning, pp.169-176, 2005.
【発明の概要】
【発明が解決しようとする課題】
【０００６】
そこで、音響モデルと言語モデルが同一のモデルで表現されれば全体を最適化し易く、また、そのプロセスも単純化が図れるものと期待できる。しかし、従来の線形分類モデルは、時系列に入力される特徴量に従ったスコアを、時系列に出力するようには形成されていなかった。そのため、音響モデルを線形分類モデルで表現することを考えたときに連続音声認識に利用できない問題があった。
【０００７】
この発明は、このような問題点に鑑みてなされたものであり、音響モデルと言語モデルを統一的な枠組みで表現可能な音響モデルの学習方法とその装置と、その方法で作成した音響モデルを利用し、音声信号と音素を対応付けるための音素重み付き有限状態変換器生成方法とその装置と、それらのプログラムを提供することを目的とする。
【課題を解決するための手段】
【０００８】
この発明の音響モデルパラメータ学習方法は、モデルパラメータ初期化過程とモデルパラメータ更新過程を含む。モデルパラメータ初期化過程は、各音素及びフレーム毎の部分モデルパラメータを初期化する。モデルパラメータ更新過程は、入力信号のフレーム毎の特徴量ベクトルを入力とし、当該入力信号の総フレーム数が所定フレーム数未満の場合の上記入力信号の最後のフレーム以降の所定数フレームまでの各フレームの上記特徴量ベクトルはゼロベクトルとして、フレーム毎の上記特徴量ベクトルと各音素及びフレーム毎の部分モデルパラメータとの内積値の、所定フレーム数までの各フレーム及び各音素についての累積に基づく目的関数を求め、算出された上記目的関数を最大化するモデルパラメータを、上記初期化された部分モデルパラメータを更新して求め、各音素及びフレーム毎の部分モデルパラメータを出力する。
【０００９】
また、この発明の音素重み付き有限状態変換器生成方法は、初期状態設定過程と中間状態設定配列過程と最後状態設定過程とを含む。初期状態設定過程は、音素に対応する部分モデルパラメータを入力とし、当該音素と最初のフレームに対応するスコアを出力する初期状態を設定する。中間状態設定配列過程は、部分モデルパラメータを構成するモデルパラメータＷｐ，ｉと入力特徴量ベクトルの内積として定義される関数をスコアとし、かつ、入力無しでスコア０を出力する状態遷移を持つ中間状態を設定して配列する。最後状態設定過程は、スコア０を出力する自己遷移状態とし、入力無しでスコア０を出力して終了状態に遷移する最後状態を設定する。
【発明の効果】
【００１０】
この発明の音響モデルパラメータ学習方法によれば、音響モデルを言語モデルと同一の表現形式で表すことができるので、音声認識システム全体の最適化を容易にする。また、この発明の音素重み付き有限状態変換器生成方法によれば、その音響モデルパラメータ学習方法で作成した音響モデルを、重み付き有限状態変換器の形式で記述する。その音響モデルは、高速かつ高精度な音声認識を可能にする。
【図面の簡単な説明】
【００１１】
【図１】この発明の音響モデルパラメータ学習装置１００の機能構成例を示す図。
【図２】音響モデルパラメータ学習装置１００の動作フローを示す図。
【図３】モデルパラメータ更新部１４の機能構成例を示す図。
【図４】モデルパラメータ更新部１４の動作フローを示す図。
【図５】この発明の音素重み付き有限状態変換器生成装置２００の機能構成例を示す図。
【図６】音素重み付き有限状態変換器生成装置２００の動作フローを示す図。
【図７】音素重み付き有限状態変換器生成装置２００で作成した状態遷移モデルの一例を示す図。
【図８】音素重み付き有限状態変換器生成装置２００で作成した状態遷移モデルを用いた音声認識装置３００の簡単な機能構成を示す図。
【図９】従来の音響モデルを用いた音声認識の探索空間の例を概念的に示す図。
【発明を実施するための形態】
【００１２】
以下、この発明の実施の形態を図面を参照して説明する。複数の図面中同一のものには同じ参照符号を付し、説明は繰り返さない。実施例の説明の前に、この発明の音響モデルと言語モデルの全体最適化について説明する。
【００１３】
〔音響モデルと言語モデルの全体最適化〕
音響モデルと言語モデルをそれぞれＣ，Ｌとおく。そしてこれらモデルパラメータそれぞれが支配する関数をＭＣ，ＮＬとおく。ＭＣは音響スコアを返す関数、ＮＬは言語スコアを返す関数である。
【００１４】
音響モデルと言語モデルの全体最適化を行う場合、事前に用意された目的関数Ｏ（ＭＣ，ＮＬ）を最大化するＣ，Ｌを求めることになる。例えば、勾配法などにより目的関数の傾きを考慮しながら最適なモデルパラメータを探索するものとすると、式（１）と式（２）を計算する必要がある。
【００１５】
【数１】
0005385810.tif 000002
【００１６】
ＭＣ，ＮＬが全く異なる関数であるとすると、２種類のモデルを学習する必要がある。これが従来の音響モデルを統一的に扱えない原因である。
【００１７】
これに対し、もし、音響モデルと言語モデルとが線形分類モデルであるとすると、音声認識を行う過程で音響スコアと言語スコアを算出する関数は式（３）と式（４）で表せる。
【００１８】
【数２】
0005385810.tif 000003
【００１９】
ここでＴは転置記号、Ａ′は音響モデル学習に用いる特徴量ベクトル、Ａ″は言語モデル学習に用いる特徴量ベクトルである。特徴量ベクトルＡ′とＡ″を並べた特徴量ベクトルをＡと表記すると音声認識スコアはＷＴＡである。ＷはＣとＬを並べたものに一致。
【００２０】
よって、音響モデルと言語モデルを統一した目的関数はＯ（ＷＴＡ）と書けるので、モデルパラメータの学習装置を1個に集約することができる。
【００２１】
この発明は、本来複数の時間フレームにまたがって算出される特徴量ベクトルＡを、フフレームごとに分割し、分割された特徴量ベクトルとモデルパラメータの内積値をフレームごとに累積する形にすることで、時系列に入力される特徴量ベクトルに対応したスコアを時系列に生成できるようにしたものである。
【実施例１】
【００２２】
図１にこの発明の音響モデルパラメータ学習装置１００の機能構成例を示す。図２にその動作フローを示す。音響モデルパラメータ学習装置１００は、モデルパラメータ初期化部１２と、モデルパラメータ更新部１４と、を具備する。その各部の機能は、例えばＲＯＭ、ＲＡＭ、ＣＰＵ等で構成されるコンピュータに所定のプログラムが読み込まれて、ＣＰＵがそのプログラムを実行することで実現されるものである。
【００２３】
モデルパラメータ初期化部１２は、認識スコアを求めるモデルパラメータを初期化する（ステップＳ１２）。モデルパラメータ更新部１４は、特徴量ベクトルＸｔ+ｎｔ+1を入力として目的関数ＯＷを最大化するモデルパラメータを、モデルパラメータ初期化部１２で初期化されたモデルパラメータを更新して求め、各音素ｐに対応する所定フレーム数から成る部分モデルパラメータを出力する（ステップＳ１４）。Ｘｔ+ｎｔ+1の表記は、図中（図１）の表記が正しい。また、Ｘｔ+ｎｔ+1はｔ＋１からｔ＋ｎの各時間フレームで得られる特徴量ベクトルから構成される。これに対し、ある時刻ｔのフレームで得られる特徴量ベクトルはＸｔと表記する。
【００２４】
特徴量ベクトルＸｔ+ｎｔ+1は、正解音素ｐの特徴量ベクトルＸｔ+ｎｔ+1を記憶した正解データベース１０から入力される。目的関数ＯＷは、特徴ベクトルＸｔ+ｎｔ+1とモデルパラメータの内積値の累積に基づく関数であり外部から与えられる。この構成によって、音響モデルパラメータ学習装置１００は、言語モデルと同一の表現形式の音響モデルを生成する。
【００２５】
〔線形分類モデル〕
線形分類モデルとは、式（５）に示す制約を満たす要素関数ＧＷに基づく分類モデルである。
【００２６】
【数３】
0005385810.tif 000004
【００２７】
要素関数ＧＷは、例えば式（６）や式（７）などが考えられる。
【００２８】
【数３】
0005385810.tif 000005
【００２９】
モデルパラメータ更新部１４に与えられる目的関数ＯＷは、要素関数ＧＷを累積した形のものである。線形分類モデルの意味するところは、認識は式（５）の右辺に示す式で表される方法で行い、モデルの学習は目的関数ＯＷを用いて行うことである。目的関数ＯＷは、モデルパラメータＷに対して非線形な関数を用いることができるので、線形な内積値ＷＴｐＡを用いて学習を行うより高精度なモデルの生成が期待できる。
【００３０】
この発明では、特徴量ベクトルとモデルパラメータの内積値の累積（式（８））を計算し、これを音素ｐのスコアとする。
【００３１】
【数４】
0005385810.tif 000006
【００３２】
ここでｎは、考慮すべき時間フレームを意味する。入力音素信号の時間フレーム数がｔ＋ｎを超える場合は、ｔ＋ｎ以降を無視することになる。よって、所定数ｎは十分に長く設定する。例えば、学習用データの最大値とする。式（８）では、入力音声信号の時間フレーム数がｔ＋ｎを下回る場合は、入力長以降の特徴量ベクトルＸｔ＋ｎｔ＋ｍ＋１をゼロベクトルと考えるものとする。ｔ＋ｍ（＜（ｔ＋ｎ））は入力信号の最後のフレームに対応する。
【００３３】
学習により推定すべきモデルパラメータ全体は、式（９）で表せる。
【００３４】
【数５】
0005385810.tif 000007
【００３５】
所定数ｎは例えば２０といった値に設定される。
【００３６】
図３にモデルパラメータ更新部１４のより具体的な機能構成例を示し更に詳しくその動作を説明する。図４にその動作フローを示す。傾き算出手段１４０と、傾き評価手段１４２と、パラメータ更新手段１４４を備える。傾き算出手段１４０は、外部から与えられる偏微分関数に、特徴量ベクトルＸｔ＋ｎｔ+1と、パラメータ更新手段１４４で更新されるモデルパラメータを与えて目的関数ＯＷの傾きを計算する（ステップＳ１４０）。
【００３７】
傾き評価手段１４２は、目的関数ＯＷの傾きが単調増加して極値になるまで、パラメータの更新をパラメータ更新手段１４４に指示すると共に、現在のパラメータで計算した目的関数ＯＷの傾きを求め、目的関数ＯＷが収束したと判定されるまで、その動作を繰り返す（ステップＳ１４２〜Ｓ１４５のＮｏの繰り返しループ）。パラメータ更新手段１４４は、傾き評価手段１４２からの制御信号に基づいてパラメータを更新する（ステップＳ１４４）。傾きが極値になると（収束したと判定された場合を意味する）その時のパラメータを、モデルパラメータとして出力する（ステップＳ１４６）。
【００３８】
偏微分関数には、例えば式（１０）に示す目的関数ＯＷをＷの各要素で偏微分した関数が用いられる。
【００３９】
【数６】
0005385810.tif 000008
【００４０】
〔音素重み付き有限状態変換器生成装置〕
図５に、この発明の音素重み付き有限状態変換器生成装置２００の機能構成例を示す。その動作フローを図６に示す。音素重み付き有限状態変換器生成装置２００は、初期状態設定部２０と、中間状態設定配列部２２と、最後状態設定部２４と、制御部２６とを備える。
【００４１】
重み付き有限状態変換器とは、状態遷移機械のモデルとして広く知られる有限オートマトン（Finite Automaton）を入出力系列の変換用に拡張したものである。具体例は後述する。音素重み付き有限状態変換器生成装置２００は、音響モデルパラメータ学習装置１００が出力するモデルパラメータのうち、ある音素ｐに対応する部分モデルパラメータ{Ｗｐ，ｉ｜1≦i≦n}（以降、{Ｗｐ，ｉ}と略記）を入力として、その音素ｐの音素重み付き有限状態変換器を生成する。
【００４２】
制御部２６は、入力された部分モデルパラメータ{Ｗｐ，ｉ}を図示しないメモリなどに記憶する。そして、繰り返し変数ｉなどを初期化（ｉ＝１）する（ステップＳ２６０）。
【００４３】
初期化設定部２０は、特徴量ベクトルを入力したときに、部分モデルパラメータ{Ｗｐ，ｉ}の最初のモデルパラメータＷｐ，1と入力特徴量ベクトルの内積として定義される関数を出力重みとし、音素ｐを出力記号とする状態遷移を設定する（ステップＳ２０）。制御部２６はｉを更新する（ステップＳ２６１）。
【００４４】
中間状態設定配列部２２は、ｉに対応させて、部分モデルパラメータ{Ｗｐ，ｉ}を構成するモデルパラメータＷｐ，ｉと入力特徴量ベクトルの内積として定義される関数を出力重みとし、かつ、出力信号を持たない（何も出力しないことを表す記号εを出力記号）とする状態遷移を設定する。前者は次状態に後者は終了状態に遷移する。この処理は、ｉが所定数ｎ＋１になるまで繰り返される（ステップＳ２２〜Ｓ２６２のＮｏの繰り返しループ）。つまり、初期状態の後に、初期状態を含めてｎ個のモデルパラメータＷｐ，ｉに対応する状態が配列される。  
【００４５】
最後状態設定部２４は、所定数ｎ＋1個目の状態に、特徴量ベクトルを入力したときに０を重み出力とし、出力信号を持たない自己状態遷移を設定する（ステップＳ２４）。
【００４６】
図７に、上記した過程を経て生成された重み付き有限状態変換器の一例を示す。図中の○は状態を表し、１が初期状態であり、二重丸で表された状態は終了を意味する。κは変換器の入力として特徴量ベクトルが与えられたときに状態を遷移させる、μは必ず遷移させる、εは何も出力しないことを意味する記号である。
【００４７】
この重み付き状態遷移変換器で、特徴量ベクトルの各要素と対応するモデルパラメータとの内積演算を通してフレーム毎のスコアが算出される。
【００４８】
音素重み付き有限状態変換器生成装置２００が生成した重み付き有限状態変換器を用いることで音声認識装置を構成することができる。図８に、重み付き有限状態を用いた音声認識装置３００の簡単な機能構成例を示す。
【００４９】
音声認識装置３００は、ＷＦＳＴデータベース３２と、音声認識部３０を備える。ＷＦＳＴデータベース３２は、複数の音素の重み付き有限状態変換器を記憶する。音声認識部３０は、特徴量ベクトルＸｔ〜Ｘｔ+ｎを入力として、それを重み付き有限状態と演算してスコアを求め音声認識処理を実行する。  
【００５０】
〔確認実験〕
この発明による線形分類モデルに基づく音響モデルの有用性を確認する目的で、従来のＨＭＭ音響モデルと性能比較を行った。実験は孤立音素認識で行った。孤立音素認識とは、音素の境界が与えられた下で、音素のラベルのみを判定する問題である。
【００５１】
学習データには、日本語話し言葉コーパス（ＣＳＪ）の学会講演１５０を用いた。この発明の音響モデルのモデルパラメータの推定のために高速なオンラインマージン最大化学習手法であるＰＡアルゴリズム（Passive Aggressive）を用いた。評価データは学会１０講演分である。特徴量ベクトルには一般的なＭＦＣＣ１２次元＋対数パワー＋Δ＋ΔΔ全３９次元を用いた。
【００５２】
その結果は、従来のＨＭＭ音響モデルの正解率が６０．１％に対して、この発明による音響モデルを用いた場合の正解率が５９．９％と、ほぼ同等の正解精度を得ることができた。この結果から、この発明による音響モデルが従来のＨＭＭ音響モデルに取って代わる能力を備えていることが確認できた。
【００５３】
なお、上記装置における処理手段をコンピュータによって実現する場合、各装置が有すべき機能の処理内容はプログラムによって記述される。そして、このプログラムをコンピュータで実行することにより、各装置における処理手段がコンピュータ上で実現される。
【００５４】
この処理内容を記述したプログラムは、コンピュータで読み取り可能な記録媒体に記録しておくことができる。コンピュータで読み取り可能な記録媒体としては、例えば、磁気記録装置、光ディスク、光磁気記録媒体、半導体メモリ等どのようなものでもよい。具体的には、例えば、磁気記録装置として、ハードディスク装置、フレキシブルディスク、磁気テープ等を、光ディスクとして、ＤＶＤ（Digital Versatile Disc）、ＤＶＤ−ＲＡＭ（Random Access Memory）、ＣＤ−ＲＯＭ（Compact Disc Read Only Memory）、ＣＤ−Ｒ（Recordable）/ＲＷ（ReWritable）等を、光磁気記録媒体として、ＭＯ（Magneto Optical disc）等を、半導体メモリとしてＥＥＰ−ＲＯＭ（Electronically Erasable and Programmable-Read Only Memory）等を用いることができる。
【００５５】
また、このプログラムの流通は、例えば、そのプログラムを記録したＤＶＤ、ＣＤ−ＲＯＭ等の可搬型記録媒体を販売、譲渡、貸与等することによって行う。さらに、このプログラムをサーバコンピュータの記録装置に格納しておき、ネットワークを介して、サーバコンピュータから他のコンピュータにそのプログラムを転送することにより、このプログラムを流通させる構成としてもよい。
【００５６】
また、各装置の機能構成部は、コンピュータ上で所定のプログラムを実行させることにより構成することにしてもよいし、これらの処理内容の少なくとも一部をハードウェア的に実現することとしても良い。
【図１】
0005385810.tif 000009
【図２】
0005385810.tif 000010
【図３】
0005385810.tif 000011
【図４】
0005385810.tif 000012
【図５】
0005385810.tif 000013
【図６】
0005385810.tif 000014
【図７】
0005385810.tif 000015
【図８】
0005385810.tif 000016
【図９】
0005385810.tif 000017