(57)【要約】  複数のシステムを作成し、複数のシステムを組み合わせて認識性能を向上させるパターン認識装置であって、先に構築したモデルの出力傾向に基づいて、先に構築したモデルの出力傾向とは異なるように２つ目以降のシステムのモデルパラメータを構築する識別学習部を備えたものである。そのため、複数のシステムを組み合わせた際に、試行錯誤することなく認識性能を向上させることができる。
2016522459.tif 000002
【特許請求の範囲】
【請求項１】
複数のシステムを作成し、複数のシステムを組み合わせて認識性能を向上させるパターン認識装置であって、
先に構築したモデルの出力傾向に基づいて、前記先に構築したモデルの出力傾向とは異なるように２つ目以降のシステムのモデルパラメータを構築する識別学習部を備えた
パターン認識装置。
【請求項２】
前記識別学習部は、前記モデルパラメータを更新する際に、ベースとなるシステムの出力結果に基づいて、前記モデルパラメータを更新する
請求項１に記載のパターン認識装置。
【請求項３】
前記識別学習部は、前記モデルパラメータを更新する際に、ベースとなるシステムの出力結果に基づいて、前記モデルパラメータを更新するとともに、更新した結果得られるシステムの出力結果に基づいて、前記モデルパラメータを更新し、これを複数回繰り返す
請求項１に記載のパターン認識装置。
【請求項４】
２つ目以降のシステムの複数のモデルを得るために、モデルの学習データを複数の学習データのセットに分割する学習データ分割部と、
前記学習データ分割部で分割された複数のモデルから、最も認識率の高かった学習データまたは認識率の上位の学習データを選択する学習データ選択部と、をさらに備え、
前記識別学習部は、前記学習データ選択部で選択された学習データに基づいて、モデルを再学習する
請求項１に記載のパターン認識装置。
【請求項５】
２つ目以降のシステムの複数のモデルを得るために、モデルの学習データを複数の学習データのセットに分割する学習データ分割部と、
前記学習データ分割部で分割された複数のモデルから、最も認識率の高かった学習データまたは認識率の上位の学習データを選択する学習データ選択部と、をさらに備え、
前記識別学習部は、前記学習データ選択部で選択された学習データに基づいて、モデルを再学習する
請求項２に記載のパターン認識装置。
【請求項６】
２つ目以降のシステムの複数のモデルを得るために、モデルの学習データを複数の学習データのセットに分割する学習データ分割部と、
前記学習データ分割部で分割された複数のモデルから、最も認識率の高かった学習データまたは認識率の上位の学習データを選択する学習データ選択部と、をさらに備え、
前記識別学習部は、前記学習データ選択部で選択された学習データに基づいて、モデルを再学習する
請求項３に記載のパターン認識装置。
【請求項７】
出力傾向の異なる複数のモデルを用いて、外部から入力された特徴量ベクトルがデコード部でデコードされた後のＮ−ｂｅｓｔの結果リストを並び替えるリランキング部をさらに備えた
請求項１に記載のパターン認識装置。
【請求項８】
出力傾向の異なる複数のモデルを用いて、外部から入力された特徴量ベクトルがデコード部でデコードされた後のＮ−ｂｅｓｔの結果リストを並び替えるリランキング部をさらに備えた
請求項２に記載のパターン認識装置。
【請求項９】
出力傾向の異なる複数のモデルを用いて、外部から入力された特徴量ベクトルがデコード部でデコードされた後のＮ−ｂｅｓｔの結果リストを並び替えるリランキング部をさらに備えた
請求項３に記載のパターン認識装置。
【請求項１０】
デコード部でデコードされる前に、あらかじめ学習された特徴量変換モデルに基づいて、外部から入力された特徴量ベクトルを変換する特徴量変換部をさらに備えた
請求項１に記載のパターン認識装置。
【請求項１１】
デコード部でデコードされる前に、あらかじめ学習された特徴量変換モデルに基づいて、外部から入力された特徴量ベクトルを変換する特徴量変換部をさらに備えた
請求項２に記載のパターン認識装置。
【請求項１２】
デコード部でデコードされる前に、あらかじめ学習された特徴量変換モデルに基づいて、外部から入力された特徴量ベクトルを変換する特徴量変換部をさらに備えた
請求項３に記載のパターン認識装置。
【請求項１３】
複数のシステムを作成し、複数のシステムを組み合わせて認識性能を向上させるパターン認識装置に用いられるパターン認識方法であって、
先に構築したモデルの出力傾向に基づいて、前記先に構築したモデルの出力傾向とは異なるように２つ目以降のシステムのモデルパラメータを構築する識別学習ステップを有する
パターン認識方法。
【発明の詳細な説明】
【技術分野】
【０００１】
この発明は、例えば音声認識や文字認識に係るパターン認識装置およびパターン認識方法に関する。
【背景技術】
【０００２】
以下、特に音声認識の例に限るが、他も同様である。この１０年で、音声認識の性能は大きく改善した。その大きな要因として、音響モデルの学習法が、最尤学習（ＭＬ：Ｍａｘｉｍｕｍ  Ｌｉｋｅｌｉｈｏｏｄ）から識別的学習に移行したことが挙げられる。このアプローチは、単一のシステムで正解ラベルを参照することにより、性能を向上させることを目指すものである。
【０００３】
これに対して、システム統合に基づくアプローチ（例えば、ＲＯＶＥＲ：Ｒｅｃｏｇｎｉｚｅｒ  Ｏｕｔｐｕｔ  Ｖｏｔｉｎｇ  Ｅｒｒｏｒ  Ｒｅｄｕｃｔｉｏｎ）は、複数のシステムを用いることにより、性能を向上させることを目指すものである。
【０００４】
具体的には、多数決原理に基づくベースとなるシステムおよび補助的なシステムの仮説の間で、よりよい仮説を得ることを可能にするものである。結果として、たとえ補助的なシステムの性能が、ベースとなるシステムの性能よりも低かったとしても、ベースシステムだけの場合よりも、高い性能が得られる。
【０００５】
ここで、複数のモデルが存在する場合に、ある特定のモデルを強化することを目的として、モデルを学習するのに用いられる学習用データを効率的に選択する技術が知られている（例えば、特許文献１参照）。この技術は、特定モデルを含む複数モデルでの認識結果を用いて認識率の低い発話を選択し、対応する正解ラベルで選択された発話を用いて特定モデルを更新学習する点でこの発明と関連する。しかしながら、この技術は、学習データ選択を主眼とするものであり、学習システムの構成も異なる。
【０００６】
また、正解ラベルの音声特徴統計量およびエラー仮説の音声特徴統計量に対する重みを求める技術が知られている。この重みは、識別的基準（例えば、最小分類誤り、最大相互情報量、または音素誤り最小）毎に追加の音声特徴統計量を算出するために用いることができる正解ラベルおよびエラー仮説の音声特徴統計量を補償するために用いられるとともに、音響モデルを更新するために用いられる（例えば、特許文献２参照）。この技術は、単一の音響モデルを更新する点でこの発明と一部関連するが、複数のモデルに関する記載はない。
【０００７】
また、複数のモデルを、環境毎に最適になるように構築する技術が知られている（例えば、特許文献３参照）。この技術は、この発明のように、組み合わせて性能を向上させるようにシステムを構築するものではなく、学習システムの構成も異なる。
【０００８】
さらに、Ｎ個の学習データセット毎に統計モデルを構築し、最高の認識率を与えた統計モデルを選択する技術が知られている（例えば、特許文献４参照）。この技術は、この発明のように、複数システムを同時に構築するものではない。
【先行技術文献】
【特許文献】
【０００９】
【特許文献１】特開２０１２−１０８４２９号公報
【特許文献２】特開２０１０−１６４７８０号公報
【特許文献３】特開２０１０−２０４１７５号公報
【特許文献４】特開２０１０−１５２７５１号公報
【発明の概要】
【発明が解決しようとする課題】
【００１０】
システム統合の際には、傾向の異なる仮説を統合することが効果的であり、出力傾向の異なる補助的なシステムを構築するために、異なる特徴量やモデルの学習法が用いられる。しかしながら、補助的なシステムの仮説が、ベースシステムと同じような傾向を示していたり、あまりにも多くの誤りを含んだりする場合には、システム統合によって必ずしも性能が向上するわけではない。
【００１１】
これに対処するために、従来は、いくつものシステムを作り、複数のシステム出力のいくつかの最もよい組み合わせを、開発セットの性能の観点から決定することが多い。このような試行錯誤的な試みでは、特定のタスクにオーバーチューニングしてしまうことで、未知データに対する頑健性が低下する。そのため、補助的なシステムは、何らかの理論的な学習基準に基づいて構築されることが望ましい。
【００１２】
この発明は、上記のような課題を解決するためになされたものであり、複数のシステムを組み合わせた際に、認識性能を向上させることができるパターン認識装置およびパターン認識方法を得ることを目的とする。
【課題を解決するための手段】
【００１３】
この発明に係るパターン認識装置は、複数のシステムを作成し、複数のシステムを組み合わせて認識性能を向上させるパターン認識装置であって、先に構築したモデルの出力傾向とは異なる傾向を出力するように、モデルパラメータが学習される２つ目以降のシステムを構築する識別学習部を備えたものである。
【００１４】
また、この発明に係るパターン認識方法は、複数のシステムを作成し、複数のシステムを組み合わせて認識性能を向上させるパターン認識装置に用いられるパターン認識方法であって、先に構築したモデルの出力傾向とは異なる傾向を出力するように、モデルパラメータが学習される２つ目以降のシステムを構築する識別学習ステップを有するものである。
【発明の効果】
【００１５】
この発明に係るパターン認識装置およびパターン認識方法によれば、複数のシステムを作成し、複数のシステムを組み合わせて認識性能を向上させるものであって、先に構築したモデルの出力傾向とは異なる傾向を出力するように、モデルパラメータが学習される２つ目以降のシステムを構築する識別学習部（ステップ）を備えている。
そのため、複数のシステムを組み合わせた際に、認識性能を向上させることができる。
【図面の簡単な説明】
【００１６】
【図１】従来法による複数システムの統合の構成を示すブロック構成図である。
【図２】従来法によるモデル更新の構成を示すブロック構成図である。
【図３】従来法による全体システムを示すブロック構成図である。
【図４】この発明の実施の形態１に係るパターン認識装置におけるモデル更新の構成を示すブロック構成図である。
【図５】この発明の実施の形態１に係るパターン認識装置において、音声認識についてのモデル更新の構成を示すブロック構成図である。
【図６】この発明の実施の形態３に係るパターン認識装置において、統合結果の認識率最大化に基づく補助的なシステムの構築の構成を示すブロック構成図である。
【図７】従来法によるリランキング方法の構成を示すブロック構成図である。
【図８】この発明の実施の形態４に係るパターン認識装置におけるリランキング方法を用いたモデル更新の構成を示すブロック構成図である。
【図９】この発明の実施の形態４に係るパターン認識装置において、音声認識についてのモデル更新の構成を示すブロック構成図である。
【図１０】従来法による特徴量変換方法の構成を示すブロック構成図である。
【図１１】この発明の実施の形態５に係るパターン認識装置における特徴量変換方法を用いたモデル更新の構成を示すブロック構成図である。
【発明を実施するための形態】
【００１７】
以下、この発明に係るパターン認識装置およびパターン認識方法の好適な実施の形態につき図面を用いて説明するが、各図において同一、または相当する部分については、同一符号を付して説明する。
【００１８】
実施の形態１．
識別的基準に基づく補助的なシステムの構築法
まず、従来法による複数システムの統合の構成を図１に示す。図１において、特徴量ベクトル１から、モデル４（第１モデル４Ａ、第２モデル４Ｂ）と照合することで、シンボル列５（第１シンボル列５Ａ、第２シンボル列５Ｂ）を得るのがデコード部３（第１デコード部３Ａ、第２デコード部３Ｂ）である。ここでは、２つのシステムの組み合わせを示すが、２つ以上の任意の数のシステムを用いることができる。
【００１９】
複数のデコード部３により得られたシンボル列５（第１シンボル列５Ａ、第２シンボル列５Ｂ）を結果統合部２により統合し、シンボル列６が得られる。このとき、上述したＲＯＶＥＲ等の結果統合の方法を利用することができる。
【００２０】
ここで、この方法の問題点は、モデル４を学習する際に、シンボル列５の傾向が異なるようにしているわけではないので、最適な組み合わせを見つけるのが難しいという点である。また、最適な組み合わせを見つけるためには、多くのシステムを作って試行錯誤する必要があり、さらに、システムの数が増えると組み合わせが急増するので、試行錯誤に非常に手間がかかる。
【００２１】
上述したように、従来法では、システムを構築する際に、それらの認識結果の傾向が異なるであろうことを仮定していなかったことが問題であった。ここで、システム統合した際に、認識性能を向上させるためには、以下の２点が求められる。
【００２２】
条件１：システムの出力傾向が異なること（同じような仮説が出てきても、組み合わせの効果は少ないため）
条件２：システム間の単体の認識性能が同じようなレベルにあること（組み合わせるシステムの中に認識性能が低すぎるものがない）
【００２３】
そこで、これらの条件を満足するために、この発明の実施の形態１では、逐次的にシステムが構築される。すなわち、最初に通常の方法でシステムを構築し、次のシステムは、最初に構築したシステムの出力傾向を見ながらモデルパラメータを調整することにより、出力傾向を変化させるとともに、識別学習の枠組みで正解ラベルを参照することにより、認識性能が低くなり過ぎないようにする。
【００２４】
続いて、従来法によるモデル更新の構成を図２に示す。図２において、モデル更新の際には、図１に示した結果統合部２に代えて識別学習部７を用い、特徴量ベクトルから、正解ラベル８に基づいて、識別学習によりモデルパラメータを更新する。また、図１と図２とをまとめた従来法による全体システムを、図３に示す。
【００２５】
このモデルは、事前に更新しておくことも可能であるが、認識結果であるシンボル列６のログから、尤度または信頼度の最も高いものを正解ラベル８として扱い、オンラインでこのモデルのパラメータを更新することもできる。すなわち、正解ラベル８は、シンボル列６で置換することができる。
【００２６】
従来法では、１つのモデルの出力シンボル列５に基づいて、識別学習部７によりモデル４を更新するのに対して、この発明の実施の形態１では、図４に示した構成でモデル更新を実行する。
【００２７】
図４に示したこの発明の実施の形態１に係るモデル更新の構成は、識別学習部７において、他のシステムの出力（この例では、第１シンボル列５Ａ）を参照しながら、モデル更新を実行する点で、図２とは異なる。なお、以下の実施の形態では、従来法によるモデル更新の図を省略するが、すべて他のシステムのシンボル列を参照するか否かが異なっている。
【００２８】
図４において、第１モデル４Ａは、通常と同じように、最尤推定法や正解ラベル８を参照した識別学習法により学習する。このとき、第２モデル４Ｂは、第２シンボル列５Ｂと正解ラベル８とを参照しながらモデルパラメータを更新するが、その際に、第１シンボル列５Ａも考慮することにより、第１モデル４Ａとは異なる出力傾向を有する第２モデル４Ｂを構築することができる。
【００２９】
通常の識別学習では、認識性能を向上させるために、位置合わせした正解ラベル８に基づく統計量とベースのモデルでの認識結果に基づく統計量との差分を補償するように、モデルパラメータを更新する。
【００３０】
これに対して、この発明の実施の形態１では、位置合わせした正解ラベル８に基づく統計量とベースのモデルでの認識結果に基づく統計量との差分、位置合わせした正解ラベル８に基づく統計量と位置合わせした第１シンボル列５Ａに基づく統計量との差分、およびそれぞれの差分の和を補償するように、モデルパラメータを更新する。
【００３１】
これにより、出力される仮説が第１シンボル列５Ａから離れるように、モデルパラメータが更新され、上述した条件１が満足される。またこのとき、正解ラベル８が参照として入っていることにより、第２モデル４Ｂの性能低下を防止することができ、上述した条件２が満足される。
【００３２】
ここで、音声認識における音響モデルの識別学習を例に挙げて具体的に説明する。まず、相互情報量最大化法における音響モデルのパラメータ更新の目的関数Ｆは、次式（１）のように表される。
【００３３】
【数１】
2016522459.tif 000003
【００３４】
式（１）において、λは音響モデルパラメータを示し、ｘｔはｔ番目のフレームの特徴量ベクトル系列を示している。また、音響モデル尤度ｐλ（スケールκ）と言語モデル尤度ｐＬとの積をＰλと表す。ここで、簡単のために、音響モデル尤度におけるｔ以上の積を省略し、ｓ以上の合計は、この意味で、すべての可能な記号列に対して実行される。なお、音響モデル尤度は、隠れマルコフモデル（ＨＭＭ：Ｈｉｄｄｅｎ  Ｍａｒｋｏｖ  Ｍｏｄｅｌ）の系列Ｈｓｒ，Ｈｓによって条件づけられている。また、正解ラベルがｓｒであり、シンボル列がｓである。
【００３５】
音響モデルにおけるＨＭＭの放出確率として混合ガウスモデル（ＧＭＭ：Ｇａｕｓｓｉａｎ  ｍｉｘｔｕｒｅ  ｍｏｄｅｌ）を用いるとすると、モデルパラメータの平均μ’および分散Σ’の具体的な更新式は、次式（２）のように表される。
【００３６】
【数２】
2016522459.tif 000004
【００３７】
式（２）において、元のモデルのガウス平均およびパラメータ共分散が、それぞれμおよびΣである。また、ＨＭＭの状態インデックスがｊであり、ガウス混合成分のインデックスがｍである。
【００３８】
また、式（２）において、Δｊｍは、γｊｍ，ｔｎｕｍ−γｊｍ，ｔｄｅｎであり、γｊｍ，ｔｎｕｍおよびγｊｍ，ｔｄｅｎは、それぞれ式（１）の分子と分母とから計算される、フレームｔでの状態ｊのＨＭＭにおける合成成分ｍの事後確率である。Ｄｊｍは、共分散パラメータが負にならないように調整するパラメータである。また、Ｕｊｍ＝μμＴ，Ｕ’ｊｍ＝μ’μ’Ｔであり、Ｔは転置を示している。
【００３９】
ここで、図２に示した識別学習部７が実行する具体的なアルゴリズムは、次のように表される。
【００４０】
【数３】
2016522459.tif 000005
【００４１】
これに対して、図４に示した識別学習部７は、上述した方法で構築したＱ個のベースとなるシステムに対して、次式（３）で表される目的関数を最大化するように、第２音響モデル４Ｂ（λｃ）を最適化する。音声認識についてのモデル更新の具体的な構成を、図５に示す。
【００４２】
【数４】
2016522459.tif 000006
【００４３】
また、簡単のために、音響モデル尤度におけるｔ以上の積を省略し、ｓ以上の合計は、この意味で、すべての可能な記号列に対して実行される。式（３）は、通常の識別学習で使う正解ラベルとの相互情報量に加えて、ベースシステムとの負の相互情報量を用いて、ベースシステムの出力結果から離れて補助的なシステムの出力結果が生成されるように学習が進むことを示している。
【００４４】
式（３）において、αは重みを調整するバラメータであり、値が大きいほど元のシステムとは違った出力傾向を示すが、正解からも離れてしまい認識精度が低下するので、調整する必要がある。また、ｓｑ，１は、ｑ番目のベースシステムの１ｂｅｓｔの結果である。
【００４５】
また、上記式（２）は、次式（４）に示される変数を代入することで、具体的なモデルパラメータの更新式となる。ここでは、簡単のため、ベースシステムは１つであるとしている。式（４）において、γｊｍ，ｔ１は、ベースシステムの１ｂｅｓｔに対するフレームｔでの状態ｊのＨＭＭにおける合成成分ｍで与られる事後確率を示している。
【００４６】
【数５】
2016522459.tif 000007
【００４７】
ここで、図４に示した識別学習部７が実行する具体的なアルゴリズムは、次のように表される。
【００４８】
【数６】
2016522459.tif 000008
【００４９】
このように、識別学習部７でモデルを更新する際に、元のシステムによる認識結果を参照することで、元のシステムとは異なる傾向を有するモデル４を構築することができる。その際に、正解ラベル８も参照することにより、新たに作ったシステムの高い認識性能も併せて確保することができる。
【００５０】
ここでは、２つのシステムの場合を例に挙げて説明したが、３つ以上のシステムに関しても全く同様である。上述した定式化通り、モデル４を構築する際に、第１モデルおよび第２モデルの出力傾向を参照する方法と、モデル４の構築の際に、第２モデルの出力傾向のみを参照する方法が考えられる。
【００５１】
以上のように、実施の形態１によれば、複数のシステムを作成し、複数のシステムを組み合わせて認識性能を向上させるものであって、２つ目以降のシステムを作成する際に、先に構築したモデルの出力傾向に基づいて、先に構築したモデルの出力傾向とは異なるようにモデルパラメータを構築する識別学習部（ステップ）を備えている。
そのため、複数のシステムを組み合わせた際に、認識性能を向上させることができる。
なお、この発明の実施の形態１に係る効果は、以下の実施の形態においても同様に得ることができる。
【００５２】
実施の形態２．
モデル更新した結果得られる認識結果を使って元のシステムを再構築
上述した実施の形態１では、ベースシステムの第１シンボル列５Ａを用いて第２モデル４Ｂを更新したが、この結果得られた第２モデル４Ｂを用いて第１モデル４Ａを再更新することも考えられる。
【００５３】
具体的な方法としては、上述した実施の形態１の方法をそのまま用いることができる。この方法でモデル更新を繰り返すことによって、第１モデルと第２モデルとの出力傾向が繰り返しのたびに離れていくので、十分な回数繰り返すことにより、２つのモデルから違う傾向の仮説を得ることができる。
【００５４】
実施の形態３．
統合結果の認識率最大化に基づく補助的なシステムの構築法
上述した実施の形態１では、第１モデル４Ａと認識結果の傾向が異なるように第２モデル４Ｂを構築した。この発明の実施の形態３では、さらに結果統合部２の統合結果を用いて、認識率が最大になるように第２モデル４Ｂを構築する。
【００５５】
一般に、学習データを変えることで出力傾向は、大きく異なる。この発明の実施の形態３では、実施の形態１と同様に、第１モデル４Ａは、通常の方法で学習する。これに対して、第２モデル４Ｂを学習する際には、学習データ分割部（後述する）により学習データをいくつか（例えば、Ｎ分割）に分割してモデルを作る。
【００５６】
この発明の実施の形態３に係る、統合結果の認識率最大化に基づく補助的なシステムの構築の構成を図６に示す。図６には、学習データを分割する学習データ分割部９と、正解ラベル８を参照しながら、適切な学習データを選択する学習データ選択部１０とが設けられている。
【００５７】
学習データ分割部９により、Ｎ個のモデル（１≦ｎ≦Ｎ）が作成される。また、これらの学習データのうち、最も認識率の高かった学習データが、学習データ選択部１０により選択される。なお、学習データ選択部１０は、認識率Ｍ番目までの学習データを選択してもよい。
【００５８】
ここで、選択された学習データに基づいて、第２モデル４Ｂを再学習することにより、学習データの選択によって第１モデル４Ａとは異なる出力傾向を有するモデル４を構築しつつ（条件１を満足しつつ）、システムの認識性能も確保する（条件２を満足する）ことができる。
【００５９】
実施の形態４．
リランキング方法との組み合わせ
上述した実施の形態１では、デコード部３が２つ以上である場合について説明したが、デコード部３は、１つであっても、その認識結果を使って複数の候補を出力することができる。
【００６０】
例えば、Ｎ−ｂｅｓｔの結果リストを並び替えるリランキング部を利用することが考えられる。従来法によるリランキング方法の構成を図７に示す。図７では、図２に示したものと比較して、リランク部１１（第１リランク部１１Ａ、第２リランク部１１Ｂ）と、モデル１２（第１モデル１２Ａ、第２モデル１２Ｂ）とが追加されている。また、リランク部１１により並び替えられたＮ−ｂｅｓｔリストを、シンボル列１３（第１シンボル列１３Ａ、第２シンボル列１３Ｂ）とする。
【００６１】
ここで、この発明の実施の形態４では、図８に示されるように、第２リランク部１１Ｂでなるべく異なる認識結果（第２シンボル列１３Ｂ）を出力することができるように、第２モデル１２Ｂを更新する。
【００６２】
そこで、例えばリランク部１１として、識別的言語モデル（Ｂ．Ｒｏａｒｋ，Ｍ．Ｓａｒａｃｌａｒ，Ｍ．Ｃｏｌｌｉｎｓ，ａｎｄ  Ｍ．Ｊｏｈｎｓｏｎ，“Ｄｉｓｃｒｉｍｉｎａｔｉｖｅ  ｌａｎｇｕａｇｅ  ｍｏｄｅｌｉｎｇ  ｗｉｔｈ  ｃｏｎｄｉｔｉｏｎａｌ  ｒａｎｄｏｍ  ｆｉｅｌｄｓ  ａｎｄ  ｔｈｅ  ｐｅｒｃｅｐｔｒｏｎ  ａｌｇｏｒｉｔｈｍ，”ｉｎ  Ｐｒｏｃ．ＡＣＬ，２００４，ｐｐ．４７−５４．）を用いることを考える。音声認識についてのモデル更新の具体的な構成を、図９に示す。
【００６３】
識別的言語モデルでは、ｎ−ｇｒａｍを単位として、正解ラベル８に現れるｎ−ｇｒａｍの個数から、認識結果（シンボル列）１３に現れるｎ−ｇｒａｍの個数を引いた重みベクトルｗのモデル（言語モデル）１２を用いて、第１認識結果（第１シンボル列）１３Ａを並び替えることで、よりよい認識結果を得る。
【００６４】
すなわち、重みベクトルｗの次元は、ｎ−ｇｒａｍのエントリの総数Ｎであり、ｗ（１），・・・，ｗ（Ｎ）は、それぞれ文字列中に該当するｎ−ｇｒａｍがいくつ現れたかを示している。通常は、識別学習部７により、正解からｗｃをカウントし、それから認識結果中に現れるｗｒをカウントする。すると、重みベクトルｗは、ｗ＝ｗｃ−ｗｒとなり、開発セットの性能をチェックすることにより経験的に設定される要素により見積もられる。
【００６５】
ここで、この発明の実施の形態４によれば、第１認識結果（第１シンボル列）１３Ａのカウントをｗｒ１、第２認識結果（第２シンボル列）１３Ｂのカウントをｗｒ２として、第２言語モデル１２Ｂは、ｗ２＝ｗｃ−ａ１ｗｒ１−ａ２ｗｒ２で表される。なお、ａ１、ａ２は重みであり、第１認識結果１３Ａおよび第２認識結果１３Ｂを同程度に重視すれば、ａ１＝ａ２＝０．５となる。
【００６６】
実施の形態５．
特徴量変換方法との組み合わせ
上述した実施の形態１では、特徴量ベクトル１から、デコード部３でモデル４と照合することにより、シンボル列５を得たが、デコードの前に特徴量変換を行うことで、認識性能を向上させることができる。
【００６７】
従来法による特徴量変換方法の構成を図１０に示す。図１０において、特徴量変換モデル１５（第１特徴量変換モデル１５Ａ、第２特徴量変換モデル１５Ｂ）を事前に学習しておけば、特徴量変換部１４（第１特徴量変換部１４Ａ、第２特徴量変換部１４Ｂ）で変換された特徴量１６（第１特徴量１６Ａ、第２特徴量１６Ｂ）を用いて、シンボル列６を得ることができる。
【００６８】
これに対して、この発明実施の形態５において、元のシステムを参照して、第２特徴量変換モデル１５Ｂを更新する枠組みを導入した構成を、図１１に示す。図１１において、上述した実施の形態１と同様にして、認識結果であるシンボル列５に基づいて、それらが異なる傾向を有するように、第２特徴量変換部１４Ｂで用いられる第２特徴量変換モデル１５Ｂを更新することができる。
【００６９】
ここでも音声認識を取り上げると、例えば識別的特徴量変換（Ｄ．Ｐｏｖｅｙ，Ｂ．Ｋｉｎｇｓｂｕｒｙ，Ｌ．Ｍａｎｇｕ，Ｇ．Ｓａｏｎ，Ｈ．Ｓｏｌｔａｕ，ａｎｄ  Ｇ．Ｚｗｅｉｇ，“ｆＭＰＥ：Ｄｉｓｃｒｉｍｉｎａｔｉｖｅｌｙ  ｔｒａｉｎｅｄ  ｆｅａｔｕｒｅｓ  ｆｏｒ  ｓｐｅｅｃｈ  ｒｅｃｏｇｎｉｔｉｏｎ，”ｉｎ  Ｐｒｏｃ．ＩＣＡＳＳＰ，２００５，ｐｐ．９６１−９６４．）を用いるができる。
【００７０】
識別的特徴量変換では、特徴量変換モデル１５（マトリックスＭ）を用いて、特徴量ｘとｘから導かれる高次元特徴量ｈとを、次式（５）で表されるように、特徴量ｙに変換する。
【００７１】
ｙ＝ｘ＋Ｍｈ                                              （５）
【００７２】
式（５）において、Ｍは、式（１）の目的関数ＦをＭで微分した次式（６）を、最適化するように求められる。ここで、式（１）では、ｘの代わりにｙを用いる。
【００７３】
【数７】
2016522459.tif 000009
【００７４】
このとき、上述した実施の形態１と同様にして、第２特徴量変換モデル１５Ｂを、第２シンボル列５Ｂだけでなく、第１シンボル列５Ａを参照して、更新することができる。
【００７５】
なお、上述した実施の形態１〜５は、何れも組み合わせることができる。また、上記実施の形態１〜５では、音声認識を例に挙げて具体的に説明したが、これに限定されず、音声スペクトルを画像特徴量、モデル（例えば、図３、４に示したモデル４Ａ、４Ｂ）を画像のモデルや言語モデルに置き換えることにより、文字認識についても同様の構成を用いることができる。
【図１】
2016522459.tif 000010
【図２】
2016522459.tif 000011
【図３】
2016522459.tif 000012
【図４】
2016522459.tif 000013
【図５】
2016522459.tif 000014
【図６】
2016522459.tif 000015
【図７】
2016522459.tif 000016
【図８】
2016522459.tif 000017
【図９】
2016522459.tif 000018
【図１０】
2016522459.tif 000019
【図１１】
2016522459.tif 000020
【手続補正書】
【提出日】平成27年10月8日(2015.10.8)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
系列のパターン認識問題について複数のシステムを作成し、複数のシステムを組み合わせて認識性能を向上させるパターン認識装置であって、
正解ラベルの情報から作成、または識別学習された第１モデル、または先に構築したモデルの出力した、各システムで学習データをデコードして得られる仮説および前記正解ラベルに基づいて識別学習を行うことにより、前記第１モデルまたは先に構築したモデルの出力した仮説とは異なるように２つ目以降のシステムのモデルを構築する識別学習部を備えた
パターン認識装置。
【請求項２】
前記識別学習部は、前記モデルパラメータを更新する際に、ベースとなるシステムの出力結果に基づいて、前記モデルパラメータを更新する
請求項１に記載のパターン認識装置。
【請求項３】
前記識別学習部は、前記モデルパラメータを更新する際に、ベースとなるシステムの出力結果に基づいて、前記モデルパラメータを更新するとともに、更新した結果得られるシステムの出力結果に基づいて、前記モデルパラメータを更新し、これを複数回繰り返す
請求項１に記載のパターン認識装置。
【請求項４】
２つ目以降のシステムの複数のモデルを得るために、モデルの学習データを複数の学習データのセットに分割する学習データ分割部と、
前記学習データ分割部で分割された複数のモデルから、最も認識率の高かった学習データまたは認識率の上位の学習データを選択する学習データ選択部と、をさらに備え、
前記識別学習部は、前記学習データ選択部で選択された学習データに基づいて、モデルを再学習する
請求項１に記載のパターン認識装置。
【請求項５】
２つ目以降のシステムの複数のモデルを得るために、モデルの学習データを複数の学習データのセットに分割する学習データ分割部と、
前記学習データ分割部で分割された複数のモデルから、最も認識率の高かった学習データまたは認識率の上位の学習データを選択する学習データ選択部と、をさらに備え、
前記識別学習部は、前記学習データ選択部で選択された学習データに基づいて、モデルを再学習する
請求項２に記載のパターン認識装置。
【請求項６】
２つ目以降のシステムの複数のモデルを得るために、モデルの学習データを複数の学習データのセットに分割する学習データ分割部と、
前記学習データ分割部で分割された複数のモデルから、最も認識率の高かった学習データまたは認識率の上位の学習データを選択する学習データ選択部と、をさらに備え、
前記識別学習部は、前記学習データ選択部で選択された学習データに基づいて、モデルを再学習する
請求項３に記載のパターン認識装置。
【請求項７】
出力傾向の異なる複数のモデルを用いて、外部から入力された特徴量ベクトルがデコード部でデコードされた後のＮ−ｂｅｓｔの結果リストを並び替えるリランキング部をさらに備えた
請求項１に記載のパターン認識装置。
【請求項８】
出力傾向の異なる複数のモデルを用いて、外部から入力された特徴量ベクトルがデコード部でデコードされた後のＮ−ｂｅｓｔの結果リストを並び替えるリランキング部をさらに備えた
請求項２に記載のパターン認識装置。
【請求項９】
出力傾向の異なる複数のモデルを用いて、外部から入力された特徴量ベクトルがデコード部でデコードされた後のＮ−ｂｅｓｔの結果リストを並び替えるリランキング部をさらに備えた
請求項３に記載のパターン認識装置。
【請求項１０】
デコード部でデコードされる前に、あらかじめ学習された特徴量変換モデルに基づいて、外部から入力された特徴量ベクトルを変換する特徴量変換部をさらに備えた
請求項１に記載のパターン認識装置。
【請求項１１】
デコード部でデコードされる前に、あらかじめ学習された特徴量変換モデルに基づいて、外部から入力された特徴量ベクトルを変換する特徴量変換部をさらに備えた
請求項２に記載のパターン認識装置。
【請求項１２】
デコード部でデコードされる前に、あらかじめ学習された特徴量変換モデルに基づいて、外部から入力された特徴量ベクトルを変換する特徴量変換部をさらに備えた
請求項３に記載のパターン認識装置。
【請求項１３】
系列のパターン認識問題について複数のシステムを作成し、複数のシステムを組み合わせて認識性能を向上させるパターン認識装置に用いられるパターン認識方法であって、
正解ラベルの情報から作成、または識別学習された第１モデル、または先に構築したモデルの出力した、各システムで学習データをデコードして得られる仮説および前記正解ラベルに基づいて識別学習を行うことにより、前記第１モデルまたは先に構築したモデルの出力した仮説とは異なるように２つ目以降のシステムのモデルを構築する識別学習ステップを有する
パターン認識方法。
【国際調査報告】
2016522459.tif 000021
2016522459.tif 000022
2016522459.tif 000023