(57)【特許請求の範囲】
【請求項１】
音声信号からメルケプストラム係数時系列などの特徴ベクトル時系列を抽出する特徴抽出部と；
前記特徴抽出部で抽出された訓練用音声データに係る特徴ベクトル時系列に基づいて、隠れマルコフモデルなどの音響モデルに基づき単語などの認識単位に係る尤度関数群を計算する音響モデル尤度計算部と；
前記音響モデル尤度計算部で求めた尤度関数群を回帰関数に取り込んで罰金付きロジスティック回帰マシン（Ｐｅｎａｌｉｚｅｄ  Ｌｏｇｉｓｔｉｃ  Ｒｅｇｒｅｓｓｉｏｎ  Ｍａｃｈｉｎｅ；以下本請求項でＰＬＲＭという）の係数パラメータを，ＰＬＲＭ罰金付き尤度を最大化することにより学習する第１のＰＬＲＭ音響学習部と；
前記音響モデル尤度計算部で求めた尤度関数群を前記回帰関数に取り込んで前記ＰＬＲＭのハイパーパラメータを、最急降下法などの最適化法によりＰＬＲＭ罰金付き尤度を最大化することにより学習する第２のＰＬＲＭ音響学習部と；
前記第１のＰＬＲＭ音響学習部で最適化された前記係数パラメータと前記第２のＰＬＲＭ音響学習部で最適化された前記ハイパーパラメータを用いて前記認識単位に対する可能性を確率で表現したものを計算する音声認識部とを備え；
前記音響モデル尤度計算部は、前記ハイパーパラメータを前記音響モデルに係るパラメータに取り込んで前記尤度関数群を計算する；
音声認識装置。
【請求項２】
音声信号からメルケプストラム係数時系列などの特徴ベクトル時系列を抽出する特徴抽出工程と；
前記特徴抽出工程で抽出された訓練用音声データに係る特徴ベクトル時系列に基づいて、隠れマルコフモデルなどの音響モデルに基づき単語などの認識単位に係る尤度関数群を計算する音響モデル尤度計算工程と；、
前記音響モデル尤度計算工程で求めた尤度関数群を回帰関数に取り込んで罰金付きロジスティック回帰マシン（Ｐｅｎａｌｉｚｅｄ  Ｌｏｇｉｓｔｉｃ  Ｒｅｇｒｅｓｓｉｏｎ  Ｍａｃｈｉｎｅ；以下本請求項でＰＬＲＭという）の係数パラメータを、ＰＬＲＭ罰金付き尤度を最大化することにより学習する第１のＰＬＲＭ音響学習工程と；
前記音響モデル尤度計算工程で求めた尤度関数群を前記回帰関数に取り込んで前記ＰＬＲＭのハイパーパラメータを，最急降下法などの最適化法によりＰＬＲＭ罰金付き尤度を最大化することにより学習する第２のＰＬＲＭ音響学習工程と；
前記第１のＰＬＲＭ音響学習工程で最適化された前記係数パラメータと前記第２のＰＬＲＭ音響学習工程で最適化された前記ハイパーパラメータを用いて前記認識単位に対する可能性を確率で表現したものを計算する音声認識工程とを備え；
前記音響モデル尤度計算工程は、前記ハイパーパラメータを前記音響モデルに係るパラメータに取り込んで前記尤度関数群を計算する；
音声認識方法。
【請求項３】
請求項２に記載の音声認識方法をコンピュータに実行させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】  本発明は、音声認識装置及び音声認識方法に関するものである。詳しくは、訓練用音声データを用いて学習機械に学習させた後。新たに与えられた音声データに対して、可能性のある単語などの確率による予測を計算し、音声から単語などを推測する音声認識装置及び音声認識方法に関するものである。
【背景技術】
【０００２】  従来の音声認識では、最大事後尤度の決定ルールを用いて発声内容を判定する。最大事後尤度は、隠れマルコフモデル  ＨＭＭ（Ｈｉｄｄｅｎ  Ｍａｒｋｏｖ  Ｍｏｄｅｌ）などで表される音響モデルの尤度と、Ｎ−ｇｒａｍなどで表される言語モデルの確率の積として計算する。これらのモデルにおいては、ＨＭＭのパラメータは誤り最小化学習アルゴリズムやＥＭ（Ｅｘｐｅｃｔａｔｉｏｎ  Ｍａｘｉｍｉｚａｔｉｏｎ）アルゴリズムを用いて学習する。（非特許文献１，２参照）【０００３】  他方、確率的な予測判別力に優れた学習機械である罰金付きロジスティック回帰マシン（Ｐｅｎａｌｉｚｅｄ  Ｌｏｇｉｓｔｉｃ  Ｒｅｇｒｅｓｓｉｏｎ  Ｍａｃｈｉｎｅ；以下本明細書においてＰＬＲＭという）が田邉により提案され、音声の分野でその性能が示されている。（非特許文献３〜８参照）【０００４】
【非特許文献１】中川聖一、“確率モデルによる音声認識”、（社）電子情報通信学会、１９８８．
【非特許文献２】Ｂ，−Ｈ，  Ｊｕａｎｇ，  Ｗ．  Ｃｈｏｕ，  ａｎｄ  Ｃ．−Ｈ．  Ｌｅｅ，“Ｍｉｎｉｍｕｍ  ｃｌａｓｓｉｆｉｃａｔｉｏｎ  ｅｒｒｏｒ  ｒａｔｅ  ｍｅｔｈｏｄｓ  ｆｏｒ  ｓｐｅｅｃｈ  ｒｅｏｇｎｉｔｉｏｎ”  ，ＩＥＥＥ  Ｔｒａｎｓ，Ｓｐｅｅｃｈ  ａｎｄ  Ａｕｄｉｏ  Ｐｒｏｃｅｓｓｉｎｇ，  ｖｏｌ．５，ｐｐ．２５７−２６５，Ｍａｙ  １９９７．
【非特許文献３】Ｋ．Ｔａｎａｂｅ，“Ｐｅｎａｌｉｚｅｄ  ｌｏｇｉｓｔｉｃ  ｒｅｇｒｅｓｓｉｏｎ  ｍａｃｈｉｎｅｓ：Ｎｅｗ  ｍｅｔｈｏｄｓ  ｆｏｒ  ｓｔａｔｉｓｔｉｃａｌ  ｐｒｅｄｉｃｔｉｏｎ  １”，ＩＳＭ  Ｃｏｏｐｅｒａｔｉｖｅ  Ｒｅｓｅａｒｃｈ  Ｒｅｐｏｒｔ  １４３，ｐｐ．１６３−１９４，Ｍａｒｃｈ  ２００１．
【非特許文献４】Ｋ．Ｔａｎａｂｅ，“Ｐｅｎａｌｉｚｅｄ  ｌｏｇｉｓｔｉｃ  ｒｅｇｒｅｓｓｉｏｎ  ｍａｃｈｉｎｅｓ：Ｎｅｗ  ｍｅｔｈｏｄｓ  ｆｏｒ  ｓｔａｔｉｓｔｉｃａｌ  ｐｒｅｄｉｃｔｉｏｎ  ２”，第４回情報論的学習理論ワークショップ（ＩＢＩＳ２００１），ｐｐ．７１−７６，Ｊｕｌｙ．２００１．
【非特許文献５】Ｋ．Ｔａｎａｂｅ，“Ｐｅｎａｌｉｚｅｄ  ｌｏｇｉｓｔｉｃ  ｒｅｇｒｅｓｓｉｏｎ  ｍａｃｈｉｎｅｓ  ａｎｄ  Ｒｅｌａｔｅｄ  Ｌｉｎｅａｒ  Ｎｕｍｅｒｉｃａｌ  Ａｌｇｅｂｒａ”，京都大学数理解析研究所、講究録１３２０，ｐｐ。２３９−２４９，２００３．
【非特許文献６】Ｔ．Ｍａｔｓｕｉ  ａｎｄ  Ｋ．Ｔａｎａｂｅ，“Ｓｐｅａｋｅｒ  Ｉｄｅｎｔｉｆｉｃａｔｉｏｎ  ｗｉｔｈ  Ｄｕａｌ  Ｐｅｎａｌｉｚｅｄ  Ｌｏｇｉｓｔｉｃ  Ｒｅｇｒｅｓｓｉｏｎ  Ｍａｃｈｉｎｅ”，Ｐｒｏｃｅｅｄｉｎｇｓ  ｏｆ  Ｏｄｙｓｓｅｙ，ｐｐ．３６３−３６６，２００４．
【非特許文献７】Ｔ．Ｍａｔｓｕｉ  ａｎｄ  Ｋ．Ｔａｎａｂｅ，“Ｐｒｏｂａｂｉｌｉｓｔｉｃ  Ｓｐｅａｋｅｒ  Ｉｄｅｎｔｉｆｉｃａｔｉｏｎ  ｗｉｔｈ  ｄｕａｌ  Ｐｅｎａｌｉｚｅｄ  Ｌｏｇｉｓｔｉｃ  Ｒｅｇｒｅｓｓｉｏｎ  Ｍａｃｈｉｎｅ”，Ｐｒｏｃｅｅｄｉｎｇｓ  ｏｆ  ＩＣＳＬＰ，ｐｐ．ＩＩＩ−１７９７−１８００，２００４．
【非特許文献８】Ｔ．Ｍａｔｓｕｉ  ａｎｄ  Ｋ．Ｔａｎａｂｅ，“Ｓｐｅａｋｅｒ  Ｒｅｃｏｇｎｉｔｉｏｎ  Ｗｉｔｈｏｕｔ  Ｆｅａｔｕｒｅ  Ｅｘｔｒａｃｔｉｏｎ  Ｐｒｏｃｅｓｓ”，Ｐｒｏｃｅｅｄｉｎｇｓ  ｏｆ  Ｗｏｒｋｓｈｏｐ  ｏｎ  Ｓｔａｔｉｓｔｉｃａｌ  Ｍｏｄｅｌｉｎｇ  Ａｐｐｒｏａｃｈ  ｆｏｒ  Ｓｐｅｅｃｈ  Ｒｅｃｏｇｎｉｔｉｏｎ：Ｂｅｙｏｎｄ  ＨＭＭ，ｐｐ．７９−８４，２００４．
【発明の開示】
【発明が解決しようとする課題】
【０００５】  音声認識に関して、ＨＭＭのパラメータを誤り最小化学習アルゴリズムやＥＭアルゴリズムを用いて求める場合には必ずしも最適ではない解に収束してしまうことがあり、ＨＭＭを用いた方法にはさらに認識性能の向上が期待できる。また一般に、音声認識では周囲雑音などの影響があるために、１００％の確率で認識することは難しい。しかし、ＨＭＭなどの従来の音響モデルの尤度は確率の指標を与えないので、音声認識性能が高くない。そこで、確率による認識結果を出力でき、従来方法に比して音声認識性能を確実に向上できる音声認識装置及び音声認識方法が望まれていた。【０００６】  本発明は、音声内容を示す単語などの認識単位について、確率による認識結果を出力でき、ＨＭＭなどの音響モデルを用いた従来方法に比して音声認識性能を確実に向上できる音声認識装置及び音声認識方法を提供することを目的とする。
【課題を解決するための手段】
【０００７】  上記課題を解決するために、請求項１に記載の音声認識装置では、例えば図１に示すように、音声信号からメルケプストラム係数時系列などの特徴ベクトル時系列を抽出する特徴抽出部４と、特徴抽出部４で抽出された訓練用音声データに係る特徴ベクトル時系列に基づいて、隠れマルコフモデルなどの音響モデルに基づき単語などの認識単位に係る尤度関数群を計算する音響モデル尤度計算部８と、音響モデル尤度計算部８で求めた尤度関数群を回帰関数φに取り込んでＰＬＲＭの係数パラメータＷをＰＬＲＭ罰金付き尤度を最大化することにより学習する第１のＰＬＲＭ音響学習部６と、音響モデル尤度計算部８で求めた尤度関数群を回帰関数φに取り込んでＰＬＲＭのハイパーパラメータΛを最急降下法などの最適化法によりＰＬＲＭ罰金付き尤度を最大化することにより学習する第２のＰＬＲＭ音響学習部５と、第１のＰＬＲＭ音響学習部６で最適化された係数パラメータＷと第２のＰＬＲＭ音響学習部５で最適化されたハイパーパラメータΛを用いて認識単位に対する可能性を確率で表現したものを計算する音声認識部９とを備え、音響モデル尤度計算部８は、ハイパーパラメータΛを音響モデルに係るパラメータに取り込んで尤度関数群を計算する。【０００８】  ここにおいて、音声信号には受信手段で受信される音声信号の他に、記憶手段に収録された音声データも含まれる。また、音響モデルとは尤度を計算可能な従来の確率モデルをいい、隠れマルコフモデル（ＨＭＭ）が代表的であるが、これに限られない。また、パラメータＷを学習するとは、全ての訓練用音声データについて計算された罰金付き尤度が最も大きくなるようにパラメータＷを定めることをいい、パラメータΛを学習するとは、罰金付き尤度が最も大きくなるようにパラメータΛを定めることをいう。また、音響モデル尤度計算部８は、常にハイパーパラメータΛを音響モデルに係るパラメータに取り込んで尤度関数群を計算しなくても、計算できるように構成されていれば良い。
このように構成すると、音声内容を示す単語などの認識単位について、確率による認識結果を出力でき、その信頼度の指標としても用いることが出来る。また、ＰＬＲＭと音響モデルが結合されて、ＨＭＭなどの音響モデルを用いた従来方法に比して音声認識性能を確実に向上できる音声認識装置を提供できる。【０００９】  請求項２に記載の音声認識方法は、例えば図２に示すように、音声信号からメルケプストラム係数時系列などの特徴ベクトル時系列を抽出する特徴抽出工程（Ｓ０１１）と、特徴抽出工程で抽出された訓練用音声データに係る特徴ベクトル時系列に基づいて、隠れマルコフモデルなどの音響モデルに基づき単語などの認識単位に係る尤度関数群を計算する音響モデル尤度計算工程（Ｓ００２，Ｓ００５）と、音響モデル尤度計算工程で求めた尤度関数群を回帰関数φに取り込んでＰＬＲＭの係数パラメータＷを、ＰＬＲＭ罰金付き尤度を最大化することにより学習する第１のＰＬＲＭ音響学習工程（Ｓ００３，Ｓ００６）と、音響モデル尤度計算工程で求めた尤度関数群を回帰関数φに取り込んでＰＬＲＭのハイパーパラメータΛを最急降下法などの最適化法によりＰＬＲＭ罰金付き尤度を最大化することにより学習する第２のＰＬＲＭ音響学習工程（Ｓ００４）と、第１のＰＬＲＭ音響学習工程で最適化された係数パラメータＷと第２のＰＬＲＭ音響学習工程で最適化されたハイパーパラメータΛを用いて認識単位に対する可能性を確率で表現したものを計算する音声認識工程（Ｓ００８）とを備え、音響モデル尤度計算工程は、ハイパーパラメータΛを音響モデルに係るパラメータに取り込んで尤度関数群を計算する。【００１０】  ここにおいて、音響モデル尤度計算工程、第１のＰＬＲＭ音響学習工程、第２のＰＬＲＭ音響学習工程は何度繰り返されても良い。一般的には繰り返し回数が多いほど音声認識性能が向上するので、収束するまで行なうことが好ましい。音響モデル尤度計算工程は、常にハイパーパラメータΛを音響モデルに係るパラメータに取り込んで尤度関数群を計算しなくても、いずれかの工程で計算するように構成されていれば良い。
このように構成すると、音声内容を示す単語などの認識単位について、確率による認識結果を出力でき、その信頼度の指標としても用いることも出来る。また、ＰＬＲＭと音響モデルが結合されて、ＨＭＭなどの音響モデルを用いた従来方法に比して音声認識性能を確実に向上できる音声認識方法を提供できる。【００１１】  請求項３に記載のプログラムは、請求項２に記載の音声認識方法をコンピュータに実行させるためのプログラムである。
【発明の効果】
【００１２】  本発明によれば、音声内容を示す単語などの認識単位について、確率による認識結果を出力でき、その信頼度の指標としても用いることも出来、また、ＰＬＲＭと音響モデルが結合されて、ＨＭＭなどの音響モデルを用いた従来方法に比して音声認識性能を確実に向上できる音声認識装置及び音声認識方法を提供できる。
【発明を実施するための最良の形態】
【００１３】  以下に図面に基づき本発明の実施の形態について説明する。従来の音響モデルとして代表的な隠れマルコフモデル（ＨＭＭ）を用いる音声認識装置から得られるＭ位候補までの尤度をＰＬＲＭの入力回帰関数として用いて学習機械ＰＬＲＭによる音声学習を行い、入力音声の発声内容を表す単語候補を確率的に判定するものである。また、ＰＬＲＭの中のハイパーパラメータとなるＨＭＭなどの音響モデルのパラメータを、ＰＬＲＭを定義している罰金付尤度という評価規準に基づいて最急降下法等の最適化法で調整し、ＰＬＲＭと音響モデルが結合して学習効果を高める。【００１４】
図１に本発明の実施の形態における音声認識装置１００の構成例のブロック図を示す。図１において、１は音声信号、２は訓練用音声データ、１００は音声認識装置である。音声認識装置１００は、音声信号を受信する受信部３と、受信された音声信号１又は訓練用音声データ２から、メルケプストラム係数時系列などの特徴ベクトル時系列を抽出する特徴抽出部４と、単語などの認識単位の発声内容に係る特徴ベクトル時系列情報及びＨＭＭに係るパラメータなどを蓄積した音響モデルデータベース７と、特徴抽出部４で取得された特徴ベクトル時系列（特に訓練用音声データ２に係る特徴ベクトル時系列）について音響モデルデータベース７に蓄積された特徴ベクトル時系列情報を参照して、ＨＭＭに基づき認識単位候補に係るＨＭＭの尤度を計算し、あるいはＰＬＲＭ学習部３０から与えられるパラメータＷとΛの値に対して尤度関数群を計算する音響モデル尤度計算部８と、音響モデル尤度計算部８で求めた認識単位候補に係る尤度関数群を回帰関数φに取り込んで、ＰＬＲＭの係数パラメータＷをＰＬＲＭ罰金付き尤度を最大化することにより、学習する第１のＰＬＲＭ音響学習部６と、この尤度関数群を回帰関数φに取り込んで、ＰＬＲＭのハイパーパラメータΛを最急降下法などの最適化法によりＰＬＲＭ罰金付き尤度を最大化することにより学習する第２のＰＬＲＭ音響学習部５と、第１のＰＬＲＭ音響学習６部で最適化された係数パラメータＷと第２のＰＬＲＭ音響学習５で最適化されたハイパーパラメータΛを用いて認識単位に対する可能性を確率で表現したものを計算し、発声内容の確率的な判定を行う音声認識部９、音声認識部９の計算結果等を表示する表示部１０、第２のＰＬＲＭ音響学習部５や第１のＰＬＲＭ音響学習部６や音声認識部９における計算結果や中間データ等を適宜記憶する記憶部１１、音声認識装置１００を構成する各部を制御して、音声認識装置１００としての機能を果たさせる制御部１２等から構成される。
【００１５】  ここにおいて、パラメータＷを学習するとは、全ての訓練用音声データについて計算された罰金付き尤度を最も大きくなるようにパラメータＷを定めることをいい、パラメータΛを学習するとは、罰金付き尤度が最も大きくなるようにパラメータΛを定めることをいう。尤度関数群を求めるとは、音響モデルのパラメータの複数個の値を尤度計算部の外から供与されるか、あるいは内部で学習し定め、それらの値に対する複数の音響モデルの尤度を計算することをいう。【００１６】  このうち、第１のＰＬＲＭ音響学習部６と第２のＰＬＲＭ音響学習部５とはＰＬＲＭ学習部３０を構成し、第１のＰＬＲＭ音響学習部６と第２のＰＬＲＭ音響学習部５とでパラメータ情報Ｗ、Λをやりとりをしながら学習を繰り返し、認識性能を向上させる。音響モデルデータベース７と音響モデル尤度計算部８とは音響モデル部４０の一部を構成し、音響モデル部４０はＨＭＭに基づく音声認識機能及び尤度計算機能を有する。ＰＬＲＭ学習部３０は音響モデル部４０から回帰関数φに取り込む尤度関数群を受け取り、音響モデル部４０にパラメータΛを供与する。また、ＰＬＲＭ学習部３０と音声認識部９とはＰＬＲＭに基づいて処理を実行するＰＬＲＭ部２０の一部を構成し、ＰＬＲＭ部２０はＰＬＲＭの諸機能を有する。【００１７】  図２に本実施の形態における音声認識方法の処理フロー例を示す。なお、枠の中はＰＬＲＭ学習部３０における処理フロー例である。【００１８】  受信部３で音声信号１を受信する（Ｓ０１０）。受信部３で受信した音声信号１又は訓練用音声データ２から、特徴抽出部４でメルケプストラム係数時系列などの特徴ベクトル時系列Ｘを抽出する（Ｓ０１１）。【００１９】  学習時には訓練用音声データ２が用いられる。音響モデル尤度計算部８で、前記特徴ベクトル時系列Ｘを入力して、誤り最小化学習アルゴリズムやＥＭアルゴリズムを用いてＨＭＭに基づいて学習し、音響モデルの第２のパラメータΛの初期値を求める（Ｓ００１）。音響モデル尤度計算部８で、訓練用音声データ２の特徴ベクトル時系列Ｘを音響モデルのデータベース７に蓄積された認識単位（単語など）の発声内容に係る特徴ベクトル時系列情報を参照し、ＨＭＭの尤度を複数（Ｍ個）の認識単位の候補について計算し、最適化された尤度関数群を求める。なお、認識単位として、単語の他に、述語、句、単音などがある。【００２０】  第１のＰＬＲＭ音響学習部６では、計算された各候補の音響モデルの尤度をＰＬＲＭの回帰関数φ（ｘ；Λ）＝（φ１（ｘ；Λ），φ２（ｘ；Λ），．．．，φＭ（ｘ；Λ））としてＰＬＲＭに入力する（Ｓ００２）。ＰＬＲＭでは、音響モデルのパラメータΛはＰＬＲＭのハイパーパラメータとして扱われる。また、ＰＬＲＭでは単語などの認識単位の確率は、
【数１】
0004651496.tif 000002
で表され、ＰＬＲＭの罰金付き尤度は、
【数２】
0004651496.tif 000003
で表される（非特許文献３、４、５参照）。【００２１】  ただし、Ｋは単語などの認識単位の総数（１≦Ｍ≦Ｋ）、Ｗ＝（ｗ１，ｗ２，．．．，ｗＫ）はＰＬＲＭの係数パラメータ（第１のパラメータ）で、その要素ｗｋはＭ次元の重みベクトルである。θ＝（Ｗ，Λ）である。また、Ｄ＝｛（ｘｎ，ｙｎ）｝ｎ＝１，．．．，ＮはＮ個の訓練用音声信号ｘｎと、その単語などの認識単位のラベルｙｎの組を表す。Γは学習データのクラスによる偏りを補正する行列で、例えばｋ番目の対角成分がｋ番目のラベルを有する訓練サンプル数に対応した対角行列である。Σは正定値行列、δは
【数３】
0004651496.tif 000004
とのバランスを取るために用いられるパラメータである。Γ、Σ、δはデータに応じて、適宜、事前に選択しておく。なお、Σの選択については後述する。【００２２】  第１のＰＬＲＭ音響学習部６ではＰＬＲＭの係数パラメータＷを学習して最適化する（Ｓ００３）。すなわち、全ての訓練用音声データについて計算された罰金付き尤度が最も大きくなるようにパラメータＷを定める。第２のＰＬＲＭ音響学習部５において、ＰＬＲＭの係数パラメータＷを固定して、最急降下法などの最適化法を用いて音響モデルのパラメータΛを、ＰＬＲＭ罰金付き尤度を最大化することにより学習する（Ｓ００４）。【００２３】  音響モデル部４０ではＰＬＲＭ学習部３０で求められたパラメータΛを受け取り、これを用いて音響モデル尤度計算部８では、音響モデルの尤度を計算する。ＰＬＲＭ学習部３０では音響モデル部４０で計算された認識単位の各候補についての尤度を受け取り、これをＰＬＲＭの回帰関数として第１のＰＬＲＭ音響学習部６に入力し（Ｓ００５）、ＰＬＲＭの係数パラメータＷを学習する（Ｓ００６）。ここで音声認識部９ではパラメータＷ，Λを用いて（式１）により、単語などの認識単位の確率ｐｋ（θ）による表現を求めることも可能である。しかし、Ｓ００４〜Ｓ００６を繰り返すことにより、パラメータＷ，Λを学習して、確率ｐｋ（θ）の妥当性を向上させるのが好ましい。すなわち、第２のＰＬＲＭ音響学習部５において、新たに求められたＰＬＲＭの係数パラメータＷを固定して、最急降下法などの最適化法を用いて音響モデルのパラメータΛを最適化する（Ｓ００４）。そして、Ｓ００４からＳ００６の工程を十分に繰り返して、ＰＬＲＭの係数パラメータＷ及び音響モデルのパラメータΛが収束したと判断された時点で、ＰＬＲＭによる音響学習を終了する（Ｓ００７）。【００２４】  テスト時には、音声信号１を受信部３で受信して（Ｓ０１０）、特徴抽出部４でメルケプストラム係数時系列などの特徴ベクトル時系列を抽出する（Ｓ０１１）。特徴ベクトル時系列を学習済みのＰＬＲＭ部２０に入力して、入力音声に対応する単語などの認識単位の候補に対する確率に基づいて推定する（Ｓ００８）。最大の確率を示す候補を認識結果として表示部１０で表示する（Ｓ００９）。計算される確率の要素の全体は、認識結果の確信度を与える指標としてつかうことも出来よう。【００２５】  次にΣの選択について説明する。最も単純な選択肢は、Σ＝Ｉである。ただし、Ｉは単位行列を表す。もう一つの選択肢は、訓練用音声データへの過学習を考慮したΣ＝（１／Ｎ）ΦΦＴである。（非特許文献３、４、５参照）【００２６】  最後に、上記音声認識装置による認識実験について説明する。
ＴＩ４６データベース（表１）のＥセットに対して実験を行った。このセットは、１４３３の訓練用音声と２２９１のテスト用音声を含む。各音声信号から、１３次元のメルケプストラム係数時系列、その一次と二次回帰係数からなる３９次元の特徴ベクトルを抽出した。特徴ベクトルの抽出では２５ミリ秒のハミング窓、１０ミリ秒の窓シフトを用いた。各単語は、５ガウス混合分布の状態のＨＭＭによってモデル化した。δについては、予備実験からΣ１＝Ｉの場合はδ＝０．０１が、Σ２＝（１／Ｎ）ΦΦＴの場合はδ＝５０００に設定した。
【表１】
0004651496.tif 000005
【００２７】  表２は、本発明法と従来法の単語認識率を比較した結果を示す。
【表２】
0004651496.tif 000006
【００２８】  また、本発明は実施の形態における音声認識方法を、コンピュータに実行させるためのプログラムとして、また当該プログラムを記録したコンピュータ読み取り可能な記録媒体としても実現可能である。プログラムは、コンピュータに内蔵のＲＯＭに記録して用いても良く、ＦＤ、ＣＤ−ＲＯＭ、内蔵又は外付けの磁気ディスク等の記録媒体に記録し、コンピュータに読み取って用いても良く、インターネットを介してコンピュータにダウンロードして用いても良い。【００２９】  以上、本発明の実施の形態について説明したが、本発明は上記の実施の形態に限定されるものではなく、本発明の趣旨を逸脱しない範囲で、実施の形態に種々変更を加えられることは明白である。【００３０】  例えば、上記実施の形態では、例えば、音響モデルの第２のパラメータΛを、最急降下法などの最適化法によりＰＬＲＭ罰金付き尤度を最大化することにより、学習する第２のＰＬＲＭ音響学習工程（Ｓ００４）からＰＬＲＭのパラメータＷを最適化して学習する第１のＰＬＲＭ音響学習工程（Ｓ００６）を繰り返し行なう例を説明したが、この繰り返し回数は任意である。また、従来の音響モデルが隠れマルコフモデル（ＨＭＭ）の例を説明したが、ベイジアンネットに基づく音響モデルなど他の音響モデルの尤度を用いても良い。また、訓練音声用データは実験で用いたＥセットに限られない。
【産業上の利用可能性】
【００３１】  本発明は音声認識に利用できる。
【図面の簡単な説明】
【００３２】
【図１】本発明の実施の形態における音声認識装置の構成例のブロック図である。
【図２】本発明の実施の形態における音声認識方法の処理フロー例を示す図である。
【符号の説明】
【００３３】１    音声信号
２    訓練用音声データ
３    受信部
４    特徴抽出部
５    第２のＰＬＲＭ音響学習部
６    第１のＰＬＲＭ音響学習部
７    音響モデルデータベース
８    音響モデル尤度計算部
９    音声認識部
１０  表示部
１１  記憶部
１２  制御部
２０  ＰＬＲＭ部
３０  ＰＬＲＭ学習部
４０  音響モデル部
１００  音声認識装置
Ｗ    係数パラメータ
Λ    ハイパーパラメータ
【図１】
0004651496.tif 000007
【図２】
0004651496.tif 000008