(57)【要約】【課題】雑音を反映したガウス分布の識別性を、少ない計算量で向上させることができる音響モデル処理装置を提供する。【解決手段】フレーム集合導出手段９２は、雑音を含む音声のデータである雑音重畳データであって、個々のフレームに関して、フレームに対応する音素の特徴を示すガウス分布の識別情報が付加された雑音重畳データを用いて、識別不能ガウス分布の識別情報が付加されたフレームの集合を、識別不能ガウス分布特定手段９１によって特定された識別不能ガウス分布毎に導出する。変換行列算出手段９３は、フレーム集合導出手段９２によって導出されたフレームの集合を、フレームの集合間の分離度を最も高める空間に射影する変換行列を算出する。パラメータ追加手段９４は、雑音重畳データを変換行列で変換した結果得られるデータの平均および分散を、音響モデル内のガウス分布の平均および分散に追加する。【選択図】図９
2013054313.tif 000002
【特許請求の範囲】
【請求項１】
音素の特徴を示すガウス分布であって、雑音が反映されたガウス分布の中から、他のガウス分布と識別不能である識別不能ガウス分布を特定する識別不能ガウス分布特定手段と、
前記雑音を含む音声のデータである雑音重畳データであって、個々のフレームに関して、フレームに対応する音素の特徴を示すガウス分布の識別情報が付加された雑音重畳データを用いて、識別不能ガウス分布の識別情報が付加されたフレームの集合を、識別不能ガウス分布特定手段によって特定された識別不能ガウス分布毎に導出するフレーム集合導出手段と、
フレーム集合導出手段によって導出されたフレームの集合を、フレームの集合間の分離度を最も高める空間に射影する変換行列を算出する変換行列算出手段と、
前記雑音重畳データを前記変換行列で変換した結果得られるデータの平均および分散を、雑音が反映された音響モデルに含まれるガウス分布を表す平均および分散に追加するパラメータ追加手段とを備える
ことを特徴とする音響モデル処理装置。
【請求項２】
変換行列算出手段は、フレームの集合内の分散を表す行列をＷとし、フレームの集合間の分散を表す行列をＢとしたときに、Ｗ−１Ｂに基づいて変換行列を算出する
請求項１に記載の音響モデル処理装置。
【請求項３】
識別不能ガウス分布特定手段は、雑音が反映された音響モデルに含まれるガウス分布と、雑音を表すガウス分布との分布間距離を計算し、当該分布間距離に基づいて、前記音響モデルに含まれるガウス分布の中から識別不能ガウス分布を特定する
請求項１または請求項２に記載の音響モデル処理装置。
【請求項４】
識別不能ガウス分布特定手段は、ガウス分布同士の分布間距離として、カルバック・ライブラー距離を計算する
請求項３に記載の音響モデル処理装置。
【請求項５】
識別不能ガウス分布特定手段は、ガウス分布同士の分布間距離として、バタチャリャ距離を計算する
請求項３に記載の音響モデル処理装置。
【請求項６】
識別不能ガウス分布特定手段は、音響モデルに反映された雑音が存在する環境で発声された音声に対する音声認識の結果得られたガウス分布の中から、識別不能ガウス分布を特定する
請求項１または請求項２に記載の音響モデル処理装置。
【請求項７】
音素の特徴を示すガウス分布であって、雑音が反映されたガウス分布の中から、他のガウス分布と識別不能である識別不能ガウス分布を特定し、
前記雑音を含む音声のデータである雑音重畳データであって、個々のフレームに関して、フレームに対応する音素の特徴を示すガウス分布の識別情報が付加された雑音重畳データを用いて、識別不能ガウス分布の識別情報が付加されたフレームの集合を、識別不能ガウス分布毎に導出し、
導出したフレームの集合を、フレームの集合間の分離度を最も高める空間に射影する変換行列を算出し、
前記雑音重畳データを前記変換行列で変換した結果得られるデータの平均および分散を、雑音が反映された音響モデルに含まれるガウス分布を表す平均および分散に追加する
ことを特徴とする音響モデル処理方法。
【請求項８】
コンピュータに、
音素の特徴を示すガウス分布であって、雑音が反映されたガウス分布の中から、他のガウス分布と識別不能である識別不能ガウス分布を特定する識別不能ガウス分布特定処理、
前記雑音を含む音声のデータである雑音重畳データであって、個々のフレームに関して、フレームに対応する音素の特徴を示すガウス分布の識別情報が付加された雑音重畳データを用いて、識別不能ガウス分布の識別情報が付加されたフレームの集合を、識別不能ガウス分布特定処理で特定した識別不能ガウス分布毎に導出するフレーム集合導出処理、
フレーム集合導出処理で導出したフレームの集合を、フレームの集合間の分離度を最も高める空間に射影する変換行列を算出する変換行列算出処理、および、
前記雑音重畳データを前記変換行列で変換した結果得られるデータの平均および分散を、雑音が反映された音響モデルに含まれるガウス分布を表す平均および分散に追加するパラメータ追加処理
を実行させるための音響モデル処理プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、音素を表すガウス分布の識別性を高めるように音響モデルを処理する音響モデル処理装置、音響モデル処理方法および音響モデル処理プログラムに関する。
【背景技術】
【０００２】
音声認識装置の性能は、実運用における雑音の影響によって低下するため、耐雑音性の向上が求められる。
【０００３】
一般に、音声認識装置では、音響モデルを用いて音声認識を行う。音響モデルは、種々の音素の特徴を表した情報の集合である。音響モデルにおいて、個々の音素の特徴は混合ガウス分布で表される。音響モデルの学習時に用いられる音声信号を学習データと記す。また、音声認識装置の実運用時に認識対象となる音声信号をテストデータと記す。一般に、学習データは、雑音のないクリーンな環境で収録される。
【０００４】
上述のような音声認識性能の低下の原因は、学習データとテストデータとが異なることである。音声認識装置の耐雑音性を向上させるために、学習データとテストデータとの不一致の度合を抑える手法がある。この手法の一例として、モデル適応法がある。モデル適応法では、テストデータが含む雑音の統計量を音響モデルに反映させる。この結果、テストデータにおける音素の特徴を表すガウス分布と、音響モデルとが近づくことになり、性能の低下を抑えることができる。また、モデル適応法の計算は、雑音の統計量の計算と、その統計量を音響モデルに反映するための計算であり、この計算量は、学習データから音響モデルを再度学習するよりも低コストであるという利点がある。
【０００５】
モデル適応法として、例えば、ＰＭＣ適応法（Parallel Model Compensation ）や、ＶＴＳ適応法（Vector Taylor Series）等がある（例えば、非特許文献１参照）。また、特許文献１にも、モデル適応法が記載されている。
【０００６】
以下、モデル適応法において雑音を反映させた音響モデルを雑音適応モデルと記す。
【先行技術文献】
【特許文献】
【０００７】
【特許文献１】特開平１１−２１２５８７号公報
【非特許文献】
【０００８】
【非特許文献１】Alex Acero, Li Deng, Trausti Kristjansson, Jerry Zhang, “HMM ADAPTATION USING VECTOR TAYLOR SERIES FOR NOISY SPEECH RECOGNITION” in Proc.ICSLP, Vol.3, pp.869-872, ２０００年
【発明の概要】
【発明が解決しようとする課題】
【０００９】
モデル適応法では、音響モデルに雑音を反映することによって得られる雑音適応モデルにおいて、音素の特徴を表すガウス分布が互いに識別できないガウス分布の集合が存在するようになる。音素の特徴を表すガウス分布が互いに識別できないと、音声認識の精度が低下する。
【００１０】
雑音適応モデルにおけるガウス分布（音素の特徴を表す情報）の識別性を向上させることを目的として、線形判別法等で得られる新たな特徴量を導入することが考えられる。しかし、この場合、音響モデルを再学習する必要があるため、計算量が多くなる。
【００１１】
そこで、本発明は、雑音を反映したガウス分布の識別性を、少ない計算量で向上させることができる音響モデル処理装置、音響モデル処理方法および音響モデル処理プログラムを提供することを目的とする。
【課題を解決するための手段】
【００１２】
本発明による音響モデル処理装置は、音素の特徴を示すガウス分布であって、雑音が反映されたガウス分布の中から、他のガウス分布と識別不能である識別不能ガウス分布を特定する識別不能ガウス分布特定手段と、雑音を含む音声のデータである雑音重畳データであって、個々のフレームに関して、フレームに対応する音素の特徴を示すガウス分布の識別情報が付加された雑音重畳データを用いて、識別不能ガウス分布の識別情報が付加されたフレームの集合を、識別不能ガウス分布特定手段によって特定された識別不能ガウス分布毎に導出するフレーム集合導出手段と、フレーム集合導出手段によって導出されたフレームの集合を、フレームの集合間の分離度を最も高める空間に射影する変換行列を算出する変換行列算出手段と、雑音重畳データを変換行列で変換した結果得られるデータの平均および分散を、雑音が反映された音響モデルに含まれるガウス分布を表す平均および分散に追加するパラメータ追加手段とを備えることを特徴とする。
【００１３】
また、本発明による音響モデル処理方法は、音素の特徴を示すガウス分布であって、雑音が反映されたガウス分布の中から、他のガウス分布と識別不能である識別不能ガウス分布を特定し、雑音を含む音声のデータである雑音重畳データであって、個々のフレームに関して、フレームに対応する音素の特徴を示すガウス分布の識別情報が付加された雑音重畳データを用いて、識別不能ガウス分布の識別情報が付加されたフレームの集合を、識別不能ガウス分布毎に導出し、導出したフレームの集合を、フレームの集合間の分離度を最も高める空間に射影する変換行列を算出し、雑音重畳データを変換行列で変換した結果得られるデータの平均および分散を、雑音が反映された音響モデルに含まれるガウス分布を表す平均および分散に追加することを特徴とする。
【００１４】
また、本発明による音響モデル処理プログラムは、コンピュータに、音素の特徴を示すガウス分布であって、雑音が反映されたガウス分布の中から、他のガウス分布と識別不能である識別不能ガウス分布を特定する識別不能ガウス分布特定処理、雑音を含む音声のデータである雑音重畳データであって、個々のフレームに関して、フレームに対応する音素の特徴を示すガウス分布の識別情報が付加された雑音重畳データを用いて、識別不能ガウス分布の識別情報が付加されたフレームの集合を、識別不能ガウス分布特定処理で特定した識別不能ガウス分布毎に導出するフレーム集合導出処理、フレーム集合導出処理で導出したフレームの集合を、フレームの集合間の分離度を最も高める空間に射影する変換行列を算出する変換行列算出処理、および、雑音重畳データを変換行列で変換した結果得られるデータの平均および分散を、雑音が反映された音響モデルに含まれるガウス分布を表す平均および分散に追加するパラメータ追加処理を実行させることを特徴とする。
【発明の効果】
【００１５】
本発明によれば、雑音を反映したガウス分布の識別性を、少ない計算量で向上させることができる。
【図面の簡単な説明】
【００１６】
【図１】本発明の第１の実施形態の音響モデル処理装置の例を示すブロック図である。
【図２】ディジタル波形の形式の雑音重畳学習データおよびパワースペクトルベクトルの形式の雑音重畳学習データを模式的に示す説明図である。
【図３】本発明の処理経過の例を示すフローチャートである。
【図４】本発明により得られた雑音適応モデルを用いる音声認識装置の構成例を示すブロック図である。
【図５】図４に示す音声認識装置による音声認識処理の処理経過の例を示すフローチャートである。
【図６】本発明の第２の実施形態の音響モデル処理装置の例を示すブロック図である。
【図７】一般的な音声認識装置の構成例を示すブロック図である。
【図８】音声認識結果として得られた音素を音響スコアの高い順に抽出した結果を模式的に示す説明図である。
【図９】本発明の最小構成の例を示すブロック図である。
【発明を実施するための形態】
【００１７】
以下、本発明の実施形態を図面を参照して説明する。
【００１８】
実施形態１．
図１は、本発明の第１の実施形態の音響モデル処理装置の例を示すブロック図である。第１の実施形態の音響モデル処理装置１００は、識別不能ガウス分布取得部１０１と、追加パラメータ算出用学習データ作成部１０２と、追加特徴量変換行列算出部１０３と、ガウス分布パラメータ追加部１０４とを備える。
【００１９】
また、音響モデル処理装置１００には、雑音適応モデル格納部１０６と、雑音重畳学習データ格納部１０７と、変換行列格納部１０８と、パラメータ追加雑音適応モデル格納部１０９とが接続される。図１では、これらの各格納部１０６〜１０９が音響モデル処理装置１００の外部に設けられている場合を例示しているが、音響モデル処理装置１００がこれらの各格納部１０６〜１０９を備える構成であってもよい。
【００２０】
まず、雑音適応モデル格納部１０６および雑音重畳学習データ格納部１０７について説明する。
【００２１】
雑音適応モデル格納部１０６は、雑音適応モデル（すなわち、雑音が反映された音響モデル）を格納する記憶装置である。雑音適応モデルは、雑音のないクリーンな環境で収録された学習データを用いて学習された音響モデルを雑音に適応したものである。以下、雑音のないクリーンな環境で収録された学習データをクリーン学習データと記す。また、クリーン学習データを用いて学習された音響モデルをクリーン音響モデルと記す。例えば、非特許文献１に記載されたＶＴＳ適応法等のモデル適応法によって、クリーン音響モデルから雑音適応モデルを生成すればよい。雑音適応モデル格納部１０６には、予め生成された雑音適応モデルが格納される。
【００２２】
雑音適応モデル格納部１０６に格納される雑音適応モデルには、Ｎ種類の音素に対応するガウス分布が含まれているとする。ここでは、説明を簡単にするために、個々の音素の特徴は、それぞれ１つのガウス分布で表現されるものとする。ただし、個々の音素の特徴が複数のガウス分布で表現されていてもよい。各音素に対応するガウス分布には、音素毎に識別情報を定める。ここでは、各ガウス分布に識別情報として番号を割り当てる場合を例にし、この番号（識別情報）を、分布ＩＤ番号と記す。
【００２３】
また、本例では、／ａ／，／ｉ／，／ｕ／，／ｅ／，／ｏ／等の母音や、／ｋ／，／ｔ／，／ｓ／，／ｎ／，／ｐ／，・・・等の子音が音素に該当するものとする。例えば、本例では、／ａ／，／ｉ／，／ｏ／，／ｕ／に対応するガウス分布の分布ＩＤ番号が、それぞれ“１”，“２”，“５”，“３”であるものとする。他の音素のガウス分布にも分布ＩＤ番号を割り当てておく。本例では、音素の種類をＮ種類としているので、ガウス分布の分布ＩＤ番号を変数ｉで表すと、ｉ＝１，２，・・・，Ｎとなる。
【００２４】
また、各ガウス分布は、平均と分散をパラメータとして表現されているものとする。ガウス分布の平均をμｙ，ｉと表し、ガウス分布の分散をΣｙ，ｉと表すこととする。ここで、添え字“ｙ”は、平均や分散が雑音適応モデルに含まれるガウス分布のパラメータであることを示す。また、添え字“ｉ”は分布ＩＤ番号である。例えば、上記の例において、μｙ，１，Σｙ，１は、それぞれ音素／ａ／のガウス分布の平均、分散を意味する。
【００２５】
また、ここでは、学習データの２３次元対数メルスペクトルで音響モデルを学習したことを想定し、雑音適応モデルの平均は２３次元であり、分散は２３×２３次元であるとする。ただし、学習データは２３次元に限定されるわけではない。
【００２６】
雑音重畳学習データ格納部１０７は、前述のクリーン音響モデルの学習に用いたクリーン学習データのディジタル波形に対して、雑音適応モデルを適応した雑音と同じ雑音のディジタル波形を足して作成したデータ（以下、雑音重畳学習データと記す。）を格納する記憶装置である。雑音重畳学習データ格納部１０７には、予め生成された雑音重畳学習データが格納される。
【００２７】
本実施形態では、雑音重畳学習データ格納部１０７に格納する雑音重畳学習データの形式は、ディジタル波形をフレーム単位に区切りＦＦＴ（Fast Fourier Transform：高速フーリエ変換）した２５６次元のパワースペクトルベクトルの時系列順のデータであるとする。ただし、時系列順のデータは、２５６次元のパワースペクトルベクトルに限定されるわけではない。
【００２８】
図２は、ディジタル波形の形式の雑音重畳学習データおよびパワースペクトルベクトルの形式の雑音重畳学習データを模式的に示す説明図である。図２に示す上段は、ディジタル波形の形式の雑音重畳学習データを示している。すなわち、クリーン学習データのディジタル波形に雑音のディジタル波形を足したディジタル波形を示している。図２に示す下段は、このディジタル波形の形式の雑音重畳学習データに対してＦＦＴを行って得られる２５６次元のパワースペクトルベクトルを模式的に示している。
【００２９】
学習データ内におけるフレームの番号（以下、単にフレーム番号と記す。）を変数ｔで表し、学習データにおいて、ｔ＝１，２，・・・，Ｔであるとする。すなわち、Ｔ番目のフレームまで存在するとする。図２では、学習データのうち、ｔ＝τからｔ＝τ＋１６までの範囲の１７個の音素について示している。これらの音素は、日本語の「ありがとーございます」という発音に対応する音素であり、ｔ＝１からｔ＝τ−１までの範囲や、ｔ＝τ＋１７からｔ＝Ｔまでの範囲においても、同様に、ディジタル波形およびパワースペクトルベクトルの形式の雑音重畳学習データが得られる。
【００３０】
また、雑音重畳学習データ格納部１０７に格納される雑音重畳学習データには、時系列順に従って、フレーム毎に、そのフレームの音素に対応するガウス分布の分布ＩＤ番号が付加されている。例えば、図２に示す例では、ｔ＝τにおける音素（すなわち、τ番目の音素）は／ａ／であり、ｔ＝τにおけるパワースペクトルベクトルには、分布ＩＤ番号として“１”が付加されている。このように雑音重畳学習データに付加されている分布ＩＤ番号をｌｔと表すこととする。添え字のｔは学習データ内におけるフレーム番号を意味する。従って、図２に示す例では、ｌτ＝１である。図２を参照して他の例を挙げると、ｌτ＋４＝１、ｌτ＋６＝５等の例が挙げられる。
【００３１】
また、時系列順の各パワースペクトルベクトルをＹｔとする。上記の場合と同様に、添え字のｔは学習データ内におけるフレーム番号を意味する。例えば、ｔ＝τにおけるパワースペクトルベクトル（すなわち、τ番目のパワースペクトル）は、Ｙτと表される。
【００３２】
Ｙｔおよびｌｔにおいて、ｔ＝１，２，・・・，Ｔである。
【００３３】
次に、音響モデル作成装置１００の概要について説明する。
【００３４】
識別不能ガウス分布取得部１０１は、雑音適応モデル格納部１０６に格納される雑音適応モデルから、互いに識別不能となっているガウス分布（以下、識別不能ガウス分布と記す場合がある。）の分布ＩＤ番号を取得する。雑音適応モデルには雑音が反映されていることにより、互いに異なるガウス分布同士を識別できない場合がある。識別不能ガウス分布取得部１０１は、識別不能ガウス分布の分布ＩＤ番号を取得する。
【００３５】
追加パラメータ算出用学習データ作成部１０２は、追加パラメータ算出用学習データを作成する。追加パラメータ算出用学習データは、識別不能ガウス分布取得部１０１に取得された分布ＩＤ番号と同一の分布ＩＤ番号がｌｔとして付加されているフレーム番号の集合である。追加パラメータ算出用学習データ作成部１０２は、識別不能ガウス分布取得部１０１に取得された分布ＩＤ番号毎に追加パラメータ算出用学習データを生成する。このフレーム番号の集合は、フレームの集合であるということができる。
【００３６】
追加パラメータ算出用学習データは、雑音適用モデル格納部１０６に格納された各ガウス分布のμｙ，ｉ，Σｙ，ｉに追加する情報を算出するために用いられるデータである。
【００３７】
追加特徴量変換行列算出部１０３は、追加パラメータ算出用学習データ作成部１０２によって作成された追加パラメータ算出用学習データを、フレームの集合間の分離度を最も高める空間に射影する行列を算出する。以下、この行列を、追加特徴量変換行列と記し、符号Ａで表す。
【００３８】
ガウス分布パラメータ追加部１０４は、追加特徴量変換行列で、雑音重畳学習データＹｔを変換する。この変換結果は、識別不能ガウス分布に相当する音素を識別しやすくした特性を有する特徴量であり、以下、追加特徴量と記す。ガウス分布パラメータ追加部１０４は、雑音適応モデルにおける各分布ＩＤ番号ｉに対応する平均および分散に、追加特徴量の平均および分散を追加する。
【００３９】
識別不能ガウス分布取得部１０１、追加パラメータ算出用学習データ作成部１０２、追加特徴量変換行列算出部１０３およびガウス分布パラメータ追加部１０４は、例えば、音響モデル処理プログラムに従って動作するコンピュータのＣＰＵによって実現される。この場合、例えば、コンピュータのプログラム記憶装置（図示略）が音響モデル処理プログラムを記憶し、ＣＰＵがそのプログラムを読み込んで、そのプログラムに従って、識別不能ガウス分布取得部１０１、追加パラメータ算出用学習データ作成部１０２、追加特徴量変換行列算出部１０３およびガウス分布パラメータ追加部１０４として動作すればよい。あるいは、識別不能ガウス分布取得部１０１、追加パラメータ算出用学習データ作成部１０２、追加特徴量変換行列算出部１０３およびガウス分布パラメータ追加部１０４がそれぞれ別々のユニットで実現されていてもよい。
【００４０】
また、変換行列格納部１０８は、追加特徴量変換行列算出部１０３によって算出された追加特徴量変換行列を格納する記憶装置である。
【００４１】
パラメータ追加雑音適応モデル格納部１０９は、ガウス分布パラメータ追加部１０４によって情報が追加された雑音適応モデルを格納する記憶装置である。
【００４２】
次に、動作について説明する。
図３は、本発明の処理経過の例を示すフローチャートである。まず、識別不能ガウス分布取得部１０１は、雑音適応モデル格納部１０６に格納される雑音適応モデルから、識別不能ガウス分布の分布ＩＤ番号を取得する（ステップＡ１）。雑音適応モデルには、Ｎ個の音素に対応するガウス分布が含まれている。識別不能ガウス分布取得部１０１は、そのうちの識別不能ガウス分布の分布ＩＤ番号を取得する。
【００４３】
モデル適応法により識別不能になるガウス分布は、一般に、モデル適応法で必要とする雑音の統計量で作るガウス分布（以下、Ｎ（μｎ，Σｎ）と表す。）との分布間距離が近い。従って、ガウス分布Ｎ（μｎ，Σｎ）との分布間距離が、予め定めた閾値以下になるガウス分布の集合を識別不能ガウス分布の集合とみなすことができる。よって、識別不能ガウス分布取得部１０１は、ガウス分布Ｎ（μｎ，Σｎ）との分布間距離が閾値以下となるガウス分布の分布ＩＤ番号の集合を求めればよい。識別不能ガウス分布取得部１０１は、ガウス分布同士の分布間距離として、例えば、カルバック・ライブラー距離を計算してもよい。
【００４４】
識別不能ガウス分布の分布ＩＤ番号の集合をＳとし、閾値をＴｈとする。分布間距離として、例えば、カルバック・ライブラー距離を計算する場合、識別不能ガウス分布の分布ＩＤ番号の集合Ｓは、以下の式（１）のように表すことができる。
【００４５】
Ｓ＝｛ｉ｜ＫＬ（Ｎ（μｙ，ｉ，Σｙ，ｉ），Ｎ（μｎ，Σｎ））＜Ｔｈ｝
式（１）
【００４６】
ここで、カルバック・ライブラー距離ＫＬ（Ｎ（μｙ，ｉ，Σｙ，ｉ），Ｎ（μｎ，Σｎ））は、以下の式（２）で計算される。
【００４７】
【数１】
2013054313.tif 000003
【００４８】
以下、識別不能ガウス分布取得部１０１によって取得された識別不能ガウス分布の分布ＩＤ番号はＫ個存在するとし、その分布ＩＤ番号をｉｋで表す。ただし、ｋ＝１，２，・・・，Ｋである。このとき、識別不能ガウス分布取得部１０１によって取得された分布ＩＤ番号の集合Ｓは、以下の式（３）のように表すことができる。
【００４９】
Ｓ＝｛ｉｋ｜ｋ＝１，２，・・・，Ｋ｝          式（３）
【００５０】
なお、分布間距離はカルバック・ライブラー距離以外の距離であってもよい。例えば、識別不能ガウス分布取得部１０１は、分布間距離としてバタチャリャ距離等を計算してもよい。
【００５１】
ステップＡ１の後、追加パラメータ算出用学習データ作成部１０２は、追加パラメータ算出用学習データを作成する（ステップＡ２）。ステップＡ２において、追加パラメータ算出用学習データ作成部１０２は、雑音重畳学習データ格納部１０７に格納された雑音重畳学習データに対してフレーム毎に付加されている分布ＩＤ番号ｌｔを参照し、識別不能ガウス分布の分布ＩＤ番号ｉｋと同一の分布ＩＤ番号ｌｔが付加されているフレームのフレーム番号を取得する。追加パラメータ算出用学習データ作成部１０２は、この処理を識別不能ガウス分布の分布ＩＤ番号ｉｋ毎に行う。識別不能ガウス分布の分布ＩＤ番号ｉｋ毎に取得されたフレーム番号の集合が、追加パラメータ算出用学習データとなる。
【００５２】
すなわち、識別不能ガウス分布の分布ＩＤ番号ｉｋ毎に取得するフレーム番号の集合をＣｋとすると、追加パラメータ算出用学習データ作成部１０２は、識別不能ガウス分布の分布ＩＤ番号ｉｋに応じたフレーム番号の集合Ｃｋを追加パラメータ算出用学習データとする。集合Ｃｋは、以下の式（４）のように表すことができる。
【００５３】
Ｃｋ＝｛ｔ｜ｌｔ＝ｉｋ｝          式（４）
【００５４】
以下、ステップＡ２の処理の具体例を図２を参照して説明する。ここでは、ステップＡ１において、音素／ａ／，／ｕ／，／ｏ／に対応するガウス分布が識別不能ガウス分布であると判定され、／ａ／，／ｕ／，／ｏ／に対応するガウス分布の分布ＩＤ番号１，３，５がステップＡ１で得られたとする。この場合、式（３）におけるＫ（識別不能ガウス分布の分布ＩＤ番号の個数）は、３個である。そして、識別不能ガウス分布の分布ＩＤ番号は、ｉ１＝１，ｉ２＝３，ｉ３＝５と表すことができる。
【００５５】
追加パラメータ算出用学習データ作成部１０２は、ｉ１に関して、ｌｔ＝ｉ１となるフレーム番号を時系列順の雑音重畳学習データのフレーム番号から取得する。ｉ１＝１であるので、追加パラメータ算出用学習データ作成部１０２は、ｌｔ＝１を満たすフレーム番号として、“τ”，“τ＋４”，“τ＋１１”，“τ＋１４”等を取得する（図２参照）。なお、図２では、ｔ＝τからｔ＝τ＋１６までの範囲のみについて示している。それ以外の範囲（ｔ＝１からｔ＝τ−１までの範囲や、ｔ＝τ＋１７からｔ＝Ｔまでの範囲）においても、ｌｔ＝１を満たすフレーム番号があれば、追加パラメータ算出用学習データ作成部１０２は、そのフレーム番号も取得する。従って、ｉ１に対応するフレーム番号の集合Ｃ１は、以下のようになる。
【００５６】
Ｃ１＝｛・・・，τ、τ＋４，τ＋１１，τ＋１４，・・・｝
【００５７】
同様に、追加パラメータ算出用学習データ作成部１０２は、ｉ２に関して、ｌｔ＝ｉ２となるフレーム番号を時系列順の雑音重畳学習データのフレーム番号から取得する。ｉ２＝３であるので、追加パラメータ算出用学習データ作成部１０２は、ｌｔ＝３を満たすフレーム番号として“τ＋１６”等を取得する（図２参照）。従って、ｉ２に対応するフレーム番号の集合Ｃ２は、以下のようになる。
【００５８】
Ｃ２＝｛・・・，τ＋１６，・・・｝
【００５９】
同様に、追加パラメータ算出用学習データ作成部１０２は、ｉ３に関して、ｌｔ＝ｉ３となるフレーム番号を時系列順の雑音重畳学習データのフレーム番号から取得する。ｉ３＝５であるので、追加パラメータ算出用学習データ作成部１０２は、ｌｔ＝５を満たすフレーム番号として、“τ＋６”，“τ＋７”，“τ＋９”等を取得する（図２参照）。従って、ｉ３に対応するフレーム番号の集合Ｃ３は、以下のようになる。
【００６０】
Ｃ３＝｛・・・，τ＋６，τ＋７，τ＋９，・・・｝
【００６１】
このようにして得られたＣ１，Ｃ２，Ｃ３が追加パラメータ算出用学習データに該当する。
【００６２】
以下、集合Ｃｋをクラスと称する場合がある。
【００６３】
ステップＡ２の後、追加特徴量変換行列算出部１０３は、追加パラメータ算出用学習データ作成部１０２によって作成された追加パラメータ算出用学習データを、フレームの集合間の分離度を最も高める空間に射影する追加特徴量変換行列Ａを算出する（ステップＡ３）。なお、ここで、フレームの集合とはステップＡ２で得られた個々の集合Ｃｋである。また、上記の「フレームの集合間の分離度を最も高める空間」は、識別不能ガウス分布の分布ＩＤ番号の集合Ｓに着目した場合、「集合Ｓの元ｉｋ同士の識別性を最も高める空間」であるということができる。
【００６４】
追加特徴量変換行列Ａの算出には、例えば、線形判別分析等を用いることができる。
【００６５】
以下、追加特徴量変換行列Ａの算出方法の例を示す。追加特徴量変換行列算出部１０３は、まず、クラス内の分散（Ｗとする。）を、以下の式（５）によって計算する。
【００６６】
【数２】
2013054313.tif 000004
【００６７】
また、追加特徴量変換行列算出部１０３は、クラス間の分散（Ｂとする。）を、以下の式（６）によって計算する。
【００６８】
【数３】
2013054313.tif 000005
【００６９】
式（５）および式（６）で、Ｙａｖｅ，ｋは、Ｃｋに属するフレーム番号に対応する雑音重畳学習データＹｔの平均である。
【００７０】
式（６）で、Ｙａｖｅは、全フレームにおける雑音重畳学習データＹｔの平均である。また、式（６）で、Ｔｋは、Ｃｋに属するフレーム（より具体的には、フレーム番号）の個数である。
【００７１】
追加特徴量変換行列算出部１０３は、行列Ｗ−１Ｂの固有値のうち、値の大きい順に上位Ｍ個の固有値λ１，・・・，λＭを特定し、その固有値λ１，・・・，λＭに対応する固有ベクトルを特定する。この固有ベクトルを、Ａ１，・・・，ＡＭとする。追加特徴量変換行列算出部１０３は、この固有ベクトルＡ１，・・・，ＡＭを用いて、以下の式（７）で表される行列を追加特徴量変換行列Ａとして求める。
【００７２】
Ａ＝［Ａ１，・・・，ＡＭ］            式（７）
【００７３】
上記の行列Ｗ−１Ｂは、フレームの集合間の分離度を表しているということができる。
【００７４】
また、追加特徴量変換行列算出部１０３は、ステップＡ３で算出した追加特徴量変換行列Ａを変換行列格納部１０８に格納する。
【００７５】
ステップＡ３の後、ガウス分布パラメータ追加部１０４は、追加特徴量変換行列Ａで雑音重畳学習データＹｔを変換することにより、追加特徴量を算出する。そして、雑音適応モデルにおける分布ＩＤ番号ｉ毎に、追加特徴量の平均と分散とを、追加パラメータとして算出する。そして、ガウス分布パラメータ追加部１０４は、雑音適応モデルにおける各分布ＩＤ番号ｉに対応する平均に、追加パラメータとして算出した平均を追加する。同様に、ガウス分布パラメータ追加部１０４は、雑音適応モデルにおける各分布ＩＤ番号ｉに対応する分散に、追加パラメータとして算出した分散を追加する（ステップＡ４）。なお、雑音適応モデルにおける平均や分散はベクトルとして表されている。ガウス分布パラメータ追加部１０４は、追加パラメータをそのベクトルの要素として追加する。
【００７６】
ステップＡ４の処理を具体的に説明する。ガウス分布パラメータ追加部１０４は、雑音適応モデルにおける分布ＩＤ番号ｉ毎に追加特徴量の平均を算出する処理として、ｉ毎に以下の式（８）の計算を行えばよい。式（８）の左辺に示すμ’ｙ，ｉは、着目しているｉに関して求める追加特徴量の平均である。
【００７７】
【数４】
2013054313.tif 000006
【００７８】
また、ガウス分布パラメータ追加部１０４は、雑音適応モデルにおける分布ＩＤ番号ｉ毎に追加特徴量の分散を算出する処理として、ｉ毎に以下の式（９）の計算を行えばよい。式（９）の左辺に示すΣ’ｙ，ｉは、着目しているｉに関して求める追加特徴量の分散である。
【００７９】
【数５】
2013054313.tif 000007
【００８０】
式（８）および式（９）において、Ｔｉは、ｌｔ＝ｉとなっているフレームの個数である。
【００８１】
ガウス分布パラメータ追加部１０４は、雑音適応モデル格納部１０６に格納された雑音適応モデルに含まれる各音素に対応するガウス分布毎に（すなわち、分布ＩＤ番号ｉ毎に）、ガウス分布の平均μｙ，ｉに、式（８）で算出した追加特徴量の平均μ’ｙ，ｉを追加する。
【００８２】
同様に、ガウス分布パラメータ追加部１０４は、雑音適応モデル格納部１０６に格納された雑音適応モデルに含まれる各音素に対応するガウス分布毎に（すなわち、分布ＩＤ番号ｉ毎に）、ガウス分布の分散Σｙ，ｉに、式（９）で算出した追加特徴量の分散Σ’ｙ，ｉを追加する。
【００８３】
ステップＡ４において、μｙ，ｉに追加特徴量の平均μ’ｙ，ｉを追加した結果をμＮＥＷｙ，ｉとする。μＮＥＷｙ，ｉは、以下の式（１０）のベクトルとして表される。
【００８４】
【数６】
2013054313.tif 000008
【００８５】
また、ステップ４において、Σｙ，ｉに追加特徴量の分散Σ’ｙ，ｉを追加した結果をΣＮＥＷｙ，ｉとする。ΣＮＥＷｙ，ｉは、以下の式（１１）のベクトルとして表される。
【００８６】
【数７】
2013054313.tif 000009
【００８７】
ステップＡ４の結果、音素毎に、音素に対応するガウス分布を表す情報として、式（１０）に示すμＮＥＷｙ，ｉと、式（１１）に示すΣＮＥＷｙ，ｉとを含む雑音適応モデルが得られる。以下、この雑音適応モデルを、パラメータ追加雑音適応モデルと記す。
【００８８】
ガウス分布パラメータ追加部１０４は、パラメータ追加雑音適応モデルを、パラメータ追加雑音適応モデル格納部１０９に格納する。
【００８９】
次に、本発明の動作によって得られた追加特徴量変換行列Ａ、および音素に対応するガウス分布を表す情報としてμＮＥＷｙ，ｉとΣＮＥＷｙ，ｉとを含む雑音適応モデルを用いた音声認識処理について説明する。図４は、この音声認識処理を行う音声認識装置の構成例を示すブロック図である。図４に示す音声認識装置は、基本的な構成要素である特徴量抽出部３０１と、サーチ部３０３とを備え、さらに、変換行列格納部３０５と、パラメータ追加雑音適応モデル格納部３０６と、追加特徴量変換部３０４と、特徴量統合部３０２とを備える。
【００９０】
変換行列格納部３０５は、本発明の音響モデル処理装置によって算出された追加特徴量変換行列Ａを格納する記憶装置である。また、パラメータ追加雑音適応モデル格納部３０６は、本発明の音響モデル処理装置によって算出されたパラメータ追加雑音適応モデルを格納する記憶装置である。変換行列格納部３０５およびパラメータ追加雑音適応モデル格納部３０６として、本発明の音響モデル処理装置に接続された変換行列格納部１０８およびパラメータ追加雑音適応モデル格納部１０９（図１参照）を用いてもよい。
【００９１】
図５は、図４に示す音声認識装置による音声認識処理の処理経過の例を示すフローチャートである。まず、特徴量抽出部３０１は、入力信号から特徴量を抽出する（ステップＢ１）。また、追加特徴量変換部３０４は、追加特徴量変換行列Ａを用いて、入力信号に対する変換を行い、追加特徴量を算出する（ステップＢ２）。続いて、特徴量統合部３０２が、ステップＢ１で抽出された特徴量と、ステップＢ２での変換処理で得られた追加特徴量とを統合して、新たな特徴量を算出する（ステップＢ３）。そして、サーチ部３０３は、ステップＢ１で抽出された特徴量とステップＢ２での変換処理で得られた追加特徴量とを統合した特徴量に類似するガウス分布をサーチし、そのガウス分布に対応する音素を認識結果として出力する（ステップＢ４）。
【００９２】
本実施形態による音響モデル処理装置によれば、音声モデルを適応した雑音と同じ雑音を重畳させた音声データ（雑音重畳学習データ）を用いて、追加特徴量変換行列Ａを算出する。そして、追加特徴量変換行列Ａで、雑音重畳学習データＹｔを変換することにより、追加特徴量を算出し、追加特徴量の平均および分散をそれぞれ、雑音適応モデルにおけるガウス分布の平均および分散に追加する。その結果、雑音適応モデルにおけるガウス分布の識別性を高めることができる。そして、雑音適応モデルを用いた音声認識の精度低下を防止することができる。また、雑音適応モデルにおけるガウス分布の識別性を高めるための計算量は、音響モデルの学習に要する計算量よりも少なくて済む。
【００９３】
このように、本実施形態によれば、雑音を反映した音響モデルにおけるガウス分布の識別性を、少ない計算量で向上させることができる。
【００９４】
実施形態２．
図６は、本発明の第２の実施形態の音響モデル処理装置の例を示すブロック図である。第１の実施形態と同様の構成要素については、図１と同一の符号を付し、説明を省略する。第２の実施形態の音響モデル処理装置１２０は、第１の実施形態における識別不能ガウス分布取得部１０１の代わりに識別不能ガウス分布取得部１２１を備える点で第１の実施形態と異なる。追加パラメータ算出用学習データ作成部１０２、追加特徴量変換行列算出部１０３およびガウス分布パラメータ追加部１０４は、第１の実施形態におけるそれらの要素と同様である。
【００９５】
音響モデル作成装置１２０には、雑音適応モデル格納部１０６と、雑音重畳学習データ格納部１０７と、認識結果格納部１２２と、変換行列格納部１０８と、パラメータ追加雑音適応モデル格納部１０９とが接続される。図６では、これらの各格納部が音響モデル処理装置１２０の外部に設けられている場合を例示しているが、音響モデル処理装置１２０がこれらの各格納部を備える構成であってもよい。
【００９６】
第２の実施形態では、第１の実施形態とは異なり、雑音適応モデル格納部１０６は、識別不能ガウス分布取得部１２１によって利用されない。ただし、雑音適応モデル格納部１０６がガウス分布パラメータ追加部１０４によって利用される点については、第１の実施形態と同様である。
【００９７】
識別不能ガウス分布取得部１２１は、認識結果格納部１２２に格納された音声認識結果に基づいて、識別不能ガウス分布の分布ＩＤ番号を取得する。
【００９８】
認識結果格納部１２２は、モデル適応法を用いた一般的な音声認識装置によって出力される音声認識結果を格納する記憶装置である。この音声認識結果は、フレーム毎に音響スコアが付随した音声認識結果である。
【００９９】
また、認識結果格納部１２２に格納される音声認識結果は、雑音適応モデルに用いられる雑音環境と同じ雑音環境で発声された音声に対する認識結果である。認識結果格納部１２２は、音声認識結果として、フレーム毎に、音素と、その音素に対するＨＭＭ（Hidden Markov Model ）の状態（ガウス分布で表される状態）と、そのガウス分布の分布ＩＤ番号と、音響スコアとを記憶する。
【０１００】
図７は、認識結果格納部１２２に格納される音声認識結果を得るために用いられる一般的な音声認識装置の構成例を示すブロック図である。一般的な音声認識装置は、例えば、特徴量抽出部９０１と、サーチ部９０２と、雑音適応モデル格納部９０３と、認識結果格納部９０４とを備える。雑音適応モデル格納部９０３には、予め雑音適応モデルが格納される。特徴量抽出部９０１は、入力信号から、フレーム毎に特徴量を抽出する。サーチ部９０２は、その特徴量に類似するＨＭＭの状態（ガウス分布）をサーチし、類似の度合に応じた音響スコアを算出する。そして、フレームに対応する音素、サーチしたＨＭＭの状態、その分布ＩＤ番号、および音響スコアを音声認識結果として、認識結果格納部９０４に記憶する。ただし、サーチ部９０２は、特徴量に類似するＨＭＭの状態（ガウス分布）として１つの状態だけでなく、類似度の高い複数の状態をサーチし、各状態に関して音響スコアを算出し、音響スコアの高い順にｎ個の音声認識結果を導出する。ｎの値は、予め定めておけばよい。なお、パラメータ追加雑音適応モデルを用いて音声認識結果を導出してもよい。
【０１０１】
図８は、１つのフレームにおいて、音声認識結果として得られた音素を音響スコアの高い順に抽出した結果を模式的に示す説明図である。ある入力信号におけるあるフレームにおいて、音声認識結果として、音響スコアの高い順に／ａ／，／ｕ／，／ｏ／，／ｅ／が得られ、それぞれの音響スコアがＳ１，Ｓ２，Ｓ３，Ｓ４であるとする。ここでは、音響スコアの高い順に４つの音声認識結果を導出する場合を例示している。また、図８では、ＨＭＭの状態（ガウス分布）を示す情報や、分布ＩＤ番号を省略している。
【０１０２】
音響スコアの高い順に上位ｎ個の音素、音響スコア、ＨＭＭの状態（ガウス分布）を示す情報、分布ＩＤ番号が入力信号のフレーム毎に導出され、認識結果格納部１２２に記憶される。なお、音声認識装置に設けられる認識結果格納部９０４（図７参照）が、音響モデル作成装置１２０に接続される認識結果格納部１２２（図６参照）として用いられてもよい。
【０１０３】
識別不能ガウス分布取得部１２１は、認識結果格納部１２２に格納された音声認識結果を参照し、音響スコアの差が閾値以下となっている音素に対応するガウス分布の分布ＩＤ番号を、識別不能ガウス分布の分布ＩＤ番号として取得する。
【０１０４】
例えば、図４に示す例において、順位が最も高い音素の音響スコアＳ１と、２位以下の順の音素の音響スコアとの差を計算し、その差が閾値以下であれば、それらの音素に対応するガウス分布の分布ＩＤ番号を、識別不能ガウス分布の分布ＩＤ番号として取得すればよい。具体的には、例えば、Ｓ１−Ｓ２が閾値以下であれば、音素／ａ／に対応するガウス分布の分布ＩＤ番号、および／ｕ／に対応するガウス分布の分布ＩＤ番号を取得すればよい。順位が３位以下の音素に関しても同様である。また、逆に、Ｓ１−Ｓ２が閾値を越えていれば、／ａ／，／ｕ／それぞれに対応する各分布ＩＤ番号は取得しない。
【０１０５】
識別不能ガウス分布取得部１２１は、このような処理をフレーム毎の音声認識結果に対して行えばよい。
【０１０６】
識別不能ガウス分布取得部１２１が識別不能ガウス分布の分布ＩＤ番号を取得した後の動作は、第１の実施形態と同様であり、説明を省略する。
【０１０７】
第２の実施形態によれば、雑音環境で発生された音声に対する認識結果として得られたガウス分布の識別性を高めた音響モデルを得ることができる。また、第１の実施形態と同様に、ガウス分布の識別性を高めるための計算量が少なくて済むという効果が得られる。
【０１０８】
なお、本発明において、ガウス分布は、単一ガウス分布であっても、混合ガウス分布であってもよい。
【０１０９】
次に、本発明の最小構成について説明する。図９は、本発明の最小構成の例を示すブロック図である。本発明の音響モデル処理装置９０は、識別不能ガウス分布特定手段９１と、フレーム集合導出手段９２と、変換行列算出手段９３と、パラメータ追加手段９４とを備える。
【０１１０】
識別不能ガウス分布特定手段９１（例えば、識別不能ガウス分布取得部１０１，１２１）は、音素の特徴を示すガウス分布であって、雑音が反映されたガウス分布の中から、他のガウス分布と識別不能である識別不能ガウス分布を特定する。
【０１１１】
フレーム集合導出手段９２（例えば、追加パラメータ算出用学習データ作成部１０２）は、雑音を含む音声のデータである雑音重畳データであって、個々のフレームに関して、フレームに対応する音素の特徴を示すガウス分布の識別情報が付加された雑音重畳データ（例えば、ｌｔが付加された雑音重畳学習データ）を用いて、識別不能ガウス分布の識別情報が付加されたフレームの集合（例えば、Ｃｋ）を、識別不能ガウス分布特定手段９１によって特定された識別不能ガウス分布毎に導出する。
【０１１２】
変換行列算出手段９３（例えば、追加特徴量変換行列算出部１０３）は、フレーム集合導出手段９２によって導出されたフレームの集合を、フレームの集合間の分離度を最も高める空間に射影する変換行列（例えば、追加特徴量変換行列Ａ）を算出する。
【０１１３】
パラメータ追加手段９４（例えば、ガウス分布パラメータ追加部１０４）は、雑音重畳データを変換行列で変換した結果得られるデータの平均および分散を、雑音が反映された音響モデル（例えば、雑音適応モデル）に含まれるガウス分布を表す平均および分散に追加する。
【０１１４】
そのような構成により、雑音を反映したガウス分布の識別性を、少ない計算量で向上させることができる。
【０１１５】
また、変換行列算出手段９３が、フレームの集合内の分散を表す行列をＷとし、フレームの集合間の分散を表す行列をＢとしたときに、Ｗ−１Ｂに基づいて変換行列を算出する構成であってもよい。
【０１１６】
また、識別不能ガウス分布特定手段９１が、雑音が反映された音響モデルに含まれるガウス分布と、雑音を表すガウス分布との分布間距離を計算し、当該分布間距離に基づいて、その音響モデルに含まれるガウス分布の中から識別不能ガウス分布を特定する構成であってもよい。
【０１１７】
識別不能ガウス分布特定手段９１が、ガウス分布同士の分布間距離として、カルバック・ライブラー距離を計算する構成であってもよい。
【０１１８】
識別不能ガウス分布特定手段９１が、ガウス分布同士の分布間距離として、バタチャリャ距離を計算する構成であってもよい。
【０１１９】
識別不能ガウス分布特定手段９１が、音響モデルに反映された雑音が存在する環境で発声された音声に対する音声認識の結果得られたガウス分布の中から、識別不能ガウス分布を特定する構成であってもよい。
【産業上の利用可能性】
【０１２０】
本発明は、モデル適応法で得られた音響モデルにおけるガウス分布の識別性を高める用途に好適に適用可能である。
【符号の説明】
【０１２１】
１０１，１２１  識別不能ガウス分布取得部
１０２  追加パラメータ算出用学習データ作成部
１０３  追加特徴量変換行列算出部
１０４  ガウス分布パラメータ追加部
１０６  雑音適応モデル格納部
１０７  雑音重畳学習データ格納部
１０８  変換行列格納部
１０９  パラメータ追加雑音適応モデル格納部
１２２  認識結果格納部
【図１】
2013054313.tif 000010
【図２】
2013054313.tif 000011
【図３】
2013054313.tif 000012
【図４】
2013054313.tif 000013
【図５】
2013054313.tif 000014
【図６】
2013054313.tif 000015
【図７】
2013054313.tif 000016
【図８】
2013054313.tif 000017
【図９】
2013054313.tif 000018