(57)【要約】【課題】従来よりも認識率を向上させることができる話者適応技術を提供する。【解決手段】話者適応装置は、入力された音声から抽出した特徴ベクトルを用いて、変分ベイズに基づく変分下限である目的関数を最大化する、木構造により表現されたガウス分布の集合のノードについての調整パラメータと、目的関数を最大化するノードの２つの子ノードのそれぞれについての調整パラメータとを、ノードについての最大化された目的関数の値から２つの子ノードについての最大化された目的関数の値を減算した値が負になるまで繰り返し更新することにより求める調整パラメータ更新部８００と、求まったノードについての調整パラメータに基づいて、変換行列を推定する特徴空間変換行列推定部７１０と、変換行列を用いて特徴ベクトルを変換した変換特徴ベクトルを生成する特徴ベクトル変換部７２０と、を備える。【選択図】図１
2014048457.tif 000002
【特許請求の範囲】
【請求項１】
入力された音声から抽出した特徴ベクトルを用いて、変分ベイズに基づく変分下限である目的関数を最大化する、木構造により表現されたガウス分布の集合のノードについての調整パラメータと、上記目的関数を最大化する上記ノードの２つの子ノードのそれぞれについての調整パラメータとを、上記ノードについての上記最大化された目的関数の値から上記２つの子ノードについての上記最大化された目的関数の値を減算した値が負になるまで繰り返し更新することにより求める調整パラメータ更新部と、
上記求まった上記ノードについての調整パラメータに基づいて、変換行列を推定する特徴空間変換行列推定部と、
上記変換行列を用いて上記特徴ベクトルを変換した変換特徴ベクトルを生成する特徴ベクトル変換部と、
を含む話者適応装置。
【請求項２】
請求項１に記載の話者適応装置において、
認識結果の木構造の中の所定のノードについてのガウス分布の平均及び分散と上記特徴ベクトルとを用いて、上記所定のノードについての所定の統計量を計算する特徴空間統計量計算部と、
上記所定の統計量を平滑化した平滑化統計量を計算する平滑化統計量計算部と、
上記平滑化統計量を用いて、上記目的関数を最大化する調整パラメータを推定する最適調整パラメータ推定部と、
上記推定された調整パラメータ及び事前分布を用いて、上記所定のノードについての変換行列を推定する変換行列推定部と、
上記推定された変換行列を用いて、上記事前分布を更新する事前分布更新部と、
上記ノード、上記２つの子ノードのそれぞれを上記所定のノードとした上記特徴空間統計量計算部、上記平滑化統計量計算部、上記最適調整パラメータ推定部、上記変換行列推定部及び上記事前分布更新部の処理を上記減算した値が正になるまで繰り返し行う終了判定部と、
を上記調整パラメータ更新部は含む、
話者適応装置。
【請求項３】
調整パラメータ更新部が、入力された音声から抽出した特徴ベクトルを用いて、変分ベイズに基づく変分下限である目的関数を最大化する、木構造により表現されたガウス分布の集合のノードについての調整パラメータと、上記目的関数を最大化する上記ノードの２つの子ノードのそれぞれについての調整パラメータとを、上記ノードについての上記最大化された目的関数の値から上記２つの子ノードについての上記最大化された目的関数の値を減算した値が負になるまで繰り返し更新することにより求める調整パラメータ更新ステップと、
特徴空間変換行列推定部が、上記求まった上記ノードについての調整パラメータに基づいて、変換行列を推定する特徴空間変換行列推定ステップと、
特徴ベクトル変換部が、上記変換行列を用いて上記特徴ベクトルを変換した変換特徴ベクトルを生成する特徴ベクトル変換ステップと、
を含む話者適応方法。
【請求項４】
請求項１又は２の話者適応装置の各部としてコンピュータを機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
この発明は、音声認識技術に関する。特に、予め音声認識用学習データから学習した音声認識モデルを用いて、未知の人の音声認識を行う際に、未知の人の入力音声から抽出した特徴ベクトルを線形変換することにより、音声認識モデルに適合しやすくすることで音声認識の精度を向上させる話者適応技術に関する。
【背景技術】
【０００２】
音声認識をする際に入力信号となる音響信号に影響を与える、話者、雑音、通信チャンネル、マイク等の変動要因による悪影響を防ぐため、適応技術が発展している。特にモデルに基づく適応技術は、変換行列を用いた線形変換により音響モデルの全てのパラメータを適応させることができるので、良く使われている。
【０００３】
モデルに基づく適応技術として、入力音声から抽出した特徴ベクトルを線形変換することにより適応させるいわゆる特徴空間での適応手法であって、事前分布を用いる手法であるfMAPLR(feature space Maximum A Posteriori Linear Regression)及びfSMAPLR(feature space Structual Maximum A Posteriori Linear Regression)等の手法が知られている（例えば、非特許文献１，２参照。）。事前分布には、各手法を用いた学習データに含まれている話者の変換行列の分布又は単位変換行列が用いられる。
【０００４】
これらの手法では、適応データ量によって事前分布の寄与率を調整するための調整パラメータが用いられている。調整パラメータは、ハイパーパラメータとも呼ばれている。
【先行技術文献】
【非特許文献】
【０００５】
【非特許文献１】Lei, X. and Hamaker, J. and He, X. Robust feature space adaptation for telephony speech recognition.  Proc. of INTERSPEECH, pages 773-776, 2006.
【非特許文献２】Y. Nakano, M. Tachibana, J. Yamagishi, and T. Kobayashi, Constrained structural maximum a posteriori linear regression for average-voice-based speech synthesis. Proc. of INTERSPEECH, pages 2286-2289, 2006.
【発明の概要】
【発明が解決しようとする課題】
【０００６】
非特許文献１，２に記載されている適応技術では、調整パラメータとして、経験に基づいて予め定められた値が用いられている。このため、予め定められた調整パラメータの値が適切ではない場合には、認識率が低下する可能性があった。
【０００７】
この発明は、従来よりも認識率を向上させた、事前分布を用いた特徴空間での適応手法に基づく話者適応装置、方法及びプログラムを提供することを目的とする。
【課題を解決するための手段】
【０００８】
この発明の一態様による話者適応装置は、入力された音声から抽出した特徴ベクトルを用いて、変分ベイズに基づく変分下限である目的関数を最大化する、木構造により表現されたガウス分布の集合のノードについての調整パラメータと、目的関数を最大化するノードの２つの子ノードのそれぞれについての調整パラメータとを、ノードについての最大化された目的関数の値から２つの子ノードについての最大化された目的関数の値を減算した値が負になるまで繰り返し更新することにより求める調整パラメータ更新部と、求まったノードについての調整パラメータに基づいて、変換行列を推定する特徴空間変換行列推定部と、変換行列を用いて特徴ベクトルを変換した変換特徴ベクトルを生成する特徴ベクトル変換部と、を備える。
【発明の効果】
【０００９】
調整パラメータを適切に更新することにより、従来よりも認識率を向上させることができる。
【図面の簡単な説明】
【００１０】
【図１】話者適応装置の例を説明するためのブロック図。
【図２】調整パラメータ更新部８００の例を説明するためのブロック図。
【図３】話者適応方法の例を説明するためのフローチャート。
【図４】調整パラメータ更新部８００の処理の例を説明するためのフローチャート。
【発明を実施するための形態】
【００１１】
以下、図面を参照して、話者適応装置及び方法の実施形態を説明する。
【００１２】
話者適応装置は、図１に示すように、特徴ベクトル抽出部１００と、音声認識部２００と、認識用データ記憶部２１０と、事前分布記憶部５００と、特徴空間適応部７００とを例えば備えている。特徴空間適応部７００は、調整パラメータ更新部８００と、特徴空間変換行列推定部７１０と、特徴ベクトル変換部７２０とを例えば備えている。
【００１３】
特徴ベクトル抽出部１００は、入力音声から特徴ベクトルo(t)を抽出する（ステップＳ１）。抽出された特徴ベクトルo(t)は、音声認識部２００及び特徴空間適応部７００に送信される。ここでo(t)は、t番目のフレームのn次元特徴ベクトルを表す。
【００１４】
音声認識部２００は、特徴ベクトルo(t)に基づいて音声認識を行い、仮の音声認識結果を生成する（ステップＳ２）。音声認識結果は、特徴空間適応部７００に送信される。後述するように、特徴ベクトル変換部７２０で変換特徴ベクトルが生成されている場合には、音声認識部２００は、特徴ベクトルo(t)に代えて変換特徴ベクトルに基づいて音声認識を行う。
【００１５】
なお、認識用データ記憶部２１０には、予め学習用の音声認識データから学習された、音響モデル２１１、言語モデル２１２及び単語辞書２１３が記憶されている。音声認識部２００は、音響モデル２１１、言語モデル２１２及び単語辞書２１３を用いて音声認識を行う。
【００１６】
ここで、音声認識結果は、音響モデル、単語モデル、単語辞書から構成される確率モデルを用いて、音声認識過程を音声データと単語の出現確率（尤度関数）とで表現したものである。音声認識部２００が行う音声認識処理とは、この尤度関数を最大とする単語列を結果として出力することである。特徴空間適応部７００が行う適応処理とは、認識結果を元に認識結果である単語列を最大尤度で出力する、ガウス分布ごとに最適な特徴ベクトルに変換する変換行列を推定することである。
【００１７】
ここで、推定すべきパラメータの数は非常に多いため、これらのパラメータは、音素クラスに応じて階層的にクラスタリングされた木構造で表現されている。例えば、単一のガウス分布を葉ノードとし、これらの集合を中間ノード及び根ノードとするような木構造によりガウス分布の集合を表現する。ここでは、分布間距離の近い２つのガウス分布を１つのノードにまとめていくような二分木の木構造を仮定する。
【００１８】
以下の処理において、適応処理を行うために用いる変換行列Ｗは、この木構造のノードごとに別の変換行列が対応付けられるため、ノードrごとに変換行列Ｗｒの推定を行うとする。
【００１９】
調整パラメータ更新部８００は、ノードrにおける調整パラメータの自動推定を行う（ステップＳ３）。具体的には、変分ベイズに基づいて求められる変分下限(variational lower bound)を目的関数として用いることにより、調整パラメータを最適化する。推定された調整パラメータは、特徴空間変換行列推定部７１０に送信される。
【００２０】
以下、調整パラメータ更新部８００の具体的な処理について説明する。
【００２１】
調整パラメータ更新部８００は、図２に示すように、特徴空間統計量計算部８１０と、平滑化統計量計算部８２０と、最適調整パラメータ推定部８３０と、変換行列推定部８４０と、事前分布更新部８５０と、終了判定部８６０とを例えば備えている。
【００２２】
特徴空間統計量計算部８１０は、認識結果の木構造の中の所定のノードrについてのガウス分布の平均及び分散と特徴ベクトルo(t)とを用いて、所定のノードrについての所定の統計量Gr(i)，kr(i)を計算する（ステップＳ３１）。特徴空間統計量計算部８１０は、具体的には、ノードrに対応するガウス分布の集合におけるu番目のガウス分布のi次元目の平均μi(u)及び分散σi(u)と、特徴ベクトルo(t)に基づく拡張特徴ベクトルξ(t)とを用いて、以下の式によりGr(i)，kr(i)を計算する。計算されたGr(i)，kr(i)は、平滑化統計量計算部８２０に送信される。
【００２３】
【数１】
2014048457.tif 000003
【００２４】
ここで、γu(t)は、o(t)がu番目のガウス分布に属する事後確率である。また、Ntは、フレームの総数である。拡張特徴ベクトルξ(t)は、ξ(t)=[1 o(t)T]Tであり、(n+1)×1のベクトルである。・Tは、・の転置を意味する。
【００２５】
平滑化統計量計算部８２０は、統計量Gr(i)，kr(i)を平滑化した平滑化統計量G^r(i),k^r(i)を計算する（ステップＳ３２）。平滑化統計量計算部８２０は、具体的には、以下の式に基づいて、G^r(i),k^r(i)を計算する。計算されたG^r(i),k^r(i)は、最適調整パラメータ推定部８３０に送信される。
【００２６】
【数２】
2014048457.tif 000004
【００２７】
ここで、criは、事前分布のハイパーパラメータCrの第i行であり、Crは以下に示される行列である。Inはn×nの単位行列であり、r(p)はrの親ノードを表す。
【００２８】
【数３】
2014048457.tif 000005
【００２９】
また、Vrは、事前分布のハイパーパラメータであり、以下のように定義される。In+1は、(n+1)×(n+1)の単位行列である。
【００３０】
【数４】
2014048457.tif 000006
【００３１】
最適調整パラメータ推定部８３０は、以下の式により、最適な調整パラメータρ~rを求める（ステップＳ３３）。
【００３２】
【数５】
2014048457.tif 000007
【００３３】
つまり、最適調整パラメータ推定部８３０は、L(Ψ,m)rの値が最大となる調整パラメータρrを、最適な調整パラメータρ~ｒとする。ここで、L(Ψ,m)rは、変分ベイズに基づく変分下限である目的関数であり、下記式で表される。
【００３４】
【数６】
2014048457.tif 000008
【００３５】
ここで、Vr~(i),c~riは、以下のように定義される。
【００３６】
【数７】
2014048457.tif 000009
【００３７】
【数８】
2014048457.tif 000010
【００３８】
また、Σ(u)は、分散σi(u)(i=1,2,・・・,n)を対角成分として持つn×nの行列であり、γu=Σt=1Ntγu(t)である。
【００３９】
変換行列推定部８４０は、推定された調整パラメータρ~ｒ及び事前分布記憶部５００から読み込んだ事前分布を用いて、ノードrについての変換行列を推定する（ステップＳ３４）。変換行列推定部８４０は、具体的には下記式により、変換行列Ｗｒの第i行を求め、処理をすべてのiについて行うことで、変換行列Ｗｒを推定する。推定されたＷｒは、事前分布更新部８５０に送信される。
【００４０】
【数９】
2014048457.tif 000011
【００４１】
ここでpiは拡張cofactor行ベクトル[0ci1…cin](cij=cof(Arij))である。なお、行列Arを行列Wrの第１列を除くn×n行列として、cof(Arij)は行列Arの第i行第j列の成分Arijに関する余因子(cofactor)である。αは、以下のＱ関数を最大化する二次方程式の解であり、その推定方法は例えば参考文献１に詳述されている。
【００４２】
【数１０】
2014048457.tif 000012
【００４３】
〔参考文献１〕Gales, M.J.F.  Maximum likelihood linear transformations for HMM-based speech recognition.  Computer Speech and Language, 12:75-98, 1998.
【００４４】
ここでrは、木構造内のノード番号を表す。また、G~r(i),k~r(i)は、以下のように定義される。
【００４５】
【数１１】
2014048457.tif 000013
【００４６】
また、事前分布p(Wr|Cr,Vr)として、参考文献２，３及び非特許文献１で用いられている行列の多変量正規分布を用いる。この分布は以下の式のように定義される。
【００４７】
【数１２】
2014048457.tif 000014
【００４８】
〔参考文献２〕Siohan, O. and Chesta, C. and Lee, C.H. Joint maximum a posteriori adaptation of transformation and HMM parameters.  IEEE Trans. on Speech and Audio Processing, 9(4):417-428, 2001.
【００４９】
〔参考文献３〕Siohan, O. and Myrvoll, T.A. and Lee, C.H. Structural maximum a posteriori linear regression for fast HMM adaptation.  Computer Speech and Language, 16(1):5-24, 2002.
【００５０】
ここで、CrとVrは定義された分布のハイパーパラメータである。なお、事前分布の初期値は、予め事前分布記憶部５００に記憶されているものとする。
【００５１】
事前分布更新部８５０は、推定された変換行列Wrを用いて、事前分布記憶部５００に記憶されている事前分布を更新する（ステップＳ３５）。事前分布更新部８５０は、具体的には下記式により、変換行列Wrの事後分布q~(Wr)を求め、q~(Wr)を２つの子ノードの新たな事前分布p(Wr|Cr,Vr)として事前分布記憶部５００に格納する。
【００５２】
【数１３】
2014048457.tif 000015
【００５３】
ここでV~rは V~r(i)の集合を表現する(すなわち V~r={ V~r(1), V~r(2),…,V~r(n)})。特徴空間統計量計算部８１０、平滑化統計量計算部８２０、最適調整パラメータ推定部８３０、変換行列推定部８４０、事前分布更新部８５０の処理を、ノードr、ノードrの２つの子ノードr(c1),r(c2)のそれぞれについて行うことにより、ノードrについての最大化された目的関数の値L(Ψ,m)r、ノードr(c1)についての最大化された目的関数の値L(Ψ,m)r(c1)、ノードr(c2)についての最大化された目的関数の値L(Ψ,m)r(c2)を求める。
【００５４】
終了判定部８６０は、まず以下により定義されるΔL(Ψ,m)rを計算する。すなわち、ノードrについての最大化された目的関数の値L(Ψ,m)rから２つの子ノードr(c1),r(c2)についての最大化された目的関数の値L(Ψ,m)r(c1),L(Ψ,m)r(c2)を減算した値ΔL(Ψ,m)rを計算する。
【００５５】
【数１４】
2014048457.tif 000016
【００５６】
そして、終了判定部８６０は、ΔL(Ψ,m)rの値が正であれば、rの子ノードをそれぞれ r(c1)とr(c2)として、特徴空間統計量計算部８１０、平滑化統計量計算部８２０、最適調整パラメータ推定部８３０、変換行列推定部８４０、事前分布更新部８５０、終了判定部８６０の処理を繰り返す。一方、ΔL(Ψ,m)rの値が負であれば、終了判定部８６０の処理を中止する（ステップＳ３６）。
【００５７】
この基準を利用することで実験的な値ではなく、適応データ量に応じて自動的な木構造推定ができる。また、適応データ量に応じて各ノードことの事前分布の寄与率を調整することができる。
【００５８】
このようにして、調整パラメータ更新部８００は、入力された音声から抽出した特徴ベクトルを用いて、変分ベイズに基づく変分下限である目的関数を最大化する、木構造により表現されたガウス分布の集合のノードrについての調整パラメータと、目的関数を最大化するノードrの２つの子ノードr(c1),r(c2)のそれぞれについての調整パラメータとを、ノードrについての最大化された目的関数の値L(Ψ,m)rから２つの子ノードについての最大化された目的関数の値L(Ψ,m)r(c1),L(Ψ,m)r(c2)を減算した値ΔL(Ψ,m)rが負になるまで繰り返し更新することにより求める。
【００５９】
特徴空間変換行列推定部７１０は、ノードrについての調整パラメータρ~rに基づいて、変換行列Wrを推定する。特徴空間変換行列推定部７１０は、具体的には、ノードrについての予め求めた事前分布、すなわちノードrの親ノードr(p)の変換行列Wr(p)を、ΔL(Ψ,m)rの値が負のときのノードrについての調整パラメータρ~rで統計量Gr(i),kr(i)に反映することにより、特徴空間の変換行列Wrを推定する。
【００６０】
言い換えれば、特徴空間変換行列推定部７１０は、終了判定部８６０が繰り返し処理を終了すると判定したときのノードrについて、特徴空間統計量計算部８１０、平滑化統計量計算部８２０、最適調整パラメータ推定部８３０及び変換行列推定部８４０と同様の処理を行うことにより、変換行列Wrを推定する。
【００６１】
推定された変換行列は、特徴ベクトル変換部７２０に送信される。
【００６２】
特徴ベクトル変換部７２０は、特徴ベクトル抽出部１００から出力された特徴ベクトルo(t)を、特徴空間変換行列推定部７１０で推定した変換行列Wrにより線形変換して、特徴ベクトルo^(t)を求める。つまり、以下の式によりo(t)を変換した変換特徴ベクトルo^(t)を求める。変換特徴ベクトルo^(t)は、音声認識部２００に送信される。
【００６３】
【数１５】
2014048457.tif 000017
【００６４】
ここで、Wr=[br Ar]はn×(n+1)拡張変換行列であり、Arはn×n変換行列、brはn×1バイアスベクトルである。
【００６５】
音声認識部２００は、変換特徴ベクトルo^(t)に基づいて音声認識を再度行い、音声認識結果を出力する。
【００６６】
このように、話者適応において、特徴量空間での変分ベイズによるモデル構造推定を事前分布の寄与率を調整する調整パラメータを自動的に推定することにより、従来の手法に比べて適応データ量に応じた信頼性の高い変換行列推定ができ、従来よりも認識率を向上させることができる。
【００６７】
上記装置及び方法において説明した処理は、記載の順に従って時系列に実行されるのみならず、処理を実行する装置の処理能力あるいは必要に応じて並列的にあるいは個別に実行されてもよい。
【００６８】
また、上記装置における処理手段をコンピュータによって実現する場合、上記装置が有すべき機能の処理内容はプログラムによって記述される。そして、このプログラムをコンピュータで実行することにより、各装置における処理手段がコンピュータ上で実現される。
【００６９】
この処理内容を記述したプログラムは、コンピュータで読み取り可能な記録媒体に記録しておくことができる。コンピュータで読み取り可能な記録媒体としては、例えば、磁気記録装置、光ディスク、光磁気記録媒体、半導体メモリ等どのようなものでもよい。
【００７０】
また、各処理手段は、コンピュータ上で所定のプログラムを実行させることにより構成することにしてもよいし、これらの処理内容の少なくとも一部をハードウェア的に実現することとしてもよい。
【００７１】
その他、この発明の趣旨を逸脱しない範囲で適宜変更が可能であることはいうまでもない。
【符号の説明】
【００７２】
７１０  特徴空間変換行列推定部
７２０  特徴ベクトル変換部
８００  調整パラメータ更新部
８１０  特徴空間統計量計算部
８２０  平滑化統計量計算部
８３０  最適調整パラメータ推定部
８４０  変換行列推定部
８５０  事前分布更新部
８６０  終了判定部
【図１】
2014048457.tif 000018
【図２】
2014048457.tif 000019
【図３】
2014048457.tif 000020
【図４】
2014048457.tif 000021