社団法人 電子情報通信学会
THE INSTITUTE OF ELECTRONICS,
INFORMATION AND COMMUNICATION ENGINEERS

信学技報
TECHNICAL REPORT OF IEICE.

ベイズ的アプローチに基づく HMM 音声合成
南角

吉彦†

全

炳河†

徳田

恵一†

北村

正†

益子

貴史††

† 名古屋工業大学知能情報システム学科† 東京工業大学大学院総合理工学研究科
あらまし

本論文では，HMM 音声合成に変分ベイズ法を適用し ，ベイズ基準による音声のパラメータ生成アルゴ リ

ズムを導出する．HMM 音声合成では，これまで，HMM の学習と音声パラメータの生成に ML 基準が用いられてきた．しかし ，ML 推定はモデルパラメータを確定的変数として点推定するため，学習データが十分に得られない場合，モデルの推定精度が低下するという問題がある．提案法は，ML 基準に比べて，音声特徴をモデル化する統計モデルの汎化能力を高めることが可能であり，合成音声の品質改善が期待できる．
キーワード

変分ベイズ法，隠れマルコフモデル，音声合成

A Bayesian Approach to HMM-Based Speech Synthesis
Yoshihiko NANKAKU† , Heiga ZEN† , Keiichi TOKUDA† , Tadashi KITAMURA† ,and Takashi MASUKO††† Department of Computer Science, Nagoya Inst. of Tech. Gokiso-cho, Shouwa-ku, Nagoya, 466-8555 Japan† Interdisciplinary Graduate School of Science and Engineering, Tokyo Inst. of Tech. 4259, Nagatsuta,
Midori-ku, Yokohama, 226-8502 Japan
Abstract In this paper, we applied the variational Bayes method to HMM-based speech synthesis and derived aspeech parameter generation algorithm based on the Bayesian criterion. In HMM-based speech synthesis, the ML
criterion has been used for training HMM and generating speech parameters. However, the ML estimator producesa point estimate of HMM parameters and the accuracy of estimation may be reduced when little training data isavailable. By using the proposed algorithm, it is expected that the higher generalization ability of the statisticalmodel for speech features is achieved and leads to improving the quality of synthesized speech.
Key words variational Bayes method, hidden Markov models, speech synthesis

1. ま え が き
コーパスに基づく音声合成では，データを多く集めることに研究成果を応用できることが，HMM 音声合成の大きな利点であると言える．

HMM 音声合成では ，これまで ，HMM の学習や音声パラ

より合成音声の品質を高めることができるが，その一方で限らメータの生成に ML(Maximum Likelihood) 基準が用いられてれたデータ量で品質の良い音声合成を実現することが重要な課きた．しかし，ML 推定は，モデルパラメータを確定的変数と題である．HMM 音声合成は，メルケプ ストラムや基本周波数

して点推定するため，学習データが十分に得られない場合，モなどの音声特徴量を用いた分析合成系により音声が合成される

デルの推定精度が低下するという問題がある．これに対し，ベため，波形接続型の音声合成に比べて，少ない学習データで滑イズ学習では，モデルパラメータを確率変数としてとらえ，学

らかな音声が合成可能である．また，音声特徴の動的特徴量を習データに対する事後確率分布を推定する．事後分布を用い考慮したパラメータ生成アルゴ リズムにより音声単位境界におて，すべての可能なモデルパラメータを考慮することにより，いて歪みの少ない音声パラメータを得ることができる．HMM

学習データ量が少ない場合においても，高い汎化性能が得ら

音声合成における音声品質の上限は，ポストフィルタの使用なれる．しかし，事後確率分布の推定は困難な積分計算を伴うた

どの方法もあるが，基本的には音声特徴量を用いた分析合成系

め，何らかの近似を必要とする．従来，マルコフ連鎖モンテカに依存している．しかし，学習データが十分に得られない場合，ルロ法などのサンプリング手法が用いられてきたが，計算量が統計モデルの精度が低下する可能性があり，統計モデルの汎化

膨大となり，大規模な問題への適用は困難であった．この問題能力を高めることにより，合成音声の品質を改善する余地があに対し，近年，変分ベイズ法 [1], [2] が提案され，ML 基準によると考えられる．また，この点において，統計的学習の様々なり学習されていた様々なモデルにベイズ学習が適用可能となり，—1—

SPEECHDATABASE

れぞれ，平均ベクトルと共分散行列の逆行列として持つガウス

Speech signal分布である．出力確率分布としては，多次元ガウス分布の重み付き和で表され る多次元ガ ウス混合分布が用いられることがSpectralparameter
extraction

Excitation
parameter
extraction
Excitation parameter

多いが，ここでは，簡単のため単一の多次元ガウス分布を仮定

Spectral parameter
Training of HMM

Label

する．

2. 2 ML 基準によるパラメータ生成

Training part

ML 基準による音声パラメータの生成では，動的特徴量を考Synthesis partContext dependent
HMMs

TEXT

慮することにより，状態遷移やモデル接続部分で歪みの少ない
滑らかな音声パラメータを生成することができる [5], [6]．以下にそのアルゴ リズムを説明する．まず，学習部では与えられた学習データ O の尤度を最大にするモデルパラメータ Λ(M L) を

Text analysis
Label

Parameter generationfrom HMM

Excitation parameter

推定する．学習データ O は，音声認識などで良く用いられる

Spectral parameter

Excitation
generation

Synthesis
filter

ように，音声パラメータの静的特徴量に動的特徴量を連結した

SYNTHESIZEDSPEECHベクトルを特徴ベクトルとして用いる．

Λ(M L) = arg max P (O|S, Λ)

図 1 HMM に基づいた音声合成システムの構成(2)

ΛHMM に基づいた音声認識にも適用されている [3]．本研究では，HMM 音声合成に変分ベイズ法を適用し，ベイズ基準による音声パラメータの生成アルゴ リズムを導出する．また，コン
テキストクラスタリングにおいても，ベイズ基準を適用することにより，データ量に応じた最適なモデル構造を決定する．

こ こで ，S は 学 習デ ータの ラベル 列で あ る ．合 成 部で は ，推定され たモデ ルから 尤度最大となる音声パラ メータ x = 

x1 , x2 , . . . , xT  を生成する．
x

x(M L) = arg max
P (W x|s, Λ(M L) )x

ここで，s は合成音声のラベル列である．また，W は学習デー
タと同様に，音声の静的特徴量 x に動的特徴量を加える行列で

2. ML 基準による HMM 音声合成
まず，ML 基準による音声合成システムについて説明する．
図 1 にシステムの概要を示す [4]．学習部では，音声データベー
スからスペクトルパラメータと励振源パラメータを抽出し，音素などの音声単位で HMM を学習する．本論文では，スペクト
ルパラメータとしてメルケプ ストラム，励振源パラメータとして基本周波数を用いることとする．合成部では，合成すべきテ
キストに対応するラベル列に従い，音素 HMM を連結した文章あり，W x の時刻 t における要素は，次式で表される．
2  (W x)t = [xt , ∆xt , ∆ xt ]ラメータを生成する．基本周波数に従って励振源モデルから励振源を生成し，生成したメルケプストラムから構築された合成フィルタ（ MLSA フィルタ）を励振することにより合成音声が(4)

また，動的な特徴ベクトル ∆xt ，∆2 xt は，静的特徴ベクトル

xt から

(1)

∆xt =

L


w1 (τ )xt+τ

(5)

w2 (τ )xt+τ

(6)

τ =−L(1)

HMM を作成し，この HMM に対する尤度が最大となる音声パ∆2 xt =L(2)
τ =−L(2)により計算されるものとする．ただし ，w1 (τ )，w2 (τ ) は動的得られる．

特徴量を計算するための重み係数である．xt が D 次元とすれ

2. 1 隠れマルコフモデルの定義
音声合成に用いる隠れマルコフモデルを定義する．音声特徴

量の観測ベクトル列 O = (o1 , o2 , . . . , oT ) と状態遷移を表す

隠れ変数列 Z = (z1 , z2 , . . . , zT ), zt ∈ {1, . . . , N } から成る完

全データ {O , Z } の対数尤度は次式で定義される．

log P (O, Z |Λ) =(3)

t=1 i=1 j=1

 i

+

zt log N (ot |i , S

もち，他の多くの要素は 0 となる．

式 (3) において，P (W x|s, Λ(M L) ) は隠れ変数を含むため，ため，あらかじめ最適な状態系列が与えられると仮定する（ 注 1 ）．

zt zt+1 log aij

N

3T D × T D の行列であり，1 部の要素に係数 1, w1 (τ ), w2 (τ ) をすべての隠れ変数列を考慮する必要があるが，ここでは簡単の

N

i j

T −1 NT

ば，x, W x は，それぞれ，T D 次元，3T D 次元である．W は，

−1
i )

(1)

t=1 i=1

x(M L) = arg max
x

状態遷移確率 a = {aij }N
i,j=1 ，aij = P (zt+1 = j|zt = i) と出力

確率 b = {bi (ot )}N
i=1 ，bi (ot ) = P (ot |zt = i) = N (ot |i , S−1
i )により与えられる．ただし，N (·|i , S −1i ) は，i と S i を，そq

P (W x|q, Λ(M L) )P (q|s, Λ(M L) )

 arg max P (W x|q  , Λ(M L) )x

ただし，zti = δ(zt , i) であり，zt = i のとき 1, それ以外は 0 とす

る．N は HMM の状態数，HMM のパラメータ Λ = {a, b} は，

(7)（ 注 1 ）：式 (3) を EM アルゴ リズムのような繰返しアルゴ リズムで解く手法 [7]が提案されている．また，隠れ変数である状態系列を確率モデルで最適化する場
合，ここで定義した状態遷移確率では不十分であり，状態継続長モデルなどの学習が必要となる．

—2—

ここで，q = (q1 , q2 , . . . , qTx ) は x の状態系列，q は与えられた最適な状態系列を表す．状態系列 q が与えられたときの x
の尤度 P (W x|q  , Λ(M L) ) は，高次元のガウス分布と見なすことができる．

log P (W x|q  , Λ) = −(8)

ただし，，S は，状態系列 q に従って並べたガウス分布の平均ベクトルと共分散行列を一つにまとめたものである．

 = [z , z , . . . , z ]
S = diag[S z , S z , . . . , S z ]
1

2

T

1

2

T

=

>
=

P (W x|q , Λ) を最大にする x は，

q

Z

q

Z



q

Z



P (W x, O, q, Z , Λ|s, S)dΛlog Q(q, Z , Λ)P (W x, O , q, Z , Λ|s, S)dΛQ(q, Z , Λ)Q(q, Z , Λ) log

P (W x, O, q , Z , Λ|s, S)dΛQ(q, Z , Λ)P (W x, O, q , Z , Λ|s, S)
log
Q(q, Z , Λ)=

メータは平均ベクトル列と等しくなり，滑らかな音声パラメー





(10)

タは得られない．しかし ，動的特徴量を考慮することにより，

qZ

Q( , ,Λ)

= F

(15)

ここで，下限 F は，Q(q, Z , Λ) を変関数とする汎関数であり，不等式における log P (W x, O |s, S) と F の差は，Q(q, Z , Λ)と P (q, Z , Λ|W x, O, s, S) の KL-divergence で表される．





(11)

F =

P (q, Z , Λ|W x, O , s, S)P (W x, O|s, S)
log
Q(q, Z , Λ)

= log P (W x, O |s, S)

とおくことによって得られる線形方程式

W  SW x(M L) = W  Slog P (W x, O |s, S)(9)

もし ，動的特徴量を用いない場合，尤度を最大にする音声パラ∂ log P (W x|q  , Λ)=0∂xJensen の不等式を用いて，下限 F を定義する．

= log

DT
log(2π)21
1+ log |S | − (W x − ) S (W x − )22

log P (W x, O |s, S) に対し ，任意の分布 Q(q, Z , Λ) を導入し ，−KL(Q(q, Z , Λ)||P (q, Z , Λ|W x, O , s, S))(12)により定められる．W  SW は，T D × T D の巨大な行列であるが，コレスキー分解あるいは QR 分解を用いて少ない演算量で解くことができる [8], [9]．また，時間方向に再帰的な形で計算を行うアルゴ リズム [10] も提案されている．

(16)

こ こ で ，P (W x, O |s, S) は q, Z , Λ に 関し て 定 数 で あ る

た め ，Q(q, Z , Λ) に 関し て F を 最 大 化 す る こ と は KL-

divergence を最小にすることと等価である．また，Q(q, Z , Λ)

= P (q, Z , Λ|W x, O , s, S) のとき，KL-divergence は 0 となり，log P (W x, O |s, S) = F となる．よって，変関数 Q(q, Z , Λ)

3. ベイズ基準による HMM 音声合成に，積分計算が可能となるような拘束条件を与えた上で，下限

3. 1 変分法による予測分布の近似

F を最大化することにより，最適な P (W x, O |s, S) の近似分

ML 基準による音声合成では，モデルパラメータを点推定す

布を求めることができる．ここでは，以下の拘束条件を与える．

るのに対し，ベイズ音声合成では，学習データの事後確率分布を計算し，すべてのモデルパラメータを重み付けした予測分布
から音声パラメータが生成される．ベイズ基準による合成音声
は次式で得られる．

x(Bayes)Q(q, Z , Λ) = Q(q)Q(Z )Q(Λ)
このとき，下限 F は次式で表される．

F = log P (W x, q|s, Λ) Q(q)Q(Λ)= arg max P (W x|s, O , S)

+ log P (O, Z |S, Λ) Q(Z )Q(Λ) + log P (Λ)

x= arg max P (W x, O|s, S)

x

(17)

+E [Q(q)] + E [Q(Z )] + E [Q(Λ)]

(13)

(18)

ここで，P (W x|s, O , S) は合成音声の予測分布である．また，

ただし，E[·] はエントロピーを表す．まず，Q(Z ) について，F

尤度は，

ため，

動的特徴量を含む合成パラメータ W x と学習データ O の周辺

P (W x, O |s, S)
=

=



q

Z



q

Z

P (W x, q, O , Z , Λ|s, S)dΛP (W x, q|s, Λ)P (O, Z |S, Λ)P (Λ)dΛ (14)と書くことができる．ここで ，P (Λ) は事前確率であり，あらかじ め 得られ る学習対象に 関する知識を 与え ることができる．また，P (W x, q|s, Λ) と P (O, Z |S, Λ) は ，それぞれ ，
合成データと学習データの完全な尤度を表す．対数周辺尤度を最大化する．変関数 Q(Z ) は，式 (15) の不等式が成り立つ

Z Q(Z ) = 1 を満たす必要があり，ラグランジュ係数λZ を用いて，次式を最大化する．



FZ = F − λ Z
=



Z



Z

Q(Z ) − 1fZ (Z , Q(Z )) − λZ Q(Z )+ Const

(19)

ただし，

fZ (Z , Q(Z ))= Q(Z ) log P (O, Z |S, Λ) Q(Λ) − Q(Z ) log Q(Z ) (20)—3—

ここで，FZ を最大にする関数 Q(Z ) を得るため，変分法を適用する．変分法では，次式で表される変分導関数 δFZ を 0 と置くことにより，関数の最適化問題を解く．

δFZ =



Z

Q(q) についても，これらの分布を用いて，Q(Z ) = CZ
×表す任意の関数である．ここで，FZ は，Q(Z ) の微分項を含Q(q) = Cq
×

立てば良い．

=0(22)となる．ただし，CZ は



(23)

Z Q(Z ) = 1 を満たすための正規化定数である．同様の導出方法により，(24)

別に更新を繰り返すことにより，結果的に F を極大に導くことができる．また，各更新において，F は必ず増加するため収束性が保証されている．

a

b

 S

さらに，Q(Λ) に関して， i = {aij }N
j=1 ， i = { i , i } とNN
し ，事前確率を P (Λ) = i=1 P ( i ) i=1 P ( i ) と設定する



a



b

と，直ちに，N

Q(ai )

i=1

N

Q(bi )(26)

i=1

Q(ai ) = Cai P (ai ) expと書ける．ここで，Q(Z )，Q(q) は HMM の尤度関数と同じ形

N T −1

モデルパラメータの事前確率 P (Λ) として，共役事前分布を用いる．共役事前分布とは，事前分布と事後分布が同じ分布族となる事前分布のことである．尤度関数が式 (1) の HMM で布となる．つまり，事後分布の近似分布である Q(ai ) と Q(bi )(25)が得られる．これらの近似分布は相互に関係しているため，個

Γ

× exp

N Tx −1



(27)

T


Tx


zti log N (ot |i , S −1
i )qti log N ((W x)t |i , S −1i )P (bi ) = N (i | i , (ξi S i )−1 )W(S i |ηi , B i )

(33)
(34)

N (i | i , (ξi S i )−1 ) = 1
1
CNi |S i | 2 exp − T r(ξi S i (i −  i )(i −  i )(35)
2
W(S i |ηi , B i ) 1
ηi −D−1= CWi |S i | 2
exp − T r(S i B i )
(36)
2
D

D

CNi = (2π)− 2 ξi2
2

ηi D
2

(37)
|B i |π

D(D−1)
4

ηi
2

D

d=1

Γ

 η +1−d 
i

(38)

2

次 元 数で あ る ．事 前 分 布を 表すパ ラ メー タを まと め ると ，¯ i , B̄ i }N
でき，{φ̄ij , ξ̄i , η̄i , 
i,j=1 で表すこととする．
3. 3 事後分布パラメータの更新(28)

具体的な更新式を以下に示す．まず，事前分布のパラメータと Q(Z )，Q(q) から計算される期待値を以下に定義する．

となる．ただし，Q(Z )zti ,jzti zt+1=

Q(qjqti qt+1

=



Z



q

j
Q(Z )zti zt+1(29)

j
Q(q)qti qt+1

(30)

N

C
i=1 ai

N

N̄i =

T


zti +

t=1



Tx


C である．Q(Z )，i=1 biN̄ij =

N̄i

(39)



Tx −1
j
zti zt+1+t=1ōi = 1

qti

t=1

T −1

である．また，Cai と Cbi は，それぞれ Q(ai ) と Q(bi ) を正規化する定数であり，CΛ =aijijているため，事後分布も同様のパラメータセットで表すことが

t=1)qti ,N
φ −1{φij , ξi , ηi ,  i , B i }N
i,j=1 となる．また ，共役事前分布を用い

t=1

× exp



とする．ここで ，Γ (·) はガン マ関数，D は 特徴ベクトルのjqti qt+1
log aij

j=1 t=1

Q(bi ) = Cbi P (bi ) exp

Nφj=1 ijΓ (φij ) j=1
j=1

C Wi =j
zti zt+1
log aijP (ai ) = D(ai |i ) = N

j=1 t=1q(32)となっており，式 (29)，(30) の期待値は，Forward-Backwardに事前分布を定義する．

× exp log P (W x, q |s, Λ) Q(q)=exp log N ((W x)t |qt , S −1
qt ) Q(bqt )がそれぞれ Dirichlet 分布と Gauss-Wishart 分布となる．以下

Q(Λ) = CΛ P (Λ) exp log P (O, Z |S, Λ) Q(Z )

Z

Tx


は，遷移確率は Dirichlet 分布，出力確率は Gauss-Wishart 分

Q(q) = Cq exp log P (W x, q|s, Λ) Q(Λ)



exp log aqt qt+1 Q(aqt )3. 2 事 前 分 布

Q(Z ) = CZ exp log P (O, Z |S, Λ) Q(Λ)

qti



Tx −1

アルゴ リズムを用いて計算することができる．

よって，最適な近似分布は，

zti =

(31)

t=1

∂
fZ (Z , Q(Z )) − λZ Q(Z )∂Q(Z )



exp log N (ot |zt , S −1
zt ) Q(bzt )t=1

まない単純な形であるため，すべての Z において，次式が成り

Q(Λ) =

T

t=1

(21)

ただし，δQ(Z ) は Q(Z ) の変分であり，Q(Z ) の微細なずれを

exp log azt zt+1 Q(azt )t=1∂
fZ (Z , Q(Z )) − λZ Q(Z ) δQ(Z )∂Q(Z )

= 0



T −1

j
qti qt+1

(40)

t=1
T

t=1

zti ot +Txqti (W x)t

(41)

t=1

—4—

T


C̄ i = 1N̄i+となる．同様に，zti (ot − ōi )(ot − ōi )

S =

t=1

Tx


qti ((W x)t − ōi )((W x)t − ōi )

(42)



= [ S q1 q1  , S q2 q2  , . . . , S qT qT  ] (53)t=1

これらの期待値を用いて，モデルパラメータの事後確率分布

S q qQ(Λ) は，次式で更新される．

tφ̄ij = φij + N̄ij , ξ¯i = ξi + N̄i , η̄i = ηi + N̄i(45)

また，Q(Z )，Q(q) の更新に用いられる期待値は，次式で表される．

log aij Q(ai ) = Ψ (φ̄ij ) − Ψ

 N


o

 η̄ + 1 − d 
2

 o

1
D 
D log π +
−
Ψ
2
ξ̄i
D



+T r η̄i B̄



(47)

+ log |B̄ i |i

2

W x)t − ¯ i )((W x)t − ¯ i )





(48)

により，N̄i , N̄ij , ōi , C̄ i を更新する．

変分法による近似事後分布の最適化を行うことにより，下限

F は周辺尤度 P (W x, O |s, S) を良く近似することができる．
よって，最適な音声パラメータは，F を最大化することで得られる．下限 F を x について，∂∂F=
log P (W x|q , Λ)P (q|s, Λ) Q(q)Q(Λ)
∂x
∂x
 ∂

=
log P (W x|q , Λ)=0∂xQ(q )Q(Λ)

W  S W x(Bayes) = W  S

(49)

(50)

=

i=1

Q(bi )S i dΛ =（ 1 ） 事前分布パラメータと x の初期値を与える．
（ 2 ） Q(Z ) の更新 (式 (46)，(47))（ 3 ） Q(q) の更新 (式 (46)，(48))．

（ 4 ） Forward-Backward アルゴ リズム (式 (39)–(42))（ 7 ） F が増加しなければ終了．それ以外は (2) へ．

3. 5 コンテキスト クラスタリング
アクセントなど の様々な情報をコンテキストとして HMM を学習するため，コンテキストクラスタリングが重要な役割を果たす．これまで，コンテキストクラスタリングにおいても，

HMM の学習と同様，ML 基準が用いられてきた．また，クラる．しかし ，MDL 基準はその導出に，学習データが十分に得られるという仮定を置いており，データ量が少ない場合，十分な精度が得られない可能性が指摘されている．この問題に対し，
音声認識において，ベイズ基準によるコンテキストクラスタリ

ズ基準を用いる．
ベイズ基準のコンテキストクラスタリングでは，Q(Z )，Q(q)，決定する．F に近似事後確率を代入し，クラスタリングに関係のある項だけを考慮すると，

= −
(51)

である．また，行列の各成分は独立に期待値計算ができるため，
t

な音声パラメータを求めることができる．この繰返し手順には，

F = − log CΛ + E [Q(q)] + E [Q(Z )]= diag[ S q1 , S q2 , . . . , S qT ]Sqと事後分布パラメータの更新を繰り返すことにより，より最適

Q(a) を固定した状態で，F を最大にする Q(b) の共有構造をQ(q)Q(Λ)S dΛ

き換えることにより容易に実装可能である．また，事後分布でも同様に，決定木によるコンテキストクラスタリングにベイが得られる．ただし，qtiと同じ 形をしており，S ，S を，それぞれ， S ， S に置

ング [11] が提案されており，有効性が確認されている．本研究

とおくことにより，N
である．式 (50) は，ML 基準によるパラメータ生成 (式 (12))

スタリングの分割停止条件として，MDL 基準が良く用いられ

3. 4 ベイズ基準による音声パラメータの生成

q

(54)

HMM 音声合成では，HMM による音声認識に比べ，韻律や値を用いて，Forward-Backward アルゴ リズムを実行すること

S =

−1

（ 6 ） x の更新 (式 (50))．

となる．ここで，Ψ (·) は digamma 関数である．これらの期待¯iqti η̄i B̄ i （ 5 ） Q(Λ) の更新 (式 (43)–(45))

 η̄ + 1 − d 

d=1

−1
i ((

+ log |B̄ i |i−1
i ( t − ¯ i )( t − ¯ i )log N ((W x)t |i , S −1i ) Q(bi )



=

N


様々な組合せが考えられるが，例えば以下のような手順となる．

b

d=1

= −

(46)

φ̄kj

−1
i ) Q( i )D+T r η̄i B̄

Q(bi )S i i di dS i

Q(Λ)，Q(q)，Q(Z ) の更新には，x を用いるため，x の更新

k=1

1
D 
D log π +
−
Ψ
2
ξ̄i




qti

i=1

N̄i + ξi

= −

=

N

i=1

(44)

B̄ i = N̄i C̄ i + B i + N̄i ξi (ōi −  i )(ōi −  i )log N (ot |i , S

t

(43)

¯ i = N̄i ōi + ξi  iN̄i + ξi

Q(q)Q(Λ)SdΛqNqti η̄i

B̄

−1
i

(52)

N


log Cbi + Const

(55)

i=1

となる．ただし，log Cbi = log

N̄i DC̄Ni C̄Wi(2π) 2
CNi CWi

(56)

i=1

—5—

である．簡単のため事前確率はすべてのガウス分布で等しいと仮定し ，その正規化定数を CN0 ，CW0 とすると，あるクラス
タが分割された時の F の変化量は，（ 4 ） Q(Λ) の更新 (式 (43)–(45))（ 5 ） x の更新 (式 (50))．

= − log C̄Ny C̄Wy − log C̄Nn C̄Wn

（ 6 ） F が増加しなければ終了．それ以外は (2) へ．

+ log C̄Np C̄Wp + log CN0 CW0= δfy + δfn − δfp − δf0

(57)


D
ηi
log Γ
log ξi −log |B i | +
2
2
D

d=1



装を終えており，合成部において状態系列 q を外部から与え，(58)

した HMM は状態系列の最適化には不十分であり，状態継続率分布の正規化定数であり，各クラスタの統計量 N̄i , o¯i , C̄ i から計算される．δF を最大にする質問を選択しながら分割を繰
返し ，δF <= 0 で分割を停止することにより，ベイズ基準によるクラスタリングを実現できる．
これまでに説明したアルゴ リズムでは，Q(Z ) は，Q(Λ) を介して x に依存する．よって，合成音声のラベル列 s が決定した後で，すべての学習データに対する Forward-Backward アル
ゴ リズムを計算する必要がある．しかし，実際に，この計算を行うことは計算量の観点から現実的ではない．そこで，実装においては，Q(Z ) は x に依存しないと仮定し，あらかじめ学習

データから計算した Q(Z ) で固定することを考える．

合成音声のラベル列 s が与えられる前は，式 (14) におけるP (W x, q|s, Λ) を計算することができないため，この項を考慮しないで Q(Z )，Q(Λ) を最適化する．すなわち，P (W x, O |, s, S)

を P (O|S) に置き換える．このとき，最適な事後分布は，Q(Z ) = CZ exp log P (O, Z |S, Λ) Q(Λ)Q(Λ) = CΛ P (Λ) exp log P (O, Z |S, Λ) Q(Z )

(59)
(60)

で得られる．また，この分布を用いた期待値計算は，式 (39)–(42)を次式に置き換えることにより，計算可能である．



T −1

N̄ij =

t=1

j
zti zt+1

(61)

t=1

 i
ōi = 1
zt ot
N̄i
T

(62)

t=1

C̄ i = 1N̄iTzti (ot − ōi )(ot − ōi )

Q(q) と Q(Λ) を更新しない簡単な場合について，合成音声の生成を確認している．また，2. 2 で述べたように，ここで定義
長モデルが必要となるが，本論文では，その点は考慮していな

い．そのため，実装上は，Q(q) を状態継続長モデルを用いて計算するなど ，何らかの対処が必要である．HMM の定義として，遷移系列を最適化できるモデルを定義し，学習も含めた最適化を行うのが理想的であるが，計算量の問題があり，今後の課題である．

3. 6 実装における近似

zti ,えられるが，どのような手順が適当であるかは，今後，評価実ηi + 1 − d2である．ここで，Cbp は分割前，Cby ，Cbn は分割後の事後確T

合成部では，Q(Λ) の更新を行わないなどの様々な組合せが考験により調査する必要がある．現在，実験として，学習部の実と書ける．ただし，

N̄i =（ 2 ） Q(q) の更新 (式 (46)，(48))（ 3 ） Forward-Backward アルゴ リズム (式 (39)–(42))δF = − log Cby − log Cbn + log Cbp

δfi = −

• 合成部

（ 1 ） ラベル列 s に基づく x の初期値を与える．

(63)

t=1

合成システムを実現するための手順は，以下のようになる．

• 学習部（ 1 ） 事前分布パラメータを与える．

（ 2 ） Q(Z ) の更新 (式 (46)，(47))．
（ 3 ） Forward-Backward アルゴ リズム (式 (61)–(63))．

（ 4 ） Q(Λ) の更新 (式 (43)–(45))．
（ 5 ） F が増加しなければ終了．それ以外は (2) へ．

4. ま と め
本論文では，ベイズ基準による HMM 音声合成を導出した．
今後の課題は，提案手法の評価と状態継続長モデルを用いた状
態系列と音声パラメータの同時最適化である．
文

献[1] H. Attias, “Inferring parameters and structure of latent variable models by variational Bayes,” Proc. UAI, 1999.
[2] 上田修功, “ベイズ学習,”（ 全４回）電子情報通信学会誌，Vol.
85, No. 4,6,7,8, 2002.
[3] S. Watanabe, Y. Minami, A. Nakamura, and N. Ueda,“An application of variational Bayesian approach to speech
recognition,” NIPS15, 2002.
[4] 吉村貴克, 徳田恵一, 益子貴史, 小林隆夫, 北村正, “HMM に基づく音声合成におけるスペクトル・ピッチ・継続長の同時モデル
化,” 信学論 (D-II), vol.J83-D-II, no.11, Nov. 2000.
[5] 益子貴史, 徳田恵一, 小林隆夫, 今井 聖, “動的特徴を用いた
HMM に基づく音声合成,” 信学論 (D-II), vol.J79-D-II, no.12,
pp.2184–2190, Dec. 1996.
[6] 徳田恵一, 益子貴史, 小林隆夫, 今井 聖, “動的特徴を用いた
HMM からの音声パラメータ生成アルゴ リズム,” 日本音響学会
誌, vol.53, no.3, pp.192–200, Mar. 1997.
[7] K. Tokuda, Takayoshi Yoshimura, T. Masuko, T. Kobayashi
and T. Kitamura, “Speech parameter generation algorithms
for HMM-based speech synthesis,” Proc. ICASSP, pp.1315–
1318, June 2000.
[8] K. Tokuda, T. Kobayashi and S. Imai, “Speech parameter generation from HMM using dynamic features,” Proc.
ICASSP, pp.660–663, 1995.
[9] K. Tokuda, T. Masuko, T. Yamada, T. Kobayashi and
Satoshi Imai, “An algorithm for speech parameter generation from continuous mixture HMMs with dynamic features,” Proc. EUROSPEECH, pp.757–760, 1995.
[10] K. Koishida, K. Tokuda, T. Masuko and T. Kobayashi,“Vector quantization of speech spectral parameters using
statistics of dynamic features,” Proc. ICSP, vol.1, pp.247–
252, Aug. 1997.
[11] 渡辺 晋治，南 康浩，中村 篤，上田修功, “ベイズ的基準を用いた状態共有型 HMM 構造の選択,” 信学論 (D-II), vol.J86-D-II,
no.6, pp.776–786, 2003.

—6—