2-4-3
発音推定のための重みベクトルの適応的正則化手法におけるハイパーパラメータの改善∗☆久保慶伍, サクティサクリアニ，ニュービッググラム，戸田智基，中村哲 (奈良先端大)1 はじめに2 既存の g2p 変換手法

まず，本論文で用いる線形識別器による g2p 変換
様々な単語を認識・発話することが求められるオーを以下のように定義する．
プンドメインな音声認識や音声合成において，辞書になく発音が分からない単語（未知語）の問題は重要
ŷ = arg max wT Φ(x, y)(1)な課題である．単語の発音が分からない場合，その単y語を認識・発話することができないからである．この世に存在する全ての単語に対して人手により発音を
ここで， x は書記素列，y は音素列を表す．また，w付与するには非現実的な時間やコストが掛かるため， は特徴量の重みベクトルを表し，Φ(x, y) は， x と y
この問題を解決するために発音推定が行われる．オーの結合 N-gram の頻度などからなる特徴量ベクトルをプンドメイン化や多言語化が進む音声認識分野では， 表している．式（1）の ŷ はビーム探索などの探索アその必要性がますます増加している．
ルゴリズムにより得られる．
発 音 推 定 は 書 記 素 列（Graphemes）か ら 音 素 列
上記の g2p 変換器において正確に発音を推定する（Phonemes）へと変換する g2p 変換で行われる．g2p
重みベクトル w を得るために，オンライン識別学習
変換の分野ではこれまでに結合系列モデル [1] などのを用いる．g2p 変換は構造学習問題であるため，構造機械学習に基づく様々な手法が提案されてきた．最近学習に対応したオンライン識別学習を用いる必要がの試みとして豊富な特徴量を用いるオンライン識別ある．構造学習問題は，事前に有限個のクラスを定義学習がある [2, 3, 4]．その代表的な手法として Marginする多値分類問題と異なり，部分クラスの組み合わせ
Infused Relaxed Algorithm (MIRA) [5] を g2p 変換にによりクラスが決定するためクラス数が無数にある．
適用するために構造学習に拡張した手法 [2, 3] があ
それ以外は基本的に多値分類と同じであるため，更新る．構造学習とは分類するクラス（例えば発音）が部時に考慮するクラスの数を N-best などに限定する多分クラス（例えば音素）の組み合わせからなる分類問
値分類の学習手法は構造学習にも素直に適用できる．
題を取り扱う機械学習の分野の一つである．
この後説明する手法はそれに該当する手法である．
我々も二値分類手法である重みベクトルの適応的正g2p 変換において現在最も高い性能を誇るオンライ則化手法（AROW: Adaptive Regularization of Weight
ン識別学習は MIRA に基づく手法である．i 番目のVectors）[6] を g2p 変換用に拡張した構造化 AROW をデータ (xi , yi ) と現在の重み wt−1 により推定されたそ提案した [4]．これは 2 次統計量により表される各重のデータの発音の N-best 仮説 ŷ1 , . . . , ŷN が与えられみの現在の値に関する信頼度を用いることで，MIRAた時，MIRA は以下の制約付き最適化問題を解くことが持つ過学習問題を解決するオンライン識別学習法
により次の重みベクトル wt を得る．
である．しかしながら，構造化 AROW はまだ完全な
1arg min ∥wt − wt−1 ∥2 ; s.t. ∀n; ℓ(xi , yi , ŷn , wt ) = 0 (2)手法ではない．構造化 AROW の問題点として各重み2wtの信頼度が早期の段階で高くなりやすいことが挙げられる．信頼度の逆数は直感的に言えばその重みのここで ℓ は正しい発音 yt のスコアが十分な差で仮説学習率を意味しているため，学習の早期の段階で信の発音 ŷt よりも高い時に 0 の値を出力し，それ以外頼度が高くなりすぎると重みが不適切な値に収束し， の時に正の値を出力する損失関数である．MIRA はそれ以後の学習データにおいてその重みを動かせな式（2）の制約に従い，N-best の仮説よりも正解の発いという問題を引き起こしやすい．この問題は構造音が選ばれるように重みを大きく動かすため，学習化 AROW の識別能力を低下させる．
データを過学習してしまう．特に発音が誤ったデータ
上記の問題は二値分類の AROW においても存在す（ノイズデータ）が学習データに多く含まれている場
る．二値分類では上記の問題を解決するために，Nar合，誤った方向に重みベクトルを大きく動かしてしま
row AROW (NAROW) [7] と呼ばれるオンライン識別い性能の劣化が予期される．
学習法が提案されている．この手法は AROW のハイ
この過学習の問題を解決するために，我々は構造パーパラメータを信頼度が高くなり過ぎないように化 AROW を提案した．この手法では逐次的に仮説設定することで上記の問題を防ぐ．また，その設定は
ŷ1 , . . . , ŷN に対して，以下の関数を最小化する wt を
NAROW の分類に関する誤り限界を最小化するよう求める手法である．に導出されるため，解析的な観点からみても，それL(wt , Σt ) = DKL (N(wt , Σt )||N(wt−1 , Σt−1 ))は AROW の識別能力を改善するということが分かる．
本論文では，この手法を g2p 変換に適用するために，(3)+ 2r1 ℓ(xi , yi , ŷn , wt ) + 2r1 oTt Σt ot
NAROW を g2p 変換用に拡張した構造化 NAROW を提案する．さらに様々な g2p 変換タスクにより構造
DKL (N(wt , Σt )||N(wt−1 , Σt−1 )) は wt と wt−1 の単一多次化 NAROW を評価する．
元ガウス分布間の Kullback-Leibler（KL）ダイバージェンスを意味し，r > 0 は汎化能力を調整するハ∗

Improvement of Hyperparameter in Adaptive Regularization of Weight Vectors for Grapheme-to-Phoneme Conversion. by Kubo Keigo, Sakriani Sakti, Graham Neubig, Tomoki Toda, Satoshi Nakamura (Nara Institute of Science andTechnology)

日本音響学会講演論文集- 51 -2014年3月

イパーパラメータ，ot は正解と仮説の特徴量ベクトルの差ベクトル Φ(xi , yi ) − Φ(xi , ŷn ) を意味する. 共分散行列 Σ の逆行列は各重みの信頼度を表す二次統計量である．wt は，できるだけ分布を変化させずに，その個々の重みの学習率を考慮して，正解のスコアを増加させ，他の仮説のスコアを減少させるよう更新される．この時，正解のスコアが仮説のスコアよりも高くなることは保証されないが，学習を繰り返すことにより，徐々に多くのデータにおいて正解のスコアが仮説のスコアを上回るようになる．Σ は更新された特徴量（ ot において 0 以外の値を持つ特徴量）の重みの信頼度を増加するように更新される．
Σ を導入し，MIRA では制約であった損失関数を正則化項としてコスト関数に置くことにより，構造化
AROW は過去に何度も更新された（信頼度の高い）識別に重要な重みを極端に動かすことを防ぎ，過学習問題を改善する．特にノイズを含む学習データにおいて性能の劣化を防ぐことが過去の研究により示されている [4]．

3 NAROW
AROW と構造化 AROW は重みベクトルの各更新において r に固定の値を設定するため，信頼度が線形に増加して高くなり過ぎる傾向にある．一方で，二値分類の NAROW では r の設定を自身の誤り限界を最小化するように導出する．導出された設定では信頼度が対数的に増加し，かつ現在の学習データに出現する特徴量が十分な信頼度を持つ場合は信頼度を更新しないため，信頼度が高くなり過ぎることを防ぐことができる．これにより，NAROW は重みが早期の段階で不適切な値に収束することを防ぐ．
NAROW の学習では自身の誤り限界を導出するために Follow the Regularized Leader (FTRL) という以下の枠組みに従って重みベクトルを得る．
t−1∑wt = arg min
ηi zTi wt + ft (wt )(4)Algorithm 1 Follow the Regularized Leader に基づく構造化されたオンライン識別学習（提案手法）
Input:Training dataset D = {( x̄1 , ȳ1 ), ..., ( x̄|D| , ȳ|D| )}and a series of regularizers f0 , . . . , fT −1
Output:weight vector wT
t = 1, θ0 = 0
repeatfor i = 1 to | D| do∗
wt = ∇ ft−1
(θt−1 ) = Σt−1 θt−1
Predict N-best hypotheses ỹ1 , ..., ỹN bywTt Φ( x̄i , ỹ)
for n = 1 to N doConsider xt := x̄i , yt := ȳi , ŷt := ỹn andℓt (wt ) := max(0, vt dt − wTt ot )if ℓt (wt ) > 0 thenzt = −ot ∈ ∂ℓt (wt )θt = θt−1 − zt
t =t+1∗wt = ∇ ft−1(θt−1 ) = Σt−1 θt−1
end ifend forend for
until Stop condition is met

構造化 NAROW は損失関数 ℓ と Σ−1t の更新，rt の計算において，特徴量ベクトル Φ(xt ) の代わりに正解と仮説の特徴量の差ベクトル ot を用いる．これは，二値分類の学習に用いられる正解判定項 yt (wt · Φ(xt ))（ここで yt は 1 か −1 を持つ正解ラベルである）を構造学習に拡張すると wt · ot と定義できるからである．
これらはどちらも，分類が正しい時は正，誤りの時は負の値を取る．また，二値分類の yt による分類の正誤を判定する役割は ot 内に含まれている．ただし，wt · ot は一つの仮説に対してしか分類の正誤を保証しない．一方で，構造学習では無数の仮説があるため，wt
全仮説に関する ot を学習に使うことは難しい．そのi=1
ため，構造化 NAROW では N-best の仮説に関する ot
ここで ηi と zi は i 回目の更新の学習率と損失関数だけを使用する．の劣微分 ∂ℓi (wi ) である． ft (wt ) は学習を汎化させる
また，構造化 NAROW では wt を求める際に，正則ための正則化項（別名，ポテンシャル関数）である．
化項
ft (wt ) の代わりに， ft−1 (wt ) を用いる．その理由
NAROW は各更新 t において ηt = 1 とし， ft (w) を1 T −1は，NAROW
ではクラスに依存しない現在のデータ−12 w Σt w と定義する．ここで Σt は各重みの信頼度
Tの特徴量ベクトル
Φ(xt ) を ft (wt ) 内の Σ−1Φ(x)Φ(x)t の更新に用−1ttを表す二次統計量で，Σ−1に従い更t = Σt−1 +rtいるため，容易に Σ−1を求められるが，構造学習ではt−1新される．また，rt > 0，Σ−10 = I である. Σt の更新
現在のデータの正解と仮説のクラスに依存する ot が式は，その rt が各更新において固定の値 r を持つ場必要となるため，Σ−1t を容易に求められないからであ合，AROW の共分散行列 Σt の更新式を逆数にした式
る．なぜならば，その仮説のクラスは，求めたい wtと同じになる．NAROW における rt の設定は bvt > 1により選別されるからである．
t，その他は rt = +∞ である．ここでの時 rt = bvvt −1
構造学習用に拡張された損失関数 ℓ は以下のよう
vt = Φ(xt )T Σt−1 Φ(xt ) > 0 は全特徴量の分散具合を示すに定義される．
変数で， b > 0 は新しいハイパーパラメータである．
ℓt (wt ) = max(0, vt dt − wTt ot )(5)
この設定は信頼度が高くなり過ぎることを防ぐ．
ここで，dt = d(yt , ŷt ) は正解 yt を仮説 ŷt と推定した
4 構造化 NAROW
場合に起こる損失値を表す．本論文では dt を音素誤構造化 NAROW もまた自身の誤り限界を最小化すり数として定義する．損失関数 ℓ 内に定義されているように rt の設定を導出する．その導出された設定る dt と vt の積により，更新対象の全特徴量の分散がは NAROW と同じ特性を持っており，構造化 AROW高い（まだ更新回数が少ない）場合は損失値が大きくの問題を改善することができる．5 節において構造化なる．また，損失関数 ℓ の劣微分 zt は，ℓt (wt ) > 0 の
NAROW の誤り限界と rt の設定の導出について説明す
時 −ot ，それ以外は 0 とする．
る．この節では NAROW との違いと構造化 NAROW
式（4）を上記の説明を考慮して構造学習に拡張後，の具体的な学習手続きを説明する．
導出した重みの更新式は以下の通りである．

日本音響学会講演論文集- 52 -

2014年3月

−1∗
wt = ∇ ft−1
(θt−1 ) = ∇ ft−1
(θt−1 ) = Σt−1 θt−1(6)∑t−1∗
ここで θt−1 = − i=1 zi ，θ0 = 0，∇ ft−1 (θt−1 ) は， ft−1に対してフェンシェルの共役変換を行った関数の勾{}∗∗T配である． ft−1は ft−1
(θt−1 ) = supu θt−1u − ft−1 (u) =1 T
2 θt−1 Σt−1 θt−1 として定義される（sup は上限を意味する）．N-best 学習に対応した FTRL に基づく構造化
NAROW の学習アルゴリズムを Algorithm 1 に示す．

5 構造化 NAROW の誤り限界
構造化 NAROW に関する誤り限界を最小化する rtの設定を導出するために，本節ではオンライン凸最適化に基づく構造化 NAROW の誤り限界を導出する．

5.1 オンライン凸最適化
オンライン凸最適化はポテンシャル関数（正則化項）を通してオンラインアルゴリズムを解析・設計するための方法である．Orabona らは更新 t ごとにポテンシャル関数が変化する FTRL に基づくオンライン凸最適化を用いて NAROW の誤り限界を導出した[7]．構造化 NAROW もその枠組みに従い誤り限界を導出する．
ここで凸解析に関するいくつかの定義を導入する．
ノルム ∥·∥ に関して β 強凸とは f (u) ≥ f (u)+∇ f (u)T (u−u) + 12 β∥u − u∥2 を満たす関数のことである．ここでu, u ∈ ri(dom( f )) である（ri(dom( f )) は f の実効定義域の相対的内点を意味する）．3 節で定義された
2T −1関数 ft (o) = 12 oT Σ−1t o はノルム ∥o∥ ft = o Σt o に関して 1-強凸である．ノルム∥ · ∥ に関する双対ノルム{}∥ · ∥∗ は ∥u∥∗ := sup uT u : ∥u∥ ≤ 1 として定義されるノルムである．双対ノルム ∥ · ∥∗ に関して β-強凹はf∗ (u + u) ≤ f∗ (u) + ∇ f∗ (u)T u + 12 β∥u∥2∗ を満たす関数である．4 節において定義された ft∗ (o) = 12 oT Σt o はノルム ∥o∥2f ∗ = oT Σt o に関して 1-強凹である．β-強凸・凹tは誤り限界を導出するために重要な特性である．
5.2 誤り限界の導出
この節では誤り限界の導出に関して簡単に説明する．導出の詳細は，2 値分類と構造学習の違いはある−1が（正則化項における Σ−1t−1 と Σt の違い），[7] が参考になる．最初に以下の条件を導入する．
dt − ℓt (u) ≤ −uT zt ; ∀u ∈ S , vt ≥ 1(7)5.3 ハイパーパラメータ rt の選択
我々は上記の誤り限界の右辺を最小化する（分類誤りを最小化する）ハイパーパラメータ rt 選択した
い．Orabona らは 2 値分類において，式（8）におけT2tの部分を最小化することを焦点にる λ(u2rxt t ) + 2λ(rvttr+vt)
当てている [7]．vt が十分に小さい時，その第 2 項は0 に近くなり無視することができるため，第 1 項を最小化するために rt = +∞ とする．vt が大きい場合は第 2 項を無視できないため，それに合わせて rt が小tさくなるよう rt = bvvt −1とする．vt が十分に小さいかどうかは bvt > 1 を満たさないかどうかで決定する．
ハイパーパラメータ b > 0 は第 1 項と第 2 項の最小化に関するトレードオフを制御する．この設定は信頼度を対数的に増加させ，更新される全特徴量の信頼度が十分に高い場合は信頼度を更新しないということを意味しており，これにより信頼度が高くなりすぎることを防ぐ．また，この設定は誤り限界を最小化するように導出されるため，解析的にも，固定の値を設定するよりも誤りが少ない分類を行うことが分かる．
この設定を構造学習にも採用して式（8）の rt に代入後，λ で偏微分し，それを 0 と置いて，最適な λ を得ることにより, 構造化 NAROW に関する誤り限界が以下のように得られる．
vt∑∑ bvt (uT xt )2D≤ℓt (u) + ∥u∥2 +(rt + vt )t∈M∪Ut:bvt >1√∑∑
m2t
1×(min( , vt ) −+ 2mt ) −dt (9)b(rt + vt )t∈M∪Ut∈U
g2p 変換の特徴量数は膨大なため，実際は全共分散行{ }−1を用いることに列 Σ−1t の代わりに対角行列 diag Σt注意する．式（7）における vt ≥ 1 に関して，b を小さく設定すれば vt は小さくなり過ぎることはない．それゆえ，b を小さく設定することによりその不等式を満たすようにする．16 評価実験

g2p 変換タスクを用いた実験により構造化 NAROWを評価した．表 1 はこの実験において用いたデータセットのデータ名（Dataset），出現する書記素と音素の種類数（g/p: g が書記素，p が音素の種類数に対応），学習データ数（Train），開発データ数（Dev），
ここで zt は ℓt (wt ) > 0 を満たす劣微分の値である．まテストデータ数（Test），交差検定の回数（K-fold）
た，ここで vt ≥ 1 が全ての t で必ず満たされると仮を示している．表 1 におけるデータセットに関して，定する．その例外（vt < 1）に関しては 5.3 節で説明する．[7] における補題 1，3 節と 4 節における設定， NETtalk，Brulex，Beep は，Pascal Letter-to-Phoneme
Conversion Challenge2 から得た単語の発音辞書であ式（7）， ft (λu) ≤ λ2 ft (u) から，以下の誤り限界に関る．また，CMUdict3 ，Celex4 もまた単語の発音辞書する不等式を得ることができる．
∑∑∑である．文献 [1] の実験で用いられているデータセット(dt − ℓt (u)) = D +dt −ℓt (u)（NETtalk，Brulex，Beep，CMUdict）において，我々t∈M∪Ut∈Ut∈M∪Uは，学習データから開発データをランダムに選んだこT
22∑λ(u xt )λ∥u∥+(≤とを除いて，書記素列が 1 文字で構成されるといった
22rtt∈M∪U
例外データの取り除き方，学習データ数（＋開発データ数）とテストデータ数の割合に関して，文献 [1] のm2tmtvt rt−+ ),(8)+実験の再現を試みた．
2λ(rt + vt ) 2λ(rt + vt )λ
ここで mt = oTt Σt−1 θt−1 ，u は任意の重みベクトル，λ ≥ 0 は任意のスケール因子である．D は分類誤りの数， M は推定を誤ったデータ数，U は正しい推定を行ったが正解のスコアが仮説のスコアよりも vt dt だ
け高くなかったデータ数を表す．

日本音響学会講演論文集

1 g2p 変換は豊富な特徴量を用いるため v の値が高くなり，そtの不等式はほぼ確実に満たされることに注意．
2 http://pascallin.ecs.soton.ac.uk/Challenges/
PRONALSYL/Datasets
3 http://www.speech.cs.cmu.edu/cgi-bin/cmudict
4 http://www.ldc.upenn.edu/Catalog/catalogEntry.jsp?
catalogId=LDC96L14- 53 -2014年3月

Table 1 g2p 変換タスクの評価実験で使用するデータセット．
Datasetg/p

NETtalk (English)
Brulex (French)
CELEX (English)
CMUdict (English)
Beep (English)

26/50
40/39
26/53
27/39
26/44

Train
17595
23353
39995
100886169823

Vocabulary size
Dev
Test
1000
1000
1373
2747
15000
5000
5941 12000
8938 19862

K-fold105
121Table 2 各手法において設定が必要な特徴量とパラメータ．
joint n-gramcontext
window
N-besthypotheses
hyperparameter r
hyperparameter b
beam width

JOINT
7MIRA
5SAROW
5SNAROW
5-

666-

555--500,
1000,1500-----5050

DatasetNETtalk

MeasurePER(%)
WER(%)
PER(%)
WER(%)
PER(%)
WER(%)
PER(%)
WER(%)
PER(%)
WER(%)

BrulexCELEXEnglishCMUdict
Beep

JOINT
7.71
31.6
1.26
6.57
2.62
12.15
6.77
28.55
2.26
12.24

MIRA
6.70
28.18
1.03
5.24
2.39
11.07
6.19
26.35
2.35
12.60

SAROW
6.75
28.66
1.09
5.59
2.51
11.81
6.15
26.48
2.19
11.73

SNAROW
6.53
27.97
0.99
5.14
2.30
11.17
6.11
26.46
2.16
11.57

謝辞 本研究の一部は，JSPS 科研費 24240032 および（独）情報通信研究機構の委託研究「知識・言語グリッドに基づくアジア医療交流支援システムの研究開発」の助成を受けたものである。

参考文献

評価手法は Sequitur5 に実装されている書記素列と音素列の結合 N-gram の生成モデルである結合系列モデル（JOINT）と DirecTL+6 に実装されている g2p変換のための MIRA に基づくオンライン識別学習（MIRA），構造化 AROW（SAROW），提案手法である構造化 NAROW（SNAROW）を用いた．表 2 はそれらの特徴量や設定が必要なパラメータの詳細を示している．いくつかのパラメータの設定は過去の研究 [4] に基づいている．学習回数とハイパーパラメー
タ r と b は開発データの音素誤り率を最小にする値が用いられる．SNAROW と MIRA，SAROW の前処理として必要とされる書記素列と音素列の最小単位を決めるアライメントには mpaligner7 に実装されている制約なし多対多アライメント手法を用いた [8]．
表 3 に g2p 変換タスクにおける評価結果を示す．
PER は音素誤り率，WER は単語誤り率を意味する．
NETtalk，Brulex，CMUdict の結果は各交差検定における結果の平均である．有意差検定には Paired Bootstrap Resampling [9] を使用し，有意水準 0.05 で検定した．太字はその評価指標において最も性能が高かった手法とその手法に対して有意差がなかった手法である．表 3 から，PER に関して，提案手法は CMUdictと Beep 以外の全てのデータセットにおいて，有意な差で他の手法を改善している．MIRA と SAROW に対する誤り削減率は 0.7-9.2%であった．このことか
ら，提案手法は g2p 変換タスクにおいて，今回比較した手法の中で最も有効な手法であることが分かった．

7 まとめ
本論文では 2 値分類の NAROW を構造学習に拡張した構造化 NAROW を提案し，g2p 変換タスクにおいてそれを評価した．構造化 NAROW はハイパーパ
ラメータ rt を信頼度を高くし過ぎないように設定することで，重みが早期の段階で不適切な値に収束してしまう構造化 AROW の問題を解決した．評価実験に
6 http://code.google.com/p/directl-p/

g2p 変換タスクにおける評価実験の結果．

おいて，我々の提案手法は様々な辞書の音素誤り率において 0.7-9.2%の誤り削減率を得て，有意に MIRAと構造化 AROW を改善した．

0.0075,0.01,0.0125
50

5 http://sequitur.info/

Table 3

[1] M. Bisani and H. Ney, “Joint-sequence models forgrapheme-to-phoneme conversion,” Speech Communication, vol.50, no.5, pp.434–451, 2008.
[2] S. Jiampojamarn and G. Kondrak, “Online discriminative training for grapheme-to-phoneme conversion,” Proc. INTERSPEECH, pp.1303–1306, 2009.
[3] S. Jiampojamarn, C. Cherry, and G. Kondrak, “Integrating joint n-gram features into a discriminative
training framework,” Proc. NAACL-HLT, pp.697–700, 2010.
[4] K. Kubo, S. Sakti, G. Neubig, T. Toda, and S. Nakamura, “Grapheme-to-phoneme conversion based on
adaptive regularization of weight vectors,” Proc. INTERSPEECH, pp.1946–1950, 2013.
[5] K. Crammer and Y. Singer, “Ultraconservative online algorithms for multiclass problems,” Journalof Machine Learning Research, vol.3, pp.951–991,2003.
[6] K. Crammer, A. Kulesza, and M. Dredze, “Adaptiveregularization of weight vectors,” Advances In Neural Information Processing Systems, vol.23, pp.414–422, 2009.
[7] F. Orabona and K. Crammer, “New adaptive algorithms for online classification,” Proc. NIPS,
pp.1840–1848, 2010.
[8] K. Kubo, H. Kawanami, H. Saruwatari, and K.
Shikano, “Unconstrained many-to-many alignment
for automatic pronunciation annotation,” Proc. APSIPA, pp.1–4, 2011.
[9] P. Koehn, “Statistical significance tests for machinetranslation evaluation.,” EMNLP, pp.388–395, 2004.

7 http://sourceforge.jp/projects/mpaligner/

日本音響学会講演論文集- 54 -

2014年3月