MIRA(Margin Infused Relaxed Algorithm)
京都大学大学院情報学研究科知能情報学専攻
中澤 敏明
nakazawa@nlp.kuee.kyoto-u.ac.jp

2009/7/31 勉強会

1Introduction
MIRA(Margin Infused Relaxed Algorithm) はオンライン学習アルゴ リズムの一つで 、事例と超平面との距離 (Margin) をモデル更新に利用 (Infused) する。Relaxed の気持ちは 、[3] で示されている

multiclass version Perceptron のパラメータ更新時の制約を緩めているところから来ている (と思われる)。なお MIRA の初出は [3] であり、正確にはこの論文中での定義が MIRA なのだが、この MIRA は分離可能な問題にしか対応しておらず、これを発展させたものが PA(Passive-Aggressive) algorithm[2]となっている。また MIRA を利用したと謳っている研究のほとんどは実際には [2] を使っている。そこで今回は [2] を取り上げ、その内容を理解する。なお本稿の章立ては [2] に倣っているので、適宜元の論文を参照されたい。
一般にオンライン学習では、以下の処理を繰り返すことによりモデルの学習を行う:

1. 事例を一つ観測
2. 事例に対する出力をその時点でのモデルにより生成
3. 出力と正解とを比較してモデルを更新
この一連の処理をここでは round と呼ぶことにする。

PA の基本的なアイデアは、学習を「観測している事例が正しく判定できるようにモデルを更新するが、その更新の大きさは最小でなければならない」という最適化問題を解くことに置き換えるということである。この利点は• 閉じた解が得られる• 様々な問題を解くための様々なオンラインアルゴ リズムの性能 (誤りの上限など ) を統一的に分析できる
なおオリジナルの MIRA はモデルの更新の大きさを最小化するのではなく、更新後のパラメータのノルムを最小化するという点が異なる。PA より MIAR の方が計算が複雑なため速度が遅くなり、実装するのも MIRA の方が難しい。しかし最後の実験では精度は MIRA の方が若干よい。

2 Problem Setting
二値分類問題を考える。各 round ごとに、

1. ある事例を観測し 、+1 か -1 かのラベルを付与する
2. 正解と比較し 、誤りの度合を得る
3. 誤りの度合に応じてモデルを更新

1

を行う。ある round t における事例とその事例の正解ラベルのペアを (xt , yt ) とし 、example と呼ぶ。
ただし xt は n 次元の実数ベクトル (Rn ) とし 、yt ∈ {+1, −1} とする。
事例を分類するための関数として、重みベクトル w ∈ Rn を考え、round t において用いる重みを

wt と記す。この重みと事例ベクトル xt との内積 (wt · xt ) の符号 (sign(wt · xt )) により事例を分類し 、その大きさ (|wt · xt |) により確信度を表す。また yt (wt · xt ) を margin と呼ぶ。sign(wt · xt ) = yt(⇔ yt (wt · xt ) > 0) ならば分類が正しいことになるが、確信度もある程度大きい方が望ましい。そこ
で確信度が 1 より小さい場合に、以下の hinge-loss function により損失を受けることにする:0y(w · x) ≥ 1`(w; (x, y)) =(1)
1 − y(w · x) otherwise
簡単のために、round t における損失を `t (= `(wt ; (xt , yt ))) と書く。

3

Binary Classification Algorithm
重みベクトルの初期値を 0 ベクトル (w1 = (0, ..., 0)) とし 、Passive-Aggressive (PA) algorithm により更新する。
重みベクトルの更新を以下の最適化問題の解として定義する:

1
wt+1 = argmin ||w − wt ||2w∈Rn 2s.t.

`(w; (xt , yt )) = 0(2)

つまり wt+1 は wt の hinge-loss が 0 である空間への写像である。
この式では `t = 0 ならば何もせず wt+1 = wt となり (passive) 、そうでなければ条件を満たす範囲
で wt を更新して wt+1 とする (aggressive)。つまり現在の事例を正しく分類できるように重みを更新するのだが 、更新は最少であり、更新前の重みになるべく近い必要がある。
この最適化問題は以下のように、ラグランジュの未定乗数法を用いて解くことができる。この問題
におけるラグランジュ関数は、ラグランジュ乗数を τ ≥ 0 として:L(w, τ ) =1||w − wt ||2 + τ (1 − yt (w · xt ))2(3)である。この関数の偏導関数が 0 になる点を求めればよいので、∇w L(w, τ ) = w − wt − τ yt xt = 0=⇒

w = wt + τ yt xt(4)

これを式 3 に代入すると、

1
L(τ ) = − τ 2 ||xt ||2 + τ (1 − yt (wt · xt ))2(5)

さらにこの式を τ について偏微分したものも 0 にならなければならないので、∂L(τ )= −τ ||xt ||2 + (1 − yt (wt · xt )) = 0
∂τ

=⇒

τ=

τt =

`t
||xt ||2

1 − yt (wt · xt )||xt ||2(6)

よって式 1, 4, 6 より、

wt+1 = wt + τt yt xt

where

(7)

とすればパラメータの更新を行うことができる。
しかしこれだとデータにノイズが含まれていた際に、ノイズによって誤った方向にパラメータが更新されてしまい、その後の分類に悪影響を与えやすい。これを回避し 、毎回のパラメータ更新を穏やかにするために、式 2 にスラック変数 ξ を導入する:

1
wt+1 = argmin ||w − wt ||2 + Cξ
n
2
w∈R

s.t.

2

`(w; (xt , yt )) ≤ ξ and ξ ≥ 0(8)ここで C はスラック変数がパラメータ更新に与える影響の大きさをコントロールする正のパラメータ
で、aggressiveness parameter と呼ぶ。この場合、パラメータの更新は PA と同じく wt+1 = wt +τt yt xtとなり、{
τt = min C,`t||xt ||2}(PA-I)(9)つまり PA では損失が大きくなればなるほどパラメータ更新の割合も大きくなるが、その上限を C で抑えていることになる。
さらに ξ を二乗した以下の式も考えられる:1
wt+1 = argmin ||w − wt ||2 + Cξ 2w∈Rn 2s.t.

`(w; (xt , yt )) ≤ ξ

(10)

この場合は

τt =

`t
1
||xt ||2 + 2C

(PA-II)(11)

この場合はパラメータの更新を C によって若干和らげることになる (C が小さければ τt も小さくな
り、C 大きければ τt も大きくなる)。
さらに式 7 を繰り返し用いることにより、

wt =

t−1
∑

τi yi xi

(12)

τi yi (xi · xt )

(13)

i=1

であり、両辺に xt をかけると、

wt · xt =

t−1
∑
i=1

となり、この右辺のカッコ内は一般的な Mercer カーネルに置き換えることができる (SVM でいうカー
ネルトリックが使える)。

4 Analysis
前章の各アルゴ リズムにおける損失の境界について議論する (それぞれの証明は元の論文を参照してください)。なおここでの境界の議論は以後出てくる様々な問題設定における PA の適用時にも全て同等に成り立つ (ので以後では省略)。

`t を round t における損失とし 、`∗t を任意の重みベクトル u ∈ Rn による損失とする。つまり、`t = `(wt ; (xt , yt ))and`∗t = `(ut ; (xt , yt ))(14)

まず以下の補助定理を導く。

Lemma 1 (x1 , y1 ), ..., (xT , yT ) を example 列とする (ただし全ての t において xt ∈ Rn 、yt ∈ {+1, −1})。
τt を前章のラグランジュ乗数とすると、任意の u ∈ Rn に対して以下の式が成り立つ:T∑τt (2`t − τt ||xt ||2 − 2`∗t ) ≤ ||u||2

(15)

t=1

分離可能な問題での累積二乗損失の上界について以下の定理が成り立つ。

Theorem 2 (x1 , y1 ), ..., (xT , yT ) を example 列とする (ただし全ての t において xt ∈ Rn 、||xt || ≤ R 、
yt ∈ {+1, −1})。すべての t において `∗t = 0 となるベクトル u が存在すると仮定すると、累積二乗損失の上界は以下のようになる:T∑`2t ≤ ||u||2 R2
(16)
t=1

これは分離可能な問題に対する Perceptron での上界 [8] と一致する (ただし [8] は誤り回数の上界であるのに対し 、この定理では累積二乗損失の上界である)。

3

分離不能な問題での累積二乗損失の上界について以下の定理が成り立つ。

Theorem 3 (x1 , y1 ), ..., (xT , yT ) を example 列とする (ただし全ての t において xt ∈ Rn 、||xt || = 1 、
yt ∈ {+1, −1})。任意のベクトル u に対して、累積二乗損失の上界は以下のようになる:
T
∑

v
2
u T
u∑
`2 ≤ ||u|| + 2t (`∗ )2 


(17)

t

t

t=1

t=1

PA-I による分類誤り回数の上界について以下の定理が成り立つ。
Theorem 4 (x1 , y1 ), ..., (xT , yT ) を example 列とする (ただし全ての t において xt ∈ Rn 、||xt || ≤ R 、
yt ∈ {+1, −1})。任意のベクトル u に対して 、PA-I による分類誤り回数の上界は AggressivenessParameter C を用いて以下のようになる:()
T∑
max{R2 , 1/C} ||u||2 + 2C
`∗t
(18)
t=1

これは分離不能な問題に対する Perceptron での誤り回数の上界 [5] と比較すると、どんなに悪くても高々2 倍である。

PA-II による累積二乗損失の上界について以下の定理が成り立つ。
Theorem 5 (x1 , y1 ), ..., (xT , yT ) を example 列とする (ただし全ての t において xt ∈ Rn 、||xt ||2 ≤ R2 、
yt ∈ {+1, −1})。任意のベクトル u に対して 、PA-II による累積二乗損失の上界は AggressivenessParameter C を用いて以下のようになる:
T
∑

`2t ≤

t=1

これは C = ||u||/(2R

5

)
)(
(
T
∑
1
2
2
∗ 2
||u|| + 2C
R +
(`t )
2C
t=1

(19)

√∑

∗ 2
t (`t ) ) とすることによって [4] による誤り回数の上界と一致する。

Regression
Regression(回帰) 問題に PA を適用する。問題設定として以下を考える。各事例 xt ∈ Rn には実数値の正解 yt ∈ R が対応付けられている。重みベクトル wt ∈ Rn を用いて、事例に対する値を線形回
帰関数 ŷt = wt · xt により推定する。この推定値と正解とを比較し 、以下の ε-insensitive hinge loss 関
数により損失を計算する:`ε (w; (x, y)) =0|w · x − y| ≤ ε

|w · x − y| − εotherwise(20)

ε は推定誤りに対する感度をコントロールする正のパラメータである。各 round t において w を式 2と全く同様に更新する。この解は以下のようになる:
wt+1 = wt + sign(yt − ŷt )τt xt

where

τt =

`t
||xt ||2(21)

PA-I と PA-II についてもスラック変数を導入することにより全く同様に定義でき、wt+1 = wt +sign(yt − ŷt )τt xt により重みが更新される。なお τt についてはそれぞれ式 9 と式 11 と同じものになる。

6 Uniclass Prediction
単一クラス予測問題に PA を適用する。各 round t において、予測ベクトル ŷt ∈ Rn を出力する。
ただし入力 (x) はなく、t におけるベクトル wt ∈ Rn をそのまま出力するものとする (ŷt = wt )。正4

解ベクトルと比較することにより損失を計算する:
0`ε (w; y) =||w − y|| − ε||w − y|| ≤ ε(22)otherwise

この損失を用いて w を更新する。これは w を中心とする半径 ε の球の内部により多くの y が入るよ
うに最適化する問題と考えることができる。
この問題においても、w を式 2 と全く同様に更新する。この解は τt = `ε として以下のようになる:
(
)
(
)
`t
`t
wt+1 =
1−wt +yt||wt − yt ||||wt − yt ||yt − wt= wt + τ t(23)||yt − wt ||これが求める最適解であることを示すためには、KKT 条件を全て満たせばよい。最適化問題のラグランジュ関数は :1||w − wt ||2 + τ (||w − yt || − ε)2となるので、(wt+1 , τt ) が以下の KKT 条件を全て満たすことを示せば良い (証明は論文で ):L(w, τ ) =

(24)

w−yt
• ∇w L(w, τ ) = w − wt + τ ||w−y=0t ||• τ ≥0• τ (||w − yt || − ε) = 0
PA-I についても同様にパラメータの更新を以下のように定義できる:1
wt+1 = argmin ||w − wt ||2 + Cξ
n
2
w∈R
where

s.t.

||w − yt || ≤ ε + ξ and ξ ≥ 0

τt = min{C, `t }(25)

PA-II は以下のようになる:1
wt+1 = argmin ||w − wt ||2 + Cξ 2w∈Rn 2
where

τt =

s.t.

||w − yt || ≤ ε + ξ`t1
1 + 2C(26)

次にこれまであらかじめ固定していた ε も学習することを考える。つまり可能な限り||wt − yt || ≤ εt(27)となるような wt と εt を求める。ただし εt はなるべく小さくする。
まず ε の上限を B とし 、この値は固定であるとする。式 27 は B を用いて以下のように書き換えられる:||wt − yt ||2 + (B 2 − ε2t ) ≤ B 2(28)

ここで yt を n + 1 次元に拡張し 、n + 1 番目の座標を 0 とする。さらに wt も n + 1 次元に拡張し 、√
n + 1 番目の座標 (wt,n+1 と書く) を B 2 − ε2t とすると、式 28 は ||wt − yt ||2 ≤ B 2 となり、半径を B に固定した場合と同様の問題に帰着する。
ε1 = 0(⇔ w1,n+1 = B) とすると、各 round において√2と求められる。
B 2 − wt,n+1
なお wt+1,n+1 は式 23 より wt,n+1 と yt,n+1 (= 0)) との凸結合1であることに注意すると、wt,n+1
は (0, B] を動き、かつ各 round において変化しないか、小さくなる。逆に ε は 0 を初期値として各εt は εt =round ごとに変化しない (損失が 0 のとき) か、大きくなる。
1 線形結合のうち、結合係数が全て非負であり、かつその和が 1 となるもの

5

7

Multiclass Problemsある事例 xt に対し 、あらかじめ決められたラベルセット Y = {1, ..., k} のそれぞれに対するスコアを出力する (ラベルをランキングする) ことにより、その事例のラベルを推定するという問題を考える。つまり xt を入力として k 次元のベクトルを出力する。これは text categorization などに用いられる。なお正解のラベルは複数あってもよいものとし 、この場合、推定が正しいとは、全ての正解ラベルが全ての不正解ラベルよりも上位にランクされることを指す。
いま d 個の素性 φ1 , ..., φd を考え、これらを入力事例 x とラベル y ∈ Y とのペア (x, y) に適用したものを、ベクトルとして Φ(x, y) = (φ1 (x, y), ..., φd (x, y)) と表記する。round t におけるシステムの出力は、d 次元の重みベクトル w ∈ Rd を用いて、以下のような k 次元ベクトルとする:(wt · Φ(xt , 1), ..., wt · Φ(xt , k))(29)

例えば素性として各単語 µj の TF-IDF を用いるとする (素性の数は単語の異なり数となる)。S を
ド キュメントの集合、x ∈ S を一つのド キュメント、y を一つのトピックとすると、素性 φj (x, y)(単語 µj に関する素性) は以下のように書ける:(
φj (x, y) = TF(µj , x) · log|S|
DF(µj , y))(30)

TF(µj , x) はド キュメント x 中での単語 µj の出現回数であり、DF(µj , y) は y 以外のラベルが付与された文書のうち、µj が出現する文書の数である。つまり、各素性はラベル (= トピック) に依存することになる。

round t における事例 xt に対する正解ラベルセットを Yt とし 、推定されたラベルと正解との margin
を以下のように定義する:
γ(wt ; (xt , Yt )) = min wt · Φ(xt , r) − max wt · Φ(xt , s)
s∈Y
/ t

r∈Yt

(31)

つまり「正解のラベルに対して推定されたスコアの最小値 − 不正解のラベルに対して推定されたスコアの最大値」を margin とする。この定義により、最小の正解ラベルと最大の不正解ラベル以外は無視されることになる。この定義では全ての正解ラベルが不正解のラベルよりも上位にランクされたときのみ、margin が正となる。さらに、margin は少なくとも 1 以上あって欲しいと考えて、以下のような hinge-loss 関数を考える:`MC (w; (x, Y )) =
0γ(w; (x, Y )) ≥ 1

1 − γ(w; (x, Y )) otherwise(32)

PA と同様に、重みベクトルの更新を以下のように定義する:
1
wt+1 = argmin ||w − wt ||2w∈Rn 2s.t.

`MC (w; (xt , Yt )) = 0(33)

この条件部は、以下の複数の不等式をすべて満たすことと同値である:∀r ∈ Yt ∀s ∈/ Yt

w · Φ(xt , r) − w · Φ(xt , s) ≥ 1(34)

しかしここではこのうちの一つの条件 (margin が最大となる条件) のみに注目すればよい。

rt = argmin wt · Φ(xt , r),

st = argmax wt · Φ(xt , s)

(35)

w · Φ(xt , rt ) − w · Φ(xt , st ) ≥ 1

(36)

s∈Y
/ t

r∈Yt

とおくと、上式は以下のように書き換えられる:1
wt+1 = argmin ||w − wt ||2
n
2
w∈R

s.t.

6

これを解くと、`t = `MC (wt ; (xt , Yt )) とおいて:

wt+1 = wt + τt (Φ(xt , rt ) − Φ(xt , st ))

where

τt =

`t
||Φ(xt , rt ) − Φ(xt , st )||2

(37)

これは Binary Classification(式 2) において xt = Φ(xt , rt ) − Φ(xt , st ) 、yt = +1 とおけば容易に想像がつく。
同様に PA-I 、PA-II については、{}`tτt = min C,(PA-I)||Φ(xt , rt ) − Φ(xt , st )||2

τt =

`t
1
||Φ(xt , rt ) − Φ(xt , st )||2 + 2C

(PA-II) (38)Multi-prototype Classification ここまでの問題設定では、ラベルに依存する素性関数を入力事例 xt
に対して適用した結果をベクトルとし (Φ(xt , r)) 、このベクトルをただ一つの重みベクトル w で重みづけしたものを全てのラベルについて書きならべたベクトル(wt · Φ(xt , 1), ..., wt · Φ(xt , k))(39)を出力としていた (single-prototype multiclass setting) が 、これはいささか不自然である。そこでラベ
ルごとに異なる k 個の重みベクトル wtr ∈ Rn を用意し 、これを xt に対して適用したものを書きな
らべたベクトル(wt1 · xt , ..., wtk · xt )(40)を出力するという設定 (multi-prototype multiclass setting) を考え、これを single-prototype における技
術を使って解決する。
まず Φ(x, y) を k · n 次元のベクトル (サイズ n のベクトルが k 個集まったもの) とし 、y 番目のベクトルは x であり、それ以外は 0 であるとする。同様に重みベクトル wt も k · n 次元のベクトルであるとし 、r 番目のベクトルを wtr で表すものとする。これらを用いると wt · Φ(xt , r) = wtr · xt となり、

rt = argmin wt · Φ(xt , r) = argmin wtr · xt
r∈Yt

r∈Yt

st = argmax wt · Φ(xt , s) = argmax wts · xts∈Y/ t`(wt1 , ..., wtk ; (xt , Yt )) =

(41)

s∈Y
/ t


0

wtrt · xt − wtst · xt ≥ 1

1 − w r t · x + w s t · x
t

t

t

t

(42)

otherwise

Φ(xt , rt ) − Φ(xt , st ) が rt 番目が x 、st 番目が −x である k · n 次元ベクトルであることに注意すると、式 37 による更新は、
rt
wt+1= wtrt + τt xt

where

8

st
and wt+1= wtst + τt xt
`t
`t
=
τt =
||Φ(xt , rt ) − Φ(xt , st )||2
2||xt ||2

(43)
(44)

Cost-Sensitive Multiclass Classification
誤りの種類によって cost(損失) が異なる場合を考える。multiclass single-label classification では、推定されたラベルŷt = argmax(wt · Φ(xt , y))

(45)

y∈Y

を出力し 、これが正解ラベル y と異なる場合に誤りとなる。ラベルのペア (y, y 0 ) に対してコスト

ρ(y, y 0 ) を定義する (y が正解で y 0 が出力)。全ての y ∈ Y について ρ(y, y) = 0 とし 、y 6= y 0 ならば∑
ρ(y, y 0 ) ≥ 0 とする。目標は、 t ρ(yt , ŷt ) を最小化することである。

7

パラメータ更新にこのコスト関数を導入することにより PA を用いてこの問題を解く。更新の制約条件である式 34 は、この問題では以下のようになる2 :∀r ∈ {Y \ yt }wt · Φ(xt , yt ) − wt · Φ(xt , r) ≥√ρ(yt , r)(46)

前章では margin が最大となる条件のみに注目したが 、ここでもこのうちの一つの条件のみに注目する。この一つの条件の選びかたは二通りある。

prediction-based updateの式により行われる:推定されたラベル ŷt による条件を採用する。重みベクトルの更新は以下

1
wt+1 = argmin ||w − wt ||2w∈Rn 2s.t.

w · Φ(xt , yt ) − w · Φ(xt , ŷt ) ≥また損失を以下のように定義する:`PB (w; (x, y)) = w · Φ(xt , ŷt )) − w · (Φ(xt , yt ) +√ρ(yt , ŷt )√ρ(yt , ŷt )

(47)

(48)

これは ŷt = yt のときのみ 0 となる。最適化問題の解は

wt+1 = wt + τt (Φ(xt , yt ) − Φ(xt , ŷt ))whereとなり、PA-I 、PA-II については{}`PB (wt ; (xt , yt ))τt = min C,(PA-I)||Φ(xt , yt ) − Φ(xt , ŷt )||2

max-loss update

τt =

τt =

`PB (wt ; (xt , yt ))||Φ(xt , yt ) − Φ(xt , ŷt )||2(49)

`PB (wt ; (xt , yt ))(PA-II) (50)1||Φ(xt , yt ) − Φ(xt , ŷt )||2 + 2C

以下の式により求められる ỹt による条件を採用する:()√
ỹt = argmax wt · Φ(xt , r) − wt · Φ(xt , yt ) + ρ(yt , r)

(51)

r∈Y

つまり ỹt は損失が最も大きくなるようなラベルである。注意すべきは、推定されたラベル (出力) は
あくまでも ŷt であり、ỹt はパラメータの更新にのみ用いられるということである。
最適化問題とその解は、prediction-based update の式を ŷt → ỹt 、`PB (w; (x, y)) → `ML (w; (x, y)) =√Φ(xt , ỹt )) − w · (Φ(xt , yt ) + ρ(yt , ỹt ) に置き換えたものとなる。
なお max-loss update は ỹ を求めるための計算量がかなり多いため、prediction-based update よりもスピードが遅くなる。

9 Learning with Structured Output
前章の cost-sensitive アルゴ リズムを使って、出力および正解が構造的 (ex. 文字列、グラフ構造、木構造) である場合について考える。基本的には前章と全く同様に問題が解けるのだが 、コスト関数

ρ や素性ベクトル Φ の定義を工夫する必要がある。
例えば出力と正解が k 種類のアルファベット m 文字からなるとする。d 個の素性を入力 x とその正解 y にそれぞれ適用したもの並べたベクトルを Φ(x, y) とすると、各 round において出力は

ŷt = argmax(wt · Φ(xt , y))

(52)

y∈Y m

となる。しかし ŷt を得るためには単純には k m 回の計算が必要であり、m が大きくなると扱えなくなる。これを解決するためには Φ に何らかの制約をつける必要がある。例えば各素性 φj を以下のよ
うな一次マルコフ過程のような定義にすることが考えられる:φj (xt , y) = Ψ0j (y1 , xt ) +m∑Ψj (yi , yi−1 , xt )

(53)

i=2

ここで Ψ0j と Ψj は任意の計算可能な関数とする。
∑m
ρ については、ρ(y, y0 ) = i=1 ρ̂(yi , yi0 ) などとすればよい。
2 ここで ρ のルートを用いている理由は、章のように累積二乗損失の上限の議論を行うためのものであり、ルートを用いなければならないわけではない

8

MIRA を使った研究

10

既存の研究で MIRA を利用したオンライン学習を用いているものをいくつか紹介する。なお詳しい内容は各論文をあたってもらうことにして、ここではトレーニングに関する部分だけを抜粋する。

10.1

構文解析 (McDonald et al., ACL 2005)

McDonald ら [7] は依存構造解析器のトレーニングに MIRA を用いている。入力文 x の一つの構文
木 y のスコアを、構文木内の全ての枝のスコアの和として以下のように計算する:∑∑
s(x, y) =s(i, j) =w · f (i, j)(54)(i,j)∈y(i,j)∈yパラメータの更新は

min||wi+1 − wi ||s.t.

∀y0 ∈ bestk (xt ; wi ) :s(xt , yt ) − s(xt , y0 ; w) ≥ L(yt , y0 )(55)により行う。bestk (xt ; wi ) は s(xt , y) が高いものから k 個取る関数であり、L(yt , y0 ) は正解の構文木

yt から見た構文木 y0 の損失であり、“誤った親を持つ単語の数” としている。このため、損失の最大値は文の単語数となる。

10.2

形態素解析 (Canasai et al., ACL 2009)

Canasai ら [6] は中国語の形態素解析において MIRA を利用している。Canasai らは形態素解析
を 、“単語ノード と文字ノード とを同時に利用するラティスから正解のパスを探すタスク” と定義している。パラメータの更新は McDonald ら [7] と同様の式で行う。明示的には書かれていないが 、

s(x, y) = w · f (x, y) としている。
損失関数 L(yt , y0 ) は false positive=FP(出力されたノード のうち、正解パス内に含まれないものの個数) と false negative=FN(正解パスにあるノード のうち、出力に含まれていないものの個数) の和として L(yt , y0 ) = F P + F N と定義している。

10.3

翻訳でのパラメータチューニング
(Watanabe et al., EMNLP 2007, Chiang et al., NAACL 2009)

Watanabe ら [9] や Chiang ら [1] は翻訳で用いるパラメータのチューニングに MIRA を利用している。入力文 f に対する出力 (翻訳) 文 ê は ê = argmaxe w · h(f, e) により得られる。ここで h(f, e) は
素性ベクトルである。Watanabe ら [9] は重みベクトル w の更新を、非負のスラック変数 ξ(ê, e0 ) を用いて以下のように表している:ŵi+1 = argmin ||wi+1 − wi || + C
wi+1

s.t.

∑

ξ(ê, e0 )ê,e0si+1 (f t , ê) − si+1 (f t , e0 ) + ξ(ê, e0 ) ≥ L(ê, e0 ; et ), ξ(ê, e0 ) ≥ 0, ∀ê ∈ Ot , ∀e0 ∈ C t(56)

ここで si (f t , e) = wi · h(f t , e) であり、C ≥ 0 は aggressiveness parameter である。L は損失関数であり、et をリファレンスとした ê と e0 との BLEU 値の差である。また ê は正解の翻訳 (だと思っていいもの) である。

Chiang ら [1] は入力文を f1 , ..., fm 、各 fi に対する翻訳候補を ei1 , ..., ein とし 、パラメータの更新を以下の式で行う:
m∑1
max (`ij − ∆hij · w0 )w0 = argmin ||w0 − w||2 + C
1≤j≤n
2
w0
i=1

9

(57)

ここで `ij は損失関数であり、正解の翻訳 e∗i と eij との BLEU 値の差であり、∆hij = h(e∗i ) − h(eij )である。

Appendix A. ラグランジュの未定乗数法
Wikipedia によると、
ラグランジュの未定乗数法（みていじょうすうほう）とは、束縛条件のもとで最適化を行うための数学（ 解析学）的な方法である。いくつかの変数に対して、いくつかの関数の値を固定するという束縛条件のもとで、別のある 1 つの関数の極値を求めるという問
題を考える。各束縛条件に対して定数（ 未定乗数）を用意し 、これらを係数とする線形結合を新しい関数（ 未定乗数も新たな変数とする）として考える。これで束縛問題を普通の極値問題として解くことができる。
メモ帳ブログ＠ wiki3を引用すると、D 次元の変数 x = x1 , x2 , ..., xD に対し 、q 個の束縛条件 gi (x) = 0(i = 1, 2, ...q) の下で関数 f (x)を最大 (小) 化する。ラグランジュ乗数 λi 6= 0(i = 1, 2, ..., q) を導入し 、ラグランジュ関数をL(x, λ) = f (x) +q∑

λi gi (x)

(58)

i=1
∂
∂
L = 0 、 ∂λL = 0 の連立方程式を解くことにより解の候補が得られる。
とする。このとき、 ∂x

例題 1

周囲の長さが 1 の長方形のうち、面積が最大となるのはどのような長方形か ?

例題 2円柱と三角錐を組み合わせた鉛筆形の立体があり、体積が決まると、円柱の半径と円柱・円錐の高さは鉛筆形の表面積が最小になるように決まるとする。円錐部分の稜線 (母線) の長さが 3 のとき、円柱部分の半径はいくらか ? ただし 、底面の半径が x 、母線の長さが z の円錐の表面積は πxz2√となり、体積は πx3 z 2 − x2 となる。4

Appendix B.

KKT 条件

不等式制約が含まれる最適化問題を考える。q 個の等式制約 g1 (x) = 0, ..., gq (x) = 0 と r 個の不等式制約 h1 (x) ≤ 0, ..., hr (x) ≤ 0 の下で f (x) を最小化する。ラグランジュ関数をL(x, λ, µ) = f (x) +q∑

λi gi (x) +

i=1

r
∑

µj hj (x)j=1とすると、L を x について最小化し 、λ と µ について最大化すればよい。
さらに、最適解を x∗ とすると、x∗ は以下の条件を満たす:• ∇x L(x∗ , λ, µ) = 0 (Stationarity)• gi (x∗ ) = 0 ∀i and hj (x∗ ) ≤ 0 ∀j (Primal feasibility)• µj ≥ 0 ∀j (Dual feasibility)• µj hj (x∗ ) = 0 ∀j (Complementary slackness: 相補条件)

3 http://www27.atwiki.jp/nina a/pages/31.html
4 http://ynomura.dip.jp/archives/2009/02/lagrange.html

10

(59)

これらの条件を KKT 条件 (Karush-Kuhn-Tucker conditions) という。
また、d(λ, µ) = min L(x, λ, µ)

(60)

x

とするとき、以下の問題を双対問題と呼ぶ:

max d(λ, µ)

s.t.

λ,µ

µ≥0

(61)

ちなみに f (x) を最大化する場合は、ラグランジュ関数を作る際に目的関数から制約条件を引き算するので注意L(x, λ, µ) = f (x) +

q
∑
i=1

例題 3

λi gi (x) −r∑µi hi (x)

(62)

i=1

f (x) = −(x1 − 4)2 − (x2 − 4)2 を x1 + x2 ≤ 4 かつ x1 + 3x2 ≤ 9 の下で最大化せよ。5

参考文献[1] David Chiang, Kevin Knight, and Wei Wang. 11,001 new features for statistical machine translation. In
Proceedings of Human Language Technologies: The 2009 Annual Conference of the North American
Chapter of the Association for Computational Linguistics, pages 218–226, Boulder, Colorado, June
2009. Association for Computational Linguistics.
[2] Koby Crammer, Ofer Dekel, Joseph Keshet, Shai Shalev-Shwartz, and Yoram Singer. Online passiveaggressive algorithms. Journal of Machine Learning Research, 2006.
[3] Koby Crammer and Yoram Singer. Ultraconservative online algorithms for multiclass problems. Journal of Machine Learning Research, 2003.
[4] Y. Freund and R. E. Schapire. Large margin classification using the perceptron algorithm. Machine
Learning, 37(3):277–296, 1999.
[5] C. Gentile. The robustness of the p-norm algorithms. Machine Learning, 53(3), 2002.
[6] Canasai Kruengkrai, Kiyotaka Uchimoto, Jun’ichi Kazama, Yiou Wang, Kentaro Torisawa, and Hitoshi
Isahara. An error-driven word-character hybrid model for joint chinese word segmentation and pos
tagging. In Proceedings of the 47th Annual Meeting of the Association for Computational Linguistics(ACL’09), pages ??–??, 2009.
[7] Ryan McDonald, Fernando Pereira, Seth Kulick, Scott Winters, Yang Jin, and Pete White. Simple
algorithms for complex relation extraction with applications to biomedical IE. In Proceedings of the
43rd Annual Meeting of the Association for Computational Linguistics (ACL’05), pages 491–498, Ann
Arbor, Michigan, June 2005. Association for Computational Linguistics.
[8] A. B. J. Novikoff. On convergence proofs on perceptrons. In In Proceedings of the Symposium on the
Mathematical Theory of Automata, volume XII, pages 615–622, 1962.
[9] Taro Watanabe, Jun Suzuki, Hajime Tsukada, and Hideki Isozaki. Online large-margin training forstatistical machine translation. In Proceedings of the 2007 Joint Conference on Empirical Methods
in Natural Language Processing and Computational Natural Language Learning (EMNLP-CoNLL),
pages 764–773, Prague, Czech Republic, June 2007. Association for Computational Linguistics.

5 http://www.isigas.com/KKTexample1.doc

11