2013/6/12
理論勉強会#3
B4 森部伸一

MNLモデルについて
 MNLモデルとは、多項ロジットモデル（multinomial logitmodel）のことを指す
 多項ロジットモデルの選択確率式が以下のようになることを、今回のゼミでは説明する
exp(𝜇𝑉𝑖𝑛 )𝑃𝑛(𝑖) = 𝐽, i = 1, … . J
𝑗=1 exp(𝜇𝑉𝑗𝑛 )確率効用最大化モデル１
個人nの選択iに関する効用関数は以下のように設定できる
𝑈𝑖𝑛 = 𝛽1 𝑥1𝑖𝑛 + 𝛽2 𝑥2𝑖𝑛 + ⋯ + 𝛽𝐾 𝑥𝐾𝑖𝑛 + 𝜀𝑖𝑛= 𝑉𝑖𝑛 + 𝜀𝑖𝑛
𝑈𝑖𝑛 : 真の効用関数 𝑉𝑖𝑛 : 効用の確定部分 𝜀𝑖𝑛 : 効用の確率項
𝑥𝑘𝑖𝑛 : 𝑘番目の説明変数 𝛽𝑘 : k番目の未知パラメータ
効用の確率項に関しては以下の要因が含まれている①確定項に含まれる変数以外の要因②確定部分を線形和とした関数形の誤差③属性の重み𝛽𝑘 を個人間で均一とした誤差④説明変数の測定誤差確率効用最大化モデル２
ある個人がある選択肢を選択する
その個人にとってその選択肢の効用値が他の選択肢の効用値よりも大きい
個人nが選択肢iを選択する確率は以下のように表現できる
𝑃𝑛(𝑖) = Pr 𝑈𝑖𝑛 ≥ 𝑈𝑗𝑛 , 𝑓𝑜𝑟∀𝑗, 𝑖 ≠ 𝑗
このように個人が効用を最大化するとして導かれるモデルを
確率効用最大化モデル（random utility maximization(RUM)）と呼ぶ

ガンベル(Gumbel)分布１
ロジットモデルでは、効用の確立項εはガンベル分布を仮定＜累積分布関数＞
𝐹(𝜀) = exp[−exp{−𝜇(𝜀 − 𝜂)}]＜確率密度関数＞
𝑓(𝜀) = 𝜇 exp −𝜇 𝜀 − 𝜂 exp[−exp{−𝜇(𝜖 − 𝜂)}]μ：分布のばらつきを表すスケールパラメータ
η：分布の位置を表すロケーションパラメータ

ガンベル(Gumbel)分布２
ガンベル分布を次のような性質を持っている①最頻値：η 平均値：η+γ/μ(γはオイラー定数≅0.577)
𝜋2②分散： 26𝜇③𝜀1 と𝜀2 がそれぞれ(𝜂1 , 𝜇), (𝜂2 , 𝜇)のパラメータを持つ互いに独立なガンベル分布に従うとき、ε ≥ 𝜀1 − 𝜀2 である確率は1
Pr 𝜀1 − 𝜀2 ≤ 𝜀 =1 + exp{𝜇(𝜂2 − 𝜂1 − 𝜀)}ガンベル(Gumbel)分布３④ 𝜀1 , 𝜀2 , … , 𝜀𝐽 がそれぞれ(𝜂1 , 𝜇),(𝜂2 , 𝜇),…,(𝜂𝐽 , 𝜇)のパラメータをもつ互いに独立なガンベル分布に従うときは、
𝜀1 , 𝜀2 , … , 𝜀𝐽 の最大値もガンベル分布に従い、そのパラメータは以下のようになる

1𝑙𝑛𝜇

𝐽exp 𝜇𝜂𝑗 , 𝜇
𝑗=1

MNLモデル１
各選択肢の効用の確率項εがそれぞれパラメータ(0,μ)を持つ互いに独立なガンベル分布に従うとする。
個人nが選択肢１を選択する確率を考える𝑃𝑛 1 = Pr 𝑉1𝑛 + 𝜀1𝑛 ≥ 𝑚𝑎𝑥𝑗=2,3,…,𝐽 𝑉𝑗𝑛 + 𝜀𝑗𝑛
𝑈2𝑛 , 𝑈3𝑛 , … , 𝑈𝐽𝑛 がそれぞれ(𝑉2𝑛 , 𝜇),(𝑉3𝑛 , 𝜇),…,(𝑉𝐽𝑛 , 𝜇)のパラメータをもつ互いに独立なガンベル分布に従うので、𝑈𝑛 ∗ = 𝑚𝑎𝑥𝑗=2,3,…,𝐽 𝑉𝑗𝑛 + 𝜀𝑗𝑛 とすると性質④より𝑈𝑛 ∗ は以下のパラメータに従うガンベル分布になる。
1𝑙𝑛𝜇𝐽exp 𝜇𝑉𝑗𝑛 , 𝜇
𝑗=2

MNLモデル２
𝐽∗ 1
𝑈𝑛 =𝑉𝑛 +𝜀𝑛 として、𝑉𝑛 = 𝑙𝑛 𝑗=2 exp 𝜇𝑉𝑗𝑛 とおくと𝜇𝜀𝑛 ∗ はパラメータ(0,μ)を持つガンベル分布に従う
𝑃𝑛 1 = Pr 𝑉1𝑛 + 𝜀1𝑛 ≥ 𝑉𝑛 ∗ +𝜀𝑛 ∗= Pr 𝜀𝑛 ∗ − 𝜀1𝑛 ≤ 𝑉1𝑛 −𝑉𝑛 ∗𝜀1𝑛 と𝜀𝑛 ∗ がそれぞれ(0, 𝜇), (0, 𝜇)のパラメータを持つ互いに独立なガンベル分布に従うとき、𝑉1𝑛 −𝑉𝑛 ∗ ≥ 𝜀𝑛 ∗ − 𝜀1𝑛 であ∗∗∗る確率は、性質③より

1𝑃𝑛 1 =となる
1+exp{𝜇(0−0− 𝑉1𝑛 −𝑉𝑛 ∗ )}

MNLモデル３
1
1=
1+exp{𝜇(0−0− 𝑉1𝑛 −𝑉𝑛 ∗ )}1+exp{𝜇 𝑉𝑛 ∗ −𝑉𝑛 }𝑃𝑛 1 =exp(𝜇𝑉1𝑛 )=exp(𝜇𝑉1𝑛 )+exp(𝜇𝑉𝑛 ∗ )=exp(𝜇𝑉1𝑛 )exp 𝜇𝑉1𝑛 +exp 𝑙𝑛= 𝐽𝐽
𝑗=2 exp 𝜇𝑉𝑗𝑛

exp(𝜇𝑉1𝑛 )𝑗=1 exp 𝜇𝑉𝑗𝑛

多項ロジットモデルの選択確率式

1𝜇(∵𝑉𝑛 ∗ = 𝑙𝑛𝐽
𝑗=2 exp 𝜇𝑉𝑗𝑛)

最尤推定法について１
離散選択モデルにおける未知パラメータ
効用関数の説明関数にかかる未知係数(先の例β)誤差項のスケールパラメータ(先の例μ)離散選択モデルにおける未知パラメータは、アンケート集計などで得られた推計データにもっとも一致するように定められるべきパラメータ値を求める方法として、最尤推定法(maximumlikelihood estimation; MLE)が最も一般的に用いられる最尤推定法について２
最尤推定法の考え方
行動を表す理論モデル(ここに未知パラメータが含まれている)が正しいと仮定の下で、観測されたデータが得られるもっともらしさ(尤度(likelihood))が最大になるようにパラメータを定めることで、パラメータを推定する。

最尤推定法の例１
コインを続けて6回振ったところ、そのうち5回が表であった。
このコインの表の出る確率ｑはいくらか。
最尤法の考え方
確率ｑを変化させ、観測された事象が実現する確率を最大にすることで、確率ｑの値を推定する。
尤度関数（観測された現象が実現する確率）𝐿 𝑞 = 6𝐶5 𝑞 5 1 − 𝑞 = 6𝑞 5 (1 − 𝑞)
尤度関数が最大になればいい最尤推定法の例２L(θ )0.45

尤度関数を最大にするときは？
0.40.355𝐿 𝑞 = 6𝑞 (1 − 𝑞) は右のような形状 0.30.25なので、微分して傾きが０になるときを 0.2
0.150.1
求めればよい。
𝑑𝐿(𝑝)4 5−6𝑞 =0=6𝑞
𝑑𝑞

5より𝑞 =60.05
00.00

あるいは対数を取って微分をしてもよい
ln𝐿 𝑞 = ln6 + 5ln𝑞 + ln(1 − 𝑞)𝑑ln𝐿(𝑞)5−6𝑞== 0 より求めることが出来る
𝑑𝑞𝑞(1−𝑞)0.200.40

図１0.600.80

1.00

最尤推定法の例３
離散選択モデルのもとで、データの尤度(もっともらしさ)は選択確率を用いて以下のように表される𝑁𝐽

𝑃𝑛 (𝑖)𝑑𝑖𝑛

𝐿=𝑛=1 𝑖=1

𝑑𝑖𝑛 :個人nが選択肢iを選択したとき１, そうでないとき0
今回は、二項のロジットモデル(選択肢１，２)でパラメーター推定について考えてみる
この尤度関数は値が小さく、数値計算誤差が生じやすいため、尤度関数の対数を取ったものの最大化を考える。
𝑁2𝑑𝑖𝑛 ln𝑃𝑛 (𝑖)𝑛=1 𝑗=1

最尤推定法の例４
選択肢１、２(バス、自家用車)として
𝑉1𝑛 = 𝛼𝑡1𝑛 + 𝛽𝐶1𝑛𝑉2𝑛 = 𝛼𝑡2𝑛 + 𝛽𝐶2𝑛 + 𝛾と定める。
また、選択状況を右の表のように仮定する。

t1202030304545606060

t2 c1 c25 210 5010 210 10015 210 10020 210 12530 210 15045 210 25060 420 40030 420 1100
45 420 1100

1210 12030 90
10 6010 6030 9060 7020 2025 1030 5

最尤推定法の例５
選択確率は以下のようになる
exp(𝛼𝑡1𝑛 +𝛽𝐶1𝑛 )𝑃1𝑛 =exp 𝛼𝑡1𝑛 +𝛽𝐶1𝑛 +exp(𝛼𝑡2𝑛 +𝛽𝐶2𝑛 +𝛾)𝑃2𝑛 = 1 − 𝑃1𝑛𝑁

2𝑑𝑖𝑛 ln𝑃𝑛 (𝑖)𝑛=1 𝑗=1

𝑑𝑖𝑛 :個人nが選択肢iを選択したとき１, そうでないとき0が最大になるようにパラメーターを求める。

最尤推定法の例６
Excelのソルバーという機能を用いて、最大となる解を用いると以下のようになる。
t1t2
202030304545606060

c151015203045603045

c2210210210210210210420420420

αβγ-0.06449 -0.00454 0.231912

n150100100125150250400
1100
1100n2103010103060
202530p1p2ln(p1)*n1 ln(p2)*n2
120 0.127198 0.872802 -20.6201 -16.3256
90 0.201584 0.798416 -48.0464 -20.2613
60 0.154616 0.845384 -18.6681 -10.0778
60 0.220481 0.779519 -15.1194 -14.9447
90 0.186679 0.813321 -50.3509 -18.5967
70 0.487448 0.512552 -43.1143 -46.7847
20 0.420004 0.579996 -17.3498 -10.8947
10 0.715512 0.284488 -8.36893 -12.5706
5 0.868709 0.131291 -4.22243 -10.1517-225.861 -160.608-386.468

まとめ
多項ロジットモデルは、ガンベル分布の性質によって確定項のみで選択確率が求められる。
最尤法は、もっともらしさ(実際の現象が起きるような確率)が最大になるようにパラメーターを定めることで、パラメーターの推定を行っている。

補足

ガンベル分布 性質③について
𝜀1 , 𝜀2 がパラメータ(𝜂1 , 𝜇),( 𝜂2 , 𝜇)を持つ独立のガンベル分布に従うとき、𝜀1 − 𝜀2 ≤ 𝜀の確率について考える。
F(ε) = Prob(𝜀1 − 𝜀2 ≤ 𝜀 ) = Prob(𝜀1 ≤ 𝜀 + 𝜀2 )∞𝜀+𝜀 2=

𝜀 2 =−∞ 𝜀 1 =−∞∞=𝑒𝑓 (𝜀1 , 𝜀2 )𝑑𝜀1 𝑑𝜀2 =−𝑒 −𝜇 (ε +𝜀 2 −𝜂 1 )𝜇𝑒−𝜇(𝜀 2 −𝜂 2 )𝑒∞
𝜀 2 =−∞−𝑒 −𝜇 (𝜀 2 −𝜂 2 )−∞𝐹 (ε + 𝜀2 )𝑓(𝜀2 )𝑑𝜀2∞

𝑑𝜀2 =𝜇𝑒 −𝜇(𝜀 2 −𝜂 2 ) 𝑒 −𝑒−∞ここでδ = 𝑒 −𝜇𝜀 +𝜇𝜂 1 + 𝑒 𝜇 𝜂 2 とおく∞=−∞−𝜇 𝜀𝜇𝑒 −𝜇(𝜀 2 −𝜂 2 ) 𝑒 −𝛿𝑒 2 𝑑𝜀2 =∞1 𝜇𝜂−𝜇 𝜀𝑒 2 {𝜇𝛿𝑒 −𝜇𝜀 2 𝑒 −𝛿𝑒 2 } 𝑑𝜀2−∞ 𝛿1 𝜇 𝜂 ∞ −𝛿𝑒 −𝜇 𝜀 2111= 𝑒 2𝑒′ 𝑑𝜀2 = 𝑒 𝜇 𝜂 2 𝑒 0 − ∞ = 𝑒 𝜇 𝜂 2𝛿𝛿𝑒𝛿−∞𝑒𝜇 𝜂21= −𝜇𝜀 +𝜇 𝜂=1 + 𝑒𝜇 𝜂 2𝑒
1 + 𝑒𝜇 (𝜂 1 −𝜂 2 −𝜀)−𝜇 𝜀 2 (𝑒 −𝜇𝜀 +𝜇 𝜂 1 +𝑒 𝜇 𝜂 2 )𝑑𝜀2