基礎ゼミ第5回
MNLの導出とパラメータ推定

朝倉研究室 修士1年 小泉大哉

福田研・朝倉研合同ゼミ 行動モデル第1回-MNLの導出とパラメータ推定-目次• 離散選択モデルによる予測• モデルの集計方法• 二項選択モデル• 二項ロジットモデル(BNL)の導出および推定• 多項ロジットモデル(MNL)の導出および推定• まとめ2

福田研・朝倉研合同ゼミ 行動モデル第1回-MNLの導出とパラメータ推定-

離散選択モデルによる予測• 交通行動に離散選択モデルを導入する目的①個人の行動をシステマティックに理解→推定された効用のパラメータから知ることができる②交通現象の予測→非集計レベルで推定したモデルを予測段階で集計化

3福田研・朝倉研合同ゼミ 行動モデル第1回-MNLの導出とパラメータ推定-4

集計方法①数え上げ法(総当たり法)
選択肢𝑖𝑖のマーケットシェアを𝑆𝑆 𝑖𝑖 とおく𝑁𝑁

1
𝑆𝑆 𝑖𝑖 = � 𝑃𝑃𝑛𝑛 𝑖𝑖 , 𝑖𝑖 = 1, … , 𝑗𝑗
𝑁𝑁𝑛𝑛=1𝑁𝑁:サンプル数, 𝑃𝑃𝑛𝑛 𝑖𝑖 :個人𝑛𝑛の選択肢𝑖𝑖の選択確率※ 𝑆𝑆 𝑖𝑖 は個人による選択確率の重み付き総和であって，各々が選ぶ選択する確率を具体的に推測し求めるわけではない福田研・朝倉研合同ゼミ 行動モデル第1回-MNLの導出とパラメータ推定-

集計方法
選択肢別に標本抽出した場合の𝑆𝑆 𝑖𝑖
𝐽𝐽

𝑁𝑁

𝑗𝑗=1

𝑛𝑛=1

1
𝑆𝑆 𝑖𝑖 = �(𝑊𝑊𝑗𝑗 � � 𝑃𝑃𝑛𝑛𝑗𝑗 𝑖𝑖 ) , 𝑖𝑖 = 1, … , 𝑗𝑗
𝑁𝑁𝑗𝑗

𝑊𝑊𝑗𝑗 :アンケート調査時の実際のマーケットシェア

5福田研・朝倉研合同ゼミ 行動モデル第1回-MNLの導出とパラメータ推定-6

集計方法②代表的個人法…母集団の「代表的」な仮想の個人の説明変数値を計算し，その個人の選択確率をセグメント(ここでは)年齢ごとや性別で分けたものにシェアすること• 「代表的」な変数値→モデル推定に用いたサンプル数の平均値
母集団の中で説明変数のバラつきが大きい場合予測精度は低下説明変数がばらつかない同質的なグループごとに「代表的個人」を立てる（マーケットセグメント）
しかし，グループ内が同質的になる保証がないため，あまり使われない

行動モデル第1回
福田研・朝倉研合同ゼミ 行動モデル第1回

7-MNLの導出とパラメータ推定-MNLの導出とパラメータ推定-

二項選択モデル
プロビットモデル

ロジットモデル(BNL)

ランダム項が正規分布にしたがうランダム項が極値分布にしたがう

𝜀𝜀1 ~𝑁𝑁 0, 𝜎𝜎12ε = 𝜀𝜀2 − 𝜀𝜀1の分布

𝜀𝜀2 ~𝑁𝑁 0, 𝜎𝜎22𝜀𝜀~𝑁𝑁 0, 𝜎𝜎 2
※𝜎𝜎 2 = 𝜎𝜎12 + 𝜎𝜎22 − 2𝜎𝜎12𝑉𝑉𝑛𝑛

𝐹𝐹𝜀𝜀 𝑉𝑉𝑛𝑛 = � 𝑓𝑓 𝜀𝜀 𝑑𝑑𝜀𝜀 = Φ(𝑉𝑉𝜎𝜎𝑛𝑛 )−∞Φ(𝑥𝑥)・・・標準正規分布関数(平均0,分散1)𝜀𝜀1 ~𝐸𝐸𝐸𝐸 0, 𝜇𝜇𝜀𝜀2 ~𝐸𝐸𝐸𝐸 0, 𝜇𝜇ε = 𝜀𝜀2 − 𝜀𝜀1の分布𝜀𝜀~𝐿𝐿𝐿𝐿𝐿𝐿𝐿𝐿𝐿𝐿𝐿𝐿𝐿𝐿𝐿𝐿𝐿𝐿 0, 𝜇𝜇𝐹𝐹𝜀𝜀 𝜀𝜀𝑛𝑛 =𝝁𝝁：スケールパラメータ[𝜺𝜺𝒏𝒏 のばらつき]

exp 𝜇𝜇𝜀𝜀11=
exp 𝜇𝜇𝜀𝜀1 + exp 𝜇𝜇𝜀𝜀21 + exp(−𝜇𝜇𝜀𝜀𝑛𝑛 )𝑃𝑃𝑛𝑛 (𝑖𝑖)
1.0

0.5

𝑉𝑉𝑖𝑖𝑖𝑖 − 𝑉𝑉𝑗𝑗𝑛𝑛

福田研・朝倉研合同ゼミ 行動モデル第1回-MNLの導出とパラメータ推定-

8二項ロジットモデル(BNL)• ロジットモデルの方がよく利用される理由→プロビットモデルでは，選択確率に積分が残り取り扱いづらいた
め，積分の計算に工夫が必要→個人の効用最大化説と整合→正規分布よりゆるやかである

プロビットモデル

ロジットモデル福田研・朝倉研合同ゼミ 行動モデル第1回-MNLの導出とパラメータ推定-

BNLの推定• 最尤推定法

行動モデル(未知パラメータ含む)が正しいことが前提で観測されたデータがもっともらしさ(尤度)が最大になるようにパラメータを定めている。

モデル推定においてパラメータ値を求める方法として利用されている
𝑁𝑁𝐽𝐽

𝐿𝐿 = � � 𝑃𝑃𝑛𝑛 (𝑖𝑖)𝑑𝑑𝑖𝑖𝑖𝑖
𝑛𝑛=1 𝑖𝑖=1𝑑𝑑𝑖𝑖𝑖𝑖 : 個人𝑛𝑛が選択肢𝑖𝑖を選択した場合1選択しない場合09福田研・朝倉研合同ゼミ 行動モデル第1回-MNLの導出とパラメータ推定-

10BNLの推定• 最尤推定法

実際のモデル推定では推定計算の簡便性(各項のかけ算→各項のたし算)のために上式の尤度関数に自然対数をとる
𝑁𝑁𝐽𝐽

ln 𝐿𝐿 = � � 𝑑𝑑𝑖𝑖𝑖𝑖 ln 𝑃𝑃𝑛𝑛 (𝑖𝑖)𝑛𝑛=1 𝑖𝑖=1代わりに最大化する！！

福田研・朝倉研合同ゼミ 行動モデル第1回-MNLの導出とパラメータ推定-

11BNLの推定• 統計的検定→推定結果の値の妥当性を検証することが目的→各項の係数の絶対値を対象とするt検定を利用

福田研・朝倉研合同ゼミ 行動モデル第1回-MNLの導出とパラメータ推定-

BNLの推定• 帰無仮説と対立仮説について①まず、帰無仮説「差はない」を立てる②適当な指標を計算する③その指標が起こる確率を計算する④確率に基づいて、帰無仮説を採択するか、棄却するかを決める⑤帰無仮説を採択した場合は、「意味のある差（有意差）はない」と結論する⑥帰無仮説を棄却した場合は、対立仮説を採択し、「差はないとはいえない、つまり意味のある差（有意差）がある」と結論する

12

福田研・朝倉研合同ゼミ 行動モデル第1回-MNLの導出とパラメータ推定-

BNLの推定t検定…各説明変数の効用値における影響を得られたパラメータ値から標準偏差で割った値(t値)で計る

以下の順で検定をする①帰無仮説と対立仮説を立てる②有意水準を設定する(例えば5%とする)③t値の絶対値が1.96以上であれば，そのパラメータ値が有意水準5%で有意であると言える13

福田研・朝倉研合同ゼミ 行動モデル第1回-MNLの導出とパラメータ推定-

14

BNLの推定• 非線形計画法①反復法による最適解の探索②目的関数が凸であれば，極大解を探索することで最大解を探すことができる③2項ロジットモデルの対数尤度関数は凸であり，最尤解は一意に求まる④一般的な探索終了条件は，最適解𝛽𝛽∗ において目的関数の勾配ベクトルが𝛻𝛻𝐿𝐿 𝛽𝛽∗ = 0になることを利用する⑤パラメータのなかに識別不能なサンプルが含まれるとき，モデルは特異となり収束速度が著しく落ちるまたは収束しない場合がある(全サンプルで旅行時間が等しい，など)

福田研・朝倉研合同ゼミ 行動モデル第1回-MNLの導出とパラメータ推定-

15BNLの推定• モデルの適合度

モデルの確からしさの指標
 𝐿𝐿(0)
すべてのパラメータを0とした無情報モデル（=当てずっぽうのモデル）の尤度、初期尤度 𝐿𝐿(𝛽𝛽∗ )最大尤度モデル（=推定結果）の尤度
予測がすべて的中する完璧なモデルの尤度は1となる

福田研・朝倉研合同ゼミ 行動モデル第1回-MNLの導出とパラメータ推定-

16

BNLの推定• McFaddenの決定係数
適合度指標は次のように表される∗
ln𝐿𝐿𝛽𝛽𝜌𝜌2 = 1 −ln 𝐿𝐿 00 < 𝜌𝜌2 < 1∗ln𝐿𝐿𝛽𝛽−𝐾𝐾𝜌𝜌̅ 2 = 1 −ln 𝐿𝐿 00 < 𝜌𝜌̅ 2 < 1• McFaddenの決定係数の欠点→自由度調整済み尤度比の導入(K:パラメータ数)

多くのパラメータを用いることでモデルが扱いにくくなることも考慮した尤度であるため，異なるモデルの比較に用いることができる

福田研・朝倉研合同ゼミ 行動モデル第1回-MNLの導出とパラメータ推定-

17MNLの導出

多項ロジットモデルの場合にも応用するには…
• 定式化
𝑃𝑃𝑛𝑛 𝑖𝑖 = 𝑃𝑃𝑃𝑃 𝑈𝑈𝑖𝑖𝑖𝑖 ≥ 𝑈𝑈𝑗𝑗𝑗𝑗 , for ∀𝑗𝑗, 𝑖𝑖 ≠ 𝑗𝑗
= 𝑃𝑃𝑃𝑃 𝑈𝑈𝑖𝑖𝑖𝑖 ≥ max 𝑈𝑈𝑗𝑗𝑗𝑗
また，• 累積分布関数：∀𝑗𝑗,𝑗𝑗≠𝑖𝑖

𝝁𝝁：ガンベル分布のスケールパラメータ[𝜺𝜺𝒏𝒏のばらつき]

𝐹𝐹 𝜀𝜀 = 𝑒𝑒𝑒𝑒𝑒𝑒 −𝑒𝑒𝑒𝑒𝑒𝑒 −𝜇𝜇(𝜀𝜀 − 𝜂𝜂)• 確率密度関数：
𝜼𝜼：ロケーションパラメータ[分布の位置(最頻値)]
𝑓𝑓 𝜀𝜀 = 𝜇𝜇 � 𝑒𝑒𝑒𝑒𝑒𝑒 −𝜇𝜇(𝜀𝜀 − 𝜂𝜂) � 𝐹𝐹 𝜀𝜀福田研・朝倉研合同ゼミ 行動モデル第1回-MNLの導出とパラメータ推定-

MNLの導出• ガンベル分布の性質
1.最頻値：𝜂𝜂,平均値：𝜂𝜂 + 𝛾𝛾/𝜇𝜇 (𝛾𝛾:オイラー定数、0.577とする)
𝜋𝜋22.分散：V𝑎𝑎𝑎𝑎 𝜀𝜀1 − 𝜀𝜀2 = 26𝜇𝜇3.𝜀𝜀1 , 𝜀𝜀2 がそれぞれ 𝜂𝜂1 , 𝜇𝜇 , 𝜂𝜂2 , 𝜇𝜇 のパラメータを持つガンベル分布に従うとき差𝜀𝜀 = 𝜀𝜀1 − 𝜀𝜀2は以下のロジスティック分布に従う
1𝐹𝐹 𝜀𝜀 =1 + 𝑒𝑒𝑒𝑒𝑒𝑒 𝜇𝜇(𝜂𝜂2 − 𝜂𝜂1 − 𝜀𝜀)18

福田研・朝倉研合同ゼミ 行動モデル第1回-MNLの導出とパラメータ推定-

MNLの導出𝑈𝑈𝑛𝑛∗ ≡ max 𝑉𝑉𝑗𝑗𝑗𝑗 + 𝜀𝜀𝑗𝑗𝑗𝑗 と定義する∀𝑗𝑗,𝑗𝑗≠𝑖𝑖→𝑈𝑈𝑛𝑛∗ は𝜀𝜀1 , 𝜀𝜀2 , … , 𝜀𝜀𝑗𝑗 がそれぞれ 0, 𝜇𝜇 を持つ互いに独立なガンベル分布に従うと仮定

1ln ∑𝑗𝑗≠𝑖𝑖 exp 𝜇𝜇𝑉𝑉𝑗𝑗𝑗𝑗
𝜇𝜇𝑈𝑈𝑛𝑛∗ = 𝑉𝑉𝑛𝑛∗ + 𝜀𝜀𝑛𝑛∗ とすると，
𝑉𝑉𝑛𝑛∗ =, 𝜇𝜇 を持つガンベル分布となる

1ln � exp(𝜇𝜇𝑉𝑉𝑗𝑗𝑗𝑗 )𝜇𝜇𝑗𝑗≠𝑖𝑖19福田研・朝倉研合同ゼミ 行動モデル第1回-MNLの導出とパラメータ推定-20

MNLの導出𝑃𝑃𝑛𝑛 𝑖𝑖 = 𝑃𝑃𝑃𝑃 𝑈𝑈𝑖𝑖𝑖𝑖 ≥ 𝑈𝑈𝑗𝑗𝑗𝑗 , for ∀𝑗𝑗, 𝑖𝑖 ≠ 𝑗𝑗 および，ガンベル分布の性質3.により，𝑃𝑃𝑛𝑛 𝑖𝑖 = 𝑃𝑃𝑃𝑃 𝑉𝑉𝑖𝑖𝑖𝑖 + 𝜀𝜀𝑖𝑖𝑖𝑖 ≥ 𝑉𝑉𝑛𝑛∗ + 𝜀𝜀𝑛𝑛∗= 𝑃𝑃𝑃𝑃 𝜀𝜀𝑖𝑖𝑖𝑖 − 𝜀𝜀𝑛𝑛∗ ≥ 𝑉𝑉𝑛𝑛∗ − 𝑉𝑉𝑖𝑖𝑖𝑖=

1

exp 𝜇𝜇𝑉𝑉𝑖𝑖𝑖𝑖=exp 𝜇𝜇𝑉𝑉𝑖𝑖𝑖𝑖 + exp 𝜇𝜇𝑉𝑉𝑛𝑛∗

1 + exp 𝜇𝜇 𝑉𝑉𝑛𝑛∗ − 𝑉𝑉𝑖𝑖𝑖𝑖
exp 𝜇𝜇𝑉𝑉𝑖𝑖𝑖𝑖=exp 𝜇𝜇𝑉𝑉𝑖𝑖𝑖𝑖 + exp ln ∑𝑗𝑗≠𝑖𝑖 exp 𝜇𝜇𝑉𝑉𝑗𝑗𝑗𝑗

exp 𝜇𝜇𝑉𝑉𝑖𝑖𝑖𝑖=∑𝑗𝑗 exp 𝜇𝜇𝑉𝑉𝑗𝑗𝑗𝑗←MNLの選択確率※通常のスケールパラメータμの値は1とすることが多いが，関数的ランダム効果を出すため，NLなどでは1より小さな値とすることがある福田研・朝倉研合同ゼミ 行動モデル第1回-MNLの導出とパラメータ推定-

21MNLまとめ• 𝜀𝜀𝑗𝑗𝑗𝑗 : 独立かつ同一のガンベル分布𝐸𝐸𝐸𝐸(0, 𝜇𝜇)に従う

累積分布関数：𝐹𝐹 𝜀𝜀 = 𝑒𝑒𝑒𝑒𝑒𝑒 −𝑒𝑒𝑒𝑒𝑒𝑒 −𝜇𝜇(𝜀𝜀 − 𝜂𝜂)•

確率密度関数：𝑓𝑓 𝜀𝜀 = 𝜇𝜇 � 𝑒𝑒𝑒𝑒𝑒𝑒 −𝜇𝜇(𝜀𝜀 − 𝜂𝜂) � 𝐹𝐹 𝜀𝜀𝜋𝜋2
ランダム項の分散： 26𝜇𝜇

• 選択確率𝑃𝑃𝑛𝑛 𝑖𝑖

exp 𝜇𝜇𝑉𝑉𝑖𝑖𝑖𝑖=∑𝑗𝑗 exp 𝜇𝜇𝑉𝑉𝑗𝑗𝑗𝑗

福田研・朝倉研合同ゼミ 行動モデル第1回-MNLの導出とパラメータ推定-22

MNLのIIA特性• IIA特性のメリット→選択肢集合が大きい場合，部分集合を用いて推定できる• IIA特性のデメリット→互いに相関している選択肢(例：赤バスと青バス)が含まれている場合，非現実的な選択確率を算出する可能性がある

NL(Nested Logit Model)等の開発の動機となった