2010年度 学部 エコノメトリックス 授業資料（第28回：訂正版）

1/26/112§ 6.2 被説明変数が質的データである回帰モデル

2010 年度 学部 エコノメトリックス
第 28 回講義メモ(訂正版)

被説明変数 yi が質的データである場合、線形回帰モデル

yi = x̃i β + iを適用することは妥当であろうか。結論から言うと、線形回帰モデルを拡張した一般化線形モデル (GLIM: genralized linear model) の枠組みで取り扱う必要がある。本節では、被説明変数 yi が質的データである質的変量モデル (Qualitative Response) について、概説することにしよう。

2011 年 1 月 26 日

34(6.2.1) 式における h(·) *1 は、単調な連続微分可能な関数であり、以下のものがよく用いられる。

質的変量モデル
簡単化のために、被説明変数 yi は、{0, 1} の二値をとる、すなわち

yi =10i∈Ii ∈ I c,(a) 線形確率モデル (LPM: linear probability model)h(x̃i β) = x̃i βi = 1, . . . , nであるものとしよう。ここで集合 I は、投票や購買などの行動を行った人(b) probit モデルを表している。

h(x̃i β) = Φ(x̃i β) =質的変量モデルは、yi そのものではなく、yi = 1 となる確率をP(yi = 1) = h(x̃i β)としてモデル化したものである。ここで、x̃i β = x̃i β−∞ 2
1t√ exp −dt
22π(6.2.1)kj=1 xji βj である。

*1 GLIM の定式化 E(yi ) = μi , g(μi ) = x̃ β におけるリンク関数 g(·) の逆関数になっiている。

5(c) logit モデル

6とすると

h(x̃i β) = Λ(x̃i β) =exp(x̃i β)
1 + exp(x̃i β)∂h(x̃i β)= h(1) (x̃i β)β∂ x̃iとなり、評価するポイント x̃i によって異なる値をとることに注意する必要がある。

質的変量モデルの性質
まず、質的変量モデルにおける yi の性質を見てみよう。pi ≡ P(yi = 1)とおくと、yi の期待値（平均）と分散は以下で与えられる。

E(yi ) = 1 × pi + 0 × (1 − pi ) = piVar(yi ) = E(yi2 ) − [E(yi )]2= pi − p2i = pi (1 − pi )さらに、この結果より、LPM や probit モデル、logit モデルにおける係数ベクトル β の直接の比較は意味がないことが分かる。各モデルにおける係数には次の関係があることが知られている。

⎧⎪⎨ β̂ probitβ̂ LP M⎪⎩∼=∼=∼=

1.7β̂ logit
0.4β̂ probit
0.25β̂ logit

また、h(·) は非線形関数を含むので、一般には係数ベクトル β は限界効果を表さないことに注意する必要がある。限界効果は、h(1) (z) ≡ ∂h(z)/∂z1/3

2010年度 学部 エコノメトリックス 授業資料（第28回：訂正版）

1/26/1178という関係にある。このとき、(6.2.1) 式のモデルは、

最小カイ 2 乗推定法 (minimum-χ2 estimation method)pj ≡ P(yj = 1) = h(x̃j β),

質的変量モデルの推定は最尤法 (maximum likelihood method) と呼ばれる方法を用いなければならない。但し、説明変数の値が同じ観測値の個体が複数存在する場合には、一般化最小 2 乗法の枠組みで推定を行うことj = 1, . . . , (6.2.2)に書き直すことができる。いま、mj をこの小グループ j において yi,j =1 (i = 1, . . . , nj ) である個数とすると、が可能である。これが最小カイ 2 乗推定法である。

mj =サンプルサイズ n の標本が、説明変数が異なる  個の小グループ ( < n)nj
yi,ji=1mに分割できるとしよう。この小グループ j においては、説明変数が x̃j でと表すことができるので、p̂j = njj (j = 1, . . . , ) を pj の推定量として用ある観測個体が nj 個存在している。すなわちいることができる。

⎛⎞

さて、 (6.2.2) 式より h−1 (pj ) = x̃j β であるから、h−1 (p̂j ) を pj のまy1,j⎜ .. ⎟ 対応する説明変数⇐⇒x̃j⎝ . ⎠ynj ,j

わりで Taylor 展開すると、

h−1 (p̂j )  h−1 (pj ) +9= x̃j β + νj

σj2 ≡ Var(νj ) =∂h−1 (pj )∂pj2となる。ここで、yi,j ∼ IIDBin(1, pj )であるから、∂h−1 (pj )(p̂j − pj )∂pjVar(mj )=n2j∂h−1 (pj )
∂pj

2

10
pj (1 − pj )nj(6.2.3)であることがわかる。これより、攪乱項 νj の分散は不均一であるので、

for i = 1, . . . , nj , j = 1, . . . , 

重み付最小 2 乗法（WLS）推定量⎛mj ∼ Bin (nj , pj )bM C = ⎝j=1

したがって、⎞−1 ⎛⎞⎝σj−2 xj h−1 (p̂j )⎠σj−2 xj xj ⎠(6.2.4)

j=1が効率的な推定量になる。なお、実際の推定においては、(6.2.3) 式におい∂h−1 (pj )(E(p̂j ) − pj )
∂pj


−1
∂h (pj ) nj pj− pj = 0=∂pjnj

E(νj ) =て、pj を推定量 p̂j で置き換えた σj2 の推定量を用いる。
また、(6.2.3) 式より p̂j = 0 または p̂j = 1 となるケースでは σ̂j2 = 0 となるため、最小カイ 2 乗推定法を用いることが出来ないので、注意が必要である。

1112が得られる。よって、さまざまな質的変量モデルと σj2

σj2 =(6.2.3) より、σj2 = Var(νj ) は h(·) の関数形によって異なることが分かる。以下では分析によく用いられる h(·) と、それに対応する σj2 について整理することにしよう。

pj (1 − pj )njになる。

(b) probit モデルの場合(a) 線形確率モデル (LPM) の場合
pj = h(xj β) = xj β

pj = h(xj β) = Φ(xj β)である。ここで、Φ(·) は標準正規分布の分布関数

 xであるから、h−1 (pj ) = pj 。したがって、∂h−1 (pj )=1∂pj

Φ(x) =−∞

11√ exp − t2 dt22π−∞ xφ(t)dt =を表している。(なお、φ(·) は標準正規分布の密度関数。）

2/3

2010年度 学部 エコノメトリックス 授業資料（第28回：訂正版）

1/26/1113
h−1 (pj ) = Φ−1 (pj ) であるから、14となる。これより、

11 − pj
pj−pj
1 − pj(1 − pj )2

11 − pj=pj(1 − pj )2
1=pj (1 − pj )∂h−1 (pj )1=∂pjφ(Φ−1 (pj ))∂h−1 (pj )=∂pjが得られる（なぜなら dx/dy = 1/(dy/dx) であるから）。よって、

σj2 =pj (1 − pj )[φ(Φ−1 (pj ))]2 njになる。

が得られる。よって、(c) logit モデルの場合
pj = h(xj β) = Λ(xj β) =であるから、

h−1 (pj ) = log

σj2 =exp(xj β)
1 + exp(xj β)

pj
1 − pj

1nj pj (1 − pj )になる。

3/3