除外変数バイアス
除外変数バイアス(じょがいへんすうばいあす、omitted-variable bias, OVB)は、統計学において、統計モデルから関連する変数を除外することで発生するバイアス。このバイアスの結果、除外された変数の効果を、モデルに含まれた変数の効果に帰してしまう。
より具体的には、回帰分析において、従属変数の決定要因であり、含まれている独立変数と相関するような変数が省略されているなど、仮定した仕様が正しくない場合に、パラメータの推定値にあらわれるバイアスのこと。
真の因果関係が次の式で与えられると仮定する。
y=a+bx+cz+u
ここで、a, b, c はパラメータ、y は従属変数、x, z は独立変数、u は誤差項であり、x が y に与える影響(b の推定値)を検討する。
除外変数バイアスが線形回帰に存在するには、2つの条件が当てはまる必要がある。
除外変数は、従属変数の決定要因である、すなわち真の回帰係数が非ゼロ
除外変数は、独立変数と相関している、すなわち \mathrm{cov}(z, x) が非ゼロ)
回帰から z を省略し、x と z の関係が次のようになるとする。
z=d+fx+e
ここで、d, f はパラメータ、e は誤差項である。2番目の方程式を最初の方程式に代入すると、
y=(a+cd)+(b+cf)x+(u+ce)
y を x のみで回帰する場合、この最後の方程式が推定され、x の回帰係数は実際には b + cf の推定値ということになる。x の y への直接効果 b ではなく、間接効果(x の z への効果 f と z の y への効果 c との積)との和になる。したがって、回帰から変数 z を省略することにより、 偏微分ではなく全微分を推定したことになる。c も f も非ゼロであれば、両者は異なる。
バイアスの向きは cf の正負、バイアスの大きさは cf の絶対値によって求められる。
例として、次の形式の線形モデルを考える。
y_i = \mathbf{x}_i^\top \boldsymbol{\beta} + z_i \delta + u_i, \quad i = 1, \cdots, n
ここで、
列ベクトル \mathbf{x}_i は時刻 i ないし被験者 i で観測された p 個の独立変数の値
列ベクトル \boldsymbol{\beta} は推定すべき観測不可能な p 個のパラメータ(\mathbf{x}_i の各独立変数の応答係数)
スカラー z_i は時刻 i ないし被験者 i で観測されたもう一つの独立変数の値
スカラー \delta は推定すべき観測不可能なパラメータ(z_i の応答係数)
u_iは時刻 i ないし被験者 i に対応する観測不能である誤差項であり、\mathbf{x}_i および z_i を条件として期待値 0 の確率変数の観測不可能な実現値。
y_i は時刻 i ないし被験者 i で観測された従属変数
i = 1, \cdots, n と添え字のついた全ての変数の観測値を集め、それらを積み重ねて、行列 X とベクトル y、z、u を得る。
\mathbf{X} = \left[ \begin{array}{c} \mathbf{x}_1^\top \\ \vdots \\ \mathbf{x}_n^\top \end{array} \right] \in \mathbb{R}^{n \times p}
\mathbf{y} = \left[ \begin{array}{c} y_1 \\ \vdots \\ y_n \end{array} \right], \quad \mathbf{z} = \left[ \begin{array}{c} z_1 \\ \vdots \\ z_n \end{array} \right], \quad \mathbf{u} = \left[ \begin{array}{c} u_1 \\ \vdots \\ u_n \end{array} \right] \in \mathbb{R}^{n \times 1}
独立変数 z が回帰から省略されている場合、他の独立変数の応答係数の推定値は、通常の最小二乗計算によって与えられる。
\widehat{\boldsymbol{\beta} = (\mathbf{X}^\top \mathbf{X})^{-1} \mathbf{X}^\top \mathbf{y}
ここで、\top 記号は行列の転置を意味し、-1の上付き文字は逆行列を表す。
仮定された線形モデルに基づいて y を代入すると、
\begin{align}
\widehat{\boldsymbol{\beta}
& = (\mathbf{X}^\top \mathbf{X})^{-1} \mathbf{X}^\top (\mathbf{X} \boldsymbol{\beta} + \mathbf{z} \delta + \mathbf{u}) \\
&= (\mathbf{X}^\top \mathbf{X})^{-1} \mathbf{X}^\top \mathbf{X} \boldsymbol{\beta} + (\mathbf{X}^\top \mathbf{X})^{-1} \mathbf{X}^\top \mathbf{z} \delta + (\mathbf{X}^\top \mathbf{X})^{-1} \mathbf{X}^\top \mathbf{u} \\
&= \boldsymbol{\beta} + (\mathbf{X}^\top \mathbf{X})^{-1} \mathbf{X}^\top \mathbf{z} \delta + (\mathbf{X}^\top \mathbf{X})^{-1} \mathbf{X}^\top \mathbf{u}
\end{align}
\mathbf{u} は \mathbf{X} とは相関しないので、期待最終項は期待値には影響しない。残りの項を整理すると
\begin{align}
\mathbb{E} \left( \widehat{\boldsymbol{\beta} \mid \mathbf{X} \right)
&= \boldsymbol{\beta} + (\mathbf{X}^\top \mathbf{X})^{-1} \mathbb{E} \left( \mathbf{X}^\top \mathbf{z} \mid \mathbf{X} \right) \delta \\
&= \boldsymbol{\beta} + \text{bias}
\end{align}
右辺第2項が除外変数バイアスであり、除外変数 z が行列 X に含まれる変数のいずれかと相関している場合(\mathbf{X}^\top \mathbf{z} \neq \mathbf{0} の場合)非ゼロである。
ガウス-マルコフの定理は、古典的な線形回帰モデルの仮定を満たす回帰モデルが、最も効率的で線形で不偏な推定量を提供すると述べている。通常の最小二乗法では、古典的な線形回帰モデルの関連する仮定は、誤差項が回帰子と無相関であるということである。
除外変数バイアスの存在は、この仮定に反するので、通常の最小二乗法による推定値にバイアスがかかり、一貫性が失われる。バイアスの方向は、推定量や、回帰子と除外された変数の間の共分散に依存する。除外変数が回帰変数や従属変数と共分散が正の時、係数の推定値は真の値よりも大きくなる。