除外変数バイアス
真の因果関係が次の式で与えられると仮定する。
y = a + b x + c z + u {\displaystyle y=a+bx+cz+u}
ここで、 a , b , c {\displaystyle a,b,c} はパラメータ、 y {\displaystyle y} は従属変数、 x , z {\displaystyle x,z} は独立変数、 u {\displaystyle u} は誤差項であり、 x {\displaystyle x} が y {\displaystyle y} に与える影響( b {\displaystyle b} の推定値)を検討する。
除外変数バイアスが線形回帰に存在するには、2つの条件が当てはまる必要がある。
除外変数は、従属変数の決定要因である、すなわち真の回帰係数が非ゼロ
除外変数は、独立変数と相関している、すなわち c o v ( z , x ) {\displaystyle \mathrm {cov} (z,x)} が非ゼロ)
回帰から z {\displaystyle z} を省略し、 x {\displaystyle x} と z {\displaystyle z} の関係が次のようになるとする。
z = d + f x + e {\displaystyle z=d+fx+e}
ここで、 d , f {\displaystyle d,f} はパラメータ、 e {\displaystyle e} は誤差項である。
2番目の方程式を最初の方程式に代入すると、