操作変数法
誤差の二乗和を最小化する時、 m i n ( Y − β X ) 2 {\displaystyle min(Y-\beta X)^{2}} 、一階条件はまさしく X ′ ( Y − β X ) = X ′ U = 0 {\displaystyle X'(Y-\beta X)=X'U=0} である)。もし、上でリストアップした理由の一つのために、本当のモデルでは c o v ( X , U ) ≠ 0 {\displaystyle cov(X,U)\neq 0} であるとしたら、例えばもし X {\displaystyle X} と Y {\displaystyle Y} の両方に別々に影響を与える除外変数が存在するならば、OLSの手続きは、 Y {\displaystyle Y} に対する X {\displaystyle X} の因果的な効果を生み出さないだろう。OLSはただ単純に X {\displaystyle X} と相関しないように結果的になる誤差を生み出すパラメータを取り出すであろう。
一変数の場合を用いるとより明確になる。一変数と定数についての回帰を考えているとしよう(ひょっとしたら他の共変数は必要ないかもしれない、またひょっとしたらすでに他の関連する共変数を統制(英語版)しているかもしれない)。
y = α + β x + u {\displaystyle y=\alpha +\beta x+u}
この場合、興味のある説明変数に対する係数は β = c o v ( x , y ) v a r ( x ) {\displaystyle \beta ={\frac {cov(x,y)}{var(x)}}} として与えられる。 y {\displaystyle y} について代入すると以下のようになる。
β = c o v ( x , y ) v a r ( x ) = c o v ( x , α + β x + u ) v a r ( x ) = β + c o v ( x , u ) v a r ( x ) → β {\displaystyle \beta ={\frac {cov(x,y)}{var(x)}}={\frac {cov(x,\alpha +\beta x+u)}{var(x)}}=\beta +{\frac {cov(x,u)}{var(x)}}\rightarrow \beta }
もし想定しているモデル上において c o v ( x , u ) ≠ 0 {\displaystyle cov(x,u)\neq 0} ならば、OLSは興味のある因果効果を反映していない係数を推定する。操作変数法は、 x {\displaystyle x} が u {\displaystyle u} と無相関か否かというより、他の変数 z {\displaystyle z} が u {\displaystyle u} と無相関か否かに基づいてパラメータ β → {\displaystyle {\vec {\beta }}} を識別するので問題を解決することが可能になる。もし理論上 z {\displaystyle z} が x {\displaystyle x} と関係し(第一段階)、 u {\displaystyle u} と無相関(除外制約)ならば、操作変数法は最小二乗法が失敗した興味のある因果パラメータを識別するだろう。線形の場合には操作変数推定量を使い導出する複数の特定の方法が存在するので、さらなる議論は推定の節で行う。
もちろん、操作変数法はより広い非線形モデルのクラスにも適用されてきた。
カジュアルな言い方では、ある変数 X {\displaystyle X} が他の変数 Y {\displaystyle Y} に与える因果効果を推定しようとする時、操作変数は X {\displaystyle X} における効果のみを通して Y {\displaystyle Y} に影響を与える変数 Z {\displaystyle Z} のことである。例えば、研究者は喫煙の一般的な健康における因果効果を推定したいとしよう。健康と喫煙の相関は、他の変数が健康と喫煙の両方に影響を与えた、もしくは健康状態が喫煙に影響を与えたと考えることもできるので、喫煙が健康を悪化させる原因であるということは意味しない。一般の母集団において喫煙状態を制御した実験を行うのはとても難しく費用がかかる。研究者は、因果分析における喫煙の操作変数としてタバコ製品の税率の時系列を用いて観測データから健康における喫煙の因果効果を推定しようとするだろう。研究者はタバコ製品についての税率は喫煙に与える効果のみを通して健康に影響を与えると仮定するので、タバコ製品についての税率は操作変数としては合理的な選択である。もし研究者がタバコ税と健康状態が相関しているのを発見できたならば、それは喫煙が健康状態の変化の原因であるという証拠と見なしうる。
ヨシュア・アングリストとアラン・クルーガーは操作変数法の使用と歴史についてのサーベイを行っている。
回帰の文脈において一つないしは複数の問題を持つ説明変数は時折、内生性として言及される。この状況下では、最小二乗法はバイアスを持ち一致性を持たない推定量を生み出す。しかし、もし操作変数が利用可能ならば、一致推定量を得ることができる。操作変数とはそれ自身は説明すべき方程式には依存していないが、内生的な説明変数とほかの共変数の値による条件の下で相関している変数のことである。線形モデルにおいては操作変数法を用いるために二つの必要な仮定がある。
操作変数は他の共変数で条件付けた時に、内生的な説明変数と相関しなくてはならない。もしこの相関が統計的に有意なほど高ければ、その操作変数は強い第一段階(英: strong first stage)を持つと言う。相関が弱いとパラメータの推定値と標準誤差について間違った推論を導きかねない。
操作変数は説明方程式の誤差項と他の共変数で条件付けた時に相関してはならない。言い換えると、操作変数は元の予測変数と同じ問題に直面することがない。もしこの条件が満たされているならば、その操作変数は除外制約(英: exclusion restriction)を満たすと言う。
図2において描写されている因果グラフを用いると、チュータープログラムの行われる場所の近さは、グラフ G X ̄ {\displaystyle G_{\overline {X}}} において「場所の近さ(Proximity) → {\displaystyle \rightarrow } 図書館の使用時間(Library Hours) → {\displaystyle \rightarrow } GPA」という経路を通してGPAと繋がっているため、操作変数としてはふさわしくない。しかしながら、共変数として図書館の使用時間を加えてコントロールすれば、 G X ̄ {\displaystyle G_{\overline {X}}} において図書館の使用時間が与えられた下で場所の近さはGPAから分離されるため、場所の近さは操作変数になる。
今、図3のように学生"そのものが持つ能力"(Ability)が学生のGPAと同じくらい学生の図書館にいる時間に影響を与えるとしよう。因果グラフを用いれば、図書館の使用時間はコライダーとなり、図書館で条件付けることは「場所の近さ(Proximity) → {\displaystyle \rightarrow } 図書館の使用時間(Library Hours) ↔ {\displaystyle \leftrightarrow } GPA」という経路を作るだろう。結果として、場所の近さは操作変数として用いることは出来ない。
最後に、図4で示されているように、図書館で勉強しない学生は単に他の場所で勉強するので、図書館の使用時間はGPAに何の影響も与えないとしよう。この場合、図書館の使用時間を制御することは場所の近さからGPAまでの信用できない経路を開く。しかしながら、図書館の使用時間をコントロールせず、共変数から除外すると、場所の近さは操作変数として用いることが出来る。
(2004), “Instrumental Variables Technique: Cigarette Price Provided Better Estimate of Effects of Smoking on SF-12”, Journal of Clinical Epidemiology 57 (3): 284–293, doi:10.1016/j.jclinepi.2003.08.006
↑ Angrist, J.; Krueger, A. (2001), “Instrumental Variables and the Search for Identification: From Supply and Demand to Natural Experiments”, Journal of Economic Perspectives 15 (4): 69–85, doi:10.1257/jep.15.4.69
↑ Davidson, Russell; Mackinnon, James (1993). Estimation and Inference in Econometrics. New York: Oxford University Press. ISBN 0-19-506011-3
↑ Balke, A.; Pearl, J. (1997). “Bounds on treatment effects from studies with imperfect compliance”.
Journal of the American Statistical Association 92 (439): 1172–1176. doi:10.1080/01621459.1997.10474074.
↑ Heckman, J. (1997). “Instrumental variables: A study of implicit behavioral assumptions used in making program evaluations”. Journal of Human Resources 32 (3): 441–462. JSTOR 146178.
↑ Bound, J.; Jaeger, D. A.; Baker, R. M. (1995). “Problems with Instrumental Variables Estimation when the Correlation between the Instruments and the Endogenous Explanatory Variable is Weak”. Journal of the American Statistical Association 90 (430): 443. doi:10.1080/01621459.1995.10476536.