XB 章 内生性、あるいは「説明変数と誤差項に相関がある」ことを俯瞰する（ver.20240302）

ここまで、本書本編の第 1-3 章とオンライン補遺 XA 章では因果効果のバイアスのない推定のための理論的枠組みに関する話をしてきました。さて、社会科学系分野の統計解析の本を読んでいると、因果効果推定におけるバイアスの議論の際に、「内生変数」や「内生性」という概念がよく出てきます。これらの用語の説明の仕方にはいくつかありますが1、例えば山本(2015)では、

内生変数とは、想定しているモデルの中で内生的に決定される変数で、被説明変数に該当します。外生変数とは、想定しているモデルの外で外生的に決定される変数で、本来であれば説明変数でなければなりません。(5)〜(6)式のように説明変数が外生変数ではなく内生変数になっている場合、誤差項と説明変数が独立という仮定 3 が成立しなくなります。

と説明されています2。こうした説明ではしばしば、「誤差項と説明変数が独立でない（内生性がある）」ことが、因果効果の推定におけるバイアスの原因であると解説されます。こうした解説に馴染みのある読者の中には、本書の第 1-3 章とオンライン補遺 XA 章で紹介されてきた諸理論的枠組みの話と、こうした「内生性」や「内生変数」の話とがどう繋がっているかに興味を持った人もいるかもしれません。
この繋がりを理解する鍵は、「説明変数と誤差項が独立でない（相関がある）」という箇所にあります。さて、ここで「説明変数と誤差項の相関」とだけ聞いて、字面としては理解できたとしても、すぐにこの話がストンと腑に落ちるというのは中々難しいことだと思われます。以下では、第 1-3 章とオンライン補遺 XA 章で学んできた理論的枠組を用いて、この「説明変数と誤差項の相関」について、幾つかの観点から俯瞰していきます。

では具体的な数値例を用いて、複数の理論的枠組の観点がどのように繋がっているかを見ていきましょう。

XB.1 まずはここから：回帰分析の「誤差項」って何だろう？
分野と文脈にもよりますが、一般に「誤差」という語は「偶然により生じるバラツキ」という意味で用いられることも多いかと思います3。しかし、この「誤差＝偶然によるバラツキ」というイメージで考えると、「説明変数と誤差項が相関する」 --- 「偶然」が「相関」する --- というのは一体どういうことなの？と混乱してしまうかもしれません。
実際には、回帰分析における「誤差項」は、より正確に言うと「偶然によるバラツキ」ではなく「回帰モデル内に含まれていない要因に起因するバラツキ」を表しています。以下では、この「回帰モデル内に含まれていない要因に起因するバラツキ」がどのような場合に「説明変数と相関」するかを、具体的な数値例をもとに見ていきます。

1

本書における内生性の数学的な定義はオンライン補遺 X3.1 項を参照

2

山本湧(2015)『実証分析のための計量経済学』 (中央経済社)の p88 より引用

3

「誤差」そのものは「差」を表す表現ですが、データ解析の文脈では個々のデータの「差」ではなくデータ全体に含まれる「差の総体」に着目することが多いため、ここでは「誤差」の説明として「偶然により生じるバラツキ」という表現を用いました。

XB.2 数値例で考える：まずは「内生性がない」場合について
XB.2.1 用いるデータの説明（n=1000）
ここでは、1000 匹の猫からなるデータを考えます。Y が興味のある目的変数で、T が興味のある処置変数とします。T と Y がともに連続量であり、解析の目的は𝑇 → 𝑌の因果効果の推定とします。また、共変量として変数𝐶1 , 𝐶2 , 𝐶3 , 𝐶4 , 𝐶5 を考えます。個体𝑖がもつ各変数の値は、それぞれ𝑌𝑖 , 𝑇𝑖 , 𝐶1,𝑖 , 𝐶2,𝑖 , 𝐶3,𝑖 , 𝐶4,𝑖 , 𝐶5,𝑖 と表記します(𝑖 =1, … , 1000）。

具体的なデータの数値は以下のようになっています（最初の 10 個体分だけ示します）。

表 XB.1
個体𝒊

Y, T と共変量のデータ例（最初の 10 個体分）
𝒀

𝑻

𝑪𝟏

𝑪𝟐

𝑪𝟑

𝑪𝟒

𝑪𝟓

1

117

20.1

50

17.5

7.32

5.27

3.97

2

101

33.2

50

4.51

4.14

4.80

4.27

3

104

14.8

50

14.5

4.94

5.70

6.02

4

132

28.2

50

20.0

7.62

6.59

3.64

5

119

29.6

50

14.6

5.94

4.87

7.04

6

131

42.6

50

13.7

6.27

4.67

3.87

7

135

34.2

50

18.9

9.57

3.88

5.68

8

123

23.3

50

21.0

3.26

5.21

4.17

9

117

38.7

50

10.4

3.96

3.85

6.43

10

96.4

21.6

50

7.98

4.68

4.13

4.83

ここで、このデータにおける個体𝑖の𝑌𝑖 の値は、以下の式 XB.1 によって、すなわち「𝑇𝑖 , 𝐶1,𝑖 , 𝐶2,𝑖 , 𝐶3,𝑖 , 𝐶4,𝑖 の関数（𝑌𝑖 = 𝑓(𝑇𝑖 , 𝐶1,𝑖 , 𝐶2,𝑖 , 𝐶3,𝑖 , 𝐶4,𝑖 )）」として完全に決定論的に生成されています。この式 XB.1 は、本来は"神のみぞ知る"ような「Y の生成メカニズム」を表しているものと考えてください4。

𝑌𝑖 = 𝑇𝑖 + 𝐶1,𝑖 + 2 𝐶2,𝑖 + 𝐶3,𝑖 + 𝐶4,𝑖

（式 XB.1）

このデータにおいては、個体のレベルで見たときの𝑌𝑖 の値は「𝑇𝑖 , 𝐶1,𝑖 , 𝐶2,𝑖 , 𝐶3,𝑖 , 𝐶4,𝑖 の関数」として完全に決定論的に定まっています。上記の式 XB.1 にはいわゆる「誤差項」はありません。この生成メカニズムに対応する
因果ダイアグラムは：4

つまり、この式は単なる等式ではなく、生成メカニズムのモデルとしての構造方程式を意味しています。

図 XB.1

表 XB.1 データの生成メカニズムである式 S2.2.1.1 に対応する因果ダイアグラムとなります。ここで𝐶5,𝑖 は、個体がもつ共変量の一つではあるものの、他のどの変数とも因果的な関係がない変数となっています。

ここで因果効果に着目すると、式 XB.1 から「𝑇𝑖 が 1 増加すると、𝑌𝑖 が 1 増加する」関係にあることが分かります。つまり、「𝑇 → 𝑌の因果効果（＝T を 1 単位増加させたときの Y の増加量）」の真の値は、式 XB.1 から「1」となります。
データ全体の概観をつかむために、𝑌, 𝑇, 𝐶1 , 𝐶2 , 𝐶3 , 𝐶4 , 𝐶5の相関行列を図示してみます：

図 XB.2

表 XB.1 のデータの相関行列

この図の中の右上部は相関係数（*,**はそれぞれ 1%有意、5%有意）を、左下部は散布図を表しています。
このデータの特徴をまとめると以下のようになります：-

データ内に含まれる変数は Y と𝑇, 𝐶1 , 𝐶2 , 𝐶3 , 𝐶4 , 𝐶5-

𝐶1はサンプル内で常に𝐶1 = 50であり、このデータにおいては分散を持たない-Y と𝑇, 𝐶2 , 𝐶3 , 𝐶4の間には統計的に有意な相関が見られる（式 XB.1 から生成されていることによる）-

T と𝐶1 , 𝐶2 , 𝐶3 , 𝐶4 , 𝐶5 は相関していない5では、こうした特徴をもつデータを用いて、内生性と残差と誤差の関係について眺めていきましょう。

XB.3 回帰分析してみよう（内生性が無い場合）
上記の数値表のデータにおいて、T と Y のみが観察可能である（＝𝐶1 , 𝐶2 , 𝐶3 , 𝐶4 , 𝐶5 の値は解析者には分からない）状況を想定し、T で Y を単回帰してみます。プロットは以下のようになります。

図 XB.3 T での Y の単回帰プロット（内生性が無い場合）

単回帰分析での回帰係数の推定値は「1.006」でした。回帰係数の正解の値は与式 1 より「1」なので、かなり高い精度で推定されているといえます。また、R2 乗値は 0.65、回帰分析の定数項は 89.86 でした。
では、この回帰分析の「残差」と「誤差」と「T」のあいだに相関があるかを見ていきます。

XB.4「残差」と「処置 T」の相関をみる（内生性がない場合）
まず説明変数である T と「残差」の相関を見てみます。残差とは「実際のデータである𝑦𝑖 の値」と「推定された回帰モデルに基づく𝑌𝑖 の予測値」の差分となります。数式で表すと「𝑌𝑖 の残差 = 𝑌𝑖 - 𝑌𝑖 の予測値」です。 図で表すと、実際のデータと回帰直線との縦側のズレが回帰分析における「残差」になります（下図のイメージ）。

5

実際にプログラムコード内でも𝑇, 𝐶1 , 𝐶2 , 𝐶3 , 𝐶4 , 𝐶5 は互いに独立に生成されています

図 XB.4

回帰直線とデータとのズレが「残差」

数値的なイメージを掴むため、 𝑇, 𝑌, 𝑌の予測値（𝑌𝑝𝑟𝑒𝑑𝑖𝑐𝑡 ）, Y の残差（𝑌𝑟𝑒𝑠𝑖𝑑𝑢𝑎𝑙 ）の数値も以下に示しておきます（最初の 10 データ）：

表 XB.2Y の観察値、予測値、残差のデータ例（最初の 10 個体分）

個体𝒊

𝑻

𝒀𝒑𝒓𝒆𝒅𝒊𝒄𝒕𝒀

𝒀𝒓𝒆𝒔𝒊𝒅𝒖𝒂𝒍

1

20.1

117

110

7

2

33.2

101

123

-22

3

14.8

104

104

0

4

28.2

132

118

14

5

29.6

119

119

0

6

42.6

131

132

-1

7

34.2

135

124

11

8

23.3

123

113

10

9

38.7

117

128

-11

10

21.6

96

111

-15

下記の左図が「残差」の値の 1000 個体分の分布となります。0 の周りにおおむね対称にバラついていることが分かります。また、右図は「T」と「残差」のプロットであり、それらの間には相関はないことがわかります。

図 XB.5

残差はゼロの周りに概ね対照に分布し、T の値とは相関がない実は、これはある意味当たり前の話になります。なぜなら、そもそもこのような回帰分析では回帰直線の傾きが「説明変数と、説明変数では説明できないバラツキとの相関がゼロになる（＝バラツキの総和が最小になる）」
ように選ばれているからです（図 XB.6）。

図 XB.6 「なぜ回帰分析の残差と T には相関がないのか」のイメージ的な理解( 1) まずTと Yの平均値を 通る 単な る 水平の直線を 考えて みる
Tの平均から 離れる ほど 直線から のY軸方向のズレ （ の二乗値） が大き い→ 水平な 直線の場合、 Tの値と 「 残差の大き さ 」 に相関がある

残差( 2) Y軸方向のズレ （ の二乗値） が一番
小さ く な る 角度まで T-Y座標を 回転する

よ っ こ ら せと回転

直線は回転せず
そのま ま
直線ご と
ま た逆回転残差
どのTの値に対し て も 直線から のY軸方向のズレ が同じ 分布を し ている（ Tの平均から 離れる ほど ズレ が大き く なる よ う な 傾向がな い）→ 回帰直線の場合、 Tの値と 「 残差の大き さ 」 に相関がな い
別の言い方を する と 、 Tと 残差の大き さ に関連がない方向の直線が「 回帰直線」 と し て 選ばれて いる と いう 話
＊注： 尚、 回帰モ デルが適切でな い（ 非線形なデータ に線形回帰し ている 場合など ） 場合には残差と Tの間に相関が生じ う る

XB.5「誤差」と「処置 T」の相関をみてみよう（内生性がない場合）
では次は、「誤差」と「T」の相関をみていきましょう。実は、困ったことに、通常はデータから「回帰分析の誤差項」そのものは算出できません。しかし、今回は「真のメカニズム式」が上述の式 XB.1 により与えられています。

𝑌𝑖 = 𝑇𝑖 + 𝐶1,𝑖 + 2𝐶2,𝑖 + 𝐶3,𝑖 + 𝐶4,𝑖

（式 XB.1 再掲）

そこでここでは、式 S2.2.1.1 の変形から「Y のうち T によっては決まらない部分」を「誤差」と定義することにより：

誤差 = 𝑌𝑖 − 𝑇𝑖 = 𝐶1,𝑖 + 2𝐶2,𝑖 + 𝐶3,𝑖 + 𝐶4,𝑖𝑖

（式 XB.2）の式により「誤差」の値を算出していきます。
イメージを掴むため、𝑇, 𝑌, 𝑌の予測値（𝑌𝑝𝑟𝑒𝑑𝑖𝑐𝑡 ）, Y の残差（𝑌𝑟𝑒𝑠𝑖𝑑𝑢𝑎𝑙 ）、式 XB.2 で産出した誤差（𝑌𝑒𝑟𝑟𝑜𝑟 ）の数値表を以下に示します（最初の 10 データ; 値は小数点以下は四捨五入したもの）：

表 XB.3 Y の観察値、予測値、残差、誤差のデータ例（最初の 10 匹分）
個体𝒊

𝑻

𝒀𝒑𝒓𝒆𝒅𝒊𝒄𝒕𝒀

𝒀𝒓𝒆𝒔𝒊𝒅𝒖𝒂𝒍

𝒀𝒆𝒓𝒓𝒐𝒓

1

20

117

110

7

97

2

33

101

123

-22

68

3

15

104

104

-0

89

4

28

132

118

14

104

5

30

119

119

-0

89

6

43

131

132

-1

88

7

34

135

124

11

101

8

23

123

113

10

100

9

39

117

128

-11

78

10

22

96

111

-15

74

上記の「誤差」の値の 1000 匹分の分布は以下の図のようになります。90 くらいの値を平均として対称に分布していることが分かります。一方、 誤差と T の散布図を見ると、それらのあいだに相関はないことが分かります。つまりこの例では「内生性（＝誤差と処置変数 T のあいだの相関）」がない、ということになります。

図 XB.7

誤差は概ね対照に分布し、T の値とは相関がない（＝内生性がない）

ここで、「残差」と「誤差」の分布を重ねて見てみると、以下の左図のようになります。

図 XB.8

内生性がないとき、平均の位置を揃えると残差と誤差の頻度分布は重なる

両者の分布の形状はかなり似ていますが、平均の位置がズレています。この平均の位置のズレの理由は、回帰分析の中では「T 以外の要因からの影響」のうち定数項（切片）の部分は残差とは別に取り扱われているからです。この誤差の分布について「誤差 - 回帰モデルの切片の値」により定数項分の補正を行うと、どちらの分布の中心もほぼゼロとなり、右図のように分布全体がほぼ一致します：

もしかすると、このように切片の分だけ補正したときに「誤差」と「残差」の分布が重なるのはひどく当たり
前のようにも思われるかもしれません6。しかし後で見るように、内生性がある場合には、切片の補正を行ったとしても、「誤差」と「残差」の分布は重なるとは一般に期待できません。

XB.6 少し脱線：「誤差」について改めて考える
ここで、「誤差」について改めて考えてみたいと思います。今回の例では、私たちは式 XB.1 により「𝑌𝑖 の値は𝑇𝑖 , 𝐶1,𝑖 , 𝐶2,𝑖 , 𝐶3,𝑖 , 𝐶4,𝑖 の値から決定論的に決まっている」ことを知っています。つまり、個体レベルで見ると、それらの変数からの寄与は「偶然」のものではありません。しかしながら、集団全体のレベルで回帰分析をしたときには、T の寄与としてカウントされない𝐶1,𝑖 , 𝐶2,𝑖 , 𝐶3,𝑖 , 𝐶4,𝑖 のバラツキからの寄与は、「誤差項」の中で表現されることになります。このように、回帰分析における「誤差項」というのは「偶然によるバラツキ」というよ
りも、「回帰モデル内で表現されていない要因に起因するバラツキ」と呼ぶべきものになっています。
ここでもう少し粘っこく考えてみましょう。もう 1 段階さらに遡って、𝐶1,𝑖 , 𝐶2,𝑖 , 𝐶3,𝑖 , 𝐶4,𝑖 の値がもし「偶然により生じている」のであれば、それならばやはり「誤差項」は「偶然のバラツキ」と呼びうるのではないか、と考えることも可能かもしれません。この論理をどんどん敷衍していくと、そもそも「偶然とは何か」という哲学的な問いになってきます。本書ではひとまず、人間はその認知能力の明確な限界から「偶然」という概念を都合よく用いたがるものの、我々が現実の中で思考の対象とするようなマクロな現象は実際にはおおむね決定論的に定まっている（たとえば「サイコロの目」は、原理的には --- 人間にそれが記述可能かという点は別として -- 決定論的力学系で記述できる物理的現象である）と考えても差し支えないだろう、という立場から書いています

6

あるいは、回帰分析において両者の分布は「ぜひとも一致しておいてくれないと本当は色々と困るという事情により一致するのが当たり前だという期待が広く共有されているかもしれません」と記述した方が、もしかしたら事態の正確な記述に近いのかもしれません7。
また少し違う方向からも「誤差」について眺めてみましょう。誤差は「モデルに含まれていない要因に起因するもの」とは言っても、𝑇 → 𝑌の単回帰モデル内に含まれていない𝐶1,𝑖 , 𝐶2,𝑖 , 𝐶3,𝑖 , 𝐶4,𝑖 からの寄与の全てが（𝑇 →𝑌の単回帰モデルの）「誤差項」の中で表現されているわけでもありません。集団の中でバラついていない部分による寄与は、「定数項」の中で表現されています。例えば、今回の例では要因𝐶1には集団内でバラツキがありません。そのため、要因𝐶1の Y の値への寄与は定数項の中でのみ表現されます。ここで注意してほしいのは、実
際には、Y の値が構成される上で、要因𝐶1は諸要因の中でもっとも寄与が大きい要因であることです。以下に
式 XB.1 ともともとのデータの数値表（最初の 10 データ）を再掲します：

𝑌𝑖 = 𝑇𝑖 + 𝐶1,𝑖 + 2𝐶2,𝑖 + 𝐶3,𝑖 + 𝐶3,𝑖

（式 XB.1・再掲）

表 XB.1（再掲）
個体𝒊

𝒀

𝑻

𝑪𝟏

𝑪𝟐

𝑪𝟑

𝑪𝟒

𝑪𝟓

1

117

20.1

50

17.5

7.32

5.27

3.97

2

101

33.2

50

4.51

4.14

4.80

4.27

3

104

14.8

50

14.5

4.94

5.70

6.02

4

132

28.2

50

20.0

7.62

6.59

3.64

5

119

29.6

50

14.6

5.94

4.87

7.04

6

131

42.6

50

13.7

6.27

4.67

3.87

7

135

34.2

50

18.9

9.57

3.88

5.68

8

123

23.3

50

21.0

3.26

5.21

4.17

9

117

38.7

50

10.4

3.96

3.85

6.43

10

96.4

21.6

50

7.98

4.68

4.13

4.83

ここで、𝑌の平均は「105」ですが、Y の値のほぼ半分となる「50」の分は要因𝐶1の寄与によるものです。しかしながら、ここでもし要因𝐶1を回帰モデルに加えても、要因𝐶1は集団内でバラツキがないことから「要因𝐶1は

Y と関連のないもの」として解釈されます。これは「メカニズム的な観点から見た Y への寄与（Y の値の半分は𝐶1 による）」と「統計的に得られた回帰モデルの観点から見た Y への寄与（Y の値は要因𝐶1 と関連がない）」は全く異なることを意味しています8。
この違いを理解しておくことは、「統計的に得られた回帰モデル」が他の事例に適用可能かどうか（移設可能性・外的妥当性; 第 9 章参照）を考える上で非常に重要なことです。もし、𝐶1の値が異なったり、𝐶1のバラツキが大きい集団に対して、上の数値例から得られた回帰式を用いて予測を行うと、全く的外れな予測をもたらす
可能性があります。例えば、𝐶1 = 0の集団に対して上の数値例から得られた回帰式で予測を行なっても当然、Y の値は 50 の分だけズレてきます。また、𝐶1に大幅なバラツキのある集団に対して予測を行なっても、その Y7とは言え、本章の話の枠組み自体の議論においては、例えば上記の𝐶𝑖 の値のバラツキは本当は「神がサイコロを振ったことによる”真の偶然”によるバラツキなのだ！」と考えても、話の大枠は全く変わりません。
8

唐突かもしれませんが、遺伝子ノックアウト法の観点から見える「遺伝子の寄与」と、集団遺伝学的観点から見える「遺伝子の寄与」が全く異なることと同型の論理です。

の予測能力は、𝐶1のバラツキの分だけ大幅に低下することになります。さらに𝐶1が不均一な集団において、𝐶1と T に交互作用（第 8 章参照）があったり、𝐶1と T の間にバックドアパスがあったりする場合には、T への介入
効果の推定にもズレが生じてきます。このように、均一性の高い集団に対する統計解析から得られたモデルからの結果を、その特性が異なる・不均一である集団に適応するときには慎重な検討が必要となります。
上記は当たり前のことに聞こえるかもしれませんが、いざデータから回帰式を得てしまうと、それをついつい普遍法則であるかのように捉えてしまいがちなのが人のサガです。みんなで気をつけていきましょう。

XB.7 いよいよ本題：「内生性がある場合」を眺めてみよう！
では本題に戻ります。いよいよ「内生性がある」場合を見ていきます。今までの例とほぼ同じですが、その生成モデルにおいて T が他の変数𝐶2,𝑖 と𝐶5,𝑖 の関数である点だけ異なる場合を考えていきます。

𝑇𝑖 = 2𝐶2,𝑖 + 𝐶5,𝑖{
（式 XB.3）
𝑌𝑖 = 𝑇𝑖 + 𝐶1,𝑖 + 2𝐶2,𝑖 + 𝐶3,𝑖 + 𝐶4,𝑖

ここで、目的変数である Y を生成する式は今までと同一の式（式 XB.1 と全く同じ）です。そのため、今までの例と同様に、𝑇 → 𝑌の因果効果は「1」となります。今までの例との違いのポイントは、式 XB.3 では「T も𝐶2,𝑖と𝐶5,𝑖 の関数として生成されている」ところです。対応する因果ダイアグラムは以下のようになります：

図 XB.9式 XB.3 に対応する因果ダイアグラム

データ全体の概観を掴むために、相関行列を見てみましょう：

図 XB.8

式 XB.3 から生成されたデータの相関行列（T と共変量 C2, C5 は非独立）

このデータにおける変数𝐶1 , 𝐶2 , 𝐶3 , 𝐶4 , 𝐶5 の値は最初の例のデータと同じ値を用いています。一方、T の値は「Tが𝐶2と𝐶5の関数」であるため𝐶2と𝐶5から新たに（決定論的に）生成された値になっており、（最初の例とは異なり）

T と𝐶2、T と𝐶5の間に相関がみられています。
では、T と Y のみが観察可能である状況を想定し、T で Y を単回帰してみます。回帰直線のプロットは以下のようになります：

図 XB.10

Ｔでの Y の単回帰プロット（内生性がある場合）

今回の例でも Y の生成モデルとなる式は同じであるため、予想通り強い比例関係が見られています。
単回帰分析の結果を見ると、得られている R2 乗値（"R-squared"）は「0.91」であり、一般論として、このモデルはデータにおけるバラツキをかなり良く説明していました。また、T の回帰係数の推定値の標準誤差は0.026 と小さく、𝑝値も非常に小さい値でした。
しかしその一方で、T の介入効果の「真の値」は「1」であるにもかかわらず、推定された T の回帰係数は「2.74」と、その真の介入効果からは 2.7 倍もかさ増しされた数値になっています。この例からも、「回帰モデル全体としての適合が良好であること」や「回帰係数の標準誤差や𝑝値が小さいこと」と、「その回帰モデルにから推定された介入効果にバイアスがないこと」は、本質的には別の問題であることが分かります。
さて、このケースで「残差」と「誤差」と「T」のあいだに相関があるかどうかを見てみましょう。
まず、以下の左図は T と「残差」のプロットです。図 XB.6 で見たとおり、そもそも回帰直線の傾きは残差と T の間に相関が無くなるように選ばれているので、「T と残差」の間には相関はありません。一方、右図の「誤差9」と「T」の間には明瞭な相関がみられました。つまり、この例では「内生性がある」ことになります。

図 XB.11

Ｔは誤差と相関している（内生性がある）

さて。この相関はなぜ生じているのでしょうか？ ここでの「T と誤差」の相関は、以下のように両者がともに「𝐶2の関数」となっていることにより生じています。

𝑇𝑖 = 2𝐶2,𝑖 + 𝐶5,𝑖{
（式 XB.3・再掲）
𝑌𝑖 = 𝑇𝑖 + 𝐶1,𝑖 + 2𝐶2,𝑖 + 𝐶3,𝑖 + 𝐶4,𝑖
誤差 = 𝑌𝑖 − 𝑇𝑖 = 𝐶1,𝑖 + 2𝐶2,𝑖 + 𝐶3,𝑖 + 𝐶3,𝑖𝑖

このように、説明変数と誤差が同じ要因（この例では𝐶2）により影響を受けるときに、両者の間には相関が生じます。
少し別の表現をすると、データ生成メカニズムの観点から見たときに、「誤差項に影響を与える要因の集合（𝐶1 , 𝐶2 , 𝐶3 , 𝐶4 ）」と「T に与える要因の集合（𝐶2 , 𝐶5 ）」に重複する部分があることによって内生性が生じている、

9

ここで誤差は以前の XB.2 での例と同じく「誤差 = 𝑌𝑖 − 𝑇𝑖 = 𝐶1,𝑖 + 2𝐶2,𝑖 + 𝐶3,𝑖 + 𝐶4,𝑖」で算出されたものを用いて𝑖います。

とも言えます（図 XB.12）。この状況についてはそれぞれ、因果ダイアグラムの観点から言うと「（𝐶2 が上流にある分岐点となっており）T と Y の間に閉じていないバックドアパスがある」、共変量のバランシングの観点から言うと「Y を決定する要因である𝐶2の値が（T が𝐶2 の関数であるため）T の値に対してバランシングしていない」、
潜在結果モデルの観点からは「T の値に対して Y の潜在結果が（Y の潜在結果も T も𝐶2 の関数であるため10）非独立であることにより内生性が生じている」という説明の仕方ができます。

図 XB.12

内生性がある場合の図解（バランシング・バックドア基準・潜在結果モデルの観点から）
Tの値はC 2 と C 5 から決定さ れる[ バラ ン シ ン グの観点から 言う と ]T = f(C1 , C2)

Yに影響を 与える 共変量C2の“Tの値に対し てYの値はTと εから決定さ れるY = f(T, ε )バラ ン シ ングが崩れて いる "[ 潜在結果と 無視可能性の観点から 言う と ]“Tの値に対し てYの潜在結果の分布が

C5T
バッ ク ド アパス

C2Yε
εはY=Tの回帰分析の枠組みから 見たと き の「 誤差」 を 表す

C1

非独立である "（ な ぜなら Yの潜在結果も C 2 の関数だから ）Tと εがと も に
C 2 の関数である（ Tと εが非独立＝内生性）

E[Yif(T) |T=1] = E[ g(if(T), C1, C2 , C3 , C4)|T=1]
E[Y if(T) |T=0] = E[ g(if(T), C1, C2, C3, C4)|T=0]

C3
C4

異なる Tに条件付けら れたサブグループ は[ バッ ク ド ア 基準の観点から 言う と ]異なる C 2 の分布を も つため“上流にある 分岐点C 2 の存在によ り

一般に潜在結果の分布も 異な る

T→Yのバッ ク ド アパスが開いて いる "ε = f(C1 , C2 , C3 , C4 )E[Yif(T) |T=0] ≠ E[Y

if(T)

|T=1]

εはC1 , C 2 , C 3 , C 4から 決定さ れる「T」と「誤差」が生成される要素にそれぞれ同じものが含まれているならば、両者の間に相関が生じるのは直感的にも理解しやすいかと思います。このように、「誤差」を「モデルに含まれていない諸変数の関数」として眺めてみると、「説明変数と誤差の相関」を直感的に捉える見通しが開けます。
この状況のときの「残差」と「誤差」の分布の関係も見てみましょう。以前の内生性がないケースでは「残差」と「誤差」の分布はほぼ重なっていました。一方、今回の内生性があるケースにおいては、回帰分析からの「残差」と「誤差」の分布は以下のようにズレています。左図はそのまま比べたものを、右図は「誤差 - 回
帰モデルの切片の値」として定数項分の補正後のものを表します：

図 XB.1310

内生性がある場合には残差と誤差の分布は重ならない

数式で書くと、 𝑇 = 𝑔(𝐶2 , 𝐶5 ) かつ𝑌 if(𝑇) = 𝑓(if(𝑇), 𝐶1 , 𝐶2 , 𝐶3 , 𝐶4 )

前回の内生性がないケース（図 XB.8）とは異なり、今回の内生性があるケースでは、残差と誤差の分布は重なりません。ここで分散に着目してみると、「残差」の分布のほうが「誤差」の分布よりも分散が小さくなっています。これは、T がその生成メカニズムにおいて𝐶2の成分を含んでいるため、本来は式 XB.3 の𝐶2の直接的な影
響により生じている「Y のバラツキ」の一部が、T によっても（因果効果から説明される割合よりも）”過剰”に説明されている11ために生じています。その T による”過剰説明”によって、生成メカニズムから生じる「誤差」の分散よりも、統計学的に得られた回帰モデルにおける「残差」の分散の方が小さくなっているわけです。
平均の違いに着目しても同じような「T による過剰説明」が生じています。本来は XB.3 内の𝐶2によって決まる「平均の差」の一部が、T によっても「過剰に説明」されてしまっているため、回帰モデルからの定数項（切片分）で補正を行っても、両者の分布の平均も依然ズレています。
上記のことはつまり、内生性がないときには統計的に得られた回帰モデルからの残差は「真の誤差（モデル内の説明変数以外による影響の総体）」を反映していると期待できるものの、その一方で、内生性があるときにはそれらの「残差」と「真の誤差」もズレている（それゆえ回帰係数も「真の介入効果」からズレる）ことになります（BOX XB.1）。

BOX XB.1

𝐶2を共変量として追加した重回帰モデルの例

これらの例で、𝐶2を共変量として追加した重回帰モデルを用いると（𝑌 → 𝑇のバックドアパスが閉じるので）こ
れらのズレは消失すると期待できます。実際に、同じデータに回帰モデルとして𝑌 = 𝑇 + 𝐶2を用いて重回帰分析を行うと、T の偏回帰係数の推定値は「0.96」となり、T による単回帰モデルのときの推定値「2.73」と比べて「真の因果効果=1」に大幅に近い値になりました。このように𝐶2の追加により、内生性によるバイ
アスが消えることがわかります。このとき、T と誤差に相関はなく（下図左）、残差と誤差の分布は重なります（下図右）。やや余談となりますが、単回帰のとき（図 XB.3）と比べて残差・誤差のバラツキの幅がかなり小さくなっています。これは Y のバラツキが追加された𝐶2によっても説明されているためであり、Y に影響を与える共変量の追加は残差を小さくする効果を持つことを示しています。

図 XB.14

変数𝐶2の追加によりバックドアパスを閉じると誤差と処置 T の相関は消える（内生性が無くなる）11

介入効果の推定の観点からは”過剰”という意味です。単なる予測モデルとしての観点からは特に問題はありません

XB.8 問い：処置 T が構造方程式の左辺にあれば必ず内生性が生じる？
あまり一般的ではないかもしれませんが、「処置 T が構造方程式の左辺に現れる」ことをもって「T は内生変数である」と説明がされている場合も時折見かけます。ここで、「処置 T が構造方程式の左辺に現れる」場合には必ず内生性が生じるのかを考えてみたいと思います。
例として、「T」が「𝐶5のみの関数」である場合を見ていきましょう。

𝑇𝑖 = 10𝐶5,𝑖{𝑌𝑖 = 𝑇𝑖 + 𝐶1,𝑖 + 2𝐶2,𝑖 + 𝐶3,𝑖 + 𝐶4,𝑖

図 XB.15（式 XB.4）

式 XB.8.1 の因果ダイアグラムによる表現（T が C5 のみの関数となる場合）

Y を生成する式は今までの例と同一の式です。今回は T は𝐶5のみの関数となっており、Y を生成する式には𝐶5は含まれていないことに注意してください。このデータに対して、Y を T で回帰した回帰分析からは、推定された T の回帰係数は「1.00638」となり、式 XB.4 に基づく真の値である「1」と非常に近い値となりました。T
は構造方程式の左辺に現れる変数ですが、今回のケースでは推定にバイアスは生じていません。煩雑となるためここに図は示しませんが、プロットで確認しても T と「誤差」の間には相関はなく、また、「残差」と平均値を補正した「誤差」の分布も重なります。
上記の例が示すように、内生性を論じる上では「T が構造方程式の左辺に存在する（＝システムを表す方程式の内部12で決定されている）」こと自体が本質的なのではありません。より本質的なのは、「T」と「誤差項」を決定する要因の中に共通ものがあるかどうか（処置 T と目的変数 Y の間のバックドアパスが閉じているか）になります（図 XB.16）。

12

そもそも論を言うと、内生性や因果推論の議論における"システム"の「内部／外部の境界」は、バックドア基準によって理論的に規定されるべきものである、という言い方のほうが本質的かもしれません。

図 XB.16

内生性がない場合の図解（バランシング・バックドア基準・潜在結果モデルの観点から）
Tの値はC 5から決定さ れる[ バラ ン シ ングの観点から 言う と ]T = f(C5 )Yに影響を 与える 全ての共変量が“Tの値に対し てYの値はTと εから

バラ ン シ ングし て いる ”

決定さ れるY = f(T, ε)C5[ 潜在結果と 無視可能性の観点から 言う と ]“Tの値に対し て Yの潜在結果の分布がT独立である "C2

Tと εは共通の要因を

C1（ Tと εが独立）

も たない

Y
ε
εはY=X の回帰分析の枠組みから 見たと き の「 誤差」 を 表す

E[Yif(T) |T=1] = E[ g(if(T), C1, C2, C3, C4)|T=1]
E[Y if(T)|T=0] = E[ g(if(T), C1, C2, C3, C4)|T=0]

C3

異なる Tに条件付けら れたサブグループ 間でC4

Yに影響を 与えう る 全ての共変量で 分布が異なら な い→ 潜在結果の分布も サブグループ 間で異なら ない[ バッ ク ド ア 基準の観点から 言う と ]“T→Yのバッ ク ド アパス は

ε= f(C1, C2, C3, C4)

開いていな い”if(T)E[Y if(T)|T=0] = E[Y|T=1]

εはC1 , C 2 , C 3 , C 4から 決定さ れる

XB.9

まとめ

- 処置 T と誤差項との間に相関があることを「（処置 T について）内生性がある」という- 決定論的な構造方程式の枠組みから見ると「誤差項に影響を与える要因の集合」と「T に与える要因の集合」に重複する部分があることによって内生性が生じる- この状況をそれぞれの観点から説明すると：- 因果ダイアグラムの観点から言うと「T と Y の間に閉じていないバックドアパスがある」- 共変量のバランシングの観点から言うと「Y を決定する共変量の値が、異なる T の値に対してバランシングしていない」- 潜在結果モデルの観点からは「T の値に対して潜在反応の分布が非独立である」ことにより内生性が生じていると説明できます。

BOX XB.2 処置 T と「残差」が相関する場合をみてみよう
おまけとして、説明変数と「残差」に相関がある場合を見てみましょう。以下では、C が T ではなく𝑇 2に比例するデータを考えます。ここでのデータは𝑌𝑖 = 0.1𝑇𝑖2 + 𝐶1,𝑖 + 2𝐶2,𝑖 + 𝐶3,𝑖 + 𝐶4,𝑖

（式 XB.5）

で決定論的に生成されています。このデータに「𝑌 = 𝛽 𝑇 + 定数」の線形単回帰モデルを適用すると、当然のことながら回帰直線はデータとズレて、𝛽の推定値は 4.9 となりました（下図 XB.17）。このとき、残差は異なる T の値に対して系統的にズレており、説明変数と残差に相関がある（非独立である）状況となります（図 B2.9.1 中央）。この例のように、回帰モデル自体が適切でない（データに内在する傾向の適切な表現となっていない）ときに、説明変数と残差に相関は生じえます。一方、この例では T と「誤差 1」は共通の成分を含んでいないので、説明変数と誤差の間の相関はみられません（図 XB.17 右）。

図 XB.17

処置 T と残差が相関する場合