Rubinの因果モデル

# はじめに
因果推論に興味を持ったので、少し調べてみました。因果推論の基本としてルービンの因果モデルについてまとめました。

# 参考
- https://qiita.com/guglilac/items/71d8c6537c516198fb6c
- https://www.slideshare.net/sshimizu2006/ss-77876940

# 手順
対照実験を考えます。どちらの群に属するかを表す2値変数を$z$とし、被験者は$z=0$または$z=1$に割り付けられるものとします。ただし、ここでは観察研究を行っていると考え、この割付は実験者が操作できないものとします。  
$z=0$の被験者の測定値を$y_0$、$z=1$の被験者の測定値を$y_1$とします。つまり$y_1\sim p(y|z=1)=p(y_1)$、$y_0\sim p(y|z=0)=p(y_0)$です。このことから$y$は$y\equiv zy_1 - (1-z)y_0$と書くことができ、これはある被験者の割付を知らない人から見た、被験者の測定値を表す確率変数になっています。

割付の違いによる効果が存在するかを確かめたいとします。つまり、割付の効果を測れるなんらかの指標をつくりたいとします。直観的には、$y_1$と$y_0$の差分がその指標になりそうです。

しかし、多くの場合で測定値は割付以外の要因にも影響されます。また、割付自体も影響を受けます。このような測定値や割付に影響する変量を共変量といいます。つまり、共変量$x$によって、割付$z$に偏りが生じ、この偏りおよび共変量$x$に測定値が影響されることで、測定値に割付$z$以外の効果が取り込まれてしまいます。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/211712/527a6a50-81f0-ee4e-04c7-f71fe8f0db79.png)

[こちら](https://qiita.com/guglilac/items/71d8c6537c516198fb6c)の例を考えてみますと、「ある企業が行ったアンケートで、宣伝したいアプリのCMを見た人と見てない人では、CMを見ていない人の方がアプリユーザーの割合が大きい、という調査結果が出た～（中略）～単純にCMを見ていた人がアプリを使う率が低かったのは、CMが悪かったとかではなく、そもそもアプリを使う習慣のない高齢の方が多くCMを見ていただけだった」では、CMを見た／見ていないが$z$に相当し、年齢が共変量$x$に相当します。

さて、このような状況で、$z=1$の群から得られた測定値$y_1$の期待値を考えます。観測された値は$z=1$なので、期待値は次の量になります（合ってる？）。

```math
\begin{align}
\int dxdy y p(y|x, z=1)p(x|z=1) = E[y_1|z=1]
\end{align}
```

$y_0$も同様です。この式から、割付ごとの測定値の期待値の差分$E[y_1|z=1]-E[y_0|z=0]$には共変量の効果が含まれていることがわかります。  

共変量の効果を含まない$y_1$の期待値は次のようになるべきです。

```math
\begin{align}
\int dy y p(y|z=1) = E[y_1] = E[y|z=1] = E[y_1]
\end{align}
```

これによって、割付$z$による効果を$E[y|z=1]-E[y|z=0]=E[y_1]-E[y_0]$とすればよいとわかります。

ところで、なぜRCTの場合は共変量の効果を避けられるのか見ておきましょう。
介入実験を考え、実験者が割付を操作し、RCTを実施したとします。ランダムに割付したので、割付後の分布は$z$に依存しません。したがって、$p(x|z)=p(x)$となります。

```math
\begin{align}
\int dxdy y p(y|x, z=1)p(x|z=1) = \int dxdy_1 y_1 p(y_1|x)p(x) = E[y_1] 
\end{align}
```

これで共変量の効果が無くなっていることがわかります。

以上から$E[y_1]-E[y_0]$を求めればいいことはわかったのですが、$y_1$を測定できるのは$z=1$の群であり、$z=0$の群からは測定できません。$y_0$も同様です。したがって、一般に観測、計算できるのは$E[y_1|z=1]-E[y_0|z=0]$です。どうすれば、$E[y_1]-E[y_0]$を計算できるでしょうか。実は、ある仮定を置くと、$E[y_1]-E[y_0]$を計算できるようになります。それがstrong ignorabilityです。

```math
\begin{align}
P(z|y, x) = P(z|x)
\end{align}
```

また、傾向スコアと呼ばれる量を導入します。

```math
\begin{align}
e(x) = P(z=1|x)
\end{align}
```

strong ignorabilityのもとで、観測データから次の推定量をつくると、これが$E[y_1]-E[y_0]$の一致推定量になっています。

```math
\begin{align}
\mathrm{IPW} = \frac{\sum_{i=1}^n \frac{z_i}{e_i}y_i}{\sum_{i=1}^n \frac{z_i}{e_i}} - \frac{\sum_{i=1}^n \frac{1-z_i}{1-e_i}y_i}{\sum_{i=1}^n \frac{1-z_i}{1-e_i}}
\end{align}
```

ここで、$y$は$y\equiv zy_1 - (1-z)y_0$のことで、添字はデータのidを表しています。

第一項が$E[y]$の一致推定量になっていることを確かめてみます。第一項を見てみると、分子および分母をnで割れば、それぞれが平均値の形をしていることがわかります。したがって$n\rightarrow \infty$で分子も分母も真の平均値に確率収束します。また、実は分母は1に収束するので、スルツキーの定理より、全体は分子の平均値を表す確率変数に分布収束します。以上より、分子および分母それぞれの期待値を計算すれば十分だとわかります。

まず分母の期待値は次のように計算できます。

```math
\begin{align}
E[\frac{z_i}{e_i}] &= \int dx \sum_{z=0}^1 p(x, z)\frac{z}{e(x)} \\
&= \int dx p(x, z=1)\frac{1}{e(x)} \\
&= \int dx p(x) \\
&= 1
\end{align}
```

分子の期待値ですが、$zy=zy_1$であることを用いて、次のように計算できます。

```math
\begin{align}
E[\frac{z_i}{e_i}y_{1i}] &=
\int dx \sum_{z=0}^1 p(x, y_1, z)\frac{zy_1}{e(x)} \\
&= \int dxdy_1 p(x, y_1, z=1)\frac{y_1}{e(x)} \\
&= \int dxdy_1 p(z=1|x, y_1)p(x, y)\frac{y_1}{e(x)} \\
&= \int dxdy_1 p(z=1|x)p(x, y_1)\frac{y_1}{e(x)} \\
&= \int dxdy_1 e(x)p(x, y_1)\frac{y_1}{e(x)} \\
&= \int dxdy_1 y_1 p(x, y_1) \\
&= \int dy y_1 p(y_1) \\
&= E[y_1]
\end{align}
```

これで第一項が$E[y_1]$の一致推定量であることが示せました（多分）。第二項も同様に計算できます。

実際のデータ分析では、IPWは次の手順で計算できます。

1. 変数xとyを用いて割付zを予測するモデルを作成します（ロジスティック回帰など）。各データに対してP(z|y, x)を求めます。
2. 変数xを用いて割付zを予測するモデルを作成します（ロジスティック回帰など）。各データに対してP(z|x)を求めます。
3. 1と2で求めた確率がstrong ignorabilityを満たすことを確認します。
4. 各データに対してe(x) = P(z=1|x)とします。
5. 各データのz、y、eを用いてIPWを計算します。IPWがゼロから離れるほど因果効果があります。


下記は[こちら](https://qiita.com/guglilac/items/c1850cc84f2dba3e7a6d)のコードを使用させて頂いています。

```python
import pandas as pd
import matplotlib.pyplot as plt
import numpy as np
from numpy.random import *

class RegressionGenerator():
    """回帰問題用のデータセットを生成するクラス.

    x_e = s_to_xe * s + coef_noize * epsilon
    x_ne ~ N(mu,sigma^2) : iid
    w = [1,2,3,1,2,3,1,2,3...]
    features_n : x_e と x_neの個数合計
    y_1 = w * [x_1, x_i] + c + coef_noize * epsilon
    y_0 = w * [x_1, x_i] +     coef_noize * epsilon
    """

    def __init__(self,  s_to_x_e, c, features_n=2, seed=0,  p=0.5, mu=1, sigma2=1, coef_noize=1):
        """Initialize genrator instance."""
        w = np.array(([1, 2, 3] * (features_n // 3 + 1))[:features_n + 1])
        self.seed = seed
        self.s_to_x_e = s_to_x_e
        self.w = w
        self.mu = mu
        self.p = p
        self.sigma2 = sigma2
        self.coef_noize = coef_noize
        self.c = c
        self.features_n = features_n

    def run(self, num):
        """Generate raw dataset."""
        seed(self.seed)
        s1_num = int(self.p * num)
        s = [1 for _ in range(s1_num)] + [0 for _ in range(num - s1_num)]
        x_e = [self.s_to_x_e * e + self.coef_noize * randn() for e in s]
        x_ne = np.array([[normal(self.mu, self.sigma2) for i in range(self.features_n - 1)]
                         for _ in range(num)])
        y = []
        for i in range(len(s)):
            x = np.concatenate([np.array([1, x_e[i]]), x_ne[i]])
            y.append(np.dot(self.w, x) + s[i] *
                     self.c + self.coef_noize * randn())

        df = pd.DataFrame()
        df["x_e"] = x_e
        for i in range(self.features_n - 1):
            df[f"x_ne{i+1}"] = x_ne[:, i]
        df["s"] = s
        df["y"] = y
        df = df.reindex(np.random.RandomState(self.seed).permutation(
            df.index)).reset_index(drop=True)
        return df
```

```python
def get_md(s, y):
    """MDを返す.

    input s(numpy) y(numpy) yはラベル1となる確率が各要素
    return md
    """
    ys = y[s == 1]
    yns = y[s == 0]
    md = ys.mean() - yns.mean()
    return md


def get_ipw(y, s, e):
    """IPW推定量を計算する."""
    Ey1 = (s * y / e).sum() / (s / e).sum()
    Ey0 = ((1 - s) * y / (1 - e)).sum() / ((1 - s) / (1 - e)).sum()
    return Ey1 - Ey0


def get_dr(y, s, e, g0, g1):
    """DR推定量を計算する."""
    Ey1 = (s * y / e + (1 - s / e) * g1).mean()
    Ey0 = ((1 - s) * y / (1 - e) + (1 - (1 - s) / (1 - e)) * g0).mean()
    return Ey1 - Ey0
```

```python
# データ生成
rg = RegressionGenerator(s_to_x_e=3, c=10, features_n=2, seed=0,  p=0.5, mu=1, sigma2=1, coef_noize=1)
df = rg.run(10000)


# 1.ロジスティック回帰
from sklearn.linear_model import LogisticRegression

X = df[["x_e", "x_ne1"]].values
y = df['s'].values

clf = LogisticRegression(random_state=0, solver='lbfgs', multi_class='multinomial').fit(X, y)
pred = clf.predict_proba(X)
clf.score(X, y)  # 0.9347


# 2.yも含めてロジスティック回帰
X2 = df[["x_e", "x_ne1", "y"]].values
y = df['s'].values

clf2 = LogisticRegression(random_state=0, solver='lbfgs', multi_class='multinomial').fit(X2, y)
pred2 = clf2.predict_proba(X2)
clf2.score(X2, y)  # 1.0


# 3.分布を比較
plt.hist(pred[:, 0], bins=20)
plt.hist(pred2[:, 0], bins=20, alpha=0.5)
plt.show()
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/211712/88c567ca-7fe9-b78f-bc8a-3e5918c80538.png)

。。。まあ、strong ignorabilityは成り立っているとしましょう。

```python
# 4.傾向スコアを計算
e = pred[:, 1]


# 5.統計量を計算
get_md(df['s'], df['y'])  # 16.000751971113736
get_ipw(df['y'].values, df['s'].values, e)  # 12.199435455729475


# DR推定量も計算してみる。
from sklearn.linear_model import LinearRegression

X3_1 = df[df["s"]==1][["x_e", "x_ne1"]].values
y3_1 = df[df["s"]==1]['y'].values

clf3_1 = LinearRegression().fit(X3_1, y3_1)
pred3_1 = clf3_1.predict(X3_1)


X3_2 = df[df["s"]==0][["x_e", "x_ne1"]].values
y3_2 = df[df["s"]==0]['y'].values

clf3_2 = LinearRegression().fit(X3_2, y3_2)
pred3_2 = clf3_2.predict(X3_2)

X3 = df[["x_e", "x_ne1"]].values
g1 = clf3_1.predict(X3)
g0 = clf3_2.predict(X3)

get_dr(df['y'].values, df['s'].values, e, g0, g1)  # 10.02687150502862
```