ノーベル経済学賞から学ぶA/Bテストできない場合の効果検証

こんにちは．
本記事はNTTドコモ R&D Advent Calendar 2021(カレンダー2)の13日目の記事です．
ずっとアドベントカレンダーには参加したいと思っていましたが参加できず，今年やっと記事を書くことができて大変うれしいです．

ところで，みなさんは施策の効果検証はどうやっていますか？
たとえばCVR向上を目的にメール配信を行う施策を行ったとき，メールを配信したこと(原因)がCVR(結果)にどれくらいの影響を与えたかどうかを調べたいですよね．
この原因と結果の関係を因果関係といい，原因と結果の関係を分析することを因果分析といいます．
![因果関係.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2293067/66136eb9-b0c8-49ee-663a-f5ebdc7f6d95.png)

因果分析の手法としてよく知られている方法としてはA/Bテストがありますが，中にはA/Bテストを行えない施策もあります．
2021年のノーベル経済学賞は，そんなA/Bテストができない場合にどうやったら効果検証を行えるのかを示した3名の経済学者が獲得しました．
今回は，2021年のノーベル経済学賞の内容を解説しつつ，A/Bテストが出来ない場合の効果検証はどう行えば良いのかについて触れていきたいと思っています．

# 目次
[今年のノーベル経済学賞って？](今年のノーベル経済学賞って？)
　[カード教授の貢献](カード教授の貢献)
　[アングリスト教授とインベンス教授の貢献](アングリスト教授とインベンス教授の貢献)
　[なぜ自然実験するの？](なぜ自然実験するの？)
[企業でRCTできない場合とは](企業でRCTできない場合とは)
　[a. 個々に施策を適用する，適用しないが選べない](1. 個々に施策を適用する，適用しないが選べない)
　[b. RCTを実施するのにコストがかかる](企業で自然実験が必要なとき)
[どうやって分析したらいいの？](どうやって分析したらいいの？)
　[差分の差分法](差分の差分法)
[自然実験を使えばすべて解決する？](自然実験を使えばすべて解決する？)
[まとめ](まとめ)


# 今年のノーベル経済学賞って？
2021年のノーベル経済学賞は，デービッド・カード教授（David Card），ヨシュア・アングリスト教授（Joshua Angrist），グイド・インベンス教授（Guido Imbens）の3名が獲得しました．
一体どんな内容でしょうか．　
[ノーベル賞のPopular science background](https://www.nobelprize.org/uploads/2021/10/popular-economicsciencesprize2021-3.pdf)にはこのように記載されています．
> David Card, Joshua Angrist and Guido Imbens have shown that natural experiments can be used to answer central questions for society, such as how minimum wages and immigration affect the labour market.
They have also clarified exactly which conclusions about cause and effect can be drawn using this research approach. Together, they have revolutionised empirical research in the economic sciences.
今年度の受賞者であるデイビッド・カード教授，ヨシュア・アングリスト教授，グイド・インベンス教授は，最低賃金や移民が労働市場にどのような影響を与えるかなど，社会的に重要な問題に自然実験で答えることができることを示しました．
また，この研究手法を用いて，原因と結果についてどのような結論を導き出すことができるかを明確にしました．これらは，経済科学における経験的研究に革命をもたらしました．

彼らは，原因と結果の関係を自然実験という方法によって導きだせることを明らかにした功績が評価されノーベル賞を獲得したようです．
自然実験とは一体どんなものなのでしょうか．3名の貢献の内容を詳しく見ながら解説したいと思います．


## カード教授の貢献
カード教授は，最低賃金や移民，教育が労働市場にもたらす影響の研究「実証研究による労働経済学への貢献」が評価されました．また，最低賃金が上がると雇用が減るという経済学の通説が必ずしもそうでないことを自然実験を用いて実証しました．
薬の影響を調べる際，患者群の中から無作為に薬を投与するグループ(処置群：treatment group)と投与を行わないグループ(対照群：contral group)を比較するという方法，いわゆるA/Bテストを用いますが，このとき2群は同じ母集団から抽出する必要があります．
しかし，最低賃金の引き上げのように同じ州に住んでいれば住民全員がもれなく対象となる政策の場合，同じ州から対照群を用意することができません．
このような場合に最低賃金引き上げが起こった州以外の州を対照群とし実験することを__自然実験__と言います．
![賃金引き上げ.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2293067/28972277-7cfa-b1de-3a5d-93d5da621bed.png)



## アングリスト教授とインベンス教授の貢献
自然実験を実社会で行うとき，実際の社会で行われるがゆえの複雑な問題が起きることがよくあります．
たとえば，不遵守の問題です．不遵守とは，実験において処理割当に従わない被験者の行動を指します．
>あるグループの学生（別のグループではない）の義務教育を1年延長しても，そのグループの全員に同じように影響するわけではありません．とにかく勉強を続ける学生もいたでしょうし，そうでない学生もいるでしょう．彼らにとって，教育の価値はグループ全体を代表するものではないことがよくあります．(引用：[ノーベル賞のプレスリリース](https://www.nobelprize.org/prizes/economic-sciences/2021/press-release/))

上の例の他に，カード教授の話でも出てきた薬の例を自然実験とした場合について考えてみましょう．
薬を服用する処置群と服用しない対照群を用意したいとき，処置群に割り当てた患者が薬を飲んでくれなければ処置群としては適切で無くなってしまいますね．対照群としたい患者がうっかり該当の薬を飲んでしまった場合も同様です．
この問題に対し，彼らは無作為化された処理割当を実際の処理変数の操作変数(instrumental variables)とみなして分析する方法を提唱しました．
この場合，いわゆる医学の分野でいう処置意図(Intention to treat effect)ではなく，実験に従順な母集団における平均因果効果(complier average causal effect: CACE)が推定目標となります．

## なぜ自然実験するの？
ある条件の効果を調べる場合，その条件のみ変更し他条件は一致させ比較しないといけません．これは実験の基礎であり，このことを忘れてしまうと事柄の効果を見誤る可能性があります．
例えば，洗剤Aと洗剤Bの洗浄力を比べたいとき，Aは原液で，Bは水で薄め利用したとき，Bの方がよく洗浄できるという結果が得られたとします．
この場合，AとBという洗剤の違いの他に水で薄めたか否かという別の条件(バイアス)が発生しています．これでは，Bが洗浄力が優れているからなのか，水で薄めたせいなのか，どちらか洗浄力に影響しているかわかりません．
![洗剤.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2293067/2ee92922-6b79-3c3d-2c16-4879d3587ea4.png)

（ちなみに，洗剤というのは適切な量の水で薄めることで最大限の洗浄力を発揮すると言われています．）
条件を一致させずに比較してしまうと，本当はAの方が洗浄力が優れている洗剤だったとしても，同条件で比較しなかったことでBのほうが優れた洗剤という結果を得ることになってしまいます．

1つの条件のみ変更し他条件は一致させ比較する実験というのは対照実験といいますが，大勢に対して実験をおこなうときAとBの振り分けをランダムに行いその結果を比較することを統計や医療ではランダム化比較試験(RCT:randomized controlled trial)と呼び，効果検証のゴールドスタンダードな方法であると言われています．ビジネスの場ではA/Bテストと呼ばれることもあります．

しかし，実社会でA/Bテストを行うことは容易ではありません．カード教授，アングリスト教授，インベンス教授はA/Bテストが出来ないような状況下でどうしたら因果関係を見ることができるかという課題を自然実験を用いることでクリアし経済学研究に貢献しました．この方法は，現在の因果分析の場面でもよく使われています．

# 企業で起こるRCTできない問題
実社会でA/Bテストを行うことは容易でないという話をしました．
企業で施策を行う際もRCTができればもちろんそれがベストですが，A/Bテストができない場面は多くあります．
この章では企業で施策を行うときに直面するA/Bテストができない2パターンについて紹介します．

## a.個々に施策を適用する，適用しないが選べない
ユーザーや店舗によって施策を適用する・適用しないが選べないパターンです．
たとえば，ドコモだと今年に新しい料金プランが開始されましたが，こういった施策ではA群とB群をつくりA群にだけ新しい料金プランをという訳にはいきません．皆平等に申し込みできるようにしないといけないので，A/Bテストの実行は実質不可能な施策になります．
関東地区限定キャンペーンなど地域全体で行う施策だった場合もその地域店舗すべてが対象となる場合はA/Bテストすることが出来ません．

## b.A/Bテストを実施するのにコストがかかる
ユーザーや店舗によって施策を適用する・適用しないが選べそうな施策でも，様々なコストがかかりA/Bテストの実施が承認されないパターンです．
たとえば，WEBサイトのUIの変更など一見A/Bテストが可能そうな施策であっても出し分けできるシステムを持っていないためシステムを導入するところから始める必要があったり，予算の問題で実施できなかったり，　施策担当者との調整がつかなかったりといろいろなケースがあります．
理由はどうであれA/Bテストの実行が承認されない場合は別の方法とるなどの代替案を考える必要があります．

# どうやって分析したらいいの？
では，A/Bテストができない問題にぶつかったときはどうしたらいいでしょうか．
このようなときは，ノーベル経済学賞の解説で紹介したとおり自然実験を用いることで問題を乗り越えることができます．
特に1のようなパターンでは自然実験による効果検証は大変重宝します．また，既に実施済みの施策でもデータがあればさかのぼって効果検証を行うことが出来ます．
## 差分の差分法
自然実験を利用した分析方法を１つご紹介します．
差分の差分法(difference in differences:DID)と呼ばれる方法です．
ある施策を行った地域Aを処置群としたとき，施策が行われなかった地域Bを対照群とし，施策前後の差を取りさらに処置群と対照群の差を取ることで施策の効果を推定することができるといった方法になります．
もし，施策を開始した後に処置群の目的変数の値が対照群と比較してより大きくリフトしていれば，施策は効果があったとみなすことができます．
施策前の時期を$t=0$，施策後の時期を$t=1$と表したとき，$t=0$と$t=1$において処置群の結果を$Y^T_{t_0}$と$Y^T_{t_1}$，対照群の結果を$Y^C_{t_0}$と$Y^C_{t_1}$で表したとき，施策効果$\tau^{DD}$を求める式は以下のようになります．

```math 
\tau^{DD} = (E[Y^T_{t_1}|D=1]-E[Y^C_{t_1}|D=0])-(E[Y^T_{t_0}|D=1]-E[Y^C_{t_0}|D=0])
```
処置群に属する場合は$D=1$，対照群に属する場合は$D=0$と示します．Eは期待値です．
![差分の差分法.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2293067/c4e9977e-75f6-ede3-fc24-b321e1f5e631.png)


しかし，対照群となる地域はどんな地域でも良いわけではありません．
__平行トレンド仮定__と呼ばれる仮定を満たすような地域である必要があります．
平行トレンド仮定とは，処置群の目的変数の時間による変化(トレンド)が対照群と同一であるという仮定です．
この仮定を満たしていることがDIDを行う上で非常に重要となります．

# 自然実験を使えばすべて解決する？
aの問題は自然実験を用いることで解決できるとお話しました．
では，bの場合はどうでしょうか？
bについては，自然実験などの代替案を用いて分析を行いつつ，__　A/Bテスト実行可能な環境を整える__ことが必要だと考えます．なぜなら，自然実験をもちいて効果検証を行うためには，RCTと似た状況を作り出すための強力な仮定が必要となるからです．自然実験はRCT出来ない場合に非常に役立つ方法ではありますが，この仮定を満たすデータが用意できて初めて自然実験による効果検証を行うことができるようになります．つまり，仮定を満たすデータがなければ自然実験による効果検証を行うことはできません．
データが取得できなかったといった問題に当たらないためにも，__(努力すれば)A/Bテスト可能な場合__にはやはりA/Bテストを行えるようになることが望ましいです．

# まとめ
2021年度のノーベル経済学賞と企業で起こる施策効果検証の問題について解説しました．
企業で効果検証を行う場合も彼らの研究と同じようにA/Bテスト出来ない場面にぶつかります．そういった場合にはDIDのような自然実験を利用した分析が有効です．しかし自然実験でも仮定を満たすデータを用意する必要があるため，努力すればA/Bテストを行える場合はA/Bテストを行えるようになることが望ましいと思います．
また，A/Bテストも万能ではありません．メール配信に正の効果があることがA/Bテストによってわかった場合，それは対象となった群に対して正の効果があると言えます．ただ，1人ひとりを確認するとメール配信効果がなかった得られた結果とは逆の結果を持つ個人もいたりします．ここで，個別の因果効果を求めるにはどうしたらいいんだろうといった疑問が出てくると思いますが，そういったときに使える方法について15日に記事が投稿予定なので合わせてご覧いただければと思います．

# 参考文献
[THE NOBEL PRIZE](https://www.nobelprize.org/prizes/economic-sciences/2021/press-release/)
[THE PRIZE IN ECONOMIC SCIENCES 2021] 
(https://www.nobelprize.org/uploads/2021/10/popular-economicsciencesprize2021-3.pdf)
[方法的研究例 計量政治学における因果的推論 (特集 政治分析・日本政治研究におけるアプローチのフロンティア)]
(Causal inference in quantitative political science
https://ci.nii.ac.jp/naid/40015463657)
[入門統計的因果推論](https://www.amazon.co.jp/s?k=%E5%85%A5%E9%96%80%E7%B5%B1%E8%A8%88%E7%9A%84%E5%9B%A0%E6%9E%9C%E6%8E%A8%E8%AB%96&adgrpid=105283919278&gclid=Cj0KCQiA7oyNBhDiARIsADtGRZZ0unAyMrrrtlPus80yFgfAyQlJzGV0svN_ijTtnRixU4WgaD500ecaAsC7EALw_wcB&hvadid=553832471223&hvdev=c&hvlocphy=1009260&hvnetw=g&hvqmt=e&hvrand=2797249470906304819&hvtargid=kwd-812592945579&hydadcr=16039_13486741&jp-ad-ap=0&tag=googhydr-22&ref=pd_sl_7byb341dp8_e_p51)
[効果検証入門](https://www.amazon.co.jp/%E5%8A%B9%E6%9E%9C%E6%A4%9C%E8%A8%BC%E5%85%A5%E9%96%80%E3%80%9C%E6%AD%A3%E3%81%97%E3%81%84%E6%AF%94%E8%BC%83%E3%81%AE%E3%81%9F%E3%82%81%E3%81%AE%E5%9B%A0%E6%9E%9C%E6%8E%A8%E8%AB%96-%E8%A8%88%E9%87%8F%E7%B5%8C%E6%B8%88%E5%AD%A6%E3%81%AE%E5%9F%BA%E7%A4%8E-%E5%AE%89%E4%BA%95-%E7%BF%94%E5%A4%AA/dp/4297111179/ref=sr_1_5?adgrpid=105283919278&gclid=Cj0KCQiA7oyNBhDiARIsADtGRZZ0unAyMrrrtlPus80yFgfAyQlJzGV0svN_ijTtnRixU4WgaD500ecaAsC7EALw_wcB&hvadid=553832471223&hvdev=c&hvlocphy=1009260&hvnetw=g&hvqmt=e&hvrand=2797249470906304819&hvtargid=kwd-812592945579&hydadcr=16039_13486741&jp-ad-ap=0&keywords=%E5%85%A5%E9%96%80%E7%B5%B1%E8%A8%88%E7%9A%84%E5%9B%A0%E6%9E%9C%E6%8E%A8%E8%AB%96&qid=1638137720&sr=8-5)
[データ分析の力 因果関係に迫る思考法]
(https://www.amazon.co.jp/%E3%83%87%E3%83%BC%E3%82%BF%E5%88%86%E6%9E%90%E3%81%AE%E5%8A%9B-%E5%9B%A0%E6%9E%9C%E9%96%A2%E4%BF%82%E3%81%AB%E8%BF%AB%E3%82%8B%E6%80%9D%E8%80%83%E6%B3%95-%E5%85%89%E6%96%87%E7%A4%BE%E6%96%B0%E6%9B%B8-%E4%BC%8A%E8%97%A4-%E5%85%AC%E4%B8%80%E6%9C%97/dp/4334039863)