相関関係と因果関係
デイヴィッド・ヒュームは、因果関係は経験に基づくとし、同様に経験は未来が過去にならうという仮定に基づくとし、その仮定も経験に基づくとした。これは一種の循環論法である。彼は「因果関係は具体的推論に基づかない」と結論付け、観測できるのは相関関係だけだとした。
直観的に、因果関係には相関関係だけでなく反事実的依存関係 (counterfactual dependence) も必要と思われる。例えば、ある学生のテストの成績が悪く、その原因が勉強しなかったためだとしよう。これを証明するには、反事実 (counterfactual) として、同じ学生が同じ環境で同じテストを受けるが、勉強はしっかりしてきた場合を想定する。時間を巻戻すことができれば、これ(その学生に勉強させること)を実際に試すことができ、元のバージョンとやり直したバージョンを比較することで因果関係を観測できる。実際には時間を巻戻してやり直すことはできないので、因果関係は正確に知ることはできず、推測することしかできない。これを「因果的推論の根本問題 (Fundamental Problem of Causal Inference)」と呼ぶ。