条件付き独立

条件付き独立（じょうけんつきどくりつ、）は、確率論において、ある仮説の確からしさを評価するときに、ある観測が無関係または冗長である場合をいう。
条件付き独立は通常、条件付き確率の観点から定式化される。情報のない観測が与えられた場合の仮説の確率が、情報のない場合の確率と等しいという特殊な場合である。仮説formula_1、観測 formula_2、観測 formula_3 を用いて、条件付き独立性は formula_4 として表現できる。ここで、formula_5 は観測 formula_2 と観測 formula_3 が与えられた下での仮説 formula_1 の確率である。観測 formula_3 の下で、観測 formula_2 は仮説 formula_1 の確からしさについて何ら貢献しない。このとき、formula_3 の下で formula_1 と formula_2 は条件付き独立であると表現し、formula_15 と表記する。条件付き独立性の概念は、統計的推論のグラフベースの理論に不可欠である。
事象の条件付き独立.
事象 formula_3 の下で事象 formula_1 と事象 formula_2 が条件付き独立であるとは、formula_19 に加えて次式が成立することと同値である。
これは、しばしば次のように表現される。
条件付き独立は次のように表すこともできる。
ここで、formula_23 は事象 formula_3 の下で事象 formula_1 と事象 formula_2 がともに成立する確率である。
定義の同値性の証明.
条件付き確率の定義から、
例.
以下に示すような、Stack Exchangeでの議論が参考になる
色付きのボックス.
各セルは、考えられるアウトカムを表す。事象formula_28、formula_29、formula_30をそれぞれ、、のセルで表し、例えば事象 formula_28 とイベントformula_29 の重複は のセルで表す。これらの事象の確率は、全体の面積に対する色付きの面積の比に相当する。
どちらの例でも、formula_30 を条件として formula_28 と formula_29 は条件付き独立である（次式）。
formula_37 を条件として formula_28 と formula_29 は条件付き独立ではない（次式）。
天気と遅れ.
AとBが夕食に間に合うように帰宅する確率を考える。「吹雪が街を襲った」という事象の下で、AとBが夕食に間に合う確率はいずれも低くなる。確率が低くなった上で、Aが夕食に間に合うかがBが夕食に間に合うかに影響しない場合、条件付き独立である。ただし、2人が近所から同じ交通機関を利用して同じ職場に通勤しているような場合、条件付き独立とはいえない。
サイコロを振る.
2つのサイコロを振った場合、1つのサイコロの目を見ても、2番目のサイコロの目は分からない。つまり、2つのサイコロは独立している。しかし、2つの目の和が偶数だと知っていた場合、1番目のサイコロの目が3だと分かれば2番目のサイコロの目が奇数だと分かる。独立した事象であっても、条件付き独立とは限らない。
身長と語彙.
非常に小さな人は子供である確率が高く、子供であれば語彙は限られる。このため、身長と語彙は独立ではない。しかし、年齢が分かっている上で（年齢を条件として）背が高いと言われても、語彙が豊富だと考える根拠にはならない。
確率変数の条件付き独立.
確率変数 formula_41 の下で2つの確率変数 formula_42 と formula_43 が条件付き独立であるとは、確率変数 formula_41 の下での formula_42 と formula_43 の条件付き確率分布が独立である、ということと同値である。つまり、formula_41 の値が与えられたとき、formula_43 の値によってformula_42 の確率分布は変わらないし、formula_42 の値によって formula_43 の確率分布は変わらない。
ここでformula_53は formula_41 を条件とした formula_42 と formula_43 の累積分布関数である。
σ代数 formula_57 の下で事象 formula_58 と事象 formula_2 が条件付き独立とは
ここで formula_61 は、σ代数 formula_57 の下での事象 formula_1 の指示関数 formula_64 の条件付き期待値を示す。
formula_66 の全てのformula_58と formula_68 の全てのformula_2 に対して上の式が成立するとき、σ代数 formula_57 の下で 2つの確率変数 formula_42 と formula_43 は条件付き独立である。
確率変数 formula_73 の下で 2つの確率変数 formula_42 と formula_43 が条件付き独立であるのは、formula_73 による σ代数 formula_77 の下で formula_42 と formula_43 が独立している場合であり、次のように表現する。
formula_73 が可算集合のとき、formula_42 と formula_43 が以下の形式の事象に対して条件付き独立であることと等価である。
3つ以上の事象や3つ以上の確率変数の条件付き独立性も同様に定義される。
確率変数ベクトルの条件付き独立性.
確率変数ベクトル 独立formula_85 の下で2つの確率変数ベクトルformula_86とformula_87 が条件付き独立であるとは、formula_88 の下で条件付き累積分布が独立であることと同値である。
ここで、formula_90、formula_91、formula_92 であり、条件付き累積分布は次のように定義される。
ベイズ推定での使用.
今度の国民投票で「賛成」と投票する有権者の割合を "p" とする。母集団から無作為に "n" 人の有権者を選んで世論調査を行う。i = 1、 …、 "n" に対して、 i が賛成に投票するなら "Xi" = 1、賛成に投票しないなら "Xi" = 0 とする。
統計的推論への頻度主義的アプローチでは、"p" に確率分布を与えることなく、"X"1 、…、 "X""n" を独立した確率変数と呼ぶ。
対照的に、統計的推論へのベイズアプローチでは、"p" に確率分布を割り当てて、その確率を「"p" が任意の間隔にあるという確信の度合い」として解釈する。このモデルでは、確率変数 "X"1 、 …、 "X""n" は独立ではないが、"p" の値を条件として条件付き独立である。特に、多数の "X" が 1 に等しいことが観察された場合、"p" が 1 に近いことが示唆されるので、次に観測される "X" が 1 に等しいという条件付き確率が高くなる。
条件付き独立性の規則.
基本的な定義から、条件付き独立の記述に関する一連の規則は、導き出される 。
これらの規則は、PearlとPazによって「グラフォイド公理」と呼ばれるようになった。formula_94 は「formula_42からformula_1へのすべての道は集合formula_2によって包含される」と解釈される。
対称.
formula_98
分解.
formula_99
証明.
formula_100
弱い組合.
formula_101
証明.
formula_102
また、
以上から、 formula_104
収縮.
formula_105
証明.
formula_106
また、
このとき、 
共通部分.
厳密に正の確率分布の場合、次式が成立する。
証明.
formula_110
このとき、formula_111 に全確率の法則を適用することで、
ここで、
に注意して、次式を得る。
部分空間.
ほかの条件 formula_115 で条件付けした部分空間でも、同様の規則が成立する。
例えば、
に関しては、
が成立する。