条件付き独立
条件付き独立(じょうけんつきどくりつ、conditional independence)は、確率論において、ある仮説の確からしさを評価するときに、ある観測が無関係または冗長である場合をいう。
条件付き独立は通常、条件付き確率の観点から定式化される。情報のない観測が与えられた場合の仮説の確率が、情報のない場合の確率と等しいという特殊な場合である。仮説A、観測 B、観測 C を用いて、条件付き独立性は P(A \mid B,\,C) = P(A \mid C) として表現できる。ここで、P(A \mid B,\,C) は観測 B と観測 C が与えられた下での仮説 A の確率である。観測 C の下で、観測 B は仮説 A の確からしさについて何ら貢献しない。このとき、C の下で A と B は条件付き独立であると表現し、A \perp\!\!\!\perp B \mid C と表記する。条件付き独立性の概念は、統計的推論のグラフベースの理論に不可欠である。
事象 C の下で事象 A と事象 B が条件付き独立であるとは、P(C) > 0 に加えて次式が成立することと同値である。
P(A \mid B,\,C) = P(A \mid C)
これは、しばしば次のように表現される。
A \perp\!\!\!\perp B \mid C
条件付き独立は次のように表すこともできる。
P(A,\,B \mid C) = P(A \mid C)\,P(B \mid C)
ここで、P(A,\,B \mid C) は事象 C の下で事象 A と事象 B がともに成立する確率である。
条件付き確率の定義から、
\begin{align}
&P(A,\,B \mid C) = P(A \mid C)\,P(B\mid C) \\
&\iff \frac{P(A,\,B,\,C)}{P(C)} = \ \frac{P(A,\,C)}{P(C)} \, \frac{P(B,\,C)}{P(C)} \\
&\iff \frac{P(A,\,B,\,C)}{P(B,\,C)}= \frac{P(A,\,C)}{P(C)} \\
&\iff P(A \mid B,\,C) = P(A \mid C)
\end{align}
以下に示すような、Stack Exchangeでの議論が参考になる
各セルは、考えられるアウトカムを表す。事象\color{red}R、\color{blue}B、\color{gold}Yをそれぞれred、blue、goldのセルで表し、例えば事象 \color{red}R とイベント\color{blue}B の重複は purple のセルで表す。これらの事象の確率は、全体の面積に対する色付きの面積の比に相当する。
どちらの例でも、\color{gold}Y を条件として \color{red}R と \color{blue}B は条件付き独立である(次式)。
\Pr({\color{red}R},\,{\color{blue}B} \mid {\color{gold}Y}) = \Pr({\color{red}R} \mid {\color{gold}Y})\,\Pr({\color{blue}B} \mid {\color{gold}Y})
\mathrm{not}\,{\color{gold}Y} を条件として \color{red}R と \color{blue}B は条件付き独立ではない(次式)。
\Pr({\color{red}R}, {\color{blue}B} \mid \text{not } {\color{gold}Y}) \ne \Pr({\color{red}R} \mid \text{not } {\color{gold}Y})\Pr({\color{blue}B} \mid \mathrm{not} \,  {\color{gold}Y})
AとBが夕食に間に合うように帰宅する確率を考える。「吹雪が街を襲った」という事象の下で、AとBが夕食に間に合う確率はいずれも低くなる。確率が低くなった上で、Aが夕食に間に合うかがBが夕食に間に合うかに影響しない場合、条件付き独立である。ただし、2人が近所から同じ交通機関を利用して同じ職場に通勤しているような場合、条件付き独立とはいえない。
2つのサイコロを振った場合、1つのサイコロの目を見ても、2番目のサイコロの目は分からない。つまり、2つのサイコロは独立している。しかし、2つの目の和が偶数だと知っていた場合、1番目のサイコロの目が3だと分かれば2番目のサイコロの目が奇数だと分かる。独立した事象であっても、条件付き独立とは限らない。
非常に小さな人は子供である確率が高く、子供であれば語彙は限られる。このため、身長と語彙は独立ではない。しかし、年齢が分かっている上で(年齢を条件として)背が高いと言われても、語彙が豊富だと考える根拠にはならない。
確率変数 Z の下で2つの確率変数 X と Y が条件付き独立であるとは、確率変数 Z の下での X と Y の条件付き確率分布が独立である、ということと同値である。つまり、Z の値が与えられたとき、Y の値によってX の確率分布は変わらないし、X の値によって Y の確率分布は変わらない。
X \perp\!\!\!\perp Y \mid Z \quad \iff \quad F_{X,\,Y \mid Z=z}(x,\,y) = F_{X \mid Z=z}(x) \, F_{Y \mid Z=z}(y) \quad \mathrm{for\ all}\; x,\,y,\,z
ここでF_{X,Y\,\mid\,Z\,=\,z}(x,y)=\Pr(X \leq x, Y \leq y \mid Z=z)は Z を条件とした X と Y の累積分布関数である。
σ代数 \Sigma の下で事象 R と事象 B が条件付き独立とは
\Pr(R, B \mid \Sigma) = \Pr(R \mid \Sigma)\Pr(B \mid \Sigma)
ここで \Pr(A \mid \Sigma)  は、σ代数 \Sigma の下での事象 A の指示関数 \chi_A の条件付き期待値を示す。
\Pr(A \mid \Sigma) := \operatorname{E}[\chi_A\mid\Sigma]
\sigma(X) の全てのRと \sigma(Y) の全てのB に対して上の式が成立するとき、σ代数 \Sigma の下で 2つの確率変数 X と Y は条件付き独立である。
確率変数 W の下で 2つの確率変数 X と Y が条件付き独立であるのは、W による σ代数 \sigma(W) の下で X と Y が独立している場合であり、次のように表現する。
X \perp\!\!\!\perp Y \mid W
W が可算集合のとき、X と Y が以下の形式の事象に対して条件付き独立であることと等価である。
W=w
3つ以上の事象や3つ以上の確率変数の条件付き独立性も同様に定義される。
確率変数ベクトル 独立\mathbf{Z}=(Z_1, \dots, Z_n)^\top の下で2つの確率変数ベクトル\mathbf{X}=(X_1, \dots, X_l)^\topと\mathbf{Y}=(Y_1, \dots, Y_m)^\top が条件付き独立であるとは、\mathbf{Z} の下で条件付き累積分布が独立であることと同値である。
\mathbf{X} \perp\!\!\!\perp \mathbf{Y} \mid \mathbf{Z} \quad \iff \quad F_{\mathbf{X},\mathbf{Y}|\mathbf{Z}=\mathbf{z}(\mathbf{x},\mathbf{y}) = F_{\mathbf{X} \mid \mathbf{Z} = \mathbf{z}(\mathbf{x}) \, F_{\mathbf{Y} \mid \mathbf{Z} = \mathbf{z}(\mathbf{y}) \quad \mathrm{for\ all}\; \mathbf{x},\,\mathbf{y},\,\mathbf{z}
ここで、\mathbf{x}=(x_1, \dots, x_l)^\top、\mathbf{y}=(y_1, \dots, y_m)^\top、\mathbf{z}=(z_1, \dots, z_n)^\top であり、条件付き累積分布は次のように定義される。
\begin{align}
F_{\mathbf{X},\mathbf{Y} \mid \mathbf{Z} = \mathbf{z}(\mathbf{x},\mathbf{y}) &= \Pr(X_1 \leq x_1, \dots, X_l \leq x_l,\; Y_1 \leq y_1, \dots, Y_m \leq y_m \mid Z_1=z_1, \dots, Z_n=z_n) \\
F_{\mathbf{X}\,\mid\,\mathbf{Z} = \mathbf{z}(\mathbf{x}) &= \Pr(X_1 \leq x_1, \dots, X_l \leq x_l \mid Z_1=z_1, \dots,Z_n=z_n) \\
F_{\mathbf{Y}\,\mid\,\mathbf{Z}\,=\,\mathbf{z}(\mathbf{y}) &= \Pr(Y_1 \leq y_1,\dots,Y_m \leq y_m \mid Z_1=z_1, \dots, Z_n=z_n)
\end{align}
今度の国民投票で「賛成」と投票する有権者の割合を p とする。母集団から無作為に n 人の有権者を選んで世論調査を行う。i = 1、 …、 n に対して、 i が賛成に投票するなら Xi = 1、賛成に投票しないなら Xi = 0 とする。
統計的推論への頻度主義的アプローチでは、p に確率分布を与えることなく、X1 、…、 Xn を独立した確率変数と呼ぶ。
対照的に、統計的推論へのベイズアプローチでは、p に確率分布を割り当てて、その確率を「p が任意の間隔にあるという確信の度合い」として解釈する。このモデルでは、確率変数 X1 、 …、 Xn は独立ではないが、p の値を条件として条件付き独立である。特に、多数の X が 1 に等しいことが観察された場合、p が 1 に近いことが示唆されるので、次に観測される X が 1 に等しいという条件付き確率が高くなる。
基本的な定義から、条件付き独立の記述に関する一連の規則は、導き出される 。
これらの規則は、PearlとPazによって「グラフォイド公理」と呼ばれるようになった。X \perp\!\!\!\perp A\mid B は「XからAへのすべての道は集合Bによって包含される」と解釈される。
X \perp\!\!\!\perp Y
\quad \implies \quad
Y \perp\!\!\!\perp X
X \perp\!\!\!\perp A,B \quad \implies \quad X \perp\!\!\!\perp A \quad \land \quad X \perp\!\!\!\perp B
\begin{align}
& X \perp\!\!\!\perp A,B \\
&\iff p_{X,\,A,\,B}(x,\,a,\,b) = p_X(x)\,p_{A,\,B}(a,\,b) \\
&\implies \int_B p_{X,\,A,\,B}(x,\,a,\,b)\,db = \int_B p_X(x)\,p_{A,\,B}(a,\,b)\,db \\
&\iff p_{X,\,A}(x,\,a) = p_X(x)\,p_A(a) \\
&\iff X \perp\!\!\!\perp A
\end{align}
X \perp\!\!\!\perp A,\,B \quad \implies \quad X \perp\!\!\!\perp A \mid B \quad \land \quad X \perp\!\!\!\perp B \mid A
X \perp\!\!\!\perp A,\,B \quad \iff \quad \Pr(X) = \Pr(X \mid A,\,B)
また、
\begin{align}
&X \perp\!\!\!\perp A,\,B \\
&\implies X \perp\!\!\!\perp B \\
&\iff \Pr(X) = \Pr(X \mid B)
\end{align}
以上から、 \Pr(X \mid B) = \Pr(X \mid A,\,B) \quad (\iff X \perp\!\!\!\perp A \mid B)
X \perp\!\!\!\perp A \mid B \quad \land \quad X \perp\!\!\!\perp B \implies \quad
X \perp\!\!\!\perp A,\,B
X \perp\!\!\!\perp A \mid B \quad \iff \quad  \Pr(X \mid A,\,B) = \Pr(X \mid B)
また、
X \perp\!\!\!\perp B \quad \iff \quad \Pr(X \mid B) = \Pr(X)
このとき、
\Pr(X \mid A,\,B) = \Pr(X) \quad (\iff X \perp\!\!\!\perp A,\,B)
厳密に正の確率分布の場合、次式が成立する。
X \perp\!\!\!\perp Y \mid Z,\,W \quad \land \quad X \perp\!\!\!\perp W \mid Z,\,Y \quad \implies \quad X \perp\!\!\!\perp W,\,Y \mid Z
\begin{align}
&X \perp\!\!\!\perp Y \mid Z,\,W \quad \land \quad X \perp\!\!\!\perp W \mid Z,\,Y \\
&\iff P(X \mid Z,\,W,\,Y) = P(X \mid Z,\,W) \quad \land \quad P(X \mid Z,\,W,\,Y) = P(X \mid Z,\,Y) \\
&\implies P(X \mid Z,\,Y) = P(X \mid Z, W)
\end{align}
このとき、P(X \mid Z) に全確率の法則を適用することで、
\begin{align}
P(X \mid Z) &= \sum_{w \in W} P(X \mid Z, W=w)\;P(W=w \mid Z) \\
&= \sum_{w \in W} P(X \mid Z,\,Y)\;P(W=w \mid Z) \\
&= P(X \mid Z,\,Y)\;\sum_{w \in W} P(W=w \mid Z) \\
&= P(X \mid Z,\,Y)
\end{align}
ここで、
X \perp\!\!\!\perp Y \mid Z,\,W \quad \implies \quad P(X \mid Z,\,W,\,Y) = P(X \mid Z,\,Y)
に注意して、次式を得る。
P(X \mid Z,\,W,\,Y) = P(X \mid Z) \quad (\iff X \perp\!\!\!\perp Y,\,W \mid Z)
ほかの条件 K で条件付けした部分空間でも、同様の規則が成立する。
例えば、
X \perp\!\!\!\perp Y \quad \implies \quad Y \perp\!\!\!\perp X
に関しては、
X \perp\!\!\!\perp Y \mid K \quad \implies \quad Y \perp\!\!\!\perp X \mid K
が成立する。