自己相互情報量
pmi  ( x ; y ) + pmi  ( x ; z ∣ y ) = log  p ( x , y ) p ( x ) p ( y ) + log  p ( x , z ∣ y ) p ( x ∣ y ) p ( z ∣ y ) = log  [ p ( x , y ) p ( x ) p ( y ) p ( x , z ∣ y ) p ( x ∣ y ) p ( z ∣ y ) ] = log  p ( x ∣ y ) p ( y ) p ( x , z ∣ y ) p ( x ) p ( y ) p ( x ∣ y ) p ( z ∣ y ) = log  p ( y ) p ( x , z ∣ y ) p ( x ) p ( y ) p ( z ∣ y ) = log  p ( x , y , z ) p ( x ) p ( y , z ) = pmi  ( x ; y z ) {\displaystyle {\begin{aligned}\operatorname {pmi} (x;y)+\operatorname {pmi} (x;z\mid y)&=\log {\frac {p(x,y)}{p(x)\,p(y)}}+\log {\frac {p(x,z\mid y)}{p(x\mid y)\,p(z\mid y)}}\\&{}=\log \left[{\frac {p(x,y)}{p(x)\,p(y)}}{\frac {p(x,z\mid y)}{p(x\mid y)\,p(z\mid y)}}\right]\\&{}=\log {\frac {p(x\mid y)\,p(y)\,p(x,z\mid y)}{p(x)\,p(y)\,p(x\mid y)\,p(z\mid y)}}\\&{}=\log {\frac {p(y)\,p(x,z\mid y)}{p(x)\,p(y)\,p(z\mid y)}}\\&{}=\log {\frac {p(x,y,z)}{p(x)\,p(y,z)}}\\&{}=\operatorname {pmi} (x;yz)\end{aligned}}}