確率分布
確率分布(かくりつぶんぷ、probability distribution)は、確率変数に対して、各々の値をとる確率全体を表したものである。日本産業規格では、「確率変数がある値となる確率,又はある集合に属する確率を与える関数」と定義している。
例えば、「サイコロ2個を振ったときの出た目の和」は確率変数である。この確率変数 X に対する分布は次の表のようになる。
すなわち、離散型確率変数である場合は、確率分布とは確率変数の値にその確率(確率質量)を対応させる関数(確率質量関数)のことであると言うこともできる。しかし、例えば「次に電話がなるまでの時間」といった、連続型確率変数の場合は、確率変数値での確率が全て 0 となり、確率分布を確率質量関数で表すことができない。
「次に電話がなるまでの時間」は確率変数である。この確率変数 X の分布が次のようになったとする。
この場合の確率を全て表すには、全ての連続区間での確率を求めることになる。次の電話が a - b 時間後になる確率は次の式で表せる:
P(a<X\leq b)=\left( \frac{1}{2} \right)^a - \left( \frac{1}{2} \right)^b
累積分布関数 FX を
F_X (t)=P(X \leq t)= \begin{cases}
1- \left( \frac{1}{2} \right)^t, &t \geq 0 \\
0, &t<0
\end{cases}
で定めれば、
P(a<X\leq b)= F_X (b)-F_X (a)
のように、一変数関数で分布を表現できるので便利である。さらに、FX の導関数 fX は確率密度関数と呼ばれ、確率は積分を用いて
P(a<X\leq b)=\int_a^b f_X (t)\, dt
と書ける。
通常、連続値をとる確率変数の分布は確率密度関数を用いて記述される。なぜなら、確率密度関数は初等関数で書けるが、累積分布関数は書けない場合が多いからである。
公理主義的な確率論においては、d次元ベクトル値確率変数の確率分布とは、その確率変数の引き起こす像測度のことである。この測度は d次元ユークリッド空間上の確率測度であり、ユークリッド空間の部分集合に対して、確率変数の値がその集合に入る確率を与える関数となる。
単に確率分布というときは、d次元ユークリッド空間などのよく使われる可測空間上で定義された確率測度のことをいう。ただの確率測度と違って空間に散らばっている様子がグラフなどの目に見える形で表現できるので「分布」と呼ばれる。
確率論で、確率変数の分布を考えるのは、その変数だけを確率論的な議論の対象にしたい場合である。例えば、確率変数がある値を取る確率や、期待値、分散といった量は変数の分布が分かれば計算できる量である。逆に分布を考えることによって隠れた変数 ω と確率変数との対応関係は失われてしまい、他の確率変数との関連性も不明になる。例えば、確率変数 X と Y の分布がそれぞれ PX と PY のように与えられたとしても、2つの変数の関連性は分からないので、X + Y がある値を取る確率や、積 XY の期待値、X + Y の分散といった量は計算できない。このような量を計算したいときは、X と Y の同時確率分布 PX,Y が必要となる。
よく使われる確率分布にはそれぞれ名前がついており性質がよく研究されている。このような分布をもつ確率変数に対して研究の結果を利用することができる。例えば、確率変数の分布が平均 0、分散 1 の正規分布だった場合、その変数が 2 以上の値を取る確率は数表から 2.28% である。
1次元確率分布とは可測空間 ( \mathbb{R}, \mathcal{B} ( \mathbb{R} )) 上で定義された確率測度のことである。
同様に d 次元確率分布とは ( \mathbb{R}^d, \mathcal{B} ( \mathbb{R}^d )) 上で定義された確率測度のことである。
なお、\mathcal{B} ( \mathbb{R}^d ) は \mathbb{R}^d 上のボレル集合族(集合演算で閉じた部分集合族の一種)である。
実数値確率変数 X の確率分布 P_X : \mathcal{B} ( \mathbb{R} ) \to [0,1] を
P_X (A) = P(X \in A),\ \ \ A \in \mathcal{B} ( \mathbb{R} )
で定義する。PX は確率測度(像測度)である。
同様に \mathbb{R}^d 値確率変数 X の確率分布 P_X : \mathcal{B} ( \mathbb{R}^d ) \to [0,1] は
P_X (A) = P(X \in A),\ \ \ A \in \mathcal{B} ( \mathbb{R}^d )
で定義される確率測度である。
確率変数 X の確率分布が μ であるとき、X は μ に従う確率変数であるといい、記号で X ~ μ と書く。例えば、「X は平均 0、分散 1 の正規分布に従う」のように使い、これを
X \sim N(0,1)
のように書く。
実数値確率変数 X の累積分布関数 (cumulative distribution function, CDF) あるいは一次元確率分布 PX の累積分布関数とは
F_X (x) = P(X \leq x) = P_X ((-\infty, x])
で与えられる関数 FX のことである。累積を省略して分布関数 (distribution function) とも言う。
累積分布関数は定義より右連続であるが、左連続とは限らない。累積分布関数が連続である(左連続でもある)確率分布を連続確率分布という。累積分布関数がとる値が高々可算個である確率分布を離散確率分布という。
確率分布 PX が絶対連続ならば、ある可測関数  f  : X → [0, ∞) が存在して、確率分布は
P(X \in A) = P_X (A) = \int_A f_X (x) \, dx
と表される(ラドン=ニコディムの定理)。fX は PX のラドン=ニコディム微分であり、零集合を除いて一意である。fX を連続型確率変数 X の確率密度関数 (probability density function, PDF) という。
確率分布 PX が絶対連続であるとは、任意の(ルベーグ測度に関しての)零集合 N に対して、
P_X (N) = 0
が成り立つことと定義される。これは測度の絶対連続性と同じである。このとき連続確率分布である。
とくに A が区間の場合は
P(a < X < b) = P(a \leq X < b) = P(a < X \leq b) = P(a \leq X \leq b) = \int_a^b f_X(x) \, dx
となる。区間の端点は入れても入れなくても確率は同じである。
離散確率分布のときに確率密度関数に対応する関数として確率質量関数 (probability mass function) がある。確率変数 X のとる値の集合が S  x1, x2, … だとすると確率質量関数は
f_X (x_i )=P(X=x_i )=P_X (\{ x_i \} )
で定まる関数 fX のことである。日本語では確率関数とも略されるが、英語の probability function は意味が曖昧な言葉とされる。
2つ以上の変数の確率分布を、多次元確率分布と呼ぶ。2変数の確率確率分布を、二次元確率分布と呼ぶ。
2つ以上の変数の組の確率分布のことを同時分布(どうじぶんぷ、joint distribution)、同時確率分布 (joint probability distribution) という。
同時分布から各変数の分布だけを取り出したものを周辺分布(しゅうへんぶんぷ、marginal distribution)、周辺確率分布と呼ぶ。日本工業規格では、「k次元確率変数の部分集合である k - 1変数の同時分布」と定義している。
よく使われる確率分布は離散確率分布と絶対連続確率分布である。
サイコロを投げた時に出る目の数字など、確率変数が離散的な値をとる場合の確率分布は離散型確率分布である。パラメトリックな離散確率分布は母数(パラメータ)と台と確率質量関数 f で特徴付けられる。台というのは確率変数のとる値の集合のことである。
母数:成功確率 p と試行回数 n
台:0, 1, …, n
確率質量関数:f(k)  nCk pk(1 − p)1−k
これは成功確率 p の試行を独立に n 回行ったときの成功回数の分布である。
ある地点での通行人の体重など、確率変数が連続的な場合の確率分布のうち、累積分布関数が連続な確率分布が連続型確率分布である。パラメトリックな絶対連続分布は母数(パラメータ)と台と確率密度関数 f で特徴付けられる。
母数:平均 μ と分散 σ2
確率密度関数:f(x)={1 \over \sqrt{2\pi \sigma^2} \cdot \exp \! \left( -{(x-\mu)^2\over 2\sigma^2} \right)
退化分布(連続型確率変数の場合)
確率変数の確率分布が与えられると、その変数に関する確率・期待値・分散などが以下のように計算できる。
X は連続型確率変数で確率密度関数は fX であり、累積分布関数は FX とする。Y は離散型確率変数で台は S  y1, y2, … で確率質量関数は fY であるとする。
X が a 以上 b 以下の値を取る確率
P(a \leq X \leq b) = \int_a^b f_X(x) \, dx
P(a \leq X \leq b) = F_X(b) - F_X(a)
Y の値が集合 T \subset S に属する確率
P(Y \in T) = \sum_{y_k \in T} f_Y (y_k)
関数 g が与えられたときに g(X) と g(Y) の期待値は
E[g(X)] = \int_{-\infty}^{+\infty} g(x) f_X (x) \, dx
E[g(Y)] = \sum_{y_k \in S} g(y_k) f_Y(y_k)
E[X] = \int_{-\infty}^{+\infty} x f_X (x) \, dx
E[Y] = \sum_{y_k \in S} y_k f_Y ( y_k )
X と Y の分散は
V[X] = \int_{-\infty}^{+\infty} (x - E[X])^2 f_X (x) \, dx = \int_{-\infty}^{+\infty} x^2 f_X (x) \, dx - E[X]^2
V[Y] = \sum_{y_k \in S} (y_k - E[Y])^2 f_Y(y_k) = \sum_{y_k \in S} {y_k}^2 f_Y ( y_k ) - E[Y]^2
確率変数の変数変換による新しい変数の密度関数は、元の変数の密度関数で書くことができる。この公式は重積分における変数変換とほぼ同様である。
\mathbb{R}^d から \mathbb{R}^d への変換 T により、\mathbb{R}^d 値確率変数 X と Y が
X=T(Y)
と書けているとすると、Y の確率密度関数は X の確率密度関数を用いて
f_Y (y_1 , \cdots, y_d ) = |(\det J_T )( y_1 , \cdots , y_d )| f_X (T( y_1 , \cdots , y_d ))
となる。ただし J はヤコビアンとする。
例えばボックス-ミューラー変換は (0, 1]2 上の一様分布に従う確率変数 X  (X1, X2) を
Y_1 = \sqrt{-2 \ln X_1} \sin(2\pi X_2)
Y_2 = \sqrt{-2 \ln X_1} \cos(2\pi X_2)
によって変換する。X の密度関数は
f_X ( x_1 , x_2 ) = \begin{cases}
1, &(x_1 , x_2 ) \in (0, 1]^2 \\
0, & (x_1, x_2) \notin (0,1]^2
\end{cases}
であり、上の公式を当てはめると Y の確率密度関数は
f_Y ( y_1, y_2 ) = \frac{1}{2\pi} \exp \left( -\frac{y_1}^2 + {y_2}^2}{2} \right)
となり、Y が二次元の標準正規分布に従うことが分かる。このように単純な分布を持つ変数を変換して、複雑な分布を作る操作は計算機による乱数の生成で重要となる。
2つの確率変数 X と Y の和 X + Y の確率分布や差 X − Y の確率分布は変数変換公式により計算できる。特に X と Y が独立で、確率密度関数がそれぞれ fX と fY だったとすると、和と差の確率密度関数は
f_{X+Y} (t) = \int_{-\infty}^{+\infty} f_X (t-y) f_Y (y) \, dy
f_{X-Y} (t) = \int_{-\infty}^{+\infty} f_X (t+y) f_Y (y) \, dy
となる。
特に和の確率密度関数は2つの分布の確率密度関数の畳み込みである。また、特性関数は確率密度関数のフーリエ変換であり、畳み込みのフーリエ変換は周波数領域における積であることから、和の特性関数は2つの分布の特性関数の積となる。
なお、確率変数の和の確率分布が元の分布族に従う場合、その分布は再生性があるという。
パーコレーションを参照。浸透 (percolation) 確率に基づくモデル。具体的には森林火災の広がり、伝染病の伝搬、金属と絶縁体の混合物、強磁性元素と非磁性元素の混晶系、分子間の重合による巨大高分子のゲル化などがある。
分岐過程 (branching process) は、生命の数変化モデル。
ランダムウォークを参照。
無限粒子の遷移率の連続時間のモデル。
拡散律速凝集 (DLA : diffusion limited aggregation) と呼ぶ、ヴィッテンとサンダーによる粒子のクラスターが凝集によって成長するモデル。
バックたちによる砂山の斜面の崩壊を表すモデル。
交通流の渋滞モデル。
生命の時間的空間的モデル。セルオートマトンとも呼ぶ。生命競技 (life game) は2次元セルオートマトンの一種である。
排他過程 (exclusion process) は、連続時間で発展する確率モデル。上記生命モデルが離散時間の決定論的モデルであるのに対応している。