確率分布

確率分布は、確率変数に対して、各々の値をとる確率全体を表したものである。日本産業規格では、「確率変数がある値となる確率，又はある集合に属する確率を与える関数」と定義しているJIS Z 8101-1 : 1999。

1. 概要
-----

例えば、「サイコロ2個を振ったときの出た目の和」は確率変数である。この確率変数 X}} に対する分布は次の表のようになる。

すなわち、離散型確率変数である場合は、確率分布とは確率変数の値にその確率を対応させる関数のことであると言うこともできる。しかし、例えば「次に電話がなるまでの時間」といった、連続型確率変数の場合は、確率変数値での確率が全て 0}} となり、確率分布を確率質量関数で表すことができない。

「次に電話がなるまでの時間」は確率変数である。この確率変数 X}} の分布が次のようになったとする。

この場合の確率を全て表すには、全ての連続区間での確率を求めることになる。次の電話が a}} - b}} 時間後になる確率は次の式で表せる：

累積分布関数 Fsub を

で定めれば、

のように、一変数関数で分布を表現できるので便利である。さらに、Fsub の導関数 fsub は確率密度関数と呼ばれ、確率は積分を用いて

と書ける。

通常、連続値をとる確率変数の分布は確率密度関数を用いて記述される。なぜなら、確率密度関数は初等関数で書けるが、累積分布関数は書けない場合が多いからである。

公理主義的な確率論においては、d}}次元ベクトル値確率変数の確率分布とは、その確率変数の引き起こす像測度のことである。この測度は d}}次元ユークリッド空間上の確率測度であり、ユークリッド空間の部分集合に対して、確率変数の値がその集合に入る確率を与える関数となる。

単に確率分布というときは、d}}次元ユークリッド空間などのよく使われる可測空間上で定義された確率測度のことをいう。ただの確率測度と違って空間に散らばっている様子がグラフなどの目に見える形で表現できるので「分布」と呼ばれる。

確率論で、確率変数の分布を考えるのは、その変数だけを確率論的な議論の対象にしたい場合である。例えば、確率変数がある値を取る確率や、期待値、分散といった量は変数の分布が分かれば計算できる量である。逆に分布を考えることによって隠れた変数 ω}} と確率変数との対応関係は失われてしまい、他の確率変数との関連性も不明になる。例えば、確率変数 X}} と Y}} の分布がそれぞれ Psub と Psub のように与えられたとしても、2つの変数の関連性は分からないので、//X// + //Y//}} がある値を取る確率や、積 XY}} の期待値、//X// + //Y//}} の分散といった量は計算できない。このような量を計算したいときは、X}} と Y}} の同時確率分布 Psub が必要となる。

よく使われる確率分布にはそれぞれ名前がついており性質がよく研究されている。このような分布をもつ確率変数に対して研究の結果を利用することができる。例えば、確率変数の分布が平均 0}}、分散 1}} の正規分布だった場合、その変数が 2}} 以上の値を取る確率は数表から 2.28% である。

2. 定義
-----

2.1. 確率分布
---------

1次元確率分布とは可測空間 上で定義された確率測度のことである。
同様に d}} 次元確率分布とは 上で定義された確率測度のことである。なお、 は 上のボレル集合族である。

2.2. 確率変数の確率分布
--------------

実数値確率変数 X}} の確率分布 を

で定義する。Psub は確率測度である。

同様に 値確率変数 X}} の確率分布 は

で定義される確率測度である。

確率変数 X}} の確率分布が μ}} であるとき、X}} は μ}} に従う確率変数であるといい、記号で //X// ~ //μ//}} と書く。例えば、「X}} は平均 0、分散 1 の正規分布に従う」のように使い、これを

のように書く。

2.3. 累積分布関数
-----------

実数値確率変数 X}} の累積分布関数  あるいは一次元確率分布 Psub の累積分布関数とは

で与えられる関数 Fsub のことである。累積を省略して分布関数  とも言う。

累積分布関数は定義より右連続であるが、左連続とは限らない。累積分布関数が連続である確率分布を連続確率分布という。累積分布関数がとる値が高々可算個である確率分布を離散確率分布という。

2.4. 確率密度関数
-----------

確率分布 Psub が絶対連続ならば、ある可測関数   //f//   : //X// → [0, ∞)}} が存在して、確率分布は

と表される。fsub は Psub のラドン=ニコディム微分であり、零集合を除いて一意である。fsub を連続型確率変数 X}} の確率密度関数  という。

確率分布 Psub が絶対連続であるとは、任意の零集合 N}} に対して、

が成り立つことと定義される。これは測度の絶対連続性と同じである。このとき連続確率分布である。

とくに A}} が区間の場合は

となる。区間の端点は入れても入れなくても確率は同じである。

2.5. 確率質量関数
-----------

離散確率分布のときに確率密度関数に対応する関数として確率質量関数  がある。確率変数 X}} のとる値の集合が //S// =}} mset だとすると確率質量関数は

で定まる関数 fsub のことである。日本語では確率関数とも略されるが、英語の probability function は意味が曖昧な言葉とされる。

2.6. 多次元確率分布
------------

2つ以上の変数の確率分布を、多次元確率分布と呼ぶ。2変数の確率確率分布を、二次元確率分布と呼ぶJIS Z 8101-1 : 1999。

2.6.1. 同時分布
-----------

2つ以上の変数の組の確率分布のことを同時分布、同時確率分布  というJIS Z 8101-1 : 1999。

2.6.2. 周辺分布
-----------

同時分布から各変数の分布だけを取り出したものを周辺分布、周辺確率分布と呼ぶ。日本工業規格では、「k次元確率変数の部分集合である k - 1変数の同時分布」と定義しているJIS Z 8101-1 : 1999。

3. 確率分布の分類
----------

まず確率変数が連続か離散かで分かれ、連続型確率変数の場合は累積分布関数が連続か絶対連続かで分類できる。

離散型確率変数の確率分布
離散確率分布
連続型確率変数の確率分布
連続確率分布
絶対連続分布
累積分布関数が連続だが絶対連続では無い確率分布
特異分布
累積分布関数が連続では無い確率分布

4. 代表的な確率分布
-----------

よく使われる確率分布は離散確率分布と絶対連続確率分布である。

4.1. 離散確率分布
-----------

サイコロを投げた時に出る目の数字など、確率変数が離散的な値をとる場合の確率分布は離散型確率分布である。パラメトリックな離散確率分布は母数と台と確率質量関数 f}} で特徴付けられる。台というのは確率変数のとる値の集合のことである。

離散一様分布
二項分布
負の二項分布
多項分布
ポアソン分布
ポアソン二項分布
ベルヌーイ分布
幾何分布
超幾何分布
ジップ分布
ゼータ分布

4.2. 連続確率分布
-----------

ある地点での通行人の体重など、確率変数が連続的な場合の確率分布のうち、累積分布関数が連続な確率分布が連続型確率分布である。パラメトリックな絶対連続分布は母数と台と確率密度関数 f}} で特徴付けられる。

連続一様分布
正規分布
対数正規分布
指数分布
t分布
カイ2乗分布
ガンマ分布
ベータ分布
F分布
コーシー分布
アーラン分布
三角分布
ラプラス分布
レイリー分布
ロジスティック分布
パレート分布
ワイブル分布
一般化双曲型分布
ウィッシャート分布
逆ガウス分布
双曲線正割分布

4.3. 累積分布関数が連続だが絶対連続では無い確率分布
----------------------------

特異分布
カントール分布

4.4. 累積分布関数が連続では無い確率分布
----------------------

退化分布

5. 確率分布の利用法
-----------

確率変数の確率分布が与えられると、その変数に関する確率・期待値・分散などが以下のように計算できる。

X}} は連続型確率変数で確率密度関数は fsub であり、累積分布関数は Fsub とする。Y}} は離散型確率変数で台は //S// =}} mset で確率質量関数は fsub であるとする。

5.1. 確率の計算
----------

X}} が a}} 以上 b}} 以下の値を取る確率
Y}} の値が集合 に属する確率

5.2. 期待値の計算
-----------

関数 g}} が与えられたときに //g//}} と //g//}} の期待値は

特に

5.3. 分散の計算
----------

X}} と Y}} の分散は

6. 変数変換
-------

確率変数の変数変換による新しい変数の密度関数は、元の変数の密度関数で書くことができる。この公式は重積分における変数変換とほぼ同様である。

6.1. 確率密度関数の変数変換公式
------------------

から への変換 T}} により、 値確率変数 X}} と Y}} が

と書けているとすると、Y}} の確率密度関数は X}} の確率密度関数を用いて

となる。ただし J}} はヤコビアンとする。

例えばボックス-ミューラー変換は (0, 1]sup 上の一様分布に従う確率変数 //X// =}} (//X//sub を

によって変換する。X}} の密度関数は

であり、上の公式を当てはめると Y}} の確率密度関数は

となり、Y}} が二次元の標準正規分布に従うことが分かる。このように単純な分布を持つ変数を変換して、複雑な分布を作る操作は計算機による乱数の生成で重要となる。

6.2. 確率変数の和の確率分布
----------------

2つの確率変数 X}} と Y}} の和 //X// + //Y//}} の確率分布や差 //X// − //Y//}} の確率分布は変数変換公式により計算できる。特に X}} と Y}} が独立で、確率密度関数がそれぞれ fsub と fsub だったとすると、和と差の確率密度関数は

となる。

特に和の確率密度関数は2つの分布の確率密度関数の畳み込みである。また、特性関数は確率密度関数のフーリエ変換であり、畳み込みのフーリエ変換は周波数領域における積であることから、和の特性関数は2つの分布の特性関数の積となる。

なお、確率変数の和の確率分布が元の分布族に従う場合、その分布は再生性があるという。

7. 確率モデル
--------

パーコレーション パーコレーションを参照。浸透  確率に基づくモデル。具体的には森林火災の広がり、伝染病の伝搬、金属と絶縁体の混合物、強磁性元素と非磁性元素の混晶系、分子間の重合による巨大高分子のゲル化などがある今野。 分岐過程 分岐過程  は、生命の数変化モデル今野。 ランダムウォーク ランダムウォークを参照。 無限粒子系 無限粒子の遷移率の連続時間のモデル今野。 凝集 拡散律速凝集  と呼ぶ、ヴィッテンとサンダーによる粒子のクラスターが凝集によって成長するモデル。 砂山崩し バックたちによる砂山の斜面の崩壊を表すモデル。 渋滞 交通流の渋滞モデル。 生命 生命の時間的空間的モデル。セルオートマトンとも呼ぶ。生命競技  は2次元セルオートマトンの一種である。 排他過程 排他過程  は、連続時間で発展する確率モデル。上記生命モデルが離散時間の決定論的モデルであるのに対応している今野。

8. 脚注
-----

9. 参考文献
-------

10. 関連項目
--------

確率
確率論
確率質量関数
確率密度関数
同時分布
統計学