確率密度関数

確率密度関数とは、確率論において、連続型確率変数がある値をとるという事象の確率密度を記述する関数である。確率変数がある範囲の値をとる確率を、その範囲にわたって確率密度関数を積分することにより得ることができるよう定義される。確率密度関数の値域は非負の実数であり、定義域全体を積分すると1である。

例えば単変数の確率密度関数を平面上のグラフに表現して、x}}軸に確率変数の値を、y}}軸に確率密度を採った場合、求めたい範囲の下限値と上限値での垂直線と、変数グラフ曲線と //y// =}} 0}} の直線とで囲まれる範囲の面積が確率になる。

「確率分布関数」  あるいは「確率関数」  という用語は、具体的に何を指しているか現時点でも定義が曖昧であり、確率論研究者や統計学者の間では、その意味が標準的でないとされる場合がある。

他の資料に拠れば「確率密度関数」は値の集合に対する関数として定義されたり、累積分布関数との関係で言及されたり、確率質量関数の意味で使われたりする。さらには、密度関数  という用語が確率質量関数の意味で用いられている場合もある。

1. 例
----

例として、寿命が4〜6時間程度のバクテリアがいると仮定する。この時、特定のバクテリアが//丁度// 5時間で死亡する確率はどれ位だろうか？ 答えは0%である。//およそ//5時間で寿命を迎えるバクテリアはたくさん居るが、//正確に//5.0000000000…時間で死ぬことはない。

一方で、5〜5.01時間で死亡する確率はどうだろうか？ 例えば、これが2%だとする。では、その1の範囲の5〜5.001時間である確率は？ 答えはおよそ 2% × 1 = 0.2% となる。さらにその 1 の範囲の5〜5.0001時間である確率は、およそ0.02%である。

上記の3例において、『「特定の時間範囲内に死亡する確率」を「その範囲の長さ」で割った値』に着目すると、1時間につき 2 に定まることが分かる。例えば、5〜5.01時間の0.01時間の範囲でバクテリアが死亡する確率は0.02であり、確率 0.02 ÷ 0.01時間 = 2時間−1}} である。この2時間−1}}という量を、5時間時点での//確率密度//と呼ぶ。

従って、「バクテリアの寿命が5時間である確率」を問われた時、真の答えは0%であるが、より実用的には、2時間−1}} d//t//}} であると言える。これは、無限小の時間範囲 d//t//}} 内で、バクテリアが死亡する確率である。例えば、丁度5時間〜5時間 + 1ナノ秒の寿命である確率は、2時間−1}} × 1ナノ秒 ≈ 6 × 10−13}} である。

これを//確率密度関数// f}} を用いて、f}}= 2時間−1}} と表現することができる。f}} を任意の時間範囲で積分することで、当該時間範囲内でバクテリアの寿命が尽きる確率を求めることができる。

2. 絶対連続確率分布での定義
---------------

絶対連続確率分布では確率密度関数が存在する。確率変数 X}} の確率密度関数 fsub を考え、fsub が非負のルベーグ可積分な関数であるとする。ここで、

である。従って、もし Fsub を X}} の累積分布関数とすると、

となり、

となる。直観的に、微小区間 [//x//, //x// + d//x//]}} に含まれる値を X}} がとる確率は //fsub であると分かる。//

3. 正式な定義
--------

'可測空間 中に存在する確率変数 X}} は、 中に測度 //X//sub で確率分布する。 中の標準測度 μ}} に関する X}} の//密度//は、ラドン＝ニコディムの定理より

である。これは、f}} は次の性質を持つ任意の可測関数であることを意味する。あらゆる可測集合 に対して、

3.1. 注意点
--------

上記の連続単変数の場合は、標準測度はルベーグ測度である。離散確率変数における確率質量関数は標本空間内での数え上げ測度に対応する。

任意の測度で密度が定義できる訳ではないことに注意。例えば、連続確率分布に数え上げ測度を対応させることはできない。さらに、対応する測度が存在した時、密度はほとんど至るところで一意的である。

4. 詳細
-----

確率質量関数とは異なり、確率密度関数は1より大きな値を取りうる。例えば、区間 [0, sfrac の連続一様分布の確率密度関数は範囲 0 ≤ //x// ≤ sfrac で //f// =}} 2}}、その他の範囲で //f// =}} 0}} である。

標準正規分布は下記の確率密度関数を持つ。

確率変数 X}} とその確率密度関数 f}} が与えられた時、X}} の期待値は次の式で求められる。

全ての確率分布が確率密度関数を持つとは限らない。離散型確率変数が持たない他にも、カントール分布は連続確率分布であるにもかかわらず、範囲内のあらゆる点で正の確率を持たないため、確率密度関数を持たない。

確率分布はその累積分布関数 //F//}} が絶対連続である場合にのみ確率密度関数 f}} を持つ。この場合 F}} はほとんど至るところで微分可能で、f}} は F}} のラドン=ニコディム微分である：

累積分布関数が連続の場合、確率変数がある値 a をとる確率 P}} は常に0である。

2つの確率密度関数 //f//, //g//}} がほとんど至るところで等しい時、2つは正確に同じ確率分布から採られたと言える。

統計物理学の分野では、累積分布関数のラドン=ニコディム微分と確率密度関数との関係を非形式的に書いた以下の式が確率密度関数の定義として用いられる。

dt}} が無限小の時、X}} が区間}}に含まれる確率は //f////dt//}} に等しい。

5. 離散分布と連続分布との結合
----------------

ディラックのデルタ関数を用いると、ある種の離散型確率変数によって連続型確率変数および離散型確率変数の確率密度関数を統一的に表現することができる。試しに、2つの値しか採らない離散型確率変数を考える。例えばラーデマッヘル分布―すなわちそれぞれ sfrac の確率で −1}} または 1}} の値を採る分布―である。この変数の確率の密度は

である。より一般化すると、離散変数が n}} 通りの実数値を取り得る時、その離散値を //x//sub, その確率を //p//sub とすると確率密度関数は

と表記される。

これは実質的に、離散型確率変数と連続型確率変数を統合している。例として、上記の表現からは連続変数と同様に離散変数について統計学的パラメータを計算可能である。

6. パラメータ化
---------

確率密度関数または確率質量関数を任意の媒介変数でパラメータ化することがしばしばある。例えば、正規分布の密度は平均 μ}} および分散 //σ//sup を用いて下記のように表現できる。

このとき密度の族の定義域と族のパラメータの定義域との違いに留意することが重要である。パラメータの値が異なると、同じ標本空間に属する異なる確率変数の分布を表現することになる。その標本空間は、その分布の族が示している確率変数の族の定義域である。与えられたパラメータの集合は、そのパラメータを用いた共通の関数として確率密度関数を記述できる確率分布族の内の1つを指す。確率分布の観点からすると、パラメータは定数なので、確率密度関数に変数を含まずパラメータのみを含む場合、パラメータは分布の正規化係数の一部を成す。この正規化係数は分布のカーネル