確率密度関数
確率論において、確率密度関数（かくりつみつどかんすう、, PDF）とは、連続型確率変数がある値をとるという事象の相対尤度を記述する関数である。確率変数がある範囲の値をとる確率を、その範囲にわたって確率密度関数を積分することにより得ることができるよう定義される。例えば単変数の確率分布を平面上のグラフに表現して、軸に“ある値”を、軸に“相対尤度”を採った場合、求めたい範囲（値）の下限値と上限値での垂直線と、変数グラフ曲線と の直線とで囲まれる範囲の面積が確率の密度に相当する。確率密度関数は常に非負であり、取り得る範囲全体を積分するとその値は である。
確率分布関数 (probability distribution function) あるいは確率関数 (probability function) という用語は確率密度関数を指しているが、確率論研究者や統計学者の間では標準的でないとされる場合がある。他の資料に拠れば「確率密度関数」は値の集合に対する関数として定義されたり、分布関数との関係で言及されたり、確率質量関数の意味で使われたりする。さらには、密度関数 (density function) という用語が確率質量関数の意味で用いられている場合もある。
例として、寿命が4〜6時間程度のバクテリアがいると仮定する。この時、特定のバクテリアが"丁度" 5時間で死亡する確率はどれ位だろうか？ 答えは0%である。"およそ"5時間で寿命を迎えるバクテリアはたくさん居るが、"正確に"5.0000000000…時間で死ぬことはない。
一方で、5〜5.01時間で死亡する確率はどうだろうか？ 例えば、これが2%だとする。では、そのの範囲の5〜5.001時間である確率は？ 答えはおよそ 2% × = 0.2% となる。さらにその の範囲の5〜5.0001時間である確率は、およそ0.02%である。
上記の3例において、『「特定の時間範囲内に死亡する確率」を「その範囲の長さ」で割った値』に着目すると、1時間につき 2 に定まることが分かる。例えば、5〜5.01時間の0.01時間の範囲でバクテリアが死亡する確率は0.02であり、確率 0.02 ÷ 0.01時間 = 2時間 である。この2時間（毎時200%）という量を、5時間時点での"確率密度"と呼ぶ。
従って、「バクテリアの寿命が5時間である確率」を問われた時、真の答えは0%であるが、より実用的には、2時間 であると言える。これは、無限小の時間範囲 内で、バクテリアが死亡する確率である。例えば、丁度5時間〜5時間 + 1ナノ秒の寿命である確率は、2時間 × 1ナノ秒 ≈ 6 × 10 である。
これを"確率密度関数" を用いて、（5時間）= 2時間 と表現することができる。 を任意の時間範囲（微小に限らない）で積分することで、当該時間範囲内でバクテリアの寿命が尽きる確率を求めることができる。
確率密度関数は多くの場合、絶対連続型のとして考える。確率変数 の密度 を考え、 が非負のルベーグ可積分な関数であるとする。ここで、
である。従って、もし を の分布関数とすると、
となり、
となる。直観的に、微小区間 に含まれる値を がとる確率は であると分かる。
可測空間 formula_4（通常、 に可測集合としてボレル集合を考えたもの）中に存在する確率変数 は、formula_4 中に測度 で確率分布する。formula_4 中の標準測度 に関する の"密度"は、ラドン＝ニコディムの定理より
である。これは、 は次の性質を持つ任意の可測関数であることを意味する。あらゆる可測集合 formula_8 に対して、
上記の連続単変数の場合は、標準測度はルベーグ測度である。離散確率変数における確率質量関数は標本空間（通常、整数全体の集合またはその部分集合）内での数え上げ測度に対応する。
任意の測度で密度が定義できる訳ではないことに注意。例えば、連続確率分布に数え上げ測度を対応させることはできない。さらに、対応する測度が存在した時、密度はほとんど至るところで一意的である。
確率質量とは異なり、確率密度は より大きな値を取りうる。例えば、区間 の連続一様分布の確率密度は範囲 で 、その他の範囲で である。
標準正規分布は下記の確率密度関数を持つ。
確率変数 とその確率密度関数 が与えられた時、 の期待値は（値が存在する場合は）次の式で求められる。
全ての確率分布が密度関数を持つとは限らない。離散型確率変数が持たない他にも、カントール分布は連続確率分布であるにも関わらず、範囲内のあらゆる点で正の確率を持たないため、密度関数を持たない。
分布はその分布関数 が絶対連続である場合にのみ密度関数 を持つ。この場合 はほとんど至るところで微分可能で、 は のラドン=ニコディム微分である：
確率分布に確率密度が存在するならば、有限集合・可算集合の場合と同様に、確率変数がある値をとる確率は（ほとんど）全て である。
2つの確率密度 がほとんど至るところで等しい時、2つは正確に同じ確率分布から採られたと言える。
の分野では、分布関数のラドン=ニコディム微分と確率密度関数との関係を非形式的に書いた以下の式が確率密度関数の定義として用いられる。
ディラックのデルタ関数を用いると、ある種の離散型確率変数によって連続型確率変数および離散型確率変数の確率密度関数を統一的に表現することができる。試しに、2つの値しか採らない離散型確率変数を考える。例えば―すなわちそれぞれ の確率で または の値を採る分布―である。この変数の確率の密度は
である。より一般化すると、離散変数が 通りの実数値を取り得る時、その離散値を , その確率を とすると確率密度関数は
と表記される。
これは実質的に、離散型確率変数と連続型確率変数を統合している。例として、上記の表現からは連続変数と同様に離散変数について統計学的パラメータ（平均、分散、尖度など）を計算可能である。
確率密度関数または確率質量関数を任意の媒介変数でパラメータ化することがしばしばある。例えば、正規分布の密度は平均 および分散 を用いて下記のように表現できる。
このとき密度の族の定義域と族のパラメータの定義域との違いに留意することが重要である。パラメータの値が異なると、同じ標本空間（変数が取り得る全ての値の集合で、同一である）に属する異なる確率変数の分布を表現することになる。その標本空間は、その分布の族が示している確率変数の族の定義域である。与えられたパラメータの集合は、そのパラメータを用いた共通の関数として密度関数を記述できる確率分布族の内の1つを指す。確率分布の観点からすると、パラメータは定数なので、密度関数に変数を含まずパラメータのみを含む場合、パラメータは分布の（定義域全域での確率=1になる様に調整する係数）の一部を成す。この正規化係数は分布のカーネル外にある。
パラメータが定数なので、さらに異なるパラメータで再パラメータ化して族の中に他の確率変数を位置付けることは、単に古いパラメータを捨てて式の中に新しいパラメータを置くだけに過ぎない。しかし、確率密度の定義域を変更することには慎重さが必要で、作業量が多くなる。下記の#従属変数と変数変換欄を参照。
個の連続型確率変数 について、通常結合確率密度関数と呼ばれる確率密度関数を定義することができる。この密度関数は 次元空間の定義域 中の 個の変数 を用いて、下記のように書くことができる。
もし がベクトル の分布関数ならば、結合確率密度関数を偏微分で導くことができる。
の時、 を変数 のみの関数（確率密度関数）とする。これは周辺密度関数と呼ばれ、確率変数 の確率密度から 以外の 個の変数を重積分することで求められる。
結合密度を構成する連続型確率変数 がいずれも独立である時、
である。
個の確率変数からなる結合密度関数が1つの変数の個の関数であり、
である（それぞれの は密度でなくともよい）ならば、個の変数はそれぞれ独立で、それぞれの周辺密度関数は下記で表される。
以下に2変数での基本的な例を記す。2次元の確率ベクトル を formula_23 とすると、 が共に正である第I象限で得られた formula_23 の確率は
である。
確率変数 の確率密度関数が である時、別変数の確率密度関数 を計算することができる。（多くの場合は必要ないが。）これは「変数変換」と呼ばれ、実際面では既知の（一様分布等）乱数生成器から任意の形の を導き出すことができる。
関数 が単調写像である時、その結果得られる密度関数は
である。ここで は逆写像である。
このことは微分範囲に含まれる確率が変数変換後も不変であることからも分かる。つまり、
または
である。一方、単調写像でない確率密度関数 は
（ は を満たす の解の数、 はその解）である。
これを見ると、期待値 を求めるためには最初に新たな確率変数 の確率密度 を求める必要があると思いたくなる。しかし、
を計算するよりはむしろ、
を計算する方がよい。
上記の式は、1つよりも多くの変数に依存する変数（ と書く）に一般化できる。 が依存する変数の確率密度関数を とすると、依存関係は で表される。このとき得られる確率密度関数は
となる。ただし積分は添え字の方程式の 次元の解全体を渡り、記号 は実際の計算にはこの解のパラメータ化に置き換えなければならない。変数 はもちろんこのパラメータ化の関数である。
これからより直感的な表現が導かれる。 を結合密度 の 次元確率変数とする。 を全単射で微分可能な関数として であるならば、 は密度 を持つ：
ここで微分は の逆関数のヤコビ行列の における値である。
独立性を仮定してデルタ関数を用いると、以下のように同じ結果が得られる。
独立な確率変数 の確率密度関数が で与えられる時、 の確率密度関数を計算できる。次の式は、 の確率密度関数 と をデルタ関数で結合するものである。
2つの独立な確率密度関数 と （それぞれが確率密度関数を持つ）の和は両確率密度関数の畳み込みで表される。
この関係は、個の独立な確率変数 の和に拡張できる。
これは下記に示す独立変数の商の場合と同様に、2通りの変数変換 と から導かれる。
2つの独立な確率変数 と がそれぞれ確率密度関数を持つ時、積：, 商： を変数変換によって計算することができる。
2つの独立な確率変数 と の商 は、次のように変換される。
この時、結合密度 は を に変数変換することで計算でき、 は結合密度から をことで導出できる。
その逆変換は、
である。
この変換のヤコビ行列 formula_41 は、
である。
と計算される。
この手法で を に変換する時に不可欠な条件が全単射である。上記の変換は が に直接逆写像され、与えられた について が単調写像であるので条件に適合している。これは、和：, 差：、積： においても同様である。
独立確率変数の積の他の関数についても全く同じ手法で計算することができる。
2つの標準正規分布変数 について、その比（商）は次のように求められる。
まず、変数はそれぞれ下記の密度関数を持つ。
これを先に述べたように変換する。
これから、
が導かれる。これは、標準コーシー分布である。