確率密度関数
その標本空間は、その分布の族が示している確率変数の族の定義域である。与えられたパラメータの集合は、そのパラメータを用いた共通の関数として確率密度関数を記述できる確率分布族の内の1つを指す。確率分布の観点からすると、パラメータは定数なので、確率密度関数に変数を含まずパラメータのみを含む場合、パラメータは分布の正規化係数(英語版)(定義域全域での確率=1になる様に調整する係数)の一部を成す。この正規化係数は分布のカーネル(英語版)外にある。
パラメータが定数なので、さらに異なるパラメータで再パラメータ化して族の中に他の確率変数を位置付けることは、単に古いパラメータを捨てて式の中に新しいパラメータを置くだけに過ぎない。しかし、確率密度の定義域を変更することには慎重さが必要で、作業量が多くなる。下記の#従属変数と変数変換欄を参照。
(この定義は確率の公理によりあらゆる確率分布に拡張できる。)
可測空間 ( X , A ) {\displaystyle ({\mathcal {X}},{\mathcal {A}})} (通常、R に可測集合としてボレル集合を考えたもの)中に存在する確率変数 X は、 ( X , A ) {\displaystyle ({\mathcal {X}},{\mathcal {A}})} 中に測度 X∗P で確率分布する。 ( X , A ) {\displaystyle ({\mathcal {X}},{\mathcal {A}})} 中の標準測度 μ に関する X の密度は、ラドン=ニコディムの定理より
f = d X ∗ P d μ {\displaystyle f={\frac {dX_{*}P}{d\mu }}}
である。これは、f は次の性質を持つ任意の可測関数であることを意味する。あらゆる可測集合 A ∈ A {\displaystyle A\in {\mathcal {A}}} に対して、
P  ( X ∈ A ) = ∫ X − 1 A d P = ∫ A f d μ {\displaystyle \operatorname {P} (X\in A)=\int _{X^{-1}A}\,dP=\int _{A}f\,d\mu }