クラメール・ラオの限界
母数が1つの場合のクラメール・ラオの不等式を一般的に証明する。
X {\displaystyle X} を、確率密度関数が f ( x ; θ ) {\displaystyle f(x;\theta )} となる確率分布に従う確率変数とし、 T = t ( X ) {\displaystyle T=t(X)} は X {\displaystyle X} の関数で、母数 θ {\displaystyle \theta } の関数である ψ ( θ ) {\displaystyle \psi (\theta )} の不偏推定量であるとする。つまり、 E  [ T ] = ψ ( θ ) {\displaystyle \operatorname {E} \left[T\right]=\psi (\theta )} 。
目標は、任意の θ {\displaystyle \theta } に対して
Var  ( t ( X ) ) ≥ [ ψ ′ ( θ ) ] 2 I ( θ ) {\displaystyle \operatorname {Var} (t(X))\geq {\frac {[\psi ^{\prime }(\theta )]^{2}}{I(\theta )}}}
を示すことである。
V {\displaystyle V} を次のように定義する(これはスコア関数である):
V = ∂ ∂ θ ln  f ( X ; θ ) = 1 f ( X ; θ ) ∂ ∂ θ f ( X ; θ ) {\displaystyle V={\frac {\partial }{\partial \theta }}\ln f(X;\theta )={\frac {1}{f(X;\theta )}}{\frac {\partial }{\partial \theta }}f(X;\theta )}
で定まる行列のことである。 T ( X ) {\displaystyle {\boldsymbol {T}}(X)} を、母数ベクトルの任意の推定量としよう: T ( X ) = ( T 1 ( X ) , ... , T d ( X ) ) T {\displaystyle {\boldsymbol {T}}(X)=(T_{1}(X),\ldots ,T_{d}(X))^{T}} 。ここで、各成分の平均を並べた平均ベクトル E  [ T ( X ) ] {\displaystyle \operatorname {E} [{\boldsymbol {T}}(X)]} を ψ ( θ ) {\displaystyle {\boldsymbol {\psi }}({\boldsymbol {\theta }})} と記す。
このとき、 T ( X ) {\displaystyle {\boldsymbol {T}}(X)} の分散共分散行列に対するクラメール・ラオの限界は、