推定量
以下、var(X) はX の分散、E(X) はX の期待値を表す。
θ ^ {\displaystyle {\widehat {\theta }}} の平均二乗誤差は、 MSE  ( θ ^ ) = E  [ ( θ ^ − θ ) 2 ] {\displaystyle \operatorname {MSE} ({\widehat {\theta }})=\operatorname {E} [({\widehat {\theta }}-\theta )^{2}]} と定義される。
MSE  ( θ ^ ) = var  ( θ ^ ) + ( B ( θ ^ ) ) 2 {\displaystyle \operatorname {MSE} ({\widehat {\theta }})=\operatorname {var} ({\widehat {\theta }})+(B({\widehat {\theta }}))^{2}}
つまり、平均二乗誤差 = 分散 + (偏りの二乗)である。
Θ の推定量の標準偏差(分散の平方根)、つまりθ の推定量の標準偏差の推定関数を、θ の標準誤差という。
このほか、推定量の望ましい性質に関する概念には次のようなものがある。