偏り
これは、実際に推定しようとしている量とは違うような平均値をもつ統計量を推定量として使ってしまうことをいう。逆にこの平均値が推定しようとしている量に等しい場合には、不偏推定量という。
推定量(観察データの関数) θ ^ {\displaystyle {\hat {\theta }}} を使って母数 θ を推定するとしよう。θ の偏りは:
E  ( θ ^ ) − θ {\displaystyle \operatorname {E} ({\hat {\theta }})-\theta }
と定義される。つまり「推定量の期待値と本当の値 θ との差」。書き換えると
E  ( θ ^ − θ ) {\displaystyle \operatorname {E} ({\hat {\theta }}-\theta )}
つまり「推定量と本当の値 θ との差の期待値」。
例えば X1, ..., Xn を独立で同じ分布に従うランダム変数でその期待値をμ, 分散(不偏分散)をσとし、
X ̄ = ( X 1 + ⋯ + X n ) / n {\displaystyle {\overline {X}}=(X_{1}+\cdots +X_{n})/n}
を標本平均、
S 2 = 1 n ∑ i = 1 n ( X i − X ̄ ) 2 {\displaystyle S^{2}={\frac {1}{n}}\sum _{i=1}^{n}(X_{i}-{\overline {X}}\,)^{2}}