此條目介紹的是统计估计量的偏差。关于统计学中其他用法，请见「**偏差**」。

在统计学中，估计量的**偏差**（或**偏差函数**）是此估计量的期望值与估计参数的真值之差。偏差为零的估计量或决策规则称为**无偏的**。否则该估计量是**有偏的**。在统计中，"偏差"是一个函数的客观陈述。

偏差也可以相对于中位數来衡量，而非相对于均值（期望值），在这种情况下为了与通常的"均值"无偏性区别，称作"中值"无偏。偏差与一致性相关联，一致估计量都是收敛并且*渐进*无偏的（因此会收敛到正确的值），虽然一致序列中的个别估计量可能是有偏的（只要偏差收敛于零）；参见偏差与一致性。

当其他量相等时，无偏估计量比有偏估计量更好一些，但在实践中，并不是所有其他统计量的都相等，于是也经常使用有偏估计量，一般偏差较小。当使用一个有偏估计量时，也会估计它的偏差。有偏估计量可能用于以下原因：由于如果不对总体进一步假设，无偏估计量不存在或很难计算（如标准差的无偏估计（英语：））；由于估计量是中值无偏的，却不是均值无偏的（或反之）；由于一个有偏估计量较之无偏估计量（特别是收缩估计量（英语：））可以减小一些损失函数（尤其是均方差）；或者由于在某些情况下，无偏的条件太强，这种情况无偏估计量不是必要的。此外，在非线性变换下均值无偏性不会保留，不过中值无偏性会保留（参见变换的效应）；例如样本方差是总体方差的无偏估计量，但它的平方根標準差则是总体标准差的有偏估计量。下面会进行说明。

定义
--

设我们有一个参数为实数 *θ* 的概率模型，产生观测数据的概率分布 {\displaystyle P\_{\theta }(x)=P(x\mid \theta )}，而统计量 {\displaystyle {\hat {\theta }}} 是基于任何观测数据 x 下 *θ* 的估计量。也就是说，我们假定我们的数据符合某种未知分布 {\displaystyle P\_{\theta }(x)=P(x\mid \theta )}（其中 *θ* 是一个固定常数，而且是该分布的一部分，但具体值未知），于是我们构造估计量 {\displaystyle {\hat {\theta }}}，该估计量将观测数据与我们希望的接近 *θ* 的值对应起来。因此这个估量的（相对于参数 *θ*的）**偏差**定义为

{\displaystyle \operatorname {Bias} \_{\theta }[\,{\hat {\theta }}\,]=\operatorname {E} \_{\theta }[\,{\hat {\theta }}\,]-\theta =\operatorname {E} \_{\theta }[\,{\hat {\theta }}-\theta \,],}
其中 {\displaystyle \operatorname {E} \_{\theta }} 表示分布 {\displaystyle P\_{\theta }(x)=P(x\mid \theta )} 的期望值，即对所有可能的观测值 x 取平均。由于 *θ* 对于条件分布 {\displaystyle P(x\mid \theta )} 是可测的，就有了第二个等号。

对于参数 *θ* 的所有值的偏差都等于零的估计量称为**无偏**估计量。

在一次关于估计量性质的模拟实验中，估计量的偏差可以用平均有符号离差（英语：）来评估。

例子
--

### 样本方差

条目：样本方差
随机变量的样本方差从两方面说明了估计量偏差：首先，自然估计量（）是有偏的，可以通过比例因子校正；其次，无偏估计量的均方差（MSE）不是最优的，可以用一个不同的比例因子来最小化，得到一个比无偏估计量的MSE更小的有偏估计量。

具体地说，自然估计量就是将离差平方和加起来然后除以 *n*，是有偏的。不过除以 *n* − 1 会得到一个无偏估计量。相反，MSE可以通过除以另一个数来最小化（取决于分布），但这会得到一个有偏估计量。这个数总会比 *n* − 1 大，所以这就叫做收缩估计量（英语：），因为它把无偏估计量向零"收缩"；对于正态分布，最佳值为 *n* + 1。

设 *X*1, ... *X**n* 是期望为 *μ*、方差为 *σ*2 的独立同分布（i.i.d.）随机变量。如果样本均值与未修正样本方差定义为

{\displaystyle {\overline {X}}={\frac {1}{n}}\sum \_{i=1}^{n}X\_{i},\qquad S^{2}={\frac {1}{n}}\sum \_{i=1}^{n}\left(X\_{i}-{\overline {X}}\,\right)^{2},}
则 *S*2 是 *σ*2 的一个有偏估计量，因为

{\displaystyle {\begin{aligned}\operatorname {E} [S^{2}]&=\operatorname {E} \left[{\frac {1}{n}}\sum \_{i=1}^{n}{\big (}X\_{i}-{\overline {X}}{\big )}^{2}\right]=\operatorname {E} {\bigg [}{\frac {1}{n}}\sum \_{i=1}^{n}{\bigg (}(X\_{i}-\mu )-({\overline {X}}-\mu ){\bigg )}^{2}{\bigg ]}\\[8pt]&=\operatorname {E} {\bigg [}{\frac {1}{n}}\sum \_{i=1}^{n}{\bigg (}(X\_{i}-\mu )^{2}-2({\overline {X}}-\mu )(X\_{i}-\mu )+({\overline {X}}-\mu )^{2}{\bigg )}{\bigg ]}\\[8pt]&=\operatorname {E} {\bigg [}{\frac {1}{n}}\sum \_{i=1}^{n}(X\_{i}-\mu )^{2}-{\frac {2}{n}}({\overline {X}}-\mu )\sum \_{i=1}^{n}(X\_{i}-\mu )+{\frac {1}{n}}({\overline {X}}-\mu )^{2}\sum \_{i=1}^{n}1{\bigg ]}\\[8pt]&=\operatorname {E} {\bigg [}{\frac {1}{n}}\sum \_{i=1}^{n}(X\_{i}-\mu )^{2}-{\frac {2}{n}}({\overline {X}}-\mu )\sum \_{i=1}^{n}(X\_{i}-\mu )+{\frac {1}{n}}({\overline {X}}-\mu )^{2}\cdot n{\bigg ]}\\[8pt]&=\operatorname {E} {\bigg [}{\frac {1}{n}}\sum \_{i=1}^{n}(X\_{i}-\mu )^{2}-{\frac {2}{n}}({\overline {X}}-\mu )\sum \_{i=1}^{n}(X\_{i}-\mu )+({\overline {X}}-\mu )^{2}{\bigg ]}\\[8pt]\end{aligned}}}
换句话说，未修正的样本方差的期望值不等于总体方差 *σ*2，除非乘以归一化因子。而样本均值是总体均值 *μ* 的无偏估计量。

*S*2 是有偏的原因源于样本均值是 *μ* 的普通最小二乘（英语：）（OLS）估计量这个事实：\overline{X} 是令 {\displaystyle \sum \_{i=1}^{n}(X\_{i}-{\overline {X}})^{2}} 尽可能小的数。也就是说，当任何其他数代入这个求和中时，这个和只会增加。尤其是，在选取 {\displaystyle \mu \neq {\overline {X}}} 就会得出，

{\displaystyle {\frac {1}{n}}\sum \_{i=1}^{n}(X\_{i}-{\overline {X}})^{2}<{\frac {1}{n}}\sum \_{i=1}^{n}(X\_{i}-\mu )^{2},}
于是

{\displaystyle {\begin{aligned}\operatorname {E} [S^{2}]&=\operatorname {E} {\bigg [}{\frac {1}{n}}\sum \_{i=1}^{n}(X\_{i}-{\overline {X}})^{2}{\bigg ]}<\operatorname {E} {\bigg [}{\frac {1}{n}}\sum \_{i=1}^{n}(X\_{i}-\mu )^{2}{\bigg ]}=\sigma ^{2}.\end{aligned}}}
注意到，通常的样本方差定义为

{\displaystyle s^{2}={\frac {1}{n-1}}\sum \_{i=1}^{n}(X\_{i}-{\overline {X}}\,)^{2},}
而这时总体方差的无偏估计量。可以由下式看出：

{\displaystyle \operatorname {E} {\big [}({\overline {X}}-\mu )^{2}{\big ]}={\frac {1}{n}}\sigma ^{2}.}
方差的有偏（未修正）与无偏估计之比称为贝塞尔修正（英语：）。

参见
--

* 點估計
* 忽略变量偏差（英语：）
* 一致估计量
* 估计理论
* 期望损失（英语：）
* 期望值
* 损失函数
* 中位數
* 决策论
* 乐观偏差（英语：）

* icon科学主题
* 统计学主题

参考文献
----

* Brown, George W. "On Small-Sample Estimation." *The Annals of Mathematical Statistics*, vol. 18, no. 4 (Dec. 1947), pp. 582–585. JSTOR 2236236.
* Lehmann, E. L.（英语：） "A General Concept of Unbiasedness" *The Annals of Mathematical Statistics*, vol. 22, no. 4 (Dec. 1951), pp. 587–592. JSTOR 2236928.
* Allan Birnbaum（英语：）, 1961. "A Unified Theory of Estimation, I", *The Annals of Mathematical Statistics*, vol. 32, no. 1 (Mar. 1961), pp. 112–135.
* Van der Vaart, H. R. 1961. "Some Extensions of the Idea of Bias" *The Annals of Mathematical Statistics*, vol. 32, no. 2 (June 1961), pp. 436–447.
* Pfanzagl, Johann. 1994. *Parametric Statistical Theory*. Walter de Gruyter.
* Stuart, Alan; Ord, Keith; Arnold, Steven [F.].. Kendall's Advanced Theory of Statistics **2A**. Wiley. 2010. ISBN 0-4706-8924-2. .
* Voinov, Vassily [G.]; Nikulin, Mikhail [S.].. 1: Univariate case. Dordrect: Kluwer Academic Publishers. 1993. ISBN 0-7923-2382-3.
* Voinov, Vassily [G.]; Nikulin, Mikhail [S.].. 2: Multivariate case. Dordrect: Kluwer Academic Publishers. 1996. ISBN 0-7923-3939-8.
* Klebanov, Lev [B.]; Rachev, Svetlozar [T.]; Fabozzi, Frank [J.].. New York: Nova Scientific Publishers. 2009. ISBN 978-1-60741-768-2.

外部链接
----

* Hazewinkel, Michiel (编), , Springer, 2001, ISBN 978-1-55608-010-4

|  |  |  |  |  |  |  |  |  |  |  |  |  |  |  |  |
| --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- |
| 

| * 
* 论
* 编
認知偏誤 |
| --- |
|  |
| 認知與決策偏誤 | 
* 不明確性效應
* 定錨效應
* 注意力偏誤
* 可得性捷思法
* 從眾效應
* 巴納姆效應
* 信念偏誤
* 偏见盲点
* 啦啦隊效應
* 支持選擇偏誤
* 集群錯覺
* 鸡尾酒会效应
* 確認偏誤
* 相合性偏誤
* 文化偏误
* 知識的詛咒
* 誘餌效應
* 差異偏差（英语：）
* 过程时间忽视（英语：）
* 自我中心（英语：）
* 移情隔閡
* 禀赋效应
* 不當類比
* 草率歸納
* 框架效應
* 功能固着
* 投射作用
* 史學家謬誤
* 基本归因
* 达克效应
* 晕轮效应
* 难易效应
* 后见之明
* 敌对媒体效应
* 尖角效应
* 可辨識受害者效應
* 宜家效應
* 控制的錯覺
* 效度的錯覺
* 錯覺相關
* 影響力偏誤（英语：）
* 資訊偏誤
* 妄下结论
* 公正世界理论
* 損失趨避
* 多看效應
* 心靈投射謬誤
* 負面偏誤
* 忽略可能性
* 正常化偏誤
* 不作为偏误
* 乐观偏误
* 鸵鸟效应
* 結果偏誤
* 過度自信效應
* 空想性错视
* 悲观偏误
* 規劃謬誤
* 當下偏誤（英语：）
* 迴歸謬誤
* 自利性
* 现状偏差
* 刻板印象
* 单位偏误
* 斯德哥爾摩症候群
* 熟悉路線效應
* 主观验证
* 倖存者偏誤
* 雷斯多夫效應
* 一廂情願
* 零风险偏误
* 姓名决定论
* 生日数字效应
* 姓名字母效应

 |
|  |
| 統計與機率偏誤 | 
* 基本比率謬誤
* 合取谬误
* 辯護人謬誤
* 估计量偏差
* 賭徒謬誤
* 逆賭徒謬誤
* 熱手謬誤
* 檢察官謬誤
* 选择偏误（英语：）
* 多重比較謬誤
* 德州神槍手謬誤
* 戲局謬誤

 |
|  |
| 其他偏误 | 
* 偏误类型（維基數據所列：）
* 归纳偏置
* 全文偏误
* 教育中的偏误（英语：）
* 媒體偏見
	+ 虚假平衡
	+ 美国新闻媒体与越南战争（英语：）
	+ 南亚的媒体偏见（英语：）
	+ 美国的媒体偏见（英语：）
	+ 媒体对阿以冲突的报道（英语：）
	+ 媒體對烏克蘭危機的報導
* 發表偏差
* 白帽子偏误（英语：）

 |
|  |
| 应对方法 | 
* 认知偏差缓解（英语：）
* 除偏（英语：）
* 判断与决策中的启发式方法（英语：）

 |
|  |
| 
* 主题 主题
	+ 偏误类型（維基數據所列：）
* 分类 分類
* 列表级条目 列表

 |

 |


1. ↑  Richard Arnold Johnson; Dean W. Wichern.. Pearson Prentice Hall. 2007  [10 August 2012]. ISBN 978-0-13-187715-3. （原始内容存档于2016-05-29）.