偏差信息量准则

偏差信息量准则（，DIC）是等级模型化的赤池信息量准则（AIC），被广泛应用于由马尔可夫链蒙特卡洛（MCMC）所模拟的后验分布的贝叶斯模型选择问题。然而，該項准則由於與赤池信息量准则同为僅随样本容量增加的渐近近似，因此只可应用于后验分布呈多元正态分布的情况。

定义
定义偏差（）为 ，其中  为数据， 是模型中的未知参量， 是似然函数， 是常量。

有两种计算模型参数的有效数量 的方法。一种是 ，其中   是  的期望。
第二种是  。
有效数量 越大，模型的参数就越多，模型就越容易拟合数据，但也需要更小的偏差。

偏差信息量准则  被定义为
，
或等效于
。
从第二种定义更能看出它和赤池信息量准则的联系。

应用
一般而言，偏差信息量准则  的值越小，模型越好。这一准则的优点是它很容易从马尔可夫链蒙特卡洛（MCMC）模拟产生的样本中计算出来。

参见
 赤池信息量准则
 相对熵

参考文献

 Ando, T. (2010). Bayesian Model Selection and Statistical Modeling, CRC Press. Chapter 7.

 Claeskens, G, and Hjort, N.L. (2008). Model Selection and Model Averaging, Cambridge. Section 3.5.

 van der Linde, A. (2005). "DIC in variable selection", Statistica Neerlandica, 59: 45-56. doi:10.1111/j.1467-9574.2005.00278.x

外部链接




Category:迴歸變數選擇
Category:贝叶斯统计