逆威沙特分布

$m > p-1\!$ 自由度 (实数)$\mathbf{\Psi} > 0\,$ 尺度矩阵 (正定)

$\mathbf{W}\!$是正定的

$$\frac{\left|{\mathbf\Psi}\right|^{m/2}\left|B\right|^{-(m+p+1)/2}e^{-\mathrm{trace}({\mathbf\Psi}{\mathbf B}^{-1})/2} }{2^{mp/2}\Gamma_p(m/2)}$$

$$\frac{\mathbf{\Psi}}{m - p - 1}$$

$\frac{\mathbf{\Psi}}{m + p + 1}$

逆威沙特分布，也叫反威沙特分布作是统计学中出现的一类概率分布函数，定义在实值的正定矩阵上。在贝叶斯统计中，逆威沙特分布会用作多变量正态分布协方差矩阵的共轭先验分布。

如果一个正定矩阵 ${\mathbf B}$ 的逆矩阵 $\mathbf{B}^{-1}$ 遵从威沙特分布 $W({\mathbf \Psi}^{-1}, m)$ 的话，那么就说矩阵 ${\mathbf B}$ 遵从逆威沙特分布：

$$\mathbf{B}\sim W^{-1}({\mathbf\Psi},m)$$

## 概率密度函数

逆威沙特分布的概率密度函数是：

$$\frac{ \left|{\mathbf\Psi}\right|^{m/2}\left|\mathbf{B}\right|^{-(m+p+1)/2}e^{-\mathrm{trace}({\mathbf\Psi}{\mathbf B}^{-1})/2} }{ 2^{mp/2}\Gamma_p(m/2)},$$

其中 ${\mathbf B}$ 和 ${\mathbf\Psi}$ 都是 $p\times p$ 的正定矩阵，而Γp(·) 则是多变量伽马分布。函数

$$\mathrm{trace} \; : \quad \mathbf{M} \quad \rightarrow \quad \mathrm{trace}(\mathbf{M})$$

指的是迹函数。

## 相关定理

### 威沙特分布矩阵之逆的概率分布

设矩阵${\mathbf A}\sim W({\mathbf\Sigma},m)$ 并且 ${\mathbf\Sigma}$ 是$p \times p$ 的矩阵，那么 ${\mathbf B}={\mathbf A}^{-1}$ 遵从逆威沙特分布：${\mathbf B}\sim W^{-1}({\mathbf\Sigma}^{-1},m)$。它的概率密度函数是：

$$p(\mathbf{B}|\mathbf{\Psi},m) = \frac{ \left|{\mathbf\Psi}\right|^{m/2}\left|\mathbf{B}\right|^{-(m+p+1)/2}\exp\left({-\mathrm{tr}({\mathbf\Psi}{\mathbf B}^{-1})/2}\right) }{ 2^{mp/2}\Gamma_p(m/2)}$$

其中 $\mathbf{\Psi} = \mathbf{\Sigma}^{-1}$，而 $\Gamma_p(\cdot)$ 是多变量伽马分布。

### 威沙特分布矩阵之逆的边际与条件分布

设矩阵 ${\mathbf A}\sim W^{-1}({\mathbf\Psi},m)$ 遵从逆威沙特分布。并且假设矩阵 ${\mathbf A}$ 和 ${\mathbf\Psi}$ 都有相适合的分块矩阵表示方式：

$$<pre> {\mathbf{A}} = \begin{bmatrix} \mathbf{A}_{11} & \mathbf{A}_{12} \\ \mathbf{A}_{21} & \mathbf{A}_{22} \end{bmatrix}, \; {\mathbf{\Psi}} = \begin{bmatrix} \mathbf{\Psi}_{11} & \mathbf{\Psi}_{12} \\ \mathbf{\Psi}_{21} & \mathbf{\Psi}_{22} \end{bmatrix} </pre>$$

其中子矩阵 ${\mathbf A_{ij}}$ 和 ${\mathbf \Psi_{ij}}$ 是 $p_{i}\times p_{j}$ 的矩阵，那么会有：

甲）${\mathbf A_{11} }$ 和 ${\mathbf A}_{11}^{-1}{\mathbf A}_{12}$ 与 ${\mathbf A}_{22\cdot 1}$ 相互独立，其中 ${\mathbf A_{22\cdot 1}} = {\mathbf A}_{22} - {\mathbf A}_{21}{\mathbf A}_{11}^{-1}{\mathbf A}_{12}$ 是子矩阵 ${\mathbf A_{11} }$ 在 ${\mathbf A}$ 中的舒尔补。

乙） ${\mathbf A_{11} } \sim W^{-1}({\mathbf \Psi_{11} }, m-p_{2})$;

丙） ${\mathbf A}_{11}^{-1} {\mathbf A}_{12}| {\mathbf A}_{22\cdot 1} \sim MN_{p_{1}\times p_{2}} ( {\mathbf \Psi}_{11}^{-1} {\mathbf \Psi}_{12}, {\mathbf A}_{22\cdot 1} \otimes {\mathbf \Psi}_{11}^{-1})$，其中 $MN_{p\times q}(\cdot,\cdot)$ 是矩阵正态分布。

丁）${\mathbf A}_{22\cdot 1} \sim W^{-1}({\mathbf \Psi}_{22\cdot 1}, m)$

### 共轭分布

假设要求先验分布 ${p(\mathbf{\Sigma})}$ 为逆威沙特分布 $W^{-1}({\mathbf\Psi},m)$ 的协方差矩阵${\mathbf{\Sigma}}$。如果观测值$\mathbf{X}=[\mathbf{x}_1,\ldots,\mathbf{x}_n]$ 是从互相独立的 p-变量正态分布 $N(\mathbf{0},{\mathbf \Sigma})$ 的随机变量得到的，那么条件分布${p(\mathbf{\Sigma}|\mathbf{X})}$ 遵从的是逆威沙特分布：$W^{-1}({\mathbf A}+{\mathbf\Psi},n+m)$。其中 ${\mathbf{A}}=\mathbf{X}\mathbf{X}^T$ 是样本协方差矩阵的$n$倍。

因此，逆威沙特矩阵是多变量正态分布的共轭先验分布。

### 矩相关特性

期望值：

$$E(\mathbf B) = \frac{\mathbf\Psi}{m-p-1}.$$

矩阵 $\mathbf{B}$ 的每一个系数的方差：

$$\mbox{var}(b_{ij}) = \frac{(m-p+1)\psi_{ij}^2 + (m-p-1)\psi_{ii}\psi_{jj}} {(m-p)(m-p-1)^2(m-p-3)}$$

对角系数的方差是在上式中令 $i=j$ 得到，化简后变成：

$$\mbox{var}(b_{ii}) = \frac{2\psi_{ii}^2}{(m-p-1)^2(m-p-3)}.$$

## 相关分布

当变量数目减到一个的时候，逆威沙特分布会变成特例：逆伽马分布。也就是说，当 $p=1$、$\alpha = m/2$、$\beta = \mathbf{\Psi}/2$ 以及 $x=\mathbf{B}$ 的时候，逆威沙特分布的概率密度函数是：

$$p(x|\alpha, \beta) = \frac{\beta^\alpha\, x^{-\alpha-1} \exp(-\beta/x)}{\Gamma_1(\alpha)}.$$

这正是逆伽马分布。其中 $\Gamma_1(\cdot)$ 是通常的伽马函数。

而逆威沙特分布也有推广，其中一个是正态逆威沙特分布。