似然函数

在数理统计学中，似然函数（likelihood function）是一种关于统计模型中的参数的函数，表示模型参数中的似然性（likelihood）。似然函数在统计推论中有重大作用，如在最大似然估计和费雪信息之中的应用等等。文字意义上，“似然性”与“或然性”或“概率”意思相近，都是指某种事件发生的可能性，但是在统计学中，“似然性”和“概率”（或然性）有明确的区分：概率，用于在已知一些参数的情况下，预测接下来在观测上所得到的结果；似然性，则是用于在已知某些观测所得到的结果时，对有关事物之性质的参数进行估值，也就是说已观察到某事件后，对相关母数进行猜测。

在这种意义上，似然函数可以理解为条件概率的逆反。在已知某个参数B时，事件A会发生的概率写作：

$$P(A \mid B) = \frac{P(A , B)}{P(B)} \!$$

利用贝叶斯定理。

$$P(B \mid A) = \frac{P(A \mid B)\;P(B)}{P(A)} \!$$

因此，我们可以反过来构造表示似然性的方法：已知有事件A发生，运用似然函数$\mathbb{L}(B \mid A)$，我们估计或猜测参数B的不同值的可能性。形式上，似然函数也是一种条件概率函数，但我们关注的变量改变了：

$$b\mapsto P(A \mid B=b) \!$$

注意到这里并不要求似然函数满足归一性：$\sum_{b \in \mathcal{B}}P(A \mid B=b) = 1$。一个似然函数乘以一个正的常数之后仍然是似然函数。对所有$\alpha > 0$，都可以有似然函数：

$$L(b \mid A) = \alpha \; P(A \mid B=b) \!$$

## 例子

考虑投掷硬币的实验。通常来说，已知掷出一枚“公平的硬币”（即正面朝上和反面朝上的几率相同）时，正面（Head）朝上的概率为$p_H = 0.5$，我们可以此推论得知投掷若干次后出现各种结果的可能性。比如说，连续投两次都是正面朝上的概率是$0.25$。用条件概率表示，就是：

$$P(\mbox{HH} \mid p_H = 0.5) = 0.5^2 = 0.25$$

其中$\mbox{H}$表示正面朝上。

在统计学中，我们更关心的是在已知一系列投掷的结果时，关于单独投掷一次硬币时正面朝上的几率（即$p_H$）为何。我们实际上是无法从一系列投掷的结果来逆推真实的$p_H$，但是我们可以推估$p_H$是某个值的可能性为何。举例来说，假设因为这可能不是一枚真正“公平的硬币”，所以我们不知道$p_H$是多少，也无法计算投掷三次硬币其中两次是正面的几率是多少。现在如果我们真的实际去掷了三次硬币，结果其中两次为正面，那我们是否能够依此次实验逆推出$p_H$的资讯？如果无法逆推出真实的$p_H$，那我们有没有办法知道，譬如说$p_H=0.5$的可能性为何？$p_H=0.6$的可能性又为何？或甚至再更退一步，至少我们能不能知道$p_H=0.5$跟$p_H=0.6$哪一个比较有可能？

投掷一次硬币，正面朝上的几率用$p_H$来代表，它就是我们这个例子的母数，而我们用事件$\mbox{A}$来代表投掷三次硬币其中两次是正面这个事实。使用联合几率（joint probability）计算可知

$$P(\mbox{A} \mid p_H) = 3 \times p_H^2 \times (1-p_H)$$

我们首先假设$p_H=0.5$，则看到三次投掷中两次是正面的几率为$P(\mbox{A} \mid p_H=0.5) = 0.375$。再来如果假设$p_H=0.6$，则看到三次投掷中两次是正面的几率为$P(\mbox{A} \mid p_H=0.6) = 0.432$。显然地，如果$p_H=0.6$的话，我们看到两个正面的机会比较高。所以当我们投掷了三次硬币并且看到了两次正面，即使我们无法知道实际$p_H$到底是多少，我们至少知道$p_H$是$0.6$的可能性比是$0.5$的可能性还要高。我们可以合理猜测，$p_H$比较可能是$0.6$而非$0.5$。

这里我们就引进了概似性的概念：概似性代表某个母数为特定值的可能性。从上面例子得知在已观察到事件$\mbox{A}$的情况下，关于事件A的似然估计为

$$L(p_H \mid \mbox{A}) = P(\mbox{A} \mid p_H)$$

其中$p_H$为我们所要确定的参数。所以当我们投掷硬币三次，其中两次是正面，则$p_H=0.5$的概似性是$L(p_H=0.5 \mid \mbox{A})=P(\mbox{A} \mid p_H=0.5) = 0.375$，而$p_H=0.6$的概似性是$L(p_H=0.6 \mid \mbox{A})=P(\mbox{A} \mid p_H=0.6) = 0.432$。注意，$L(p_H=0.5 \mid \mbox{A}) = 0.375$并不是说当已知$\mbox{A}$发生了，则$p_H$为$0.5$的几率是$0.375$。概似性跟几率具有不同的意义。

若单独看$0.375$这个数字或$0.432$这个数字是没有意义的，因为概似性并不是几率，并不是一定介于$0$到$1$之间，而所有可能的$p_H$的概似性加起来也不是$1$，所以单独得知$L(p_H=0.5 \mid \mbox{A}) = 0.375$是没有意义的。概似性是用在把各种可能的$p_H$值放在一起比较，来得知哪个$p_H$值的可能性比较高。而概似函数（在这个例子中，即$L(p_H \mid \mbox{A}) = 3 \times p_H^2 \times (1-p_H)$），除了用来计算概似性外，则是用来了解当母数$p_H$改变时，概似性怎么变化，用来寻找最大可能性的$p_H$值会是多少。

<image>

<image>

图1所示为连续掷两次硬币都为正面的情况下（即此节开头的事件$\mbox{HH}$），$p_H$从$0$到$1$的概似性。我们可以看出最大概似性发生在$p_H=1$，所以当我们投掷硬币两次，两次都正面时，我们可以猜说$p_H$最有可能是$1$（即使实际上$p_H$也许是$0.5$，但我们无法知道这件事)。图2则为投掷硬币三次，其中两次为正面、一次为反面的情况下，$p_H$从$0$到$1$的概似性。最大概似性发生在$p_H=\frac{2}{3}$。所以当我们掷了三次硬币得到两次正面，最合理的猜测应该是$p_H=\frac{2}{3}$（同理，也许实际上$p_H=0.5$，但我们无从得知，所以只能做“最合理”猜测）。

我们可以得到一个结论：

```
      '''对同一个似然函数，其所代表的模型中，某项参数值具有多种可能，但如果存在一个参数值，使得概似函数值达到最大的话，那么这个值就是该项参数最为“合理”的参数值。'''
```

## 应用

### 最大似然估计

最大似然估计是似然函数最初也是最自然的应用。上文已经提到，似然函数取得最大值表示相应的参数能够使得统计模型最为合理。从这样一个想法出发，最大似然估计的做法是：首先选取似然函数（一般是概率密度函数或概率质量函数），整理之后求最大值点。实际应用中一般会取似然函数的对数作为求最大值的函数，这样求出的最大值点和直接求最大值点得到的结果是相同的。似然函数的最大值点不一定唯一，也不一定存在。与矩法估计比较，最大似然估计的精确度较高，信息损失较少，但计算量较大。

### 似然比检验

似然比检验是利用似然函数来检测某个假设（或限制）是否有效的一种检验。一般情况下，要检测某个附加的参数限制是否是正确的，可以将加入附加限制条件的较复杂模型的似然函数最大值与之前的较简单模型的似然函数最大值进行比较。如果参数限制是正确的，那么加入这样一个参数应当不会造成似然函数最大值的大幅变动。一般使用两者的比例来进行比较，这个比值是卡方分配。

内曼-皮尔逊引理说明，似然比检验是所有具有同等显著性差异的检验中最有统计效力的检验。