耿贝尔分布

$\mu,$ location (real)$\beta>0,$ scale (real)

$$x\in\mathbb{R}$$

$\frac{1}{\beta}e^{-(z+e^{-z})}$ 其中$z=\frac{x-\mu}{\beta}$

$$e^{-e^{-(x-\mu)/\beta}}$$

$\mu + \beta\gamma$ 其中$\gamma$是Euler–Mascheroni常数

$$\mu - \beta\ln(\ln 2)$$

$$\mu$$

$$\frac{\pi^2}{6}\beta^2$$

$$\frac{12\sqrt{6}\,\zeta(3)}{\pi^3} \approx 1.14$$

$$\frac{12}{5}$$

$$\ln(\beta)+\gamma+1$$

$$\Gamma(1-\beta t) e^{\mu t}$$

$$\Gamma(1-i\beta t) e^{i\mu t}$$

$$\text{Gumbel}(\mu, \beta)$$

在概率论和统计学中，耿贝尔分布（Gumbel分布，也称为I 型广义极值分布）用于对各种分布的多个样本的最大值（或最小值）的分布进行建模。

如果有过去十年的水位最大值列表，则此分布可用于表示特定年份河流最高水位的分布。它有助于预测发生极端地震、洪水或其他自然灾害的可能性。耿贝尔分布表示最大值分布的潜在适用性与极值理论有关，这表明如果基础样本数据的分布是正态或指数类型，它可能是有用的。本文使用耿贝尔分布对最大值的分布进行建模。要对最小值建模，请使用原始值的负值。

耿贝尔分布是广义极值分布（也称为 Fisher-Tippett 分布）的一个特例。它也称为对数Weibull 分布和双指数分布（该术语有时也用于指代拉普拉斯分布）。它与Gompertz分布有关：在原点附近，并限制在正半线上时，就得到了 Gompertz 函数。

在多项式logistic回归模型的潜变量公式中——在离散选择法理论中很常见——潜在变量的误差服从 Gumbel 分布。这很有用，因为两个耿贝尔分布的随机变量的差服从logistic分布。

耿贝尔分布以Emil Julius Gumbel (1891 – 1966) 的名字命名，来自描述该分布的原始论文。

## 定义

耿贝尔分布的累积分布函数为

$$F(x;\mu,\beta) = e^{-e^{-(x-\mu)/\beta}}.\,$$

### 标准耿贝尔分布

标准的耿贝尔分布是$\mu = 0$和$\beta = 1$时的特例，其累积分布函数为

$$F(x) = e^{-e^{(-x)}}\,$$

概率密度函数为

$$f(x) = e^{-(x+e^{-x})}.$$

此时，众数为 0，中位数为$-\ln(\ln(2)) \approx 0.3665$，均值为$\gamma\approx 0.5772$ （欧拉-马斯刻若尼常数），标准差为$\pi/\sqrt{6} \approx 1.2825$。

对于 n>1，累积量由下式给出

$$\kappa_n = (n-1)! \zeta(n)$$

## 特性

众数为 μ，中位数为$\mu-\beta \ln\left(\ln 2\right)$，平均值是

$\operatorname{E}(X)=\mu+\gamma\beta$ ,

其中$\gamma$是欧拉-马斯刻若尼常数。

标准差 $\sigma$ 是$\beta \pi/\sqrt{6}$，因此$\beta = \sigma \sqrt{6} / \pi \approx 0.78 \sigma.$

在众数处，$x = \mu$，$F(x;\mu,\beta)$的值变为$e^{-1} \approx 0.37$，与$\beta$的取值无关。

## 相关分布

- 如果$X$具有耿贝尔分布，则Y= − X的条件分布在Y为正的情况下，或等效地在X为负的情况下具有Gompertz分布。Y的 cdf G与X的 cdf F相关，公式如下$G(y) = P(Y \le y) = P(X \ge -y | X \le 0) = (F(0)-F(-y))/F(0)$要求y > 0。因此，两者概率密度函数相关：$g(y) = f(-y)/F(0)$： Gompertz 密度与反射的 Gumbel 密度成正比，仅限于正半线。
- 如果X是均值为 1 的指数分布变量，则− log( X ) 服从标准 Gumbel 分布。
- 如果$X \sim \mathrm{Gumbel}(\alpha_X, \beta)$和$Y \sim \mathrm{Gumbel}(\alpha_Y, \beta)$是独立的，那么$X-Y \sim \mathrm{Logistic}(\alpha_X-\alpha_Y,\beta) \,$ （见Logistic分布）。
- 如果$X, Y \sim \mathrm{Gumbel}(\alpha, \beta)$是独立的，那么$X+Y \nsim \mathrm{Logistic}(2 \alpha,\beta)$。注意$E(X+Y) = 2\alpha+2\beta\gamma \neq 2\alpha = E\left(\mathrm{Logistic}(2 \alpha,\beta) \right)$。更一般地，独立 Gumbel 随机变量的线性组合的分布可以用 GNIG 和 GIG 分布来近似。

与广义多变量对数伽马分布相关的理论提供了耿贝尔分布的多变量版本。

## 应用

<image>

Gumbel 表明，随着样本量的增加，将服从指数分布的随机变量减去样本量的自然对数，其最大值的分布（或最后一阶统计量）接近耿贝尔分布。

具体来说，如果令$\rho(x)=e^{-x}$是$x$的概率分布，$Q(x)=1- e^{-x}$是其累积分布，那么对$x$的$N$次实现（realizations）的最大值小于$X$当且仅当所有$x$的实现都小于$X$。所以最大值的累积分布$\tilde{x}$满足：

$$P(\tilde{x}-\log(N)\le X)=P(\tilde{x}\le X+\log(N))=[Q(X+\log(N))]^N=\left(1- \frac{e^{-X}}{N}\right)^N$$

并且，对于较大的$N$，等式右边收敛到$e^{-e^{(-X)}}$。

因此，在水文学中，耿贝尔分布用于分析日降雨量和河流流量的月度和年度最大值等变量，也用于描述干旱。

Gumbel 还表明，表示事件的概率的估计量r——其中r是观察值在数据序列中的排名， n是观察的总数——是分布的众数周围的累积分布函数的无偏估计量。因此，这个估计量经常被用作分位图。

在数论中，耿贝尔分布近似于随机整数分拆的项数以及最大素数间隙和素数星座之间的最大间隙的趋势调整大小。

### Gumbel 重参数化技巧

在机器学习中，耿贝尔分布有时用于从分类分布中生成样本。这种技术称为“Gumbel-max技巧”，是“重参数化技巧”的一个特例。

具体而言，令$(\pi_1, ..., \pi_n)$非负且不全为零，并且让$g_1,..., g_n$是Gumbel(0, 1)的独立样本，则$$Pr(j = \arg\max_i (g_i + \log\pi_i)) = \frac{\pi_j}{\sum_i \pi_i}$$因此， $\arg\max_i (g_i + \log\pi_i) \sim \text{Categorical}\left(\frac{\pi_j}{\sum_i \pi_i}\right)_j$

等价地，给定任何$x_1, ..., x_n\in \R$，我们可以从它的玻尔兹曼分布中采样：$$Pr(j = \arg\max_i (g_i + x_i)) = \frac{e^{x_j}}{\sum_i e^{x_i}}$$相关等式包括：

- 如果$x\sim Exp(\lambda)$，那么$(-\ln x - \gamma)\sim \text{Gumbel}(-\gamma + \ln\lambda, 1)$。
- $\arg\max_i (g_i + \log\pi_i) \sim \text{Categorical}\left(\frac{\pi_j}{\sum_i \pi_i}\right)_j$。
- $\max_i (g_i + \log\pi_i) \sim \text{Gumbel}\left(-\gamma + \log\left(\sum_i \pi_i \right), 1\right)$。也就是说，Gumbel 分布是一个最大稳定分布族。
- $\mathbb E[\max_i (g_i + \beta x_i)] = \log \left(\sum_i e^{\beta x_i}\right)$。

## 随机变量生成

耿贝尔分布的分位数函数（逆累积分布函数） $Q(p)$可由下式给出

$$Q(p)=\mu-\beta\ln(-\ln(p)),$$

其中$\mu$和$\beta$是参数，当随机变量$U$是从$(0,1)$ 上的均匀分布中抽取时，变量$Q(U)$具有服从耿贝尔分布。

### 概率纸

<image>

在软件时代之前，人们使用概率纸描绘耿贝尔分布（见插图）。这种纸基于累积分布函数的$F$的线性化：

$$-\ln[-\ln(F)] = (x-\mu)/\beta$$

在纸上，水平轴以双对数刻度构建。垂直轴是线性的。通过在纸张的水平轴上寻找$F$，在垂直轴上寻找 $x$，耿贝尔分布由斜率为$1/\beta$ 的直线表示。当像CumFreq这样的分布拟合软件可用时，绘制分布的任务变得更加容易。

## 基本资料

- 日语原文：Gumbel
- pdf_image：

<image>

- cdf_image：

<image>

- parameters：$\mu,$ location (real)、$\beta>0,$ scale (real)
- 值域：$x\in\mathbb{R}$
- density：$\frac{1}{\beta}e^{-(z+e^{-z})}$、其中$z=\frac{x-\mu}{\beta}$
- 累积分布函数：$e^{-e^{-(x-\mu)/\beta}}$
- 期望值：$\mu + \beta\gamma$、其中$\gamma$是Euler–Mascheroni常数
- 中位数：$\mu - \beta\ln(\ln 2)$
- 众数：$\mu$
- density：$\frac{\pi^2}{6}\beta^2$
- 偏度：$\frac{12\sqrt{6}\,\zeta(3)}{\pi^3} \approx 1.14$
- 峰度：$\frac{12}{5}$
- 熵：$\ln(\beta)+\gamma+1$
- mgf：$\Gamma(1-\beta t) e^{\mu t}$
- 特征函数：$\Gamma(1-i\beta t) e^{i\mu t}$
- 记号：$\text{Gumbel}(\mu, \beta)$