Gumbel分布

在機率論和統計學中，**耿貝爾分布**（**Gumbel 分布**，也稱為 **I 型廣義極值分布**）用於對各種分布的多個樣本的最大值（或最小值）的分布進行建模。

如果有過去十年的水位最大值列表，則此分布可用於表示特定年份河流最高水位的分布。它有助於預測發生極端地震、洪水或其他自然災害的可能性。 耿貝爾分布表示最大值分布的潛在適用性與極值理論有關，這表明如果基礎樣本數據的分布是正態或指數類型，它可能是有用的。本文使用耿貝爾分布對最大值的分布進行建模。要對最小值建模，請使用原始值的負值。

耿貝爾分布是廣義極值分布（也稱為 Fisher-Tippett 分布）的一個特例。它也稱為對數 Weibull 分布和雙指數分布（該術語有時也用於指代拉普拉斯分布）。它與 Gompertz 分布有關：在原點附近，並限制在正半線上時，就得到了 Gompertz 函數。

在多項式 logistic 回歸模型的潛變量公式中 —— 在離散選擇法理論中很常見 —— 潛在變量的誤差服從 Gumbel 分布。這很有用，因為兩個耿貝爾分布的隨機變量的差服從 logistic 分布。

耿貝爾分布以 Emil Julius Gumbel (1891 – 1966) 的名字命名，來自描述該分布的原始論文。 

## 定義

耿貝爾分布的累積分布函數為

　
: $F(x;\mu ,\beta )=e^{-e^{-(x-\mu )/\beta }}.\,$

### 標準耿貝爾分布

標準的耿貝爾分布是 $\mu =0$ 和 $\beta =1$ 時的特例，其累積分布函數為

　
: $F(x)=e^{-e^{(-x)}}\,$

機率密度函數為

　
: $f(x)=e^{-(x+e^{-x})}.$

此時，眾數為 0，中位數為 $-\ln(\ln(2))\approx 0.3665$ ，均值為 $\gamma \approx 0.5772$ （ 歐拉 - 馬斯刻若尼常數），標準差為 $\pi /{\sqrt {6}}\approx 1.2825$ 。

對於 n>1，累積量由下式給出

　
: $\kappa _{n}=(n-1)!\zeta (n)$

## 特性

眾數為 μ，中位數為 $\mu -\beta \ln \left(\ln 2\right)$ ，平均值是

　
: $\operatorname {E} (X)=\mu +\gamma \beta $ ,

其中 $\gamma $ 是歐拉 - 馬斯刻若尼常數。

標準差 $\sigma $ 是 $\beta \pi /{\sqrt {6}}$ ，因此 $\beta =\sigma {\sqrt {6}}/\pi \approx 0.78\sigma .$ 

在眾數處， $x=\mu $ ， $F(x;\mu ,\beta )$ 的值變為 $e^{-1}\approx 0.37$ ，與 $\beta $ 的取值無關。

## 相關分布

* 如果 $X$ 具有耿貝爾分布，則 _Y= − X_ 的條件分布在 _Y_ 為正的情況下，或等效地在 _X_ 為負的情況下具有 Gompertz 分布。 _Y_ 的 cdf _G_ 與 _X_ 的 cdf _F_ 相關，公式如下 $G(y)=P(Y\leq y)=P(X\geq -y|X\leq 0)=(F(0)-F(-y))/F(0)$ 要求 _y_ > 0。因此，兩者機率密度函數相關： $g(y)=f(-y)/F(0)$ ： Gompertz 密度與反射的 Gumbel 密度成正比，僅限於正半線。
* 如果 _X_ 是均值為 1 的指數分布變量，則− log ( _X_ ) 服從標準 Gumbel 分布。
* 如果 $X\sim \mathrm {Gumbel} (\alpha _{X},\beta )$ 和 $Y\sim \mathrm {Gumbel} (\alpha _{Y},\beta )$ 是獨立的，那麼 $X-Y\sim \mathrm {Logistic} (\alpha _{X}-\alpha _{Y},\beta )\,$ （見 Logistic 分布）。
* 如果 $X,Y\sim \mathrm {Gumbel} (\alpha ,\beta )$ 是獨立的，那麼 $X+Y\nsim \mathrm {Logistic} (2\alpha ,\beta )$ 。注意 $E(X+Y)=2\alpha +2\beta \gamma \neq 2\alpha =E\left(\mathrm {Logistic} (2\alpha ,\beta )\right)$ 。更一般地，獨立 Gumbel 隨機變量的線性組合的分布可以用 GNIG 和 GIG 分布來近似。

與廣義多變量對數伽馬分布相關的理論提供了耿貝爾分布的多變量版本。

## 應用

Gumbel 表明，隨著樣本量的增加，將服從指數分布的隨機變量減去樣本量的自然對數，其最大值的分布（或最後一階統計量）接近耿貝爾分布。 

具體來說，如果令 $\rho (x)=e^{-x}$ 是 $x$ 的機率分布， $Q(x)=1-e^{-x}$ 是其累積分布，那麼對 $x$ 的 $N$ 次實現（realizations）的最大值小於 $X$ 若且唯若所有 $x$ 的實現都小於 $X$ 。所以最大值的累積分布 ${\tilde {x}}$ 滿足：

　
: $P({\tilde {x}}-\log(N)\leq X)=P({\tilde {x}}\leq X+\log(N))=[Q(X+\log(N))]^{N}=\left(1-{\frac {e^{-X}}{N}}\right)^{N}$

並且，對於較大的 $N$ ，等式右邊收斂到 $e^{-e^{(-X)}}$ 。

因此，在水文學中，耿貝爾分布用於分析日降雨量和河流流量的月度和年度最大值等變量， 也用於描述乾旱。 

Gumbel 還表明，表示事件的機率的估計量 r⁄(_n_+1)—— 其中 _r_ 是觀察值在數據序列中的排名， _n_ 是觀察的總數 —— 是分布的眾數周圍的累積分布函數的無偏估計量。因此，這個估計量經常被用作分位圖。

在數論中，耿貝爾分布近似於隨機整數分拆的項數以及最大素數間隙和素數星座之間的最大間隙的趨勢調整大小。 

### Gumbel 重母數化技巧

在機器學習中，耿貝爾分布有時用於從分類分布中生成樣本。這種技術稱為「Gumbel-max 技巧」，是「重母數化技巧」的一個特例。 

具體而言，令 $(\pi _{1},...,\pi _{n})$ 非負且不全為零，並且讓 $g_{1},...,g_{n}$ 是 Gumbel (0, 1) 的獨立樣本，則

因此， $\arg \max _{i}(g_{i}+\log \pi _{i})\sim {\text{Categorical}}\left({\frac {\pi _{j}}{\sum _{i}\pi _{i}}}\right)_{j}$
等價地，給定任何 $x_{1},...,x_{n}\in \mathbb {R} $ ，我們可以從它的玻爾茲曼分布中採樣：

相關等式包括： 
* 如果 $x\sim Exp(\lambda )$ ， 那麼 $(-\ln x-\gamma )\sim {\text{Gumbel}}(-\gamma +\ln \lambda ,1)$ 。
* $\arg \max _{i}(g_{i}+\log \pi _{i})\sim {\text{Categorical}}\left({\frac {\pi _{j}}{\sum _{i}\pi _{i}}}\right)_{j}$ 。
* $\max _{i}(g_{i}+\log \pi _{i})\sim {\text{Gumbel}}\left(-\gamma +\log \left(\sum _{i}\pi _{i}\right),1\right)$ 。也就是說，Gumbel 分布是一個最大穩定分布族。
* $\mathbb {E} [\max _{i}(g_{i}+\beta x_{i})]=\log \left(\sum _{i}e^{\beta x_{i}}\right)$ 。

## 隨機變量生成

耿貝爾分布的分位數函數（逆累積分布函數） $Q(p)$ 可由下式給出

　
: $Q(p)=\mu -\beta \ln(-\ln(p)),$

其中 $\mu $ 和 $\beta $ 是母數，當隨機變量 $U$ 是從 $(0,1)$ 上的均勻分布中抽取時，變量 $Q(U)$ 具有服從耿貝爾分布。

### 機率紙

在軟體時代之前，人們使用機率紙描繪耿貝爾分布（見插圖）。這種紙基於累積分布函數的 $F$ 的線性化：

　
: $-\ln[-\ln(F)]=(x-\mu )/\beta $

在紙上，水平軸以雙對數刻度構建。垂直軸是線性的。通過在紙張的水平軸上尋找 $F$ ，在垂直軸上尋找 $x$ ，耿貝爾分布由斜率為 $1/\beta $ 的直線表示。當像 CumFreq 這樣的分布擬合軟體可用時，繪製分布的任務變得更加容易。

## 參見

* 2 型 Gumbel 分布
* 極值理論
* 廣義極值分布
* Fisher-Tippett-Gnedenko 定理
* 埃米爾・朱利葉斯・岡貝爾

## 參考資料

## 外部連結