二項式分布

$$\operatorname{B} (n, p)$$

$n > 0$ $0 \leq p \leq 1$

$$k \in \{0, \dots, n\}$$

$${n \choose k} p^k (1 - p)^{n - k}$$

$$I_{1 - p}(n - \lfloor k \rfloor, \lfloor k \rfloor + 1)$$

$$np$$

$\lfloor np \rfloor$或$\lceil np \rceil$

$$\lfloor (n + 1)p \rfloor$$

$$np(1 - p)$$

$$\frac {1 - 2p} {\sqrt {np(1 - p)}}$$

$$\frac {1 - 6p(1 - p)} {np(1 - p)}$$

$$\frac{1}{2} \ln \left( 2 \pi nep (1-p) \right) + O \left( \frac{1}{n} \right)$$

$$(1 - p + pz)^n$$

$$(1 - p + pe^t)^n$$

$$(1 - p + pe^{it})^n$$

在機率論和統計學中，二項分布（binomial distribution）是一種離散機率分布，描述在進行獨立隨機試驗時，每次試驗都有相同機率「成功」的情況下，獲得成功的總次數。擲硬幣十次出現五次正面的機率、產品合格率$\, 99 \% \,$時抽出一百件樣本沒有發現一件次品的機率等等，都可以由二項分布給出。

只有「成功」和「失敗」兩種可能結果，每次重複時成功機率不變的獨立隨機試驗稱作伯努利試驗，例如上述的擲硬幣出現正面或反面、對產品進行抽樣檢查時抽到正品或次品。伯努利試驗作為理論模型，其前提在現實中無法完全得到滿足，比如生產線會磨損，因此每件產品合格的機率並非固定。儘管如此，二項分布給出的機率通常足以用於提供有用的推斷；即使在已知前提沒有滿足的場合，二項分布也能用於參考和比較。二項分布的應用出現在遺傳學、質量控制等領域之中。

## 定義

若隨機變量$\, X \,$有機率質量函數

$$\Pr(X = k) = {n \choose k} p^k (1 - p)^{n - k} \quad (k = 0, 1, \ldots, n),$$

其中$\, n \,$為正整數、$\, 0 \leq p \leq 1 \,$，則稱$\, X \,$服從參數為$\, n, p \,$的二項分布，記為$\, X \sim \operatorname{B} (n, p) \,$或$\, X \sim \operatorname{Bin} (n, p) \,$。習慣上$\, 1 - p \,$也用$\, q \,$表示。

### 推導

進行$\, n \,$次獨立伯努利試驗的結果可以由$\, n \,$個字母表示，例如用$\, S \,$表示成功，$\, F \,$表示失敗，則

$$SSFSF$$

表示五次試驗中第一、二、四次的結果為成功，其餘為失敗。設每次試驗成功的機率為$\, p \,$，失敗的機率為$\, 1 - p \,$。因為試驗相互獨立，每一種排列$\, k \,$個$\, S \,$、$\, n - k \,$個$\, F \,$的方式對應的機率為$\, p^k (1 - p)^{n - k} \,$。

從$\, n \,$個不同元素中選出含$\, k \,$個元素的子集的方法數量等於二項式係數

$${n \choose k} = \frac {n!} {k! (n-k)!}.$$

而每種對$\, k \,$個$\, S \,$、$\, n - k \,$個$\, F \,$的排列都可理解為從$\, n \,$個位置中選出$\, k \,$個作為字母$\, S \,$的位置的方法，這種方法的數量即為$\, {n \choose k} \,$。與每種排列方式對應的機率相乘，便得到定義中的機率

$${n \choose k} p^k (1 - p)^{n - k}.$$

## 歷史

二項分布是最早得到研究的機率分布之一。丹麥統計學家安德斯·哈爾德認為其歷史可以追溯至布萊茲·帕斯卡與皮埃爾·德·費馬於1654年對點數分配問題的討論：兩名玩家贏得每局遊戲的機會相同，贏得一定局數的勝者可獲得獎金，但比賽僅進行了數局，尚未分出勝負就被迫中斷，則獎金該如何分配？帕斯卡認為，獎金的分配應當基於玩家距離勝利所差的局數：若一名玩家還需$\, r \,$局獲勝，另一名玩家還需$\, s \,$局獲勝，則應考慮在$\, r + s - 1 \,$局比賽的$\, 2^{r + s - 1} \,$種結果中，兩名玩家分別在多少種情況中獲勝。兩人的討論限於這一問題本身，並未推導出二項分布的機率，但這一解法可被視作基於參數$\, p = 1/2 \,$的二項分布。

對二項分布機率的推導為雅各布·伯努利於《猜度術》中作出。該著作在他去世後，於1713年得到出版，被視作機率論的奠基性作品。伯努利還在其中首次給出了弱大數定律的嚴格證明。對二項分布的正態近似則是由亞伯拉罕·棣莫弗發現，這一工作於1733年完成，於1738年出版在其著作《機遇論》的第二版中。

## 性質

參數為$\, n, p \,$的二項分布的期望值為$\, np \,$，方差為$\, np(1 - p) \,$。其機率母函數為

$$G(z) = (1 - p + pz)^n,$$

矩母函數為

$$M_X(t) = (1 - p + pe^t)^n,$$

特徵函數為

$$\varphi_X(t) = (1 - p + pe^{it})^n.$$

參數$\, n = 1 \,$的二項分布稱作伯努利分布。多項分布是二項分布的拓展，描述重複進行不限於兩種結果、可能有多種可能結果的隨機試驗時的機率。二項分布本身是超幾何分布的極限形式。

### 二項分布的和

若$\, X_1, X_2 \,$兩個隨機變量獨立，分別服從參數為$\, n_1, p \,$和$\, n_2, p \,$的二項分布，則$\, X_1 + X_2 \,$即是在$\, n_1 + n_2 \,$次獨立伯努利試驗中取得成功的次數，所以$\, X_1 + X_2 \,$服從參數為$\, n_1 + n_2,p \,$的二項分布。這一結論亦可通過將兩者的機率母函數相乘而得出。在條件$\, X_1 + X_2 = k \,$之下，隨機變量$\, X_1 \,$的條件概率分布是參數為$\, k, n_1, n_1 + n_2 \,$的超幾何分布。

### 眾數

計算$\, \Pr(X = k) \,$和$\, \Pr(X = k + 1) \,$的比值可以得到

$$\frac{\Pr(X = k + 1)}{\Pr(X = k)} = \frac{(n - k)p}{(k + 1)(1 - p)} \quad (k = 0, 1, \ldots, n - 1),$$

因此，當$\, k < (n + 1)p - 1 \,$時，$\, \Pr(X = k) \,$隨$\, k \,$增加而上升；當$\, k > (n + 1)p - 1 \,$時，$\, \Pr(X = k) \,$隨$\, k \,$增加而下降。故二項分布的眾數為$\, (n + 1)p \,$的下取整$\, \lfloor (n + 1)p \rfloor \,$。若$\, (n + 1)p \,$本身是整數，則$\, (n + 1)p \,$和$\, (n + 1)p - 1 \,$均是眾數。若$\, p < (n + 1)^{-1} \,$，則眾數為$\, 0 \,$。

### 中位數

二項分布的中位數$\, m \,$位於$\, np \,$的上下取整之間，即$\, \lfloor np \rfloor \leq m \leq \lceil np \rceil \,$；若$\, np \,$為整數，則中位數$\, m = np \,$。中位數$\, m \,$和期望值$\, np \,$之間的差滿足

$$|m - np| < \max \{p, 1-p\}.$$

若$\, p > \ln 2 \,$或$\, p < 1 - \ln 2 \,$，則該上界可進一步縮減為

$$|m - np| < \ln 2.$$

若$\, n \,$為奇數、$\, p = 1/2 \,$，則$\, (n - 1)/2 \,$和$\, (n + 1)/2 \,$均為中位數。

### 累積分布函數

二項分布的累積分布函數和尾機率可以用正則化不完全貝塔函數表示為

$$\Pr(X \leq k) = I_{1 - p} (n - \lfloor k \rfloor, \lfloor k \rfloor + 1),$$

$$\Pr(X \geq k) = I_p (\lceil k \rceil, n - \lceil k \rceil + 1).$$

### 矩

二項分布的$\, r \,$階原點矩滿足

$$\mu'_r = E[X^r] = \sum_{j = 0}^r \frac {S(r,j) n! p^j} {(n-j)!},$$

其中$\, S(r,j) \,$表示第二類斯特林數斯特林數。具體而言。

$$\mu'_1 = np,$$

$$\mu'_2 = np + n(n - 1)p^2,$$

$$\mu'_3 = np + 3n(n - 1)p^2 + n(n - 1)(n - 2)p^3,$$

$$\mu'_4 = np + 7n(n - 1)p^2 + 6n(n - 1)(n - 2)p^3 + n(n - 1)(n - 2)(n - 3)p^4.$$

其低階中心矩為

$$\mu_2 = np(1 - p),$$

$$\mu_3 = np(1 - p) (1 - 2p),$$

$$\mu_4 = 3[np(1 - p)]^2 + np(1 - p)[1 - 6p(1 - p)].$$

## 近似

### 正態近似

<image>

標準二項分布

$$X' = \frac {X - np} {\sqrt {np(1 - p)}}$$

在$\, n \to \infty \,$時趨近於標準正態分布。這一結果稱作棣莫弗-拉普拉斯定理，為中心極限定理的特殊形式。基於這一定理可以得到

$$\Pr(\alpha < \frac {X - np} {\sqrt {np(1 - p)}} < \beta) \to \Phi(\beta) - \Phi(\alpha),$$

其中$\, \Phi \,$為標準正態分布的累積分布函數。

正態分布為連續機率分布，在近似二項分布這類離散機率分布時，可將端點向外偏移$\, 0.5 \,$得到

$$\Pr(X \leq k) \approx \Phi \left( \frac {k + 0.5 - np} {\sqrt {np(1 - p)}}\right),$$

從而提升近似的準確性，這種技巧稱作連續性校正。何時能採用這一近似依賴於使用經驗法則，例如要求$\, np(1 - p) > 9 \,$，或是在$\, p \leq 0.5 \,$時要求$\, np > 5 \,$、在$\, p > 0.5 \,$時要求$\, n(1 - p) > 5 \,$。

### 泊松近似

當$\, n \to \infty, p \to 0 \,$，而$\, np \,$保持不變時，二項分布趨近於參數為$\, np \,$的泊松分布。以此為基礎可以得到

$$\Pr(X \leq k) \approx e^{-np} \sum_{j = 0}^k \frac {(np)^j} {j!}.$$

二項分布與其泊松近似之間的絕對誤差存在上界。若隨機變量$\, X \,$服從參數為$\, n, p \,$的二項分布，隨機變量$\, Y \,$服從參數為$\, np \,$的泊松分布，則

$$\sum_{k = 0}^{\infty} \| \Pr(X = k) - \Pr(Y = k) \| \leq \min \{ 2np^2, 3p \}.$$

## 參數估計

### 點估計

通常參數$\, n \,$為已知。假設隨機變量$\, X \,$服從二項分布，其參數$\, p \,$未知。若觀測到$\, X \,$的值為$\, x \,$，採用矩估計和最大似然估計對參數$\, p \,$的估計量均為$\, \frac {x} {n} \,$，這一估計量為無偏的。

參數$\, p \,$的貝葉斯估計量取決於使用的先驗分布。若使用連續型均勻分布作為先驗分布，即假設$\, 0 \,$和$\, 1 \,$之間任意等長的區間包含$\, p \,$的機率都相同，則後驗均值估計量為

$$\widehat {p} = \frac {x + 1} {n + 2}.$$

這被稱作拉普拉斯–貝葉斯估計量，曾被皮埃爾-西蒙·拉普拉斯用於估計在太陽連續升起$\, n \,$天之後，太陽明天還會升起的機率。由於人類知道太陽在過去五千年，即1,826,213天都正常升起，拉普拉斯願意以1,826,214比1的賠率賭太陽明天繼續升起。

若使用參數為$\, \alpha,\beta \,$的貝塔分布作為先驗分布，則後驗均值估計量為

$$\widehat {p} = \frac {\alpha + x + 1} {\alpha + \beta + n + 2}.$$

採用貝塔分布作為先驗分布時，後驗分布亦是貝塔分布，即貝塔分布為二項分布的共軛先驗。

### 區間估計

若要對參數$\, p \,$以區間形式給出估計，通過求解

$$\sum_{j = x}^n {n \choose j} p_L^j (1 - p_L)^{n - j} = \frac {\alpha} {2},$$

$$\sum_{j = 0}^x {n \choose j} p_U^j (1 - p_U)^{n - j} = \frac {\alpha} {2},$$

所得的區間$\, (p_L, p_U) \,$為一個置信水平近似為$\, 1 - \alpha \,$的置信區間，稱作克洛珀-皮爾遜區間（Clopper-Pearson interval）。

正態分布可以用於推導近似的置信區間。若用$\, \lambda_{\alpha/2} \,$表示標準正態分布的第$\, 1 - \frac {\alpha} {2} \,$分位數，即$\, \Phi (\lambda_{\alpha/2}) = 1 - \frac {\alpha} {2} \,$，則區間兩端的近似值為

$$\frac {x} {n} \pm \frac {\lambda_{\alpha/2}} {\sqrt n} \sqrt{\frac {x} {n} \left(1 - \frac {x} {n}\right)}.$$

## 基本資料

- 日語原文：二項分布
- pdf_image：

<image>

- cdf_image：

<image>

- 記號：$\operatorname{B} (n, p)$
- parameters：$n > 0$、$0 \leq p \leq 1$
- 值域：$k \in \{0, \dots, n\}$
- 質量：${n \choose k} p^k (1 - p)^{n - k}$
- 累積分布函數：$I_{1 - p}(n - \lfloor k \rfloor, \lfloor k \rfloor + 1)$
- 期望值：$np$
- 中位數：$\lfloor np \rfloor$或$\lceil np \rceil$
- 眾數：$\lfloor (n + 1)p \rfloor$
- 質量：$np(1 - p)$
- 偏度：$\frac {1 - 2p} {\sqrt {np(1 - p)}}$
- 峰度：$\frac {1 - 6p(1 - p)} {np(1 - p)}$
- 熵：$\frac{1}{2} \ln \left( 2 \pi nep (1-p) \right) + O \left( \frac{1}{n} \right)$
- pgf：$(1 - p + pz)^n$
- mgf：$(1 - p + pe^t)^n$
- 特徵函數：$(1 - p + pe^{it})^n$