卜瓦松分布

泊松分布（法語：loi de Poisson；英語：Poisson distribution）又稱Poisson分布、帕松分布、布瓦松分布、布阿松分布、普阿松分布、波以松分布、卜氏分布、帕松小數法則（Poisson law of small numbers），是一種統計與概率學裡常見到的離散機率分布，由法國數學家西莫恩·德尼·泊松在1838年時發表。 泊松分布适合于描述单位时间内随机事件发生的次数的概率分布。如某一服务设施在一定时间内受到的服务请求的次数，电话交换机接到呼叫的次数、汽车站台的候客人数、机器出现的故障数、自然灾害发生的次数、DNA序列的变异数、放射性原子核的衰变数、雷射的光子數分布等等。（單位時間內發生的次數，可以看作事件發生的頻率，類似物理的頻率 f {\displaystyle f} ）。 泊松分布的機率質量函数为： P ( X = k ) = e − λ λ k k ! {\displaystyle P(X=k)={\frac {e^{-\lambda }\lambda ^{k}}{k!}}} 泊松分布的参数 λ {\displaystyle \lambda } 是随机事件发生次数的数学期望值。 若 X {\displaystyle X} 服从参数为 λ {\displaystyle \lambda } 的泊松分布，记为 X ∼ π ( λ ) {\displaystyle X\sim \pi (\lambda )} ，或记为 X ∼ P o i s s o n ( λ ) {\displaystyle X\sim Poisson(\lambda )} . 1、服从泊松分布的随机变量，其数学期望与方差相等，同为参数 λ {\displaystyle \lambda }  : E ( X ) = V ( X ) = λ {\displaystyle E(X)=V(X)=\lambda } 2、兩個獨立且服从泊松分布的随机变量，其和仍然服从泊松分布。更精確地說，若 X ∼ P o i s s o n ( λ 1 ) {\displaystyle X\sim Poisson(\lambda _{1})} 且 Y ∼ P o i s s o n ( λ 2 ) {\displaystyle Y\sim Poisson(\lambda _{2})} ，則 X + Y ∼ P o i s s o n ( λ 1 + λ 2 ) {\displaystyle X+Y\sim Poisson(\lambda _{1}+\lambda _{2})} 。反過來若兩個獨立隨機變量的和服從卜瓦松分布，則這兩個隨機變量經平移後皆服從卜瓦松分布（Raikov定理（英语：Raikov's theorem））。 3、其動差母函數为： M X ( t ) = E [ e t X ] = ∑ x = 0 ∞ e t x e − λ λ x x ! = e − λ ∑ x = 0 ∞ ( e t λ ) x x ! = e λ ( e t − 1 ) {\displaystyle M_{X}(t)=E[e^{tX}]=\sum _{x=0}^{\infty }e^{tx}{\frac {e^{-\lambda }\lambda ^{x}}{x!}}=e^{-\lambda }\sum _{x=0}^{\infty }{\frac {({e^{t}}\lambda )^{x}}{x!}}=e^{{\lambda }(e^{t}-1)}} 期望值：(倒數第三至第二是使用泰勒展開式) E ( X ) = ∑ i = 0 ∞ i P ( X = i ) = ∑ i = 1 ∞ i e − λ λ i i ! = λ e − λ ∑ i = 1 ∞ λ i − 1 ( i − 1 ) ! = λ e − λ ∑ i = 0 ∞ λ i i ! = λ e − λ e λ = λ {\displaystyle {\begin{aligned}\mathrm {E} (X)&=\sum _{i=0}^{\infty }\displaystyle iP(X=i)\\&=\sum _{i=1}^{\infty }\displaystyle i{e^{-\lambda }\lambda ^{i} \over i!}\\&=\lambda e^{-\lambda }\sum _{i=1}^{\infty }\displaystyle {\lambda ^{i-1} \over (i-1)!}\\&=\lambda e^{-\lambda }\sum _{i=0}^{\infty }\displaystyle {\lambda ^{i} \over i!}\\&=\lambda e^{-\lambda }e^{\lambda }\\&=\lambda \end{aligned}}} E ( X 2 ) = ∑ i = 0 ∞ i 2 P ( X = i ) = ∑ i = 1 ∞ i 2 e − λ λ i i ! = λ e − λ ∑ i = 1 ∞ i λ i − 1 ( i − 1 ) ! = λ e − λ ∑ i = 1 ∞ 1 ( i − 1 ) ! d d λ ( λ i ) = λ e − λ d d λ [ ∑ i = 1 ∞ λ i ( i − 1 ) ! ] = λ e − λ d d λ [ λ ∑ i = 1 ∞ λ i − 1 ( i − 1 ) ! ] = λ e − λ d d λ ( λ e λ ) = λ e − λ ( e λ + λ e λ ) = λ + λ 2 {\displaystyle {\begin{aligned}\mathrm {E} (X^{2})&=\sum _{i=0}^{\infty }\displaystyle i^{2}P(X=i)\\&=\sum _{i=1}^{\infty }\displaystyle i^{2}{e^{-\lambda }\lambda ^{i} \over i!}\\&=\lambda e^{-\lambda }\sum _{i=1}^{\infty }\displaystyle {i\lambda ^{i-1} \over (i-1)!}\\&=\lambda e^{-\lambda }\sum _{i=1}^{\infty }\displaystyle {1 \over (i-1)!}{d \over d\lambda }(\lambda ^{i})\\&=\lambda e^{-\lambda }{d \over d\lambda }\left[\sum _{i=1}^{\infty }\displaystyle {\lambda ^{i} \over (i-1)!}\right]\\&=\lambda e^{-\lambda }{d \over d\lambda }\left[\lambda \sum _{i=1}^{\infty }\displaystyle {\lambda ^{i-1} \over (i-1)!}\right]\\&=\lambda e^{-\lambda }{d \over d\lambda }(\lambda e^{\lambda })=\lambda e^{-\lambda }(e^{\lambda }+\lambda e^{\lambda })=\lambda +\lambda ^{2}\end{aligned}}} 我們可以得到： V a r ( X ) = ( λ + λ 2 ) − λ 2 = λ {\displaystyle Var(X)=(\lambda +\lambda ^{2})-\lambda ^{2}=\lambda } 如同性質： E ( X ) = V a r ( X ) = λ {\displaystyle E(X)=Var(X)=\lambda } 、 σ X = λ {\displaystyle \sigma _{X}={\sqrt {\lambda }}} 相互獨立的卜瓦松分佈隨機變數之和仍服從卜瓦松分佈： X ∼ P o i s s o n ( λ 1 ) , Y ∼ P o i s s o n ( λ 2 ) . {\displaystyle X\sim Poisson(\lambda _{1}),Y\sim Poisson(\lambda _{2}).} P ( X = k 1 ) = λ 1 k 1 e − λ 1 k 1 ! , P ( Y = k 2 ) = λ 2 k 2 e − λ 2 k 2 ! . {\displaystyle P(X=k_{1})={\dfrac {\lambda _{1}^{k_{1}}e^{-\lambda _{1}}}{k_{1}!}},P(Y=k_{2})={\dfrac {\lambda _{2}^{k_{2}}e^{-\lambda _{2}}}{k_{2}!}}.} P ( X + Y = k ) = ∑ i = 0 k P ( X = i ) P ( Y = k − i ) = ∑ i = 0 k λ 1 i λ 2 k − i e − ( λ 1 + λ 2 ) i ! ( k − i ) ! = e − ( λ 1 + λ 2 ) k ! ∑ i = 0 k C k i λ 1 i λ 2 k − i = e − ( λ 1 + λ 2 ) ( λ 1 + λ 2 ) k k ! {\displaystyle {\begin{aligned}P(X+Y=k)&=\sum _{i=0}^{k}P(X=i)P(Y=k-i)\\&=\sum _{i=0}^{k}{\frac {\lambda _{1}^{i}\lambda _{2}^{k-i}e^{-(\lambda _{1}+\lambda _{2})}}{i!(k-i)!}}\\&={\frac {e^{-(\lambda _{1}+\lambda _{2})}}{k!}}\sum _{i=0}^{k}C_{k}^{i}\lambda _{1}^{i}\lambda _{2}^{k-i}\\&={\frac {e^{-(\lambda _{1}+\lambda _{2})}(\lambda _{1}+\lambda _{2})^{k}}{k!}}\end{aligned}}} X + Y ∼ P o i s s o n ( λ 1 + λ 2 ) {\displaystyle X+Y\sim Poisson(\lambda _{1}+\lambda _{2})} 在二项分布的伯努利试验中，如果试验次数 n {\displaystyle n} 很大，二项分布的概率 p {\displaystyle p} 很小，且乘积 λ = n p {\displaystyle \lambda =np} 比较适中，则事件出现的次数的概率可以用泊松分布来逼近。事实上，二项分布可以看作泊松分布在离散時間上的对应物。 证明如下。首先，回顾自然對數 e {\displaystyle e} 的定义： lim n → ∞ ( 1 − λ n ) n = e − λ , {\displaystyle \lim _{n\to \infty }\left(1-{\lambda \over n}\right)^{n}=e^{-\lambda },} 二项分布的定义： P ( X = k ) = ( n k ) p k ( 1 − p ) n − k {\displaystyle P(X=k)={n \choose k}p^{k}(1-p)^{n-k}} 。 如果令 p = λ n {\displaystyle p={\frac {\lambda }{n}}} ， n {\displaystyle n} 趋于无穷时 P {\displaystyle P} 的极限： lim n → ∞ P ( X = k ) = lim n → ∞ ( n k ) p k ( 1 − p ) n − k = lim n → ∞ n ! ( n − k ) ! k ! ( λ n ) k ( 1 − λ n ) n − k = lim n → ∞ [ n ! n k ( n − k ) ! ] ⏟ F ( λ k k ! ) ( 1 − λ n ) n ⏟ → exp ⁡ ( − λ ) ( 1 − λ n ) − k ⏟ → 1 = lim n → ∞ [ ( 1 − 1 n ) ( 1 − 2 n ) … ( 1 − k − 1 n ) ] ⏟ → 1 ( λ k k ! ) ( 1 − λ n ) n ⏟ → exp ⁡ ( − λ ) ( 1 − λ n ) − k ⏟ → 1 = ( λ k k ! ) exp ⁡ ( − λ ) {\displaystyle {\begin{aligned}\lim _{n\to \infty }P(X=k)&=\lim _{n\to \infty }{n \choose k}p^{k}(1-p)^{n-k}\\&=\lim _{n\to \infty }{n! \over (n-k)!k!}\left({\lambda \over n}\right)^{k}\left(1-{\lambda \over n}\right)^{n-k}\\&=\lim _{n\to \infty }\underbrace {\left[{\frac {n!}{n^{k}\left(n-k\right)!}}\right]} _{F}\left({\frac {\lambda ^{k}}{k!}}\right)\underbrace {\left(1-{\frac {\lambda }{n}}\right)^{n}} _{\to \exp \left(-\lambda \right)}\underbrace {\left(1-{\frac {\lambda }{n}}\right)^{-k}} _{\to 1}\\&=\lim _{n\to \infty }\underbrace {\left[\left(1-{\frac {1}{n}}\right)\left(1-{\frac {2}{n}}\right)\ldots \left(1-{\frac {k-1}{n}}\right)\right]} _{\to 1}\left({\frac {\lambda ^{k}}{k!}}\right)\underbrace {\left(1-{\frac {\lambda }{n}}\right)^{n}} _{\to \exp \left(-\lambda \right)}\underbrace {\left(1-{\frac {\lambda }{n}}\right)^{-k}} _{\to 1}\\&=\left({\frac {\lambda ^{k}}{k!}}\right)\exp \left(-\lambda \right)\end{aligned}}} 给定 n {\displaystyle n} 个样本值 k i {\displaystyle k_{i}} ，希望得到从中推测出总体的泊松分布参数 λ {\displaystyle \lambda } 的估计。为计算最大似然估计值，列出对数似然函数： L ( λ ) = ln ⁡ ∏ i = 1 n f ( k i ∣ λ ) = ∑ i = 1 n ln ( e − λ λ k i k i ! ) = − n λ + ( ∑ i = 1 n k i ) ln ⁡ ( λ ) − ∑ i = 1 n ln ⁡ ( k i ! ) . {\displaystyle {\begin{aligned}L(\lambda )&=\ln \prod _{i=1}^{n}f(k_{i}\mid \lambda )\\&=\sum _{i=1}^{n}\ln \!\left({\frac {e^{-\lambda }\lambda ^{k_{i}}}{k_{i}!}}\right)\\&=-n\lambda +\left(\sum _{i=1}^{n}k_{i}\right)\ln(\lambda )-\sum _{i=1}^{n}\ln(k_{i}!).\end{aligned}}} d d λ L ( λ ) = 0 ⟺ − n + ( ∑ i = 1 n k i ) 1 λ = 0. {\displaystyle {\frac {\mathrm {d} }{\mathrm {d} \lambda }}L(\lambda )=0\iff -n+\left(\sum _{i=1}^{n}k_{i}\right){\frac {1}{\lambda }}=0.\!} 解得λ从而得到一个驻点（stationary point）： λ ^ M L E = 1 n ∑ i = 1 n k i . {\displaystyle {\widehat {\lambda }}_{\mathrm {MLE} }={\frac {1}{n}}\sum _{i=1}^{n}k_{i}.\!} 检查函数 L {\displaystyle L} 的二阶导数，发现对所有的 λ {\displaystyle \lambda } 与 k i {\displaystyle k_{i}} 大于零的情况二阶导数都为负。因此求得的驻点是对数似然函数 L {\displaystyle L} 的极大值点： ∂ 2 L ∂ λ 2 = ∑ i = 1 n − λ − 2 k i {\displaystyle {\frac {\partial ^{2}L}{\partial \lambda ^{2}}}=\sum _{i=1}^{n}-\lambda ^{-2}k_{i}} 对某公共汽车站的客流做调查，统计了某天上午10:30到11:47来到候车的乘客情况。假定来到候车的乘客各批（每批可以是1人也可以是多人）是互相独立发生的。观察每20秒区间来到候车的乘客批次，共观察77分钟*3=231次，共得到230个观察记录。其中来到0批、1批、2批、3批、4批及4批以上的观察记录分别是100次、81次、34次、9次、6次。使用极大似真估计（MLE），得到 λ {\displaystyle \lambda } 的估计为 81 × 1 + 34 × 2 + 9 × 3 + 6 × 4 230 ≈ 0.87 {\displaystyle {\frac {81\times 1+34\times 2+9\times 3+6\times 4}{230}}\approx 0.87} 。 一个用来生成随机泊松分布的数字（伪随机数抽样）的简单算法，已经由高德纳给出（见下文参考）： algorithm poisson random number (Knuth): init: Let L ← e−λ, k ← 0 and p ← 1. do: k ← k + 1. Generate uniform random number u in [0,1] and let p ← p×u. while p > L. return k − 1. 尽管简单，但复杂度是线性的，在返回的值 k {\displaystyle k} ，平均是 λ {\displaystyle \lambda } 。还有许多其他算法来克服这一点。有些人由Ahrens和Dieter给出，请参阅下面的参考资料。同样，对于较大的 λ {\displaystyle \lambda } 值， e − λ {\displaystyle e^{-\lambda }} 可能导致数值稳定性问题。对于较大 λ {\displaystyle \lambda } 值的一种解决方案是拒绝采样，另一种是采用泊松分布的高斯近似。 对于很小的 λ {\displaystyle \lambda } 值，逆变换取样简单而且高效，每个样本只需要一个均匀随机数u。直到有超过 u {\displaystyle u} 的样本，才需要检查累积概率。 algorithm Poisson generator based upon the inversion by sequential search: init: Let x ← 0, p ← e−λ, s ← p. Generate uniform random number u in [0,1]. do: x ← x + 1. p ← p * λ / x. s ← s + p. while u > s. return x. 泊松过程 概率论 泊松回归 概率分布 Luc Devroye, Non-Uniform Random Variate Generation（Springer-Verlag, New York, 1986）, chapter 10, page 505 http://luc.devroye.org/rnbookindex.html （页面存档备份，存于互联网档案馆） Guerriero V. Power Law Distribution: Method of Multi-scale Inferential Statistics. Journal of Modern Mathematics Frontier (JMMF). 2012, 1: 21–28 [2017-10-30]. （原始内容存档于2018-02-21）.  Joachim H. Ahrens, Ulrich Dieter. Computer Methods for Sampling from Gamma, Beta, Poisson and Binomial Distributions. Computing. 1974, 12 (3): 223–246. doi:10.1007/BF02293108.  Joachim H. Ahrens, Ulrich Dieter. Computer Generation of Poisson Deviates. ACM Transactions on Mathematical Software. 1982, 8 (2): 163–179. doi:10.1145/355993.355997.  Ronald J. Evans, J. Boersma, N. M. Blachman, A. A. Jagers. The Entropy of a Poisson Distribution: Problem 87-6. SIAM Review. 1988, 30 (2): 314–317. doi:10.1137/1030059.  Donald E. Knuth. Seminumerical Algorithms. The Art of Computer Programming. Volume 2. Addison Wesley. 1969.