切比雪夫不等式

切比雪夫不等式（英語：Chebyshev's Inequality），是概率论中的一个不等式，顯示了隨機變量的「幾乎所有」值都會「接近」平均。在20世纪30年代至40年代刊行的书中，其被称为比奈梅不等式（Bienaymé Inequality）或比奈梅-切比雪夫不等式（Bienaymé-Chebyshev Inequality）。切比雪夫不等式对任何分布数据都适用。 切比雪夫不等式可表示为以下形式：对于任何随机变量 X {\displaystyle X} 和实数 b > 0 {\displaystyle b>0} ，都有 P ( | X − E ( X ) | ≥ b ) ≤ V a r ( X ) b 2 {\displaystyle P(|X-E(X)|\geq b)\leq {\frac {Var(X)}{b^{2}}}} ，其中 E ( X ) {\displaystyle E(X)} 表示 X {\displaystyle X} 的数学期望， V a r ( X ) {\displaystyle Var(X)} 为 X {\displaystyle X} 的方差。 這個不等式以數量化這方式來描述，究竟「幾乎所有」是多少，「接近」又有多接近： 與平均相差2個標準差以上的值，數目不多於1/4 與平均相差3個標準差以上的值，數目不多於1/9 與平均相差4個標準差以上的值，數目不多於1/16 …… 與平均相差k個標準差以上的值，數目不多於1/k2 舉例說，若一班有36個學生，而在一次考試中，平均分是80分，標準差是10分，我們便可得出結論：少於50分或多於110分（與平均相差3個標準差以上）的人，數目不多於4個（=36*1/9）。 公式： P ( μ − k σ < X < μ + k σ ) ≥ 1 − 1 k 2 {\displaystyle P(\mu -k\sigma <X<\mu +k\sigma )\geq 1-{\frac {1}{k^{2}}}} 設(X,Σ,μ)為一測度空間，f為定義在X上的廣義實值可測函數。對於任意實數t > 0， μ ( { x ∈ X : | f ( x ) | ≥ t } ) ≤ 1 t 2 ∫ X f 2 d μ . {\displaystyle \mu (\{x\in X\,:\,\,|f(x)|\geq t\})\leq {1 \over t^{2}}\int _{X}f^{2}\,d\mu .} 一般而言，若g是非負廣義實值可測函數，在f的定義域非降，則有 μ ( { x ∈ X : f ( x ) ≥ t } ) ≤ 1 g ( t ) ∫ X g ∘ f d μ . {\displaystyle \mu (\{x\in X\,:\,\,f(x)\geq t\})\leq {1 \over g(t)}\int _{X}g\circ f\,d\mu .} 上面的陳述，可透過以|f|取代f，再取如下定義而得： g ( t ) = { t 2 if  t ≥ 0 0 otherwise, {\displaystyle g(t)={\begin{cases}t^{2}&{\mbox{if }}t\geq 0\\0&{\mbox{otherwise,}}\end{cases}}} 設 X {\displaystyle X} 為隨機變量，期望值為 μ {\displaystyle \mu } ，标准差為 σ {\displaystyle \sigma } 。對於任何實數k>0， Pr ( | X − μ | ≥ k σ ) ≤ 1 k 2 . {\displaystyle \Pr(\left|X-\mu \right|\geq k\sigma )\leq {\frac {1}{k^{2}}}.} 一般而言，切比雪夫不等式給出的上界已無法改進。考慮下面例子： Pr ( X = 1 ) = Pr ( X = − 1 ) = 1 / ( 2 k 2 ) {\displaystyle \Pr(X=1)=\Pr(X=-1)=1/(2k^{2})} Pr ( X = 0 ) = 1 − 1 / k 2 {\displaystyle \Pr(X=0)=1-1/k^{2}} 這個分布的標準差 σ = 1 / k {\displaystyle \sigma =1/k} ， μ = 0 {\displaystyle \mu =0} 。 对于任意分布形态的数据，根据切比雪夫不等式，至少有 1 − 1 / k 2 {\displaystyle 1-1/k^{2}} 的数据落在k个标准差之内。其中k>1，但不一定是整数。 當只求其中一邊的值的時候，有Cantelli不等式： Pr ( X − μ ≥ k σ ) ≤ 1 1 + k 2 . {\displaystyle \Pr(X-\mu \geq k\sigma )\leq {\frac {1}{1+k^{2}}}.} [1] （页面存档备份，存于互联网档案馆） 定義   A t := { x ∈ X ∣ f ( x ) ≥ t } {\displaystyle ~A_{t}:=\{x\in X\mid f(x)\geq t\}} ，設 1 A t {\displaystyle 1_{A_{t}}} 為集   A t {\displaystyle ~A_{t}} 的指示函数，有 0 ≤ g ( t ) 1 A t ≤ g ∘ f 1 A t ≤ g ∘ f , {\displaystyle 0\leq g(t)1_{A_{t}}\leq g\circ f\,1_{A_{t}}\leq g\circ f,} g ( t ) μ ( A t ) = ∫ X g ( t ) 1 A t d μ ≤ ∫ A t g ∘ f d μ ≤ ∫ X g ∘ f d μ . {\displaystyle g(t)\mu (A_{t})=\int _{X}g(t)1_{A_{t}}\,d\mu \leq \int _{A_{t}}g\circ f\,d\mu \leq \int _{X}g\circ f\,d\mu .} 又可從馬爾可夫不等式直接證明：馬氏不等式說明對任意隨機變量Y和正數a有 Pr ( | Y | > a ) ≤ E ⁡ ( | Y | ) / a {\displaystyle \Pr(|Y|>a)\leq \operatorname {E} (|Y|)/a} 。取 Y = ( X − μ ) 2 {\displaystyle Y=(X-\mu )^{2}} 及 a = ( k σ ) 2 {\displaystyle a=(k\sigma )^{2}} 。 亦可從概率論的原理和定義開始證明： Pr ( | X − μ | ≥ k σ ) = E ⁡ ( I | X − μ | ≥ k σ ) = E ⁡ ( I [ ( X − μ ) / ( k σ ) ] 2 ≥ 1 ) {\displaystyle \Pr(|X-\mu |\geq k\sigma )=\operatorname {E} (I_{|X-\mu |\geq k\sigma })=\operatorname {E} (I_{[(X-\mu )/(k\sigma )]^{2}\geq 1})} ≤ E ⁡ ( ( X − μ k σ ) 2 ) = 1 k 2 E ⁡ ( ( X − μ ) 2 ) σ 2 = 1 k 2 . {\displaystyle \leq \operatorname {E} \left(\left({X-\mu \over k\sigma }\right)^{2}\right)={1 \over k^{2}}{\operatorname {E} ((X-\mu )^{2}) \over \sigma ^{2}}={1 \over k^{2}}.} 馬爾可夫不等式 弱大數定律 大數定律 《基本統計學 觀念與應用二版》，林惠玲 陳正倉 著 《應用統計學 第四版》 修訂版，林惠玲 陳正倉 著