随机变量的收敛

title: 简介.
content: 正如一个数列可能收敛到某个极限量,一列函数可能收敛到某个极限函数一样,随机收敛指的是一系列随机变量formula_1在"n"趋向于无穷大时,会越来越接近某个固定的极限。这个极限可能是指: 等等。这些不同的极限的定义,可以严格地写成不同的收敛方式的定义。
title: 依概率1收敛.
content: 依概率1收敛又称为几乎处处收敛,其定义接近于函数逐点收敛的定义。事实上,由于随机变量的本质是由样本空间formula_7到取值空间formula_8上的函数。因此,给定一个概率空间 formula_9中的一列 随机变量formula_10,考虑事件formula_11。如果存在一个随机变量formula_12,使得事件formula_13的概率为1,那么就称随机变量序列 formula_10 依概率1收敛到 formula_12(或称 formula_10 几乎处处收敛到 formula_12),记作: 当取值空间formula_8是一般的实数空间formula_21时,依概率1收敛的意义是: 当空间formula_8是度量空间 ("S", "d") 的时候,依概率1收敛的意义是:
title: 依概率收敛.
content: 设formula_26 是一个随机变量序列,formula_12是一个随机变量。如果对于任意的正实数formula_28,都有: 那么称序列formula_30 依概率收敛到formula_12,记作:formula_32  如果formula_26的取值空间是一个可分度量空间("S", "d"),那么依概率收敛的定义为: 依概率收敛和依概率1收敛的定义有相似之处,但本质上,依概率1收敛是比依概率收敛更“强”的收敛性质。如果一列随机变量依概率1收敛到某个极限,那么它必然也依概率收敛到这个极限,但反之则不然。一个实数上的例子是:设概率空间 formula_9是区间formula_36上的一个连续型均匀分布formula_37 。一个随机变量序列formula_26定义为: <br>  <br> 由于 所以 另一方面,考虑formula_46到formula_47这一组随机变量,它们取值为1的集合的并集恰好是总区间,因此对每一个formula_48,总会有formula_46到formula_47之间的某个变量formula_51,使得 所以,对任意一个formula_48, 即是说,formula_26 并不依概率1收敛到0。从例子中可以看到,依概率收敛比依概率1收敛更为宽松的地方是:当"n"趋于无穷大的时候,只要偏离极限函数的formula_56(即是集合formula_57中的formula_58)“足够少”,就能使得依概率收敛成立了,这些formula_58的集合可以随着"n"不同而不同;而依概率1收敛则要求formula_58的集合固定地缩减至一个概率为0的集合。因此,依概率1收敛要比依概率收敛更为严格。
title: 平方平均收敛与formula_61收敛.
content: 另一种收敛的定义与测度的积分有关。在积分理论中,如果两个函数formula_62 和formula_63满足formula_64,那么这两个函数在关于测度formula_65的平方可积空间中相等。随机变量的平方平均收敛与此相似:如果对平方可积的随机变量序列formula_26,存在随机变量formula_12,使得formula_68,那么就说序列formula_30 平方平均收敛到formula_12,记作: formula_71 由于formula_72空间是完备的,极限formula_12也一定平方可积。  对于更一般的formula_61空间,也有类似的定义:如果对 formula_61空间中的随机变量序列formula_26,存在formula_61中的随机变量formula_12,使得formula_79,那么就说序列formula_30依formula_61收敛到formula_12,记作: formula_83  当常数formula_84时,也称为平均收敛。
title: 依分布收敛.
content: 依分布收敛是最宽松的收敛方式之一。这种收敛不要求查看每个formula_85,只要求序列的分布趋向于某个极限。直觉上,一个随机变量序列formula_26依分布收敛到某个随机变量formula_12,如果: 更严格的定义是探讨随机变量formula_90的累积分布函数formula_91。设有实值的随机变量序列 formula_26 和某个随机变量formula_12(其累积分布函数为 formula_94),如果对formula_94的每个连续点formula_96,都有formula_97,那么就说 formula_26依分布收敛到某个随机变量formula_12。记作: formula_100,formula_101 或 formula_102 由于依分布收敛只和随机变量的分布相关,所以也可以称一系列随机变量(依分布)收敛于某个分布。设formula_103是极限formula_12的分布,那么依分布收敛也可以记作: formula_105 或 formula_106 例如一个随机变量序列formula_26依分布收敛到标准正态分布,就可以记作:
title: 关系.
content: 各个收敛的定义有强弱之分。一个收敛性强于另一个是指从前者可以推出后者。例如依概率收敛强于依分布收敛,即是说如果一列随机变量依概率收敛到某个极限,那么必定也依分布收敛到这个极限。具体来说,收敛性的强弱关系可以用下图来表示:  <ul> <li> 依概率1收敛可以推出依概率收敛:  <li> 依概率收敛可以推出存在依概率1收敛的子列formula_111:  <li> 依概率收敛可以推出依分布收敛:  <li> 对任意的formula_114,formula_115-收敛可以推出依概率收敛: <li> 如果formula_117,那么formula_115-收敛可以推出formula_119-收敛:  <li> 如果序列formula_121依分布收敛到常数"c",那么它也依概率收敛到常数"c":  <li> 如果序列formula_121依分布收敛到随机变量formula_12,并且formula_125和formula_126的差依概率收敛到0,那么formula_126 也依分布收敛到随机变量formula_12:  <li> 如果序列formula_121依分布收敛到随机变量formula_12,并且 序列formula_132依分布收敛到常数"c",那么向量列formula_133依分布收敛到随机变量formula_134:

Summary: 概率论中有若干关于随机变量收敛(Convergence of random variables)的定义。研究一列随机变量是否会收敛到某个极限随机变量是概率论中的重要内容,在统计概率和随机过程中都有应用。在更广泛的数学领域中,随机变量的收敛被称为随机收敛,表示一系列本质上随机不可预测的事件所发生的模式可以在样本数量足够大的时候得到合理可靠的预测。各种不同的收敛定义实际上是表示预测时不同的刻画方式。

Convergence of random variables: In probability theory, there exist several different notions of convergence of random variables. The convergence of sequences of random variables to some limit random variable is an important concept in probability theory, and its applications to statistics and stochastic processes. The same concepts are known in more general mathematics as stochastic convergence and they formalize the idea that a sequence of essentially random or unpredictable events can sometimes be expected to settle down into a behavior that is essentially unchanging when items far enough into the sequence are studied. The different possible notions of convergence relate to how such a behavior can be characterized: two readily understood behaviors are that the sequence eventually takes a constant value, and that values in the sequence continue to change but can be described by an unchanging probability distribution.