system: [SYSTEM]

user: 2. 样本协方差矩阵的特征值的中偏差原理 2.1. 系统模型 对于样本协方差矩阵为 W = 1 n C C T ，如果矩阵 C k × n 中的元素含有随机变量，则 W 和 C 都是随机矩阵.本文假设 C 中的元素都是独立同分布的随机变量且满足 E ( C i j ) = 0 ， Var ( C i j ) = 1. (6) 对于满足上述条件的 C ，当元素 C i j 的四阶矩有限，并且 k ， n → ∞ ， k n = β 时，其中 β 是一常数，那么W的特征值会收敛到固定的值。进一步，根据Bai和Yin的文献 [ 5 ] 可知， λ max 收敛到 ( 1 + β ) 2 ，而 λ min 收敛到 ( 1 − β ) + 2 ，其中 x + = max { 0 ， x } 。对于 C i j ，因为满足条件(6)，可得W的非对角元素趋于0，而对角元素趋于1。对于矩阵 W 和任意的满足 ‖ x ‖ 2 = 1 的k维向量x，可知 λ min ≤ 〈 x ， W x 〉 ≤ λ max ， 其中 〈 x ， W x 〉 可以表示为 〈 x ， W x 〉 = 1 n | C T x | 2 = 1 n ∑ i = 1 n ( ∑ m = 1 k x m C m i ) 2 . 记 S x ， i = ∑ m = 1 k x m C m i . 根据C的定义，可得 { S x ， i } 是独立同分布的随机变量序列，并且满足 E ( S x ， i ) = 0 ， Var ( S x ， i ) = ‖ x ‖ 2 ，通过Cremér定理可以得到 { S x ， i 2 } 的大偏差原理，具体的内容可以查阅参考文献 [ 6 ] 和 [ 9 ]。 本文主要考虑的是 { S x ， i 2 } 的中偏差定理，下面先来看一下主要结果。 2.2. 主要结果 对于上述定义的序列 { S x ， i } ，记 σ 2 = Var ( S x ， i 2 ) ， S n = ∑ i = 1 n S x ， i 2 。设 B ( n ) 为单调上升序列，满足(3)式，若 ∃ ϵ > 0 ，使得 E [ e ϵ C 11 2 ] < ∞ (7) 则随机变量序列 { S x ， i 2 } 满足中偏差原理，下面给出 S x ， i 2 的具体中偏差结果。 定理2.2.1 记 μ n = ℙ ( | S n − n B ( n ) | < ε ) ，若(7)成立，则 { S x ， i 2 } 满足速度为 n B 2 ( n ) ，速率为 I ( x ) 的中偏差原理，其中 I ( x ) = x 2 2 σ 2 ，即 lim n → ∞ n B 2 ( n ) log ℙ ( | S n − n B ( n ) | < ε ) = ε 2 2 σ 2 . (8) 证明：由参考文献 [ 11 ] 知， ( μ n ， n → ∞ ) 的Cremér泛函为 ℙ ( y ) = lim n → ∞ log ∫ ℝ exp 〈 x ， y 〉 / n B 2 ( n ) d μ n ( x ) = lim n → ∞ n B 2 ( n ) log E exp [ ( S n − n ) y B ( n ) ⋅ B 2 ( n ) n ] = lim n → ∞ n B 2 ( n ) log E exp [ ( S x ， 1 2 − 1 ) ⋅ B ( n ) n ] n = lim n → ∞ n B 2 ( n ) log E exp [ S x ， 1 2 ⋅ y ⋅ B ( n ) n − y ⋅ B ( n ) n ] = lim n → ∞ n 2 B 2 ( n ) [ Λ ( B ( n ) n ⋅ y ) − B ( n ) n ⋅ y ] 其中 Λ ( y ) = log E exp ( S x ， 1 2 y ) ， 设 f ( t ) = Λ ( t y ) = log E exp ( S x ， 1 2 t y ) ，计算可以得 f ′ ( t ) = E S x ， 1 2 y ⋅ e S x ， 1 2 t y E e S x ， 1 2 t y ， 当 t = 0 可得 f ′ ( 0 ) = y ，再对上式求导可得 f ″ ( t ) = E ( S x ， 1 2 y ) 2 ⋅ e S x ， 1 2 t y − ( E S x ， 1 2 y ⋅ e S x ， 1 2 t y ) 2 ( E exp S x ， 1 2 t y ) 2 ， 带入 t = 0 可得 f ″ ( 0 ) = E ( S x ， 1 2 y ) 2 − E 2 ( S x ， 1 2 y ) = y 2 ⋅ σ 2 。 由泰勒公式就可以得 ℙ ( y ) = lim n → ∞ 1 ( B 2 ( n ) n ) 2 [ f ( B ( n ) n ) − f ′ ( 0 ) B ( n ) n ] ， 所以 ℙ ( y ) = 1 2 f ″ ( 0 ) = y 2 σ 2 2 ， 则它的Legendre变换即速率函数就是 I ( x ) = sup ( 〈 x ， y 〉 − σ 2 y 2 2 ) = x 2 2 σ 2 . 则 lim n → ∞ n B 2 ( n ) log ℙ ( | S n − n B ( n ) | < ε ) = ε 2 2 σ 2 . 从而 μ n = ℙ ( | S n − n B ( n ) | < ε ) 满足速率函数为 I ( x ) ，速度为 n B 2 ( n ) 的大偏差原理，即(8)式成立，则随机变量序列 { S x ， i 2 } 的中偏差定理得证。 2.3. 数值模拟 对于所求速率函数 I ( x ) ，因为并没有良好的验证方法去验证其有效性，于是本文考虑(8)式，通过数值模拟的方法去实现对中偏差估计的检验。 上述中偏差的具体形式为定理2.2.1中的(8)式，当n充分大时，由(8)式得 − n B 2 ( n ) log ℙ ( | S n − n B ( n ) | < ε ) ∼ ε 2 2 σ 2 从而 ℙ ( | S n − n B ( n ) | < ε ) ∼ e − ( ε B ( n ) ) 2 2 n σ 2 ， 记 P ( n ) = ℙ ( | S n − n B ( n ) | < ε ) ， Q ( n ) = e − ( ε B ( n ) ) 2 2 n σ . 通过借助python生成 n 个满足 E [ x n ] = 0 ， Var ( x n ) = 1 的随机变量 x n ，其中 x n ， n = 1 ， 2 ， ⋯ ， 5000 ，然后通过带入 x n 计算 P ( n ) = ℙ ( | S n − n B ( n ) | < ε ) 的图像，并可以直接输入公式 Q ( n ) = e − ( ε B ( n ) ) 2 2 n σ 来画出 P ( n ) 的图像。本例中取 B ( n ) = n 0.9 ， ε = 0.1 ，最后将这两个函数的图像放在同一坐标系中来判断拟合的准确程度，最终结果如下图。 图1中，橙色曲线为 P ( n ) 的图像，蓝色曲线为 Q ( n ) 的图像，根据图片可以看出，随着n的逐渐增大， P ( n ) 逐渐逼近 Q ( n ) 。具体地：当 n < 500 时，两函数之间还会有些差异，这应该是单次模拟不充分导致的，但是当 n ∈ ( 500 ， 1000 ) 时， P ( n ) 就渐渐地逼近 Q ( n ) ，至于 n > 1000 时，拟合的结果就非常好了，这是符合定理2.2.1的预期结果。 图1. 定理2.2.1的模拟结果