system: [SYSTEM]

user: 2. 预备知识 2.1. 随机向量和随机矩阵的高斯分布 定义2.1.1 [ 9 ] (1)一个随机向量 x ∈ R n 的特征函数为 ϕ x ( t ) = E [ exp ( i t ′ x ) ] ，矩生成函数为 m x ( t ) = E [ exp ( t ′ x ) ] (2)一个随机矩阵 X ∈ R m × n 的特征函数为 ϕ X ( t ) = E [ exp t r ( i T ′ X ) ] ，矩生成函数为 m x ( t ) = E [ exp t r ( T ′ X ) ] 定义2.1.2 [ 10 ] (1)设给定随机向量 z ∈ R m ，其元素 z j ∼ N ( μ j ， 1 ) 独立同分布，那么 z 服从标准非中心化向量高斯分布，记作 z ∼ N m ( μ ， I m ) ，若 μ = 0 ，那么 z 称为标准中心向量高斯。 (2) 若 z ∼ N m ( 0 ， I m ) ，有限的常数矩阵 Φ ∈ R n × m 满足 1 ≤ r a n k ( Φ ) = m ≤ n ， y = Φ z + μ 服从向量高斯分布，记作 y ∼ N n ( μ ， Σ ) ，其中 Σ = Φ Φ ′ ， r a n k ( Σ ) = m 。 定理2.1.1 [ 10 ] (a)一个标准向量高斯分布 z ∼ N m ( 0 ， σ 2 I ) 有特征函数 ϕ z ( t ) = e − t ′ t / 2 ，矩生成函数 m z ( t ) = e t ′ t / 2 ，均值 E ( z ) = 0 ∈ ℜ m ，协方差矩阵 ν ( z ) = I ∈ ℜ m × m 。 (b)一个向量高斯分布 z ∼ N m ( μ ， I ) 有特征函数 ϕ z ( t ) = e i t ′ μ − t ′ t / 2 ，矩生成函数 m z ( t ) = e t ′ μ + t ′ t / 2 ，均值 E ( z ) = μ ∈ ℜ m ，协方差矩阵 ν ( z ) = I ∈ ℜ m × m 。 (c) y ∼ N n ( μ ， Σ ) 的特征函数是 ϕ y ( t ) = e i t ′ μ − t ′ Σ t / 2 ，矩生成函数是 m y ( t ) = e t ′ μ + t ′ Σ t / 2 。 定理2.1.2 [ 10 ] 若 y 2 = C 1 y 1 + c 0 ，其中 C 1 ∈ R n 2 × n 1 ， c 0 ∈ R n 2 ， y 1 ∼ N n 1 ( μ 1 ， Σ 1 ) 。则 y 2 ∼ N n 2 ( C 1 μ 1 + c 0 ， C 1 Σ 1 C ′ 1 ) 定理2.1.3 设 Y = A X B + C ，其中 X 为随机矩阵， A ， B ， C 为适当大小矩阵。则 ϕ Y ( T ) = ϕ X ( A ′ T B ) exp [ i t r ( T ′ C ) ] (2.1) 其中 t r ( X ) 表示方阵 X 的迹(trace)， X ′ 表示矩阵 X 的转置。 证明：由特征函数定义知 ϕ Y ( T ) = E [ exp { t r [ i T ′ ( A X B + C ) ] } ] = E { exp [ t r ( i T ′ A X B ) + t r ( i T ′ C ) ] } = E { exp [ t r ( i ( A ′ T B ′ ) ′ X ) ] } exp [ i t r ( T ′ C ) ] = ϕ X ( A ′ T B ′ ) exp [ i t r ( T ′ C ) ] 定义2.1.3 [ 9 ] 一个 n × p 矩阵 Y 服从矩阵高斯分布，表为 Y ∼ N n ， p ( M ， Ξ ， Σ ) ，其中 cov [ c o l i ( Y ) ] = Ξ ，   cov [ v e c ( r o w i ( Y ) ) ] = Σ 定义 2.1.4 [ 10 ] 条件 Y ∼ N n ， p ( M ， Ξ ， Σ ) 等价于以下三条中的任意一条： (1) v e c ( Y ) ∼ N n p [ v e c ( M ) ， Σ ⊗ Ξ ] ； (2) v e c ( Y ′ ) ∼ N n p [ v e c ( M ′ ) ， Ξ ⊗ Σ ] ； (3) Y = Ψ Z Φ ′ + M ，其中 Z ∼ N n 1 ， p 1 ( 0 ， I n 1 ， I p 1 ) ， Ξ = Ψ Ψ ′ ，   Ψ ∈ R n × n 1 。 r a n k ( Ψ ) = n 1 ， Σ = Φ Φ ′ ， Φ ∈ R p × p 1 ， r a n k ( Φ ) = p 1 定理2.1.4 [ 10 ] T = [ t 1 ⋯ t p 1 ] 是任意 n 1 × p 1 的实矩阵， Z n 1 × p 1 ∼ N n 1 ， p 1 ( 0 ， I n 1 ， I p 1 ) ， { z j k } = [ z 1 ⋯ z p 1 ] ， z j k 独立同分布，有 z j k ∼ N ( 0 ， 1 ) ，那么Z的特征函数为 ϕ ( T ; Z ) = E { exp [ t r ( i T ′ Z ) ] } = exp [ − t r ( T ′ T ) / 2 ] 定理2.1.5 [ 10 ] 若 Z n 1 × p 1 ∼ N n 1 ， p 1 ( 0 ， I n 1 ， I p 1 ) ，常数矩阵 Ψ ∈ R n × n 1 ， Φ ∈ R p × p 1 ， M ∈ R n × p 则 Y = Ψ Z Φ ′ + M ∼ ( S ) N n ， p ( M ， Ξ ， Σ ) 的特征函数为 ϕ Y ( T ) = exp [ i t r ( T ′ M ) ] exp [ − t r ( T ′ Ξ T Σ ) / 2 ] 其中 Ξ = Ψ Ψ ′ ， Σ = Φ Φ ′ 定理2.1.6 [ 10 ] 若 X ∼ ( S ) N n 1 ， p 1 ( M ， Ξ ， Σ ) ， A ∈ R n × n 1 ≠ 0 ，   B ∈ R p 1 × p ≠ 0 ，   C ∈ R n × p 是常数矩阵，那么 Y = A X B + C ∼ N n ， p ( A M B + C ， A Ξ A ′ ， B ′ Σ B ) (2.2) 证明：由定理2.1.1可知 ϕ Y ( T ) = exp [ i t r ( T ′ M ) ] exp { − t r [ ( Ψ ′ T Φ ) ′ ( Ψ ′ T Φ ) / 2 ] } = exp [ i t r ( T ′ M ) ] exp { − t r ( Φ ′ T ′ Ψ Ψ ′ T Φ ) / 2 } = exp [ i t r ( T ′ M ) ] exp [ − t r ( T ′ Ψ Ψ ′ T Φ Φ ′ ) / 2 ] = exp [ i t r ( T ′ M ) ] exp [ − t r ( T ′ Ξ T Σ ) / 2 ] 2.2. 张量的预备知识 定义2.2.1 [ 11 ] (张量的切片)切片是张量的降维表示。图2给出了一个3阶张量 X ∈ ℝ I × J × K 的三种不同方向上的切片方式，即水平切片(horizontal切片)、左右切片(lateral切片)和前后切片(frontal切片)。类似矩阵A的第 i 行的表示法 A ( i ， : ) 和第j列表示法 A ( : ， j ) ，我们用 X ( : ， ⋯ ， : ， i k ， : ， ⋯ ， : ) 表示m阶张量 X 的模-k方向的第i个切片，如 X ( i ， : ， : ) 表示3阶张量 X 模-1方向的第 i ， i = 1 ， ⋯ ， I 个切片， X ( : ， j ， : ) 表示lateral切片(模-2方向)的第 j ， j = 1 ， ⋯ ， J 个切片， X ( : ， : ， k ) 表示frontal切片(模-3方向)的第 k ， k = 1 ， ⋯ ， K 个切片。 类似于矩阵向量化，张量同样可进行矩阵化及向量化。下面我们来定义张量的矩阵化。 定义2.2.2 [ 12 ] 把一个3阶张量沿某方向的切片按一定顺序排成矩阵形式的过程称为张量的矩阵化(matricization)。 一个3阶张量有3个不同方向的切片，因此有3种形式的矩阵化，如一个2 × 3 × 4张量的模-1方向切片形成2 × 12的矩阵，同理它在模-2方向和模-3方向切片得到3 × 8和4 × 6矩阵。记张量 X 沿模- i 方向展开得到的矩阵为 X ( i ) 。 例 2.2.1 设3阶张量 A ∈ ℝ 3 × 3 × 2 如图3所示。 则其在模-1、模-2、模-3方向上矩阵化后得到的矩阵分别为 A ( 1 ) = [ 1 2 3 10 11 12 4 5 6 13 14 15 7 8 9 16 17 18 ] ， A ( 2 ) = [ 1 4 7 10 13 16 2 5 8 11 14 17 3 6 9 12 15 18 ] ， A ( 3 ) = [ 1 4 7 2 5 8 3 6 9 10 13 16 11 14 17 12 15 18 ] . 定义2.2.3 [ 12 ] 大小 I 1 × I 2 × ⋯ × I m 的张量 X ∈ R I 1 × I 2 × ⋯ × I m 与矩阵 U ∈ R J × I n 沿模-n的乘积为大小 I 1 × ⋯ × I n − 1 × J × I n + 1 × ⋯ × I m 的张量 Y = X × n U ∈ R I 1 × ⋯ × I n − 1 × J × I n + 1 × ⋯ × I m ，其元定义为 图2. 3阶张量在3个不同方向上的切片 图3. 一个3 × 3 × 2张量A Y i 1 ⋯ i n − 1 j i n + 1 ⋯ i m = ∑ i n = 1 I n x i 1 ⋯ i n ⋯ i m u j i n (2.3) 定理2.2.1 [ 12 ] 张量 X 与矩阵 U 在模- n 方向的乘积的模- n 的矩阵化等价于矩阵 U 与张量 X 在模- n 方向矩阵化后的乘积，即 Y = X × n U ⇔ Y ( n ) = U X ( n ) (2.4) 定理2.2.2. [ 12 ] 若 X ∈ R I 1 × ⋯ × I N ，   A ∈ R J n × I n ，   B ∈ R J m × I m ，则有 X × n A × m B = X × m B × n A (2.5)