system: [SYSTEM]

user: 3. 多维标度法理论简述 3.1. 度量多维标度分析相关理论 一个距离矩阵 D = ( d i j ) n × n 称为欧式型的 [ 2 ]，若存在某个正整数p及p维空间 R p 中的n个点 x 1 ， ⋯ ， x n ，使得 d i j 2 = ( x i − x j ) ′ ( x i − x j ) ，   i ， j = 1 ， 2 ， ⋯ ， n (1) 对于距离阵 D = ( d i j ) n × n ，设p和 R p 中的n个点 x 1 ， ⋯ ， x n ，矩阵表示为 X = ( x 1 ， ⋯ ， x n ) ′ ，用 d ^ i j 表示 x i 与 x j 的欧式距离， D ^ = ( d ^ i j ) ，使得 D ^ 与D在一定条件下相近，则称X为D的一个解，称 x i 为D的一个拟合构造点，X为拟合构图，D的拟合距离阵为 D ^ ，特别的，当 D ^ = D 时，称 x i 为D的构造点，X为构图。得出拟合构图就可以得出n个拟合构造点 x i 的坐标，我们就可以画出多维标度图，进而对原始客体进行一个合理的统计解释。 令 A = ( a i j ) ， a i j = − 1 2 d i j 2 ， B = H ′ A H ， H = I n − 1 n 1 n 1 ′ n ，一个的距离阵 D = ( d i j ) n × n 是欧式型的充分必要条件是 B ≥ 0 。 对于必要性： 设D是欧氏型的，则由定义可知，存在 x 1 ， ⋯ ， x n ∈ R p ，使得 d i j 2 = − 2 a i j = ( x i − x j ) ′ ( x i − x j ) (2) 可得 B = H ′ A H = A − 1 n A 1 n 1 ′ n − 1 n 1 n 1 ′ n A + 1 n 2 1 n 1 ′ n A 1 n 1 ′ n (3) 带入可得 b i j = a i j − a ¯ i . − a ¯ . j + a ¯ .. (4) 其中 a ¯ i . = 1 n ∑ j = 1 n a i j ， a ¯ . j = 1 n ∑ i = 1 n a i j ， a ¯ .. = 1 n 2 ∑ i = 1 n ∑ j = 1 n a i j 。 求得 a i j ， a ¯ i . ， a ¯ . j ， a ¯ .. 带入可得 b i j = ( x i − x ¯ ) ′ ( x i − x ¯ ) ，   i ， j = 1 ， ⋯ ， n (5) 其中 x ¯ = 1 n ∑ i = 1 n x i 。 将上式用矩阵表示并根据负定矩阵的性质有 B = ( b i j ) n × n = ( ( x 1 − x ¯ ) ′ ⋮ ( x n − x ¯ ) ′ ) ( ( x 1 − x ¯ ) ， ⋯ ， ( x n − x ¯ ) ) ′ ≥ 0 (6) 其中，B为拟合构图X的中心化内积矩阵。 对于充分性： 记 p = r a n k ( B ) ， λ 1 ， ⋯ ， λ p 为B的正特征根， x ( 1 ) ， ⋯ ， x ( p ) 为对应的特征向量。 由于 B ≥ 0 ，则由谱分解定理 B = H ′ A H = Γ Λ Γ ′ (7) 式中 Λ = diag ( λ 1 ， ⋯ ， λ p ) ， λ 1 ≥ ⋯ ≥ λ p 为B的p个正特征值， Γ 的p个列为对应的p个标准正交化的特征向量。取 X = Γ Λ 1 / 2 ，其为 n × p 阶矩阵。把这个X写成 X = ( x 1 ， ⋯ ， x n ) ′ = ( x ( 1 ) ， ⋯ ， x ( p ) ) ，于是有： X ′ X = ( Γ Λ 1 / 2 ) ′ ( Γ Λ 1 / 2 ) = Λ ，   B = X X ′ (8) 即 b i j = x ′ i x j 。由此求得 x i 与 x j 两点的距离平方 ( x i − x j ) ′ ( x i − x j ) = b i i − 2 b i j + b j j = a i i − 2 a i j + a j j = − 2 a i j = d i j 2 (9) 这表明存在正整数p和一个 n × p 阶矩阵 X = Γ Λ 1 / 2 ，使得X是D的构造点，即D是欧氏型的。 根据上述度量多维标度法的基本思想及方法，则其一般步骤： (1) 计算对象两两之间的距离阵 D = ( d i j ) n × n (2) 由距离矩阵求得 A = ( a i j ) n × n ， a i j = − 1 2 d i j 2 (3) 令 B = ( b i j ) ，其中 b i j = a i j − a ¯ i . − a ¯ . j + a ¯ .. (4) 求B的r个正特征值 λ 1 ≥ ⋯ ≥ λ r 和r个正特征值 λ 1 ， ⋯ ， λ r 对应的标准正交化的特征向量，维数空间r一般为2、3以达到可视化的效果。 (5) 根据 X = Γ Λ 1 / 2 ，得到r维拟合构图。 3.2. 非度量多维标度法的相关理论 在实际问题中，我们所能得到的n个客体的数据可能既不是相似系数也不是距离 [ 3 ]，而只是他们之间某种差异程度的大小次序，其大小仅表明他们在排序队列中所处的位置，我们的目标是通过客体间的差异顺序找出一个拟合构图X拟合客体原本的差异关系。 非度量多维标度法，首先要构造一个可以反映样本信息的合适的r维空间，并用空间中的任意n个点来表示这n个客体，用 X i = ( x i 1 ， ⋯ ， x i r ) 表示第i个客体在r维空间的坐标，由这n个点组成的结构叫做初步图形结构，此时点间的距离数值大小次序不一定和原始客体之间的差异次序相同。接着，我们要一步步修正初步图形结构，使得这些代表客体的点之间距离的大小次序和原始客体之间的差异次序尽可能匹配。这其中的核心在于选择关键的维数和检验初步图形结构是否匹配进而进行修改。 对于坐标空间维数的确定 [ 4 ]，理论上n个客体， n − 1 维空间可以完全反映出原本客体的次序，但是维数太高会使得计算复杂且结果不直观。实际中我们往往采用2、3维空间，然后去挑选出匹配程度最好的维数空间。 下面给出Kruskal非度量方法： 假定存在n个客体的不相似阵 ( δ i j ) n × n ，首先用r维空间中任意不同点代表不同客体， X i = ( x i 1 ， ⋯ ， x i r ) 表示第i个客体在r维空间的坐标，用 d i j 表示初步图形中客体i和客体j间的距离： d i j = ( x i 1 − x j 1 ) 2 + ( x i 2 − x j 2 ) 2 + ⋯ + ( x i r − x j r ) 2 (10) 若用 d i j 确定的次序与原始客体的不相似次序不匹配，就逐步调整n个点的空间位置使得 d i j 与不相似系数的 δ i j 的完全一致 [ 5 ]。即若： δ i 1 j 1 ≤ δ i 2 j 2 ≤ ⋯ ≤ δ i m j m ，则 d i 1 j 1 ≤ d i 2 j 2 ≤ ⋯ ≤ d i m j m ， m = 1 2 n ( n − 1 ) (11) 问题的核心是 d i j 与 δ i j 的匹配性。Kruskal采用最小二乘单调回归求解出 δ i j 的单调正解 d ^ i j ，然后将 d ^ i j 与实际距离 d i j 进行对比并作差，最后使用这个差值平方标准化之后作为匹配程度的度量，称之为应力(STRESS) [ 5 ]。 STRESS = [ ∑ i = 1 n − 1 ∑ j = i + 1 n ( d i j − d ^ i j ) 2 ∑ i = 1 n − 1 ∑ j = i + 1 n     d i j 2 ] 1 2 (12) d i j 与 d ^ i j 越接近，STRESS指数就越小，表明拟合程度越好。实际中，我们往往当STRESS指数小于某个定值时，就认为该模型的拟合程度良好；若STRESS指数大于预先给定的临界值，就继续修改初始图形，进而得到一个新的图形结构模型。一般采用迭代方法，找到使STRESS指数小于某个阙值的r维空间中的n个客体的坐标。