system: [SYSTEM]

user: 3. 特征值与特征向量在专业背景中的应用 3.1. 特征值与特征向量在PageRank算法中的应用 特征值理论在网络社区发现和数据挖掘中的应用，最经典的案例就是谷歌搜索的网页排序算法，也就是PageRank算法，谷歌用它来体现网页的相关性和重要性，这一算法构成了谷歌搜索引擎的核心技术，方阵的特征值和特征向量理论为其提供了理论支撑。该算法的简单模型如图2所示。 图2. 网络链接模型 设 n j 表示第j个网页出去的链接数，用 L k 表示进入第k个网页的网页集合，则重新定义网页等级为 x k = ∑ j ∈ L k x j n j ，由图2不难建立关系式如下 { x 1 = 1 1 x 3 + 1 2 x 4 x 2 = 1 3 x 1 x 3 = 1 3 x 1 + 1 2 x 2 + 1 2 x 4 x 4 = 1 3 x 1 + 1 2 x 2 ⇔ X k + 1 = A X k ， A = ( 0 0 1 1 / 2 1 / 3 0 0 0 1 / 3 1 / 2 0 1 / 2 1 / 3 1 / 2 0 0 ) (2) (2)式建立了马尔科夫链的一阶差分方程，由盖尔圆定理 [ 1 ] 知其概率转移矩阵的最大特征值为1，所对应的特征向量为x，由文献 [ 7 ] 知道该马尔科夫链的稳态向量就是最大特征值所属的特征向量。依据稳态向量的各个分量的大小可以给出网页的排序，在课堂讲授中给学生大概介绍一下理想化的模型，有兴趣的同学可以课外查找文献，仔细研究具体算法，激发学习兴趣。 3.2. 特征值与特征向量在机械振动中的应用 在讲解特征值和特征向量的概念时，一定要结合它的物理意义进行阐述，一方面加深对抽象概念的理解，另一方面，便于解释在工程技术中的实现。如果把矩阵看作是对运动的描述，而矩阵的特征值就是运动的速度，所对应的特征向量就是运动的方向，所以特征值和特征向量就构成了运动的“特征”。因此有人说，有振动的地方就有特征值和特征向量，这话有一定的理论依据。比如音乐厅的结构设计或者桥梁的构造，建筑学家都会结合特征值进行详细推导计算，在合唱或者器乐齐鸣时达到更好的回响效果。例如历史上著名的塔科马悬索桥风毁事件，法国和俄国都曾出现过部队齐步过桥时，桥毁人亡的事件，究其原因是桥梁的机械频率和运动的振动频率基本一致导致的共振造成的。再比如2020年5月发生的虎门大桥晃动事件，就是由于增加了水马，改变了桥的重量，从而导致共振，引起桥身晃动，拿走了水马，桥面就逐渐不再晃动。这些与振动相关的事件都可以通过特征值估计理论 [ 4 ] 予以详细解释。 为简单起见，假设矩阵A可对角化，特征向量 p 1 ， p 2 ， ⋯ ， p n 是 R n 的基，并且已经排列，使得对应的特征值 λ 1 ， λ 2 ， ⋯ ， λ n 的绝对值递减，具有主特征值 λ 1 。假设 x ∈ R n ，且 x = c 1 p 1 + c 2 p 2 + ⋯ + c n p n ( c 1 ≠ 0 ) ，则 A k x = c 1 λ 1 k p 1 + c 2 λ 2 k p 2 + ⋯ + c n λ n k p n ( k = 1 ， 2 ， ⋯ ) 等式两边同除以 λ 1 k 得， 1 λ 1 k A k x = c 1 p 1 + c 2 ( λ 2 λ 1 ) k p 2 + ⋯ + c n ( λ n λ 1 ) k p n ( k = 1 ， 2 ， ⋯ ) (3) 由于(3)式右端的所有分数 λ 2 λ 1 ， ⋯ ， λ n λ 1 的值都小于1，因此它们的幂趋于零，即当 k → ∞ 时， 1 λ 1 k A k x → c 1 p 1 。因此对于足够大的k， A k x 的倍数的方向几乎与特征向量 c 1 p 1 的方向相同。由于正的倍 数不会改变向量的方向，若给定 c 1 ≠ 0 ，则 A k x 的方向几乎与 p 1 或 − p 1 一致。可以通过二阶方阵让学生借助matlab快速计算向量的迭代，直观演示如图3所示。一座桥梁可以视为一个物理系统，其各种物理特性如质量、刚性、阻尼等可以用一个矩阵来描述。部队在桥梁上行走时，人对地面的作用可以视为一个种机械振动，桥梁的各种物理特性构成矩阵的特征值决定着行走中振动的频率和幅度减弱的衰退率。当人马齐步通过桥梁时，每个人对桥梁的作用近似相同，振动相互叠加，如果出现叠加信号与特征向量相同，而主特征值又大于1，则矩阵在特征向量所指的方向上对向量产生一个持续的增强作用，从而可能形成强烈振动损坏桥梁，导致桥毁人亡。如果部队分散通过桥梁，那么矩阵对各振动信号的作用无法与矩阵的特征向量一致形成“共振”，从而避免悲剧的发生。 图3. 由 x ， A x ， A 2 x ， ⋯ ， A 7 x 确定的方向 3.3. 特征值与特征向量在图像压缩中的应用 矩阵的各种分解形式为矩阵的科学计算提供了强有力的理论支撑，通过矩阵分解可以达到对矩阵进行降维的目的，从而减小内存量，简化运算。为了说明特征值与特征向量在图像压缩技术中的应用，先来介绍一下奇异值分解的概念。 定义2 [ 1 ] 设 A ∈ R r m × n ， A T A 的特征值为 λ i ( i = 1 ， 2 ， ⋯ ， n ) ，且设 λ 1 ≥ λ 2 ≥ ⋯ ≥ λ r > λ r + 1 = ⋯ = λ n = 0 ，称 σ i = λ i ( i = 1 ， 2 ， ⋯ ， r ) 为矩阵A的奇异值。如果存在m阶正交矩阵U和n阶正交矩阵V，满足 A = U D V T ，其中 m × n 矩阵D的分块形式为 D = ( Σ o o o ) ，且 Σ = ( σ 1 ⋱ σ r ) ， σ i ( i = 1 ， 2 ， ⋯ ， r ) 为矩阵A的奇异值，那么矩阵的积分解式 A = U D V T 称为A的奇异值分解。事实上，A的奇异值是其法矩阵 A T A 的正特征值的平方根。若记 U = ( u 1 ， u 2 ， ⋯ ， u m ) ， V = ( v 1 ， v 2 ， ⋯ ， v n ) ，则矩阵A可以分解为如下秩1矩阵的和： A = σ 1 u 1 v 1 T + σ 2 u 2 v 2 T + ⋯ + σ r u r v r T . (4) (4)式和谱分解定理中的(1)式形式相近，但是要注意两者的差异。 假定一幅图像有 m × n 个像素，如果将这mn个数据一起传送，往往数据量会很大。因此，我们考虑在信息的发送端传送比较少的数据，并且在接收端利用这些传送数据对图像进行重构。这就是图像压缩的最初想法，不过图像压缩要求较高的压缩比，同时不产生失真。矩阵的奇异值分解可以将任意一个矩阵和一个只包含几个(非零)奇异值的矩阵对应。把“大”的矩阵对应到“小”的矩阵，这就产生了“压缩”的思想，并且利用矩阵的计算可以恢复压缩前的数据 [ 8 ]。矩阵A表示一个536×498的矩阵，需要保存 536 × 498 = 266928 个元素的值，(4)式中的 u ， v 分别为 536 × 1 ， 498 × 1 的列向量，每一项有 1 + 536 + 498 = 1035 个元素，如果我们只保留奇异值分解的前50项，则需要存储的元素为 1035 × 50 = 51750 ，和存储原始矩阵A相比，存储量仅为后者的19.39%，大大节省了存储空间。一般地，如果从中选择k个较大的奇异值， 则称比率 ρ = m n ( m + n + 1 ) k 为图像的压缩比，通过公式 A k = ∑ i = 1 k σ i u i v i T 重构出原图像就可以满足人的视觉要 求。容易理解：若数k越小，即压缩比越大，则重构的图像质量不高；反之，k太大，则压缩比太小，降低了图像传输效率，因此，实际应用中需要兼顾传输效率和重构图像质量的同时选择合适的压缩比。图4(a)是一张536 × 498像素的原始黑白图像，通过matlab命令读取图像数据，然后进行奇异值分解，336个非零奇异值的和为785.2964。表1清晰直观的给出了压缩后的奇异值占比和压缩比，从图表不难看出，图4(b)中取 k = 1 ，截取最大奇异值，重构图像模糊不清，看不出是什么图形。图4(c)中取 k = 5 ，截取前5个奇异值，此时可以看出图像轮廓。图4(d)中取 k = 20 ，此时图像已经可以辨认，但是还有点模糊。图4(e)中取 k = 50 ，截取前50个奇异值，此时图像已经非常接近于原图，但是存储空间大大降低，不及原图像20%。在图像处理领域，奇异值分解不仅可以用在图像压缩上，还可以对图像进行降噪处理。 图4. 原图以及压缩后的图像 Table 1 Compressed data table of imag 项目 k = 1 k = 5 k = 20 k = 50 奇异值占比 46.03% 72.27% 87.64% 94.49% 压缩比 257.9 51.58 12.9 5.16 表1. 图像的压缩数据表 在教学过程中，这个案例作为大作业来执行的，学生通过实际动手操作，深入理解了矩阵的奇异值分解理论，熟练掌握了的matlab常用命令以及算法实现，极大的提高了学生对这门课程的学习兴趣。