版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA版权协议,转载请附上原文出处链接和本声明。
展开

1.三角分解(LU分解)

矩阵的LU分解是将一个矩阵分解为一个下三角矩阵与上三角矩阵的乘积。本质上,LU分解是高斯消元的一种表达方式。首先,对矩阵A通过初等行变换将其变为一个上三角矩阵。对于学习过线性代数的同学来说,这个过程应该很熟悉,线性代数考试中求行列式求逆一般都是通过这种方式来求解。然后,将原始矩阵A变为上三角矩阵的过程,对应的变换矩阵为一个下三角矩阵。这中间的过程,就是Doolittle algorithm(杜尔里特算法)。
转一个Tony Ma同学写的例子:
若AX=b是一个非奇异系统,那么高斯消元法将A化简为一个上三角矩阵。若主轴上没有0值,则无需交互行,因此只需进行第3类初等行变换(把第 i 行加上第 j 的k倍)即可完成此变换。例如
第3类行变换可以通过左乘相应的初等矩阵image实现,对上例来说进行的3个变换就是相应初等矩阵的乘积。注意最右边是一个下三角矩阵L
从而有G3G2G1A=U,即A=G−11G−12G−13U。因此A=LU,为一个下三角与一个上三角矩阵的乘积,因此称为LU分解。
注意:
1)U是高斯消元的结果,且对角线上是主元
2)L对角线上是1,对角线下面的元素image恰恰是在式1中用于消去(i,j)位置上元素的乘子。
LU分解常用来求解线性方程组,求逆矩阵或者计算行列式。例如在计算行列式的时候,A=LU,det(A)=det(L)det(U)。而对于三角矩阵来说,行列式的值即为对角线上元素的乘积。所以如果对矩阵进行三角分解以后再求行列式,就会变得非常容易。
在线性代数中已经证明,如果方阵A是非奇异的,即A的行列式不为0,LU分解总是存在的。

2.QR分解

QR分解是将矩阵分解为一个正交矩阵与上三角矩阵的乘积。用一张图可以形象地表示QR分解:
这其中,Q为正交矩阵,QTQ=I,R为上三角矩阵。
实际中,QR分解经常被用来解线性最小二乘问题。

3.Jordan分解

每次看到Jordan分解,就想起当年考研的那段时光。控制原理里面,就有大段关于Jordan分解的内容。可惜当时矩阵分析没有学到位,线性代数里头又没有提到Jordan分解,所以理解起来那个费劲。
废话这么多,先来看看Jordan到底是个什么鬼:
我们将下面的k×k阶方阵
JK(λ)=⎡⎣⎢⎢⎢⎢⎢⎢λ1λ1⋱⋱λ1λ⎤⎦⎥⎥⎥⎥⎥⎥k×k
称为Jordan块。同时,我们也将由若干个Jordan块组成的对角矩阵成为Jordan阵。
由Jordan块的定义不难看出,Jordan 阵与对角阵的差别仅在于它的上 (下)对角线的元素是0或1。因此,它是特殊的上三角阵。
为什么要进行Jordan分解呢?或者说,Jordan分解能解决什么问题呢?
我们先来复习一下,如果一个n阶方阵A可以对角化,那么A至少满足下列条件的一个:
1.A有n个线性无关的特征向量。
2.A的所有特征值的几何重数等于相应的代数重数,即qi=pi。
3.A的极小多项式经标准分解后,每一项都是一次项,且重数都是1。
因为有的矩阵不可以进行对角化,那么我们可以对它进行Jordan分解,达到简化计算的目的。

4.SVD分解

关于SVD分解,前面已经有文章专门介绍了。
发布了420 篇原创文章 ·获赞 1487 ·访问量 420万+
矩阵分解所谓矩阵分解就是将矩阵分解成两三个标准矩阵的乘积矩阵分解的目的在于求解线性方程组矩阵存储矩阵重构以预测矩阵分解的根本方法在于线性变换矩阵分解的分类对角化分解:通过正交变换将矩阵对角化奇异值分解...博文来自: weixin_40620694的博客
本篇主要介绍和讨论了矩阵的几种常见分解方式,包括:LU分解,UR/QR分解以及特征值分解,另外由于SVD分解较为复杂,将另起一篇单独介绍。...博文来自: VAY-长跑
1、特征值与特征向量的意义解释矩阵乘法其实是对应着一个线性变换,是把任意一个向量变成另一个方向或者长度的新向量。在这个变换中,原向量主要发生旋转、伸缩的变化。如果矩阵对某一个向量或某些向量只发生伸缩变...博文来自: ycc18829026593的博客
1、LU分解可以说是最简单的矩阵分解方法,将矩阵A分解成L(下三角)矩阵和U(上三角)矩阵的乘积。其实就是高斯消元法的体现,U矩阵就是利用高斯消元法得到的,而消元过程用到的初等变换矩阵乘积就是L矩阵。...博文来自: God_68的博客
最近学习矩阵分解,但是学了好多种类,都乱了,看了这篇文章,系统性的总结了矩阵分解,感觉很棒,故分享如下:原文地址:https://zhuanlan.zhihu.com/p/35262187