长方矩阵与正定矩阵
我们之前一直在讨论方阵,但大量的实际问题应用到了长方矩阵,比如在最小二乘中用到了ATA。
如果A是一个m×n的长方矩阵,那么ATA是一个对称矩阵,当然也是方阵,我们感兴趣的是ATA的正定性。对于ATA来说,我们对它的特征向量和行列式一无所知,需要根据xT(ATA)x> 0来判断其正定性:
当且仅当Ax=0时,上式等于0,因此只需要看看什么时候Ax=0。
我们在矩阵零空间中讨论过,对于一个m×n的长方矩阵来说,如果是矩阵是列满秩,m > n,那么该矩阵的零空间只有零向量。因此,当A是列满秩的矩阵时,仅当x=0时Ax=0,此时对于任意非零向量,一定有xT(ATA)x> 0,A是正定的。
相似矩阵
A和B都是n×n的方阵,若存在可逆矩阵M,使得B=M-1AM,则称A和B互为相似矩阵,记作A~B。
相似矩阵与特征值
实际上我们早就见过相似矩阵。如果A有n个线性无关的特征向量,则A可以对角化为A=SΛS-1,相当于S-1AS=Λ,A和其特征值矩阵Λ互为相似矩阵,这里的M=S,是特征向量矩阵。实际上A的相似矩阵有很多,我们可以用任意可逆矩阵M代替S,从而求得其他的相似矩阵,Λ是众多相似矩阵中最简洁的一个。
召唤一个矩阵:
Λ和A互为相似矩阵。如果取另一组可逆矩阵,可以得到A的另一个相似矩阵:
观察B会发现,它的迹是4(特征向量之和),行列式是3(特征向量之积),这暗示我们B的特征向量和A相同。实际上这正是相似矩阵的特性:相似矩阵具有同样的特征值。实际上所有特征是是3和1的二阶矩阵都是A的相似矩阵。
为什么相似矩阵会出现相同的特征值呢?现在设A和B互为相似矩阵,B=M-1AM,根据特征方程:
现在出现了新的特征方程,B的特征向量是M-1x,特征值是λ,和A的特征值一致。当然,别指望特征向量也相同,如果特征向量也相同,就变成了完全相等的同一个矩阵。
相似矩阵的性质
对于B=M-1AM
设A,B和C是任意同阶方阵,则有:
(1)反身性:A~A
(2)对称性:若A~B,则B~A
(3)传递性:若A~B,B~C,则A~C
(4)若A~B,则二者的特征值相同、行列式相同、秩相同、迹相同。
(5)若A~B,且A可逆,则B也可逆,A-1~B-1。