广义奇异值分解

线性代数中，广义奇异值分解（GSVD）是基于奇异值（SVD）的两种不同算法的统称。其区别在于，一个是分解两个矩阵（类似于高阶或张量SVD），另一种使用施加于单矩阵SVD奇异向量上的约束。

版本1：双矩阵分解
广义奇异值分解（GSVD）是对矩阵对的矩阵分解，将奇异值分解推广到两个矩阵的情形。它由Van Loan 于1976年提出，后来由Paige与Saunders完善，也就是本节描述的版本。与SVD相对，GSVD可以同时分解具有相同列数的矩阵对。SVD、GSVD及SVD的其他一些推广被广泛用于研究线性系统在二次半范数方面的条件调节与正则化。下面设，或。

 定义  
与的广义奇异值分解为，其中
 为酉矩阵；
 为酉矩阵；
 为酉矩阵；
为酉矩阵；
对角线元素为正实数，包含的非零奇异值的降序排列，
 ,
 是非负实数分块对角阵，其中，其中, ，且；
 是非负实数分块对角阵，其中，其中, ，且；
 ,
 ,
 ,
 .

记。而是对角阵，不总是对角阵，因为前导矩形零矩阵；相反，是“副对角阵”。

 变体 
GSVD有许多变体，与这样一个事实有关：总可以左乘是任意酉矩阵。记


 ，其中是上三角可逆阵；是酉矩阵。QR分解总可以得到这样的矩阵。
 ，那么可逆。

下面是GSVD的一些变体：

 MATLAB（gsvd）： 
 LAPACK（LA_GGSVD）： 
 简化：

广义奇异值
与的广义奇异值 是一对使得

我们有

根据这些性质，可以证明广义奇异值正是成对的。有因此

对某个，当时，表达式恰为零。

在中，广义奇异值被认为是求解的奇异值。然而，这只有当时才成立，否则行列式对每对都将是0；这可通过替换上面的得到。

 广义逆 
对任意可逆阵，令，对任意零矩阵，令，对任意分块对角阵令。定义可以证明这里定义的是的广义逆阵；特别是的逆。由于它一般不满足，所以不是摩尔-彭若斯广义逆；否则可以得出，对任意所选矩阵都有，这只对特定类型的矩阵成立。

设，其中。这个广义逆具有如下性质：









 商SVD 
'与的'广义奇异比是。由以上性质，。注意是对角阵，忽略前导零矩阵，按降序包含着奇异比。若可逆，则没有前导零，广义奇异比就是奇异值，与则是的奇异向量矩阵。事实上计算的SVD是GSVD的动机之一，因为“形成并求SVD，当的方程解条件不佳时，可能产生不必要、较大的数值误差”。因此有时也被称为“商GSVD”，虽然这并不是使用GSVD的唯一原因。若不可逆，并放宽奇异值降序排列的要求，则仍是的SVD。或者，把前导零移到后面，也可以找到降序SVD：，其中与是适当的置换矩阵。由于秩等于非零奇异值的个数，所以。

 构造 
令

 为的SVD，其中是酉矩阵，与如上所述；
 ，其中与；
 ，其中与；
 通过的SVD得到，其中、与如上所述，
 经过类似于QR分解的分解，其中与如上所述。

那么，还有因此由于的列归一正交，，因此对每个，有，使得因此；

 应用 

GSVD是一种比较谱分解，已成功应用于信号处理和数据科学，如基因组信号处理。

这些应用启发了其他几种比较谱分解，即高阶GSVD（HO GSVD）与张量GSVD。 

当特征函数以线性模型（即再生核希尔伯特空间）为参数时，它同样适于估计线性运算的谱分解。

版本2：加权单矩阵分解
广义奇异值分解（GSVD）的加权情形是一种有约束矩阵分解，约束施加在奇异向量上。这种GSVD是SVD的推广。给定m×n实或复数矩阵M的SVD分解

，其中

其中I是单位矩阵；与在约束条件下（；）是标准正交矩阵。另外，、是正定矩阵（通常是权的对角矩阵）。这种形式的GSVD是某些算法的核心，如广义主成分分析和对应分析。

加权形式的GSVD''之所以被称为加权形式，是因为在正确取权时，可以推出许多算法（如多维标度与线性判别分析）。

 参考文献 

 阅读更多 


 LAPACK manual  

Category:线性代数