矩阵分裂

数值线性代数中，矩阵分裂（matrix splitting）是一种将给定矩阵表为多个矩阵和或差的表示。很多迭代法（如解微分方程组的）都依赖于直接求解比三对角矩阵更一般的矩阵的方程，若将其分裂，通常可以更高效地求解。这项技术由Richard S. Varga（1960）发明。 解矩阵方程 其中A是给定n阶非奇异方阵，k是给定n元列向量。A可分裂为 B、C都是n阶方阵。对元素非负的任意n阶方阵M，可以记作 M ≥ 0 {\displaystyle \mathbf {M} \geq \mathbf {0} } 。若M元素均为正数，可以记作 M > 0 {\displaystyle \mathbf {M} >\mathbf {0} } 。相似地，若 M 1 − M 2 {\displaystyle \mathbf {M} _{1}-\mathbf {M} _{2}} 的元素非负，可以记作 M 1 ≥ M 2 {\displaystyle \mathbf {M} _{1}\geq \mathbf {M} _{2}} 。 定义： 若 B − 1 ≥ 0 ,   C ≥ 0 {\displaystyle \mathbf {B} ^{-1}\geq 0,\ \mathbf {C} \geq \mathbf {0} } ，则 A = B − C {\displaystyle \mathbf {A} =\mathbf {B} -\mathbf {C} } 是A的一个正则分裂（regular splitting）。 假设矩阵方程形式为 其中g是给定列向量，可直接求解x。若(2)表示A的正则分裂，则迭代法 其中 x ( 0 ) {\displaystyle \mathbf {x} ^{(0)}} 是任意向量。(4)可等价地改写为 若(2)表示A的正则分裂，则矩阵 D = B − 1 C {\displaystyle \mathbf {D} =\mathbf {B} ^{-1}\mathbf {C} } 的元素非负。 可以证明，若 A − 1 ≥ 0 {\displaystyle \mathbf {A} ^{-1}\geq \mathbf {0} } ，则 ρ ( D ) < 1 {\displaystyle \rho (\mathbf {D} )<1} ，其中 ρ ( D ) {\displaystyle \rho (\mathbf {D} )} 表示D的谱半径，因此D是收敛矩阵。于是，迭代法(5)必然收敛。 此外，若选择分裂(2)，使B是对角矩阵（由于B可逆，所以对角项全部不为零），则B可在线性时间内求得逆（见时间复杂度）。 很多迭代法都可描述为矩阵分裂。若A的对角项都是非零的，且A表为矩阵和 其中D是A的主对角线元素构成的对角矩阵，U、L分别是n阶严格上、下三角矩阵，则有： 雅可比法可表为 高斯-赛德尔迭代可表为 逐次超松弛迭代法可表为 方程(1)中，令 应用雅可比中的分裂(7)：将A分裂，使B包含A的所有对角元素，C包含A的所有对角线外元素并取负（当然这不是将矩阵分裂为两矩阵的唯一有效方法），则有 A − 1 = 1 47 ( 18 13 16 11 21 15 13 12 22 ) , B − 1 = ( 1 6 0 0 0 1 4 0 0 0 1 5 ) , {\displaystyle {\begin{aligned}&\mathbf {A^{-1}} ={\frac {1}{47}}{\begin{pmatrix}18&13&16\\11&21&15\\13&12&22\end{pmatrix}},\quad \mathbf {B^{-1}} ={\begin{pmatrix}{\frac {1}{6}}&0&0\\[4pt]0&{\frac {1}{4}}&0\\[4pt]0&0&{\frac {1}{5}}\end{pmatrix}},\end{aligned}}} D = B − 1 C = ( 0 1 3 1 2 1 4 0 1 2 3 5 1 5 0 ) , B − 1 k = ( 5 6 − 3 2 ) . {\displaystyle {\begin{aligned}\mathbf {D} =\mathbf {B^{-1}C} ={\begin{pmatrix}0&{\frac {1}{3}}&{\frac {1}{2}}\\[4pt]{\frac {1}{4}}&0&{\frac {1}{2}}\\[4pt]{\frac {3}{5}}&{\frac {1}{5}}&0\end{pmatrix}},\quad \mathbf {B^{-1}k} ={\begin{pmatrix}{\frac {5}{6}}\\[4pt]-3\\[4pt]2\end{pmatrix}}.\end{aligned}}} 由于 B − 1 ≥ 0 ,   C ≥ 0 {\displaystyle \mathbf {B} ^{-1}\geq \mathbf {0} ,\ \mathbf {C} \geq \mathbf {0} } ，分裂(11)是正则分裂。由于 A − 1 > 0 {\displaystyle \mathbf {A} ^{-1}>\mathbf {0} } ，谱半径 ρ ( D ) < 1 {\displaystyle \rho (\mathbf {D} )<1} （D的近似特征值是 λ i ≈ − 0.4599820 , − 0.3397859 , 0.7997679 {\displaystyle \lambda _{i}\approx -0.4599820,-0.3397859,0.7997679} ）。因此D收敛，迭代法(5)对(10)收敛。注意A的对角元均大于零，非对角元均小于零，且A是强对角占优矩阵。 迭代法(5)应用于(10)，形式为 (12)的精确解为 以 x ( 0 ) = ( 0.0 ,   0.0 ,   0.0 ) T {\displaystyle \mathbf {x} ^{(0)}=(0.0,\ 0.0,\ 0.0)^{T}} 为初向量，列出(12)的前几次迭代。可见此方法明显收敛到解(13)，不过速度相当缓慢。 雅可比法(7)与上面演示的正则分裂(11)相同。 由于(10)中矩阵A的对角项均非零，可以用分裂(6)表示A，其中 则有 ( D − L ) − 1 = 1 120 ( 20 0 0 5 30 0 13 6 24 ) , {\displaystyle {\begin{aligned}&\mathbf {(D-L)^{-1}} ={\frac {1}{120}}{\begin{pmatrix}20&0&0\\5&30&0\\13&6&24\end{pmatrix}},\end{aligned}}} ( D − L ) − 1 U = 1 120 ( 0 40 60 0 10 75 0 26 51 ) , ( D − L ) − 1 k = 1 120 ( 100 − 335 233 ) . {\displaystyle {\begin{aligned}&\mathbf {(D-L)^{-1}U} ={\frac {1}{120}}{\begin{pmatrix}0&40&60\\0&10&75\\0&26&51\end{pmatrix}},\quad \mathbf {(D-L)^{-1}k} ={\frac {1}{120}}{\begin{pmatrix}100\\-335\\233\end{pmatrix}}.\end{aligned}}} 将高斯-赛德尔法(8)应用于(10)有如下格式 以 x ( 0 ) = ( 0.0 ,   0.0 ,   0.0 ) T {\displaystyle \mathbf {x} ^{(0)}=(0.0,\ 0.0,\ 0.0)^{T}} 为初向量，列出(15)的前几次迭代。可见方法明显收敛到解(13)，且比雅可比法快。 置 ω = 1.1 {\displaystyle \omega =1.1} 。由分裂(14)，有 ( D − ω L ) − 1 = 1 12 ( 2 0 0 0.55 3 0 1.441 0.66 2.4 ) , {\displaystyle {\begin{aligned}&\mathbf {(D-\omega L)^{-1}} ={\frac {1}{12}}{\begin{pmatrix}2&0&0\\0.55&3&0\\1.441&0.66&2.4\end{pmatrix}},\end{aligned}}} ( D − ω L ) − 1 [ ( 1 − ω ) D + ω U ] = 1 12 ( − 1.2 4.4 6.6 − 0.33 0.01 8.415 − 0.8646 2.9062 5.0073 ) , {\displaystyle {\begin{aligned}&\mathbf {(D-\omega L)^{-1}[(1-\omega )D+\omega U]} ={\frac {1}{12}}{\begin{pmatrix}-1.2&4.4&6.6\\-0.33&0.01&8.415\\-0.8646&2.9062&5.0073\end{pmatrix}},\end{aligned}}} ω ( D − ω L ) − 1 k = 1 12 ( 11 − 36.575 25.6135 ) . {\displaystyle {\begin{aligned}&\mathbf {\omega (D-\omega L)^{-1}k} ={\frac {1}{12}}{\begin{pmatrix}11\\-36.575\\25.6135\end{pmatrix}}.\end{aligned}}} 将SOR法(9)应用于(10)，则有 以 x ( 0 ) = ( 0.0 ,   0.0 ,   0.0 ) T {\displaystyle \mathbf {x} ^{(0)}=(0.0,\ 0.0,\ 0.0)^{T}} 为初向量，列出(16)的前几次迭代。可见SOR法收敛到解(13)，比GS法略快。 矩阵分解 M-矩阵 斯蒂尔杰斯矩阵 Varga (1960) Varga (1960，第121–122頁) Varga (1960，第122–123頁) Varga (1962，第89頁) Burden & Faires (1993，第408頁) Varga (1962，第88頁) Burden & Faires (1993，第411頁) Varga (1962，第88頁) Burden & Faires (1993，第416頁) Varga (1962，第88頁) Burden & Faires (1993，第371頁) Burden, Richard L.; Faires, J. Douglas, Numerical Analysis 5th, Boston: Prindle, Weber and Schmidt, 1993, ISBN 0-534-93219-3  含有內容需登入查看的頁面 (link). Varga, Richard S. Factorization and Normalized Iterative Methods. Langer, Rudolph E. (编). Boundary Problems in Differential Equations. Madison: University of Wisconsin Press. 1960: 121–142. LCCN 60-60003.  Varga, Richard S., Matrix Iterative Analysis, New Jersey: Prentice-Hall, 1962, LCCN 62-21277 .