矩陣範數

矩陣範數（matrix norm）亦译矩阵模是數學中矩阵论、线性代数、泛函分析等领域中常见的基本概念，是将一定的矩阵空间建立为赋范向量空间时为矩阵装备的范数。应用中常将有限维赋范向量空间之间的映射以矩阵的形式表现，这时映射空间上装备的范数也可以通过矩阵范数的形式表达。 赋范向量空间是拓扑向量空间中的基本种类。通过赋予向量空间（线性空间）以范数，建立拓扑结构。考虑系数域 K {\displaystyle \mathbb {K} } （ K {\displaystyle \mathbb {K} } 可以是实数域 R {\displaystyle \mathbb {R} } 或複数域 C {\displaystyle \mathbb {C} } 等）上的所有 m × n {\displaystyle m\times n} 矩阵所构成的向量空间 M m , n ( K ) {\displaystyle {\mathcal {M}}_{m,n}(\mathbb {K} )} 。这是一个有 m n {\displaystyle mn} 维的 K {\displaystyle \mathbb {K} } -向量空间。可以如同对其他的有限维 K {\displaystyle \mathbb {K} } -向量空间一样，为矩阵空间 M m , n ( K ) {\displaystyle {\mathcal {M}}_{m,n}(\mathbb {K} )} 装备范数。这样的范数称为 M m , n ( K ) {\displaystyle {\mathcal {M}}_{m,n}(\mathbb {K} )} 上的一个矩阵范数。 依照范数的定义，一个从 M m , n ( K ) {\displaystyle {\mathcal {M}}_{m,n}(\mathbb {K} )} 映射到非负实数的函数 ‖ ⋅ ‖ {\displaystyle \|\cdot \|} 满足以下的条件： 严格正定性：对任意矩阵 A ∈ M m , n ( K ) {\displaystyle A\in {\mathcal {M}}_{m,n}(\mathbb {K} )} ，都有 ‖ A ‖ ≥ 0 {\displaystyle \|A\|\geq 0} ，且等號成立若且唯若 A = 0 {\displaystyle A=0} ； 线性性：对任意系数 α ∈ K {\displaystyle \alpha \in \mathbb {K} } 、任意矩阵 A ∈ M m , n ( K ) {\displaystyle A\in {\mathcal {M}}_{m,n}(\mathbb {K} )} ，都有 ‖ α A ‖ = | α | ‖ A ‖ {\displaystyle \|\alpha A\|=|\alpha |\|A\|} ； 三角不等式：任意矩阵 A , B ∈ M m , n ( K ) {\displaystyle A,B\in {\mathcal {M}}_{m,n}(\mathbb {K} )} ，都有 ‖ A + B ‖ ≤ ‖ A ‖ + ‖ B ‖ {\displaystyle \|A+B\|\leq \|A\|+\|B\|} 。则称之为 M m , n ( K ) {\displaystyle {\mathcal {M}}_{m,n}(\mathbb {K} )} 上的一个矩阵范数。 此外，某些定義在方块矩阵组成空间 M n ( K ) {\displaystyle {\mathcal {M}}_{n}(\mathbb {K} )} 上的矩陣範數滿足一個或多個以下與的條件： 相容性： ‖ A B ‖ ≤ ‖ A ‖ ‖ B ‖ {\displaystyle \|AB\|\leq \|A\|\|B\|} ； 共轭转置相等条件： ‖ A ‖ = ‖ A ∗ ‖ {\displaystyle \|A\|=\|A^{*}\|} 。其中 A ∗ {\displaystyle A^{*}} 表示矩阵 A {\displaystyle A} 的共轭转置（在實矩陣中就是普通轉置）。 一致性特性（consistency property）也稱為次可乘性（sub-multiplicative property）。某些书籍中，矩阵范数特指满足一致性条件的范数。 满足以上设定的矩阵范数可以有多种。由于它们都是定义在 M m , n ( K ) {\displaystyle {\mathcal {M}}_{m,n}(\mathbb {K} )} 这个有限维向量空间上的范数，所以实质上是等价的。常见的矩阵范数通常是在矩阵的应用中自然定义或诱导的范数。 考虑从向量空间 V = K m {\displaystyle V=\mathbb {K} ^{m}} 映射到 W = K n {\displaystyle W=\mathbb {K} ^{n}} 的所有线性映射的构成的空间： L m , n ( K ) {\displaystyle {\mathcal {L}}_{m,n}(\mathbb {K} )} 。设 V {\displaystyle V} 和 W {\displaystyle W} 中分别装备了两个向量范数 ‖ ⋅ ‖ V {\displaystyle \|\cdot \|_{V}} 和 ‖ ⋅ ‖ W {\displaystyle \|\cdot \|_{W}} ，则可以定义 L m , n ( K ) {\displaystyle {\mathcal {L}}_{m,n}(\mathbb {K} )} 上的算子范数 ‖ ⋅ ‖ L {\displaystyle \|\cdot \|_{\mathcal {L}}} ： ∀ A ∈ L m , n ( K ) ‖ A ‖ L = max { ‖ A ( x ) ‖ W ; x ∈ V , ‖ x ‖ V ⩽ 1 } {\displaystyle \forall A\in {\mathcal {L}}_{m,n}(\mathbb {K} )\|A\|_{\mathcal {L}}=\max\{\|A(x)\|_{W}\;;\;\;x\in V,\;\;\|x\|_{V}\leqslant 1\}} 。 而给定了基底後，每个从 V {\displaystyle V} 映射到 W {\displaystyle W} 的线性映射都可以用一个 m × n {\displaystyle m\times n} 的矩阵来表示，所以同样地可以定义 M m , n ( K ) {\displaystyle {\mathcal {M}}_{m,n}(\mathbb {K} )} 上的非负映射 ‖ ⋅ ‖ M {\displaystyle \|\cdot \|_{\mathcal {M}}} ： ∀ A ∈ M m , n ( K ) ‖ A ‖ M = max { ‖ A x ‖ W ; x ∈ V , ‖ x ‖ V ⩽ 1 } {\displaystyle \forall A\in {\mathcal {M}}_{m,n}(\mathbb {K} )\|A\|_{\mathcal {M}}=\max\{\|Ax\|_{W}\;;\;\;x\in V,\;\;\|x\|_{V}\leqslant 1\}} 。 可以验证， ‖ ⋅ ‖ M {\displaystyle \|\cdot \|_{\mathcal {M}}} 满足矩阵范数的定义，因此是一个矩阵范数。这个矩阵范数被称为是由向量空间范数诱导的矩阵范数，可以看作是算子范数在由有限维向量空间之间线性映射组成的空间上的特例。如果 m = n {\displaystyle m=n} ，所对应的矩阵空间就是 n {\displaystyle n} 阶方块矩阵空间 M n ( K ) {\displaystyle {\mathcal {M}}_{n}(\mathbb {K} )} 。这时可以验证，诱导范数 ‖ ⋅ ‖ M {\displaystyle \|\cdot \|_{\mathcal {M}}} 满足一致性条件。 当 V {\displaystyle V} 和 W {\displaystyle W} 中装备的向量范数都是 p {\displaystyle p} -范数的时候，诱导的矩阵范数也称为矩阵的诱导 p {\displaystyle p} -范数。具体来说就是： ‖ A ‖ p = max x ≠ 0 ‖ A x ‖ p ‖ x ‖ p = max x ≠ 0 ( ∑ i = 1 m | ∑ j = 1 n a i j x j | p ) 1 / p ( ∑ j = 1 n | x j | p ) 1 / p {\displaystyle \left\|A\right\|_{p}=\max \limits _{x\neq 0}{\frac {\left\|Ax\right\|_{p}}{\left\|x\right\|_{p}}}=\max \limits _{x\neq 0}{\frac {\left(\sum _{i=1}^{m}|\sum _{j=1}^{n}a_{ij}x_{j}|^{p}\right)^{1/p}}{\left(\sum _{j=1}^{n}|x_{j}|^{p}\right)^{1/p}}}} 。 在 p = 1 {\displaystyle p=1} 和 p = ∞ {\displaystyle p=\infty } 的情況下，其範數可以以下方式計算： ‖ A ‖ 1 = max 1 ≤ j ≤ n ∑ i = 1 m | a i j | ‖ A ‖ ∞ = max 1 ≤ i ≤ m ∑ j = 1 n | a i j | {\displaystyle {\begin{aligned}&\left\|A\right\|_{1}=\max \limits _{1\leq j\leq n}\sum _{i=1}^{m}|a_{ij}|\\&\left\|A\right\|_{\infty }=\max \limits _{1\leq i\leq m}\sum _{j=1}^{n}|a_{ij}|\end{aligned}}} 這些與矩陣的Schatten p-範数不同，也可以用 ‖ A ‖ p {\displaystyle \left\|A\right\|_{p}} 。來表示。 当p = 2（欧几里德範数）時，诱导的矩阵範数就是谱範数。矩陣A的谱範数是A最大的奇異值或半正定矩阵A*A的最大特徵值的平方根： ‖ A ‖ 2 = λ max ( A ∗ A ) {\displaystyle \left\|A\right\|_{2}={\sqrt {\lambda _{\text{max}}(A^{*}A)}}} 其中A*代表A的共轭转置。 任何诱导的矩陣範數都滿足此不等式 ‖ A ‖ ≥ ρ ( A ) , {\displaystyle \left\|A\right\|\geq \rho (A),} 其中ρ(A)是A的谱半径。事實上，可以证明ρ(A)是A的所有诱导範数的下界。 此外，我們有 lim r → ∞ ‖ A r ‖ 1 / r = ρ ( A ) {\displaystyle \lim _{r\rightarrow \infty }\|A^{r}\|^{1/r}=\rho (A)} 。 這些向量範數将矩阵视为 m × n {\displaystyle m\times n} 向量，并使用类似的向量範數。 舉例說明，使用向量的p-範数，我們得到： ‖ A ‖ p = ( ∑ i = 1 m ∑ j = 1 n | a i j | p ) 1 / p   {\displaystyle \Vert A\Vert _{p}={\Big (}\sum _{i=1}^{m}\sum _{j=1}^{n}|a_{ij}|^{p}{\Big )}^{1/p}\ } 注：不要把矩阵元p-範数与诱导p-範数混淆。 对p = 2，这称为弗罗贝尼乌斯範数（Frobenius norm）或希尔伯特-施密特範数（Hilbert–Schmidt norm），不过后面这个术语通常只用于希尔伯特空间。这个範数可用不同的方式定义： ‖ A ‖ F = ∑ i = 1 m ∑ j = 1 n | a i j | 2 = trace ⁡ ( A ∗ A ) = ∑ i = 1 min { m , n } σ i 2 {\displaystyle \|A\|_{F}={\sqrt {\sum _{i=1}^{m}\sum _{j=1}^{n}|a_{ij}|^{2}}}={\sqrt {\operatorname {trace} (A^{{}^{*}}A)}}={\sqrt {\sum _{i=1}^{\min\{m,\,n\}}\sigma _{i}^{2}}}} 这里A*表示A的共轭转置，σi是A的奇异值，并使用了迹函数。弗罗贝尼乌斯範数与Kn上欧几里得範数非常类似，来自所有矩阵的空间上一个内积。 弗罗贝尼乌斯范数是服从乘法的且在数值线性代数中非常有用。这个範数通常比诱导範数容易计算。 极大值範数是p=∞的元素範数， ‖ A ‖ m a x = max { | a i j | } {\displaystyle \|A\|_{max}=\max\{|a_{ij}|\}} 。这个範数不服从次可乘性（sub-multiplicative property）。 Schatten範数出现于当p-範数应用于一个矩阵的奇异值向量时。如果奇异值记做σi，则Schatten p-範数定义为 ‖ A ‖ p = ( ∑ i = 1 min { m , n } σ i p ) 1 / p   {\displaystyle \|A\|_{p}={\Big (}\sum _{i=1}^{\min\{m,\,n\}}\sigma _{i}^{p}{\Big )}^{1/p}\ } 这个範数与诱导、元素p-範数使用了同样的记号，但它们是不同的。 所有Schatten範数服从乘法。它们也都是酉不变的，这就是说||A|| = ||UAV|| 对所有矩阵A与所有酉矩阵U和V。 最常见的情形是p = 1, 2, ∞。p = 2得出弗罗贝尼乌斯範数，前面已经介绍过了。p = ∞得出谱範数，这是由向量2-範数诱导的矩阵範数（见下）。最后，p = 1得出迹範数(核範数)，定义为 ‖ A ‖ tr = trace ⁡ ( A ∗ A ) = ∑ i = 1 min { m , n } σ i {\displaystyle \|A\|_{\text{tr}}=\operatorname {trace} ({\sqrt {A^{*}A}})=\sum _{i=1}^{\min\{m,\,n\}}\sigma _{i}} 。 一个 K m × n {\displaystyle K^{m\times n}} 上矩阵範数 ‖ ⋅ ‖ a b {\displaystyle \|\cdot \|_{ab}} 称为与 K n {\displaystyle K^{n}} 上向量範数 ‖ ⋅ ‖ a {\displaystyle \|\cdot \|_{a}} 以及 K m {\displaystyle K^{m}} 上向量範数 ‖ ⋅ ‖ b {\displaystyle \|\cdot \|_{b}} 一致，如果 ‖ A x ‖ b ≤ ‖ A ‖ a b ‖ x ‖ a {\displaystyle \|Ax\|_{b}\leq \|A\|_{ab}\|x\|_{a}} 对所有 A ∈ K m × n , x ∈ K n {\displaystyle A\in K^{m\times n},x\in K^{n}} 。根据定义，所有诱导範数是一致範数。 对任何两个向量範数||·||α and ||·||β，我们有 r ‖ A ‖ α ≤ ‖ A ‖ β ≤ s ‖ A ‖ α {\displaystyle r\left\|A\right\|_{\alpha }\leq \left\|A\right\|_{\beta }\leq s\left\|A\right\|_{\alpha }} 对某个正数r与s， K m × n {\displaystyle K^{m\times n}} 中所有矩阵A成立。换句话说，它们是等价的範数；它们在 K m × n {\displaystyle K^{m\times n}} 上诱导了相同的拓扑。 此外，当 A ∈ R n × n {\displaystyle A\in \mathbb {R} ^{n\times n}} ，则对任何向量範数 ||·||，存在惟一一个正数k使得k||A|| 是一个（服从乘法）矩阵範数。 一个矩阵範数||·||α称为“极小的”，如果不存在其它矩阵範数||·||β满足||·||β≤||·||α。 对矩阵 A ∈ R m × n {\displaystyle A\in \mathbb {R} ^{m\times n}} 如下不等式成立： ‖ A ‖ 2 ≤ ‖ A ‖ F ≤ n ‖ A ‖ 2 {\displaystyle \|A\|_{2}\leq \|A\|_{F}\leq {\sqrt {n}}\|A\|_{2}} ‖ A ‖ max ≤ ‖ A ‖ 2 ≤ m n ‖ A ‖ max {\displaystyle \|A\|_{\text{max}}\leq \|A\|_{2}\leq {\sqrt {mn}}\|A\|_{\text{max}}} 1 n ‖ A ‖ ∞ ≤ ‖ A ‖ 2 ≤ m ‖ A ‖ ∞ {\displaystyle {\frac {1}{\sqrt {n}}}\|A\|_{\infty }\leq \|A\|_{2}\leq {\sqrt {m}}\|A\|_{\infty }} 1 m ‖ A ‖ 1 ≤ ‖ A ‖ 2 ≤ n ‖ A ‖ 1 {\displaystyle {\frac {1}{\sqrt {m}}}\|A\|_{1}\leq \|A\|_{2}\leq {\sqrt {n}}\|A\|_{1}} 这里，||·||p表示由向量p-範数诱导的矩阵範数。 向量範数之间另一个有用的不等式是 ‖ A ‖ 2 ≤ ‖ A ‖ 1 ‖ A ‖ ∞ {\displaystyle \|A\|_{2}\leq {\sqrt {\|A\|_{1}\|A\|_{\infty }}}} 。 Golub, Gene; Van Loan, Charles F., Matrix Computations 3rd, Baltimore: The Johns Hopkins University Press: 56–57, 1996, ISBN 0-8018-5413-X  Horn, Roger; Johnson, Charles, Matrix Analysis, Cambridge University Press, 1985, ISBN 0-521-38632-2  Douglas W. Harder, Matrix Norms and Condition Numbers [1] James W. Demmel, Applied Numerical Linear Algebra, section 1.7, published by SIAM, 1997. Carl D. Meyer, Matrix Analysis and Applied Linear Algebra, published by SIAM, 2000. [2] （页面存档备份，存于互联网档案馆）