特征值和特征向量

在数学上，特别是线性代数中，对于一个给定的方阵formula_1，它的特征向量（eigenvector，也译固有向量、本征向量）formula_2 经过这个线性变换之后，得到的新向量仍然与原来的formula_2 保持在同一条直线上，但其长度或方向也许会改变。即formula_4，
formula_5为纯量，即特征向量的长度在该线性变换下缩放的比例，称formula_5 为其特征值（eigenvalue，也译固有值、本征值）。如果特征值为正，则表示formula_2 在经过线性变换的作用后方向也不变；如果特征值为负，说明方向会反转；如果特征值为0，则是表示缩回零点。但无论怎样，仍在同一条直线上。图1给出了一个以油画《蒙娜丽莎》为题材的例子。在一定条件下（如其矩阵形式为实对称矩阵的线性变换），一个变换可以由其特征值和特征向量完全表述，也就是说：所有的特征向量组成了这向量空间的一组基底。一个特征空间（eigenspace）是具有相同特征值的特征向量与一个同维数的零向量的集合，可以证明该集合是一个线性子空间，比如formula_8 即为线性变换formula_1 中以formula_5 为特征值的特征空间。
这些概念在纯数学和应用数学的众多领域中都有重要的应用。在线性代数和泛函分析之外，甚至在一些非线性的情况下，这些概念都是十分重要的。
「特征」一词译自德语的eigen，由希尔伯特在1904年首先在这个意义下使用（赫尔曼·冯·亥姆霍兹在更早的时候也在类似意义下使用过这一概念）。eigen一词可翻译为“自身的”，“特定于...的”，“有特征的”或者“个体的”—这强调了特征值对于定义特定的变换上是很重要的。
定义.
给定一个向量空间formula_11，从formula_11到formula_11自身的线性变换formula_14是一个保持向量加法和纯量乘向量这两种运算的函数，例如旋转、反射、拉伸、压缩，或者这些变换的组合等等。一个线性变换可以通过它们在向量上的作用来可视化。一般来说，一个向量在经过映射之后可以变为任何可能的向量，而特征向量具有更好的性质。
一个线性变换formula_15的特征向量formula_2 是一个非零向量且在这个线性变换下的新向量为formula_2 简单地乘以一个标量formula_5。也就是说存在一个纯量formula_5　使得formula_2满足下式：
formula_21
其中的缩放因子formula_5 称为这个特征向量的特征值，或者说是线性变换formula_14的特征值。反过来，一个实数formula_5是线性变换formula_14的一个特征值，当且仅当有一个非零向量formula_2满足上面的式子。
所有具有相同的特征值formula_5的特征向量和零向量一起，组成了一个向量空间，称为线性变换的一个特征空间，一般记作formula_28。这个特征空间如果是有限维的，那么它的维数叫做formula_5的几何重数。
变换的主特征向量是模最大的特征值对应的特征向量。有限维向量空间上的一个变换的谱是其所有特征值的集合。
特征向量也可以看作是关于系数formula_5的方程：
formula_31
的非零解。显然只有在formula_5是变换formula_14的特征值之时，方程才有非零解。
例子.
线性变换.
最简单的例子是恒等变换formula_34的特征向量。由于对所有的非零向量formula_2，
所以所有的非零向量都是恒等变换formula_34的特征向量，对应着特征值1。恒等变换的特征空间只有一个，就是整个空间，对应着特征值1。类似地，数乘变换formula_38的特征向量也是所有非零向量，因为按照定义，对所有的非零向量formula_2，
如果一个变换可以写成对角矩阵，那么它的特征值就是它对角线上的元素，而特征向量就是相应的基。例如矩阵：
的特征值就是2和4。2对应的特征向量是所有形同formula_42的非零向量，而4对应的特征向量是所有形同formula_43的非零向量。2对应的特征空间是一个2维空间，而4对应的特征空间是一个1维空间。矩阵formula_44的谱是formula_45。
对于更复杂的矩阵，特征向量和特征值就不是显然的了。右图中的例子是一个二维平面上的错切变换，其矩阵可以表示为：
formula_47的特征向量formula_48，按照定义，是在变换formula_44的作用下会得到formula_48自身的若干倍的非零向量。假设在formula_44的作用下formula_48变成了自身的formula_5倍，也就是
在等式两边的左侧乘以单位矩阵"I"，得到
因此
根据线性方程组理论，为了使这个方程有非零解，矩阵formula_58的行列式必须是零：
"det: determinant，行列式"
按照行列式的展开定义，上面式子的左端是一个关于formula_5的多项式，称为特征多项式。这个多项式的系数只和formula_44有关。在这个例子中，可以计算这个特征多项式：
在这种情况下特征多项式的方程变成formula_63。它的唯一的解是：formula_64。这就是矩阵formula_44的特征值。
找到特征值formula_64后，就可以找出
的非零解，也就是特征向量了。在例子中：
将formula_64代入，就有
解这个新矩阵方程，得到如下形式的解：
这里的"c"是任意非零常量。因此，矩阵formula_44的特征向量就是所有竖直方向的向量（比如图中红色箭头代表的向量）。 
一般来说，2×2的非奇异矩阵如果有两个相异的特征值，就有两个线性无关的特征向量。在这种情况下，对于特征向量，线性变换仅仅改变它们的长度，而不改变它们的方向（除了反转以外），而对于其它向量，长度和方向都可能被矩阵所改变。如果特征值的模大于1，特征向量的长度将被拉伸，而如果特征值的模小于1，特征向量的长度就将被压缩。如果特征值小于0，特征向量将会被翻转。
其他例子.
随着地球的自转，每个从地心往外指的箭头都在旋转，除了在转轴上的那些箭头。考虑地球在一小时自转后的变换：地心指向地理南极的箭头是这个变换的一个特征向量，并且因为指向极点的箭头没有被地球的自转拉伸，它的特征值是1;但是从地心指向赤道任何一处的箭头不会是一个特征向量。
另一个例子是，薄金属板关于一个固定点均匀伸展，使得板上每一个点到该固定点的距离翻倍。这个伸展是一个有特征值2的变换。从该固定点到板上任何一点的向量是一个特征向量，而相应的特征空间是所有这些向量的集合。
但是，三维几何空间不是唯一的向量空间。例如，考虑两端固定的拉紧的绳子，就像弦乐器的振动弦那样（图2.）。振动弦的原子到它们在弦静止时的位置之间的带符号那些距离视为一个空间中的一个向量的分量，那个空间的维数就是弦上原子的个数。
如果考虑绳子随着时间流逝发生的变换，它的特征向量，或者说"特征函数"（如果将绳子假设为一个连续媒介），就是它的驻波—也就是那些通过空气的传播让人们听到弓弦和吉他的拨动声的振动。驻波对应于弦的特定振动，它们使得弦的形状随着时间变化而伸缩一个因子（特征值）。和弦相关的该向量的每个分量乘上了一个依赖于时间的因子。驻波的振幅（特征值）在考虑到阻尼的情况下逐渐减弱。因此可以将每个特征向量对应于一个寿命，并将特征向量的概念和共振的概念联系起来。
特征值方程.
从数学上看，如果非零向量v与变换formula_73满足
则称向量v是变换formula_75的一个特征向量，"λ"是相应的特征值。其中formula_76是将变换formula_75作用于v得到的向量。
假设formula_75是一个线性变换，那么v可以由其所在向量空间的一组基表示为：
其中formula_80是向量formula_81在基向量formula_82上的投影（即坐标），这里假设向量空间为"n" 维。由此，formula_81可以直接以坐标向量formula_84表示。利用基向量，线性变换formula_75也可以用一个简单的矩阵乘法表示。上述的特征值方程可以表示为：
但是，有时候用矩阵形式写下特征值方程是不自然甚或不可能的。例如在向量空间是无穷维的时候，上述的弦的情况就是一例。取决于变换formula_73和它所作用的空间的性质，有时将特征值方程表示为一组微分方程更好。若formula_73是一个微分算子，其特征向量通常称为该微分算子的特征函数。例如，微分本身是一个线性变换因为（若"M"和"N"是可微函数，而"a"和"b"是常数）
考虑对于时间formula_90的微分。其特征函数满足如下特征值方程：
其中"λ"是该函数所对应的特征值。这样一个时间的函数，如果formula_92，它就不变，如果formula_93为正，它就按比例增长，如果formula_93是负的，它就按比例衰减。例如，理想化的兔子的总数在兔子更多的地方繁殖更快，从而满足一个正λ的特征值方程。
该特征值方程的解是formula_95，也即指数函数；这样，该函数是微分算子"d/dt"的特征值为"λ"的特征函数。若"λ"是一个负数，我们称"N"的演变为一个指数衰减；若它是正数，则称指数增长。"λ"的值可以是一个任意复数。因此"d/dt"的谱是整个复平面。在这个例子中，算子"d/dt"作用的空间是单变量可微函数的空间。该空间有无穷维（因为不是每一个可微函数都可以用有限的基函数的线性组合来表达的）。但是，每个特征值"λ"所对应的特征空间是一维的。它就是所有形为formula_96的函数的集合。"N0"是任意常数，也就在"t=0"的初始数量。
谱定理.
谱定理在有限维的情况，将所有可对角化的矩阵作了分类：它显示一个矩阵是可对角化的，当且仅当它是一个正规矩阵。注意这包括自共轭（厄尔米特）的情况。这很有用，因为对角化矩阵T的函数f(T)（譬如博雷尔函数f）的概念是清楚的。在采用更一般的矩阵的函数的时候谱定理的作用就更明显了。例如，若f是解析的，则它的形式幂级数，若用T取代x，可以看作在矩阵的巴拿赫空间中绝对收敛。谱定理也允许方便地定义正算子的唯一的平方根。
谱定理可以推广到希尔伯特空间上的有界正规算子，或者无界自共轭算子的情况。
矩阵的特征值和特征向量.
计算矩阵的特征值和特征向量.
假设我们想要计算给定矩阵的特征值。若矩阵很小，我们可以用特征多项式进行符号演算。但是，对于大型矩阵这通常是不可行的，在那种情况我们必须采用数值方法。
形式计算.
描述正方形矩阵的特征值的重要工具是特征多项式：就如之前的例子一样，说"λ"是"A"的特征值等价于说线性系统（"A" – "λI"）"v" = 0（其中"I"是单位矩阵）有非零解"v"（一个特征向量），因此等价于说行列式：
函数：formula_98是一个关于"λ"的多项式，称为"A"的特征多项式。矩阵的特征值也就是其特征多项式的零点。求一个矩阵"A"的特征值可以通过求解方程formula_99来得到。
若"A"是一个"n"×"n"矩阵，则formula_100为"n"次多项式，因而"A"最多有"n"个特征值。反过来，如果"A"的系数是在一个代数闭域里面（比如说复数域），那么代数基本定理说明这个方程刚好有"n"个根（如果重根也计算在内的话）。所有奇数次的多项式必有一个实数根，因此当n为奇数的时候，每个n维实系数矩阵至少有一个实数特征值。当矩阵系数是实数的时候，非实数的特征值会成共轭对出现。
一旦找到特征值λ，相应的特征向量就可以通过求解如下方程得到：
实系数的矩阵不一定有实数特征值。比如对于以下的矩阵（表示二维平面上的顺时针90°的一个旋转变换)：
其特征多项式是formula_103，因此其特征值成复共轭对出现，分别是"i"和-"i"，而没有实数特征值。相应的特征向量也是非实数的。
数值计算.
在实践中，大型矩阵的特征值无法通过特征多项式计算。计算该多项式本身相当费资源，而根的精确表达式对于高次的多项式来说很难计算和表达：阿贝尔-鲁菲尼定理显示五次或更高次的多项式的根无法用formula_104次方根来简单表达。对于估算多项式的根的有效算法是有的，但特征值中的微小误差可以导致特征向量的巨大误差。因此，寻找特征多项式和特征值的一般算法，是迭代法。最简单的方法是：取一个随机向量formula_2，然后计算如下的一系列单位向量
这个序列几乎总是收敛于最大绝对值的特征值所对应的特征向量。这个算法很简单，但是本身不是很有用。但是，像QR分解这样的算法正是以此为基础的。
性质.
代数重次.
"A"的一个特征值λ的代数重数是λ作为"A"的特征多项式的根的次数；换句话说，若r是该多项式的一个根，它是一次多项式因子（"λ" - r）在特征多项式中在因式分解后中出现的次数。如果将代数重次计算在内的话，一个"n"×"n"矩阵有"n"个特征值，因为其特征多项式次数为"n"。
一个代数重次1的特征值为“单特征值”。
在关于矩阵理论的条目中，可能会遇到如下的表示方法：
表示4的代数重次为二，3的是三，2的是二，而1的是1。这样写是因为代数重次对于矩阵理论中的很多证明很重要而被大量使用。
和代数重数相对的是特征值的几何重数：特征值相对应的特征空间（也就是λI − "A"的零空间）的维数。代数重次也可以视为一种维数：它是相应广义特征空间的维数，也就是当自然数k足够大的时候矩阵（λI − "A"）"k"的零空间。也就是说，它是所有“广义特征向量”组成的空间，其中一个广义特征向量是任何一个如果λI − "A"作用连续作用足够多次就“最终”会变0的向量。任何特征向量都是一个广义特征向量，以此任一个特征空间都被包含于相应的广义特征空间。这给了一个几何重次总是小于或等于代数重次的简单证明。
例如：
它只有一个特征值，也就是λ = 1。其特征多项式是formula_110，所以这个特征值代数重次为2。但是，相应特征空间是通常称为"x"轴的数轴，由向量formula_111线性生成，所以几何重次只是1。
广义特征向量可以用于计算一个矩阵的若尔当标准型（参看下面的讨论）。若尔当块通常不是对角化而是幂零的这个事实与特征向量和广义特征向量之间的区别直接相关。
一般矩阵分解定理.
如上所述，谱定理表明正方形矩阵可以对角化当且仅当它是正规的。对于更一般的未必正规的矩阵，我们有类似的结果。当然在一般的情况，有些要求必须放松，例如酉等价性或者最终的矩阵的对角性。所有这些结果在一定程度上利用了特征值和特征向量。下面列出了一些这样的结果：
特征值的一些另外的属性.
谱在相似变换下不变：矩阵"A"和"P"-1"AP"有相同的特征值，这对任何矩阵"A"和任何可逆矩阵"P"都成立。谱在转置之下也不变：矩阵"A"和"A"T有相同的特征值。
因为有限维空间上的线性变换是双射当且仅当它是单射，一个矩阵可逆当且仅当所有特征值都不是0。
若尔当分解的一些更多的结果如下：
正规矩阵的一些子类的谱的位置是：
假设"A"是一个"m"×"n"矩阵，其中"m" ≤ "n"，而"B"是一个"n"×"m"矩阵。则"BA"有和"AB"相同的特征值加上"n" − "m"个等于0的特征值。
每个矩阵可以被赋予一个算子范数。算子范数是其特征值的模的上确界，因而也是它的谱半径。该范数直接和计算最大模的特征值的幂法直接相关。当一个矩阵是正规的，其算子范数是其特征值的最大模，并且独立于其定义域的范数。
共轭特征向量.
一个共轭特征向量或者说共特征向量是一个在变换下成为其共轭乘以一个标量的向量，其中那个标量称为该线性变换的共轭特征值或者说共特征值。共轭特征变量和共轭特征值代表了和常规特征向量和特征值相同的信息和含义，但是在交替坐标系统被使用的时候出现。对应的方程是：
例如，在相干电磁散射理论中，线性变换"A"代表散射物体施行的作用，而特征向量表示电磁波的极化状态。在光学中，坐标系统按照波的观点定义，称为前向散射对齐（FSA），从而导致了常规的特征值方程，而在雷达中，坐标系统按照雷达的观点定义，称为后向散射对齐（BSA），从而给出了共轭特征值方程。
广义特征值.
一个广义特征值（第二种意义）有如下形式
其中"A"和"B"为矩阵。其广义特征值（第二种意义）λ
可以通过求解如下方程得到
形如formula_121的矩阵的集合，其中formula_122是一个复数，称为一个“束（pencil）”。若"B"可逆，则最初的问题可以写作如下形式
也即标准的特征值问题。但是，在很多情况下施行逆操作是不可取的，而广义特征值问题应该如同其原始表述来求解。
如果"A"和"B"是实系数的对称矩阵，则特征值为实数。这在上面的第二种等价表述中并不明显，因为矩阵formula_124未必是对称的。
这里的一个例子是分子轨道应用如下。
系数为环中元素.
在方矩阵"A"，其系数属于一个环的情况，λ称为一个右特征值如果存在一个列向量"x"使得"Ax"=λ"x"，或者称为一个左特征值如果存在非零行向量"y"使得"yA"="y"λ。
若环是可交换的，左特征值和右特征值相等，并简称为特征值。否则，例如当环是四元数集合的时候，它们可能是不同的。
无穷维空间.
若向量空间是无穷维的，特征值的概念可以推广到谱的概念。谱是标量λ的集合，对于这些标量，formula_125没有定义，也就是说它们使得formula_126没有有界逆。
很明显，如果"λ"是T的特征值，"λ"位于T的谱内。一般来讲，反过来并不成立。在希尔伯特空间或者巴拿赫空间上有一些算子完全没有特征向量。这可以从下面的例子中看到。在希尔伯特空间formula_127(所有标量级数的空间，每个级数formula_128使得formula_129收敛)上的双向平移没有特征向量却有谱值。
在无穷维空间，有界算子的谱系总是非空的，这对无界自共轭算子也成立。通过检验谱测度，任何有界或无界的自共轭算子的谱可以分解为绝对连续，离散，和孤立部分。指数增长或者衰减是连续谱的例子，而振动弦驻波是离散谱例子。氢原子是两种谱都有出现的例子。氢原子的束缚态对应于谱的离散部分，而离子化状态用连续谱表示。
应用.
薛定谔方程.
在量子力学中，不含时薛定谔方程是一个以微分算子代表的变换formula_130的特征值方程，能够描述一个粒子的量子行为：
其中，formula_132是哈密顿算子，一个二阶微分算子，formula_133是描述粒子的量子行为的波函数，对应于特征值formula_134的特征函数，该值可以解释为粒子的能量。
假设，我们只想寻找薛定谔方程的束缚态(bound state)解，那么，可以在平方可积函数的空间中寻找formula_133。由于这个空间是希尔伯特空间，有一个定义良好的标量积，我们可以引入一个基集合，然后表示formula_133和formula_132为一个一维数组和一个矩阵。这样，我们能够用矩阵形式表达薛定谔方程。（图3表示氢原子哈密顿算子的最低能级特征函数。）
狄拉克标记经常在这个上下文中使用，以强调量子态formula_133的态向量formula_139和它表示于位置空间的波函数formula_140之间的区别。采用狄拉克标记，薛定谔方程写为
并称formula_139是formula_132的一个本征态（formula_132有时候在入门级课本中写作formula_145），formula_132是一个自伴算子（"参看可观察量"）。在上述方程中，formula_147理解为通过作用formula_132于formula_139得到的一个新的态向量。
分子轨域.
在量子力学中，特别是在原子物理和分子物理中，在Hartree-Fock理论下，原子轨域和分子轨域可以定义为Fock算子的特征向量。相应的特征值通过Koopmans定理可以解释为电离势能。在这个情况下，特征向量一词可以用于更广泛的意义，因为Fock算子显式地依赖于轨道和它们地特征值。如果需要强调这个特点，可以称它为"隐特征值方程"。这样地方程通常采用迭代程序求解，在这个情况下称为自洽场方法。在量子化学中，经常会把Hartree-Fock方程通过非正交基集合来表达。这个特定地表达是一个广义特征值问题称为Roothaan方程。
因子分析.
在因素分析中，一个协方差矩阵的特征向量对应于因素，而特征值是因素负载。因素分析是一种统计学技术，用于社会科学和市场分析、产品管理、运筹规划和其他处理大量数据的应用科学。其目标是用称为因素的少量的不可观测随机变量来解释在一些可观测随机变量中的变化。可观测随机变量用因素的线性组合来建模，再加上“残差项。
振动分析.
在对于多自由度机械结构作振动分析时，常常会遇到特征值问题。经过仔细解析，求得的特征值会给出振动的自然频率，而特征向量则会给出振动模态的振动行为。由于特征向量的相互正交性质，允许对应的微分方程式能够解耦合(decouple)，整个系统可以表示为特征向量的线性总和。有限元分析是一种非常优良的方法，时常用来解析复杂结构的特征值问题。
特征脸.
在图像处理中，脸部图像的处理可以看作分量为每个像素的灰度的向量。该向量空间的维数是像素的个数。一个标准化面部图形的一个大型数据集合的协方差矩阵的特征向量称为特征脸。它们对于将任何面部图像表达为它们的线性组合非常有用。特征脸提供了一种用于识别目的的数据压缩的方式。在这个应用中，一般只取那些最大特征值所对应的特征脸。
惯性张量.
采用直角坐标系的三个坐标轴为参考轴，一个刚体的惯性张量formula_150，以矩阵形式表达为
其中，矩阵的元素以方程式表达为
formula_155是刚体内部的微小体积元formula_156的位置。
惯性张量formula_150是个实值的三维对称矩阵，对角元素formula_158、formula_159、formula_160分别为刚体对于x-轴、y-轴、z-轴的转动惯量。非对角元素formula_161是刚体对于formula_162-轴和formula_163-轴的惯量积。根据谱定理，可以使惯性张量成为一个对角矩阵。所得到的三个特征值必是正实值；三个特征向量必定互相正交。
换另外一种方法，我们需要求解特征方程式
也就是以下行列式等于零的的三次方程式：
这方程式的三个根formula_166、formula_167、formula_168都是正实的特征值。将特征值代入特征方程式，再加上方向余弦(directional cosine)方程式，
应力张量.
在固体力学中，应力张量是对称的，因而可以分解为对角张量，其特征值位于对角线上，而特征向量可以作为基。因为它是对角阵，在这个定向中，应力张量没有剪切分量；它只有主分量。
图的特征值.
在谱系图论中，一个图的特征值定义为图的邻接矩阵"A"的特征值，或者（更多的是）图的拉普拉斯算子矩阵formula_173，其中"T"是对角阵表示每个顶点的度数，在formula_174中，0用于取代formula_175。图的主特征向量用于测量其顶点的中心度。Google的PageRank算法就是一个例子。www图的修正邻接矩阵的主特征向量的分量给出了页面评分。