特徵值和特徵向量

zh-hans:重定向;zh-hant:重新導向;}--{H!style=" text-align: left; background: #DCF0FF; font-size: 90%;"|線性空間與線性變換線性空間 · 線性變換 · 線性子空間 · 線性生成空間 · 基 · 線性對映 · 線性投影 · 線性無關 · 線性組合 · 線性泛函 · 行空間與列空間 · 對偶空間 · 正交 · 特徵向量 · 最小二乘法 · 格拉姆-施密特正交化在數學上，特別是線性代數中，對於一個給定的方陣formula_1，它的特徵向量formula_2 經過這個線性變換之後，得到的新向量仍然與原來的formula_2 保持在同一條直線上，但其長度或方向也許會改變。即formula_4，formula_5為純量，即特徵向量的長度在該線性變換下縮放的比例，稱formula_5 為其特徵值是具有相同特徵值的特徵向量與一個同維數的零向量的集合，可以證明該集合是一個線性子空間，比如formula_8 即為線性變換formula_1 中以formula_5 為特徵值的特徵空間。這些概念在純數學和應用數學的眾多領域中都有重要的應用。線上性代數和泛函分析之外，甚至在一些非線性的情況下，這些概念都是十分重要的。「特徵」一詞譯自德語的eigen，由希爾伯特在1904年首先在這個意義下使用。eigen一詞可翻譯為“自身的”，“特定於...的”，“有特徵的”或者“個體的”—這強調了特徵值對於定義特定的變換上是很重要的。定義.給定一個向量空間formula_11，從formula_11到formula_11自身的線性變換formula_14是一個保持向量加法和純量乘向量這兩種運算的函式，例如旋轉、反射、拉伸、壓縮，或者這些變換的組合等等。一個線性變換可以透過它們在向量上的作用來視覺化。一般來說，一個向量在經過對映之後可以變為任何可能的向量，而特徵向量具有更好的性質。一個線性變換formula_15的特徵向量formula_2 是一個非零向量且在這個線性變換下的新向量為formula_2 簡單地乘以一個標量formula_5。也就是說存在一個純量formula_5　使得formula_2滿足下式：formula_21其中的縮放因子formula_5 稱為這個特徵向量的特徵值，或者說是線性變換formula_14的特徵值。反過來，一個實數formula_5是線性變換formula_14的一個特徵值，當且僅當有一個非零向量formula_2滿足上面的式子。所有具有相同的特徵值formula_5的特徵向量和零向量一起，組成了一個向量空間，稱為線性變換的一個特徵空間，一般記作formula_28。這個特徵空間如果是有限維的，那麼它的維數叫做formula_5的幾何重數。變換的主特徵向量是模最大的特徵值對應的特徵向量。有限維向量空間上的一個變換的譜是其所有特徵值的集合。特徵向量也可以看作是關於係數formula_5的方程：formula_31的非零解。顯然只有在formula_5是變換formula_14的特徵值之時，方程才有非零解。例子.線性變換.最簡單的例子是恆等變換formula_34的特徵向量。由於對所有的非零向量formula_2，formula_36所以所有的非零向量都是恆等變換formula_34的特徵向量，對應著特徵值1。恆等變換的特徵空間只有一個，就是整個空間，對應著特徵值1。類似地，數乘變換formula_38的特徵向量也是所有非零向量，因為按照定義，對所有的非零向量formula_2，formula_40如果一個變換可以寫成對角矩陣，那麼它的特徵值就是它對角線上的元素，而特徵向量就是相應的基。例如矩陣：formula_41的特徵值就是2和4。2對應的特徵向量是所有形同formula_42的非零向量，而4對應的特徵向量是所有形同formula_43的非零向量。2對應的特徵空間是一個2維空間，而4對應的特徵空間是一個1維空間。矩陣formula_44的譜是formula_45。對於更復雜的矩陣，特徵向量和特徵值就不是顯然的了。右圖中的例子是一個二維平面上的錯切變換，其矩陣可以表示為：formula_46formula_47的特徵向量formula_48，按照定義，是在變換formula_44的作用下會得到formula_48自身的若干倍的非零向量。假設在formula_44的作用下formula_48變成了自身的formula_5倍，也就是formula_54在等式兩邊的左側乘以單位矩陣"I"，得到formula_55formula_56因此formula_57根據線性方程組理論，為了使這個方程有非零解，矩陣formula_58的行列式必須是零：formula_59"det: determinant，行列式"按照行列式的展開定義，上面式子的左端是一個關於formula_5的多項式，稱為特徵多項式。這個多項式的係數只和formula_44有關。在這個例子中，可以計算這個特徵多項式：formula_62在這種情況下特徵多項式的方程變成formula_63。它的唯一的解是：formula_64。這就是矩陣formula_44的特徵值。找到特徵值formula_64後，就可以找出formula_57的非零解，也就是特徵向量了。在例子中：formula_68將formula_64代入，就有formula_70解這個新矩陣方程，得到如下形式的解：formula_71這裡的"c"是任意非零常量。因此，矩陣formula_44的特徵向量就是所有豎直方向的向量。一般來說，2×2的非奇異矩陣如果有兩個相異的特徵值，就有兩個線性無關的特徵向量。在這種情況下，對於特徵向量，線性變換僅僅改變它們的長度，而不改變它們的方向，而對於其它向量，長度和方向都可能被矩陣所改變。如果特徵值的模大於1，特徵向量的長度將被拉伸，而如果特徵值的模小於1，特徵向量的長度就將被壓縮。如果特徵值小於0，特徵向量將會被翻轉。其他例子.隨著地球的自轉，每個從地心往外指的箭頭都在旋轉，除了在轉軸上的那些箭頭。考慮地球在一小時自轉後的變換：地心指向地理南極的箭頭是這個變換的一個特徵向量，並且因為指向極點的箭頭沒有被地球的自轉拉伸，它的特徵值是1;但是從地心指向赤道任何一處的箭頭不會是一個特徵向量。另一個例子是，薄金屬板關於一個固定點均勻伸展，使得板上每一個點到該固定點的距離翻倍。這個伸展是一個有特徵值2的變換。從該固定點到板上任何一點的向量是一個特徵向量，而相應的特徵空間是所有這些向量的集合。但是，三維幾何空間不是唯一的向量空間。例如，考慮兩端固定的拉緊的繩子，就像絃樂器的振動弦那樣。振動弦的原子到它們在弦靜止時的位置之間的帶符號那些距離視為一個空間中的一個向量的分量，那個空間的維數就是弦上原子的個數。如果考慮繩子隨著時間流逝發生的變換，它的特徵向量，或者說"特徵函式"在考慮到阻尼的情況下逐漸減弱。因此可以將每個特徵向量對應於一個壽命，並將特徵向量的概念和共振的概念聯絡起來。特徵值方程.從數學上看，如果非零向量v與變換formula_73滿足formula_74則稱向量v是變換formula_75的一個特徵向量，"λ"是相應的特徵值。其中formula_76是將變換formula_75作用於v得到的向量。假設formula_75是一個線性變換，那麼v可以由其所在向量空間的一組基表示為：formula_79其中formula_80是向量formula_81在基向量formula_82上的投影，這裡假設向量空間為"n" 維。由此，formula_81可以直接以座標向量formula_84表示。利用基向量，線性變換formula_75也可以用一個簡單的矩陣乘法表示。上述的特徵值方程可以表示為：formula_86但是，有時候用矩陣形式寫下特徵值方程是不自然甚或不可能的。例如在向量空間是無窮維的時候，上述的弦的情況就是一例。取決於變換formula_73和它所作用的空間的性質，有時將特徵值方程表示為一組微分方程更好。若formula_73是一個微分運算元，其特徵向量通常稱為該微分運算元的特徵函式。例如，微分本身是一個線性變換因為formula_89考慮對於時間formula_90的微分。其特徵函式滿足如下特徵值方程：formula_91,其中"λ"是該函式所對應的特徵值。這樣一個時間的函式，如果formula_92，它就不變，如果formula_93為正，它就按比例增長，如果formula_93是負的，它就按比例衰減。例如，理想化的兔子的總數在兔子更多的地方繁殖更快，從而滿足一個正λ的特徵值方程。該特徵值方程的解是formula_95，也即指數函式；這樣，該函式是微分運算元"d/dt"的特徵值為"λ"的特徵函式。若"λ"是一個負數，我們稱"N"的演變為一個指數衰減；若它是正數，則稱指數增長。"λ"的值可以是一個任意複數。因此"d/dt"的譜是整個複平面。在這個例子中，運算元"d/dt"作用的空間是單變數可微函式的空間。該空間有無窮維。但是，每個特徵值"λ"所對應的特徵空間是一維的。它就是所有形為formula_96的函式的集合。"N0"是任意常數，也就在"t=0"的初始數量。譜定理.譜定理在有限維的情況，將所有可對角化的矩陣作了分類：它顯示一個矩陣是可對角化的，當且僅當它是一個正規矩陣。注意這包括自共軛的概念是清楚的。在採用更一般的矩陣的函式的時候譜定理的作用就更明顯了。例如，若f是解析的，則它的形式冪級數，若用T取代x，可以看作在矩陣的巴拿赫空間中絕對收斂。譜定理也允許方便地定義正運算元的唯一的平方根。譜定理可以推廣到希爾伯特空間上的有界正規運算元，或者無界自共軛運算元的情況。矩陣的特徵值和特徵向量.計算矩陣的特徵值和特徵向量.假設我們想要計算給定矩陣的特徵值。若矩陣很小，我們可以用特徵多項式進行符號演算。但是，對於大型矩陣這通常是不可行的，在那種情況我們必須採用數值方法。形式計算.描述正方形矩陣的特徵值的重要工具是特徵多項式：就如之前的例子一樣，說"λ"是"A"的特徵值等價於說線性系統，因此等價於說行列式：formula_97函式：formula_98是一個關於"λ"的多項式，稱為"A"的特徵多項式。矩陣的特徵值也就是其特徵多項式的零點。求一個矩陣"A"的特徵值可以透過求解方程formula_99來得到。若"A"是一個"n"×"n"矩陣，則formula_100為"n"次多項式，因而"A"最多有"n"個特徵值。反過來，如果"A"的係數是在一個代數閉域裡面。所有奇數次的多項式必有一個實數根，因此當n為奇數的時候，每個n維實係數矩陣至少有一個實數特徵值。當矩陣係數是實數的時候，非實數的特徵值會成共軛對出現。一旦找到特徵值λ，相應的特徵向量就可以透過求解如下方程得到：formula_101實係數的矩陣不一定有實數特徵值。比如對於以下的矩陣（表示二維平面上的順時針90°的一個旋轉變換)：formula_102其特徵多項式是formula_103，因此其特徵值成複共軛對出現，分別是"i"和-"i"，而沒有實數特徵值。相應的特徵向量也是非實數的。數值計算.在實踐中，大型矩陣的特徵值無法透過特徵多項式計算。計算該多項式本身相當費資源，而根的精確表示式對於高次的多項式來說很難計算和表達：阿貝爾-魯菲尼定理顯示五次或更高次的多項式的根無法用formula_104次方根來簡單表達。對於估算多項式的根的有效演算法是有的，但特徵值中的微小誤差可以導致特徵向量的巨大誤差。因此，尋找特徵多項式和特徵值的一般演算法，是迭代法。最簡單的方法是：取一個隨機向量formula_2，然後計算如下的一系列單位向量formula_106, formula_107, formula_108, ...這個序列幾乎總是收斂於最大絕對值的特徵值所對應的特徵向量。這個演算法很簡單，但是本身不是很有用。但是，像QR分解這樣的演算法正是以此為基礎的。性質.代數重次."A"的一個特徵值λ的代數重數是λ作為"A"的特徵多項式的根的次數；換句話說，若r是該多項式的一個根，它是一次多項式因子在特徵多項式中在因式分解後中出現的次數。如果將代數重次計算在內的話，一個"n"×"n"矩陣有"n"個特徵值，因為其特徵多項式次數為"n"。一個代數重次1的特徵值為“單特徵值”。在關於矩陣理論的條目中，可能會遇到如下的表示方法："一個矩陣"A"的特徵值為4,4,3,3,3,2,2,1,"表示4的代數重次為二，3的是三，2的是二，而1的是1。這樣寫是因為代數重次對於矩陣理論中的很多證明很重要而被大量使用。和代數重數相對的是特徵值的幾何重數：特徵值相對應的特徵空間"k"的零空間。也就是說，它是所有“廣義特徵向量”組成的空間，其中一個廣義特徵向量是任何一個如果λI − "A"作用連續作用足夠多次就“最終”會變0的向量。任何特徵向量都是一個廣義特徵向量，以此任一個特徵空間都被包含於相應的廣義特徵空間。這給了一個幾何重次總是小於或等於代數重次的簡單證明。例如：formula_109。它只有一個特徵值，也就是λ = 1。其特徵多項式是formula_110，所以這個特徵值代數重次為2。但是，相應特徵空間是通常稱為"x"軸的數軸，由向量formula_111線性生成，所以幾何重次只是1。廣義特徵向量可以用於計算一個矩陣的若爾當標準型。若爾當塊通常不是對角化而是冪零的這個事實與特徵向量和廣義特徵向量之間的區別直接相關。一般矩陣分解定理.如上所述，譜定理表明正方形矩陣可以對角化當且僅當它是正規的。對於更一般的未必正規的矩陣，我們有類似的結果。當然在一般的情況，有些要求必須放鬆，例如酉等價性或者最終的矩陣的對角性。所有這些結果在一定程度上利用了特徵值和特徵向量。下面列出了一些這樣的結果：特徵值的一些另外的屬性.譜在相似變換下不變：矩陣"A"和"P"-1"AP"有相同的特徵值，這對任何矩陣"A"和任何可逆矩陣"P"都成立。譜在轉置之下也不變：矩陣"A"和"A"T有相同的特徵值。因為有限維空間上的線性變換是雙射當且僅當它是單射，一個矩陣可逆當且僅當所有特徵值都不是0。若爾當分解的一些更多的結果如下：正規矩陣的一些子類的譜的位置是：假設"A"是一個"m"×"n"矩陣，其中"m" ≤ "n"，而"B"是一個"n"×"m"矩陣。則"BA"有和"AB"相同的特徵值加上"n" − "m"個等於0的特徵值。每個矩陣可以被賦予一個運算元範數。運算元範數是其特徵值的模的上確界，因而也是它的譜半徑。該範數直接和計算最大模的特徵值的冪法直接相關。當一個矩陣是正規的，其運算元範數是其特徵值的最大模，並且獨立於其定義域的範數。共軛特徵向量.一個共軛特徵向量或者說共特徵向量是一個在變換下成為其共軛乘以一個標量的向量，其中那個標量稱為該線性變換的共軛特徵值或者說共特徵值。共軛特徵變數和共軛特徵值代表了和常規特徵向量和特徵值相同的資訊和含義，但是在交替座標系統被使用的時候出現。對應的方程是：formula_118例如，在相干電磁散射理論中，線性變換"A"代表散射物體施行的作用，而特徵向量表示電磁波的極化狀態。在光學中，座標系統按照波的觀點定義，稱為前向散射對齊，從而給出了共軛特徵值方程。廣義特徵值.一個廣義特徵值有如下形式formula_119其中"A"和"B"為矩陣。其廣義特徵值λ可以透過求解如下方程得到formula_120形如formula_121的矩陣的集合，其中formula_122是一個複數，稱為一個“束”。若"B"可逆，則最初的問題可以寫作如下形式formula_123也即標準的特徵值問題。但是，在很多情況下施行逆操作是不可取的，而廣義特徵值問題應該如同其原始表述來求解。如果"A"和"B"是實係數的對稱矩陣，則特徵值為實數。這在上面的第二種等價表述中並不明顯，因為矩陣formula_124未必是對稱的。這裡的一個例子是分子軌道應用如下。係數為環中元素.在方矩陣"A"，其係數屬於一個環的情況，λ稱為一個右特徵值如果存在一個列向量"x"使得"Ax"=λ"x"，或者稱為一個左特徵值如果存在非零行向量"y"使得"yA"="y"λ。若環是可交換的，左特徵值和右特徵值相等，並簡稱為特徵值。否則，例如當環是四元數集合的時候，它們可能是不同的。無窮維空間.若向量空間是無窮維的，特徵值的概念可以推廣到譜的概念。譜是標量λ的集合，對於這些標量，formula_125沒有定義，也就是說它們使得formula_126沒有有界逆。很明顯，如果"λ"是T的特徵值，"λ"位於T的譜內。一般來講，反過來並不成立。在希爾伯特空間或者巴拿赫空間上有一些運算元完全沒有特徵向量。這可以從下面的例子中看到。在希爾伯特空間formula_127(所有標量級數的空間，每個級數formula_128使得formula_129收斂)上的雙向平移沒有特徵向量卻有譜值。在無窮維空間，有界運算元的譜系總是非空的，這對無界自共軛運算元也成立。透過檢驗譜測度，任何有界或無界的自共軛運算元的譜可以分解為絕對連續，離散，和孤立部分。指數增長或者衰減是連續譜的例子，而振動弦駐波是離散譜例子。氫原子是兩種譜都有出現的例子。氫原子的束縛態對應於譜的離散部分，而離子化狀態用連續譜表示。應用.薛定諤方程.在量子力學中，不含時薛定諤方程是一個以微分運算元代表的變換formula_130的特徵值方程，能夠描述一個粒子的量子行為：formula_131其中，formula_132是哈密頓運算元，一個二階微分運算元，formula_133是描述粒子的量子行為的波函式，對應於特徵值formula_134的特徵函式，該值可以解釋為粒子的能量。假設，我們只想尋找薛定諤方程的束縛態(--)解，那麼，可以在平方可積函式的空間中尋找formula_133。由於這個空間是希爾伯特空間，有一個定義良好的標量積，我們可以引入一個基集合，然後表示formula_133和formula_132為一個一維陣列和一個矩陣。這樣，我們能夠用矩陣形式表達薛定諤方程。狄拉克標記經常在這個上下文中使用，以強調量子態formula_133的態向量formula_139和它表示於位置空間的波函式formula_140之間的區別。採用狄拉克標記，薛定諤方程寫為formula_141並稱formula_139是formula_132的一個本徵態。在上述方程中，formula_147理解為透過作用formula_132於formula_139得到的一個新的態向量。分子軌域.在量子力學中，特別是在原子物理和分子物理中，在Hartree-Fock理論下，原子軌域和分子軌域可以定義為Fock運算元的特徵向量。相應的特徵值透過Koopmans定理可以解釋為電離勢能。在這個情況下，特徵向量一詞可以用於更廣泛的意義，因為Fock運算元顯式地依賴於軌道和它們地特徵值。如果需要強調這個特點，可以稱它為"隱特徵值方程"。這樣地方程通常採用迭代程式求解，在這個情況下稱為自洽場方法。在量子化學中，經常會把Hartree-Fock方程透過非正交基集合來表達。這個特定地表達是一個廣義特徵值問題稱為Roothaan方程。因子分析.在因素分析中，一個協方差矩陣的特徵向量對應於因素，而特徵值是因素負載。因素分析是一種統計學技術，用於社會科學和市場分析、產品管理、運籌規劃和其他處理大量資料的應用科學。其目標是用稱為因素的少量的不可觀測隨機變數來解釋在一些可觀測隨機變數中的變化。可觀測隨機變數用因素的線性組合來建模，再加上“殘差項。振動分析.在對於多自由度機械結構作振動分析時，常常會遇到特徵值問題。經過仔細解析，求得的特徵值會給出振動的自然頻率，而特徵向量則會給出振動模態的振動行為。由於特徵向量的相互正交性質，允許對應的微分方程式能夠解耦合(--)，整個系統可以表示為特徵向量的線性總和。有限元分析是一種非常優良的方法，時常用來解析複雜結構的特徵值問題。特徵臉.在影象處理中，臉部影象的處理可以看作分量為每個畫素的灰度的向量。該向量空間的維數是畫素的個數。一個標準化面部圖形的一個大型資料集合的協方差矩陣的特徵向量稱為特徵臉。它們對於將任何面部影象表達為它們的線性組合非常有用。特徵臉提供了一種用於識別目的的資料壓縮的方式。在這個應用中，一般只取那些最大特徵值所對應的特徵臉。慣性張量.採用直角坐標系的三個坐標軸為參考軸，一個剛體的慣性張量formula_150，以矩陣形式表達為formula_151 ；其中，矩陣的元素以方程式表達為formula_152、formula_153、formula_154，formula_155是剛體內部的微小體積元formula_156的位置。慣性張量formula_150是個實值的三維對稱矩陣，對角元素formula_158、formula_159、formula_160分別為剛體對於x-軸、y-軸、z-軸的轉動慣量。非對角元素formula_161是剛體對於formula_162-軸和formula_163-軸的慣量積。根據譜定理，可以使慣性張量成為一個對角矩陣。所得到的三個特徵值必是正實值；三個特徵向量必定互相正交。換另外一種方法，我們需要求解特徵方程式formula_164，也就是以下行列式等於零的的三次方程式：formula_165 。這方程式的三個根formula_166、formula_167、formula_168都是正實的特徵值。將特徵值代入特徵方程式，再加上方向餘弦(--)方程式，formula_169。就可以求到特徵向量formula_170、formula_171、formula_172。這些特徵向量都是剛體的慣量主軸；而這些特徵值則分別是剛體對於慣量主軸的主轉動慣量。應力張量.在固體力學中，應力張量是對稱的，因而可以分解為對角張量，其特徵值位於對角線上，而特徵向量可以作為基。因為它是對角陣，在這個定向中，應力張量沒有剪下分量；它只有主分量。圖的特徵值.在譜系圖論中，一個圖的特徵值定義為圖的鄰接矩陣"A"的特徵值，或者圖的拉普拉斯運算元矩陣formula_173，其中"T"是對角陣表示每個頂點的度數，在formula_174中，0用於取代formula_175。圖的主特徵向量用於測量其頂點的中心度。Google的PageRank演算法就是一個例子。www圖的修正鄰接矩陣的主特徵向量的分量給出了頁面評分。