線性代數

線性代數（linear algebra）是關於向量空間和線性映射的一個數學分支。它包括對線、面和子空間的研究，同時也涉及到所有的向量空間的一般性質。

坐標滿足線性方程的點集形成n維空間中的一個超平面。n個超平面相交於一點的條件是線性代數研究的一個重要焦點。此項研究源於包含多個未知數的線性方程組。這樣的方程組可以很自然地表示為矩陣和向量的形式。

線性代數既是純數學也是應用數學的核心。例如，放寬向量空間的公理就產生抽象代數，也就出現若干推廣。

泛函分析研究無窮維度情形的向量空間理論。線性代數與微積分結合，使得微分方程線性系統的求解更加便利。線性代數的理論已被泛化為算子理論。

線性代數的方法還用在解析幾何、工程、物理、自然科學、電腦科學、電腦動畫和社會科學（尤其是經濟學）中。由於線性代數是一套完善的理論，非線性數學模型通常可以被近似為一般線性模型。

## 歷史

<image>

線性代數的研究最初出現於對行列式的研究上。行列式當時被用來求解線性方程組。萊布尼茨在1693年使用行列式。隨後，加布里爾·克拉默在1750年推導出求解線性方程組的克萊姆法則。然後，高斯利用高斯消元法發展出求解線性系統的理論。這也被列為大地測量學的一項進展。

現代線性代數的歷史可以上溯到19世紀中期的英國。1843年，哈密頓發現四元數。1844年，赫爾曼·格拉斯曼發表他的著作《線性外代數》（Die lineare Ausdehnungslehre），包括今日線性代數的一些主題。1848年，詹姆斯·西爾維斯特引入矩陣（matrix），該詞是「子宮」的拉丁語。阿瑟·凱萊在研究線性變換時引入矩陣乘法和轉置的概念。很重要的是，凱萊使用一個字母來代表一個矩陣，因此將矩陣當做了聚合對象。他也意識到矩陣和行列式之間的聯繫。

不過除了這些早期的文獻以外．線性代數主要是在二十世紀發展的。在抽象代數的環論開發之前，矩陣只有模糊不清的定義。隨著狹義相對論的到來，很多開拓者發現線性代數的微妙。進一步的，解偏微分方程的克萊姆法則的例行應用導致大學的標準教育中包括線性代數。例如，E.T. Copson寫到：

1882年，Hüseyin Tevfik Pasha(Hüseyin Tevfik Paşa)寫了一本書，名為《Linear Algebra》(線性代數)。第一次現代化精確定義向量空間是在1888年，由朱塞佩·皮亞諾提出。在1888年，弗蘭西斯·高爾頓還發起相關係數的應用。經常有多於一個隨機變量出現並且它們可以互相關。在多變元隨機變量的統計分析中，相關矩陣是自然的工具。所以這種隨機向量的統計研究幫助矩陣用途的開發。到1900年，一種有限維向量空間的線性變換理論被提出。在20世紀上半葉，許多前幾世紀的想法和方法被總結成抽象代數，線性代數第一次有了它的現代形式。矩陣在量子力學、狹義相對論和統計學上的應用幫助線性代數的主題超越純數學的範疇。電腦的發展導致更多地研究致力於有關高斯消元法和矩陣分解的有效演算法上。線性代數成為數字模擬和模型的基本工具。

## 基本介紹

線性代數起源於對二維和三維直角坐標系的研究。在這裡，一個向量是一個有方向的線段，由長度和方向同時表示。這樣向量可以用來表示物理量，比如力，也可以和標量做加法和乘法。這就是實數向量空間的第一個例子。

現代線性代數已經擴展到研究任意或無限維空間。一個維數為$n$的向量空間叫做$n$維空間。在二維和三維空間中大多數有用的結論可以擴展到這些高維空間。儘管許多人不容易想像$n$維空間中的向量，這樣的向量（即n元組）用來表示數據非常有效。由於作為n元組，向量是$n$個元素的「有序」列表，大多數人可以在這種框架中有效地概括和操縱數據。比如，在經濟學中可以使用8維向量來表示8個國家的國民生產總值（GNP）。當所有國家的順序排定之後，比如（中國，美國，英國，法國，德國，西班牙，印度，澳大利亞），可以使用向量$(v_1,v_2,v_3,v_4,v_5,v_6,v_7,v_8)$顯示這些國家某一年各自的GNP。這裡，每個國家的GNP都在各自的位置上。

作為證明定理而使用的純抽象概念，向量空間（線性空間）屬於抽象代數的一部分，而且已經非常好地融入這個領域。一些顯著的例子有：不可逆線性映射或矩陣的群，向量空間的線性映射的環。

線性代數也在數學分析中扮演重要角色，特別在向量分析中描述高階導數，研究張量積和可交換映射等領域。

向量空間是在域上定義的，比如實數域或複數域。線性算子將線性空間的元素映射到另一個線性空間（也可以是同一個線性空間），保持向量空間上加法和標量乘法的一致性。所有這種變換組成的集合本身也是一個向量空間。如果一個線性空間的基是確定的，所有線性變換都可以表示為一個數表，稱為矩陣。對矩陣性質和矩陣演算法的深入研究（包括行列式和特徵向量）也被認為是線性代數的一部分。

我們可以簡單地說數學中的線性問題——-那些表現出線性的問題——是最容易被解決的。比如微分學研究很多函數線性近似的問題。在實踐中與非線性問題的差異是很重要的。

線性代數方法是指使用線性觀點看待問題，並用線性代數的語言描述它、解決它（必要時可使用矩陣運算）的方法。這是數學與工程學中最主要的應用之一。

## 研究範圍

### 向量空間

向量空間是線性代數的主要代數結構。域$F$上的向量空間是集合$V$再加上兩個二元運算。$V$的元素叫做向量而$F$的元素叫做標量。第一個運算，向量加法，取任意兩個向量$v$和$w$，然後輸出第三個向量$v+w$。第二個運算，向量乘法，取任意標量$a$和任意向量$v$並輸出新向量$av$。從第一個例子來看，其中乘法是以標量$a$將向量$v$縮放後完成的，這種乘法叫做$v$與$a$的係數積。向量空間內的加法和乘法運算滿足下列公理。在下表中，令$u,v$和$w$為$V$中的任意向量，$a$和$b$為$F$中的標量。

公理｜意義

加法結合律｜$u+\left ( v+w \right )=\left ( u+v \right )+w$

加法交換律｜$u+v=v+u$

加法的單位元｜存在元素$0\in V$，稱作零向量，使得對所有$v\in V$，都有$v+0=v$。

加法的逆元素｜對每個$v\in V$，存在一元素$-v\in V$，稱作$v$的相反數，使得$v+(-v)=0$

相對於向量加法的數乘分配律｜$a\left ( u+v \right )=au+av$

相對於域加法的數乘分配律｜$\left ( a+b \right )v=av+bv$

數乘與域乘法的相容性｜$a\left ( bv \right )=\left ( ab \right )v$

數乘的單位元｜$1v=v$，其中1表示$F$內的乘法單位。

一般向量空間$V$可能有不同性質的元素，例如，函數、多項式、向量或矩陣。線性代數關注的是所有向量空間的共同性質。

### 矩陣理論

矩陣是一個矩形的數學方陣。一個方陣可看作兩個矢量空間的線性變陣，故矩陣理論可當作線性代數的一個分枝。

在圖論，每一個加上標示圖對應唯一的非負矩陣，稱為鄰接矩陣。

排列矩陣是排列的矩陣表達式，在組合數學極為重要。

正定矩陣及半正定矩陣可用來尋找實數函數的極大值或極小值。

任意環矩陣亦非常重要。舉例說，多項式環的矩陣用於控制理論。

另外，不同的矩陣環經常是提供數學上反例的素材。

### 特徵值和特徵向量

一般情況下，線性變換可能相當複雜。一些低維的例子，讓我們領會不同的類型。一般的$n$維變換$T$的一個技巧是找到在$T$下的不變集——特徵線。如果$v$是一個非零向量，使得$Tv$為$v$的標量倍，那麼通過0和$v$的直線就是在$T$下的不變集，而$v$被稱為特徵向量。使得$Tv-\lambda v$的標量$\lambda$叫做$T$的特徵值。

要求一個特徵向量或特徵值，我們注意到

$$Tv-\lambda v=(T-\lambda \, \text{I})v=0,$$

其中$I$是單位矩陣。為使該方程存在非平凡解，$\det \left( T -\lambda I \right)=0$。行列式是一個多項式，所以在域$\mathbb{R}$內不保證存在特徵值。

## 相關定理

- 每一個線性空間都有一個基。
- 對一個n階方陣$A$，如果存在一個$n$階方陣$B$使$AB=BA=I$（I是單位矩陣），則$A$為非奇異方陣。
- 一個方陣非奇異若且唯若它的行列式不為零。
- 一個方陣非奇異若且唯若它代表的線性變換是個自同構。
- 一個矩陣半正定若且唯若它的每個特徵值大於或等於零。
- 一個矩陣正定若且唯若它的每個特徵值都大於零。

## 一般化和相關主題

線性代數是一個成功的理論，其方法已被應用於數學的其他分支。模論就是將線性代數中的標量的域用環替代，並進行研究，像線性無關、線性生成空間、基底、秩等概念仍然可以適用。不過許多線性代數中的定理在模論中不成立，例如不是所有的模都有基底（有基底的模稱為自由模），自由模的秩不唯一，不是所有模中的線性獨立的子集都可以延伸成為基底，也不是所有模生成空間的子集都包括基底。

多重線性代數推廣線性代數的方法。和線性代數一樣也是建立在向量的概念上，發展向量空間的理論。在應用上，出現許多類型的張量。

在算子的譜理論中，通過數學分析，可以控制無限維矩陣。泛函分析混合線性代數和數學分析中的方式，研究許多不同函數空間，例如Lp空間。

## 拓展閱讀

- Beezer, Rob, A First Course in Linear Algebra , licensed under GFDL.
- Fearnley-Sander, Desmond, Hermann Grassmann and the Creation of Linear Algebra, American Mathematical Monthly 86 (1979), pp. 809–817.
- Grassmann, Hermann, Die lineale Ausdehnungslehre ein neuer Zweig der Mathematik: dargestellt und durch Anwendungen auf die übrigen Zweige der Mathematik, wie auch auf die Statik, Mechanik, die Lehre vom Magnetismus und die Krystallonomie erläutert, O. Wigand, Leipzig, 1844.
- Jim Hefferon: Linear Algebra （Online textbook）
- Edwin H. Connell: Elements of Abstract and Linear Algebra （Online textbook）

## 外部連結

### 在線資源

- 朝陽科技大學線性代數講義
- 同濟大學線性代數精品課程
- MIT Linear Algebra Video Lectures , a series of 34 recorded lectures by professor Gilbert Strang (Spring 2010)
- Linear Algebra Toolkit .
- Linear Algebra Workbench : multiply and invert matrices, solve systems, eigenvalues etc.
- Linear Algebra on MathWorld.
- Linear Algebra overview and notation summary on PlanetMath.
- Matrix and Linear Algebra Terms on Earliest Known Uses of Some of the Words of Mathematics
- Linear Algebra by Elmer G. Wiens. Interactive web pages for vectors, matrices, linear equations, etc.
- Linear Algebra Solved Problems: Interactive forums for discussion of linear algebra problems, from the lowest up to the hardest level (Putnam).
- Linear Algebra for Informatics. José Figueroa-O'Farrill, University of Edinburgh
- Essence of linear algebra，3Blue1Brown的關於線性代數基礎的影片演示，重點介紹向量、矩陣及線性代數理解方面的總結。

### 在線書籍

- Linear Algebra by Jim Hefferon : A free textbook with exercises and a solutions guide written by a professor at Saint Michael's College.
- Online Notes / Linear Algebra Paul Dawkins, Lamar University
- Matthews, Keith, Elementary Linear Algebra textbook with solutions
- Treil, Sergei, Linear Algebra Done Wrong