內積空間

內積空間（inner product space）是增添了某種運算的向量空間，這種運算叫做內積，它推廣了原來歐幾里德空間的點積，而從比較一般的角度看待向量的「夾角」、「長度」還有「正交性」。

## 相關術語

內積空間有時也叫做准希爾伯特空間（pre-Hilbert space），因為由內積定義的距離完備化之後就會得到一個希爾伯特空間。

在早期的著作中，本條目所定義的內積空間被稱作么正空間，但這些著作裡的「內積空間」反而指的是有限維Euclid空間或可數維的Lp空間。

## 正式定義

下文中 $F$ 有可能是實數系 $\mathbb{R}$ 或複數系 $\mathbb{C}$。

$V$ 是一個定義在域 $\left( F,\,+,\,\times \right)$ 上的向量空間，其向量加法記為「$\oplus$」，且其標量乘法記為「$\cdot$」。若它裝配了一個二元函數 $f:V \times V \to F$ 滿足：（以下將 $f(v,\,w)$ 簡寫為 $\langle v,\,w \rangle$）

名稱｜前提條件｜內容

共軛對稱｜對所有 $v,\,w \in V$｜$\langle v,\,w\rangle =\overline{\langle w,\,v\rangle}$

線性｜對所有 $a,\,v,\,w \in V$｜$\langle v \oplus w,\,a \rangle = \langle v,\,a \rangle + \langle w,\,a \rangle$

對所有 $v,\,w \in V$ 和所有 $\lambda \in F$｜$\langle \lambda \cdot v,\, w\rangle =\lambda \times \langle v,\,w\rangle$

非負性｜對所有 $v \in V$｜$\langle v,\,v\rangle \geq 0$

非退化｜$(v = 0_V) \Leftrightarrow (\langle v,\,v \rangle = 0)$

這樣的話， $f$ 會被稱為定義在 $V$ 上的內積。更進一步的，若 $F=\C$ 則稱 $V$ 是個複內積空間，反之，若 $F=\R$ 則稱 $V$ 是個實內積空間。

如果 $\langle v,\,w \rangle = 0$，也可記為 $v \perp w$，並稱「$v$ 與 $w$ 是正交的（perpendicular）」。

### 定義的分歧

為了與量子力學中的狄拉克符號的順序相符，以上線性部分的定義常常被物理學家顛倒過來，也就是

線性｜對所有 $a,\,v,\,w \in V$｜$\langle a,\, v \oplus w \rangle = \langle a,\, v \rangle + \langle a,\, w \rangle$

對所有 $v,\,w \in V$ 和所有 $\lambda \in F$｜$\langle v,\, \lambda\cdot w\rangle =\lambda \times \langle v,\,w\rangle$

真正會造成影響的是第二條，因為可根據順序顛倒的第二條，從順序顛倒的第一條會推出原來的第一條，反之亦然（可參考基本性質一節第一個定理）。但這仍會造成許多定理的內積順序也要顛倒過來才會成立。

## 例子

### 實數的乘法

因為實數系 $\mathbb{R}$ 可以視是為定義在自己之上的向量空間，所以可以驗證：$\langle x,y\rangle := xy$ 滿足內積的各種性質。

### 點積

歐幾里德空間 $\mathbb{R}^n$的點積：

$$\langle (x_1,\ldots, x_n),\,(y_1,\ldots, y_n)\rangle := \sum_{i=1}^{n} x_i y_i = x_1 y_1 + \cdots + x_n y_n$$

是定義在 $\mathbb{R}^n$上的一個內積。

## 基本性質

若 $V$ 是複內積空間，那對所有的 $a,\,v,\,w \in V$ 和所有的有 $\lambda \in \C$ 有：

(a) $\langle a,\,v \oplus w\rangle = \langle a,\,v\rangle + \langle a,\,w\rangle$

(b) $\langle v,\, \lambda\cdot w\rangle =\overline{\lambda}\times\langle v,\,w\rangle$

證明(a) $\begin{aligned} \langle a,\, v \oplus w \rangle & = \overline{\langle v \oplus w,\, a \rangle}\\ & = \overline{\langle v,\, a \rangle + \langle w,\, a \rangle}\\ & = \overline{\langle v,\, a \rangle} + \overline{\langle w,\, a \rangle}\\ & = \langle a,\, v \rangle + \langle a,\, w \rangle \end{aligned}$ (b) $\begin{aligned} \langle v,\, \lambda\cdot w\rangle & = \overline{\langle \lambda\cdot w,\, v \rangle}\\ & = \overline{\lambda \times \langle w,\, v \rangle} \\ & = \overline{\lambda} \times \overline{\langle w,\, v \rangle}\\ & = \overline{\lambda} \times \langle v,\, w\rangle \end{aligned}$ 故得証。$\Box$

若 $V$ 是個複內積空間，對任意有限向量序列 ${\{v_i \in V\}}^n_{i=1}$ 和任意 $w \in V$ 有：

(a) $\left\langle \sum^n_{i=1} v_i ,\,w \right\rangle = \sum^n_{i=1} \langle v_i ,\,w \rangle$

(b) $\left\langle w,\,\sum^n_{i=1} v_i \right\rangle = \sum^n_{i=1} \langle w,\, v_i \rangle$

證明若 $n = 2$，本定理只是內積定義的線性部分，故成立。若 $n = k$ 時，對任意有限向量序列 ${\{u_i \in V\}}^k_{i=1}$ 和任意 $w \in V$ 有： :$\left\langle \sum^k_{i=1} u_i ,\,w \right\rangle = \sum^k_{i=1} \langle u_i ,\,w \rangle$ 這樣的話，對任意有限向量序列 ${\{v_i \in V\}}^{k+1}_{i=1}$ 和任意 $w \in V$ 有： :$\begin{align} \left\langle \sum^{k+1}_{i=1} v_i ,\,w \right\rangle & = \left\langle \left(\sum^k_{i=1} v_i \right) + v_{k+1} ,\,w \right\rangle \\ & = \left\langle \sum^k_{i=1} v_i ,\,w \right\rangle + \langle v_{k+1} ,\,w \rangle\\ & = \sum^k_{i=1} \langle v_i ,\,w \rangle + \langle v_{k+1} ,\,w \rangle\\ & = \sum^{k+1}_{i=1} \langle v_i ,\,w \rangle \end{align}$ 所以根據數學歸納法，本定理(a)部分得証。這樣根據共軛的線性性質有： :$\begin{align} \left\langle w,\,\sum^n_{i=1} v_i \right\rangle & = \overline{\left\langle \sum^n_{i=1} v_i ,\, w \right\rangle} \\ & = \overline{\sum^{n}_{i=1} \langle v_i ,\,w \rangle}\\ & = \sum^{n}_{i=1} \overline{ \langle v_i ,\,w \rangle}\\ & = \sum^{n}_{i=1} \langle w ,\,v_i \rangle \end{align}$ 故本定理的(b)部分也得証。$\Box$

## 範數

以下根據內積定義的非負性部分，定義 $g:V \to [0,\,\infty)$ 為 $g(v) = \sqrt{\langle v,\,v \rangle}$，並把 $g(v)$ 表記為 $\|v\|$。下面也將證明$\|v\|$的確是$V$上的範數。

### 柯西-施瓦茨不等式

$V$ 是個複內積空間，則對所有的 $v,\,w \in V$ 有：

(a) $\|v\|\|w\|\geq |\langle v,\,w \rangle|$

(b) $\|v\|\|w\| = |\langle v,\,w \rangle|$ $\Leftrightarrow$ 存在 $\lambda \in \C$ 使 $v = \lambda \cdot w$

證明若 $v = w = 0_V$，根據內積定義的非退化部分，本定理成立。若考慮 $v,\,w \neq 0_V$，取 $e_v = \frac{1}{\|v\|} \cdot v$、$e_w = \frac{1}{\|w\|} \cdot w$ 與 $\alpha = \langle e_v,\,e_w \rangle$，則根據內積定義有 $\begin{align} \langle e_v \oplus (-\alpha) \cdot e_w,\, e_v \oplus (-\alpha) \cdot e_w \rangle & = \langle e_v,\, e_v \rangle + \langle e_v,\, (-\alpha) \cdot e_w \rangle + \langle (-\alpha) \cdot e_w,\, e_v \rangle + \langle (-\alpha) \cdot e_w,\,(-\alpha) \cdot e_w \rangle\\ & = 1 - \overline{\alpha}\alpha -\alpha\overline{\alpha}+ \alpha\overline{\alpha}\\ & = 1 - {|\alpha|}^2\\ & = 1 -{\left(\frac{|\langle v,\, w \rangle|}{\|v\|\|w\|} \right)}^2\\ & \geq 0 \end{align}$ 這樣定理的(a)部分就成立。考慮到 $|\langle v,\, w \rangle| = \|v\|\|w\|$ 等價於上式內積要為零，那再根據內積定義的非退化部分，又等價於 :$e_v \oplus (-\alpha) \cdot e_w = 0_V$ 那這樣根據向量空間的基本運算性質，又等價於 :$v = \frac{\langle v,\,w\rangle}{{\|w\|}^2} \cdot w$ 所以(b)部分也成立，故得証。$\Box$

### 三角不等式

$V$ 是個複內積空間，則對所有的$v,\,w \in V$ 有：

$$\left| \|v\| - \|w\| \right| \leq \| v \oplus w \| \leq \| v \| + \| w \|$$

證明根據內積定義有 $\begin{align} {\|v \oplus w\|}^2 & = \langle v \oplus w,\, v \oplus w \rangle\\ & = {\|v\|}^2 + \langle v,\,w \rangle + \langle w,\, w \rangle + {\|w\|}^2\\ & = {\|v\|}^2 + {\|w\|}^2 + 2 \operatorname{Re}(\langle v,\,w \rangle)\\ & \leq {\|v\|}^2 + {\|w\|}^2 + 2 |\langle v,\,w \rangle| \end{align}$ 這樣根據上面的柯西-施瓦茨不等式有 $\begin{align} {\|v \oplus w\|}^2 & \leq {\|v\|}^2 + {\|w\|}^2 + 2 |\langle v,\,w \rangle| \\ & \leq {\|v\|}^2 + {\|w\|}^2 + 2 \|v\|\|w\| \\ & = {(\|v\| + \|w\|)}^2 \end{align}$ 另一方面，再根據柯西-施瓦茨不等式有 $\begin{align} {\left|\|v\| - \|w\|\right|}^2 & = {\|v\|}^2 + {\|w\|}^2 -2 \|v\|\|w\| \\ & \leq {\|v\|}^2 + {\|w\|}^2 + 2 \operatorname{Re}\langle v,\,w \rangle \\ & = {\|v \oplus w\|}^2 \end{align}$ $\Box$

根據上面的三角不等式， $g$ 的確是個定義在 $V$ 上的範數。所以內積空間也是一個賦範向量空間。這樣直觀上 $\|v\|$ 就是向量 $v$ 的長度。這樣內積定義的非退化部分，就可以直觀理解為「任意向量 $v \in V$ 為零向量，若且唯若其長度為零」。另外根據柯西-施瓦茨不等式，若 $\langle v,\,w \rangle \in \R$，可以把 $\langle v,\,w \rangle$ 跟點積做類比，也就是依據反三角函數的性質，對「$v$ 和 $w$ 間的夾角」做如下的定義：

$$\angle (v,\,w) := \cos^{-1}\left( \frac{\langle v,\,w \rangle}{\|v\|\|w\|} \right)$$

這樣柯西-施瓦茨不等式可以直觀理解成上述的定義與「$cos{[\angle (v,\,w)]} = \pm1$ 等價於 $v$ 和 $w$ 相互平行」。

### 度量

根據三角不等式，以下的函數：

$$d:V \times V \to \R^+ ;\; d(v,w) = \|v \ominus w\|$$

的確是 $V$ 上的度量。這樣因為度量空間有自然的拓撲結構，所以內積空間 $V$ 也就有這種自然的拓撲結構；通常會把這個自然的拓撲記為 $\tau_V$。

### 勾股定理

$V$ 是個複內積空間，若有限向量序列 ${\{v_i \in V\}}^n_{i=1}$ 對任意不相等的正整數 $1 \leq i \neq j \leq n$ 都有 $\langle v_i,\,v_j \rangle = 0$ 則：

$$\sum_{i=1}^n \|v_i\|^2 = \left\|\sum_{i=1}^n v_i \right\|^2$$

證明根據內積定義和上面的一般線性性質有 :$\begin{align} \left\|\sum_{i=1}^{n} v_i \right\|^2 & = \left\langle \sum_{i=1}^{n} v_i ,\, \sum_{i=1}^{n} v_i\ \right\rangle\\ & = \sum^n_{j=1} \left\langle v_j ,\, \sum_{i=1}^{n} v_i\ \right\rangle\\ & = \sum^n_{j=1} \sum_{i=1}^{n} \langle v_j,\,v_i \rangle\\ & = \sum^n_{j=1} {\|v_j\|}^2 \end{align}$ 故得証。$\Box$

$V$ 是個複內積空間，則對所有的 $v,\,w \in V$ 有：

(a) $\|v \oplus w\|^2 + \|v \ominus w\|^2 = 2\|v\|^2 + 2\|w\|^2$

證明根據內積定義和向量空間的基本運算性質有 $\begin{align} {\|v \oplus w\|}^2 & = \langle v \oplus w,\, v \oplus w \rangle\\ & = {\|v\|}^2 + \langle v,\,w \rangle + \langle w,\, v \rangle + {\|w\|}^2\\ \end{align}$ $\begin{align} {\|v \ominus w\|}^2 & = \langle v \oplus (w^{-1}),\, v \oplus (w^{-1}) \rangle\\ & = {\|v\|}^2 + \langle v,\,(-1) \cdot w \rangle + \langle (-1) \cdot w,\, v \rangle + \langle (-1) \cdot w,\, (-1) \cdot w \rangle\\ & = {\|v\|}^2 - \langle v,\, w \rangle - \langle w,\, v \rangle + {\|w\|}^2 \end{align}$ 故得証。$\Box$

## 完備化

如果 $V$ 是個複內積空間，可以定義一個函數 $d:V \times V \to \R$ 且 $d(v,\,w) = \|v \ominus w\|$，根據上面的三角不等式和內積定義，$(V,\,d)$ 的確是個度量空間。

在希爾伯特空間的文章中有一些內積空間的例子，其中引出自內積的度量誘導一個完備的度量空間。然而也存在誘導不完備度量空間的內積，比如在區間$[a, b]$上連續複數值函數的空間$\mathcal{C}[a, b]$上。內積是$\langle f , g \rangle := \int_a^b f(t) \overline{g(t)} \, dt$

這個空間是不完備的；比如考慮對於區間$[0,1]$，考慮函數序列$\{ f_k \}_{k\in\mathbb{N}}$，其中

$$\forall k \geqslant 2, \; \; \; f_k (t) = \begin{cases} <pre> 0, & \forall t \in [0, \frac12 ] \\ k(t - \frac12 ), & \forall t \in ( \frac12 , \frac12 + \frac1k ] \\ 1, & \forall t \in ( \frac12 + \frac1k , 1 ] </pre> \end{cases}$$

每個$f_k$都是連續函數，但$\{ f_k \}_{k\in\mathbb{N}}$在上面的內積誘導的拓撲中是不收斂於任何一個連續函數的柯西序列，因為它的極限不是連續的函數。

## 在內積空間上的算子

- 希爾伯特-施密特算子
- 協方差算子

## 引用

- S. Axler, Linear Algebra Done Right, Springer, 2004
- G. Emch, Algebraic Methods in Statistical Mechanics and Quantum Field Theory, Wiley Interscience, 1972.
- N. Young, An Introduction to Hilbert Spaces, Cambridge University Press, 1988