内积空间

内积空间（inner product space）是增添了某种运算的向量空间，这种运算叫做内积，它推广了原来欧几里德空间的点积，而从比较一般的角度看待向量的“夹角”、“长度”还有“正交性”。

## 相关术语

内积空间有时也叫做准希尔伯特空间（pre-Hilbert space），因为由内积定义的距离完备化之后就会得到一个希尔伯特空间。

在早期的著作中，本条目所定义的内积空间被称作酉空间，但这些著作里的“内积空间”反而指的是有限维Euclid空间或可数维的Lp空间。

## 正式定义

下文中 $F$ 有可能是实数系 $\mathbb{R}$ 或复数系 $\mathbb{C}$。

$V$ 是一个定义在域 $\left( F,\,+,\,\times \right)$ 上的向量空间，其向量加法记为“ $\oplus$ ”，且其标量乘法记为“ $\cdot$ ”。若它装配了一个二元函数 $f:V \times V \to F$ 满足：（以下将 $f(v,\,w)$ 简写为 $\langle v,\,w \rangle$）

名称｜前提条件｜内容

共轭对称｜对所有 $v,\,w \in V$｜$\langle v,\,w\rangle =\overline{\langle w,\,v\rangle}$

线性｜对所有 $a,\,v,\,w \in V$｜$\langle v \oplus w,\,a \rangle = \langle v,\,a \rangle + \langle w,\,a \rangle$

对所有 $v,\,w \in V$ 和所有 $\lambda \in F$｜$\langle \lambda \cdot v,\, w\rangle =\lambda \times \langle v,\,w\rangle$

非负性｜对所有 $v \in V$｜$\langle v,\,v\rangle \geq 0$

非退化｜$(v = 0_V) \Leftrightarrow (\langle v,\,v \rangle = 0)$

这样的话， $f$ 会被称为定义在 $V$ 上的内积。更进一步的，若 $F=\C$ 则称 $V$ 是个复内积空间，反之，若 $F=\R$ 则称 $V$ 是个实内积空间。

如果 $\langle v,\,w \rangle = 0$，也可记为 $v \perp w$，并称“ $v$ 与 $w$ 是正交的（perpendicular）”。

### 定义的分歧

为了与量子力学中的狄拉克符号的顺序相符，以上线性部分的定义常常被物理学家颠倒过来，也就是

线性｜对所有 $a,\,v,\,w \in V$｜$\langle a,\, v \oplus w \rangle = \langle a,\, v \rangle + \langle a,\, w \rangle$

对所有 $v,\,w \in V$ 和所有 $\lambda \in F$｜$\langle v,\, \lambda\cdot w\rangle =\lambda \times \langle v,\,w\rangle$

真正会造成影响的是第二条，因为可根据顺序颠倒的第二条，从顺序颠倒的第一条会推出原来的第一条，反之亦然（可参考基本性质一节第一个定理）。但这仍会造成许多定理的内积顺序也要颠倒过来才会成立。

## 例子

### 实数的乘法

因为实数系 $\mathbb{R}$ 可以视是为定义在自己之上的向量空间，所以可以验证：$\langle x,y\rangle := xy$ 满足内积的各种性质。

### 点积

欧几里德空间 $\mathbb{R}^n$的点积：

$$\langle (x_1,\ldots, x_n),\,(y_1,\ldots, y_n)\rangle := \sum_{i=1}^{n} x_i y_i = x_1 y_1 + \cdots + x_n y_n$$

是定义在 $\mathbb{R}^n$上的一个内积。

## 基本性质

若 $V$ 是复内积空间，那对所有的 $a,\,v,\,w \in V$ 和所有的有 $\lambda \in \C$ 有：

(a) $\langle a,\,v \oplus w\rangle = \langle a,\,v\rangle + \langle a,\,w\rangle$

(b) $\langle v,\, \lambda\cdot w\rangle =\overline{\lambda}\times\langle v,\,w\rangle$

证明(a) $\begin{aligned} \langle a,\, v \oplus w \rangle & = \overline{\langle v \oplus w,\, a \rangle}\\ & = \overline{\langle v,\, a \rangle + \langle w,\, a \rangle}\\ & = \overline{\langle v,\, a \rangle} + \overline{\langle w,\, a \rangle}\\ & = \langle a,\, v \rangle + \langle a,\, w \rangle \end{aligned}$ (b) $\begin{aligned} \langle v,\, \lambda\cdot w\rangle & = \overline{\langle \lambda\cdot w,\, v \rangle}\\ & = \overline{\lambda \times \langle w,\, v \rangle} \\ & = \overline{\lambda} \times \overline{\langle w,\, v \rangle}\\ & = \overline{\lambda} \times \langle v,\, w\rangle \end{aligned}$ 故得证。$\Box$

若 $V$ 是个复内积空间，对任意有限向量序列 ${\{v_i \in V\}}^n_{i=1}$ 和任意 $w \in V$ 有：

(a) $\left\langle \sum^n_{i=1} v_i ,\,w \right\rangle = \sum^n_{i=1} \langle v_i ,\,w \rangle$

(b) $\left\langle w,\,\sum^n_{i=1} v_i \right\rangle = \sum^n_{i=1} \langle w,\, v_i \rangle$

证明若 $n = 2$，本定理只是内积定义的线性部分，故成立。若 $n = k$ 时，对任意有限向量序列 ${\{u_i \in V\}}^k_{i=1}$ 和任意 $w \in V$ 有： :$\left\langle \sum^k_{i=1} u_i ,\,w \right\rangle = \sum^k_{i=1} \langle u_i ,\,w \rangle$ 这样的话，对任意有限向量序列 ${\{v_i \in V\}}^{k+1}_{i=1}$ 和任意 $w \in V$ 有： :$\begin{align} \left\langle \sum^{k+1}_{i=1} v_i ,\,w \right\rangle & = \left\langle \left(\sum^k_{i=1} v_i \right) + v_{k+1} ,\,w \right\rangle \\ & = \left\langle \sum^k_{i=1} v_i ,\,w \right\rangle + \langle v_{k+1} ,\,w \rangle\\ & = \sum^k_{i=1} \langle v_i ,\,w \rangle + \langle v_{k+1} ,\,w \rangle\\ & = \sum^{k+1}_{i=1} \langle v_i ,\,w \rangle \end{align}$ 所以根据数学归纳法，本定理(a)部分得证。这样根据共轭的线性性质有： :$\begin{align} \left\langle w,\,\sum^n_{i=1} v_i \right\rangle & = \overline{\left\langle \sum^n_{i=1} v_i ,\, w \right\rangle} \\ & = \overline{\sum^{n}_{i=1} \langle v_i ,\,w \rangle}\\ & = \sum^{n}_{i=1} \overline{ \langle v_i ,\,w \rangle}\\ & = \sum^{n}_{i=1} \langle w ,\,v_i \rangle \end{align}$ 故本定理的(b)部分也得证。$\Box$

## 范数

以下根据内积定义的非负性部分，定义 $g:V \to [0,\,\infty)$ 为 $g(v) = \sqrt{\langle v,\,v \rangle}$，并把 $g(v)$ 表记为 $\|v\|$。下面也将证明$\|v\|$的确是$V$上的范数。

### 柯西-施瓦茨不等式

$V$ 是个复内积空间，则对所有的 $v,\,w \in V$ 有：

(a) $\|v\|\|w\|\geq |\langle v,\,w \rangle|$

(b) $\|v\|\|w\| = |\langle v,\,w \rangle|$ $\Leftrightarrow$ 存在 $\lambda \in \C$ 使 $v = \lambda \cdot w$

证明若 $v = w = 0_V$，根据内积定义的非退化部分，本定理成立。若考虑 $v,\,w \neq 0_V$，取 $e_v = \frac{1}{\|v\|} \cdot v$、$e_w = \frac{1}{\|w\|} \cdot w$ 与 $\alpha = \langle e_v,\,e_w \rangle$，则根据内积定义有 $\begin{align} \langle e_v \oplus (-\alpha) \cdot e_w,\, e_v \oplus (-\alpha) \cdot e_w \rangle & = \langle e_v,\, e_v \rangle + \langle e_v,\, (-\alpha) \cdot e_w \rangle + \langle (-\alpha) \cdot e_w,\, e_v \rangle + \langle (-\alpha) \cdot e_w,\,(-\alpha) \cdot e_w \rangle\\ & = 1 - \overline{\alpha}\alpha -\alpha\overline{\alpha}+ \alpha\overline{\alpha}\\ & = 1 - {|\alpha|}^2\\ & = 1 -{\left(\frac{|\langle v,\, w \rangle|}{\|v\|\|w\|} \right)}^2\\ & \geq 0 \end{align}$ 这样定理的(a)部分就成立。考虑到 $|\langle v,\, w \rangle| = \|v\|\|w\|$ 等价于上式内积要为零，那再根据内积定义的非退化部分，又等价于 :$e_v \oplus (-\alpha) \cdot e_w = 0_V$ 那这样根据向量空间的基本运算性质，又等价于 :$v = \frac{\langle v,\,w\rangle}{{\|w\|}^2} \cdot w$ 所以(b)部分也成立，故得证。$\Box$

### 三角不等式

$V$ 是个复内积空间，则对所有的$v,\,w \in V$ 有：

$$\left| \|v\| - \|w\| \right| \leq \| v \oplus w \| \leq \| v \| + \| w \|$$

证明根据内积定义有 $\begin{align} {\|v \oplus w\|}^2 & = \langle v \oplus w,\, v \oplus w \rangle\\ & = {\|v\|}^2 + \langle v,\,w \rangle + \langle w,\, w \rangle + {\|w\|}^2\\ & = {\|v\|}^2 + {\|w\|}^2 + 2 \operatorname{Re}(\langle v,\,w \rangle)\\ & \leq {\|v\|}^2 + {\|w\|}^2 + 2 |\langle v,\,w \rangle| \end{align}$ 这样根据上面的柯西-施瓦茨不等式有 $\begin{align} {\|v \oplus w\|}^2 & \leq {\|v\|}^2 + {\|w\|}^2 + 2 |\langle v,\,w \rangle| \\ & \leq {\|v\|}^2 + {\|w\|}^2 + 2 \|v\|\|w\| \\ & = {(\|v\| + \|w\|)}^2 \end{align}$ 另一方面，再根据柯西-施瓦茨不等式有 $\begin{align} {\left|\|v\| - \|w\|\right|}^2 & = {\|v\|}^2 + {\|w\|}^2 -2 \|v\|\|w\| \\ & \leq {\|v\|}^2 + {\|w\|}^2 + 2 \operatorname{Re}\langle v,\,w \rangle \\ & = {\|v \oplus w\|}^2 \end{align}$ $\Box$

根据上面的三角不等式， $g$ 的确是个定义在 $V$ 上的范数。所以内积空间也是一个赋范向量空间。这样直观上 $\|v\|$ 就是向量 $v$ 的长度。这样内积定义的非退化部分，就可以直观理解为“任意向量 $v \in V$ 为零向量，当且仅当其长度为零”。另外根据柯西-施瓦茨不等式，若 $\langle v,\,w \rangle \in \R$，可以把 $\langle v,\,w \rangle$ 跟点积做类比，也就是依据反三角函数的性质，对“ $v$ 和 $w$ 间的夹角”做如下的定义：

$$\angle (v,\,w) := \cos^{-1}\left( \frac{\langle v,\,w \rangle}{\|v\|\|w\|} \right)$$

这样柯西-施瓦茨不等式可以直观理解成上述的定义与“$cos{[\angle (v,\,w)]} = \pm1$ 等价于 $v$ 和 $w$ 相互平行”。

### 度量

根据三角不等式，以下的函数：

$$d:V \times V \to \R^+ ;\; d(v,w) = \|v \ominus w\|$$

确是 $V$ 上的度量。这样因为度量空间有自然的拓扑结构，所以内积空间 $V$ 也就有这种自然的拓扑结构；通常会把这个自然的拓扑记为 $\tau_V$。

### 勾股定理

$V$ 是个复内积空间，若有限向量序列 ${\{v_i \in V\}}^n_{i=1}$ 对任意不相等的正整数 $1 \leq i \neq j \leq n$ 都有 $\langle v_i,\,v_j \rangle = 0$ 则：

$$\sum_{i=1}^n \|v_i\|^2 = \left\|\sum_{i=1}^n v_i \right\|^2$$

证明根据内积定义和上面的一般线性性质有 :$\begin{align} \left\|\sum_{i=1}^{n} v_i \right\|^2 & = \left\langle \sum_{i=1}^{n} v_i ,\, \sum_{i=1}^{n} v_i\ \right\rangle\\ & = \sum^n_{j=1} \left\langle v_j ,\, \sum_{i=1}^{n} v_i\ \right\rangle\\ & = \sum^n_{j=1} \sum_{i=1}^{n} \langle v_j,\,v_i \rangle\\ & = \sum^n_{j=1} {\|v_j\|}^2 \end{align}$ 故得证。$\Box$

$V$ 是个复内积空间，则对所有的 $v,\,w \in V$ 有：

(a) $\|v \oplus w\|^2 + \|v \ominus w\|^2 = 2\|v\|^2 + 2\|w\|^2$

证明根据内积定义和向量空间的基本运算性质有 $\begin{align} {\|v \oplus w\|}^2 & = \langle v \oplus w,\, v \oplus w \rangle\\ & = {\|v\|}^2 + \langle v,\,w \rangle + \langle w,\, v \rangle + {\|w\|}^2\\ \end{align}$ $\begin{align} {\|v \ominus w\|}^2 & = \langle v \oplus (w^{-1}),\, v \oplus (w^{-1}) \rangle\\ & = {\|v\|}^2 + \langle v,\,(-1) \cdot w \rangle + \langle (-1) \cdot w,\, v \rangle + \langle (-1) \cdot w,\, (-1) \cdot w \rangle\\ & = {\|v\|}^2 - \langle v,\, w \rangle - \langle w,\, v \rangle + {\|w\|}^2 \end{align}$ 故得证。$\Box$

## 完备化

如果 $V$ 是个复内积空间，可以定义一个函数 $d:V \times V \to \R$ 且 $d(v,\,w) = \|v \ominus w\|$，根据上面的三角不等式和内积定义，$(V,\,d)$ 的确是个度量空间。

在希尔伯特空间的文章中有一些内积空间的例子，其中引出自内积的度量诱导一个完备的度量空间。然而也存在诱导不完备度量空间的内积，比如在区间$[a, b]$上连续复数值函数的空间$\mathcal{C}[a, b]$上。内积是$\langle f , g \rangle := \int_a^b f(t) \overline{g(t)} \, dt$

这个空间是不完备的；比如考虑对于区间$[0,1]$，考虑函数序列$\{ f_k \}_{k\in\mathbb{N}}$，其中

$$\forall k \geqslant 2, \; \; \; f_k (t) = \begin{cases} <pre> 0, & \forall t \in [0, \frac12 ] \\ k(t - \frac12 ), & \forall t \in ( \frac12 , \frac12 + \frac1k ] \\ 1, & \forall t \in ( \frac12 + \frac1k , 1 ] </pre> \end{cases}$$

每个$f_k$都是连续函数，但$\{ f_k \}_{k\in\mathbb{N}}$在上面的内积诱导的拓扑中是不收敛于任何一个连续函数的柯西序列，因为它的极限不是连续的函数。

## 在内积空间上的算子

- 希尔伯特-施密特算子
- 协方差算子

## 引用

- S. Axler, Linear Algebra Done Right, Springer, 2004
- G. Emch, Algebraic Methods in Statistical Mechanics and Quantum Field Theory, Wiley Interscience, 1972.
- N. Young, An Introduction to Hilbert Spaces, Cambridge University Press, 1988