柯西-施瓦茨不等式

柯西-施瓦茨不等式（Cauchy–Schwarz inequality），又称施瓦茨不等式或柯西-布尼亚科夫斯基-施瓦茨不等式或柯西不等式，在多个数学领域中均有应用的不等式；例如线性代数的矢量，数学分析的无穷级数和乘积的积分，和概率论的方差和协方差。它被认为是最重要的数学不等式之一。它有一些推广，如赫尔德不等式。

不等式以奥古斯丁-路易·柯西，赫尔曼·施瓦茨，和维克托·布尼亚科夫斯基命名。

## 叙述

$V$ 是个复内积空间，则对所有的 $v,\,w \in V$ 有：

(a) $\|v\|\|w\|\geq |\langle v,\,w \rangle|$

(b) $\|v\|\|w\| = |\langle v,\,w \rangle|$ $\Leftrightarrow$ 存在 $\lambda \in \C$ 使 $v = \lambda \cdot w$

证明请见内积空间#柯西-施瓦茨不等式。

## 特例

### 实数

对有限实数数列 ${\{x_i \in \mathbb{R} \}}_{i = 1}^{n}$和${\{y_i \in \mathbb{R} \}}_{i = 1}^{n}$，有

$$\left(\sum_{i=1}^n x_i y_i\right)^2 \leq \left(\sum_{i=1}^n x_i^2\right) \left(\sum_{i=1}^n y_i^2\right)$$

也就是

$$(x_1^2 +x_2^2 + \cdots + x_n^2)(y_1^2 +y_2^2 + \cdots + y_n^2) \ge (x_1 y_1 + x_2 y_2 + \cdots + x_n y_n)^2$$

等式成立时存在实数$\lambda \in \R$，对于任意的正整数$i \in \N$有

$$y_i = \lambda x_i$$

此定理可以根据点积为内积的事实，然后设：

$$x = (x_1,\,\dots,\,x_n) \in \R^n$$

$$y = (y_1,\,\dots,\,y_n) \in \R^n$$

这样根据一般内积空间的柯西不等式就可以得证，也可以如下依据实数的性质直接证明

证明考虑一个关于$t$的一元二次方程式 : $(x_1 t + y_1)^2 + \cdots + (x_n t + y_n)^2 = 0$ (1) 也就是 : $(x_1^2 +x_2^2 + \cdots + x_n^2) t^2 + 2 (x_1 y_1 + x_2 y_2 + \cdots + x_n y_n) t + (y_1^2 +y_2^2 + \cdots + y_n^2) = 0$ (1') 因为对于任意实数$t\in\R$有 : $(x_1 t + y_1)^2 + \cdots + (x_n t + y_n)^2 \geq 0$ 所以$t$的二次方程式(1')不是没有实数解，不然就是有重根，这样的话，根据二次方程的公式解有 : $D = 4 (x_1 y_1 + x_2 y_2 + \cdots + x_n y_n)^2 - 4 (x_1^2 +x_2^2 + \cdots + x_n^2) (y_1^2 +y_2^2 + \cdots + y_n^2) \leq 0$ 即 : $(x_1^2 +x_2^2 + \cdots + x_n^2)(y_1^2 +y_2^2 + \cdots + y_n^2) \ge (x_1 y_1 + x_2 y_2 + \cdots + x_n y_n)^2$(2) 另一方面，(2)等号成立等价于$D = 0$，这正好就是(1)有重根的情况，换句话说 : $x_1 t + y_1 = \cdots = x_n t + y_n = 0$ 而$-t$就是定理要求的$\lambda \in \R$，故本定理得证。$\Box$

### 复数

$n$维复数空间$\C^n$事实上是个定义在域$\C$(也就是纯量母空间)上的复系数内积空间，只要对任意$x,\,y \in \C^n$定义如下的内积函数：

$$x = (x_1,\,\dots,\,x_n) \in \C^n$$

$$y = (y_1,\,\dots,\,y_n) \in \C^n$$

$$\langle x, \, y \rangle := \sum^n_{i=1} x_i\overline{y_i}$$

$$\|x\|^2 := \langle x, \, x \rangle = \sum^n_{i=1} x_i\overline{x_i} = \sum^n_{i=1} |x_i|^2$$

这样根据一般内积空间的柯西不等式就有：

$$|\langle x, \, y \rangle| \leq \|x\|\|y\|$$

直接以复数性质证明的事实上与一般内积空间的证明方法雷同，请参阅内积空间#柯西-施瓦茨不等式。

### 矩阵

一般线性代数的书籍习惯将复数版本的柯西不等式以矩阵表示，换句话说，取：

$$\mathbf{x} = \begin{bmatrix} <pre> x_1 \\ \ldots \\ x_n </pre> \end{bmatrix}$$

$$\mathbf{y} = \begin{bmatrix} <pre> y_1 \\ \ldots \\ y_n </pre> \end{bmatrix}$$

$\mathbf{x}^\star := \begin{bmatrix} <pre> \overline{x_1} & \dots & \overline{x_n} </pre> \end{bmatrix}$(共轭加上转置)

这样的话，复数版本的柯西不等式可以重写为：

$$\mathbf{x}^\star\mathbf{y} \leq (\mathbf{x}^\star\mathbf{x})(\mathbf{y}^\star\mathbf{y})$$

注意到矩阵乘法偷懒地把只有一个元素的矩阵视为那个元素本身，而且为了符合矩阵乘法和线性映射的对应：

$$T(\mathbf{x}) = \mathbf{T}\mathbf{x} = \begin{bmatrix} <pre> T_{11} & \cdots & T_{1n} \\ \vdots & &\vdots\\ T_{nn} & \cdots & T_{nn} \\ </pre> \end{bmatrix} \begin{bmatrix} <pre> x_1 \\ \vdots \\ x_n </pre> \end{bmatrix}$$

必须把内积空间的线性定义改为：（也就是符合狄拉克符号的习惯）

线性｜对所有 $a,\,v,\,w \in V$｜$\langle a,\, v \oplus w \rangle = \langle a,\, v \rangle + \langle a,\, w \rangle$

对所有 $v,\,w \in V$ 和所有 $\lambda \in F$｜$\langle v,\, \lambda\cdot w\rangle =\lambda \times \langle v,\,w\rangle$

但这并没有产生任何新的性质。而等号成立地条件也只是换种说法，说成是$\mathbf{x}$与$\mathbf{y}$线性相关。

### Lp空间

- 对平方可积的复值函数，有

$\left|\int_{\R^n} f(x) \overline{g(x)}\,dx\right|^2 \leq \int_{\R^n} |f(x)|^2\,dx \int_{\R^n} |g(x)|^2 \,dx$。

可一般化为赫尔德不等式。

- 原不等式可以增强至拉格朗日恒等式

$\langle x,x\rangle \cdot \langle y,y\rangle = |\langle x,y\rangle|^2 + |x \times y|^2$。

这是

$$\left(\sum_{i=1}^n x_i y_i\right)^2 = \left(\sum_{i=1}^n x_i^2\right) \left(\sum_{i=1}^n y_i^2\right)-\left(\sum_{1\le i < j\le n}(x_i y_j - x_j y_i)^2\right)$$

## 同名的定理

### 正定对称算子

$V$是个复内积空间，如果$W \subseteq V$， $A:W \to V$，这时如果对所有$a \in W$ 都有$\langle A(a), a \rangle \geq 0$，称$A$是$V$的一个正定算子（positive operator）。

类似的，如果对所有$a,\,b \in W$ 都有$\langle A(a),\, b \rangle = \langle a,\, A(b) \rangle$，称$A$是$V$的一个对称算子（symmetric operator）。

对于复系数内积空间$V$的线性子空间$W \subseteq V$，如果$A:W \to V$是个正定对称的线性映射，则对于任意$x, y \in W$有：

$$|\langle A(x), \, y \rangle|^2 \leq \langle A(x), \, x \rangle \langle A(y), \, y \rangle$$

证明若 $x = y = 0_V$，注意到对于任意$z \in W$有 : $\begin{align} \langle\, A(0_V),\, 0_V \,\rangle &= \langle\, A(0_V),\, z \oplus (-1) \cdot z \,\rangle \\ &= \langle\, A(0_V),\, z \,\rangle - \langle\, A(0_V),\, z \,\rangle \\ &= 0 \end{align}$ 所以这种情况下，本不等式成立。若考虑$x,\,y \in W$ 且 $x,\,y \neq 0_V$，取 : $e_x = \frac{1}{| \langle\, A(x),\, x \,\rangle |} \cdot x$ : $e_y = \frac{1}{| \langle\, A(y),\, y \,\rangle |} \cdot y$ : $\alpha = \langle A(e_x),\,e_y \rangle$ 则 $\begin{align} \langle\, A[e_x \oplus (-\alpha) \cdot e_y],\, e_x \oplus (-\alpha) \cdot e_x\,\rangle &= \langle\, A(e_x) \oplus (-\alpha) \cdot A(e_y),\, e_x \oplus (-\alpha) \cdot e_x\,\rangle \\ &= \langle\, A(e_x),\, e_x \,\rangle - \alpha \langle\, A(e_y) ,\, e_x \,\rangle - \overline{\alpha} \langle\, A(e_x) ,\, e_y \,\rangle + \alpha\overline{\alpha} \langle\, A(e_y),\, e_y \,\rangle \\ &= 1 - \alpha\overline{\alpha} - \overline{\alpha}\alpha + \alpha\overline{\alpha} \\ &= 1- \left| \frac{ \langle\, A(x),\, y \,\rangle }{ \langle\, A(e_x),\, e_x \,\rangle \langle\, A(e_y),\, e_y \,\rangle } \right|^2 \\ &\geq 0 \end{align}$ 所故得证。$\Box$

考虑到对称算子$A$在有有限基底的向量空间中都可以唯一的表示成某个埃尔米特矩阵$\mathbf{A}$，一般线性代数的书籍习惯以如下的形式表示：

$|\mathbf{A}\mathbf{x^\star}\mathbf{y}|^2 \leq (\mathbf{A}\mathbf{x^\star}\mathbf{x})(\mathbf{A}\mathbf{y^\star}\mathbf{y})$

另外，正定算子对应的矩阵元素都必须$\geq 0$，所以正定对称算子对应的$\mathbf{A}$是对称且非负的矩阵。

这个定理无法视为本章所述的柯西不等式的特例，因为$\langle\, A(x) ,\, x \,\rangle = 0$不一定能推出$x = 0_V$，如：

$$A: \C^{2 \times 1} \to \C^{2 \times 1}$$

$$A\left( \begin{bmatrix} <pre> x \\ y </pre> \end{bmatrix} \right) = \begin{bmatrix} <pre> 1 & 1 \\ 1 & 1 </pre> \end{bmatrix} \begin{bmatrix} <pre> x\\ y </pre> \end{bmatrix}$$

$$\left\langle\, \begin{bmatrix} <pre> a_1 \\ a_2 </pre> \end{bmatrix} ,\, \begin{bmatrix} <pre> b_1 \\ b_2 </pre> \end{bmatrix} \,\right\rangle := a_1\overline{b_1} +a_2\overline{b_2}$$

的话，那：

$$\left\langle\, A \left( \begin{bmatrix} <pre> 1\\ -1 </pre> \end{bmatrix} \right) ,\, \begin{bmatrix} <pre> 1\\ -1 </pre> \end{bmatrix} \,\right\rangle = \left\langle \begin{bmatrix} <pre> 1 & 1 \\ 1 & 1 </pre> \end{bmatrix} \begin{bmatrix} <pre> 1\\ -1 </pre> \end{bmatrix} ,\, \begin{bmatrix} <pre> 1\\ -1 </pre> \end{bmatrix} \right\rangle = \left\langle \begin{bmatrix} <pre> 0\\ 0 </pre> \end{bmatrix} ,\, \begin{bmatrix} <pre> 1\\ -1 </pre> \end{bmatrix} \right\rangle = 0$$

所以

$$f:\C^{2 \times 1} \times \C^{2 \times 1} \to \C$$

$$f(\mathbf{x},\,\mathbf{y}) = \langle\, \mathbf{A}\mathbf{x},\,\mathbf{y} \,\rangle$$

不一定有非退化的性质，而不能视为内积，所以就无法直接套用内积空间的柯西不等式。这也意味着以上定理等号成立的条件，不必然是线性相关。

### 复变函数中的柯西不等式

设 $f(z)$在区域$D$及其边界上解析，$a$ 为$D$内一点，以$a$为圆心做圆周 $C_R:|z-a|=R$，只要$C_R$及其内部$G$均被$D$包含，则有：

$$\left| f^{(n)}(z_{0})\right|\leq \frac{n!M}{R^n}\qquad (n=1,2,3,...)$$

其中，M是$|f(z)|$的最大值，$M=\max \limits_{|x-a|\in R}|f(x)|$。

## 其它推广

$\sqrt{\sum_{i=1}^n (\sum_{j=1}^m a_{ij})^2} \le \sum_{j=1}^m \sqrt{\sum_{i=1}^n a_{ij}^2}$

$m\ge \alpha >0,(\sum_{i=1}^n \prod_{j=1}^m a_{ij})^{\alpha} \le \prod_{j=1}^m \sum_{i=1}^n a_{ij}^{\alpha}$

若$\displaystyle q_i\ge 0,\sum_i q_i=1$，则$\displaystyle (x^*A^{\sum_i a_i q_i}x)\le \prod_i (x^*A^{a_i}x)^{q_i}$