凸分析

<image>

凸分析是研究凸函数与凸集性质的数学分支，其应用称作凸优化，是最优化理论的子分支。

## 凸集

某向量空间X的子集$C \subseteq X$，若满足下列任意一条等价条件，就称其是凸的（convex）：

- 若$0 \leq r \leq 1$是实数，$x, y \in C$，则$r x + (1 - r) y \in C.$
- 若$0 < r < 1$是实数，$x, y \in C,\ x \neq y,$则$r x + (1 - r) y \in C.$

<image>

$f : X \to [-\infty, \infty]$始终是以扩展实数线$[-\infty, \infty] = \mathbb{R} \cup \{ \pm \infty \}$为值域、以某向量空间的凸子集$\operatorname{domain} f = X$为定义域的映射。

映射$f : X \to [-\infty, \infty]$，若

$f( r x + (1 - r) y ) \leq r f(x) + (1 - r) f(y)$（凸性$\le$）

对所有实数$0 < r < 1$、所有$x, y \in X,\ x \neq y$都成立，称映射f是凸函数。若此不等式被替换为严格不等式

$f( r x + (1 - r) y ) < r f(x) + (1 - r) f(y)$（凸性$<$）

对f仍成立，则称f是严格凸的。

凸函数与凸集有关。特别地，当且仅当函数f的上图（epigraph）

<image>

<image>

$$\operatorname{epi} f := \left\{ (x,r) \in X \times \mathbb{R} ~:~ f(x) \leq r \right\}$$

是凸集时，函数f是凸的。扩展实值函数的上图在凸分析中的作用类似于实值函数图像在实分析中的作用。特别地，扩展实值函数的上图提供了几何直觉，可用于形式化或证明猜想。

函数$f : X \to [-\infty, \infty]$的定义域记作$\operatorname{domain} f$，有效域则是集合

$$\operatorname{dom} f := \{ x \in X ~:~ f(x) < \infty \}.$$

函数$f : X \to [-\infty, \infty]$，当且仅当$\forall x \in \operatorname{domain} f,\ f(x) > -\infty,\ \operatorname{dom} f \neq \varnothing$，称函数是真凸函数。这意味着在f的定义域中存在x使$f(x) \in \mathbb{R}$，f也永远不等于$f$ $-\infty$。换句话说，若函数的定义域非空、永远不取$-\infty$、不等于$+\infty$，则就是真凸函数。若$f : \mathbb{R}^n \to [-\infty, \infty]$是真凸函数，则存在向量$\vec b \in \mathbb{R}^n$、实数$r \in \mathbb{R}$使得

$$\forall x,\ f(x) \geq x \cdot b - r$$

其中$x \cdot b$表示向量的点积。

## 凸共轭

扩展实值函数$f : X \to [-\infty, \infty]$（不必凸）的凸共轭是来自X的（连续）对偶空间函数$f^* : X^* \to [-\infty, \infty]$

$$f^*\left(x^*\right) = \sup_{z \in X} \left\{ \left\langle x^*, z \right\rangle - f(z) \right\}$$

其中，括号$\left\langle \cdot, \cdot \right\rangle$表示规范对偶性$\left\langle x^*, z \right\rangle := x^*(z)$。f的双共轭是映射$f^{**} = \left( f^* \right)^* : X \to [-\infty, \infty]$，定义为$\forall x\in X,\ f^{**}(x) := \sup_{z^* \in X^*} \left\{ \left\langle x, z^* \right\rangle - f\left( z^* \right) \right\}$ 将X上的Y值函数记作$\operatorname{Func}(X; Y)$，则$f \mapsto f^*$定义的映射$\operatorname{Func}(X; [-\infty, \infty]) \to \operatorname{Func}\left( X^*; [-\infty, \infty] \right)$乘坐勒让德-芬切尔变换。

### 次微分集与芬切尔-扬不等式

若$x \in X,\ f : X \to [-\infty, \infty]$，则次微分集（subdifferential set）为

$$\begin{alignat}{4} \partial f(x) :&= \left\{ x^* \in X^* ~:~ f(z) \geq f(x) + \left\langle x^*, z - x \right\rangle \text{ for all } z \in X \right\} && (\text{“} z \in X \text{''} \text{ can be replaced with: } \text{“} z \in X \text{ such that } z \neq x \text{''}) \\ &= \left\{ x^* \in X^* ~:~ \left\langle x^*, x \right\rangle - f(x) \geq \left\langle x^*, z \right\rangle - f(z) \text{ for all } z \in X \right\} && \\ &= \left\{ x^* \in X^* ~:~ \left\langle x^*, x \right\rangle - f(x) \geq \sup_{z \in X} \left\langle x^*, z \right\rangle - f(z) \right\} && \text{ The right hand side is } f^*\left( x^* \right) \\ &= \left\{ x^* \in X^* ~:~ \left\langle x^*, x \right\rangle - f(x) = f^*\left( x^* \right) \right\} && \text{ Taking } z := x \text{ in the } \sup{} \text{ gives the inequality } \leq. \\ \end{alignat}$$

例如，在$f = \| \cdot \|$是X上的范数这一重要特例中，可以证明

$X = \{ 0 \}$

$x \in X$

$\partial f(x) = \left\{ x^* \in X^* ~:~ \left\langle x^*, x \right\rangle - \| x \| \geq \left\langle x^*, z \right\rangle - \| z \| \forall z \in X \right\}$

$x^* \in \partial f(x),\ r \geq 0$

$z := r x$

$\left\langle x^*, x \right\rangle - \| x \| \geq \left\langle x^*, r x \right\rangle - \| r x \| = r \left[ \left\langle x^*, x \right\rangle - \| x \| \right],$

$r := 2$

$x^*(x) \geq \| x \|$

$r := \frac1{2}$

$x^*(x) \leq \| x \|$

$x^*(x) = \| x \|$

$x \neq 0$

$x^*\left(\frac{x}{\|x\|}\right) = 1,$

$\left\| x^* \right\| \geq 1.$

$\partial f(x) \subseteq \left\{ x^* \in X^* ~:~ x^*(x) = \| x \| \right\},$

$\partial f(x) = \partial f(x) \cap \left\{ x^* \in X^* ~:~ x^*(x) = \| x \| \right\},$

$\partial f(x) = \left\{ x^* \in X^* ~:~ x^*(x) = \| x \| \text{ and } \| z \| \geq \left\langle x^*, z \right\rangle \text{ for all } z \in X \right\},$

$\left\| x^* \right\| \leq 1,\ \forall x^* \in \partial f(x).$

若$0 \neq x \in X$，则此定义可简化为：

$\partial f (x) = \left\{ x^* \in X^* ~:~ \left\langle x^*, x \right\rangle = \| x \| \text{ and } \left\| x^* \right\| = 1 \right\}$；$\partial f(0) = \left\{ x^* \in X^* ~:~ \left\| x^* \right\| \leq 1 \right\}.$

$\forall x \in X,\ x^* \in X^*,\ f(x) + f^*\left(x^*\right) \geq \left\langle x^*, x \right\rangle,$这就是芬切尔-扬不等式，当且仅当$x^* \in \partial f(x)$时是等式。正是通过这种方式，次微分集$\partial f (x)$与凸共轭$f^*\left( x^* \right)$直接相关。

### 双共轭

函数$f : X \to [-\infty, \infty]$的双共轭是共轭的共轭，一般写作$f^{**} : X \to [-\infty, \infty]$。双共轭有助于显示强对偶或弱对偶何时成立（通过扰动函数）。

$\forall x \in X,$不等式$f^{**}(x) \leq f(x)$符合芬切尔-扬不等式。对紧合（proper）的函数，当且仅当f是凸的下半连续函数时，$f = f^{**}$（芬切尔–莫罗定理）。

## 凸最小化

凸最小化（主）问题形如

给定凸函数$f : X \to [-\infty, \infty]$与凸子集$M \subseteq X$，求$\inf_{x \in M} f(x)$

### 对偶问题

优化理论中，对偶原则（duality principle）指出，优化问题可以从两个角度分别视作主问题与对偶问题。

一般来说，给定一对分离的局部凸空间$\left(X, X^*\right)$、$\left(Y, Y^*\right)$，以及函数$f : X \to [-\infty, \infty]$，可以把主问题定义为求x使得

$$\inf_{x \in X} f(x).$$

可令$f = f + I_{\mathrm{constraints}}$（其中I是示性函数）将约束嵌入f。那么让$F : X \times Y \to [-\infty, \infty]$是扰动函数，使得$F(x, 0) = f(x)$。

关于所选扰动函数的对偶问题由下式给出：

$$\sup_{y^* \in Y^*} -F^*\left(0, y^*\right)$$

其中$F^*$是F两个变量的凸共轭。

对偶间隙是不等式左右两式的差

$$\sup_{y^* \in Y^*} -F^*\left(0, y^*\right) \le \inf_{x \in X} F(x, 0).$$

此原理同弱对偶。若两侧相等，则问题满足强对偶。

强对偶成立的条件有很多，如

- $F = F^{**}$，其中F是连接主问题与对偶问题的扰动函数，$F^{**}$是F的双共轭。
- 主问题是线性规划问题。
- 凸优化问题的斯莱特条件。

#### 拉格朗日对偶性

对不等式约束的凸最小化问题。

$\min {}_{x} f(x)$ subject to $g_i(x) \leq 0$，其中$i = 1, \ldots, m.$

其拉格朗日对偶问题是

$\sup {}_{u} \inf {}_{x} L(x, u)$ subject to $u_i(x) \geq 0$，其中$i = 1, \ldots, m.$

其中目标函数$L(x, u)$是如下定义的拉格朗日对偶函数：

$$L(x, u) = f(x) + \sum_{j=1}^m u_j g_j(x)$$