弗雷歇导数

数学中，弗雷歇导数（Fréchet derivative）是在赋范向量空间上定义的导数。这个名称得自法国数学家莫里斯·弗雷歇，通常用于将单个实变量的实值函数的导数推广到多个实变量的向量值函数的情况，并且用于定义变分法中广泛应用的泛函导数。

一般来说，它将导数的概念从实值函数的一维情况推广到赋范空间上的函数。弗雷歇导数应与加托导数相对比，后者是经典方向导数的推广。

弗雷歇导数在数学分析和物理科学中的非线性问题中有广泛应用，特别是在变分法、非线性分析和非线性泛函分析中。

## 定义

设 $V$ 和 $W$ 是赋范向量空间，并且有开集 $U\subseteq V$。一个映射 $f : U \to W$ 称为是在 $x \in U$ “弗雷歇可微”的，若存在有界线性算子 $A:V\to W$ 使得$$\lim_{\|h\| \to 0} \frac{\| f(x + h) - f(x) - Ah\|_W}{\|h\|_V} = 0.$$这里的极限是指通常意义上的度量空间函数极限（参见度量空间上的函数和极限点）， $V$ 和 $W$ 充当了两个度量空间，上面的表达式则作为从 $V$ 中取值的 $h$ 的函数。因此，对于 $V$ 中非零元素构成的、收敛到零向量（$h_n \to 0$）的任一序列 $\langle h_n\rangle_{n=1}^{\infty}$，上面的极限都存在。等价地，以下一阶展开式成立：$$f(x + h) = f(x) + Ah +o(h),$$其中$o$是小o符号。一旦存在这样一个运算符 $A$，它将是唯一的，所以我们将其记作 $A\triangleq Df(x)$ 并称其为 $f$ 在 $x$ 处的“弗雷歇导数”。

考虑在 $U$ 中任意一点上都弗雷歇可微的 $f$，若映射$$Df : U \to B(V,W) : x \mapsto Df(x)$$是连续的（其中 $B(V,W)$ 表示 $V$ 到 $W$ 的全体有界线性算子构成的空间），那么称 $f$ 是 $C^1$ 的。注意这与要求“各点 $x\in U$ 处的弗雷歇导数 $Df(x) : V \to W$ 都连续”是不同的（有界性和连续性往往等价，这时这一点已得到保证而无需再做要求）。

弗雷歇导数是实函数 $f : \R \to \R$ 的普通导数的一个推广。$\R$ 到 $\R$ 的线性映射不过是乘上一个实数罢了，此例的弗雷歇导数 $D f(x)$ 就是函数 $t \mapsto f'(x)t$。

## 性质

在一点弗雷歇可微的映射在该点连续。

弗雷歇导数是以下意义上的线性运算：设 $f:V \to W$ 和 $g:V \to W$ 是在 $x$ 可微的两个映射， $c$ 是一个标量（实数或复数），则弗雷歇导数具有以下性质：

$$D(cf)(x) = cDf(x)$$ $$D(f+g)(x) = Df(x) + Dg(x).$$

链式法则在这种意义上仍然有效：如果 $f : U \to Y$ 在 $x \in U$ 可微且 $g : Y \to W$ 在 $y = f(x)$ 可微，那么它们的复合 $g \circ f$ 可微于 $x$，且这个导数是前述导数的复合：$$D(g \circ f)(x) = Dg(f(x)) \circ Df(x).$$

## 有限维情况

有限维空间中的弗雷歇导数就是通常的导数。特别地，它的坐标表示就是雅可比矩阵。

考虑 $\mathbb R^n$ 的开子集 $U$ 上的映射 $f : U \subseteq \R^n \to \R^m$，如果 $f$ 在一点 $a\in U$ 处是弗雷歇可微的，那么它的导数是$$\begin{cases} Df(a) : \R^n \to \R^m \\ Df(a)(v) = J_f(a) v \end{cases}$$其中 $J_f(a)$ 表示 $f$ 在 $a$ 处的雅可比矩阵。

此外， $f$ 的偏导数由$$\frac{\partial f}{\partial x_i}(a) = Df(a)(e_i) = J_f(a) e_i$$给出，其中 $\left\{ e_i \right\}$ 是 $\R^n$ 的典范基。由于导数是线性函数，对于任一向量 $h \in \R^n$，可以定义 $f$ 沿 $h$ 的方向导数$$Df(a)(h) = \sum_{i=1}^n h_i \frac{\partial f}{\partial x_i}(a).$$

如果所有偏导数 $f$ 都存在且连续，那么 $f$ 是弗雷歇可微的（也是 $C^1$ 的）。反之则不然，例如函数$$f(x, y) = \begin{cases} (x^2+y^2)\sin \left ((x^2+y^2)^{-1/2} \right ) & (x, y) \neq (0, 0)\\ 0 & (x, y) = (0, 0) \end{cases}$$在 $(0, 0)$ 是弗雷歇可微的，但没有连续的偏导数。

## 无限维的例子

无限维中最简单（且非平凡）的一个例子是这样一种情况：弗雷歇导数的域为希尔伯特空间 $H$，且我们所感兴趣的映射是其上的范数 $\|\,\cdot\,\| : H \to \R$。

首先考虑 $x \neq 0$ 的情况，我们可以构造这样一个线性泛函 $D$，它满足$$Dv := \left\langle v,\frac{x}{\|x\|}\right\rangle.$$ 接下来验证它是 $\|\cdot\|$ 在 $x$ 处的弗雷歇导数，于是我们考察弗雷歇可微条件中被求极限的表达式：$$\begin{align} \frac{|\|x+h\|-\|x\|-Dh|}{\|h\|} &=\frac{|\|x\|\|x+h\|-\langle x,x\rangle-\langle x,h\rangle|}{\|x\|\|h\|} \\[8pt] &=\frac{|\|x\|\|x+h\|-\langle x,x+h\rangle|}{\|x\|\|h\|} \\[8pt] &=\frac{|\langle x,x\rangle \langle x+h,x+h\rangle-\langle x,x+h\rangle^2|}{\|x\|\|h\|(|\|x\|\|x+h\|+\langle x,x+h\rangle|)} \\[8pt] &=\frac{\langle x,x \rangle \langle h,h \rangle-\langle x,h \rangle^2}{\|x\|\|h\|(|\|x\|\|x+h\|+\langle x,x+h\rangle|)} \\ &{} \end{align}$$利用范数和内积的连续性，我们得到：$$\begin{align} \lim_{\|h\|\to 0}\frac{|\|x+h\|-\|x\|-Dh|}{\|h\|} &= \lim_{\|h\|\to 0} \frac{\langle x,x \rangle \langle h,h \rangle-\langle x,h \rangle^2}{\|x\|\|h\|(|\|x\|\|x+h\|+\langle x,x+h\rangle|)} \\[8pt] &= \frac{1}{2\|x\|^3}\lim_{\|h\|\to 0}\frac{\langle x,x \rangle \langle h,h \rangle-\langle x,h \rangle^2}{\|h\|} \\[8pt] &= \frac{1}{2\|x\|^3}\lim_{\|h\|\to 0}\left(\langle x,x\rangle\|h\|-\langle x,h\rangle \left\langle x,\frac{h}{\|h\|}\right\rangle\right) \\[8pt] &= \frac{1}{2\|x\|^3}\left(\lim_{\|h\|\to 0}\langle x,x\rangle\|h\|-\lim_{h\to 0}\langle x,h\rangle \left\langle x,\frac{h}{\|h\|}\right\rangle \right ) \\[8pt] &= \frac{1}{2\|x\|^3}\left(0-\lim_{\|h\|\to 0}\langle x,h\rangle \left\langle x,\frac{h}{\|h\|}\right\rangle \right ) \\[8pt] &= -\frac{1}{2\|x\|^3}\left(\lim_{\|h\|\to 0}\langle x,h\rangle \left\langle x,\frac{h}{\|h\|}\right\rangle \right ) \\[8pt] \end{align}$$由于柯西-施瓦茨不等式，式中的内积$$\left\langle x,\frac{h}{\|h\|}\right\rangle$$有上界 $\|x\|$。又容易注意到 $\lim_{\|h\|\to 0}\langle x,h\rangle = 0$，因此整个极限为零。

接下来我们将展示范数在 $x=0$ 处是不可微的，也就是说，不存在有界线性泛函 $D$ 使得可微条件中的那个极限为 $0$。

令 $D$ 是任意一个线性泛函。里斯表示定理表明可以找到某个 $a \in H$ 使得 $D$ 被 $Dv = \langle a, v\rangle$ 唯一地确定，考虑$$A(h) = \frac{|\|0+h\| - \|0\|-Dh|}{\|h\|} = \left|1-\left\langle a, \frac{h}{\|h\|}\right\rangle\right|.$$为了使范数在 $0$ 处可微，我们必须有$$\lim_{\|h\|\to 0} A(h) = 0.$$我们将证明这对于任意 $a$ 都不成立。当 $a = 0$ 时，显然有 $A(h) = 1$。现在考虑 $a\neq 0$ 的情况：如果我们选取 $h$ 趋于零的方向为 $-a$ （也就是说， $h = t\cdot(-a)$，其中 $t \to 0^+$），那么 $A(h) = |1+\|a\|| > 1 > 0$，因此至少知道哪怕这个极限存在，也一定不为零。通过进一步考察其他趋向 0 的方式，可以发现这个极限实际上根本不存在。

综上所述，该范数在原点处的弗雷歇导数不存在。这与有限维下的结果是一致的。

## 与加托导数的关系

一个映射 $f : U \subseteq V \to W$ 称为是在 $x \in U$ 处“加托可微”的，若 $f$ 在 $x$ 处沿所有方向的方向导数都存在。这意味着存在一个映射 $g : V \to W$ 使得$$g(h) = \lim_{t \to 0} \frac{f(x + th) - f(x)}{t}$$其中 $t$ 取值自向量空间 $V$ 的标量数域（$t$ 通常是实数）。

如果$f$ 在 $x$ 是弗雷歇可微的，那么它在此处也是加托可微的，并且 $g$ 正是弗雷歇导数所给出的线性算子 $A = D f(x)$。

然而，并非每个加托可微映射都是弗雷歇可微的。这类似于以下事实：一个函数在某一点的所有方向导数的存在并不能保证此函数在该点的全导数的存在（甚至也不能保证此函数的连续性）。例如，如下定义的具有两个实变量的实值函数 $f$：$$f(x, y) = \begin{cases} \frac{x^3}{x^2+y^2} & (x, y) \neq (0, 0)\\ 0 & (x, y) = (0, 0) \end{cases}$$它在原点 $(0, 0)$ 连续且加托可微，而它在原点的导数是$$g(a, b) = \begin{cases} \frac{a^3}{a^2+b^2}& (a, b) \neq (0, 0)\\ 0 & (a, b) = (0, 0) \end{cases}$$ $g$ 并非一个线性算子，因此上述函数不是弗雷歇可微的。

更一般地说，对于有以下形式的任何函数 $f(x, y) = g(r) h(\phi)$ （其中 $r$ 和 $\phi$ 是 $(x, y)$ 的极坐标），如果 $g$ 在 $0$ 处可微且 $h(\phi + \pi) = -h(\phi)$，那么 $f$ 在原点 $(0,0)$ 处加托可微。但仅当 $h$ 是正弦函数时，加托导数才是线性的、弗雷歇导数才存在。

另一种情况是，如下定义的 $f$ $$f(x, y) = \begin{cases} \frac{x^3y}{x^6+y^2} & (x, y) \neq (0, 0)\\ 0 & (x, y) = (0, 0) \end{cases}$$在 $(0, 0)$ 加托可微，其加托导数处处为零，从而是一个线性算子。然而， $f$ 在 $(0, 0)$ 不连续（沿着曲线 $\left(t, t^3\right)$ 接近原点就可以看出这一点）。因此 $f$ 在原点不可能是弗雷歇可微的。

一个更微妙的例子是$$f(x, y) = \begin{cases} \frac{x^2y}{x^4+y^2}\sqrt{x^2+y^2} & (x, y) \neq (0, 0)\\ 0 & (x, y) = (0, 0) \end{cases}$$这是一个连续函数，且在 $(0, 0)$ 处加托可微，此处的加托导数是线性的——该导数总是为零。然而， $f$ 不是弗雷歇可微的。如果是的话，它的弗雷歇导数应与其加托导数一致，从而将是零算子 $A = 0$，进而极限$$\lim_{\|h\|_2 \to 0} \frac{|f((0, 0) + h) - f(0, 0) - Ah|}{\|h\|_2} = \lim_{h = (x,y) \to (0,0)} \left|\frac{x^2y}{x^4+y^2}\right|$$必须为零。然而，沿着曲线 $\left(t, t^2\right)$ 接近原点即可看出这个极限不存在,因为函数值等于$1/2$而不等于零。

之所以会出现这些情况，是因为加托导数的定义只要求差商沿每个方向单独收敛，而没有对不同方向的收敛速度提出要求。因此，对于给定的收敛目标 $\varepsilon$ （参见Ε-δ语言），虽然从每个方向看来，给定点的某邻域中该方向的差商都在 $\varepsilon$ 限定的范围内，但是这些邻域对于不同的方向可能是不同的，并且可能存在一系列方向使得这些邻域变为任意小的。如果沿这些方向选择点的序列，则同时考虑所有方向的弗雷歇导数定义中的商可能不会收敛。因此，线性加托导数的存在若要保证弗雷歇导数的存在，还须要求差商在所有方向上一致收敛。

下面的例子仅适用于无穷维情况。设 $X$ 是巴拿赫空间， $\varphi$ 是 $X$ 上一个在 $x = 0$ 处不连续的线性泛函（参见不连续线性泛函）。令$$f(x) = \|x\| \varphi(x).$$ $f(x)$ 在 $x = 0$ 有加托导数 $0$。然而由于极限$$\lim_{x \to 0} \varphi(x)$$不存在， $f(x)$ 不是弗雷歇可微的。

## 高阶导数

若映射 $f : U \to W$ 在开集 $U\subset V$ 上是弗雷歇可微的，其弗雷歇导数$$D f : U \to L(V, W)$$是从 $U$ 到空间 $L(V, W)$ （$V$ 到 $W$ 的全体有界线性算子构成的空间）的一个映射。可以定义这个映射本身的弗雷歇导数，即所谓 $f$ 的“二阶导数”$$D^2 f : U \to L(V, L(V, W)).$$为方便处理二阶导数，注意右侧的空间就是 $V$ 到 $W$ 的全体连续双线性映射所构成的巴拿赫空间 $L^2(V \times V, W)$，因为若 $\varphi$ 是 $L(V, L(V, W))$ 的元素，则 $$\varphi(x)(y) = \psi(x, y)$$ 定义了 $L^2(V \times V, W)$ 中的元素 $\psi$ 与 $\varphi$ 对应，反之亦然。（一个关于 $x$ 线性的映射 $\varphi$ 若满足 $\varphi(x)$ 关于 $y$ 线性，那么它和对 $x$ 和 $y$ 具有双线性的 $\psi$ 是一样的。）

可以再求$$D^2 f : U \to L^2(V\times V, W)$$的弗雷歇导数来得到“三阶导数”，其在每个点将给出一个“三线性映射”，依此类推。$n$ 阶导数$$D^n f : U \to L^n(V \times V \times \cdots \times V, W),$$在每一点处都将是一个连续多重线性映射。递归地，一个映射 $f$ 在 $U$ 上 $n+1$ 次弗雷歇可微的条件是：它在 $U$ 上 $n$ 次弗雷歇可微，并且对于任一 $x \in U$ 都存在一个连续的 $n+1$ 重线性映射 $A$ 使得极限$$\lim_{h_{n+1} \to 0} \frac{ \left\| D^nf \left(x + h_{n+1} \right)(h_1, h_2, \ldots, h_n) - D^nf(x)(h_1, h_2, \ldots, h_n) - A \left(h_1, h_2, \ldots, h_n, h_{n+1} \right) \right\| }{\left\|h_{n+1}\right\|} = 0$$对取值于 $V$ 的有界子集中的 $h_1, h_2, \ldots, h_n$ 一致收敛。这时， $A$ 就是 $f$ 在 $x$ 处的 $(n+1)$ 阶弗雷歇导数。

此外，我们可以将空间$L^n\left(V \times V \times \cdots \times V, W\right)$ 等价为 $L\left(\bigotimes_{j=1}^n V_j, W\right)$，而其成员 $f\left(x_1, x_2, \ldots, x_n\right) = f\left(x_1 \otimes x_2 \otimes \cdots \otimes x_n\right)$，从而将弗雷歇导数视为一个普通的线性映射。

## 弗雷歇偏导数

通常的偏导数是为以下形式的函数定义的 $f: \R^n \to \R$。而在本节中，我们会将其推广到映射的域和目标空间（到达域）是任意（实的或复的）巴拿赫空间的情况。设 $V_1, \ldots, V_n$ 和 $W$ 是（具有相同的标量域的）巴拿赫空间，其上有一点 $a = \left(a_1, \ldots, a_n\right) \in \prod_{i=1}^n V_i$，对于映射 $f : \prod_{i=1}^n V_i \to W$，若函数$$\varphi_i : V_i \to W:x \mapsto f(a_1, \ldots, a_{i-1}, x, a_{i+1}, \ldots a_n)$$在点 $a_i$ 是弗雷歇可微的，那么称 $f$ 在点 $a$ 有第 $i$ 偏导数 $\partial_i f(a) := D\varphi_i(a_i)$。注意 $\partial_if(a)$ 是一个 $V_i$ 到 $W$ 的线性变换。启发式地说，假定 $f$ 在 $a$ 有第 $i$ 偏导数，固定所有 $a_j(j\neq i)$ 而只改变 $a_i$ 时 $f$ 的变化量被偏导数 $\partial_if(a)$ 线性地逼近了。我们可以用小o符号将其表达为$$f(a_1, \ldots, a_i+h, \ldots a_n) - f(a_1, \ldots, a_n) = \partial_if(a)(h) + o(h).$$

## 推广到拓扑向量空间

弗雷歇导数的概念可以推广到任意拓扑向量空间 $X$ 和 $Y$。令 $U$ 是 $X$ 的一个包含原点的开子集，而映射$f: U \to Y$ 满足 $f(0) = 0$，我们将先定义“该映射的导数为 0 意味着什么”。如果：对于每个 0 的开邻域 $W \subseteq Y$，存在一个 0 的开邻域 $V\subseteq X$ 和一个函数 $o: \R \to \R$ 使得$$\lim_{t\to 0} \frac{o(t)}{t} = 0,$$且对于原点的某个邻域内的所有 $t$ 都有 $f(tV) \subseteq o(t) W$，那么称 $f$ 与 0 相切。

现在可以除去 $f(0)=0$ 这个限定了。$f$ 在一点 $x_0 \in U$ 弗雷歇可微，若：存在连续线性算子 $\lambda : X \to Y$ 使得映射 $h\mapsto f(x_0 + h) - f(x_0) - \lambda h$ 与 0 相切。(Lang p. 6)

如果弗雷歇导数存在，那么它就唯一。此外，加托导数也必然存在且等于弗雷歇导数，也就是说$$\forall v \in X,\quad\lim_{\tau \to 0}\frac{f(x_0 + \tau v) - f(x_0)}{\tau} = f'(x_0) v,$$其中 $f'(x_0)$ 是弗雷歇导数。在一点处弗雷歇可微的函数必然在该点连续，并且弗雷歇可微函数之和或其标量倍数也是可微的，因此在一点处弗雷歇可微的函数所构成的空间是在该点连续的函数的子空间。链式法则、乘积法则仍可成立，只要：拓扑向量空间 $Y$ 也是一个代数，而其乘法是连续的。

## 外部链接

- B. A. Frigyik, S. Srivastava and M. R. Gupta, Introduction to Functional Derivatives, UWEE Tech Report 2008-0001.
- http://www.probability.net 这个网页主要是关于基本的概率和测度理论，但是有的章节在巴拿赫空间中的弗雷切导数方面写得很好（关于雅可比公式的章节），所有的结果都给出了证明。