庞特里亚金最大化原理

庞特里亚金最大化原理（Pontryagin's maximum principle）也根据使用条件称为庞特里亚金最小化原理或最大值原理及最小值原理，是最优控制中的理论，是在状态或是输入控件有约束条件的情形下，可以找到将动力系统由一个状态到另一个状态的最优控制信号。此理论是苏俄数学家列夫·庞特里亚金及他的学生在1956年提出的。这是变分法中欧拉-拉格朗日方程的特例。

简单来说，此定理是指在所有可能的控制中，需让“控制哈密顿量”（control Hamiltonian）取极值，极值是最大值或是最小值则依问题以及哈密顿量的符号定义而不同。正式的用法，也就是哈密顿量中所使用的符号，会取到最大值，但是此条目中使用的符号定义方式，会让极值取到最小值。

若$\mathcal{U}$是所有可能控制值的集合，则此原理指出，最优控制$u^*$必须满足以下条件：

$$H(x^*(t),u^*(t),\lambda^*(t),t) \leq H(x^*(t),u,\lambda^*(t),t), \quad \forall u \in \mathcal{U}, \quad t \in [t_0, t_f]$$

其中$x^*\in C^1[t_0,t_f]$是最佳状态轨迹，而$\lambda^* \in BV[t_0,t_f]$是最佳 协态轨迹

此结果最早成功的应用在输入控制有限制条件的最小时间问题中，不过也可以用在状态有限制条件的问题中。

也可以推导控制哈密顿量的特殊条件。若最终时间$t_f$固定，且控制哈密顿量不是时间的显函数$\left(\tfrac{\partial H}{\partial t} \equiv 0\right)$，则：

$$H(x^*(t),u^*(t),\lambda^*(t)) \equiv \mathrm{constant}\,$$

若最终时间没有限制，则：

$$H(x^*(t),u^*(t),\lambda^*(t)) \equiv 0.\,$$

若在某一轨迹上满足庞特里亚金最大化原理，此原理是最佳解的必要条件。哈密顿-雅可比-贝尔曼方程 提供了最佳解的充份必要条件，但该条件须在整个状态空间中都要成立。

## 最大化和最小化

此定理一开始的名称是庞特里亚金最大化原理（Pontryagin's maximum principle），其证明也是以控制哈密顿量最大化为基础。此原理最早的应用是要最大化火箭的终端速度。不过后来此定理大部分的应用是使性能指标最小化，因此常称为庞特里亚金最小化原理。庞特里亚金的书解出了要让性能指标最小化的问题

## 符号

以下的内容会使用这些表示方式

$$\Psi_T(x(T))= \frac{\partial \Psi(x)}{\partial T}|_{x=x(T)} \,$$

$$\Psi_x(x(T))=\begin{bmatrix} \frac{\partial \Psi(x)}{\partial x_1}|_{x=x(T)} & \cdots & \frac{\partial \Psi(x)}{\partial x_n} |_{x=x(T)} \end{bmatrix}$$

$$H_x(x^*,u^*,\lambda^*,t)=\begin{bmatrix} \frac{\partial H}{\partial x_1}|_{x=x^*,u=u^*,\lambda=\lambda^*} & \cdots & \frac{\partial H}{\partial x_n}|_{x=x^*,u=u^*,\lambda=\lambda^*} \end{bmatrix}$$

$$L_x(x^*,u^*)=\begin{bmatrix} \frac{\partial L}{\partial x_1}|_{x=x^*,u=u^*} & \cdots & \frac{\partial L}{\partial x_n}|_{x=x^*,u=u^*} \end{bmatrix}$$

$$f_x(x^*,u^*)=\begin{bmatrix} \frac{\partial f_1}{\partial x_1}|_{x=x^*,u=u^*} & \cdots & \frac{\partial f_1}{\partial x_n}|_{x=x^*,u=u^*} \\ \vdots & \ddots & \vdots \\ \frac{\partial f_n}{\partial x_1}|_{x=x^*,u=u^*} & \ldots & \frac{\partial f_n}{\partial x_n}|_{x=x^*,u=u^*} \end{bmatrix}$$

## 最小化问题必要条件的正式叙述

以下是让泛函最小化的必要条件。令$x$为在输入为$u$时，动态系统的状态，且满足以下条件

$$\dot{x}=f(x,u), \quad x(0)=x_0, \quad u(t) \in \mathcal{U}, \quad t \in [0,T]$$

其中

$\mathcal{U}$为可行控制的集合

$T$为系统的结束时间。

控制$u \in \mathcal{U}$需在所有$t \in [0,T]$内使目标泛函$J$最小化，目标泛函$J$随应用而定，可以写成

$$J=\Psi(x(T))+\int^T_0 L(x(t),u(t)) \,dt$$

系统动态的限制可以用导入时变拉格朗日乘数向量$\lambda$的方式和$L$相加，而拉格朗日乘数向量$\lambda$的元素称为系统的协态（costate）。因此可以建构在所有 $t \in [0,T]$的哈密顿量为：

$$H(x(t),u(t),\lambda(t),t)=\lambda^{\rm T}(t)f(x(t),u(t))+L(x(t),u(t)) \,$$

其中$\lambda^{\rm T}$是$\lambda$的转置。

庞特里亚金最小化原理提到最佳状态轨迹$x^*$，最佳控制$u^*$及对应的拉格朗日乘数向量$\lambda^*$必需最小化哈密顿量$H$，因此

$$(1) \qquad H(x^*(t),u^*(t),\lambda^*(t),t)\leq H(x^*(t),u,\lambda^*(t),t) \,$$

针对所有$t \in [0,T]$时间，也针对所有可能的控制输入$u \in \mathcal{U}$。以下的式子也必须成立

$$(2) \qquad \Psi_T(x(T))+H(T)=0 \,$$

而且也要满足以下的协态方程

$$(3) \qquad -\dot{\lambda}^{\rm T}(t)=H_x(x^*(t),u^*(t),\lambda(t),t)=\lambda^{\rm T}(t)f_x(x^*(t),u^*(t))+L_x(x^*(t),u^*(t))$$

若最终状态$x(T)$没有固定（其微分变异不为0），最终协态也要满足以下条件

$$(4) \qquad \lambda^{\rm T}(T)=\Psi_x(x(T)) \,$$

上述(1)-(4)的条件是最佳控制的必要条件。公式(4)只有在$x(T)$没有固定时才需要成立。若$x(T)$是固定值，公式(4)不在必要条件中。

此解法可以应用在宇宙学和天体物理学中。

## 相关条目

- 巴拿赫空间下的拉格朗日乘数，变分法下中的拉格朗日法
- 奇异控制：无法利用庞特里亚金最小化原理求出完整解的最优控制问题。

## 参考资料

- Slides are available at