最優控制理論是數學最最佳化中的分支，要找到動力系統在特定一段時間的控制，可以使特定的損失函式最佳化。最佳控制在科學、工程及作業研究上都有很多應用，例如其控制的系統可能是航天器，控制為其動力來源的火箭推進器，目標是在消耗最小燃料的情形下登陸月球，其系統也可能是國家的經濟，目標是使失業降到最低，控制是財政政策及貨幣政策。系統也可以是作業研究的運籌學，以最佳控制的框架來進行研究。 最優控制理論是變分法的推廣，著重於研究使控制系統的指標達到最最佳化的條件和方法。這門學科的開創性工作主要是由 1950 年代前蘇聯的列夫龐特里亞金和美國的理查德貝爾曼所完成，這些是以所發展的變分法為其基礎。最優控制可以視為是控制理論中的一種控制策略。 通用方法 最佳控制是要找到一系統的控制律，以滿足特定的最佳化準則。控制問題會包括費用泛函（cost functional），是狀態以及控制變數的泛函。 最佳控制要將費用泛函最小化，會表示成一組描述控制變數路徑的微分方程。最佳控制可以用龐特里亞金最大化原理推導（這是必要條件），或是求解哈密頓 雅可比 貝爾曼方程（充分條件）。 以一個簡單的例子來說明。考慮一部車開在山區的直線道路上。問題是，駕駛需如何駕駛才能最快到目的地？此例中的「控制律」是指控制油門、換檔或是剎車的方式。「系統」包括車輛以及道路，「最佳化準則」是指使駕駛時間最短。控制問題中一般也會有輔助的限制條件，例如車輛的油量有其限制、油門可提供的加速度及車速也都有限制。適當的費用函式會是數學表示式，將駕駛時間表示為速度、道路條件以及系統初始條件的函式。 另一個相關的最佳化問題是在車輛在一定時間抵達目標的前提下，讓油耗降到最低。 更通用的最佳控制問題架構如下：最小化以下的連續時間費用泛函 J textbf xcdot textbf ucdot t_0 t_f Etextbf xt_0t_0textbf xt_ft_f intlimits_t_0t_f Ftextbf xttextbf utt operatorname d t 需符合以下的一階動態限制（狀態方程） dot textbf xt textbf ftextbf xttextbf utt 幾何的「路徑限制」 textbf htextbf xttextbf utt leq textbf 0 以及終點條件 textbf etextbf xt_0t_0textbf xt_ft_f 0 其中 textbf xt 是狀態，textbf ut 是控制，t 是自變數（一般來說，是時間），t_0 是初始時間，t_f 是結束時間。E 和 F 稱為「結束點成本」及「執行成本」。在變分法中，E 和 F 會稱為 Mayer 項以及拉格朗日乘數。其中的路徑限制多半是不等式的限制，在最佳解時，該限制不等式多半不會在恰好為零的情形。以上的最佳控制問題也可能有多個解（其解不唯一），此時的解會稱為是「區域性最小化」。 LQ 控制器 在通用的最佳控制問題中，有一種特殊的問題是線性二次（linear quadratic LQ）最佳控制問題，其解稱為 LQR 控制器。LQ 問題可以表示為，將以下二次形式的連續時間費用泛函最小化 Jtfrac 12 mathbf xmathsf Tt_fmathbf S_fmathbf xt_f tfrac 12 int_t_0limitst_f mathbf xmathsf Ttmathbf Qtmathbf xt mathbf umathsf Ttmathbf Rtmathbf ut operatorname d t 需符合以下的線性一階動態限制 dot mathbf xtmathbf At mathbf xt mathbf Bt mathbf ut 以及初始條件 mathbf xt_0 mathbf x_0 在 LQ 問題中，有一種特殊型式的問題稱為 LQR 控制器，是指其中所有的矩陣（mathbf A、mathbf B、mathbf Q 及 mathbf R）都是常數，其初始時間為 0，其結束時間設定為 t_frightarrowinfty（最後一個假設稱為是無限時間長度）。LQR 控制器如下，要針對無限時間的二次連續時間成本泛函進行最小化 Jtfrac 12 intlimits_0inftymathbf xmathsf Ttmathbf Qmathbf xt mathbf umathsf Ttmathbf Rmathbf ut operatorname d t 其限制條件是要滿足以下的線性非時變一階動態方程式 dot mathbf xtmathbf A mathbf xt mathbf B mathbf ut 以及初始條件 mathbf xt_0 mathbf x_0 若是有限時間的例子，矩陣會有額外的限制，mathbf Q 及 mathbf R 需分別是半正定矩陣及正定矩陣。無限時間的情形下，矩陣無此限制，但需要常數矩陣。有關有限時間下，矩陣的額外限制 mathbf Q and mathbf R 可以確保成本泛函仍為正。而且，為了要確保成本泛函有界，會有一個額外條件，會要求系統 mathbf Amathbf B 有可控制性。LQ 或是 LQR 的成本泛函都可以視為是最小化「控制能量」（以二次式表示）的手段。 無限時間的問題（LQR 問題）限制太多，而且假設系統運作在零狀態，因此也會使系統輸出維持在零狀態，在本質上用處不大。不過若要求解使系統運作在非零輸出準位下的問題，可以先求解零輸出準位的問題，再以此為基礎求解。實際上，可以證明非零輸出準位的問題可以用以下的直接方式求解。在經典最佳控制理論中可以證明 LQ（或 LQR）最佳控制可以表示為以下的回授型式 mathbf utmathbf Ktmathbf xt 其中 mathbf Kt 是適當維度的矩陣，定義如下 mathbf Ktmathbf R1mathbf Bmathsf Tmathbf St 且 mathbf St 是微分 Riccati 方程的解，微分 Riccati 方程如下： dot mathbf St mathbf Stmathbf Amathbf Amathsf Tmathbf Stmathbf Stmathbf Bmathbf R1mathbf Bmathsf Tmathbf Stmathbf Q 在有限時間的 LQ 問題中，Riccati 方程會用終端邊界條件，以逆轉時間的方式積分 mathbf St_f mathbf S_f 在無限時間的 LQR 問題中，微分 Riccati 方程會變成以下的代數 Riccati 方程（algebraic Riccati equation，ARE）： mathbf 0 mathbf Smathbf Amathbf Amathsf Tmathbf Smathbf Smathbf Bmathbf R1mathbf Bmathsf Tmathbf Smathbf Q 由於代數 Riccati 方程是由無限時間的 LQR 問題產生的，矩陣 mathbf A、mathbf B、mathbf Q 及 mathbf R 都是常數。代數 Riccati 方程一般會有很多個解，要用正定（或半正定）的解去計算回授增益。LQ（LQR）問題後來是由魯道夫卡爾曼所解 Kalman Rudolf A new approach to linear filtering and prediction problems Transactions of the ASME Journal of Basic Engineering 823445 1960。 最佳控制的數值方法 最優控制問題多半是非線性的，一般而言沒有解析解（例如 LQ 最佳控制問題）。因此，需要用數值方法來求解最佳控制問題。在最佳控制的初期（約 1950 年代到 1980 年代），常用來求解最佳控制問題的方式是「間接法」（indirect methods）。間接法會用變分法來求得一階的最佳化條件。條件會形成二點（或是複雜的問題，可能會是三點）的邊值問題。邊值問題有一種特殊的結構，因為是計算其哈密頓量微分而得的。因此，所得的動力系統是以下形式的哈密頓系統 begin arraylcl dot textbf x partial Hpartialboldsymbol lambda dot boldsymbol lambda partial Hpartialtextbf x end array 其中 HF boldsymbol lambdamathsf Ttextbf fboldsymbol mumathsf Ttextbf h 是間接法的擴增哈密頓量（augmented Hamiltonian），在間接法中，用適當的邊值條件或橫截條件（ransversality conditions）可以求解邊值問題。其優點是可以求解狀態以及 adjoint 變數（boldsymbol lambda），所得的解是極值軌跡，很容易驗證。缺點是所得的邊值問題多半不容易求解（特別是大時間範圍或是有內在點限制條件的問題）。像 BNDSCO 就是用間接法求解的著名軟體 Oberle H J and Grimm W BNDSCOA Program for the Numerical Solution of Optimal Control Problems Institute for Flight Systems Dynamics DLR Oberpfaffenhofen 1989。 在 1980 年代之後，有另外一種數值求解最佳控制的方式，稱為直接法（direct methods）。在直接法中，會用適當的函式來近似狀態或是控制（也有可能兩者都有），近似用的函式可能是多項式近似或是片段常數的引數化近似。同時也會用費用函式來近似費用泛函。函式近似的係數視為是最佳化的變數，最佳控制問題則變成以下的非線性最佳化問題： 最小化 F mathbf z 在以下的代數限制式下 begin arraylcl mathbf gmathbf z mathbf 0 mathbf hmathbf z leq mathbf 0 end array 依使用的直接法不同，非線性最佳化問題的大小可能會很小（例如用直接射擊法或擬線性化方法），中等大小（例如用擬譜最佳控制），也有可能會非常大（例如用直接）。若是用直接搭配方法，非線性最佳化問題的變數及限制會從上千個到上萬個不等。由於許多非線性規劃（NLP）的大小是由直接法產生的，以直覺來看，直接求解一些非線性最佳化問題會比求解邊界值問題要簡單。不過，NLP 的求解比求解邊界值問題要簡單。計算比較簡單的原因（特別是用直接搭配方法）是產生的 NLP 比較稀疏，而且已有許多著名的程式可以求解大型稀疏的 NLP 問題（例如 Gill P E Murray W M and Saunders M A Users Manual for SNOPT Version 7 Software for LargeScale Nonlinear Programming University of California San Diego Report 24 April 2007）。因此，用直接法可以求解問題的範圍（特別是近來很流行的直接搭配方法）比用間接法可以求解的問題範圍要大很多。事實上，近來直接法非常的流行，許多人已經撰寫程式用這種方式來求解最佳控制。有許多這類程式，例如 DIRCOLvon Stryk O Users Guide for DIRCOL version 21 A Direct Collocation Method for the Numerical Solution of Optimal Control Problems Fachgebiet Simulation und Systemoptimierung SIM Technische Universität Darmstadt 2000 Version of November 1999、SOCSBetts JT and Huffman W P Sparse Optimal Control Software SOCS Boeing Information and Support Services Seattle Washington July 1997、OTIS、GESOPGath PF Well KH Trajectory Optimization Using a Combination of Direct Multiple Shooting and Collocation AIAA 20014047 AIAA Guidance Navigation and Control Conference Montréal Québec Canada 69 August 2001、DITANVasile M BernelliZazzera F Fornasari N Masarati P Design of Interplanetary and Lunar Missions Combining LowThrust and Gravity Assists Final Report of the ESAESOC Study Contract No 1412600DCS September 2002 及 PyGMOPyKEP 等 Izzo Dario PyGMO and PyKEP open source tools for massively parallel optimization in astrodynamics the case of interplanetary trajectory optimization Proceed Fifth International Conf Astrodynam Tools and Techniques ICATT 2012。近來因為 MATLAB 程式語言的盛行，MATLAB 上的最佳控制軟體也越來越曾遍。學術界開發，直接法求解最優控制的 MATLAB 軟體工具有 RIOTSRIOTS based on 、Ross I M Enhancements to the DIDO Optimal Control Toolbox arXiv 2020 httpsarxivorgabs200413112 DIRECTWilliams P Users Guide to DIRECT Version 200 Melbourne Australia 2008、FALCONmFALCONm described in Rieck M Bittner M Grüter B Diepolder J and Piprek P FALCONm User Guide Institute of Flight System Dynamics Technical University of Munich October 2019、GPOPSGPOPS described in Rao A V Benson D A Huntington G T Francolin C Darby C L and Patterson M A Users Manual for GPOPS A MATLAB Package for Dynamic Optimization Using the Gauss Pseudospectral Method University of Florida Report August 2008，產業界開發的 MATLAB 工具有 Rutquist P and Edvall M M PROPT MATLAB Optimal Control Software 1260 SE Bishop Blvd Ste E Pullman WA 99163 USA Tomlab Optimization Inc。這些軟體工具提昇學術界以及產業界的人士處理複雜最佳控制問題的能力。透過近來泛用 MATLAB 最佳化的環境（例如），要處理最佳控制問題已比早期用 C 語言或 FORTRAN 程式來處理要簡單許多。 離散時間的最佳控制 以上的例子是的系統以及最佳控制的解。最佳控制的解也可以用數位的方式來實現。當代的控制理論主要在關注離散時間的系統以及解。一致近似（Consistent Approximations）理論 E Polak On the use of consistent approximations in the solution of semiinfinite optimization and optimal control problems Math Prog 62 pp 385415 1993 可以提供在什麼情形下，可以用一連串確準度逐漸提昇的離散最佳控制問題的解來收斂到原始的連續問題的解。不是所有的離散方式都有這種特性，就算是看似有此特質的都不一定有。例如，用變動步長的程式來積分問題的動態方程，會產生一個不會收斂到 0 的梯度。直接法 RIOTS 就是以一致近似理論為基礎。 參看 貝爾曼方程 貝爾曼擬譜法 最速降線問題 動態規劃 卡爾曼濾波 LQR 控制器 模型預測控制 PID 控制器 擬譜最佳控制 對局 滑動模式控制 隨機控制 奇異控制 最小能量控制 參考資料 延伸閱讀 Ross I M 2015 A Primer on Pontryagins Principle in Optimal Control Collegiate Publishers Category 數學最佳化 Category 自動控制