最优化，是应用数学的一个分支。主要研究在特定情况下最大化或最小化某一特定函数或变量。
数学表述.主要研究以下形式的问题：这类定式有时还称为“数学规划”（譬如，线性规划）。许多现实和理论问题都可以建模成这样的一般性框架。典型的，formula_3一般为欧几里得空间formula_8中的子集，通常由一个formula_3必须满足的约束等式或者不等式来规定。formula_3的元素被称为是可行解。函数formula_11被称为目标函数，或者代价函数。一个最小化（或者最大化）目标