约束目标函数是带约束问题的拉格朗日对偶再加上一个额外的惩罚项（或者称为“增广量”）。这种方法曾被人们称为乘子法。在20世纪70到80年代曾被作为惩罚函数法的替代方法被大量研究过。这类方法首次由Magnus Hestenes、Michael J. D. Powell|Powell在1969年提出。R. Tyrrell Rockafellar深入研究了其与Fenchel 对偶，尤其是与邻近点方法、Moreau–Yosida 正则化和单调算子之间的联系——这些方法被应用在结构工程领域。Dimitri Bert