卡鲁什-库恩-塔克条件

在數學中，卡鲁什-库恩-塔克条件（英語：Karush-Kuhn-Tucker Conditions，常見別名：Kuhn-Tucker，KKT條件，Karush-Kuhn-Tucker最優化條件，Karush-Kuhn-Tucker條件，Kuhn-Tucker最優化條件，Kuhn-Tucker條件）是在满足一些有规则的条件下，一個非線性規劃問題能有最優化解法的一個必要條件。這是一個使用广义拉格朗日函数的结果。 考慮以下非線式最優化問題： min x f ( x ) {\displaystyle \min \limits _{x}\;\;f(x)} Subject to:    {\displaystyle {\mbox{Subject to: }}\ } g i ( x ) ≤ 0 , h j ( x ) = 0 {\displaystyle g_{i}(x)\leq 0,h_{j}(x)=0} f ( x ) {\displaystyle f(x)} 是需要最小化的函數， g i ( x )   ( i = 1 , … , m ) {\displaystyle g_{i}(x)\ (i=1,\ldots ,m)} 是不等式約束， h j ( x )   ( j = 1 , … , l ) {\displaystyle h_{j}(x)\ (j=1,\ldots ,l)} 是等式約束， m {\displaystyle m} 和 l {\displaystyle l} 分別為不等式約束和等式約束的數量。 不等式約束問題的必要和充分條件初見於威廉·卡鲁什的硕士論文，之後在一份由哈羅德·W·庫恩及阿爾伯特·W·塔克撰寫的研究生論文出現後受到重視。 假設有目標函數，即是要被最小化的函數 f : R n → R {\displaystyle f:\mathbb {R} ^{n}\rightarrow \mathbb {R} } ，約束函數 g i : R n → R {\displaystyle g_{i}:\,\!\mathbb {R} ^{n}\rightarrow \mathbb {R} } 及 h j : R n → R {\displaystyle h_{j}:\,\!\mathbb {R} ^{n}\rightarrow \mathbb {R} } 。再者，假設他們都是於 x ∗ {\displaystyle x^{*}} 這點是连续可微的，如果 x ∗ {\displaystyle x^{*}} 是一局部极小值，那麼將會存在一组所谓乘子的常数 λ ≥ 0 {\displaystyle \lambda \geq 0} , μ i ≥ 0   ( i = 1 , … , m ) {\displaystyle \mu _{i}\geq 0\ (i=1,\ldots ,m)} 及 ν j   ( j = 1 , . . . , l ) {\displaystyle \nu _{j}\ (j=1,...,l)} 令到 λ + ∑ i = 1 m μ i + ∑ j = 1 l | ν j | > 0 , {\displaystyle \lambda +\sum _{i=1}^{m}\mu _{i}+\sum _{j=1}^{l}|\nu _{j}|>0,} λ ∇ f ( x ∗ ) + ∑ i = 1 m μ i ∇ g i ( x ∗ ) + ∑ j = 1 l ν j ∇ h j ( x ∗ ) = 0 , {\displaystyle \lambda \nabla f(x^{*})+\sum _{i=1}^{m}\mu _{i}\nabla g_{i}(x^{*})+\sum _{j=1}^{l}\nu _{j}\nabla h_{j}(x^{*})=0,} μ i g i ( x ∗ ) = 0 for all i = 1 , … , m {\displaystyle \mu _{i}g_{i}(x^{*})=0\;{\mbox{for all}}\;i=1,\ldots ,m} 。 於上述必要和充分條件中，dual multiplier λ {\displaystyle \lambda } 可能是零。當 λ {\displaystyle \lambda } 是零時，這個情況就是退化的或反常的。因此必要和充分條件會將約束的幾何特性而不是將函數自身的特點納入計算。 有一定數量的正則性條件能保證解法不是退化的（即 λ ≠ 0 {\displaystyle \lambda \neq 0} ），它們包括： 線性獨立約束規範（Linear independence constraint qualification，LICQ）：有效不等式約束的梯度和等式約束的梯度於 x ∗ {\displaystyle x^{*}} 線性獨立。 Mangasarian-Fromowitz約束規範（Mangasarian-Fromowitz constraint qualification，MFCQ）：有效不等式約束的梯度和等式約束的梯度於 x ∗ {\displaystyle x^{*}} 正線性獨立。 常秩約束規範（Constant rank constraint qualification、CRCQ）：考慮每個有效不等式約束的梯度子集和等式約束的梯度，於 x ∗ {\displaystyle x^{*}} 的鄰近區域的秩（rank）不變。 常正線性依賴約束規範（Constant positive linear dependence constraint qualification，CPLD）：考慮每個有效不等式約束的梯度子集和等式約束的梯度，如果它們於 x ∗ {\displaystyle x^{*}} 是正線性依賴，那麼它們於 x ∗ {\displaystyle x^{*}} 的鄰近區域也是正線性依賴。（如果存在 a 1 ≥ 0 , … , a n ≥ 0 {\displaystyle a_{1}\geq 0,\ldots ,a_{n}\geq 0} not all zero令到 a 1 v 1 + … + a n v n = 0 {\displaystyle a_{1}v_{1}+\ldots +a_{n}v_{n}=0} ，那麼 { v 1 , … , v n } {\displaystyle \{v_{1},\ldots ,v_{n}\}} 是正線性依賴） 斯萊特條件（Slater condition）：如果問題只包含不等式約束，那麼有一點 x {\displaystyle x} 令到 g i ( x ) < 0 {\displaystyle g_{i}(x)<0} for all i = 1 , … , m {\displaystyle i=1,\ldots ,m} 雖然MFCQ不等同於CRCQ，但可證出LICQ⇒MFCQ⇒CPLD，LICQ⇒CRCQ⇒CPLD。於實際情況下，較弱的約束規範會被傾向使用，這是因為較弱的約束規範能提供較強的最優化條件。 假設目標函數 f : R n → R {\displaystyle f:\mathbb {R} ^{n}\rightarrow \mathbb {R} } 及約束函數 g i : R n → R {\displaystyle g_{i}:\mathbb {R} ^{n}\rightarrow \mathbb {R} } 皆為 凸函數，而 h j : R n → R {\displaystyle h_{j}:\mathbb {R} ^{n}\rightarrow \mathbb {R} } 是一仿射函數，假設有一可行點 x ∗ {\displaystyle x^{*}} ，如果有常數 μ i ≥ 0   ( i = 1 , … , m ) {\displaystyle \mu _{i}\geq 0\ (i=1,\ldots ,m)} 及 ν j   ( j = 1 , … , l ) {\displaystyle \nu _{j}\ (j=1,\ldots ,l)} 令到 ∇ f ( x ∗ ) + ∑ i = 1 m μ i ∇ g i ( x ∗ ) + ∑ j = 1 l ν j ∇ h j ( x ∗ ) = 0 {\displaystyle \nabla f(x^{*})+\sum _{i=1}^{m}\mu _{i}\nabla g_{i}(x^{*})+\sum _{j=1}^{l}\nu _{j}\nabla h_{j}(x^{*})=0} μ i g i ( x ∗ ) = 0 for all i = 1 , … , m , {\displaystyle \mu _{i}g_{i}(x^{*})=0\;{\mbox{for all}}\;i=1,\ldots ,m,} 那麼 x ∗ {\displaystyle x^{*}} 這點是一全局极小值。 W. Karush. Minima of Functions of Several Variables with Inequalities as Side Constraints. M.Sc. Dissertation. Dept. of Mathematics, Univ. of Chicago, Chicago, Illinois. 1939. .此論文可於以下網址得到：http://wwwlib.umi.com/dxweb/details?doc_no=7371591[失效連結] (需付費) Kuhn, H. W.; Tucker, A. W. Nonlinear programming. Proceedings of 2nd Berkeley Symposium. Berkeley: University of California Press: 481–492. 1951.  引文使用过时参数coauthors (帮助) Avriel, Mordecai (2003). Nonlinear Programming: Analysis and Methods. Dover Publishing. ISBN 0-486-43227-0. R. Andreani, J. M. Martínez, M. L. Schuverdt, On the relation between constant positive linear dependence condition and quasinormality constraint qualification. Journal of optimization theory and applications, vol. 125, no2, pp. 473-485 (2005).