ラグランジュの未定乗数法
n 次元空間の点 x = (x1, ..., xn) のある領域 R を定義域とする被評価関数 z = f(x) が、同じ領域を定義域とする m 次元ベクトル値関数
G ( x ) = ( g 1 ( x 1 , ... , x n ) ⋮ g m ( x 1 , ... , x n ) ) = 0 ( 1 ) {\displaystyle {\boldsymbol {G}}({\boldsymbol {x}})={\begin{pmatrix}g_{1}(x_{1},\dots ,x_{n})\\\vdots \\g_{m}(x_{1},\dots ,x_{n})\end{pmatrix}}={\boldsymbol {0}}\qquad (1)}
の下で、R 内の点 x において極値をとるための必要条件は、その点における f の勾配ベクトル
∇ f = t ( ∂ f ∂ x 1 , ... , ∂ f ∂ x n ) {\displaystyle \nabla f={}^{t}{\begin{pmatrix}{\dfrac {\partial f}{\partial x_{1}}},\dots ,{\dfrac {\partial f}{\partial x_{n}}}\end{pmatrix}}}
∇ x , y f = ( ∂ f ∂ x , ∂ f ∂ y ) , ∇ x , y g = ( ∂ g ∂ x , ∂ g ∂ y ) {\displaystyle \nabla _{x,y}f=\left({\frac {\partial f}{\partial x}},{\frac {\partial f}{\partial y}}\right),\qquad \nabla _{x,y}g=\left({\frac {\partial g}{\partial x}},{\frac {\partial g}{\partial y}}\right)}
である。定数 λ は f の勾配ベクトルと g の勾配ベクトルが平行ではあるが長さが一般に異なるために必要である。λ = 0 の場合、f (x, y) の勾配がゼロとなる条件になる。これは g (x, y) = c の曲線上にちょうど f の最大値があるため、曲線上で f (x,y ) が最大を取る点と通常の f (x, y ) の最大値が一致する場合である。
前述の式を変形すると
∇ x , y ( f − λ g ) = 0 {\displaystyle \nabla _{x,y}(f-\lambda g)=0}
となることから、f − λ g の極値を求めればいいことになる。