DFP法
Davidon–Fletcher–Powell法またはDFP法とは、あるセカント方程式を満たす解のうち、現在の推定値に最も近く、曲率条件を満たす解を与える式(DFP公式)を用いる準ニュートン法である。名称はWilliam C. Davidon、Roger Fletcher、Michael JD Powellに因む。セカント法を多次元問題に一般化したものであり、準ニュートン法としては初めての解法だった。この公式によりヘッセ行列を更新すれば、対称性と正定性が保証される。
所与の関数 f ( x ) {\displaystyle f(x)} のテイラー展開は、その勾配( ∇ f {\displaystyle \nabla f} )、正定値ヘッセ行列 B {\displaystyle B} 、を用いて以下のように書ける。
f ( x k + s k ) = f ( x k ) + ∇ f ( x k ) T s k + 1 2 s k T B s k + ... , {\displaystyle f(x_{k}+s_{k})=f(x_{k})+\nabla f(x_{k})^{T}s_{k}+{\frac {1}{2}}s_{k}^{T}{B}s_{k}+\dots ,}
また、勾配自体のテイラー展開(セカント方程式)は以下のように書ける。