非線形共役勾配法
以下に示す4つの公式が βn の算出方法として有名である。それぞれ、名前は開発者の名に因む。
Fletcher–Reeves:
β n F R = Δ x n T Δ x n Δ x n − 1 T Δ x n − 1 . {\displaystyle \beta _{n}^{FR}={\frac {\Delta x_{n}^{T}\Delta x_{n}}{\Delta x_{n-1}^{T}\Delta x_{n-1}}}.}
Polak–Ribière:
β n P R = Δ x n T ( Δ x n − Δ x n − 1 ) Δ x n − 1 T Δ x n − 1 . {\displaystyle \beta _{n}^{PR}={\frac {\Delta x_{n}^{T}(\Delta x_{n}-\Delta x_{n-1})}{\Delta x_{n-1}^{T}\Delta x_{n-1}}}.}
Hestenes-Stiefel:
β n H S = − Δ x n T ( Δ x n − Δ x n − 1 ) s n − 1 T ( Δ x n − Δ x n − 1 ) . {\displaystyle \beta _{n}^{HS}=-{\frac {\Delta x_{n}^{T}(\Delta x_{n}-\Delta x_{n-1})}{s_{n-1}^{T}(\Delta x_{n}-\Delta x_{n-1})}}.