應用於最優化的牛頓法 牛頓法是微積分學中 通過疊代以求解可微函數 f displaystyle f 的零點的一種算法 即求 x displaystyle x 使得 f  x    displaystyle fx  而在最佳化中 牛頓法通常被運用於求解一個二次可微函數 f displaystyle f 的一階導數 f  displaystyle fprime  的零點 即求 x displaystyle x 使得 f   x    displaystyle fprime x  同時也是 f displaystyle f 的駐點 因此從另一個角度而言應用於最佳化的牛頓法是搜索函數 f  x  displaystyle fx 的最小值或最大值的一種算法 一維問題的牛頓法主要步驟如下 取一個點 x  displaystyle x 為初值 依如下公式疊代 x n    x n  f   x n  f    x n   displaystyle xnxnfrac fprime xnfprime prime xn 直至滿足一定條件 如 f   x n    displaystyle fprime xn 或 x n    x n  ε displaystyle xnxnvarepsilon   其中 ε displaystyle varepsilon  為一個給定的足夠小的常數 後 算法終止