前解陷入一个鞍点的情况, 这时的Hessian矩阵是对称不定的; 此时则要使用其他方法, 例如Cholesky分解的formula_64变形或共轭梯度法等的方法, 来叠代得出formula_65.此外, 为规避求Hessian矩阵的繁琐, 也存在多种拟牛顿法, 通过调整梯度以求出Hessian矩阵的近似. 如果Hessian矩阵formula_47接近一个奇异矩阵, 则其逆矩阵会变得数值不稳定且叠代不会收敛. 此种情形下, 前人探索出了很多成功的方法来解决问题. 目标之一是通过引入修正矩阵formula