与线性回归相比，可能存在要优化的函数的许多局部最小值 ，甚至全局最小值也可能产生偏差估计。 在实践中，结合优化算法使用参数的估计值来尝试找到平方和的全局最小值。 
回归统计.这个过程的基本假设是模型可以用线性函数近似，即一阶泰勒级数： 其中formula_5 ,由此得出最小二乘估计量由下式给出 .计算非线性回归统计量并将其用作线性回归统计量，但在公式中使用J代替X. 线性近似将偏差引入统计中。 因此，在解释从非线性模型得到的统计数据时，需要比平常更多的谨慎。Sect