注意到formula_53通常是介于formula_54之间的数，formula_44-正则项会使得参数接近零，从而对抗过拟合。formula_44-正则项又称Tikhonov-正则项或Ringe-正则项。
提前停止.提前停止可看做是时间维度上的正则化。直觉上，随着迭代次数的增加，如梯度下降这样的训练算法倾向于学习愈加复杂的模型。在实践维度上进行正则化有助于控制模型复杂度，提升泛化能力。在实践中，提前停止一般是在训练集上进行训练，而后在统计上独立的验证集上进行评估；当模型在