化，它包括如下修改更新规则： 哪里参数 formula_75被称为“学习率”。 根据经验发现，使用较小的学习率 （例如formula_76 ）在不缩小（而不缩小）的情况下，极大地提高了模型的泛化能力formula_77 ）。 然而，这是以在训练和查询期间增加计算时间为代价的：较低的学习率需要更多的迭代。 
随机梯度增强.引入梯度增强后不久，Friedman在Breiman的bootstrap聚合 （“装袋”）方法的启发下 ，对该算法进行了较小的修改。 具体来说，他提出在算法