梯度提升（梯度增强）是一种用于回归和分类问题的机器学习技术，其产生的预测模型是弱预测模型的集成，如采用典型的决策树 作为弱预测模型，这时则为梯度提升树（GBT或GBDT）。像其他提升方法一样，它以分阶段的方式构建模型，但它通过允许对任意可微分损失函数进行优化作为对一般提升方法的推广。 梯度提升的思想源自Leo Breiman的一个观察：即可以将提升方法解释为针对适当成本函数的优化算法。 显式回归梯度增强算法随后由Jerome H. Friedman 给出，同时Llew Mason，Jonathan Ba