勾配ブースティングが導入後されて間もない頃、フリードマンは、ブレイマンのブートストラップ・アグリゲーション(バギング)法を参考にして、アルゴリズムのマイナーチェンジを提案した。