决策树剪枝 剪枝英語pruning是机器学习与搜索算法当中通过移除决策树中分辨能力较弱的節點而减小决策树大小的方法剪枝降低了模型的复杂度因此能够降低过拟合风险从而降低泛化误差 在决策树算法中决策树过大会有过拟合的风险从而在新样本上的泛化性能很差决策树过小则无法从样本空间中获取重要的结构化信息然而由于很难判断新增一个额外的分裂结点能否显著降低误差人们很难判断何时停止决策树的生长是恰当的该问题被称为视界限制效应英语Horizoneffect一个通用的策略是让决策树一直生长直到每个叶子结点都包含足够少量的样本而后通过剪枝的方法移除分辨能力较弱的结点 剪枝過程应当在减小决策树大小的同时保证交叉验证下的精度不降低