随机森林

把随机树的聚合构建为随机森林的原理示意图。
在机器学习中，随机森林是一个包含多个决策树的分类器，并且其输出的类别是由个别树输出的类别的众数而定。
这个术语是1995年由贝尔实验室的Tin Kam Ho所提出的随机决策森林（random decision forests）而来的。
然后Leo Breiman和Adele Cutler发展出推论出随机森林的演算法。而"Random Forests"是他们的商标。
这个方法则是结合Breimans的"Bootstrap aggregating"想法和Ho的"random subspace method"以建造决策树的集合。

**历史**
随机森林的引入最初是由华裔美国人Tin Kam Ho于1995年先提出的。然后随机森林由Leo Breiman于2001年在一篇论文中提出的。这篇文章描述了一种结合随机节点优化和bagging，利用类CART过程构建不相关树的森林的方法。此外，本文还结合了一些已知的、新颖的、构成了现代随机森林实践的基础成分，特别是
# 使用out-of-bag误差来代替泛化误差
# 通过排列度量变量的重要性

**算法**

**预备：决策树学习**
决策树是机器学习的常用方法。 Hastie等说：“树学习是如今最能满足于数据挖掘的方法，因为它在特征值的缩放和其他各种转换下保持不变，对无关特征是稳健的，而且能生成可被检查的模型。然而，它通常并不准确。”
特别的，生长很深的树容易学习到高度不规则的模式，即过学习，在训练集上具有低偏差和高变异数的特点。随机森林是平均多个深决策树以降低变异数的一种方法，其中，决策树是在一个数据集上的不同部分进行训练的。这是以偏差的小幅增加和一些可解释性的丧失为代价的，但是在最终的模型中通常会大大提高性能。

**Bagging**
随机森林训练算法把bagging的一般技术应用到树学习中。给定训练集和目标，bagging方法重复（次）从训练集中有放回地采样，然后在这些样本上训练树模型：
 For b = 1, ..., B:
# Sample, with replacement, n training examples from X, Y; call these Xb, Yb.
# Train a classification or regression tree fb on Xb, Yb.
在训练结束之后，对未知样本x的预测可以通过对x上所有单个回归树的预测求平均来实现：

或者在分类任务中选择多数投票的类别。
这种bagging方法在不增加偏置的情况下降低了方差，从而带来了更好的性能。这意味着，即使单个树模型的预测对训练集的噪声非常敏感，但对于多个树模型，只要这些树并不相关，这种情况就不会出现。简单地在同一个数据集上训练多个树模型会产生强相关的树模型（甚至是完全相同的树模型）。Bootstrap抽样是一种通过产生不同训练集从而降低树模型之间关联性的方法。
此外，x'上所有单个回归树的预测的标准差可以作为预测的不确定性的估计：

样本或者树的数量B是一个自由参数。通常使用几百到几千棵树，这取决于训练集的大小和性质。使用交叉验证，或者透过观察out-of-bag误差（那些不包含xᵢ的抽样集合在样本xᵢ的平均预测误差），可以找到最优的B值。当一些树训练到一定程度之后，训练集和测试集的误差开始趋于平稳。

**从 bagging 到随机森林**
上面的过程描述了树的原始的 bagging 算法。随机森林与这个通用的方案只有一点不同:它使用一种改进的学习算法，在学习过程中的每次候选分裂中选择特征的随机子集。这个过程有时又被称为“特征 bagging”。这样做的原因是 bootstrap 抽样导致的树的相关性：如果有一些特征预测目标值的能力很强，那幺这些特征就会被许多树所选择，这样就会导致树的强相关性。Tin Kam Ho分析了不同条件下 bagging 和随机子空间投影对精度提高的影响。
典型地，对于一个包含 p 个特征的分类问题，可以在每次划分时使用  个特征592。对于回归问题，作者推荐 p/3 但不少于 5 个特征592。

**极限树**
再加上一个随机化步骤，就会得到极限随机树（extremely randomized trees），即极限树。与普通的随机森林相同，他们都是单个树的集成，但也有不同：首先，每棵树都使用整个学习样本进行了训练，其次，自上而下的划分是随机的。它并不计算每个特征的最优划分点（例如，基于信息熵或者基尼不纯度），而是随机选择划分点。该值是从特征经验范围内均匀随机选取的。在所有随机的划分点中，选择其中分数最高的作为结点的划分点。与普通的随机森林相似，可以指定每个节点要选择的特征的个数。该参数的默认值，对于分类问题，是，对于回归问题，是，其中 是模型的特征个数。

**性质**

**特征的重要性**
随机森林天然可用来对回归或分类问题中变量的重要性进行排序。下面的技术来自Breiman的论文，R语言包randomForest包含它的实现。
度量数据集 的特征重要性的第一步是，使用训练集训练一个随机森林模型。在训练过程中记录下每个数据点的out-of-bag误差，然后在整个森林上进行平均。
为了度量第个特征的重要性，第个特征的值在训练数据中被打乱，并重新计算打乱后的数据的out-of-bag误差。则第个特征的重要性分数可以通过计算打乱前后的out-of-bag误差的差值的平均来得到，这个分数通过计算这些差值的标准差进行标准化。
产生更大分数的特征比小分数的特征更重要。这种特征重要性的度量方法的统计定义由Zhu et al.给出。
这种度量方法也有一些缺陷。对于包含不同取值个数的类别特征，随机森林更偏向于那些取值个数较多的特征，partial permutations、growing unbiased trees可以用来解决这个问题。如果数据包含一些相互关联的特征组，那幺更小的组更容易被选择。

**与最近邻算法的关系**
Lin和Jeon在2002年指出了随机森林算法和K-近邻算法(k-NN)的关系。 事实证明，这两种算法都可以被看作是所谓的“加权邻居的方案”。这些在数据集上训练的模型通过查看一个点的邻居来计算一个新点x'的预测值，并且使用权重函数W对这些邻居进行加权:

其中， 是第i个点在同一棵树中相对于新的数据点x'的非负权重。对于任一特定的点x'，的权重的和必须为1。权重函数设定如下：- 对于k-NN算法，如果xi是距离x'最近的k个点之一，则，否则为0。- 对于树，如果xi与x'属于同一个包含k'个点的叶结点，则，否则为0。
因为森林平均了m棵树的预测，且这些树具有独立的权重函数，故森林的预测值是：

上式表明了整个森林也采用了加权的邻居方案，其中的权重是各个树的平均。在这里，x'的邻居是那些在任一树中属于同一个叶节点的点。只要与x'在某棵树中属于同一个叶节点，就是x'的邻居。

**基于随机森林的非监督学习**
作为构建的一部分，随机森林预测器自然会导致观测值之间的不相似性度量。还可以定义未标记数据之间的随机森林差异度量：其思想是构造一个随机森林预测器，将“观测”数据与适当生成的合成数据区分开来。 观察到的数据是原始的未标记数据，合成数据是从参考分布中提取的。随机森林的不相似性度量之所以吸引人，是因为它能很好地处理混合变量类型，对输入变量的单调变换是不敏感的，而且在存在异常值的情况下度量结果依然可靠。由于其固有变量的选择，随机森林不相似性很容易处理大量的半连续变量。

**学习演算法**
根据下列演算法而建造每棵树：
# 用来表示训练用例（样本）的个数，表示特征数目。
# 输入特征数目，用于确定决策树上一个节点的决策结果；其中应远小于。
# 从个训练用例（样本）中以有放回抽样的方式，取样次，形成一个训练集（即bootstrap取样），并用未抽到的用例（样本）作预测，评估其误差。
# 对于每一个节点，随机选择个特征，决策树上每个节点的决定都是基于这些特征确定的。根据这个特征，计算其最佳的分裂方式。
# 每棵树都会完整成长而不会剪枝（Pruning，这有可能在建完一棵正常树状分类器后会被采用）。

**优点**
随机森林的优点有：- 对于很多种资料，它可以产生高准确度的分类器。- 它可以处理大量的输入变数。- 它可以在决定类别时，评估变数的重要性。- 在建造森林时，它可以在内部对于一般化后的误差产生不偏差的估计。- 它包含一个好方法可以估计遗失的资料，并且，如果有很大一部分的资料遗失，仍可以维持准确度。- 它提供一个实验方法，可以去侦测variable interactions。- 对于不平衡的分类资料集来说，它可以平衡误差。- 它计算各例中的亲近度，对于数据挖掘、侦测离群点（outlier）和将资料视觉化非常有用。- 使用上述。它可被延伸应用在未标记的资料上，这类资料通常是使用非监督式聚类。也可侦测偏离者和观看资料。- 学习过程是很快速的。

**开源实现**
  The Original RF date=20210225115642  by Breiman and Cutler written in Fortran 77.-  ALGLIB date=20201109040906  contains a modification of the random forest in C#, C++, Pascal, VBA.-  party date=20210224192518  Implementation based on the conditional inference trees in R.-  randomForest date=20210308051225  for classification and regression in R.-  Python implementation date=20210525051515  with examples in scikit-learn.- Orange data mining suite includes random forest learner and can visualize the trained forest.-  Matlab date=20160528051034  implementation.-  SQP date=20210523083759  software uses random forest algorithm to predict the quality of survey questions, depending on formal and linguistic characteristics of the question.-  Weka RandomForest date=20181215123831  in Java library and GUI.-  ranger date=20210413221805  A C++ implementation of random forest for classification, regression, probability and survival. Includes interface for R.

**参阅**
 机器学习- 提升方法 - 机器学习方法- 决策树学习  - 机器学习算法- 集成学习 - 统计与机器学习技术- 无母数统计- 随机化算法 - 将一定程度的随机性作为其逻辑或程序的一部分的算法

**参考文献**

**外部连结**
  Ho, Tin Kam (1995). "Random Decision Forest". Proc. of the 3rd Int'l Conf. on Document Analysis and Recognition,  Montreal, Canada, August 14-18, 1995, 278-282（Preceding Work）-  Ho, Tin Kam (1998). "The Random Subspace Method for Constructing Decision Forests".  IEEE Trans. on Pattern Analysis and Machine Intelligence 20 (8), 832-844（Preceding Work）-  Deng, H; Runger, G; Tuv, Eugene (2011). Bias of importance measures for multi-valued attributes and solutions, Proceedings of the 21st International Conference on Artificial Neural Networks (ICANN2011)-  Amit, Yali and Geman, Donald (1997) "Shape quantization and recognition with randomized trees". Neural Computation 9, 1545-1588. date=20180205094828 （Preceding work）-  Breiman, Leo "Looking Inside The Black Box". Wald Lecture II（Lecture）-  Breiman, Leo (2001).  "Random Forests".  Machine Learning 45 (1), 5-32fix-attempted=yes （Original Article）-  Random Forest classifier description（Site of Leo Breiman）-  Liaw, Andy & Wiener, Matthew "Classification and Regression by randomForest" R News (2002) Vol. 2/3 p. 18 date=20210307231334 （Discussion of the use of the random forest package for R）-  Ho, Tin Kam (2002). "A Data Complexity Analysis of Comparative Advantages of Decision Forest Constructors". Pattern Analysis and Applications 5, p. 102-112 date=20071001002851 （Comparison of bagging and random subspace method）