训练集、验证集和测试集 机器学习的普遍任务就是从数据中学习和构建模型该过程称之为训练并且能够在将来遇到的数据上进行预测用于构建最终模型的数据集通常有多个在构建模型的不同阶段通常有三种数据集训练集验证集和测试集 首先模型在训练集英语training dataset上进行拟合对于监督式学习训练集是由用来拟合参数例如人工神经网络中神经元之间链接的权重的样本组成的集合在实践中训练集通常是由输入向量标量和输出向量标量组成的数据对其中输出向量标量被称为目标或标签在训练过程中当前模型会对训练集中的每个样本进行预测并将预测结果与目标进行比较根据比较的结果学习算法会更新模型的参数模型拟合的过程可能同时包括特征选择和参数估计 接下来拟合得到的模型会在第二个数据集验证集英语validation dataset上进行预测在对模型的超参数例如神经网络中隐藏层的神经元数量进行调整时验证集提供了对在训练集上拟合得到模型的无偏评估验证集可用于正则化中的提前停止在验证集误差上升时这是在训练集上过拟合的信号停止训练不过在实践中由于验证集误差在训练过程中会有起伏这种做法有时不奏效由此人们发明了一些规则用做判定过拟合更好的信号 最后测试集英语test dataset可被用来提供对最终模型的无偏评估若测试集在训练过程中从未用到例如没有被用在交叉验证当中则它也被称之为预留集