当学习器去预测其未遇到过的输入的结果时，会做一些假设（Mitchell, 1980）。而学习演算法中的归纳偏置则是这些假设的集合。机器学习试图去建造一个可以学习的演算法，用来预测某个目标的结果。要达到此目的，要给于学习演算法一些训练样本，样本说明输入与输出之间的预期关系。然后假设学习器在预测中逼近正确的结果，其中包括在训练中未出现的样本。既然未知状况可以是任意的结果，若没有其它额外的假设，这任务就无法解决。这种关于目标函数的必要假设就称为"归纳偏置"（Mitchell, 1980; desJardins and Gordon, 1995）。一个典型的归纳偏置例子是奥卡姆剃刀，它假设最简单而又一致的假设是最佳的。这里的一致是指学习器的假设会对所有样本产生正确的结果。归纳偏置比较正式的定义是基于数学上的逻辑。这里，归纳偏置是一个与训练样本一起的逻辑式子，其逻辑上会蕴涵学习器所产生的假设。然而在实际应用中，这种严谨形式常常无法适用。在有些情况下，学习器的归纳偏置可能只是一个很粗糙的描述（如在人工神经网路中），甚至更加简单。以下是机器学习中常见的归纳偏置列表：虽然大部分的学习演算法使用固定的偏置，但有些算法在获得更多数据时可以变换它们的偏置。这不会取消偏置，因为偏置变换的过程本身就是一种偏置。desJardins, M., and Gordon, D.F. (1995). Evaluation and selection of biases in machine learning. Machine Learning Journal, 5:1--17, 1995.Mitchell, T.M. (1980). The need for biases in learning generalizations. CBM-TR 5-110, Rutgers University, New Brunswick, NJ.Utgoff, P.E. (1984). Shift of bias for inductive concept learning. Doctoral dissertation, Department of Computer Science, Rutgers University, New Brunswick, NJ.
学习演算法的一些训练样本说明了什么？
说明输入与输出之间的预期关系 说明输入与输出之间的预期关系 输入与输出之间的预期关系。