规律时，就可能发生过拟合。一般来说，当参数的自由度或模型结构的复杂度超过资料所包含资讯内容时，拟合后的模型可能使用任意多的参数，这会降低或破坏模型泛化的能力。在统计学习和机器学习中，为了避免或减轻过适现象，须要使用额外的技巧（如模型选择、交叉验证、提前停止、正则化、剪枝、贝叶斯信息量准则、赤池信息量准则或dropout）。这些方法大致可分为两类：1. 对模型的复杂度进行惩罚，从而避免产生过于复杂的模型；2. 在验证数据上测试模型的效果，从而模拟模型在实际工作环境的数据上的表现。