a_13（这种情况称为无知学习）。但是，我们可以通过对训练集上的损失函数取平均值来计算一个近似值，称为"经验风险"：经验风险最小化原理指出学习算法应选择一个假设formula_34将经验风险降到最低： 因此，由ERM原理定义的学习算法在于解决上述优化问题。 
性质.
计算复杂度.对于具有0-1损失函数的分类问题，即使对于像线性分类器这样的相对简单的函数类，经验风险最小化也被认为是NP难题。 但是，当最小经验风险为零（即数据是线性可分离的）时，可以有效解