经验风险最小化 （ERM）是统计学习理论里的一项原则，该原则下有一系列学习算法，经验风险最小化用于为这些算法的性能提供理论上的界。核心思想是我们无法确切知道算法在实际中的运行情况（真正的“风险”），因为我们不知道算法将在其上运行的数据的真实分布，但我们可以在一组已知的训练数据（“经验”风险）上衡量其性能。 
背景.以下情况是许多有监督学习问题的一般设置。我们有两个空间，输入空间formula_1和输出空间formula_2，想学习一个函数formula_3 （通常称为"假设" ）