("z", "y")这个量是其间的"损失"。某个函数"f"的风险是定义成损失函数的期望值。如果机率分佈p是离散的（如果是连续的，则可採用定积分和机率密度函数），则定义如下：现在的目标则是在一堆可能的函数中去找函数"f"，使其风险"R"("f")是最小的。然而，既然"g"的行为已知适用于此有限集合("x", "y"), ..., "x", "y")，则我们可以求得出真实风险的近似值，譬如，其"经验风险"为：选择会最小化经验风险的函数"f"就是一般所知的"经验风险最小化"原则。统计学习理论则是研