此我们使用由数据样本空间中取出的formula_12个独立且同分布（i.i.d.）的样本点基于分类问题的二元性，可定义0-1函数做为匹配值之基准。因此损失函数为：其中formula_16为步阶函数。然而损失函数并不是凸函数或平滑函数，是一种NP-hard的问题，因此做为替代，需要使用可以追踪的机器学习演算法（透过凸损失函数）。
分类问题之界线.使用贝式定理，可以基于问题的二元性最佳化映射公式formula_17为：
平方损失.平方损失凸且平滑，但容