92年，Bernhard E. Boser、Isabelle M. Guyon和弗拉基米尔·万普尼克提出了一种通过将（最初由Aizerman et al.提出）应用于最大边界超平面来创建非线性分类器的方法。 所得到的算法形式上类似，除了把点积换成了非线性核函数。这就允许算法在变换后的特征空间中拟合最大间隔超平面。该变换可以是非线性的，而变换空间是高维的；虽然分类器是变换后的特征空间中的超平面，但它在原始输入空间中可以是非线性的。值得注意的是，更高维的特征空间增加了支持向量机的泛化误差，但给定足够多的样本