，为了避免维数灾难，常会配合一些资料预处理的技巧，像是主成分分析（PCA）、线性判别分析（LDA）或典型相关分析（CCA）等，以得到较好的表现。在许多工业的应用中，已将第k最近邻居法的效果和其他方式相比对，特别是和较复杂的方式比对（例如此领域常使用的支持向量机）。支持向量机因为利用了进行适当的非线性映射，一般而言的效果都相当好，就算训练集不多时也是如此。不过通用支持向量机和第k最近邻居法类似，也没有自动特征提取功能，因此也要配合资料预处理技术一起进行。支持向量机的另一个缺点是它对初始条件的高度敏感，特别是对