"k"邻域内的样本计算出来的。解决这个缺点的方法之一是在进行分类时将样本到"k"个近邻点的距离考虑进去。"k"近邻点中每一个的分类（对于回归问题来说，是数值）都乘以与测试点之间距离的成反比的权重。另一种克服偏斜的方式是通过数据表示形式的抽象。例如，在自组织映射（SOM）中，每个节点是相似的点的一个集群的代表（中心），而与它们在原始训练数据的密度无关。"K"-NN可以应用到SOM中。
参数选择.如何选择一个最佳的K值取决于数据。一般情况下，在分类时较大的K值能够减小噪声的影响， 但会