小噪声的影响， 但会使类别之间的界限变得模煳。一个较好的K值能通过各种启发式技术（见）来获取。噪声和非相关性特征的存在，或特征尺度与它们的重要性不一致会使K近邻算法的准确性严重降低。对于选取和缩放特征来改善分类已经作了很多研究。一个普遍的做法是利用进化算法优化功能扩展，还有一种较普遍的方法是利用训练样本的互信息进行选择特征。在二元（两类）分类问题中，选取"k"为奇数有助于避免两个分类平票的情形。在此问题下，选取最佳经验"k"值的方法是自助法。
加权最近邻分类器.- 最近邻分