和缩放特征来改善分类已经作了很多研究。一个普遍的做法是利用进化算法优化功能扩展，还有一种较普遍的方法是利用训练样本的互信息进行选择特征。在二元（两类）分类问题中，选取"k"为奇数有助于避免两个分类平票的情形。在此问题下，选取最佳经验"k"值的方法是自助法。
加权最近邻分类器.- 最近邻分类器可以被视为为最近邻居分配权重formula_1以及为所有其他邻居分配权重。这可以推广到加权最近邻分类器。也就是说，第近的邻居被赋予权重formula_2，其中formula_3。关于加权最近