KNN

Nilai "k" yang terbaik untuk algoritme ini tergantung pada data; secara umumnya, nilai "k" yang tinggi akan mengurangi efek "noise" pada klasifikasi, tetapi membuat batasan antara setiap klasifikasi menjadi lebih kabur. Nilai "k" yang bagus dapat dipilih dengan optimasi parameter, misalnya dengan menggunakan cross-validation. Kasus khusus di mana klasifikasi diprediksikan berdasarkan data pembelajaran yang paling dekat (dengan kata lain, "k" = 1) disebut algoritme "nearest neighbor".