Saya mau tau k-Jiran terdekat (k-Nearest Neighbor) dari Teknik klasifikasi. Jelaskan dalam bahasa melayu

k-Jiran Terdekat adalah berasaskan prinsip bahawa instance yang mempunyai ciri-ciri yang sama berada dalam jarak yang berhampiran antara satu sama lain. Dalam teknik ini, pengelasan ditentukan berdasarkan jarak terdekat instance. Secara umumnya, ia dilaksanakan melalui tiga langkah:

Langkah pertama: Jarak di antara instance yang ingin diramal dengan instance latihan dikira.

Langkah kedua: Sebanyak K instance (atau digelar sebagai jiran) yang mempunyai jarak paling hampir di kenal pasti.

Langkah ketiga: Kelas ditentukan mendasarkan kelas K jiran terdekat berkenaan menggunakan undi majoriti.

k-Jiran Terdekat merupakan pengelas yang agak ringkas kerana secara umumnya ia hanya memerlukan penetapan dua parameter hiper sahaja iaitu fungsi jarak (distance function) dan  nilai k.

Fungsi jarak (distance function) - Antara fungsi jarak (distance function) yang boleh digunakan bagi mengira jarak di antara instance adalah Euclidean dan Manhattan.

Nilai K - Ditentukan mengikut kesesuaian. Nilai K yang terlalu kecil boleh mengakibatkan masalah terlebih padanan manakala nilai K yang terlalu besar mengurangkan ketepatan model. Bagi membantu pemilihan nilai K yang bersesuaian, ralat pengesahan dijadikan penanda aras. Nilai ralat pengesahan yang minima menandakan nilai K yang optimum. Selain itu, memandangkan undi majoriti digunakan untuk memilih kelas sasaran, kebiasaannya nilai K dipilih daripada nombor ganjil bagi mengelakkan isu undi seri.

Kelemahan ketara teknik k-Jiran Terdekat adalah ia memerlukan kos pengkomputeran yang tinggi dan juga sangat sensitif terhadap fitur yang tidak relevan.

Mesin Sokongan Vektor (Support Vector Machine)

Konsep asas Mesin Sokongan Vektor adalah mencari hiper satah optimum yang dapat memisahkan set data kepada dua kelas . Bagi model Mesin Sokongan Vektor yang hanya melibatkan dua pemboleh ubah tak bersandar, hiper satah boleh digambarkan sebagai satu garis yang memisahkan antara dua kelas. Vektor daripada kedua-dua kelas yang berada paling hampir dengan hiper satah dikenali sebagai vektor sokongan. Jarak di antara sokongan vektor tersebut dengan hiper satah disebut sebagai margin. Semakin besar saiz margin, model pengelas yang semakin baik dapat dihasilkan.

Daripada sudut data, Mesin Sokongan Vektor hanya boleh memproses data berjenis numerik. Konsep asal Mesin Sokongan Vektor adalah untuk pengelasan binari, namun ia dapat dikembangkan untuk turut digunakan bagi kes pengelasan berbilang kelas.