## Analisis Performa Algoritma K-Nearest Neighbor dan Reduksi Dimensi Menggunakan Principal

## Component Analysis
Aldila Dinanti 1 , Joko Purwadi 1,*
1 Program Studi Matematika, Universitas Ahmad Dahlan, Yogyakarta 55191, Indonesia
* Corresponding author. Email: joko@math.uad.ac.id

## JAMBURA JOURNAL OF MATHEMATICS
Jambura J. Math. Vol. 5, No. 1, pp. 155–165, February 2023 Journal Homepage: http://ejurnal.ung.ac.id/index.php/jjom DOI: https://doi.org/10.34312/jjom.v5i1.17098

## ABSTRAK
Paper ini membahas tentang performa Algoritma K-Nearest Neighbor dengan reduksi dimensi menggunakan Principal Component Analysis (PCA) pada kasus klasifikasi penyakit diabetes . Banyaknya variabel dan data yang besar pada penyakit diabetes relative memerlukan waktu komputasi yang lama, sehingga dibutuhkan reduksi dimensi untuk mempercepar proses komputasi. Metode reduksi dimensi yang digunakan pada penelitian ini adalah PCA. Setelah dilakukan reduksi dimensi, dilanjutkan dengan klasifikasi menggunakan Algoritma K-Nearest Neighbor . Hasil penelitian pada studi kasus penyakit diabetes menunjukkan bahwa reduksi dimensi menggunakan PCA menghasilkan 3 komponen utama dari 8 variabel pada data asli yaitu PC1, PC2, dan PC3. Hasil klasifikasi menggunakan Algoritma K-Nearest Neighbor menunjukkan bahwa pada pengambilan 3 parameter ketetanggaan (K) terdekatnya yaitu untuk K =3, K =5 dan K =7. Pada kasus K =3, diperoleh hasil akurasi sebesar 67,53%, pada pengambilan K =5 diperoleh akurasi 72,72 %, dan untuk K =7 diperoleh hasil akurasi sebesar 77,92%. Dengan demikian, disimpulkan bahwa performa akurasi terbaik untuk klasifikasi penyakit diabetes dicapai pada K =7 dengan akurasi sebesar 77,92%.

## Kata Kunci:
Principal Component Analysis ; K-Nearest Neighbor ; Reduksi Dimensi; Penyakit Diabetes

## ABSTRACT
This paper discusses the performance of the K-Nearest Neighbor Algorithm with dimension reduction using Principal Component Analysis (PCA) in the case of diabetes disease classification. A large number of variables and data on the diabetes dataset requires a relatively long computation time, so dimensional reduction is needed to speed up the computational process. The dimension reduction method used in this study is PCA. After dimension reduction is done, it is continued with classification using the K-Nearest Neighbor Algorithm. The results on diabetes case studies show that dimension reduction using PCA produces 3 main components of the 8 variables in the original data, namely PC1, PC2, and PC3. Then classification result using K-Nearest Neighbor shows that by choosing 3 closest neighbor parameters (K), for K = 3, K = 5, and K = 7. The result for K = 3 has an accuracy of 67,53%, for K = 5 had an accuracy is 72,72%, and for K=7 had an accuracy of 77,92%. Thus, it was concluded that the best accuracy performance for the classification of diabetes was achieved at K=7 with an accuracy of 77.92%.
e-ISSN: 2656-1344 c 2023 A. Dinanti, J. Purwadi | Under the license CC BY-NC 4.0 Received: 22 November 2022 | Accepted: 19 January 2023 | Online: 1 February 2023
JJoM | Jambura J. Math. 155 Volume 5 | Issue 1 | February 2023
Analisis Performa Algoritma K-Nearest Neighbor dan Reduksi Dimensi Menggunakan . . .

## Keywords:
Priciple Component Analysis; K-Nearest Neighbor; Dimensional Reduction; Diabetes Desease
Format Sitasi:
A. Dinanti and J. Purwadi, ”Analisis Performa Algoritma K-Nearest Neighbor dan Reduksi Dimensi Menggunakan Principal Component Analysis ”, Jambura J. Math. , vol. 5, No. 1, pp. 155– 165, 2023, doi: https://doi.org/10.34312/jjom.v5i1.17098

## 1. Pendahuluan
Tingginya kematian akibat penyakit diabetes, dan kebanyakan penderita tidak mengetahui bahwa mereka sedang mengidap diabetes, menjadikan diabetes sebagai salah satu penyakit yang berbahaya. Penyebab utama diabetes disebabkan karena kadar glukosa yang meningkat dalam darah dan biasa disebut sebagai penyakit silent killer [1]. Adapun beberapa faktor resiko dari penyakit ini adalah usia, kehamilan atau riwayat melahirkan, berat badan, hipertensi, ketebalan kulit, insulin, indeks massa tubuh, riwayat keluarga, dan umur [2].
Besarnya ukuran data dan banyaknya variabel dalam data penyakit dabetes, menjadi permasalahan dalam proses komputasi. Proses komputasi akan membutuhkan waktu yang lebih lama dan hasil menjadi kurang maksimal. Untuk mengatasi hal tersebut dibutuhkan reduksi dimensi terhadap data dengan tanpa menghilangkan informasi-informasi penting yang terdapat dalam dataset [3–5].
Teknik reduksi dimensi yang sering digunakan dalam beberapa penelitian antara lain Principle Component Analysis (PCA), Factor Analysis (FA) dan Discriminant Analysis (DA). Ketiganya merupakan beberapa teknik analisis multivariat, dimana perbedaan keduanya terletak pada apakah kelas respon diperhatikan atau tidak [6]. Teknik FA dan DA tetap memperhatikan variabel target atau respon, sedangan PCA tidak memperhatikan kelas respon [7, 8]. Metode PCA telah digunakan dalam beberapa penelitian untuk reduksi dimensi antara lain penelitian yang dilakukan oleh Magdalena pada tahun 2021 dalam menentukan faktor – faktor yang mempengaruhi lama studi [9]. Dalam penelitian yang lain PCA digunakan untuk mereduksi faktor – faktor yang mempengaruhi dalam hal peramalan dan kualitas produk [10–13]. Pada penelitian ini digunakan metode PCA untuk mereduksi dimensi pada kasus penyakit diabetes, yang diduga variabel – variabelnya memiliki kesamaan karakteristiknya, selain itu kelas – kelas pada variabel responnya tidak diperhatikan sehingga PCA layak utuk digunakan.
Setelah diperoleh komponen utama hasil reduksi dimensi variabel, selanjutnya dilakukan proses klasifikasi. Proses klasifikasi bertujuan untuk menemukan fungsi yang menjelaskan kelas data yang labelnya belum dikatehui dengan memperkirakan kelas tersebut. Salah satu algoritma klasifikasi yang sering digunakan yaitu Algoritma K-Nearest Neighbor [14]. Algoritma K-Nearest Neighbor dikenalkan pada tahun 1967 oleh Cover dan Hart [15], sering disebut sebagai lazy learner . K-Nearest Neighbor merupakan suatu metode klasifikasi terhadap data objek yang didasarkan pada data pembelajaran yang jaraknya dekat dengan perhitungan menggunakan jarak euclidean [16]. Tujuannya yaitu untuk mengklasifikasi data baru berdasarkan atribut dan data training dengan klasifikasi berdasarkan mayoritas kategorinya, beberapa penelitian menggunakan Algoritma telah dilakukan dalam beberapa bidang kesehatan, e-commerce , transportasi dan fisika [17–21]. Berdasarkan penelitian yang telah dilakukan algoritma K-Nearest Neighbor menghasilkan tingkat akurasi yang baik dalam berbagai kasus tersebut. Pada
JJoM | Jambura J. Math. 156 Volume 5 | Issue 1 | February 2023
penelitian ini dikombinasikan antara metode reduksi dimensi menggunakan PCA dengan algoritma K-Nearest Neighbor dan selanjutnya diuji bagaimana performa dari kombinasi keduanya pada kasus penyakit diabetes.
Bagaimana hasil klasifikasi yang terbentuk dan bagamana tingkat akurasi menjadi menarik untuk diteliti. Bagaimana mendapatkan hasil akurasi terbaik pada proses pengklasifikasian data besar dengan menyederhanakan data, mereduksi dimensi dan waktu komputasi, serta pengelompokan variabel yang memiliki kesamaan dari segi jarak. Bagaimana performa Algortima K-Nearest Neighbor dengan reduksi dimensi PCA yang diterapkan pada kasus penyakit diabetes menjadi fokus penelitian ini.

## 2. Metode
Pada penelitian ini metode yang digunakan pada proses reduksi dimensi yaitu menggunakan metode Principal Component Analysis dan pada klasifikasi menggunakan metode K-Nearest Neiighbor . Dimana kedua metode tersebut akan diterapkan pada data penyakit diabetes dengan jumlah data 798 dengan 8 variabel independen dan 1 variabel dependen. Data tersebut merupakan data sekunder yang diperoleh dari Kaggle.
Adapun langkah-langkah dari penelitian ini yaitu normalisasi data dengan menggunakan Z-Score . Selanjutnya melakukan reduksi dimensi dengan membentuk matriks kovarian, menghitung nilai eigen dan vektor eigen, dan membentuk komponen utama dari hasil vektor eigen yang diperoleh. Kemudian dari hasil reduksi dimensi akan dilakukan klasifikasi dengan mencari parameter K, menentukan jarak, dan mencari kelas mayoritas yang kemudian hasilnya akan dievaluasi dan dilihat bagaimana penerapan metode ini pada data penyakit diabetes.
Adapun langkah-langkah pada penelitian ini adalah sebagai berikut :
1. Normalisasi merupakan salah satu tahapan preprocessing yang biasa digunakan untuk perentangan data tinggi yang mempengaruhi hasil dari pengolahan data. data menggunakan Z-Score dengan persamaan berikut :
Z i , j = x i , j − X σ , i = 1, 2, 3, . . . , n , j = 1, 2, 3, . . . , m . (1)
2. Reduksi dimensi menggunakan Principal Component Analysis dengan langkah sebagai berikut :
(a) Menghitung matriks kovarian
Matriks kovarian digunakan pada saat mencari nilai eigen dan vektor eigen. Untuk menentukan matriks kovarian digunakan persamaan (2):
Cov x j , x k = 1 m − 1 m ∑ i = 1 x i , j − X j x i , k − X k , j dan k = 1, 2, 3, . . . , n (2)
Dari persamaan (2) dilakukan perhitungan untuk setiap variabel dan hasil dari masing – masing data disusun dalam matriks sehingga diperoleh matriks kovarian pada persamaan (3), yaitu
JJoM | Jambura J. Math. 157 Volume 5 | Issue 1 | February 2023
Analisis Performa Algoritma K-Nearest Neighbor dan Reduksi Dimensi Menggunakan . . .
S =      s 1,1 s 1,2 · · · s 2,1 s 2,2 · · · .. . s n ,1 .. . s n ,2 . .. · · · s 1, n s 2, n .. . s n , n      n × n . (3)
(b) Menghitung nilai eigen dan vektor eigen Untuk mendapatkan nilai eigen ( λ ) digunakan persamaan (4), yaitu dengan mengambil determinan dari matriks persamaan S − λ I = 0, yaitu | S − λ I | = 0. (4)
Setelah diperoeh nilai eigen ( λ ), selanjutnya dicari vektor eigen menggunakan persamaan (5), yaitu
( S − λ I ) a = 0. (5)
(c) Menentukan komponen utama
Penentuan komponen utama diperoleh dari kombinasi linear antara matriks vektor eigen dan matriks data sehingga diperoleh persamaan berikut:
PC 1 = n ∑ j = 1 a j ,1 x j = a 1,1 x 1 + a 2,1 x 2 + · · · + a n ,1 x n PC 2 = n ∑ j = 1 a j ,2 x j = a 1,2 x 1 + a 2,2 x 2 + · · · + a n ,2 x n .. . PC n = n ∑ j = 1 a j , n x j = a 1, n x 1 + a 2, n x 2 + · · · + a n , n x n
. Selanjutnya dapat dibentuk matriks sebagai berikut:
     PC 1 PC 2 .. . PC n      =      a 1,1 a 2,1 · · · a 1,2 a 2,2 · · · .. . a 1, n .. . a n ,2 . .. · · · a n ,1 a n ,2 .. . a n , n      n × n      x 1 x 2 .. . x n      n × 1 sehingga diperoleh persamaan (6), yaitu
PC n × 1 = a T X T n × 1 (6)
dengan a T = Transpose matriks vektor eigen,
PC = Matriks variabel baru, X T = Transpose matriks data.
Setelah diperoleh komponen utama selanjutnya dilakukan klasifikasi dengan membagi data menjadi 2, masing-masing untuk data training dan data testing dengan perbandingan 9:1.
JJoM | Jambura J. Math. 158 Volume 5 | Issue 1 | February 2023
3. Klasifikasi menggunakan K-Nearest Neighbor Tahap ketiga adalah melakukan klasifikasi menggunakan algoritma K-Nearest Neighbor, untuk menemukan fungsi yang menjelaskan kelas data dan untuk memperkirakan kelas dari suatu objek yang labelnya tidak diketahui. Adapun tahapan pada K-Nearest Neighbor adalah sebagai berikut: (a) Menentukan parameter K atau banyaknya ketetanggaan terdekatnya.
(b) Menghitung jarak antara data training dan data testing menggunakan persamaan euclidean sebagai berikut:
d ( x , y ) = s n ∑ i = 1 ( x i − y i ) 2 , i = 1, 2, 3, . . . , n (7) dengan x i = data training pada data ke-i, y i
= data testing pada data ke-i, d ( x , y ) = jarak euclidean .
(c) Mengurutkan jarak yang diperoleh secara ascending atau dari yang terkecil ke yang terbesar.
(d) Menentukan kelas yang bersesuaian.
(e) Kelas yang mayoritas yang akan menentukan atau membentuk kelas pada data baru.
4. Confussion Matriks
Untuk menguji performa algoritma K-Nearest Neghbor digunakan confussion matriks. Confussion matriks digunakan untuk mengetahui informasi prediksi antara data aktual dengan data prediksi hasil dari klasifikasi. Adapun confussion matriks dapat dilihat pada Tabel 1.
Tabel 1. Tabel confussion matriks Kelas Aktual Prediksi Positif Negatif Positif TP FP Negatif FN TN Keterangan TP = Banyaknya data positif yang terklasifikasi dengan benar ( True Positif ), FP = Banyaknya data positif yang terklasifikasi dengan salah ( False Positif ),
FN = Banyaknya data negatif yang terklasifikasi dengan salah ( False Negatif ), TN = Banyaknya data negatif yang terklasifikasi dengan benar ( True Negatif ).
Perhitungan nilai akurasi merupakan rasio dari semua data dan terklasifikasi benar yang dihitung menggunakan persamaan (8), yaitu
Akurasi = TP + TN TP + TN + FP + FN . (8)
Untuk rasio dari hasil yang terklasifikasi benar (positif) dan data prediksi positif, maka digunakan persamaan presisi ( precission ) yang ditampilkan pada persamaan (9), yaitu
JJoM | Jambura J. Math. 159 Volume 5 | Issue 1 | February 2023
Analisis Performa Algoritma K-Nearest Neighbor dan Reduksi Dimensi Menggunakan . . .
Presisi =
TP TP + FP . (9)
Nilai sensitivitas ( recall ) yang merupakan rasio dari semua data yang terklasifikasi positif dan diprediksi benar (positif) dihitung digunakan persamaan (9), yaitu
Recall = TP TP + FN , (10)
dan untuk F1-Score nya digunakan persamaan (11), yaitu
F 1 − Score = 2 presisi ∗ recall presisi + recall . (11)
Adapun Proporsi Total Variansi (PTV) dihitung dengan menggunakan persamaan (12), yaitu
PTV = λ i ∑ 8 i − 1 λ i × 100%, dengan i = 1, 2, . . ., 8. (12)

## 3. Hasil dan Pembahasan
Pada penelitian ini digunakan data penyakit Diabetes dengan jumlah 798 data dengan 8 variabel independen dan 1 variabel dependen. Variabel-variabel yang terdapat pada data penyakit diabetes tersebut yaitu terdiri dari jumlah kehamilan ( x 1 ) , konsentrasi glukosa ( x 2 ) , tekanan darah ( x 3 ) , jenis ketebalan kulit ( x 4 ) , jenis insulin ( x 5 ) , indeks massa tubuh ( x 6 ) , jenis fungsi silsilah diabetes ( x 7 ) , dan umur ( x 8 ) . Selanjutnya dilakukan reduksi dimensi menggunakan PCA dan Algoritma K-Nearest Neigbor .

## 3.1. Principal Component Analysis (PCA)
PCA digunakan untuk mengurangi variabel yang saling berkorelasi menjadi variabel baru yang bebas tanpa menghilangkan informasi-informasi penting pada data. Korelasi antar variabel dilakukan dengan menentukan matriks varians kovarians (S). Adapun langkah – langkah metode PCA adalah sebagai berikut :
1. Langkah pertama adalah melakukan normalisasi data, menggunakan persamaaan (1) sehingga diperoleh matriks data yang telah dinormalisasi sebagai berikut:
Z =      0.639 0.848 · · · 1.426 − 0.844 − 1.123 · · · − 0.190 .. . − 0.844
.. . − 0.873
. .. · · · .. . − 0.087      798 × 8 .
2. Langkah kedua adalah mencari matriks kovarian menggunakan persamaan (2) dan disajikan sesuai dengan persamaan (3), untuk menguji korelasi antar variabel. Hasil perhitungan diperoleh matriks S sebagai berikut :
S =      1.0013 0.1296 · · · 0.5450 0.1296 1.0013 · · · 0.1296 .. . 0.5450 .. . 0.2638 . .. · · · .. . 1.0013      8 × 8 .
JJoM | Jambura J. Math. 160 Volume 5 | Issue 1 | February 2023
3. Langkah ketiga yaitu mencari nilai eigen dan vektor eigen untuk pengambilan komponen utama. Variabel baru yang terbentuk diambil dari nilai eigen ≥ 1 dimana nilai eigen tersebut menunjukkan besarnya sumbangan dari komponen terhadap variansi seluruh variabel asli. Dalam menentukan jumlah komponen utama yang akan dipilih yaitu dengan mencari nilai proporsi kumulatif variansi dan nilai eigen terbesar. Nilai eigen diperoleh dengan merujuk pada persamaan (4) dan proporsi total variansi diperoleh menggunakan persamaan (12). Hasil perhitungan secara lengkap disajikan pada Tabel 2.
Tabel 2. Nilai eigen, proporsi total variansi, dan proporsi kumulatif
Komponen Nilai Eigen ( λ ) Proporsi Total Variansi (%) Kumulatif(%) 1 2,09711 26,18 26,18 2 1,73346 21,64 47,82 3 1,03097 12,87 60,69 4 0,87667 10,94 71,63 5 0,76333 9,53 81,16 6 0,68351 8,53 89,70 7 0,42036 5,52 94,94 8 0,40498 5,06 100
Pada Tabel 2 didapatkan 3 komponen utama dimana pengambilan komponen utama tersebut didasarkan pada nilai eigen λ ≥ 1. Komponen utama pertama yang didapatkan yaitu dengan nilai eigen 2,09711 dengan variansi 26,18%. Komponen utama kedua yaitu dengan nilai eigen 1,73346 dengan variansi 21,64%. Berikutnya komponen utama yang ketiga yaitu nilai eigen 1,03097 dengan variansi 12,87%. Ketiga komponen tersebut dapat menjelaskan total variansi kumulatif sebesar 60,69%. Selanjutnya dicari nilai vektor eigen berdasarkan nilai eigen yang diperoleh sebelumnya. Hasil yang diperoleh mengindikasikan bahwa terdapat 3 komponen utama yang selajutnya elemen penyusun ketiga komponen utama tersebut dipilih berdasarkan nilai loading terbesar. Nilai loading merupakan nilai identifikasi korelasi dari faktor yang terbentuk dengan variabel. Semakin dekat hubungan faktor dengan variabel maka semakin besar juga nilai loading nya. Nilai loading dari ketiga komponen tersebut disajikan pada Tabel 3.
Tabel 3. Nilai loading Variabel PC 1 PC 2 PC 3 x 1 -0,128432 -0,593786 0,013087 x 2 -0,393083 -0,174029 -0,467923 x 3 -0,360003 -0,183892 0,535494 x 4 -0,439824 0,331965 0,237674 x 5 -0,435026 0,250781 -0,336709 x 6 -0,451941 0,100960 0,361865 x 7 -0,270611 0,122069 -0,433189 x 8 -0,198027 -0,620598 -0,075248
Tabel 3 menjelaskan tentang hubungan antara variabel asli dengan variabel baru yang dibentuk dengan Principal Component Analysis. Tabel 3 menunjukkan bahwa nilai loading terbesar pada masing – masing variabel x ditunjukkan oleh nilai yang dicetak tebal, yaitu x 2 , x 4 , x 5 , dan x 7 pada PC 2 , x 1 , x 3 , x 6 , dan x 8 pada PC 3 , sementara tidak terdapat variabel yang memenuhi pada PC 1 . Variabel-vaariabel
JJoM | Jambura J. Math. 161 Volume 5 | Issue 1 | February 2023
Analisis Performa Algoritma K-Nearest Neighbor dan Reduksi Dimensi Menggunakan . . .
tersebut yang selanjutnya dikelompokkan kedalam komponen utama PC yang baru. Adapun penjelasan hubungan antar variabel tersebut dapat dilihat pada Tabel 4.
Tabel 4. Hasil PCA berdasarkan nilai loading
PC Loading Variansi yang dijelaskan PC 2 x 2
21,64% x 4 x 5 x 7
PC 3 x 1
12,87% x 3 x 6 x 8
Berdasarkan nilai loading pada Tabel 3 dan rekapan hasil PCA nilai loading pada Tabel 4, ditunjukkan variabel-variabel yang mewakili setiap komponen utama (PC). Komponen utama pertama atau PC 1 tidak diwakili oleh variabel apapun, sementara untuk komponen utama kedua atau PC 2 diwakili oleh variabel konsentrasi glukosa ( x 2 ), jenis ketebalan kulit ( x 4 ), jenis insulin ( x 5 ), dan silsilahh diabetes ( x 7 ). Adapun untuk komponen utama ketiga atau PC 3 diwakili oleh variabel kehamilan ( x 1 ), variabel tekanan darah ( x 3 ), indeks massa tubuh ( x 6 ), dan variabel umur atau ( x 8 ). Selanjutnya ditentukan nilai dari komponen utama yang terbentuk dari kombinasi linear berikut:
PC 1 = 8 ∑ i = 1 a T j 1 X T j = a 1,1 X 1 + a 2,1 X 2 + a 3,1 X 3 + · · · + a 8,1 X 8 = − 0, 12843 X 1 − 0, 39308 X 2 − 0, 36000 X 3 + · · · − 0, 19802 X 8
PC 2 = 8 ∑ i = 1 a T j 2 X T j = a 1,2 X 1 + a 2,2 X 2 + a 3,2 X 3 + · · · + a 8,2 X 8 = − 0, 59378 X 1 − 0, 17402 X 2 − 0, 18389 X 3 + · · · − 0, 62058 X 8
PC 3 = 8 ∑ i = 1 a T j 3 X T j = a 1,3 X 1 + a 2,3 X 2 + a 3,3 X 3 + · · · + a 8,3 X 8 = 0, 01307 X 1 − 0, 467923 X 2 − 0, 535494 X 3 + · · · − 0, 075248 X 8 yang menghasilkan nilai komponen utama pada Tabel 5.
Tabel 5. Nilai komponen utama PC PC 1 PC 2 PC 3 -0,068503 -1,234895 -0,095930 1,121683 0,733852 0,712938 .. . .. . .. . 1,060324 -0,837062 -0,425030 0,839892 1,151755 1,009178
Tabel 5 merupakan hasil perolehan data yang telah direduksi dimensi dengan menggunakan Principal Component Analysis dimana dari data yang awalnya
JJoM | Jambura J. Math. 162 Volume 5 | Issue 1 | February 2023
mempunyai 8 variabel setelah direduksi berubah menjadi data dengan 3 variabel baru. Data tersebut selanjutnya digunakan untuk melakukan klasifiksi dengan menggunakan K-Nearest Neighbor .

## 3.2. Algoritma K-Nearest Neighbor
Proses klasifikasi dengan K-Nearest Neighbor memiliki input data sebesar 798 data yang selanjutnya dibagi menjadi data training dan data testing dengan perbandingan 90% data training dan 10% data testing . Pemilihan nilai K pada penelitian ini dibatasi untuk nilai K = 3, K = 5, dan K = 7, untuk menguji bagaimana performa algoritma K-Nearest Neighbor . Hasil prediksi kelas disajikan pada Tabel 6.
Tabel 6. Hasil prediksi kelas sesuai dengan K
K =3 K =5 K =7 0 0 0 1 1 1 0 0 0 .. . .. .
.. .
0 0 0
Pada tahapan ini dilakukan evaluasi hasil dari ketepatan klasifikasi terhadap data penyakit diabetes dengan menggunakan confussion matriks. Hasil evaluasi disajikan pada Tabel 7.
Tabel 7. Confussion matriks pada K=3, K=5 dan K=7 Kelas Aktual Prediksi K=3 Prediksi K=5 Prediksi K=7 Positif Negatif Positif Negatif Positif Negatif Positif 11 11 13 9 14 11 Negatif 14 41 12 43 6 46
Setelah itu dihitung nilai akurasi, presisi, Recall dan F1 Score menggunakan persamaan (8-11). Performa dari hasil klasifikasi menggunakan K-Nearest Neighhbor dengan bantuan Jupyter Notebook disajikan pada Tabel 8.
Tabel 8. Hasil akursi, presisi, recall dan F1 score KNN
K=3 K=5 K=7 Akurasi 67,53% 72,72% 77,92% Presisi 50% 59% 70% Recall 44% 52% 56% F1-Score 47% 55% 62%
Berdasarkan nilai pada Tabel 7 dan Tabel 8 dapat disimpulkan bahwa hasil uji performansi menggunakan 3 kelas klasifikasi, setelah dilakukan reduksi dimensi menggunakan PCA menujukkan bahwa hasil akurasi, presisi, Recall dan F1 Score yang tertinggi terdapat pada kelas klasifikasi K=7 , yaitu sebesar 77,92%.

## 4. Kesimpulan
Hasil dari penerapan reduksi dimensi dengan PCA mampu menghasilkan 3 komponen utama dari variabel baru dari 8 variabel asli, komponen utama yang terbentuk adalah
JJoM | Jambura J. Math. 163 Volume 5 | Issue 1 | February 2023
Analisis Performa Algoritma K-Nearest Neighbor dan Reduksi Dimensi Menggunakan . . .
PC1, PC2 dan PC3. PC 1 tidak terdapat variabel yang mewakili, PC 2 meliputi variabel konsentrasi glukosa ( x 2 ), jenis ketebalan kulit ( x 4 ), jenis insulin ( x 5 ) dan silsilah diabetes ( x 7 ). PC 3 terdapat variabel kehamilan ( x 1 ), variabel tekanan darah ( x 3 ), indeks massa tubuh ( x 6 ), dan variabel umur atau ( x 8 ). Hasil performa klasifikasi menggunakan Algoritma K-Nearest Neighbor dengan 3 kelas klasifikasi menghasilkan nilai akurasi tertinggi pada parameter kelas klasifikasi K =7. Pada kasus data penyakit diabetes, data positif yang terklasifikasi dengan benar sebesar 14 data, data negatif yang terklasifikasi dengan benar sebesar 46 data, data positif yang terklasifikasi dengan salah sebesar 11 data, dan data negatif yang terklasifikasi dengan salah sebesar 6 data. Hasil yang diperoleh menunjukkan bahwa klasifikasi menggunakan Algoritma K-Nearest Neighbor dengan data yang sudah direduksi dimensi menggunakan PCA menghasilkan performa yang baik.

## Referensi
[1] M. A. Mujib and A. Jatissidi, “Perancangan Buku Ilustrasi Mengenai Panduan Penyakit Deabetes,” Pantarei , vol. 5, no. 2, pp. 1–8, 2021.
[2] Kemenkes, Buku Pintar Kader POSBINDU . Jakarta: Direktorat Jenderal Pencegahan dan Pengendalian Penyakit, 2019.
[3] R. Firliana, R. Wulanningrum, and W. Sasongko, “Implementasi Principal Component Analysis (PCA) Untuk Pengenalan Wajah Manusia,” Nusantara of Engineering , vol. 2, no. 1, pp. 65–69, 2015.
[4] E. Joko and S. Suparman, “Reduksi Dimensi untuk Meningkatkan Performa Metode Fuzzy Klastering pada Big Data,” Science, Technology, Engineering, Economics, Education, and Mathematics , vol. 1, no. 1, pp. 27–36, 2020.
[5] J. F. Hair, “Multivariate Data Analysis: An Overview,” in International Encyclopedia of Statistical Science . Berlin, Heidelberg: Springer Berlin Heidelberg, 2011, pp. 904–907, doi: 10.1007/978-3-642-04898-2 395.
[6] W. K. H¨ardle and L. Simar, Applied Multivariate Statistical Analysis . Berlin, Heidelberg: Springer Berlin Heidelberg, 2015, doi: 10.1007/978-3-662-45171-7.
[7] I. T. Jolliffe, Principal Component Analysis , ser. Springer Series in Statistics. New York: Springer-Verlag, 2002, doi: 10.1007/b98835.
[8] R. A. Johnson and D. W. Wichern, Applied Multivariate Statistical Analysis , 5th ed. London: Pearson Education Inc., 2002.
[9] M. Wangge, “Penerapan Metode Principal Component Analysis (PCA) Terhadap Faktor- faktor yang Mempengaruhi Lamanya Penyelesaian Skripsi Mahasiswa Program Studi Pendidikan Matematika FKIP UNDANA,” Jurnal Cendekia : Jurnal Pendidikan Matematika , vol. 5, no. 2, pp. 974–988, apr 2021, doi: 10.31004/cendekia.v5i2.465.
[10] T. Rahmawati, “Aplikasi Principal Component Analysis (Pca) Untuk Mereduksi Faktor- Faktor Yang Berpengaruh Dalam Peramalan Konsumsi Listrik,” Teknomatika , vol. 7, no. 1, pp. 31–41, 2014.
[11] T. Saepurohman and B. E. Putro, “Analisis Principal Component Analysis (PCA) Untuk Mereduksi Faktor-Faktor yang Mempengaruhi Kualitas Kulit Kikil Sapi,” in Seminar dan Konferensi Nasional IDEC 2019 , Surakarta, 2019.
[12] F. Fitrianingsih and S. Sugiyarto, “Implementasi Analisa Komponen Utama untuk Mereduksi Variabel yang Mempengaruhi Perbaikan pada Fungsi Ginjal Tikus,” Jurnal Ilmiah Matematika , vol. 6, no. 2, pp. 62–68, oct 2019, doi: 10.26555/konvergensi.v6i2.19549.
[13] M. S. Noya van Delsen, A. Z. Wattimena, and S. Saputri, “Penggunaan Metode Analisis Komponen Utama Untuk Mereduksi Faktor-Faktor Inflasi di kota Ambon,” BAREKENG: Jurnal Ilmu Matematika dan Terapan , vol. 11, no. 2, pp. 109–118, dec 2017, doi: 10.30598/barekengvol11iss2pp109-118.
[14] Yu-Wei and D. Chiu, Machine Learning with R Cookbook . Birmingham: Packt Publishing, 2015.
JJoM | Jambura J. Math. 164 Volume 5 | Issue 1 | February 2023
[15] T. Cover and P. Hart, “Nearest neighbor pattern classification,” IEEE Transactions on Information Theory , vol. 13, no. 1, pp. 21–27, jan 1967, doi: 10.1109/TIT.1967.1053964.
[16] A. Setiawan, “Perbandingan Penggunaan Jarak Manhattan, Jarak Euclid, dan Jarak Minkowski dalam Klasifikasi Menggunakan Metode KNN pada Data Iris,” Jurnal Sains dan Edukasi Sains , vol. 5, no. 1, pp. 28–37, may 2022, doi: 10.24246/juses.v5i1p28-37.
[17] M. R. Alghifari and A. P. Wibowo, “Penerapan Metode K-Nearest Neighbor Untuk Klasifikasi Kinerja Satpam Berbasis Web,” Jurnal Teknologi dan Manajemen Informatika , vol. 5, no. 1, pp. 1–10, jun 2019, doi: 10.26905/jtmi.v5i1.3074.
[18] A. M. Argina, “Penerapan Metode Klasifikasi K-Nearest Neigbor pada Dataset Penderita Penyakit Diabetes,” Indonesian Journal of Data and Science , vol. 1, no. 2, pp. 29–33, jul 2020, doi: 10.33096/ijodas.v1i2.11.
[19] I. A. Angreni, S. A. Adisasmita, M. I. Ramli, and S. Hamid, “Pengaruh Nilai K Pada Metode K-Nearest Neighbor (KNN) Terhadap Tingkat Akurasi Identifikasi Kerusakan Jalan,” Rekayasa Sipil , vol. 7, no. 2, pp. 63–70, jan 2019, doi: 10.22441/jrs.2018.v07.i2.01.
[20] M. S. Fajri, N. Septian, and E. Sanjaya, “Evaluasi Implementasi Algoritma Machine Learning K-Nearest Neighbors (kNN) pada Data Spektroskopi Gamma Resolusi Rendah,” Al-Fiziya: Journal of Materials Science, Geophysics, Instrumentation and Theoretical Physics , vol. 3, no. 1, pp. 9–14, aug 2020, doi: 10.15408/fiziya.v3i1.16180.
[21] D. Sebastian, “Implementasi Algoritma K-Nearest Neighbor untuk Melakukan Klasifikasi Produk dari beberapa E-marketplace,” Jurnal Teknik Informatika dan Sistem Informasi , vol. 5, no. 1, pp. 51–61, may 2019, doi: 10.28932/jutisi.v5i1.1581.
This article is an open-access article distributed under the terms and conditions of the Creative Commons Attribution-NonCommercial 4.0 International License . Editorial of JJoM: Department of Mathematics, Universitas Negeri Gorontalo, Jln. Prof. Dr. Ing. B.J. Habibie, Moutong, Tilongkabila, Kabupaten Bone Bolango, Provinsi Gorontalo 96554, Indonesia.
165 Volume 5 | Issue 1 | February 2023