p-ISSN : 2460-3562 / e-ISSN : 2620-8989

## Peningkatan Kinerja K-Nearest Neighbor menggunakan Bagging pada Permasalahan Ragam Kelas terhadap Pemeliharaan Prediktif Permesinan
Muhammad Irfan Arisani 1 , Muljono 2 *
a Fakultas Ilmu Komputer, Universitas Dian Nuswantoro, Jl. Imam Bonjol No. 207,
Semarang, Jawa Tengah, Indonesia.
1 111202012634@mhs.dinus.ac.id
2 *muljono@dsn.dinus.ac.id

## Abstrak
Dalam  beberapa  dekade  terakhir,  aplikasi  pembelajaran  mesin  menjadi  sangat  diminati  dalam  menyelesaikan permasalahan tertentu. Bidang ini  memberikan andil dalam menawarkan  solusi terhadap  banyak disiplin  ilmu yang  berkaitan  dengan  masalah  klasifikasi  atau  prediksi.  Salah  satu  dari  sekian  banyaknya  algoritma pembelajaran  mesin,  K-nearest  Neighbor  masih  menjadi  algoritma  favorit  yang  relevan  untuk  saat  ini.  Banyak dari penelitian terdahulu berlomba-lomba untuk mengoptimalkan algoritma KNN dan studi ini juga terinspirasi akan  hal  itu.  Sehingga,  studi  ini  akan  berfokus  pada  upaya  peningkatan  algoritma  KNN  dalam  penyelesaian permasalahan ragam kelas pada dataset . Lebih lanjut, adopsi metode bagging akan dipadukan dengan algoritma terkait  dalam  membantu  mengklasifikasikan  ragam  tipe  kerusakan  mesin  pada dataset permesinan.  Adapun sebelum proses pemodelan berlanjut, metode yang diusulkan juga menerapkan beberapa metode klasik terlebih dahulu  layaknya  normalisasi  dan tuning grid-search .  Selanjutnya,  studi  ini  juga  akan  menyajikan  tentang perbandingan  model  dengan  atau  tanpa  metode bagging ,  akurasi, precision ,  dan recall sebagai  bagian  dari matriks evaluasi. Hasil akhir eksperimen akan disajikan melalui beberapa matriks dengan menunjukkan akurasi sebesar 95.68%, rata-rata makro precision sebesar 96.28%, dan rata-rata makro recall sebesar 94.07%.
Kata kunci: pembelajaran mesin, permasalahan ragam kelas, nearest neighbor , metode bagging .

## Improving K-Nearest Neighbor using Bagging on Multi-class Problems for Machinery Predictive Maintenance

## Abstract
In  the  last  few  decades,  machine  learning  applications  have  become  very  popular  in  solving  certain  problems. This field offers solutions to many scientific disciplines  related to classification or  prediction problems.  One of the  many  machine  learning  algorithms,  K-nearest  Neighbor  is  still  a  favorite  algorithm  that  is  relevant  today. Many  previous  studies  have  competed  to  optimize  the  KNN  algorithm  and  this  study  is  also  inspired  by  that. Therefore, this study will focus on efforts to improve the KNN algorithm in solving multi-class problems in the dataset.  Furthermore,  adopting  the  bagging  method  will  be  combined  with  related  algorithms  to  help  classify various types of machine failure in the machinery dataset. Before the modeling process continues, the proposed method applies classical methods such as normalization and grid-search tuning. Furthermore, this study will also compare models with or  without the  bagging method,  accuracy,  precision, and recall as the various evaluation matrices. The final results of the experiment will be presented through several matrices showing an accuracy of 95.68%, an average macro of precision 96.28%, and an average macro recall of 94.07%.
Keywords: machine learning, multi-class problems, nearest neighbor, bagging method.

## I. P ENDAHULUAN
Istilah  pembelajaran  mesin  atau Machine  Learning adalah sebuah disiplin ilmu yang merujuk pada perolehan wawasan    dari  data  yang  mengubahnya  menjadi usable model dengan  cara  memprosesnya  melalui  bermacam- macam teknik komputasi matematika [1]. Adapun “model yang  dapat  digunakan”  adalah  hasil  dari  pembelajaran
suatu  algoritma  terhadap  data  yang  berperan  dalam pemecahan  permasalahan  prediksi  atau  klasifikasi.  Sejak ditemukannya  keilmuan  pembelajaran  mesin  hingga sekarang,  telah  banyak  permasalahan  dari  ragam-ragam bidang  yang  sudah  terpecahkan.  Hal  ini  bisa  dilihat  dari beberapa studi terdahulu yang mengaplikasikan pembelajaran mesin pada bidang kesehatan [2, 3], edukasi [4,  5,  6],  industri  bisnis  [7],  dan  sebagainya.  Dengan
kebermanfaatannya  tersebut  membuat  penelitian  tentang pembelajaran  mesin  akan  semakin  kompleks yang  diikuti juga oleh pengaplikasiannya yang semakin meluas.
K-nearest Neighbor (KNN) adalah salah satu algoritma primadona  dari  berbagai  kalangan  yang  cukup  banyak digunakan  karena  interpretasinya  yang  mudah.  Ini  dapat menjadi  kelebihan  utama  bagi  para  peneliti  guna memudahkan  dalam  menjelaskannya  ke  kalangan  non- teknis  [5].  Selain  KNN,  ada  juga  algoritma  Random Forest  sebagai  algoritma  berkinerja  baik  berkat  metode bagging ,  di  mana  studi  terbaru  juga  menunjukkan  bahwa algoritma  ini  memiliki  kinerja  yang  lebih  superior daripada  algoritma  pendahulunya,  yaitu  pohon  keputusan [8].  Karenanya,  studi  ini  terinspirasi  untuk  melakukan eksperimen terhadap algoritma KNN  dan memadukannya dengan metode bagging . Ini dilakukan untuk mengoptimalkan  algoritma  KNN  yang  mudah  dipahami, tetapi  juga  memiliki  performa  yang  lebih  baik  dari pendahulunya.
Oleh karena pertimbangan di atas, maka studi ini akan mengusulkan pendekatan tambahan pada algoritma KNN, yakni  dengan  mengaplikasikannya  dengan  metode bagging .  Selain  itu,  eksperimen  ini  juga  didukung  oleh beberapa metode pra-pemrosesan guna mengatasi permasalahan  seperti  rasio  fitur  yang  bervariasi  dan optimasi  parameter  pada  algoritma  [9,  10].  Lebih  lanjut, studi  ini  akan  melakukan  eksperimen  pada  algoritma KNN,  mengaplikasikannya  dengan  beberapa  teknik  pra- pemrosesan, menyertakan tuning parameter, mengombinasikannya  dengan  metode bagging ,  dan melakukan  eksperimen  terhadap dataset permesinan dalam  mengklasifikasi  tipe  kerusakan  mesin.  Selain  itu, studi  ini  juga  akan  menyajikan  hasil  performa  KNN bagging melalui beberapa matriks evaluasi seperti akurasi, rata-rata makro precision , dan rata-rata makro recall .

## II. METODOLOGI PENELITIAN
Sebelum  berlanjut  pada  metodologi  penelitian,  perlu diketahui  bahwa  studi  ini  adalah  penelitian  lanjutan terhadap  penelitian  mengenai dataset permesinan  yang dilakukan  oleh  Matzka  S.  pada  tulisan  konferensi 2020 Third  AI  for  Industries [11].  Studi  tersebut  melakukan eksperimen terhadap dataset permesinan dengan mengklasifikasi apakah terjadi kerusakan mesin atau tidak dan mengklasifikasi apa tipe kerusakan mesin yang sesuai menggunakan  metode bagging pada  Decision  Tree  atau yang  biasa  disebut  sebagai  Random  Forest.  Selain  itu, studi  ini  juga  terinspirasi  oleh  aplikasi  metode bagging pada KNN yang dilakukan oleh Luthfi pada penelitiannya terhadap klasifikasi ragam kelas pada dataset jagung [12].

## A. Alur Penelitian
Seperti  yang  diilustrasikan  pada  Gambar  1, mula-mula dataset permesinan  diimpor  pada  bahasa  pemrograman Python.  Selanjutnya,  tahapan  pembersihan  data  akan melakukan  pengecekan  kualitas  pada dataset ,  seperti pengecekan duplikasi data, nilai yang kosong, inkonsistensi  data,  dan  juga outlier .  Untuk  tahapan berikutnya seperti tahapan rekayasa fitur, pra-pemrosesan, dan  tambahan  metode bagging ,  masing-masing  akan
melalui pemodelan KNN secara terpisah. Sebagai catatan, metode  terkini  akan  mengombinasikan  metode  yang sebelumnya, seperti misal KNN bagging yang juga sudah melalui  pra-pemrosesan.  Nantinya,  ketiga  model  KNN akan  melakukan  prediksi  terhadap  data  pengujian  dan dilakukan  evaluasi  dengan  matriks  akurasi, recall ,  dan precision .
Gambar  1.  Alur  penelitian  mengenai  aplikasi  KNN bagging terhadap dataset permesinan.  Sebagai  catatan,  tahapan  pemisahan  data  akan memisahkan 40% untuk data latih dan 60% untuk data pengujian.

## B. Mengenai Datasets
Dalam  konferensi  internasional 2020  Third  AI  for Industries [13],  Matzka  S.  menerbitkan proceeding -nya yang melakukan serangkaian eksperimen terhadap dataset permesinan.  Dalam  penelitiannya,  Matzka  S.  mencoba melakukan  klasifikasi  mesin  yang  rusak  serta  tipe kerusakannya dengan algoritma Random Forest. Sejatinya penelitian  itu  memfokuskan  bagaimana  cara  manusia dapat memahami kecerdasan buatan ( explainable artificial intelligence ). Dataset permesinan yang bernama Predictive  Maintenance  Dataset  bersifat open-source dan peneliti dapat melakukan penelitian dengan mengaksesnya melalui Kaggle atau Repositori UCI Machine Learning.
Gambar  2.  Persentase  data  dengan  mesin  rusak  setelah  dilakukan pembersihan data.
Eksperimen  ini  menggunakan  8  fitur  (empat  bebas, empat terikat) seperti yang tertera pada Tabel 1, dari yang sebelumnya  memiliki  14  fitur  (delapan  bebas,  enam  fitur terikat).  Adapun  fitur  terikat  sendiri  dibagi  menjadi:  satu fitur sebagai “ Apakah  mesin rusak  atau  tidak? ” dan lima fitur  lainnya  sebagai  “ Apa  tipe  kerusakan  mesin tersebut? ”.  Meskipun  begitu,  penelitian  ini  hanya  akan berfokus  pada  permasalahan  klasifikasi  ragam  kelas  saja. Sehingga  informasi  dari  fitur-fitur  tersisa  yang  mengacu pada  fitur  murni,  terekayasa,  dan  target  akan  disajikan pada Tabel 1. Setelah melalui tahapan pembersihan, maka terdapat  sebanyak  307  dari  369  baris  data  tentang  mesin rusak  yang  akan  diolah  dari  yang  tadinya  10.000  baris data  secara  keseluruhan.  Gambar  2  akan  menjelaskan bagaimana  komposisi  persentase  dari  data  mesin  rusak yang siap diolah.
TABEL I

## FITUR TERSISA PADA DATASET PEMELIHARAAN PREDIKTIF
Fitur Deskripsi Rotational speed [rpm] Kecepatan rotasi, dalam putaran per menit. TWF* Kerusakan alat aus. HDF* Kerusakan akibat panas . PWF* Kerusakan daya mesin . OSF* Kerusakan overstrain. Temperature difference [K]** Perbedaan temperatur antara udara dan proses, dalam Kelvin. Power [W]** Perkalian torsi dan kecepatan rotasi, dalam Watt. Strain [minNm]** Perkalian torsi dan keausan alat, dalam menit Nanometer.
*, fitur terikat (tipe kerusakan mesin).
**, fitur direkayasa.

## C. Pra-pemrosesan (Penskalaan Ulang dan Tuning)
Dengan  menggunakan  metode  normalisasi,  penelitian ini  perlu  menyinggung  mengenai  penskalaan  ulang  yang merujuk  pada  simplifikasi  rentang  dari  sebuah  fitur. Dalam  bidang  keilmuan  pembelajaran  mesin,  tentunya fitur  atau  variabel  bebas  berperan  sangat  penting. Terkadang, tiap fitur memiliki rentang nilai yang berbeda, bisa  jadi  besar  sekali  atau  sangat  kecil.  Ketika  berbicara tentang  algoritma  KNN  yang  sejatinya  sensitif  terhadap jarak,  maka  hal  tersebut  dapat  menimbulkan  performa model yang buruk jika tidak  dilakukan penskalaan ulang. Dengan  demikian,  penskalaan  ulang  menjadi  salah  satu teknik penting dalam studi ini. Adapun teknik penskalaan ulang  yang  digunakan  pada  studi  ini  adalah  normalisasi yang  mengubah  nilai  maksimal  menjadi  1  dan  nilai minimal  menjadi  0  [14].  Persamaan  1  akan  menjelaskan cara kerja dari teknik penskalaan ini.

## (1)
Selanjutnya,  studi  ini  juga  mengaplikasikan  metode tuning parameter  menggunakan  teknik grid-search . Adapun  teknik  ini  merujuk  pada  uji  pengetesan  terhadap beberapa  parameter,  melakukan  pemodelan  terhadap semua  kombinasinya,  dan  memilih  kombinasi  parameter dengan  hasil  performa  model  yang  paling  baik.
Sehubungan  dengan  algoritma  KNN  yang  berhubungan dengan  rumus  jarak  dan  jumlah  tetangga  terdekat,  maka kedua  parameter  itulah  yang  kemudian  akan  dicari  nilai optimalnya.  Beberapa  penelitian  terdahulu  menunjukkan bahwa  teknik  ini  berhasil  dalam  menghasilkan  model dengan kinerja yang bagus [15, 16].

## D. Pemisahan Data
Dengan  bereksperimen  pada pemisahan  40:60,  maka tahapan  ini  akan  merujuk  pada dataset yang  telah  dibagi menjadi  40%  data  latih  dan  60%  data  pengujian.  Pada umumnya, pemisahan data pada pembelajaran mesin lebih mengutamakan  komposisi  rasio  yang  lebih  banyak  pada data  latih  ketimbang  data  pengujian,  misal  rasio  70:30, 60:40,  dan  sebagainya.  Namun,  studi  ini  akan bereksperimen  dengan  rasio  40:60  atau  dengan  kata  lain mengutamakan jumlah data pengujian yang lebih banyak. Pendekatan  ini  dilakukan  untuk  menguji  apakah  dengan data  latih  yang  lebih  sedikit  dapat  memiliki  kualitas performa  yang  baik  atau  tidak.  Selain  itu,  studi  ini  juga mengadopsi  metode stratified  random  sampling ,  seperti yang  dilakukan  pada  penelitian  terdahulu  [17],  supaya pemisahan  data  tidak  timpang  sebelah  pada  salah  satu kelas  saja.  Dengan  demikian  dari  307  data  mesin  yang rusak,  122  baris  adalah  data  latih  dan  185  baris  adalah data pengujian.

## E. Pemodelan (K-nearest Neighbor dan Metode Bagging)
Inti  dari  studi  ini  adalah  penggunaan  algoritma  K- nearest  Neighbor  atau  KNN  untuk  memprediksi  tipe kerusakan  pada  mesin.  Dalam  praktiknya,  KNN membutuhkan  rumus  jarak  dan  jumlah  tetangga  yang sesuai dan optimal. Sebagaimana yang diilustrasikan pada Gambar  3,  model  KNN  yang  telah  terbentuk  akan mencoba memprediksi tipe kerusakan mesin terhadap data pengujian.  Selain  itu,  eksperimen  ini  yang  juga menggunakan  rumus  jarak  Manhattan  [18]  seperti  pada Persamaan 2  yang diaplikasikan pada empat fitur  sebagai rumus jarak terbaik pada model KNN ini.
Gambar  3.  Cara  kerja  KNN,  di  mana  data  diujikan  pada  dua  fitur  dan direpresentasikan dalam vektor dua dimensi.

## (2)
Selain  dari  algoritma  KNN,  studi  ini  juga  perlu menyinggung  metode bagging dalam  pembelajaran ensemble sebagai  metode  eksperimen  inti.  Jika  dialihkan ke  bahasa  Indonesia,  maka  makna  dari bagging adalah ‘pengantongan’. Umumnya, metode ini sering diaplikasikan pada algoritma Random Forest yang terbukti memiliki kinerja yang baik daripada Pohon Keputusan [8]. Singkatnya,  metode bagging memungkinkan  data  latih untuk  terbagi  menjadi  beberapa  sub-bagian  secara  acak. Dari setiap sub-bagian data latih, algoritma akan mencoba belajar  karakteristiknya  dan  membuat  aturannya  masing- masing. Nantinya,  prediksi data pengujian akan didasarkan pada hasil pemungutan prediksi paling banyak seperti yang disajikan pada Gambar 4. Namun, metode ini lebih  sering  berkembang  pada  algoritma  berbasis  pohon ( tree-based algorithms ). Dengan penelitian yang dilakukan oleh Luthfi tentang KNN bagging pada jagung [12], maka studi ini akan mencoba melakukan eksperimen dengan menerapkan konsep yang serupa.
Gambar  4.  Metode bagging pada  ilustrasi  algoritma  KNN.  Sebagai catatan,  metode bagging pada  studi  ini  membagi  data  latih  menjadi  50 sub-bagian.

## F. Evaluasi Model
Guna  mengetahui  kinerja  model  KNN bagging ,  studi ini  akan  membandingkan  beberapa  model  KNN sebelumnya  dengan  atau  tanpa  teknik  klasik  pra- pemrosesan.  Evaluasi  model  diawali  dengan  menyajikan hasil confusion  matrix sebagai  hasil  kebenaran  dari prediksi  model.  Kemudian,  hasil confusion  matrix akan menjadi  dasar  perhitungan  selanjutnya  seperti  akurasi, rata-rata  makro precision ,  dan  rata-rata  makro recall . Adapun  rumus  yang  merujuk  pada  kalkulasi  evaluasi model akan disajikan pada Persamaan 3-7.
(3)
(4)
(5)
(6)
(7)

## III. HASIL DAN PEMBAHASAN

## A. Implementasi
Studi  ini  akan  bereksperimen  pada  serangkaian  model KNN terhadap dataset permesinan dalam menentukan tipe kerusakan  mesin,  dimulai  dari  model  KNN  tanpa  & dengan  tahapan  pra-pemrosesan,  kemudian  diakhiri dengan  tambahan  metode bagging .  Setelah  melalui serangkaian  eksperimen,  maka  telah  dipilih  empat  fitur dengan kinerja prediksi yang baik seperti yang dijelaskan sebelumnya.  Adapun  permasalahan  ragam  kelas  pada studi  ini  mengacu  pada  tipe  kerusakan  tunggal  pada masing-masing  mesin.  Sehingga,  masing-masing  mesin yang rusak hanya akan memiliki tepat satu tipe kerusakan dengan tidak bercampur dengan tipe kerusakan lainnya.
Gambar 5. Perbandingan visualisasi data latih pada tiap model KNN, di mana terdapat perbedaan di masing-masing metode, seperti rentang fitur dan  posisi  poin  data.  Sebagai  catatan,  KNN bagging diwakili  oleh visualisasi bagging -2 dan bagging- 50.
Eksperimen  dimulai  dengan  model  KNN  dasar  yang belajar secara murni langsung dari data latih. Model KNN pertama  akan  menggunakan  rumus  jarak  Euclidean  dan jumlah  tetangga  sama  dengan  5.  Berlanjut  pada  model KNN  kedua,  maka  beberapa  tahapan  pra-pemrosesan seperti  normalisasi  dan tuning grid-search akan diimplementasikan.  Adapun  perubahan  yang  terjadi setelah tuning parameter dilakukan adalah ada pada rumus jarak yang berganti menjadi rumus Manhattan.
Selanjutnya, model inti dari studi ini yakni KNN bagging , akan mengombinasikan model KNN hasil pra-pemrosesan yang  ditambah  dengan  metode bagging .  Selanjutnya, perbedaan  data  latih  pada  masing-masing  model  KNN juga  akan  divisualisasikan  seperti  yang  telah  tersaji  pada Gambar 5.

## B. Hasil
Gambar  6.  Hasil confusion  matrix dari  ketiga  model  KNN,  di  mana prediksi benar ada pada nilai diagonal kiri-atas hingga kanan-bawah.
Model  KNN  yang  telah  diprediksi  dengan  data pengujian akan menghasilkan berbagai prediksi yang  bisa direpresentasikan  sebagai confusion  matrix .  Dengan menyajikan hasil confusion matrix seperti pada Gambar 6, eksperimen  ini  dapat  berlanjut  untuk  melakukan serangkaian  kalkulasi  sebagai  evaluasi  model.  Salah  satu cara untuk memahami cara kerja confusion matrix dengan mudah  adalah  dengan  menjumlahkan  seluruh  nilai  yang ada  pada  diagonal  kiri-atas  hingga  kanan-bawah.  Jumlah tersebut  akan  merepresentasikan  seberapa  banyak  hasil prediksi  benar  untuk  semua  kelas.  Maka  tentu,  semakin banyak  prediksi  benar  maka  akan  semakin  baik  model tersebut.  Dimulai  dari  KNN  dasar  yang  memperoleh  158 baris  prediksi  benar,  kemudian  KNN  pra-pemrosesan memperoleh  174  baris,  dan  KNN bagging memperoleh 177 baris.
Gambar  7.  Perhitungan  matriks  akurasi  pada  ketiga  model  KNN. Terdapat  peningkatan  sebesar  1.63%  pada  metode bagging daripada metode pra-pemrosesan.
Dari prediksi benar tersebut, selanjutnya akan dihitung pula  matriks  akurasi  tersebut seperti  formula  yang  tertera pada  Persamaan  3,  yakni  seluruh  jumlah  prediksi  benar dibagi  dengan  seluruh  jumlah  data  pelatihan  dan  dikali seratus  persen.  Seperti  yang  disajikan  pada  Gambar  7, maka  model  KNN  dasar  menghasilkan  tingkat  akurasi sebesar 85.41%, model KNN pra-pemrosesan menghasilkan  94.05%,  dan  model  KNN bagging menghasilkan  95.68%.  Terlihat  bahwa  telah  terjadi peningkatan  pada  model  KNN  pra-pemrosesan  dan
bagging dibandingkan  dengan  model  KNN  dasar  dengan perolehan masing-masing nilai sebesar 8.64% dan 10.27%. Ini  menunjukkan  bahwa  model  KNN bagging dapat mengungguli kedua model sebelumnya.
Gambar  8.  Perhitungan  matriks  rata-rata  makro precision pada  ketiga model  KNN.  Metode bagging memberikan  peningkatan  sebesar  1.06% jika dibandingkan pada metode pra-pemrosesan.
Berikutnya adalah perhitungan rata-rata makro precision untuk  semua  kelas. Precision atau specificity adalah  matriks  perhitungan  guna  mengetahui  proporsi prediksi  pada  salah  satu  kelas.  Misal,  ‘ seberapa  besar proporsi  prediksi  pada  tipe  kerusakan  TWF? ’.  Karena pada studi ini terdapat empat kelas tipe kerusakan,   maka masing-masing  kelas  harus  dikalkulasi  terlebih  dahulu masing-masing precision -nya  seperti  pada  Persamaan  4. Baru  kemudian  hasil  seluruhnya  akan  dirata-ratakan seperti  pada  Persamaan  5.  Seperti  yang  disajikan  pada Gambar  7,  dimulai  dari  model  KNN  dasar  yang memperoleh  skor  rata-rata  makro precision sebesar 84.52%,  model  KNN  pra-pemrosesan  sebesar  95.22%, dan model KNN bagging sebesar 96.28%. Dari hasil yang diperoleh,  tercatat  bahwa  metode bagging mengungguli matriks ini dengan peningkatan sebesar 11.76% dari KNN dasar daripada metode pra-pemrosesan dengan peningkatan 10.7%.
Gambar 9. Perhitungan matriks rata-rata makro recall pada ketiga model KNN.  Dibandingkan  metode  pra-pemrosesan  klasik,  metode bagging memberikan peningkatan sebesar 2%.
Untuk  perhitungan  matriks  evaluasi  terakhir  yakni mengenai  rata-rata  makro recall .  Berbeda  dengan precision ,  maka recall akan  menghitung  proporsi  aktual yang  diprediksi  benar  pada  salah  satu  kelas.  Contohnya, ‘ seberapa  besar  proporsi  tipe  kerusakan  TWF  yang diprediksi secara benar? ’. Dengan demikian, Persamaan 6 adalah  cara  perhitungan  dari recall untuk  tiap-tiap  kelas. Kemudian, hasilnya dirata-ratakan seperti pada Persamaan 7. Dimulai dari model KNN dasar yang memiliki rata-rata
TABEL II

## PERBANDINGAN HASIL TIAP MODEL KNN DENGAN PRESISI TINGGI
Dasar Pra-pemrosesan Metode Bagging Hasil Hasil Vs. Dasar Hasil Vs. Dasar Vs. Pra-pemrosesan Akurasi 85.41% 94.05% + 8.64% 95.68% + 10.27% + 1.63% Precision HDF 86.88% 96.96% + 10.08% 96.96% + 10.08% - OSF 83.92% 83.92% - 90.38% + 6.46% + 6.46% PWF 94.87% 100% + 5.13% 97.77% + 2.9% - 2.23% TWF 72.41% 100% + 27.59% 100% + 27.59% - Rata-rata makro 84.52% 95.22% + 10.7% 96.28% + 11.76% + 1.06% Recall HDF 82.81% 100% + 17.19% 100% + 17.19% - OSF 100% 100% - 100% - - PWF 77.08% 87.5% + 10.42% 91.66% + 14.58% + 4.16% TWF 80.76% 81.48% + 0.71% 84.61% + 3.85% + 3.13% Rata-rata makro 85.16% 92.24% + 7.08% 94.07% + 8.91% + 1.83%
makro recall sebesar  85.17%,  model  KNN  pra- pemrosesan  92.07%,  dan  model  KNN bagging yang memperoleh  94.07%.  Dari  hasil  matriks  evaluasi  yang tertera  seperti  pada  Gambar  8,  ini  menunjukkan  bahwa model  KNN  dengan  ekstra  metode bagging memberikan kinerja yang lebih baik dari pada metode pra-pemrosesan klasik.
Dari masing-masing matriks evaluasi di atas memperlihatkan  bahwa  model  KNN bagging memiliki kinerja yang baik dalam memprediksi tipe kerusakan pada dataset permesinan.  Hal  ini  terbukti  dengan  beberapa peningkatan yang sudah dipaparkan  sebelumnya.  Namun, perlu diperhatikan bahwa kekurangan pada eksperimen ini tersaji pada Tabel 2, di mana tampak peningkatan akurasi, rata-rata makro precision , dan rata-rata makro recall yang terjadi  pada  metode bagging tidak  begitu  signifikan  jika dibandingkan dengan metode pra-pemrosesan klasik. Pada perhitungan  dengan  tingkat  presisi  yang  lebih  tinggi, peningkatan  hanya  terjadi  hingga  1.83%.  Adapun kekurangan  lain  yang  tampak  terlihat  adalah  penurunan matriks precision pada tipe kerusakan PWF sebesar minus 2.23%.

## C. Diskusi
Setelah  serangkaian  eksperimen  pada  algoritma  KNN, dapat dilihat terdapat beberapa keuntungan yang diperoleh pada  model  KNN bagging .  Pertama,  pada  Tabel  1  telah disajikan  bahwa  evaluasi  matriks  utama  menunjukkan adanya  performa  yang  lebih  baik  pada  model  KNN bagging jika  dibandingkan  dengan  model  KNN  murni atau  klasik.  Dari  ketiga  matriks  evaluasi  tampak  bahwa seluruhnya  sama-sama  mengalami  peningkatan.  Kedua, implementasi metode bagging pada algoritma KNN dapat menghasilkan  prediksi  yang  lebih  stabil  dibandingkan hasil  prediksi  pada  model  KNN  tunggal.  Ke  depannya, stabilitas  prediksi  akan  menjadi  hal  penting  dalam pemahaman lebih baik mengenai big data .
Adapun pada penelitian ini juga tidak luput dari hal-hal yang  menjadi  kekurangan.  Pertama,  pada  Tabel  1 disajikan bahwa terdapat penurunan hasil matriks evaluasi precision untuk  salah  satu  tipe  kerusakan,  yakni  tipe kerusakan PWF. Kedua, perhitungan jarak pada algoritma KNN murni membutuhkan kalkulasi komputasi yang tidak sedikit.  Sehingga,  dengan  aplikasi  metode bagging pada algoritma  KNN  akan  membuat  kerja  komputasi  menjadi
lebih  berat.  Meskipun  hal-hal  demikian  bukan  menjadi fokus utama dalam studi ini, namun hal itu dapat menjadi beberapa perhatian sebagai catatan perbaikan untuk studi- studi di masa mendatang. Dengan demikian, implementasi dari metode bagging perlu dikembangkan lebih lanjut.

## IV. KESIMPULAN
Dalam tujuannya untuk mengklasifikasi tipe kerusakan mesin  pada dataset permesinan,  studi  ini  menunjukkan bahwa  model  KNN bagging memiliki  kinerja  prediksi yang  cukup  baik.  Penelitian  ini  juga  telah  membuktikan bahwa  kombinasi  metode bagging pada  algoritma  KNN dapat  memberikan  peningkatan  kinerja,  tetapi  dengan tetap  mempertahankan  kesederhanaannya.  Meskipun begitu,  eksperimen  ini  juga  meninggalkan  catatan  untuk perbaikan selanjutnya, seperti misal mengenai peningkatan  yang belum  signifikan  ataupun  terkait  beban komputasi yang meningkat.
Kendati  demikian,  studi  ini  bisa  menjadi  pedoman untuk studi-studi serupa di kemudian hari. Lebih jauh lagi, diharapkan untuk beberapa studi di masa mendatang agar ikut  bereksperimen  terhadap  implementasi  metode bagging pada algoritma pembelajaran mesin. Hal ini tidak terlepas  dari  ruang  lingkup  seperti:  mencari  jumlah  sub- bagian  yang  optimal  pada bagging ,  melakukan  uji  coba terhadap  metode  serupa  dengan  berbagai  ragam  jenis dataset ,  mengimplementasikan  metode bagging pada berbagai jenis algoritma,  membandingkan algoritma yang tepat  dalam  implementasi  metode bagging selain tree- based algorithms , dan sebagainya.

## DAFTAR PUSTAKA
[1] M.  O.  K.  Mendonça,  S.  L.  Netto,  P.  S.  R.  Diniz,  and  S. Theodoridis,  “Machine  learning:  Review  and  trends,”  Signal Processing and Machine Learning Theory, pp. 869–959, Jan. 2024, doi: 10.1016/B978-0-32-391772-8.00019-3.
[2] O. A. Victor, Y. Chen, and X. Ding, “Non-Invasive Heart Failure Evaluation  Using  Machine  Learning  Algorithms,”  Sensors  2024, Vol.  24,  Page  2248,  vol.  24,  no.  7,  p.  2248,  Mar.  2024,  doi: 10.3390/S24072248.
[3] M.  R.  Firmansyah  and  Y.  P.  Astuti,  “Stroke  Classification Comparison with KNN through Standardization and Normalization  Techniques,”  Advance  Sustainable  Science, Engineering  and  Technology,  vol.  6,  no.  1,  p.  02401012,  Jan. 2024, doi: 10.26877/ASSET.V6I1.17685.
[4] S. A. Rajagukguk, S. Cendekia, H. Jimbaran, and K. Selatan Bali, “Tinjauan  Pustaka  Sistematis:  Prediksi  Prestasi  Belajar  Peserta Didik  dengan  Algoritma  Pembelajaran  Mesin,”  Jurnal  Sains,
Nalar, dan Aplikasi Teknologi Informasi, vol. 1, no. 1, pp. 22–32, Aug. 2021, doi: 10.20885/SNATI.V1I1.4.
[5] D.  Lopez-Bernal,  D.  Balderas,  P.  Ponce,  and  A.  Molina, “Education  4.0:  Teaching  the  Basics  of  KNN,  LDA  and  Simple Perceptron  Algorithms  for  Binary  Classification  Problems,”
Future Internet 2021, Vol. 13, Page 193, vol. 13, no. 8, p. 193, Jul. 2021, doi: 10.3390/FI13080193.
[6] R. Adawiyah, M. Muljono, and W. E. Nugroho, “Algoritma Naive Bayes  Untuk  Memprediksi  Bimbingan  Konseling  Siswa  Sekolah Menengah  Kejuruan,”  Smart  Comp :Jurnalnya  Orang  Pintar Komputer,  vol.  12,  no.  3,  pp.  723–731,  Jul.  2023,  doi: 10.30591/SMARTCOMP.V12I3.5365.
[7] A. Wilson et al., “A Comparison of Generalised Linear Modelling with  Machine  Learning  Approaches  for  Predicting  Loss  Cost  in Motor Insurance,” Risks 2024, Vol. 12, Page 62, vol. 12, no. 4, p. 62, Mar. 2024, doi: 10.3390/RISKS12040062.
[8] P.  Hasan  Putra,  A.  Azanuddin,  B.  Purba,  and  Y.  Agustina Dalimunthe,  “Random  Forest  and  Decision  Tree  Algorithms  for Car Price Prediction,” Jurnal Matematika Dan Ilmu Pengetahuan Alam LLDikti Wilayah 1 (JUMPA), vol. 3, no. 2, pp. 81–89, Sep. 2023, doi: 10.54076/JUMPA.V3I2.305.
[9] D.  U.  Ozsahin,  M.  Taiwo  Mustapha,  A.  S.  Mubarak,  Z.  Said Ameen,  and  B.  Uzun,  “Impact  of  feature  scaling  on  machine learning  models  for  the  diagnosis  of  diabetes,”  in  Proceedings  - 2022  International  Conference  on  Artificial  Intelligence  in Everything,  AIE  2022,  Institute  of  Electrical  and  Electronics Engineers Inc., 2022, pp. 87–94.
doi:
10.1109/AIE57029.2022.00024.
[10]  S.  K.  Smit  and  A.  E.  Eiben,  “Comparing  parameter  tuning methods for evolutionary algorithms,” in 2009 IEEE Congress on Evolutionary  Computation,  CEC  2009,  2009,  pp.  399–406.  doi: 10.1109/CEC.2009.4982974.
[11]  S.  Matzka,  “Explainable  Artificial  Intelligence  for  Predictive Maintenance Applications,” Proceedings  - 2020 3rd International
Conference on Artificial Intelligence for Industries, AI4I 2020, pp. 69–74, Sep. 2020, doi: 10.1109/AI4I49448.2020.00023.
[12]  Moch.  Lutfi,  “Implementasi  Metode  K-Nearest  Neighbor  dan Bagging Untuk Klasifikasi Mutu Produksi Jagung,” agromix, vol. 10, no. 2, 2019, doi: 10.35891/agx.v10i2.1636.
[13]  IEEE Computer Society and Institute of Electrical and Electronics Engineers.,  “2020  Third  International  Conference  on  Artificial Intelligence  for  Industries :  AI4I  2020 :  proceedings :  virtual conference, 21-23 September 2020.,” p. 83.
[14]  L.  B.  V.  de  Amorim,  G.  D.  C.  Cavalcanti,  and  R.  M.  O.  Cruz, “The  choice  of  scaling  technique  matters  for  classification performance,”  Appl  Soft  Comput,  vol.  133,  Dec.  2022,  doi: 10.1016/j.asoc.2022.109924.
[15]  J.  Spatial,  H.  Han,  and  J.  Suh,  “Spatial  Prediction  of  Soil Contaminants  Using  a  Hybrid  Random  Forest–Ordinary  Kriging Model,” Applied Sciences 2024, Vol. 14, Page 1666, vol. 14, no. 4, p. 1666, Feb. 2024, doi: 10.3390/APP14041666.
[16]  Y.  Xiong  et  al.,  “Groundwater  Quality  Assessment  Based  on  the Random Forest Water Quality Index—Taking Karamay City as an Example,” Sustainability (Switzerland), vol. 15, no. 19, p. 14477, Oct. 2023, doi: 10.3390/SU151914477/S1.
[17]  S.  Faiqotul  Ulya,  Y.  Sukestiyarno,  P.  Hendikawati,  and  D.  Juli, “Analisis Prediksi Quick Count dengan Metode Stratified Random Sampling  dan  Estimasi  Confidence  Interval  Menggunakan Metode  Maksimum  Likelihood,”  Unnes  Journal  of  Mathematics, vol. 7, no. 1, pp. 108–119, Nov. 2018, doi: 10.15294/UJM.V7I1.27385.
[18]  X. Liu, X. Liu, R. Zhang, D. Luo, G. Xu, and X. Chen, “Securely Computing  the  Manhattan  Distance  under  the  Malicious  Model and  Its  Applications,”  Applied  Sciences  2022,  Vol.  12,  Page 11705,  vol.  12,  no.  22,  p.  11705,  Nov.  2022,  doi: 10.3390/APP122211705.