## JURNAL MEDIA INFORMATIKA BUDIDARMA
ISSN 2614-5278 (media cetak), ISSN 2548-8368 (media online) Available Online at https://ejurnal.stmik-budidarma.ac.id/index.php/mib DOI: 10.30865/mib.v6i3.4146

## Implementasi XGBoost Pada Keseimbangan Liver Patient Dataset dengan SMOTE dan Hyperparameter Tuning Bayesian Search
Rahmad Ubaidillah, Muliadi * , Dodon Turianto Nugrahadi, M Reza Faisal, Rudy Herteno
Matematika dan Ilmu Pengetahuan Alam, Ilmu Komputer, Universitas Lambung Mangkurat, Banjarbaru, Indonesia Email: 1 rahmaddillah0202@gmail.com, 2, * Muliadi@ulm.ac.id, 4 reza.faisal@ulm.ac.id Email Penulis Korespondensi: Muliadi@ulm.ac.id
Abstrak Penyakit liver merupakan gangguan pada fungsi hati yang disebabkan oleh infeksi virus, bakteri atau bahan beracun lainnya sehingga organ hati tidak dapat berfungsi dengan baik. Penyakit liver ini perlu didiagnosis sejak dini menggunakan algoritma  klasifikasi.  Dengan  menggunakan  Indian  liver  patient  dataset  dapat  dilakukan  prediksi  menggunakan  algoritma klasifikasi untuk menentukan pasien penderita penyakit liver maupun tidak. Akan tetapi pada dataset ini memiliki permasalahan dimana terdapat ketidakseimbangan data antara pasien penderita penyakit liver dan tidak, sehingga dapat menurunkan performa model  prediksi  karena  cenderung  menghasilkan  prediksi  yang  tidak  spesifik.  Pada  penelitian  ini  melakukan  klasifikasi menggunakan metode XGBoost  yang kemudian ditambahkan dengan SMOTE untuk mengatasi ketidakseimbangan kelas pada dataset dan/atau digabungkan dengan hyperparameter tuning Bayesian search agar performa model yang dihasilkan menjadi lebih  baik.  Dari  penelitian  hasil yang  didapatkan  dari model  XGBoost  memperoleh  nlai  AUC  sebesar  0.618,  untuk  model XGBoost  dengan  Bayesian  search  memperoleh  nilai  AUC  sebesar  0.658,  kemudian  untuk  model  XGBoost  SMOTE memperoleh nilai AUC sebesar 0.716, lalu untuk model XGBoost SMOTE dengan Bayesian search memperoleh nilai AUC sebesar 0.767. Dari perbandingan keempat model, XGBoost SMOTE dengan Bayesian search memperoleh hasil AUC paling tinggi dan memiliki selisih AUC 0.149 terhadap model XGBoost tanpa SMOTE dan Bayesian search.
Kata Kunci: Klasifikasi; XGBoost; SMOTE; Hyperparameter Tuning; Bayesian Search
Abstract− Liver disease is a disorder of liver function caused by infection with viruses, bacteria or other toxic substances so that the liver cannot function properly. This liver disease needs to be diagnosed early using a classification algorithm. By using the Indian liver patient dataset, predictions can be made using a classification algorithm to determine whether or not patients have liver disease. However, this dataset has a problem where there is an imbalance of data between patients with liver disease and those without, so it can reduce the performance of the prediction model because it tends to produce non-specific predictions. In this study, classification uses the XGBoost method which is then added with SMOTE to overcome class imbalances in the dataset and/or combined with Bayesian search hyperparameter tuning so that the resulting model performance is better. From the research, the results obtained from the XGBoost model get an AUC value of 0.618, for the XGBoost model with Bayesian search the AUC value is 0.658, then for the XGBoost SMOTE model the AUC value is 0.716, then for the XGBoost SMOTE model with Bayesian search the AUC value is 0.767. From the comparison of the four models, XGBoost SMOTE with Bayesian search obtained the highest AUC results and has an AUC difference of 0.149 compared to the XGBoost model without SMOTE and Bayesian search.
Keywords : Classification; XGBoost; SMOTE; Hyperparameter Tuning; Bayesian Search

## 1. PENDAHULUAN
Hati  merupakan  salah  satu  organ  di  dalam  tubuh  manusia  dan  memiliki  fungsi  yang  penting  terhadap  tubuh manusia. Organ hati memiliki fungsi utama sebagai detiksifikasi racun atau penetral racun. Selain itu organ hati juga berfungsi sebagai tempat penyimpanan glikogen, berperan sebagai metabolisme kolesterol, membantu proses pembentukan dan sekresi empedu, sintesa urea [1]. Organ hati juga rentan terserang penyakit sehingga organ hati tidak  berfungsi  dengan  baik  bahkan  dapat  menyebabkan  kematian.  Penyakit  liver  merupakan  gangguan  pada fungsi hati yang disebabken oleh infeksi virus, bakteri atau bahan beracun lainnya sehingga tidak dapat melakukan fungsinya  dengan  baik  [2].  Dalam  mendiagnosis  penyakit  liver  dapat  digunakan  acuan  dari  hasil  tes  fungsi diantaranya transaminase serum, fosfatase alkali, total bilirubin, bilirubin terkonjungsi, total protein, albumin, serta rasio  albumin  dan  globulin.  Dari  hasil  tes  tersebut  dilakukan  diagnosis  pasien  liver  menggunakan  algoritma klasifikasi [3].
Peneliti  yang  melakukan  penelitian  menggunakan Indian  liver  patient  dataset adalah  RizkiFadhia  [4], peneliti melakukan penelitian dengan membandingkan beberapa metode klasifikasi  diantaranya Decission  Tree (C4.5), Naïve bayes, K-Nearest Neighbor, Log-R dan Deep Learning . Dari perbandingan kelima model tersebut didapatkan  hasil  kinerja  terbaik  menggunakan  metode Decission  Tree(C4.5) dengan  nilai  AUC  sebesar  0.594. selain  itu,  peneliti  yang  melakukan  penelitian  menggunakan Indian  liver  patient  dataset adalah  Musyaffa  dan Rifai[5].  Peneliti  melakukan  penelitian  menggunakan  metode Support  vector  machine berbasis particle  swarm optimization. Dari penelitian itu didapatkan hasil kinerja model menggunakan AUC sebesar 0.661. XGBoost ( Extreme Gradient Boosting ) merupakan suatu algoritma kombinasi antara boosting dan gradient boosting . Model klasifikasi yang dibangun menggunakan metode boosting adalah dengan cara melakukan prediksi dari  error  model  sebelumnya  untuk membuat  model  baru.  Algoritma  ini  dinamakan  sebagai gradient  boosting , dengan  penggunaan gradient  descent dilakukan  untuk  memperkecil  error  pada  saat  pembentukan  model  baru. XGBoost adalah salah satu algoritma ensemble tree yang terdiri dari classification and Regression trees (CART) [6]. Konsep boosting merupakan proses iterative untuk meningkatkan performa dari klasifikasi dan tree ensemble

## JURNAL MEDIA INFORMATIKA BUDIDARMA
ISSN 2614-5278 (media cetak), ISSN 2548-8368 (media online) Available Online at https://ejurnal.stmik-budidarma.ac.id/index.php/mib DOI: 10.30865/mib.v6i3.4146
merupakan  konsep  yang  mengkombinasikan  beberapa  pohon  keputusan  sehingga  menghasilkan  performa  yang lebih baik dibandingkan satu pohon keputusan.
Menurut  RizkiFadhia  [4]  pada  penelitiannya  menggunakan  dataset  yang  diambil  dari  UCI  Machine Learning  Repositori  yaitu ILDP( Indian Liver Patient  Dataset ), dilakukan proses  klasifikasi  untuk mencari  tahu tentang  akurasi  dan  performa  model  prediksi.  Akan  tetapi  pada  dataset  ini  terdapat  ketidakseimbangan  kelas sehingga dapat menurunkan performa model prediksi karena menghasilkan prediksi yang tidak spesifik.
SMOTE merupakan metode untuk mengatasi ketidakseimbangan data dengan cara meningkatkan jumlah sampel kelas minoritas sehingga setara dengan kelas mayoritas. SMOTE memiliki waktu prediksi yang lambat, akan tetapi dapat dengan optimal mengatasi ketidakseimbangan kelas.
XGBoost merupakan algoritma yang memiliki banyak parameter yang mana parameter tersebut berperan penting dalam meningkatkan kinerja suatu algoritma. Konfigurasi parameter yang tepat pada suatu model dapat meningkatkan kinerja model tersebut. Salah satu cara pendekatan untuk hyperparameter tuning adalah Bayesian Search. Bayesian Search adalah metode pengoptimalan dengan memodelkan ruang pencarian untuk mendapatkan nilai parameter yang dioptimalkan secepat mungkin.
Dari  latar  belakang  tersebut  maka  akan  dilakukan  penelitian  tentang  resampling  data  menggunakan SMOTE untuk menangani masalah ketidakseimbangan kelas pada Indian Liver Pattient Dataset. Berbeda dengan konsep  oversampling  yang  memperbanyak  data  secara  acak,  konsep  SMOTE  yaitu  menambah  data  minoritas dengan cara membangkitkan data buatan berdasarkan k-tetangga terdekat. Untuk klasifikasi menggunakan model XGBoost. Peningkatan performa model SMOTE-XGBoost menggunakan hyperparameter tuning Bayesian Search untuk mendapatkan model yang optimal.

## 2. METODOLOGI PENELITIAN
Alur penelitian dapat dilihat pada gambar 1 dibawah ini
Mulai Train XGBOOST SMOTE Bayesian Search XGBOOST Evaluasi Selesai Bayesian Search XGBOOST XGBOOST SMOTE Preprocessing Test Pembagian Data Pengumpulan Data
Gambar 1. Alur Penelitian

## 2.1 Pengumpulan Data
Dataset yang digunakan pada penelitian ini adalah Indian Liver Patient Dataset yang diambil dari UCI Machine Learning  Repository .  Dataset  ini memiliki  583  instance  yang  terdiri  dari  10 fitur, masalah  yang  dihadapi  pada

## JURNAL MEDIA INFORMATIKA BUDIDARMA
ISSN 2614-5278 (media cetak), ISSN 2548-8368 (media online) Available Online at https://ejurnal.stmik-budidarma.ac.id/index.php/mib DOI: 10.30865/mib.v6i3.4146
dataset ini adalah ketidakseimbangan kelas pada dataset dengan perbandingan 466 record untuk kelas mayoritas dan 117 record untuk kelas minoritas. Berikut beberapa sampel Indian liver patient datset
Tabel 1. Indian Liver Patient Dataset PA PG TB DB ALK SGPT SGOT TP ALB A/G CLASS 65 Female 0.7 0.1 187 16 18 6.8 3.3 0.9 1 62 Male 10.9 5.5 699 64 100 7.5 3.2 0.74 1 62 Male 7.3 4.1 490 60 68 7 3.3 0.89 1 58 Male 1 0.4 182 14 20 6.8 3.4 1 1 72 Male 3.9 2 195 27 59 7.3 2.4 0.4 1 Keterangan : PA = Age PG
= Gender
TB
= Total Bilirubin DB = Direct Bilirubin ALK = Alkaline Phosphotase SGPT = Alamine Aminotransferase SGOT   = Aspartate Aminotransferase TP = Total Protein ALB = Albumin A/G = Ratio Albumin and Globulin Ratio.

## 2.2 Preprocessing
Sebelum  data  digunakan  untuk  melatih  model,  perlu  adanya  penyesuaian  pada  data  terlebih  dahulu  agar  tidak berdampak buruk pada kinerja sebuah model, preprocessing yang akan dilakukan pada penelitian ini adalah

## 2.2.1 Menghapus Missing Value
Pada dataset yang diperoleh terdapat beberapa data yang masih kosong atau tidak memiliki nilai. Missing value dapat  mengakibatkan  penurunan  terhadap  kualitas  data  dan  berpengaruh  dapat  pengukuran  tingkat  keakuratan suatu  data  pada  saat  akan  dilakukan  pengolahan  data  lebih  lanjut[7]  Untuk  menangani  missing  value  dapat dilakukan dengan cara menghapus keseluruhan baris dari nilai yang hilang. Dataset setelah dilakukan penghapusan missing value dapat dilihat pada tabel 2.
Tabel 2. Deskripsi Dataset Setelah Penghapusan Missing Value Data Pasien liver Bukan pasien liver Total Indian liver patient dataset 414 165 579

## 2.2.2 Label Encoder
Pada dataset yang diperoleh tedapat fitur yang memiliki tipe data string. label encoder dilakukan untuk merubah fitu yang memiliki bentuk data string menjadi bentuk angka/numerik. Fitur gender memiliki 2 kategori data yaitu male dan female. Kategori tersebut ditransformasi menjadi nilai 0 dan 1. Selain itu nilai pada fitur selector/class juga ditransformasi menjadi 0 dan 1.

## 2.2.3 Minmax
Minmax merupakan salah satu metode normalisasi data yang digunakan untuk menghindari dominasi pada atribut yang memiliki selisih nilai yang besar terhadap atribut yang memiliki selisih nilai yang kecil. Adapun persamaan minmax yaitu[8].
D ' ( i ) = D ( i ) -min(D) max ( D ) -min(D) (1)

## 2.3 Pembagian Data
Dataset yang digunakan akan dibagi menjadi dua partisi yaitu data training dan data testing. Data training berguna sebagai  data latih  untuk  pembentukan model machine learning  sedangkan data testing  berguna sebagai  data uji untuk mengukur kinerja dari model machine learning yang dibuat. Data training dan data testing dibagi dengan proporsi 80% untuk data training dan 20% untuk data testing.

## 2.4 SMOTE
Pada  dataset  terdapat  ketidakseimbangan  kelas  sehingga  dapat  mempengahi  kinerja  model,  perlu  dilakukan resampling  agar  data  menjadi  setara.  SMOTE  merupakan  metode  untuk  menyeimbangan  data  dengan  cara membangkitkan data buatan untuk kelas minoritas berdasarkan k-tetangga terdekat. Menurut Sulistiyono, et al.,

## JURNAL MEDIA INFORMATIKA BUDIDARMA
ISSN 2614-5278 (media cetak), ISSN 2548-8368 (media online) Available Online at https://ejurnal.stmik-budidarma.ac.id/index.php/mib DOI: 10.30865/mib.v6i3.4146
Submitted: 22/05/2022 ; Accepted: 24/07/2022 ; Published: 25/07/2022
[9] fungsi dari SMOTE ditulis dengan SMOTE (X,N,k), dimana X disebutkan sebagai data minoritas, N disebutkan sebagai  persentase  jumlah  instance  yang  akan  dibuat,  dan  k  disebutkan  sebagai  jumlah  instance  terdekat  dari instance yang dicari menggunakan rumus jarak Euclidean distance dengan persamaannya sebagai berikut :
𝑑𝑖𝑠𝑡 =   √(𝑥 1 + 𝑦 1 ) 2 + (𝑥 2 + 𝑦 2 ) 2 + ⋯ + (𝑥 𝑛 + 𝑦 𝑛 ) 2 (2)
Setelah  menghitung  jarak  instance  dengan Euclidean  distance ,  dilakukan  pembuatan  data  replikasi  dari instance terdekat dengan persamaan :
𝑥 𝑠𝑦𝑛 = 𝑥 𝑖 + (𝑥 𝑘𝑛𝑛 − 𝑥 𝑖 ) x 𝜎 (3)

## 2.5 XGBoost
Setelah  data  diseimbangkan,  selanjutnya  dilakukan  klasifikasi  menggunakan  metode  XGBoost  sehingga didapatkan model machine learning. XGBoost adalah algoritma berbasis decision tree. model tersebut merupakan algoritma ensemble tree yang terdiri dari beberapa pohon klasifikasi atau pohon regresi[6]. Proses pembentukan pohon pertama diambil dari data latih (feature, Y) mendapatkan hasil estimasi pohon pertama (Y1). Selanjutnya pada  pohon  kedua  dilakukan  proses  pembentukan  pohon  dari  data  latih  (feature,  |Y-Y1|),  dimana  nilai  |Y-Y1| merupakan  selisih  dari  label  nyata  dengan  label  prediksi  tahap  sebelumnya.  Pohon  ketiga  melakukan  proses pembentukan pohon dari data (feature, |Y-Y1-Y2|) dan memperoleh hasil estimasi Y3. Dari langkah tersebut, nilai error dapat direduksi dengan efektif. Berikut adalah stuktur dari XGBoost[10].
(Feature, Y) (Feature, Y-Y1)
(Feature, Y-Y1-Y2)
Gambar 2. Struktur XGBoost

## 2.6 Bayesian Search
Bayesian  search  dilakukan  untuk  mencari  nilai  hyperparameter  optimal  pada  model  XGBoost  sehinggaa didapatkan model terbaik. Bayesian search melakukan pencarian dari probabilitas sebelumnya untuk mendapatkan titik  terbaik  hingga  iterasi  terakhir.  Percarian  hyperparameter  tuning  pada  model  XGBoost  divalidasi  dengan menggunakan  10-fold  validation  dan  untuk  mencari  hyperparameter  optimal,  hyperparameter  pada  model XGBoost dikonfigurasi berdasarkan penelitian [11] yang bisa dilihat pada table 3.
Tabel 3. Hyperparameter tuning range Parameter Keterangan Domain Learning_rate Tingkat  dimana  model  melakukan  pembelajaran pola dalam data. 0.01-1.00 Min_child_weight Jumlah minimal dari bobot instance yang diperlukan pada child. 1-10 Max_depth Jumlah kedalaman maksimal dari sebuah pohon. 3-11 colsample_bytree Untuk mengatur jumlah fitur. 0.1-0.8 Gamma Loss  reduction  minimum  yang  dibutuhkan  dalam membuat sebuah split 1e-9 - 0.5 N_estimator Banyaknya pohon yang akan dibuat 100-250

## 2.7 Evaluasi
Evaluasi merupakan langkah terakhir yang digunakan untuk mengukur kinerja dari suatu model. Pada penelitian ini, model akan dievaluasi menggunakan AUC( Area Under Curve) karena menurut Pujianto [9] AUC merupakan salah satu  cara yang  baik agar  mendapatkan nilai kinerja model klasifikasi secara umum dan mengukur kinerja terhadap ketidakseimbangan kelas, hasil evaluasi AUC yang tinggi menunjukkan kinerja yang baik. Permodelan klasifikasi pada penelitian ini dibagi menjadi 4 percobaan, pertama melakukan prediksi kinerja model XGBoost, kedua melakukan prediksi kinerja model XGBoost dengan penambahan hyperparameter tuning Bayesian search, yang  ketiga  melakukan  prediksi  kinerja  model  XGBoost  dengan  penambahan  penyeimbangan  data  SMOTE, keempat  melakukan  prediksi  kinerja  model  XGBoost  dengan  penambahan  penyeimbangan  data  SMOTE  dan hyperparameter tuning Bayesian search.

## JURNAL MEDIA INFORMATIKA BUDIDARMA
ISSN 2614-5278 (media cetak), ISSN 2548-8368 (media online) Available Online at https://ejurnal.stmik-budidarma.ac.id/index.php/mib DOI: 10.30865/mib.v6i3.4146

## 3. HASIL DAN PEMBAHASAN
Implementas  penelitian  ini  dilakukan  dengan  melakukan  resampling  data  menggunakan Syntetic  Minority OverSampling Tecnique (SMOTE), lalu dilakukan perhitungan dengan menggunakan algoritma Extreme Gradient Boosting (XGBoost). Pada algoritma XGBoost dilakukan pencarian hyperparameter terbaik agar mendapat model paling  optimal  dengan  menggunakan  metode  Bayesian  Search  Cross  Validation  (BayessearchCV).  Penelitian dilakukan dengan menggunakan google colab dan bahasa pemrograman Python. Dari penelitian yang dilakukan dengan  menggunakan  Indian  liver  patient  dataset,  didapatkan  4  model  klasifikasi  dengan  perbandingan  hasil kinerja AUC sebagai Berikut.

## 3.1 XGBoost
Proses  klasifikasi  dilakukan  dengan  menggunakan  Indian  liver  patient  dataset.  Model  XGBoost  tanpa menggunakan konfigurasi  hyperparameter dan dataset  yang digunakan tidak dilakukan resampling  data. Model XGBoost dilatih menggunakan data training dan dievaluasi menggunakan data testing. Adapun hasil kinerja model XGBoost dapat dilihat pada tabel 4.
Tabel 4. Hasil Evaluasi Model XGBoost Model Nilai AUC XGBoost 0.618

## 3.2 XGBoost dengan Bayesian Search
Model  XGBoost  dengan hyperparameter  tuning  Bayesian  search dan  tanpa  dilakukan  resampling  data  pada dataset,  konfigurasi hyperparameter dilakukan  sebanyak  100  iterasi  sehingga  menghasilkan  100  kandidat konfigurasi hyperparameter. Untuk hyperparameter yang dikonfigurasi menggunakan Bayesian search bisa dilihat pada tabel 2.
Kombinasi  Model  XGBoost  dengan Bayesian  search menghasilkan  konfigurasi hyperparameter terbaik yang didapatkan pada iterasi ke 92 dan nilai hyperparameter optimal yang didapatkan yaitu colsample_bytree = 0.4162216359187666 , gamma = 0.5, learning_rate = 0.9543408543098589 , max_depth = 6, min_child_weight = 1,  dan  n_estimator  =  121.    Evaluasi  kinerja  model  XGBoost  dengan  hyperparameter  tuning  Bayesian  search menggunakan AUC dapat dilihat pada tabel 5.
Tabel 5. Hasil Evaluasi Model XGBoost dengan Bayesian search Model Nilai AUC XGBoost dengan Bayesian search 0.658

## 3.3 XGBoost dengan SMOTE
Model XGboost dengan menggunakan penyeimbangan data SMOTE. SMOTE melakukan resampling pada data training sehingga kelas minoritas setara dengan kelas mayoritas. Jumlah kelas minoritas dan mayoritas pada data training setelah dilakukan resampling SMOTE bisa dilihat pada tabel 6.
Tabel 6. Deskripsi dataset Data Pasien liver Bukan pasien liver Total Data training 331 331 662
Hasil kinerja dari Kombinasi Model XGBoost dengan penambahan SMOTE dapat dilihat pada tabel 7.
Tabel 7. Hasil Evaluasi Model XGBoost dengan SMOTE Model Nilai AUC XGBoost dengan SMOTE 0.716

## 3.4 XGBoost dengan SMOTE dan Bayesian Search
Model XGboost dengan menggunakan penyeimbangan data SMOTE dan hyperparameter tuning Bayesian search . SMOTE  melakukan  resampling  pada  data  training  sehingga  kelas  minoritas  setara  dengan  kelas  mayoritas. Konfigurasi  hyperparameter  dilakukan  sebanyak  100  iterasi  sehingga  menghasilkan  100  kandidat  konfigurasi hyperparameter. H yperparameter yang dikonfigurasi menggunakan Bayesian search bisa dilihat pada tabel 2. Kombinasi  Model  XGBoost  dengan  penyeimbangan  data  SMOTE  dan  hyperparameter  tuning  Bayesian  search menghasilkan  konfigurasi  hyperparameter  terbaik  yang  didapatkan  pada  iterasi  ke  82  dan  nilai  hyperparameter optimal  yang  didapatkan  yaitu  colsample_bytree  = 0.24743825032022093 ,  gamma  = 0.38661222585080557 , learning_rate =1.0, max_depth = 9, min_child_weight = 6, dan n_estimator=180. Evaluasi kinerja model XGBoost dengan hyperparameter tuning Bayesian search yang dapat dilihat pada tabel 8.

## JURNAL MEDIA INFORMATIKA BUDIDARMA
ISSN 2614-5278 (media cetak), ISSN 2548-8368 (media online) Available Online at https://ejurnal.stmik-budidarma.ac.id/index.php/mib DOI: 10.30865/mib.v6i3.4146
Tabel 8. Hasil Evaluasi Model XGBoost dengan SMOTE dan Bayesian search Model Nilai AUC XGBoost dengan SMOTE dan Bayesian search 0.767
Hasil  uji  penelitian  menunjukkan  peningkatan  kinerja  model  dengan  penambahan  penyeimbangan  data SMOTE dan pengoptimalan hyperparameter tuning menggunakan Bayesian search . Hasil evaluasi setiap model bisa dilihat pada tabel 9.
Tabel 9. Perbandingan Kinerja Model Model Nilai AUC XGBoost 0,618 XGBoost dengan Bayesian search 0,658 XGBoost dengan SMOTE 0,716 XGBoost dengan SMOTE dan Bayesian search 0,767
Model  XGBoost  tanpa penyeimbangan data SMOTE dan tanpa hyperparameter tuning Bayesian  search (A) menghasilkan nilai AUC sebesar 0.618, model XGBoost dengan hyperparameter tuning Bayesian search (B) menghasilkan nilai AUC sebesar 0.658, model XGBoosat dengan penyeimbangan data SMOTE (C) menghasilkan nilai AUC sebesar 0.716 dan model XGBoost dengan penyeimbangan data SMOTE dan hyperparameter tuning Bayesian search (D) menghasilkan nilai AUC sebesar 0.767. Dari hasil uji model, dapat divisualisasi kurva ROC- AUC untuk mempersentasikan performa model yang dihitung berdasarkan data true positive rate dan false positive rate yang bisa dilihat pada gambar 3.
Gambar 3. Kurva ROC-AUC Model

## 4. KESIMPULAN
Pada penelitian ini mengusulkan penanganan ketidakseimbangan kelas menggunakan SMOTE dan peningkatan performa model menggunakan hyperparameter tuning Bayesian search dengan menggunakan algoritma klasifikasi XGBoost yang kemudian dilakukan pengukuran kinerja model menggunakan AUC. Penelitian dilakukan dengan menggunakan Indian Liver Patient Dasaset, yang kemudian dilakukan preprocessing untuk membersihkan dataset. Untuk split data dilakukan pembagian sebesar 80% untuk data training dan 20% untuk data testing . Berdasarkan penelitian yang telah dilakukan, didapatkan empat model klasifikasi, pertama model XGBoost dengan nilai AUC sebesar 0.618, yang kedua model XGBoost  dengan hyperparameter tuning Bayesian  search dengan nilai  AUC

## JURNAL MEDIA INFORMATIKA BUDIDARMA
ISSN 2614-5278 (media cetak), ISSN 2548-8368 (media online) Available Online at https://ejurnal.stmik-budidarma.ac.id/index.php/mib DOI: 10.30865/mib.v6i3.4146
sebesar 0.658, ketiga model XGBoost dengan penambahan SMOTE dengan nilai AUC sebesar 0.716, dan model keempat yaitu kombinasi XGBoost dengan penambahan SMOTE dan hyperparameter tuning Bayesian search dan didapat nilai AUC sebesar 0.767. dari keempat model klasifiaksi, dapat disimpulkan bahwa penambahan SMOTE dan hyperparameter tuning Bayesian search memberikan peningkatan hasil kinerja model klasifikasi menggunakan metode XGBoost pada prediksi penderita penyakit liver.
Saran  yang  dapat  dilakukan  untuk  penelitian  selanjutnya  adalah  dengan  melakukan  percobaan  dengan menggunakan metode klasifikasi yang lebih baru seperti LightGBM atau Catboost.

## REFERENCES
[1] P. Widodo, “Rule-Based Classifier untuk Mendeteksi Penyakit Liver,” Bianglala Inform. , vol. II, no. 1, pp. 71–80, 2014, [Online]. Available: https://ejournal.bsi.ac.id/ejurnal/index.php/Bianglala/article/view/563/455
[2] E.  Rahmawati,  “UNTUK  PREDIKSI  PENYAKIT  LIVER,”  vol.  XII,  no.  2,  2015,  [Online].  Available: http://archive.ics.uci.edu/ml/.
[3] P. Handayani et al. , “PREDIKSI PENYAKIT LIVER DENGAN MENGGUNAKAN METODE DECISION TREE DAN NEURAL NETWORK,” 2019.
[4] M.  Rizkifahdia,  “PERBANDINGAN  ALGORITMA  KLASIFIKASI  UNTUK  PREDIKSI  PENYAKIT  LIVER,” J. Rekayasa Perangkat Lunak , vol. vol 1, no. no 2, pp. 82–88, 2020, [Online]. Available: http://jurnal.bsi.ac.id/index.php/reputasi
[5] N.  Musyaffa  and  B.  Rifai,  “Model  Support  Vector  Machine  Berbasis  Particle  Swarm  Optimization  Untuk  Prediksi Penyakit  Liver,” JITK  (Jurnal  Ilmu  Pengetah.  Dan  Teknol.  Komputer) ,  vol.  3,  no.  2,  pp.  189–194,  2018,  doi: https://doi.org/10.33480/jitk.v3i2.
[6] E. Putri and I. Sari, “Perbandingan Metode Multilayer Perceptron (MLP) dan Xtreme Gradient Boosting (XGBoost) pada Data  Ekspresi  Gen  Hepatocelluler  Carsinoma  Terinfeksi  Hepatitis  B.”  2012.  [Online].  Available: http://repository.unimus.ac.id
[7] Moch.  Lutfi  and  Mochamad  Hasyim,  “Penanganan  Data  Missing  Value  Pada  Kualitas  Produksi  Jagung  Dengan Menggunakan Metode K-Nn Imputation Pada Algoritma C4.5,” J. Resist. (Rekayasa Sist. Komputer) , vol. 2, no. 2, pp. 89–104, 2019, doi: 10.31598/jurnalresistor.v2i2.427.
[8] N. Ghaniaviyanto Ramadhan and A. Khoirunnisa, “JURNAL MEDIA INFORMATIKA BUDIDARMA Klasifikasi Data Malaria Menggunakan Metode Support Vector Machine,” vol. 5, pp. 1580–1584, doi: 10.30865/mib.v5i4.3347.
[9] M. Sulistiyono, Y. Pristyanto, S. Adi, and G. Gumelar, “SISTEMASI: Jurnal Sistem Informasi Implementasi Algoritma Synthetic Minority Over-Sampling Technique untuk Menangani Ketidakseimbangan Kelas pada Dataset Klasifikasi”, [Online]. Available: http://sistemasi.ftik.unisi.ac.id
[10]  R.  Siringoringo,  R.  Perangin-angin,  and  J.  Jamaluddin,  “Model  Hibrid  Genetic-Xgboost  Dan  Principal  Component Analysis Pada Segmentasi Dan Peramalan Pasar,” METHOMIKA J. Manaj. Inform. dan Komputerisasi Akunt. , vol. 5, no. 2, pp. 97–103, 2021, doi: 10.46880/jmika.vol5no2.pp97-103.
[11]  Y.  Laurensia,  J.  C.  Young,  and  A.  Suryadibrata,  “Early  Detection  of  Diabetic  Retinopathy  Cases  using  Pre-trained EfficientNet and XGBoost,” Int. J. Adv. Soft Comput. its Appl. , vol. 12, no. 3, pp. 101–111, 2020.
[12]  U. Pujianto, “Strategi Resampling Berbasis Centroid Untuk Menangani Lunak,” Teknno , vol. 25, no. Maret, pp. 1–6, 2016.