## Perbandingan Metode Ensemble Learning pada Klasifikasi Penyakit Diabetes
Linggar Maretva Cendani 1) , Adi Wibowo 2)
Departemen Ilmu Komputer/Informatika, Universitas Diponegoro
1) linggarmc@students.undip.ac.id, 2) bowo.adi@live.undip.ac.id

## Abstrak
Diabetes merupakan salah satu penyakit dalam dunia medis yang ditandai dengan kadar gula  dalam  darah  yang  tinggi  pada  penderitanya.  Menurut  data  dari  Organisasi Kesehatan  Dunia  (WHO),  pada  rentang  tahun  1980  sampai  2014,  terjadi  peningkatan kasus  penderita  diabetes  dari  108  juta  menjadi  422  juta.  Ensemble  Learning  yang merupakan salah satu metode dalam Machine Learning dapat digunakan untuk melakukan klasifikasi  penyakit  diabetes.  Pada  penelitian  ini,  dilakukan  perbandingan  3  metode Ensemble Learning, yaitu Bagging, Boosting, dan Stacking pada 3 buah dataset. 3 dataset yang digunakan adalah Pima Indians Diabetes, Frankfurt Hospital Diabetes, dan Sylhet Hospital Diabetes. Dari hasil eksperimen ensemble learning yang dilakukan pada ketiga buah dataset, didapatkan bahwa metode Boosting dapat mengungguli metode Bagging dan Stacking.  Pada  dataset  1,  didapatkan  akurasi  tertinggi  sebesar  81.82  %  dengan  model Gradient  Boosting,  Extreme  Gradient  Boosting,  dan  Cat  Boosting.  Pada  dataset  2, didapatkan akurasi tertinggi sebesar 99.25 % dengan menggunakan model Light Gradient Boosting.  Sedangkan  akurasi  tertinggi  pada  dataset  ketiga  adalah  100%  dengan menggunakan model Light Gradient Boosting dan Cat Boosting.

## Kata kunci : Bagging, Boosting, Diabetes, Ensemble Learning, Stacking

## Abstract
Diabetes is a disease in the medical world characterized by high blood sugar levels in the sufferer.  According  to  data  from  the World  Health  Organization  (WHO),  between  1980 and  2014,  there  was  an  increase  in  diabetes  cases  from  108  million  to  422  million. Ensemble  Learning,  which  is  one  of  the  Machine  Learning  paradigms,  can  be  used  to classify  diabetes.  In  this  study,  3  Ensemble  Learning  methods  were  compared,  namely Bagging,  Boosting,  and  Stacking  on 3  datasets.  The 3  datasets  used  were  Pima  Indians Diabetes, Frankfurt Hospital Diabetes, and Sylhet Hospital Diabetes. From the results of ensemble  learning  experiments  conducted  on  the  three  datasets,  it  was  found  that  the Boosting method could outperform the Bagging and Stacking methods. In dataset 1, the highest accuracy is 81.82% with Gradient Boosting, Extreme Gradient Boosting, and Cat Boosting models. In dataset 2, the highest accuracy is 99.25% using the Light Gradient Boosting model. While the highest accuracy in the third dataset is 100% using the Light Gradient Boosting and Cat Boosting models.
Keywords  : Bagging, Boosting, Diabetes, Ensemble Learning, Stacking

## 1 P ENDAHULUAN
Diabetes merupakan salah satu penyakit dalam dunia medis yang ditandai dengan kadar gula dalam darah yang tinggi pada penderitanya. Diabetes merupakan salah satu faktor utama penyebab  penyakit  jantung  koroner  dan  stroke  iskemik  [1].  Diabetes  dapat  terjadi  ketika pankreas tidak menghasilkan insulin yang cukup bagi tubuh, atau dapat juga terjadi ketika tubuh tidak  dapat  secara  efektif  menggunakan  insulin  yang  dihasilkannya.  Insulin  adalah  hormon yang  mengatur  gula  darah.  Diabetes  merupakan  salah  satu  penyakit  dengan  pertumbuhan tertinggi di dunia. Menurut data dari Organisasi Kesehatan Dunia (WHO), pada rentang tahun 1980 sampai 2014, terjadi peningkatan kasus penderita diabetes dari 108 juta menjadi 422 juta. Jumlah  ini  meningkat  lebih  cepat  pada  negara  -  negara  yang  berpenghasilan  rendah  atau menengah [2].
Penelitian  di  dunia  medis  untuk  melakukan  klasifikasi  suatu  penyakit  sudah  banyak dilakukan. Salah satu metode yang paling banyak digunakan adalah machine learning. Machine learning  dapat  melakukan  pembelajaran  dari  data  sehingga  memungkinkan  komputer  untuk melakukan  klasifikasi  atau  prediksi  berdasarkan  data  tersebut  [3].    Penggunaan  machine learning pada dunia medis dapat mengurangi biaya dan mempercepat waktu diagnosa beberapa kali lipat.
Terdapat  beberapa  penelitian  mengenai  klasifikasi  diabetes  yang  telah  dilakukan sebelumnya,  Smith  dkk. [4]  menggunakan  ADAPtive  learning  routine  (ADAP)  pada  dataset Pima  Indians  Diabetes  dan  didapatkan  nilai  sensitivitas  dan  spesifisitas  algoritme  mereka adalah 76 %. Bhoi, S.K. [5] menggunakan beberapa algoritma supervised learning pada dataset yang  sama,  dan  didapatkan  algoritma  terbaik  yaitu  Logistic  Regression  dengan  nilai  akurasi sebesar 76.80 %. Hasil ini tidak berbeda jauh dengan penelitian yang dilakukan Agatsa dkk. [6] yang memperoleh nilai akurasi tertinggi sebesar 77.92 % dengan algoritma SVM, begitupula penelitian yang dilakukan Sisodia, D., dan Sisodia, D. S. [7] yang mendapatkan akurasi sebesar 76.30 % dengan menggunakan Naive Bayes. Sedangkan penelitian yang dilakukan oleh Savvas dkk.  [8]  pada  data  yang  sama,  dengan  menggunakan  RBF  SVM  dan  Polynomial  SVM menghasilkan akurasi yang lebih baik, yaitu dengan akurasi tertinggi 84,71 % untuk Normal Cases , dan 82,41 % untuk Abnorm Cases . Metode dengan menggunakan Backward Elimination dan algoritma SVM yang dilakukan oleh Maulidina dkk. [9] didapatkan hasil yang lebih baik, yaitu 85.71 % dengan presentase data training sebesar 90% dan dilakukan feature selection . Daanouni dkk. [10] Mencoba menggunakan data yang berbeda yaitu dataset Frankfurt hospital. Dataset  ini  memiliki  fitur  yang  sama  dengan  dataset  Pima  Indians  Diabetes,  dan  didapatkan hasil nilai akurasi tertinggi sebesar 98.20 % dengan algoritma Decision Tree.
Paper  ini  mengusulkan  penggunaan  Ensemble  Learning  untuk  diperbandingan  tiap algoritmanya  pada  klasifikasi  penyakit  diabetes.  Ensemble  Learning  merupakan  salah  satu paradigma machine learning dimana beberapa model ( base-models ) dilatih untuk memecahkan yang sama dan digabungkan untuk mendapatkan hasil yang lebih baik. Penggunaan ensemble learning  pada  klasifikasi  penyakit  diabetes  telah  dilakukan  sebelumnya  oleh  Nai-Arun  dan Sittidech [11] dengan menggunakan data dari Sawanpracharak Regional Hospital dengan total 48,763  records.  Hasil  eksperimen  menggunakan  metode  Bagging  dan  Boosting  didapatkan akurasi  sebesar 95.312 % dan 95.304 % untuk kedua metode, dengan menggunakan Decision Tree  sebagai base-classifiers .  Penggunaan  ensemble  learning  juga  dilakukan  pada  penyakit
lain,  seperti  pada  kanker  serviks  yang  dilakukan  oleh  Mung,  P.  S.  dan  Phyu,  S.  [12]  yang mendapatkan hasil berupa nilai akurasi 99.89 % dengan metode Boosting menggunakan SVM sebagai base-classifier , dan nilai akurasi 98.59 % dengan menggunakan metode Bagging dan Decision  Tree  sebagai base-classifier .  Penelitian  -  penelitian  tersebut  membuktikan  bahwa ensemble  learning  dapat  memberikan  hasil  akurasi  yang  tinggi  dan  lebih  baik  dibandingkan dengan hanya menggunakan base classifier sendiri.

## 2 M ETODE P ENELITIAN

## 2.1 D ATASET
Digunakan 3 buah dataset  yang berbeda, yaitu Pima Indians Diabetes  (PID) [13] yang telah  digunakan  pada  beberapa  penelitian  sebelumnya  [4,  5,  6,  7,  8  ,  9],  Frankfurt  Hospital Diabetes [14] yang digunakan pada penelitian Daanouni dkk. [10], dan Early Stage Diabetes Risk Prediction Dataset [15].
Dataset  1  yaitu  Pima  Indians  Diabetes  didapat  dari  National  Institute  of  Diabetes  and Digestive and Kidney Diseases (NIDDK) yang merupakan data hasil diagnosa wanita dengan umur  minimal  21  tahun,  dan  memiliki  garis  keturunan  atau  darah  dari  suku  Pima  Indian, Amerika Serikat. Dataset 1 mengandung 768 record dengan jumlah 268 data positif dan 500 data negatif.
Gambar 1  Perbandingan Data Positif dan Negatif pada Dataset 1
Dataset Diabetes Suku Pima Indians dan Dataset Frankfurt Hospital memiliki fitur yang sama,  yaitu  8  fitur  numerik,  yang  masing  -  masing  adalah  :  Pregnancies,  Glucose, BloodPressure, SkinThickness, Insulin, BMI, DiabetesPedigreeFunction, Age.
Dataset  2  didapatkan  dari  rumah  sakit  di  Frankfurt,  Jerman.  Fitur  yang  dimiliki  pada dataset ini sama dengan fitur yang ada pada dataset 1. Pada dataset 2, terdapat 2000 data, dengan 684 data positif dan 1316 data negatif.
Tabel 1  Keterangan Fitur Pada Dataset 1 & 2
No Fitur Deskripsi 1 Pregnancies Jumlah kehamilan 2 Glucose Konsentrasi glukosa plasma selama 2 jam 3 BloodPressure Tekanan darah diastolik (mm Hg) 4 SkinThickness Ketebalan lipatan kulit trisep (mm) 5 Insulin Kadar serum insulin selama 2 jam (mu U/ml) 6 BMI Body Mass Index (Indeks Massa Tubuh) 7 DiabetesPedigree Function Kemungkinan diabetes berdasarkan riwayat keturunan keluarga 8 Age Usia
Pregnancies  menunjukkan  seberapa  banyak  kehamilan  yang  pernah  dialami  pasien, Glucose  menunjukkan  konsentrasi  glukosa  plasma  selama  2  jam  dalam  tes  glukosa  oral, BloodPressure  merupakan  tekanan  darah  diastolik  pasien  dengan  satuan  mm  Hg, SkinThickness menunjukkan ketebalan lipatan kulit trisep pasien dengan satuan mm, Insulin merupakan  kadar  serum  insulin  pasien  selama  2  jam  dengan  satuan  mu  U/ml,  BMI menunjukkan Body mass index pasien, DiabetesPedigreeFunction menunjukkan kemungkinan diabetes berdasarkan riwayat keturunan keluarga, dan Age menunjukkan usia pasien.

## Gambar 3  Perbandingan Data Positif dan Negatif pada Dataset 3
Dataset 3 didapatkan dari Sylhet Diabetes Hospital di Sylhet, Bangladesh yang memiliki total  520  records, dengan 320 data positif dan 200 data negatif. Dataset  3 memiliki 16 buah fitur, dengan 14 fitur boolean, 1 fitur string (Gender), dan 1 fitur numerik (Umur).
Tabel 2  Keterangan Fitur Pada Dataset 3 No Fitur Deskripsi 1 Age Usia 2 Sex Jenis kelamin 3 Polyuria Buang air berlebihan 4 Polydipsia Sering haus 5 Sudden Weight Loss Penurunan berat badan secara tiba-tiba 6 Weakness Kelemahan tubuh 7 Polyphagia Banyak makan (rasa lapar berlebih dan nafsu makan meningkat) 8 Genital thrush Ruam pada area kelamin 9 Visual Blurring Penglihatan Kabur 10 Itching Gatal - gatal 11 Irritability Mudah marah 12 Delayed Healing Penyembuhan luka berlangsung lambat 13 Partial Paresis Berkurangnya kemampuan untuk bergerak pada sebagian badan 14 Muscle stiffness Kekakuan otot 15 Alopecia Rambut rontok tiba - tiba 16 Obesity Obesitas atau kegemukan

## 2.2 P RAPEMROSESAN D ATA
Sebelum  dilakukan  proses  klasifikasi  dengan  menggunakan  ensemble  learning,  data terlebih  dulu  dilakukan  prapemrosesan.  Prapemrosesan  yang  dilakukan  terhadap  data  adalah melakukan MinMax Scaling pada tiap fitur dengan rentang antara 0 dan 1. Proses scaling ini dilakukan  pada  tiap  dataset.  Sedangkan  dataset  3  yang  memiliki  fitur  boolean  dan  string, dilakukan  prapemrosesan  tambahan  yaitu  melakukan  konversi  dari  nilai  kategorikal  ke numerik.
Setelah dilakukan MinMax Scaling, kemudian dilakukan Data Splitting, yaitu membagi data menjadi data training dan data testing, dengan presentase data training sebesar 80% dan data testing 20%.

## 2.3 E NSEMBLE L EARNING
Ensemble  Learning  adalah  paradigma  pembelajaran  mesin  dimana  beberapa  model (biasanya  disebut  " weak  learners ")  dilatih  untuk  memecahkan  masalah  yang  sama  dan digabungkan  untuk  mendapatkan  hasil  yang  lebih  baik.  Hipotesis  utamanya  adalah  bahwa ketika model yang lemah digabungkan, kita dapat memperoleh model yang lebih akurat.
Ensemble  Learning  terbagi  menjadi  3  model,  yaitu  Bagging,  Boosting,  dan  Stacking. Persamaan  dari  3  model  tersebut  adalah  semuanya  menggunakan  beberapa base  model atau model dasar berupa beberapa model machine learning.

## 2.4 B AGGING
Bagging adalah salah satu metode Ensemble Learning yang menggunakan menggunakan hanya  satu  tipe base-model dengan  melakukan  pembelajaran  secara  paralel  dan  independen pada tiap base-model , dan kemudian digabungkan untuk mendapatkan hasil yang terbaik.

## Gambar 4  Bagging Ensemble Learning
Model yang akan digunakan pada bagging ensemble learning adalah :
1. Bagging
2. Random Forest
3. Extra Trees
Base-model yang  digunakan  adalah  Decision  Tree,  karena  pada  penelitian  -  penelitian sebelumnya selalu memberikan hasil yang terbaik [10, 11, 12].

## 2.5 B OOSTING
Boosting  adalah  salah  satu  metode  Ensemble  Learning  yang  menggunakan  hanya  satu tipe model base-model dengan melakukan pembelajaran secara sekuensial secara adaptif (hasil dari  sebuah base-model tergantung  dari  hasil base-model sebelumnya),  dan  kemudian digabungkan untuk mendapatkan hasil yang terbaik.

## Gambar 5  Boosting Ensemble Learning
Model yang akan digunakan pada boosting ensemble learning adalah :
1. Adaptative boosting (AdaBoost)
2. Gradient Boosting Machines (GBM)
3. Extreme Gradient Boosting Machine (XGBM)
4. Light Gradient Boosting Machine (LGBM)
5. CatBoost
Base-model yang  digunakan  adalah  Decision  Tree,  karena  pada  penelitian  -  penelitian sebelumnya selalu memberikan hasil yang terbaik [10, 11, 12].

## 2.6 S TACKING
Stacking  adalah  salah  satu  metode  Ensemble  Learning  yang  menggunakan  beberapa base-models dengan melakukan pembelajaran secara paralel dan independen pada tiap base- model dan kemudian dikombinasikan dengan menggunakan satu algoritma meta learning untuk memberikan output dari hasil kombinasi base-models .

## Gambar 6  Stacking Ensemble Learning
Arsitektur  model  Stacking  melibatkan  dua  atau  lebih base  model ,  atau  biasa  disebut sebagai  model  level-0,  dan  meta  model  yang  menggabungkan  prediksi  base  model  disebut sebagai model level-1.
Base-model yang akan digunakan pada eksperimen stacking ensemble learning ini ada 5 model, yaitu :
1. Logistic Regression
2. Support Vector Machine (SVC)
3. Naive Bayes (Gaussian NB)
4. K-Nearest Neighbour
5. Decision Tree
Sedangkan meta-model yang akan digunakan adalah Logistic Regression.

## 2.7 E VALUATION M ODELS
Metrik evaluasi yang digunakan untuk tiap model adalah Accuracy, Precision, dan Recall. Ketiga  metrik  tersebut  dihitung  dengan  menggunakan  nilai  confussion  matrix  yang mengandung nilai true positive (TP), true negative (TN), false positive (FP), dan false negative (FN). Akurasi menghitung jumlah true positive dan true negative dibagi keseluruhan data.
𝐴𝑐𝑐𝑢𝑟𝑎𝑐𝑦 = (𝑇𝑃+𝑇𝑁) (𝑇𝑃+𝑇𝑁+𝐹𝑃+𝐹𝑁 ) (1)
Precision  menghitung  true  positive  dibagi  jumlah  keseluruhan  data  yang  diprediksi sebagai positif.
𝑃𝑟𝑒𝑐𝑖𝑠𝑖𝑜𝑛 = 𝑇𝑃 (𝑇𝑃+𝐹𝑃 ) (2)
Sedangkan Recall menghitung true positive dibagi keseluruhan data yang benar positif.
𝑅𝑒𝑐𝑎𝑙𝑙 = 𝑇𝑃 (𝑇𝑃+𝐹𝑁 ) (3)

## 3 H ASIL DAN P EMBAHASAN
Dari  3  buah  dataset  yang  masing  -  masing  sudah  dilakukan  prapemrosesan  dan  dibagi menjadi data training dan testing, kemudian dilakukan klasifikasi dengan menggunakan 3 jenis ensemble learning dan metode - metode didalamnya.
Untuk dataset 1 (Pima Indians Diabetes Database), didapatkanlah hasil sebagai berikut :
Tabel 3  Hasil Eksperimen Dataset 1
Dari hasil eksperimen yang dilakukan pada dataset 1, didapatkan akurasi tertinggi sebesar 81.82% pada 3 Model, yaitu Gradient Boosting, Extreme Gradient Boosting, dan CatBoost yang ketiganya  merupakan  Boosting  Ensemble  Learning.  Sedangkan  nilai  Precision  dan  Recall ketiganya tidak terpaut jauh, dengan nilai 78.56 untuk masing - masing Precision dan Recall pada Gradient Boosting  dan Extreme Boosting.  CatBoost sendiri memiliki  Precision sebesar 78.67% dan Recall sebesar 77.96%.
Nilai Precision dipengaruhi oleh hasil perhitungan False Positive dari model. Maka dari itu nilai Precision dapat menunjukkan kasus negatif yang diklasifikasikan sebagai positif oleh model.  Nilai  Precision  dari  CatBoost  lebih  tinggi  daripada  nilai  precision  dari  Gradient Boosting  maupun  Extreme  Gradient  Boosting.  Maka  dari  itu,  CatBoost  lebih  baik  dalam menangani pasien negatif yang diklasifikasikan sebagai positif oleh model.
Nilai Recall dipengaruhi oleh False Negative dari kasus diabetes, atau dengan kata lain dapat menjelaskan seberapa besar pasien positif diabetes yang diklasifikasikan sebagai negatif. Maka dari itu, nilai Recall dari Gradient Boosting dan Extreme Boosting yang lebih besar dari CatBoost menunjukkan bahwa kedua model lebih baik dalam menangani False Negative.
Untuk ensemble learning dengan metode bagging sendiri memiliki akurasi tertinggi pada model Bagging dengan nilai akurasi sebesar 81.17%, begitupula dengan hasil akurasi dengan metode Stacking.
No Metode Ensemble Model Accuracy Precision Recall 1 Bagging Bagging 81.17% 78.13% 76.31% Random Forest 79.87% 76.29% 75.97% Extra Trees 79.22% 75.50% 75.50% 2 Boosting Adaptative Boosting 77.92% 74.01% 74.56% Gradient Boosting 81.82% 78.56% 78.56% Extreme Gradient Boosting 81.82% 78.56% 78.56% Light Gradient Boosting 79.22% 75.51% 76.09% Cat Boosting 81.82% 78.67% 77.96% 3 Stacking Stacked Generalization 81.17% 78.65% 75.11%

## Gambar 7  Grafik Akurasi Hasil Eksperimen Pada Dataset 1
Hasil akurasi terendah didapatkan pada model Adaptative Boosting dengan nilai akurasi sebesar 77.92 %. Dataset 2 yang didapat dari Frankfurt Hospital di Jerman memiliki fitur yang sama  dengan  Dataset  1,  namun  memiliki  data  yang  lebih  banyak.  Hasil  dari  eksperimen ensemble learning pada Dataset 2 adalah sebagai berikut :

## Tabel 4  Hasil Eksperimen Dataset 2
Secara  keseluruhan  hasil  akurasi  yang  didapatkan  pada  eksperimen  ensemble  learning pada dataset 2 lebih tinggi dibandingkan dataset 1. Hal ini dapat terjadi karena jumlah dataset 2 jauh lebih banyak daripada dataset 1, sehingga model dapat belajar secara lebih baik.
No Metode Ensemble Model Accuracy Precision Recall 1 Bagging Bagging 99.25% 99.45% 98.82% Random Forest 99.00% 99.27% 98.84% Extra Trees 98.25% 98.74% 97.26% 2 Boosting Adaptative Boosting 78.75% 75.80% 74.03% Gradient Boosting 86.00% 85.55% 81.43% Extreme Gradient Boosting 86.25% 85.21% 82.44% Light Gradient Boosting 99.25% 99.23% 99.03% Cat Boosting 95.25% 95.88% 93.19% 3 Stacking Stacked Generalization 98.50% 98.09% 98.48%

## Gambar 8  Grafik Akurasi Hasil Eksperimen Pada Dataset 2
Selain itu hal ini juga dapat disebabkan karena data yang digunakan memiliki pola yang berbeda. Dari hasil eksperimen pada dataset 2, didapatkan hasil akurasi tertinggi pada model Light Gradient Boosting, dan Bagging dengan nilai akurasi sebesar 99.25 %. Sama seperti pada dataset sebelumnya, akurasi dari Boosting dapat mengungguli metode Bagging dan Stacking. Untuk nilai Precision dan Recall ketiga algoritma tersebut, didapat yang terbaik adalah pada metode Light Gradient Boosting dengan nilai Precision 99.23 % dan Recall 99.03 %. Meskipun begitu,  Adaptative  Boosting  yang  termasuk  dalam  metode  Boosting,  memiliki  akurasi  yang jauh dibawah rata - rata model lain, yaitu sebesar 78.75 %. Untuk hasil Stacking didapatkan akurasi sebesar 98.50 %.
Dataset  3  yang  didapat  dari  rumah  sakit  di  Sylhet,  Bangladesh  memiliki  fitur  yang berbeda dengan Dataset 1 dan 2. Eksperimen ensemble learning pada dataset 3 mendapatkan hasil sebagai berikut :
Tabel 5  Hasil Eksperimen Dataset 3
Dengan  jumlah  data  yang  lebih  sedikit  daripada  dataset  1,  ensemble  learning  yang dilakukan pada dataset 3 dapat memberikan hasil yang jauh lebih baik.

## Gambar 9  Grafik Akurasi Hasil Eksperimen Pada Dataset 3
Didapatkan hasil akurasi tertinggi 100% pada model Extra Trees Light Gradient Boosting dan CatBoost, begitupula nilai Recall dan Precision pada ketiga model tersebut juga mencapai 100%.  Sedangkan  nilai  akurasi  Stacking  hanya  mencapai  99.03  %.  Adaptative  Boosting kembali memberikan hasil terendah, yaitu hanya mencapai nilai akurasi sebesari 94 %.
No Metode Ensemble Model Accuracy Precision Recall 1 Bagging Bagging 97.11% 96.76% 97.18% Random Forest 99.03% 98.78% 99.22% Extra Trees 100% 100% 100% 2 Boosting Adaptative Boosting 94.23% 94.93% 92.96% Gradient Boosting 99.03% 98.78% 99.21% Extreme Gradient Boosting 99.03% 98.78% 99.21% Light Gradient Boosting 100% 100% 100% Cat Boosting 100% 100% 100% 3 Stacking Stacked Generalization 99.03% 98.78% 99.21%

## 4 K ESIMPULAN
Dari  hasil  eksperimen  3  metode  ensemble  learning,  yaitu  Bagging,  Boosting,  dan Stacking  yang  dilakukan  pada  3  buah  dataset  yang  berbeda,  didapatkan  nilai  akurasi  yang berbeda - beda pada tiap dataset.
Dataset  1  memiliki  nilai  akurasi  terbaik  sebesar  81.82  %  pada  3  model  di  metode Boosting, yaitu Gradient Boosting, Extreme Gradient Boosting, dan Cat Boosting. Sedangkan dataset  2  mendapatkan  akurasi  nilai  tertinggi  sebesar  99.25  %,  pada  model  Light  Gradient Boosting dan model Bagging. Sedangkan pada dataset 3 didapatkan nilai akurasi tertinggi 100% pada 2 model Boosting yaitu Light Gradient Boosting dan Cat Boosting, serta 1 model Bagging yaitu Extra Trees.
Dari  hasil  ketiga  dataset,  diketahui  bahwa  metode  Boosting  selalu  mendapatkan  hasil terbaik. Pada dataset 2 dan 3, metode Bagging dapat mengimbangi Boosting, namun Boosting masih memberikan hasil yang lebih baik pada nilai Precision dan Recall. Sedangkan metode Stacking tidak pernah memberikan hasil terbaik pada 3 dataset yang ada. Maka dari itu, metode Boosting  dapat  mengungguli  metode  Bagging  dan  Stacking.  Light  Gradient  Boosting  yang merupakan salah satu metode Boosting memberikan hasil akurasi tertinggi pada Dataset 2 dan Dataset 3. Namun Adaptative Boost yang termasuk pada metode Boosting selalu memberikan hasil akurasi paling rendah diantara model yang lain.

## D AFTAR P USTAKA
[1] Emerging  Risk  Factors  Collaboration.  (2010).  Diabetes  mellitus,  fasting  blood  glucose concentration,  and  risk  of  vascular  disease:  a  collaborative  meta-analysis  of  102 prospective studies. The Lancet, 375(9733), 2215-2222.
[2] World  Health  Organization. Diabetes .  2021.  URL:  https://www.who.int/en/news- room/fact-sheets/detail/diabetes, diakses tanggal 7 Juni 2021.
[3] S.  J.  Russell,  P.  Norvig,  J.  F.  Canny,  J.  M.  Malik,  and  D.  D.  Edwards,  “Artificial Intelligence: A Modern Approach”, vol. 2. Prentice hall Englewood Cliffs, 1995.
[4] Smith, J. W., Everhart, J. E., Dickson, W. C., Knowler, W. C., Johannes, R. S., “Using the ADAP learning”
[5] Bhoi, S. K. (2021). Prediction of Diabetes in Females of Pima Indian Heritage: A Complete Supervised Learning Approach. Turkish Journal of Computer and Mathematics Education (TURCOMAT), 12(10), 3074-3084.
[6] Agatsa, D. A., Rismala, R., & Wisesty, U. N. (2020). Klasifikasi Pasien Pengidap Diabetes Menggunakan Metode Support Vector Machine. eProceedings of Engineering, 7(1).
[7] Sisodia, D., & Sisodia, D. S. (2018). Prediction of diabetes using classification algorithms. Procedia computer science, 132, 1578-1585.
[8] Savvas  Karatsiolis,  Christos  N.  Schizas,  “Region  based  Support  Vector  Machine Algorithm for Medical Diagnosis on Pima Indian Diabetes DataSet”, 2012.
[9] Maulidina, F., Rustam, Z., Hartini, S., Wibowo, V. V. P., Wirasati, I., & Sadewo, W. (2021, March). Feature optimization using Backward Elimination and Support Vector Machines (SVM) algorithm for diabetes classification. In Journal of Physics: Conference Series (Vol. 1821, No. 1, p. 012006). IOP Publishing.
[10] Daanouni, O., Cherradi, B., & Tmiri, A. (2019, October). Predicting diabetes diseases using mixed  data  and  supervised  machine  learning  algorithms.  In  Proceedings  of  the  4th International Conference on Smart City Applications (pp. 1-6).
[11] Nai-Arun, N., & Sittidech, P. (2014). Ensemble learning model for diabetes classification. In Advanced Materials Research (Vol. 931, pp. 1427-1431). Trans Tech Publications Ltd.
[12] Mung,  P.  S.,  &  Phyu,  S.  (2020,  February).  Ensemble  Learning  Method  for  Enhancing Healthcare Classification. Proceedings of the 10th International Workshop on Computer Science and Engineering (WCSE 2020).
[13] UCI Machine Learning. Pima Indians Diabetes Database. 2016. URL: https://www.kaggle.com/uciml/pima-indians-diabetes-database,  diakses  tanggal  7  Juni 2021.
[14] John. diabetes. 2017. URL: https://www.kaggle.com/johndasilva/diabetes, diakses tanggal 7 Juni 2021.
[15] Ishan  Dutta.  Early  Stage  Diabetes  Risk  Prediction  Dataset.  2020.  URL: https://www.kaggle.com/ishandutta/early-stage-diabetes-risk-prediction-dataset,  diakses tanggal 7 Juni 2021.