Judul: PERFORMANCE OF TREE-BASED ENSEMBLE MODELS ON DIABETIC RETINOPATHY DISEASE CLASSIFICATION
Abstrak: Klasifikasi adalah tahap dalam proses identifikasi model yang memisahkan data ke dalam kelas-kelas. Salah satu model klasifikasi yang umum digunakan adalah Pohon Klasifikasi. Meski mudah digunakan, Pohon Klasifikasi rentan terhadap perubahan data latih yang dapat mengganggu stabilitas model. Ini bisa diatasi dengan menggunakan model ensemble, yang menggabungkan beberapa model dasar untuk prediksi yang lebih baik. Contohnya, random forest (RF) menggabungkan pohon-pohon yang dibuat dengan teknik bagging. Model ensemble lainnya seperti double random forest (DRF) dan extremely randomized trees (ET) juga meningkatkan akurasi dengan pohon yang lebih besar. Model extreme gradient boosting (XGBoost) yang merupakan pengembangan dari gradient boosting, adalah salah satu model klasifikasi dengan teknik boosting yang memiliki waktu komputasi yang cepat dan performa yang baik dibanding model pengembangnya. Kemampuan model ensemble-tree dalam melakukan klasifikasi menjadi daya tarik untuk memahami karakteristik masing-masing model tersebut. Karakteristik tersebut dipelajari menggunakan lima belas gugus data UCI Machine Learning dari tahun 2012 hingga 2022. Data yang digunakan memiliki variasi dalam jumlah variabel dan observasi. Selain itu, terdapat enam gugus data dengan rasio ketidakseimbangan kelas yang tinggi dan menghasilkan performa model yang kurang memuaskan, sehingga dilakukan penanganan ketidakseimbangan kelas menggunakan metode SMOTE. Langkah selanjutnya adalah mengidentifikasi kemungkinan terjadinya underfitting pada model RF. Proses identifikasi dilakukan untuk menguji performa model RF ketika pohon yang dihasilkan tidak cukup besar. Hasil identifikasi underfitting menunjukkan model RF mengalami kemungkinan underfitting pada delapan gugus data. Selanjutnya, performa model RF dikomparasikan dengan model DRF, ET, dan XGBoost. Komparasi model juga dilakukan pada model RF yang tidak mengalami underfitting di tujuh gugus data lainnya. Proses identifikasi underfitting, pembelajaran mesin dan evaluasi performa model diulang sebanyak 100 kali ulangan untuk mengukur stabilitas dan melihat pola dari performa model ensemble-tree. Hasil evaluasi performa model berdasarkan metrik akurasi seimbang menunjukkan bahwa model RF tetap memiliki performa yang baik ketika mengalami underfitting pada dua gugus data. Sebagai model pembanding, model ET mampu meningkatkan performa model RF ketika mengalami underfitting pada empat gugus data. Model DRF dan XGBoost juga mampu meningkatkan performa model RF masing-masing pada satu gugus data. Di sisi lain, pada model RF yang tidak mengalami underfitting, model RF menunjukkan performa yang baik pada dua gugus data, model ET pada tiga gugus data, dan model DRF pada satu gugus data. Rataan akurasi seimbang memberikan informasi terkait karakteristik model ensemble-tree. Karakteristik yang menonjol dalam penelitian ini adalah kecepatan komputasi model ET dalam melakukan pembelajaran mesin. Data dengan peubah kategorik yang lebih dominan juga lebih baik dimodelkan menggunakan model ET. Selain itu, model ET dan RF unggul dalam melakukan klasifikasi saat kelas pada peubah respon menunjukkan rasio ketidakseimbangan yang cukup besar. Ketika model RF menghadapi kemungkinan underfitting, model ET dan DRF dapat menjadi alternatif yang baik untuk menjalankan proses klasifikasi. Karakteristik tersebut dapat dijadikan pedoman dalam menerapkan model ensemble-tree pada suatu data. Meskipun demikian, selisih rataan akurasi seimbang antar model relatif kecil. Selain itu, rataan dan simpangan baku skor f1 juga menunjukkan performa antar model relatif mirip. Hasil evaluasi performa model dari kedua parameter ini mengidentifikasi bahwa keempat model memiliki performa yang relatif sama. Oleh karena itu, dilakukan uji Kruskal-Wallis untuk menguji asumsi tersebut. Hasil uji Kruskal-Wallis menunjukkan bahwa
Keyword: ensemble-tree, classification, diabetic retinopathy, random forest