Judul: Interpretability of Random Forest and Double Random  Forest Models for Predicting the Heart Disease Status and the Working Poor
Abstrak: Random Forest (RF) merupakan salah satu model yang umum digunakan dalam analisis klasifikasi. RF mampu mengatasi kelemahan model pohon keputusan tunggal dengan menggunakan pengacakan dalam pembentukan pohon-pohon keputusan yang menghasilkan prediksi yang akurat. Di sisi lain, RF memiliki kelemahan saat menghasilkan pohon yang ukurannya tidak cukup besar dengan parameter nodesize terkecil yang dianggap sebagai model yang underfit. Double Random Forest (DRF) dikembangkan untuk mengatasi kekurangan tersebut dan terbukti unggul dalam menangani model yang underfit yang dihasilkan oleh RF. Model pohon gabungan seperti RF dan DRF sulit diinterpretasikan karena kompleksitasnya. Penggunaan metode interpretasi model seperti pendekatan aturan asosiasi, membantu dalam menjelaskan hubungan peubah yang terdapat dalam model pohon gabungan. Aturan asosiasi mampu menjelaskan struktur model dengan mengekstrak aturan dari setiap pohon keputusan yang terbentuk dalam model pohon gabungan. Aturan-aturan ini membantu menggambarkan hubungan antara peubah penjelas dan peubah respon dalam bentuk ”jika-maka”. Penelitian ini bertujuan untuk membandingkan interpretabilitas model RF dan DRF menggunakan aturan asosiasi. Data simulasi digunakan untuk mengevaluasi kinerja model RF dan DRF dari aspek interpretabilitas model. Data simulasi dibuat dengan memperhitungkan kondisi data yang tidak underfit dan data yang underfit, dengan melibatkan dua kelas pada peubah respon (Y) dan empat peubah penjelas (X1,X2,X3,X4). Peubah X1 merupakan data kontinu, sedangkan peubah X2, X3, dan X4 adalah peubah skala nominal. Peubah X2, X3, dan X4 diubah menjadi peubah dummy untuk menganalisis pengaruh masing-masing kategori dalam peubah tersebut. Peubah dummy tersebut diberikan koefisien yang dapat mencerminkan pengaruh dari setiap kategori terhadap kelas Y=1. Data yang tidak underfit dan data yang underfit dibangkitkan berdasarkan trial dan error. Data yang underfit merupakan hasil dari pemodelan RF ketika nilai akurasi uji relatif kurang dari 1. Penelitian ini juga menerapkan metode interpretasi model pada data empiris menggunakan data pasien penyakit jantung dan data pekerja miskin. Data pasien penyakit jantung bersumber dari UCI. Peubah respon yang digunakan terdiri dari pasien penyakit jantung dan tidak memiliki penyakit jantung. Sementara itu, data pekerja miskin bersumber dari hasil Survei Sosial Ekonomi Nasional 2022 di Provinsi DI Yogyakarta dan DKI Jakarta. Peubah respon yang digunakan terdiri dari 2 kelas yaitu pekerja miskin dan pekerja tidak miskin. Pembentukan model dilakukan setelah mengidentifikasi kemungkinan terjadinya RF menghasilkan model yang underfit pada data ini. Penerapan metode ekstraksi aturan dari model menghasilkan aturan-aturan yang dapat menjelaskan kombinasi peubah untuk memprediksi status pasien penyakit jantung dan pekerja miskin. Hasil kajian simulasi dengan pengaturan data simulasi yang tidak underfit tidak menunjukkan adanya perbedaan kinerja prediksi antara RF dan DRF. Sementara itu, prediksi model DRF lebih baik daripada RF yang ditunjukkan oleh nilai akurasi dan AUC yang tinggi dan signifikan pada data simulasi yang underfit. Ekstraksi aturan dari pohon keputusan yang terbentuk dalam RF dan DRF menunjukkan adanya perbedaan signifikan pada data yang tidak underfit dan data yang underfit. Sebagian besar nilai confidence tidak menunjukkan perbedaan yang signifikan antara aturan yang terbentuk dari RF dan DRF. Sementara itu, nilai support menunjukkan bahwa aturan-aturan yang dihasilkan dari DRF memiliki support yang lebih tinggi daripada RF pada data yang tidak underfit dan data yang underfit. Hasil ini mengindikasikan bahwa aturan-aturan yang berasal dari DRF lebih sering muncul dalam pohon yang terbentuk
Keyword: association rules, double random forest, extraction rule, working poor