Judul: Perbandingan Kinerja CatBoost dan Double Random Forest untuk Klasifikasi Multi-kelas Menggunakan Data KBLI
Abstrak: Klasifikasi multi-kelas adalah pemodelan prediktif untuk peubah respon kategori atau kelas dengan kelas lebih dari dua. Untuk menghasilkan prediksi yang baik pada klasifikasi multi-kelas cenderung lebih kompleks dibandingkan pada klasifikasi dua kelas. Salah satu hal yang mempengaruhi sulitnya prediksi adalah pola interaksi yang menjadi semakin rumit antara peubah bebas dan peubah respon seiring dengan penambahan jumlah kelas. Metode ensemble merupakan salah satu metode yang dapat digunakan untuk mengatasi permasalahan klasifikasi multi-kelas. Dibandingkan menggunakan satu pohon tunggal, metode ensemble bekerja dengan menggabungkan beberapa pohon tunggal untuk melakukan prediksi seperti pada CatBoost dan Double Random Forest (DRF). CatBoost dikembangkan berbasis gradient boosting, dan DRF adalah pengembangan dari Random Forest (RF) yang dapat menghasilkan prediksi yang lebih baik dari RF ketika model yang dihasilkan RF underfit. Penerapan klasifikasi multi-kelas salah satunya adalah untuk klasifikasi industri. Klasifikasi industri dapat diartikan sebagai kaidah atau prinsip untuk mengelompokkan suatu perusahaan berdasarkan kegiatan ekonominya ke dalam kelas tertentu. Badan Pusat Statistik (BPS) menerbitkan Klasifikasi Baku Lapangan Usaha Indonesia (KBLI) sebagai pedoman untuk mengklasifikasikan perusahaan. Pada pedoman KBLI, setiap perusahaan dapat diklasifikasikan ke dalam lima digit angka kelompok KBLI menurut rincian berupa data teks kegiatan utama dan produk utama yang dihasilkan. Penelitian ini bertujuan untuk mempelajari kinerja CatBoost dan DRF pada permasalahan klasifikasi multi-kelas menggunakan data simulasi dan empiris. Kinerja model akan dievaluasi berdasarkan nilai balanced akurasi, false positive rate, presisi makro, F1 makro dan imbalanced accuracy metrics. Pada data simulasi, dibentuk skenario klasifikasi multi-kelas dengan peubah respon sebanyak 27 kelas, fitur atau peubah bebas sebanyak 300, dan total data sebanyak 800. Proporsi jumlah data per-kelas pada data simulasi dibuat mendekati data empiris yang dibagi menjadi lima tingkat yaitu 1%, 5%, 6%, 10%, dan 30% dari total data. Terdapat tiga skenario pada data simulasi berdasarkan jarak antar kelas: dekat, sedang, dan jauh. RF juga dapat menghasilkan model yang underfit pada data simulasi skenario jarak dekat dan sedang. Pembentukan data yang underfit pada RF tersebut dilakukan berdasarkan hasil trial dan error tanpa pengaturan parameter tertentu. Pembangkitan data pada masing-masing skenario akan menghasilkan 100 data. Model CatBoost dan DRF juga diterapkan pada data empiris menggunakan data KBLI 2015. Data KBLI yang digunakan bersumber dari hasil listing sensus ekonomi 2016 dan berfokus pada kategori I yaitu penyediaan akomodasi dan penyediaan makan minum. Peubah respon pada data empiris adalah sebanyak 26 kelas berdasarkan kelompok KBLI lima digit. Rincian yang digunakan untuk membentuk peubah bebas adalah rincian teks deskripsi kegiatan utama dan produk utama perusahaan. Ekstraksi fitur menggunakan TF-IDF digunakan pada kedua rincian tersebut untuk mentransformasi data teks menjadi data numerik supaya dapat diolah pada model. Hasil ekstraksi fitur adalah kolom-kolom berupa kata-kata unik dari seluruh deskripsi kegiatan utama dan produk utama pada perusahaan. Pada data empiris terdapat rasio ketidakseimbangan data sebesar 78, sehingga dilakukan penyeimbangan data menggunakan SMOTE. Terdapat dua model yang dibentuk pada data empiris, yaitu model tanpa SMOTE dan model dengan SMOTE. Penelitian ini juga melakukan interpretasi hasil model CatBoost menggunakan LIME. LIME merupakan metode yang dapat menjelaskan fitur yang berkontribusi dalam melakukan prediksi dari data individu. Berdasarkan beberapa data individu yang digunakan untuk interpretasi, LIME menjelaskan fitur-fitur yang menjadi pembeda atau
Keyword: catboost, double random forest, kbli, klasifikasi multi-kelas

Judul: Study of Unbalanced Data Handling Methods in Multiclass Classification
Abstrak: Metode penyeimbangan data pada kasus multi kelas terus berkembang seiring dengan pentingnya kondisi data yang seimbang untuk analisis klasifikasi. Semakin besar perbedaan proporsi suatu kelas terhadap kelas lainnya, semakin besar pula kemungkinan menurunnya kinerja klasifikasi. Tiga pendekatan penanganan data tak seimbang secara garis besar, yaitu pendekatan tingkat data, pendekatan tingkat algoritma dan pendekatan gabungan (hybrid). Pendekatan tingkat data yang sering digunakan yaitu Synthetic Minority Oversampling Technique (SMOTE), Adaptive Synthetic (ADASYN), dan SMOTE and Cluster-based Undersampling Technique (SCUT). Selain itu, untuk meningkatkan kinerja hasil klasifikasi juga digunakan metode ensemble. Penelitian ini bertujuan mengkaji kinerja SMOTE, ADASYN, dan SCUT yang dikombinasikan dengan random forest, adaboost, decision tree, dan metode stacking dalam menyeimbangkan data dan meningkatkan kinerja klasifikasi, khususnya sensitivitas kelas minoritas. Penelitian ini menggunakan lima gugus data yang bersumber dari UCI Machine Learning Repository yaitu data balance-scale, red wine quality, internet firewall, ecoli, dan glass. Selain itu, kajian juga menggunakan data riil Indonesia, yaitu data kemiskinan pada tahun 2020 yang bersumber dari Badan Pusat Statistik (BPS). Keenam data tersebut memiliki jumlah amatan, peubah, dan kelas yang beragam. Data penelitian juga memiliki beberapa kriteria seperti berikut: (1) Proporsi kelas yang tidak seimbang, (2) Besarnya jumlah amatan, (3) Tumpang tindih (overlapping) antarkelas, dan (4) Subkonsep dalam kelas. Keenam gugus data yang digunakan dapat memiliki seluruh atau sebagian kriteria ketakseimbangan data. Pemodelan dilakukan pada data latih. Metode penanganan ketakseimbangan data yang diterapkan yaitu SMOTE, ADASYN, dan SCUT. Kemudian proses klasifikasi diterapkan pada data asli (data tak seimbang) dan data yang telah diseimbangkan dengan tiga metode tersebut. Pengklasifikasi yang digunakan adalah random forest, adaboost, decision tree, dan metode stacking. Pengklasifikasi dasar pada metode stacking yang digunakan adalah random forest, adaboost, dan decision tree serta menggunakan meta learner regresi logistik. Hasil klasifikasi dievaluasi dengan cara membandingkan kombinasi-kombinasi metode yang terbentuk berdasarkan akurasi, sensitivitas, dan F1-score. Selain itu, analisis perbandingan menggunakan uji Friedman dan Nemenyi post hoc untuk menentukan kombinasi metode penanganan data tak seimbang yang signifikan dalam meningkatkan akurasi, sensitivitas, dan F1-score. Kemudian, hasil uji perbandingan di sajikan melalui diagram Demsar. Kondisi ketakseimbangan data dibagi menjadi tiga kondisi, yaitu: (1) Ketakseimbangan data sangat ekstrem yang terjadi pada data red wine quality, internet firewall, ecoli, dan glass, (2) Ketakseimbangan data sedikit ekstrem yang terjadi pada data balance-scale, dan (3) Ketakseimbangan data tidak ekstrem yang terjadi pada data kemiskinan. Kriteria data lain yang dieksplorasi yaitu kondisi overlapping. Beberapa kondisi tersebut yang mungkin terjadi di antaranya, (1) Posisi terpisah yang terjadi pada data balance-scale, (2) Posisi beririsan yang terjadi pada data ecoli, dan (3) Posisi menumpuk yang terjadi pada data red wine quality, internet firewall, glass, dan kemiskinan. Metode SMOTE, ADASYN, dan SCUT secara umum dapat menyeimbangkan kelas sehingga proporsi kelas menjadi merata pada semua gugus data. Namun demikian, fungsi SCUT pada package scutr mengalami error saat mengolah data ecoli karena metode tersebut tidak mampu bekerja pada data dengan anggota kelas kurang dari 5 amatan. Oleh sebab itu, amatan pada ketiga kelas dihapus sehingga data ecoli terdiri atas 5 kelas sisanya. Secara umum, akurasi prediksi yang diperoleh dari keseluruhan data cukup bagus, khususnya yang menggunakan metode stacking sebagai pengklasifikasinya. Penggunaan metode penanganan
Keyword: ensemble, multiclass, unbalanced data

Judul: Synthesis of Apatite - Chitosan Composite Using Duck Eggshell and Chitosan with Temperature and pH Control
Abstrak: Composite of apatite-chitosan was prepared by using chitosan as polymer matrix. Calcium phosphate was prepared from CaO and (NH4)2HPO4, which the ratio Ca : P had to be 1.67. Chitosan is produced by deacetilase from biopolymer chitin. Duck eggshell (95% CaCO3) as starting material was converted to be calcium oxide (CaO) through calcinations with temperature 1000oC for 5 hours. In-situ and ex-situ methods were prepared from apatite and chitosan (dissolved with acetate acid 2%). Calcium phosphate prepared for bone implantation, but it is too fragile and brittle to be implant into the body. So addition of chitosan can decrease crystalinity and increase mechanic characteristic (tougher). Composite apatite-chitosan was resulted by fast precipitation. Fast precipitation was held in a breaker glass with nitrogen atmosphere, under controlled temperature at 37oC and pH 7, in order to increase amount of hydroxyapatite. Precipitation with CaO which was dropped by (NH4)2HPO4. Hydroxyapatite and chitosan were appearing at samples with in-situ and ex-situ methods which indicating by peak matching of XRD (closed lattice parameter, crystal size), overlapping at FTIR spectra and supporting by SEM picture (homogenous and agglomerated particle). However, it still needs further research to examine biocompatibility osteoconductive degree of sample by in-vivo and in-vitro test.
Keyword: