ISSN online: 2476-9754, ISSN print: 2623-0429 DOI : https://doi.org/10.21067/smartics.v8i1.6879
Prediksi Kelulusan Mahasiswa Menggunakan Support Vector Machine Berbasi Particle Swarm Optimization
Iddrus a,* , Hartarto Junaedi b
a Pascasarjana Teknologi Informasi, Institut Sains dan Teknologi Terpadu Surabaya, Indonesia
b Program Studi Sistem Informasi, Fakultas Komputer, Universitas Alma Ata, jl. Brawijaya 99, Yogyakarta, 55183, Indonesia
* correspondence email : isalwafi@gmail.com
Abstract — One of the criteria for a good accreditation grade must be to meet the student's timely graduation rate. The punctuality of students is still a crucial problem in several universities in Indonesia. Many factors cause students to fail to complete their studies on time. Student data owned by the university can be processed using data mining techniques to become useful information for this graduation problem. Based on these problems, research was   conducted   for   student   graduation   using   the   Support   Vector   Machine   (SVM)   based   on   Particle   Swarm Optimization (SVM+PSO). The test results obtained in this study are the linear SVM Kernel Model Accuracy of 95.91%, the RBF Kernel SVM Model Accuracy of 95.91% and the Polynomial SVM Kernel Model Accuracy of 96.20%. Meanwhile, the SVM+PSO Merger Model increased the Linear Kernel's accuracy to 96.12% (+ 0.21) and the RBF Kernel to 96.24% (+ 0.33) but experienced a decrease in the accuracy of the Polynomial Kernel to 96.12%. (- 0.08).
Index Terms — prediction; graduation; SVM; PSO.
Abstrak –Salah satu kriteria grade akreditasi yang baik yang harus terpenuhi adalah tingkat kelulusan tepat waktu mahasiswa. Ketepatan waktu mahasiswa masih menjadi masalah krusial dibeberapa perguruan tinggi di   Indonesia.   Banyak   faktor   yang   menyebabkan   mahasiswa   gagal   menyelesaikan   studinya   dengan   tepat waktu. Data mahasiswa yang dimiliki universitas dapat diolah menggunakan teknik data mining sehingga menjadi informasi yang berguna untuk masalah kelulusan ini. Berdasarkan masalah tersebut maka dilakukan penelitian untuk memprediksi kelulusan mahasiswa menggunakan model algoritma Support Vector Machine (SVM) dan model penggabungan algoritma Support Vector Machine berbasis Particle Swarm Optimization (SVM+PSO). Hasil ujicoba yang didapatkan pada penelitian ini yaitu Akurasi Model SVM Kernel Linier sebesar   95,91   %,   Akurasi   Model   SVM   Kernel   RBF   sebesar   95,91   %   dan   Akurasi   Model   SVM   Kernel Polynominal   sebesar   96,20   %.   Sedangkan   Model   Penggabungan   SVM+PSO   mampu   meningkatkan   hasil akurasi pada kernel Linier menjadi 96,12 % (+ 0.21) dan Kernel RBF menjadi 96,24 % (+ 0.33), namun mengalami penurunan nilai akurasi pada kernel Polynominal menjadi 96,12 % (-0.08).
Kata Kunci — prediksi; kelulusan; SVM; PSO

## I. PENDAHULUAN
Perguruan   tinggi   diharuskan   memiliki   kualitas   agar   dapat   menjadi   daya   tarik   bagi   siswa   lulusan SMA/MA/SMK   untuk   melanjutkan   pendidikan.   Dalam   upaya   peningkatan   kualitas   perguruan   tinggi, lulusan   yang   berkualitas   menjadi   satu   dari   sekian   banyak   indikatornya.   Salah   satu   acuan   kualitas perguruan   tinggi   dapat   dilihat   dari   grade   akreditasi   yang   diberikan   oleh   Badan   Akreditasi   Nasional Perguruan   Tinggi   (BAN-PT).   Grade   akreditasi   yang   baik   dapat   diperoleh   perguruan   tinggi   dengan melengkapi  kriteria-kriteria  yang telah ditentukan BAN-PT. Salah  satu kriteria  yang harus  terpenuhi adalah tingkat kelulusan tepat waktu pada perguruan tinggi[1].
Ketepatan waktu studi mahasiswa masih menjadi masalah krusial di beberapa perguruan tinggi di Indonesia. Hal ini juga lazim ditemui di perguruan tinggi swasta, tak terkecuali Universitas Wiraraja. Banyak   faktor   yang   menyebabkan   mahasiswa   gagal   menyelesaikan   studinya   dengan   tepat   waktu. Perguruan tinggi pun berupaya menyiapkan beragam kebijakan untuk mengatasi masalah waktu studi mahasiswa.   Salah   satu   cara   untuk   mengatasi   masalah   tersebut   adalah   dengan   mendeteksi   sejak   dini kemungkinan kelulusan mahasiswa.
Universitas Wiraraja sudah memiliki sistem informasi yang memuat semua data terkait mahasiswa, mulai dari data pribadi, orang tua, sekolah asal dan data akademik secara terintegrasi. Data tersebut dapat diolah   dengan   teknik   tertentu   sehingga   menjadi   sebuah   informasi   yang   bermanfaat   untuk   mengatasi
masalah yang dialami, waktu studi mahasiswa misalnya. Salah satu teknik yang dapat digunakan untuk pengolahan data adalah dengan menggunakan data mining.
Data mining adalah analisa terhadap data yang berjumlah besar untuk menemukan hubungan yang jelas sehingga dapat ditarik kesimpulan dan berguna bagi pemilik data. Salah satu teknik yang dapat digunakan dalam data mining adalah prediksi. Salah satu model prediksi yang dapat digunakan Support Vector Machine (SVM)[2].
Banyak   penelitian   yang   telah   dilakukan   sebelumnya   menggunakan   Algoritma   Support   Vector Machine (SVM). Support Vector Machine (SVM) dianggap mampu menyelesaikan permasalahan pada kasus prediksi. Namun Support Vector Machine (SVM) memiliki keterbatasan ketika jumlah atribut yang digunakan   relatif   banyak   yang   mengakibatkan   beban   komputasi   menjadi   berat   dan   akurasi   menjadi kurang akurat. Untuk mengatasi masalah tersebut dibutuhkan sebuah metode optimasi.
Sequential Minimal Optimization (SMO) adalah algoritma pelatihan Support Vector Machine (SVM) yang efektif untuk mengatasi permasalahan yang ada. Namun hasil dari algoritma Sequential Minimal Optimization (SMO) sangat begantung pada pemilihan parameter yang berbeda. Akibatnya, pemilihan parameter pada Sequential Minimal Optimization (SMO) menjadi suatu hal yang krusial.
Beberapa penelitian lainnya menyarankan penggabungan Support Vector Machine dengan Particle Swarm   Optimization  [2],[3],[4],[5],[6]  dan  [7].   Hasil   penelitian   yang   pernah   dilakukan   sebelumya membuktikan Particle Swarm Optimization (PSO) dapat mengoptimalkan penggunaan variabel prediksi sehingga   hasil   akurasi   prediksi   yang   dihasilkan   lebih   baik[3].   Beberapa   kelebihan   Particle   Swarm Optimization (PSO) adalah mudah untuk diimplementasikan, hanya membutuhkan sedikit parameter dan lebih efisien.
Berdasarkan   pemaparan   di   atas,   maka   menjadi   penting   bagi   peneliti   untuk   melakukan   penelitian terhadap   mahasiswa   di   Universitas   Wiraraja   untuk   memprediksi   kelulusan   mahasiswa   dengan menggunakan   teknik   Data   Mining   yaitu   menggunakan   algoritma   Support   Vector   Machine   Berbasis Particle Swarm Optimization.

## II. METODE
Support Vector Machine (SVM) merupakan suatu algoritma atau metode untuk mengatasi klasifikasi atau prediksi  [4]. Prinsip kerja dari algoritma ini adalah dengan mencari bagian pemisah / hyperplane yang terbaik atau yang paling optimal  dari  suatu dataset. Gambar  1. mengilustrasikan secara  umum hyperplane pada SVM.
Vektor pendukunh Kelas 2 Garis Batas Kelas 2 Pemisah/Hyperpla ne Batas Baris Kelas 1 Kelas 1 m Gambar 1 . Ilustrasi  metode  SVM
Data yang paling dekat dengan hyperplane di setiap kelas disebut vektor pendukung/ Support Vector , jarak antara vektor pendukung di setiap kelas dilambangkan dengan m.
Particle   Swarm   Optimization (PSO)   pertama   kali   diperkenalkan   oleh   seorang   psikologi   sosial bernama   James   Kennedy   dan   Russell   Eberhart   yang   merupakan   seorang   Insinyur   Elektro.   PSO terinspirasi dari perilaku kawanan burung. Setiap burung dalam sebuah kawanan akan berperilaku sesuai kecerdasannya masing-masing dan juga akan dipengaruhi oleh perilaku swarm dalam kelompok secara kolektif.   PSO   tidak   hanya   digunakan   untuk   bidang   ilmu   tetapi   juga   untuk   aplikasi   rekayasa.   Pada akhirnya   algoritma   PSO   dikembangkan   menjadi   algoritma   untuk   mengendalikan   dan   mengatasi permasalahan optimasi [8].
PSO   merupakan   algoritma   terbaik   dan   efektif   dalam   mengatasi   permasalahan   optimasi   karena kemudahan dalam penerapan kode dan performanya yang konsisten[5]. PSO diimplementasikan dalam penelitian   ini   untuk   mengoptimalkan   parameter   SVM   yaitu   gamma   (γ).   γ   adalah   parameter   yang
Prediksi Kelulusan Mahasiswa Menggunakan Support Vector Machine Berbasi Particle Swarm Optimization (Iddrus)
ditentukan   pengguna   SVM  dengan   demikian,   penentuan   teknik  pemilihan   parameter   adalah   masalah penting. SVM memiliki kelemahan dalam menentukan nilai optimal γ[5].
Pada   Penelitian   ini   mengusulkan   2   (dua)   model   prediksi   yang   akan   diujikan   dan   dibandingkan hasilnya. Model prediksi yang diusulkan yaitu menggunakan algoritma Support Vector Machine (SVM) dan   kombinasi   algoritma Support   Vector   Machine menggunakan Particle   Swarm     Optimization (SVM+PSO). Peran dari penggunaan Particle Swarm Optimization (PSO) adalah untuk mendapatkan nilai RMSE terkecil dan akurasi yang tinggi.
Berikut adalah diagram dari arsitektur sistem mengenai penelitian yang akan dilakukan ditunjukkan pada gambar 2.
Gambar 2. Alur Penelitian
Data yang digunakan pada penelitian ini merupakan data mahasiswa reguler Fakultas Ekonomi dan Bisnis   Universitas   Wiraraja   yang   beralamatkan   di   Jl.   Raya   Pamekasan   -   Sumenep   Patean   Sumenep Madura. Data mahasiswa yang digunakan meliputi data akademik, data pendaftaran dan data pribadi mahasiswa. Penelitian ini menggunakan data mahasiswa angkatan tahun 2015 sampai 2017 sebanyak 1.151 dataset dengan 17 variabel. Adapun variabel-variabel yang digunakan dijelaskan pada tabel 1.
Tabel 1.  Atribut pada dataset No Atribut Tipe Data No Atribut Tipe Data 1 Usia Numerik 10 Total SKS Numerik 2 Jenis Kelamin Biner 11 Jumlah MK Mengulang Numerik 3 Penghasilan Orang Tua Scale 12 Jumlah SKS Mengulang Numerik 4 Nilai UN Numerik 13 Nilai Pelatihan Komputer Numerik 5 IPS1 Numerik 14 Nilai Pelatihan B. Inggris Numerik 6 IPS2 Numerik 15 Asal Sekolah Biner 7 IPS3 Numerik 16 Status Sekolah Biner 8 IPS4 Numerik 17 Jurusan Sekolah Scale 9 IPK Numerik
Sebelum dataset dilakukan tahap mining atau analisis terlebih dahulu dataset harus dilakuakan proses preprocessing data. Preprocessing data merupakan tahapan yang sangat penting dalam proses data mining dikarenakan jika input data yang berkualitas akan dapat memberikan output analisis yang berkualitas pula. Tahapan preprocessing yang dilakukan pada penelitian ini adalah Transformasi Data, Redundant Data, Missing Value, Outlier Data, dan Normalisasi Data.
Prediksi Kelulusan Mahasiswa Menggunakan Support Vector Machine Berbasi Particle Swarm Optimization (Iddrus)
Gambar 3. Tampilan Dataset  setelah preprocessing
Dataset yang telah dilakukan proses preprocessing data akan diklasifikasikan menggunakan tipe kernel yang berbeda pada SVM yaitu : kernel linear, RBF dan polynominal.
Tabel 2.  Parameter Kernel SVM No Kernel Parameter 1 Linear Cost (C) 2 Radial Basis Function (RBF) Cost (C) dan Gamma 3 Polynominal Cost (C), Gamma dan Degree

## A. Model Prediksi SVM
Model prediksi Support Vector Machine (SVM) yang dibangun  dengan Rapidminer sebagai berikut :
Gambar 4. Model Prediksi SVM

## B. Model Prediksi SVM+PSO
Model prediksi Support Vector Machine (SVM) dikombinasikan dengan  Particle Swarm Optimization (PSO) yang dibangun dengan Rapidminer sebagai berikut :

## Gambar 5. Model Prediksi SVM+PSO
Prediksi Kelulusan Mahasiswa Menggunakan Support Vector Machine Berbasi Particle Swarm Optimization (Iddrus)

## III. HASIL DAN PEMBAHASAN

## A. Hasil Pengujian Model SVM
Pengujian model dilakukan menggunakan 3 (tiga) tipe kernel yang dimiliki SVM yaitu Linier, RBF dan Polynominal. Pengujian model SVM Kernel Linier menggunakan Epsilon dan Cost. Berikut hasil dari beberapa percobaan yang telah dilakukan :
Tabel 3. Hasil Uji coba Model SVM Kernel Linier
No Epsilon Cost Hasil Akurasi AUC 1 0 0 0.96 0.98 2 0 0 0.96 0.98 3 0 0 0.96 0.98 4 0 0 0.96 0.98 5 0 1 0.96 0.98 6 1 0 0.95 0.98 7 1 0 0.96 0.98 8 1 0 0.96 0.98 9 1 0 0.96 0.98 10 1 1 0.95 0.98
Hasil terbaik pada ujicoba SVM kernel linier diatas adalah pada Epsilon=0.5 dan Cost=0.5 dihasilkan akurasi sebesar 95,61 dan AUCnya adalah 0,977 .
Pada ujicoba kernel RBF menggunakan nilai Epsilon, Cost dan Gamma. Nilai Epsilon dan Cost diambil dari hasil akurasi terbaik pada pengujian kernel linier yaitu Epsilon=0.5 dan Cost=0.5 . Berikut hasil ujicoba model SVM Kernel RBF :
Tabel 4. Hasil Ujicoba Model SVM Kernel RBF
No Epsilon Cost Gamma Hasil Akurasi AUC 1 0,5 0,5 0 68.42% 0.964 2 0,5 0,5 0,25 95.91% 0.982 3 0,5 0,5 0,5 95.91% 0.979 4 0,5 0,5 0,75 95.61% 0.975 5 0,5 0,5 1 95.91% 0.978
Hasil terbaik pada ujicoba SVM kernel RBF diatas adalah pada Epsilon=0.0, Cost=0.5, dan Gamma=1 dihasilkan akurasi sebesar 95,91 dan AUCnya adalah 0,978 .
Pada ujicoba kernel Polynominal menggunakan nilai Epsilon, Cost, Gamma dan Degree. Nilai Epsilon, Cost dan Gamma diambil dari hasil akurasi terbaik pada pengujian kernel RBF yaitu Epsilon=0.5, Cost=0.5 dan Gamma=1 . Berikut hasil uji coba model SVM Kernel Polynominal : Tabel 5. Hasil Uji coba Model SVM Kernel Polynominal
No Epsilon Cost Gamma Degree Hasil Akurasi AUC 1 0,5 0,5 1 1 95.91% 0.979 2 0,5 0,5 1 2 96.20% 0.977 3 0,5 0,5 1 3 95.91% 0.969 4 0,5 0,5 1 4 92.40% 0.957 5 0,5 0,5 1 5 90.35% 0.946
Hasil   terbaik   pada  uji   coba   SVM  kernel  Polynominal  diatas   adalah   pada  Epsilon=0.0,  Cost=0.5, Gamma=1 dan Degree=2 dihasilkan akurasi sebesar 96,20 dan AUCnya adalah 0,977 . Berikut grafik perbandingan hasil uji coba model SVM dengan 3 (tiga) tipe kernel :
Prediksi Kelulusan Mahasiswa Menggunakan Support Vector Machine Berbasi Particle Swarm Optimization (Iddrus)
Gambar 6. Grafik Hasil Uji coba Model SVM

## B. Hasil Pengujian Model SVM
Pada pengujian model SVM + PSO dilakukan uji coba dengan merujuk pada hasil akurasi terbaik pada setiap tipe kernel pada model SVM. Model PSO sendiri menggunakan beberapa nilai yang telah ditentukan yaitu Jumlah partikel  = 0, nilai bobot inertia, bobot kognitif dan bobot sosial masing-masing adalah 2. Berikut hasil dari beberapa percobaan yang telah dilakukan :
Tabel 6. Hasil Ujicoba Model SVM+PSO
Kernel Epsilon Cost Gamma Degree Hasil Akurasi AUC Linier 0,5 0,5 - - 96.12% 0.978 RBF 0,5 0,5 1 - 96.24% 0.973 Polynominal 0,5 0,5 1 2 96.12% 0.978
Jika  dibandingkan dengan hasil uji coba model SVM. Pada uji coba model SVM+PSO mengalami peningkatan   nilai   akurasi   pada   kernel   tipe   linier   dan   RBF,   Sedangkan   pada   kernel   polynominal mengalami  penurunan akurasi. Berikut grafik perbandingan  hasil akurasi  model SVM dengan Model SVM+PSO :

## Gambar 7. Grafik Hasil Ujicoba Model SVM dan SVM+PSO
Adapun   hasil  pembobotan  atribut   yang   diperoleh   dari   proses   optimasi   parameter   pada   PSO menghasilkan hasil berikut :
Tabel 7. Nilai Weight /Pembobotan Atribut Atribut Weight Atribut Weight umur 0.0 IPS1 1.0 jenis_sekolah 0.0 IPS2 1.0 sekolah_asal 0.0 IPS3 1.0 nilai_UN 0.0 IPS4 1.0 TPTSKS 0.0 IPK 1.0 JMLNILAIE 0.0 JMLSKSE 1.0 Jkel 1.0 NIng 1.0 hasil_ortu 1.0 Nkom 1.0 jur_slta 1.0
Tabel diatas menunjukan dari 16 atribut yang digunakan setelah dilakukan proses PSO menghasilkan 11 atribut terpilih.
Prediksi Kelulusan Mahasiswa Menggunakan Support Vector Machine Berbasi Particle Swarm Optimization (Iddrus)

## IV. KESIMPULAN
Berdasarkan   hasil   ujicoba   yang   telah   dilakukan   untuk   memecahkan   masalah   prediksi   kelulusan mahasiswa, dapat disimpulkan bahwa dari hasil uji coba menggunakan metode support vector machine (SVM) dengan 3 (tiga) tipe kernel yang berbeda mempunyai tingkat akurasi berbeda-beda. Sedangkan uji coba   yang   dilakukan   dengan   menggunakan   metode   support   vector   machine   berbasis   particle   swarm optimization (SVM+PSO) mampu meningkatkan akurasi pada 2 (dua) tipe kernel pada SVM yaitu pada kernel Linier dan RBF. Sedangkan pada model SVM+PSO kernel Polynominal mengalami penurunan nilai akurasi. Peningkatan hasil akurasi dari masing-masing kernel yang diujikan seperti dijelaskan pada tabel berikut :
Tabel 8. Peningkatan Hasil Akurasi Kernel Akurasi Peningkatan SVM SVM+PSO Linier 95,91 % 96,12 % 0,21 RBF 95,91 % 96,24 % 0,33 Polynominal 96,20 % 96,12 % -0,08

## DAFTAR PUSTAKA
[1] BAN-PT, “Akreditasi Institusi Perguruan Tinggi,” in Buku III Pedoman Penyusunan Borang , 2011.
[2] J. Du, Y. Liu, Y. Yu, and W. Yan, “A Prediction of Precipitation Data Based on Support Vector Machine and Particle Swarm Optimization (PSO-SVM) Algorithms,” Algorithms , vol. 10, no. 2, p. 57, 2017.
[3] X. Gu, T. Li, Y. Wang, L. Zhang, and J. Yao, “Traffic Fatalities Prediction Using Support Vector Machine With Hybrid Particle Swarm Optimization,” J. Algorithm. Comput. Technol. , vol. 12, no. 1, pp. 20–29, 2018.
[4] N. Zaini, M. A. Malek, M. Yusoff, N. H. Mardi, and S. Norhisham, “Daily River Flow Forecasting with Hybrid Support Vector Machine – Particle Swarm Optimization,” in IOP Conference Series: Earth and Environmental Science , 2018, vol. 140, no. 1, p. 012035.
[5] C. Shuran and L. Yian, “Breast Cancer Diagnosis and Prediction Model Based on Improved PSO-SVM Based on Gray Relational Analysis,” in International Symposium on Distributed Computing and Applications for Business Engineering and Science (DCABES) , 2020, pp. 231–234.
[6] N. A. Hitam, A. R. Ismail, and F. Saeed, “An Optimized Support Vector Machine (SVM) Based on Particle Swarm Optimization (PSO) for Cryptocurrency Forecasting,” Procedia Comput. Sci. , vol. 163, no. 16, pp. 427–433, 2019.
[7] T. P. Latchoumi and L. Parthiban, “Abnormality Detection Using Weighed Particle Swarm Optimization and Smooth Support Vector Machine,” Biomed. Res. , vol. 28, no. 11, pp. 4749–4751, 2017.
[8] H. Junaedi, M. Hariadi, and I. K. E. Purnama, “Multi Agent With Multi Behavior Based on Particle Swarm Optimization (PSO) for Crowd Movement in Fire Evacuation,” in Fourth International Conference on Intelligent Control and Information Processing (ICICIP) , 2013, pp. 366–372.
Iddrus ,  Meraih  gelar  sarjana  komputer  (S.Kom)  dari Universitas  Islam  pada  tahun  2017.  Saat ini  Penulis melanjutkan  study pascasarjana Teknologi Informasi Institut Sains Dan Teknologi Terpadu Surabaya.
Hartarto Junaedi, Meraih gelar sarjana komputer (S.Kom) dari Sekolah Tinggi Teknik Surabaya. Kemudian meraih gelar Master (M.Kom) dari Institut Teknologi Sepuluh Nopember pada tahun 2003. Kemudian meraih gelar Doktor (Dr) dari Institut Teknologi Sepuluh Nopember pada tahun 2019. Saat ini Penulis menjadi dosen pascasarjana Teknologi Informasi Institut Sains Dan Teknologi Terpadu Surabaya.
Prediksi Kelulusan Mahasiswa Menggunakan Support Vector Machine Berbasi Particle Swarm Optimization (Iddrus)