Makine öğrenme yöntemleriyle öğrencilerin akademik performanslarının farklı öznitelik seçim teknikleri uygulanarak sınıflandırılması
Classification of students' academic performance by different feature selection techniques by machine learning methods
Yazar: SEMA KAYALI
Danışman: DOÇ. DR. SERKAN SAVAŞ
Çankırı Karatekin Üniversitesi / Fen Bilimleri Enstitüsü / Elektronik ve Bilgisayar Mühendisliği Ana Bilim Dalı
Derece: Yüksek Lisans, 2023
Konu: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol = Computer Engineering and Computer Science and Control
Dizin: Makine öğrenmesi yöntemleri = Machine learning methods ; Veri madenciliği = Data mining ; Öznitelik seçimi = Attribute selection

Özet:
Öğrenci ve eğitimci açısından akademik başarının artırılması her zaman istenilen durumdur. Akademik başarıyı etkileyen etmenlerin önceden bilinmesi çok önemlidir. Çalışmada, farklı öznitelik seçim teknikleri ve makine öğrenmesi algoritmaları kullanarak ortaokul öğrencilerinin akademik performanslarını sınıflandırmak amaçlanmıştır. Kullanılan veri seti, MEB'e bağlı bir ortaokuldaki 728 öğrenciden elde edilmiştir ve 24 öznitelik içermektedir. Elde edilen veri seti üzerinde ön işleme ve öznitelik seçim teknikleri uygulanmıştır. Veri ön işleme aşamasında, veri seti içerisinde yer alan kategorik değerler sayısal değerlere dönüştürülmüştür. Kullanılan veri setinin dengesiz sınıf dağılımı olduğu için SMOTE algoritması kullanılarak dengeli hale getirilmiştir. Temel veri seti ve 7 farklı öznitelik seçim tekniği kullanılarak toplam 8 veri seti elde edilmiştir. Bu veri setleri Hold out ve 5 kat çapraz doğrulama yöntemleri ile bölünmüştür.  Öğrencilerin sene sonundaki başarıları 3-seviyeli sınıflandırma tekniği ile 9 farklı algoritma kullanılarak sınıflandırılmıştır. Çalışmada kullanılan sınıflandırma algoritmaları için en uygun parametre setleri deneme yanılma yöntemi ile belirlenmiştir.  Öznitelik seçim yöntemleri kullanmadan, veri setindeki 23 öznitelikle kurulan Gradyan Artırma algoritmasıyla doğruluk değeri %95.17'ye ulaşılmıştır. Gömülü yöntemler ile öznitelik seçim yöntemleri kullanarak 11 özniteliğe indirgenen veri seti ile kurulun Gradyan Artırma algoritmasında doğruluk değeri %93.31'e düşmüş fakat Rastgele Orman algoritmasında doğruluk değeri %95.54'e çıkmıştır. Sonuç olarak, Rastgele Orman algoritması gömülü yöntemler öznitelik seçim teknikleri ile birlikte kullanıldığında, öğrenci performansını tahmin etmek için en etkili algoritma olduğu görülmüştür.

Abstract:
Increasing academic success is always desired for students and educators. It is very important to know beforehand the factors affecting academic success. In the study, it is aimed to classify the academic performance of secondary school students by using different feature selection techniques and machine learning algorithms. The dataset used was obtained from 728 students in a secondary school affiliated to the Ministry of National Education and includes 24 features. Preprocessing and feature selection techniques were applied on the obtained data set. In the data preprocessing stage, the categorical values in the data set were converted into numerical values. Since the data set used has an unbalanced class distribution, it has been balanced using the SMOTE algorithm. A total of 8 data sets were obtained by using the basic data set and 7 different feature selection techniques. These datasets are split by Hold out and 5-fold cross-validation methods. Students' achievements at the end of the year were classified using 3-level classification technique and 9 different algorithms. The most suitable parameter sets for the classification algorithms used in the study were determined by trial and error method. Without using feature selection methods, the accuracy value was reached to 95.17% with the Gradient Increasing algorithm established with 23 features in the data set. With the data set reduced to 11 features by using embedded methods and feature selection methods, the accuracy value in the Gradient Increase algorithm of the establishment decreased to 93.31%, but the accuracy value increased to 95.54% in the Random Forest algorithm. As a result, the Random Forest algorithm was found to be the most effective algorithm for predicting student performance when used with embedded methods feature selection techniques.