Yüksek riskli sınavlarda başarıyla ilişkili değişkenlerin veri madenciliği yöntemleriyle incelenmesi
Evaluating the variables related to success in high-stakes exams by using data mining methods
Yazar: AYŞEGÜL BOZDAĞ KASAP
Danışman: PROF. DR. DİLARA BAKAN KALAYCIOĞLU
Gazi Üniversitesi / Eğitim Bilimleri Enstitüsü / Eğitim Bilimleri Ana Bilim Dalı / Eğitimde Ölçme ve Değerlendirme Bilim Dalı
Derece: Doktora, 2024
Konu: Eğitim ve Öğretim = Education and Training
Dizin: Makine öğrenmesi = Machine learning ; Regresyon = Regression ; Sınıflandırma = Classification ; Veri madenciliği = Data mining

Özet:
Bu çalışma, yüksek riskli sınavlarda başarıyla ilişkili değişkenleri saptamayı ve sınav performansının yordanmasında kullanılabilecek uygun eğitsel veri madenciliği yöntemlerini belirlemeyi amaçlamaktadır. Bu kapsamda, ÖSYM tarafından gerçekleştirilen KPSS, ALES ve YDS sınavlarındaki başarı durumlarının tahmininde cinsiyet, yükseköğretime geçiş sınavı (YGS) puanı, lise türü, ortaöğretim başarı puanı (OBP), üniversite türü, akademik not ortalaması (ANO), lise, üniversite, fakülte, lisans programı, lisans alanı, mezuniyet yılı ve sınava girme sayısı gibi değişkenler kullanılmaktadır. Araştırmada 9.918 adaya ait boylamsal anlamda farklı zaman dilimlerindeki başarı durumlarının incelendiği geniş örnekleme dayalı veri CRISP-DM süreç modeli kullanılarak analizlere uygun hale getirilmiş ve SPSS Modeler değişken seçimi işlemcisiyle modelleme aşamasında kullanılacak önemli değişkenler belirlenmiştir. Analizlerde KPSS ve ALES başarısıyla ilişkili değişkenlerin önem düzeylerini belirlemede C&RT, CHAID karar ağaçları, çoklu regresyon, rastgele orman, K-en yakın komşu, destek vektör makineleri ve yapay sinir ağları yöntemleri; YDS seviyelerini belirlemede ise C5.0, CHAID, C&RT, K-en yakın komşu, multinomial lojistik regresyon, destek vektör makineleri, yapay sinir ağları ve rastgele orman yöntemleri kullanılmıştır. Modellerin yordama performansları ortalama mutlak hata ve korelasyon katsayıları, sınıflandırma performansları ise doğruluk, duyarlılık, seçicilik, hassaslık ve F Puanı kriterlerine dayalı karşılaştırılmıştır. Araştırmada KPSS ve ALES başarısının yordanması ile YDS seviyelerinin sınıflandırılmasında değişkenlerin önem değerleri farklılık göstermiş ancak modellerin önem düzeyleri arasında genel olarak benzer eğilimler sergilendiği gözlenmiştir. Analiz sonuçlarında, KPSS başarısını yordamada modellerin çoğunda en önemli değişkenler ALES sayısal, ALES sözel ve YGS matematik testleri olarak belirlenmiştir. KPSS başarısının yordanmasında lisans programı ve üniversite değişkenlerinin de önem değerleri görece yüksek, ANO ve OBP değişkenlerinin ise orta düzeyde bir etkiye sahip olduğu görülmüştür. ALES Sayısal, Sözel ve Eşit Ağırlık puan türlerine göre ayrı incelenen model sonuçları bütün olarak ele alındığında tüm puan türlerindeki modeller arasında tutarlı biçimde önem değeri en yüksek olan KPSS genel yetenek testi ALES başarısının en önemli yordayıcısı olarak belirlenmiştir. ALES sayısal başarısında YGS matematik, ALES sözel başarısında YGS Türkçe ve ALES eşit ağırlık başarısında her iki testin de önemli değişkenler olduğu gözlenmiştir. Yüksek riskli sınavlarda başarının yordanmasında KPSS ve YGS başarısının ALES'i, YGS ve ALES başarısının da KPSS'yi yordama geçerliğinin yüksek olduğu görülmüştür. Araştırma sonuçları KPSS ve ALES sayısal başarısında matematiksel yetkinlik ve muhakeme becerilerinin, ALES sözel başarısında ise Türkçe dil ve muhakeme becerilerinin önemini vurgulamaktadır. YDS-İngilizce başarısıyla ilişkili değişkenler incelendiğinde, modellerde genel olarak lisans alanı, lisans programı ve üniversite değişkenlerinin önem değerlerinin yüksek olduğu, ANO ve OBP değişkenlerinin orta düzeyde bir etkiye sahip olduğu gözlenmiştir. YGS Türkçe, KPSS genel yetenek ve ALES sözel gibi Türkçe odaklı sınav sonuçlarının, sözel yeteneği ölçen yüksek riskli sınav alanlarının YDS-İngilizce seviyelerini belirlemede önemli değişkenler olduğu tespit edilmiştir. Sonuç olarak, bireylerin ALES, KPSS ve YDS başarısını yordamada en önemli değişkenlerin diğer sınavlardaki performansları olması durumu bireylerin başarı durumlarının bütüncül bir yapı gösterdiğine ve yüksek riskli sınavların tutarlılık anlamındaki güvenirliğine kanıt sunmaktadır. Ayrıca KPSS, ALES ve YDS-İngilizce başarısının incelendiği modellerde genel olarak üniversite türü, lise türü, fakülte, mezuniyet yılı ve cinsiyet gibi değişkenlerin önem değerleri düşüktür, bu durum yüksek riskli sınavların eşitliği ve kapsayıcılığına dair bir gösterge olarak değerlendirilebilmekle birlikte sınavların objektif bir ölçüt olduğuna ve yansızlığına da işaret etmektedir. Modellerin yordama performansları incelendiğinde, KPSS ve ALES başarılarının yordanmasında en iyi performans gösteren ve başarıyla ilgili en tutarlı tahminleri sunan modelin yapay sinir ağları olduğu görülmüştür. Sınıflandırma performansı sonuçlarına göre ise rastgele orman modelinin YDS-İngilizce seviyelerini belirlemede en iyi performansı gösterdiği tespit edilmiştir. Araştırma sonuçlarının yüksek riskli sınavlarda başarıyla ilişkili değişkenlerin belirlenmesi ve eğitsel veri madenciliği yöntemlerinden uygun modelin seçilmesine yönelik karar verme süreçlerine rehberlik etmesi konusunda ilgili alana katkı sağlanması amaçlanmıştır.

Abstract:
This study aims to identify the variables related to high-stakes exam achievement and the appropriate educational data mining methods that can be used to predict exam performance. In this context, variables such as gender, university entrance exam (YGS), secondary education success scores, academic grade point average, high school, university, faculty, undergraduate program, graduation year, and number of exam attempts are used to predict success in the civil servant recruitment exam (KPSS), graduate education exam (ALES), and the foreign language exam (YDS-English). Using the CRISP-DM process model, the research analyzes the longitudinal success data of 9,918 examinees across different periods. It identifies significant variables for modelling using the SPSS Modeler feature selection node. The importance levels of variables related to KPSS and ALES achievement were investigated with the analysis using C&RT, CHAID decision trees, multiple regression, random forest, k-nearest neighbor, support vector machines, and artificial neural networks. For the classification of YDS levels, C5.0, CHAID, C&RT, k-nearest neighbor, multinomial logistic regression, support vector machines, artificial neural networks, and random forest methods were used. The prediction performance of the models was compared based on mean absolute error and correlation coefficients, while classification performance was evaluated using accuracy, sensitivity, specificity, precision, and F-score criteria. Despite differences in the importance values of variables for predicting KPSS and ALES achievement and classifying YDS levels, it was observed that the importance levels of the variables generally demonstrated similar trends across the models. According to the results of the analysis, the most important variables for predicting KPSS achievement in most models were ALES quantitative, ALES verbal, and YGS mathematics tests. It has been observed that the importance values of undergraduate program and university variables in predicting KPSS achievement are relatively high, while academic grade point average and secondary education success scores have moderate effects. When considering the models examined separately by ALES score types, it was consistently determined that the KPSS general ability test was the most significant predictor of ALES achievement across all score types. For ALES quantitative success, YGS mathematics was identified as a subsequent important variable; for ALES verbal success, YGS Turkish, and ALES equally weighted success, both tests were significant. The study found that in predicting success in high-stakes exams, KPSS and YGS achievement were highly valid predictors of ALES, and YGS and ALES achievement were highly valid predictors of KPSS. The results emphasize the importance of mathematical proficiency and reasoning skills for KPSS and ALES quantitative success, and Turkish language and reasoning skills for ALES verbal success. For YDS-English achievement, it was observed that undergraduate field, university, and undergraduate program variables generally had high importance values, while academic grade point average and secondary education success scores had moderate effects. The results of the verbal fields of the other high-stakes exams, including YGS Turkish, KPSS general ability, and ALES verbal tests, were significant predictors of YDS-English levels. In conclusion, the performance in other exams being the most important variable in predicting individuals' ALES, KPSS, and YDS achievement indicates that individuals' success statuses exhibit a holistic structure and provide evidence for the consistency and reliability of high-stakes exams. Additionally, the importance values of variables such as university type, high school type, faculty, graduation year, and gender are generally low in the models examining KPSS, ALES, and YDS-English achievement. This situation is an indicator of the equality and inclusivity of high-stakes exams, as well as pointing to the objectivity and impartiality of the exams. When the prediction performances of the models were compared, it was found that artificial neural networks provided the best performance and the most consistent predictions related to KPSS and ALES achievement. In classifying YDS-English levels, the random forest model demonstrated the best performance. The study aims to contribute to the relevant field by guiding decision-making processes for identifying variables associated with success in high-stakes exams and selecting appropriate educational data mining methods.