Bireyselleştirilmiş çok aşamalı testlerde çok kategorili madde oranının yetenek kestirimine etkisi
The effect of polytomous item ratio on ability estimation in multistage tests
Yazar: HASİBE YAHŞİ SARI
Danışman: PROF. DR. HÜLYA KELECİOĞLU
Hacettepe Üniversitesi / Eğitim Bilimleri Enstitüsü / Eğitim Bilimleri Ana Bilim Dalı / Eğitimde Ölçme Ve Değerlendirme Bilim Dalı
Derece: Doktora, 2023
Konu: Eğitim ve Öğretim = Education and Training
Dizin: Karma format testler = Mixed format tests ; Madde Tepki Kuramı = Item Response Theory ; Testler = Tests ; Uluslararası Öğrenci Değerlendirme Programı = Programme for International Student Assesment ; Yetenek kestirimi = Ability estimates ; Yönlendirme = Routing ; Çok aşamalı testler = Multistage tests

Özet:
Çalışmanın amacı, karma testlerin kullanıldığı bireyselleştirilmiş çok aşamalı testlerde (BÇAT) çok kategorili madde oranının farklı koşullarda yetenek kestirimine etkisini incelemektir. Çalışma simülasyona dayalı bir araştırmadır. PISA 2018 uygulamasında okuma becerileri alanında kullanılan iki ve çok kategorili maddelerden kestirilen madde parametreleri kullanılarak, bireylerin yetenek parametreleri ve madde havuzu oluşturulmuştur. BÇAT koşulları; panel desenleri ("1-2", "1-3", "1-4", "1-2-2", "1-2-3" ve "1-3-3"), test uzunlukları (20, 40 ve 60), yönlendirme yöntemleri (Doğru Sayısı (DS) ve Maksimum Fisher Bilgisi (MFB)) ve çok kategorili madde oranıdır (%10, %30 ve %50). Simülasyon veriler, BÇAT deseni ve analizler, WinGen, Cplex ve R Studio programındaki 'mstR' paketi ile elde edilmiştir. Çalışmada toplam 108 koşul, 100 replikasyon incelenmiştir. Simülasyonlar sonucunda RMSE, ortalama mutlak yanlılık ve korelasyon değerleri hesaplanmıştır. Araştırma sonucunda, testlerdeki çok kategorili madde oranı %10'dan %50'ye çıktığında, ortalama mutlak yanlılık ve RMSE değerlerinin düştüğü, korelasyon değerlerinin ise arttığı görülmektedir. Test uzunluğu arttıkça RMSE ve ortalama mutlak yanlılık değerleri düşerken, korelasyon değerlerinin arttığı görülmektedir. Yönlendirme yöntemleri açısından MFB, DS yönlendirme yöntemine göre daha iyi performans göstermiştir. Genel olarak üç aşamalı panel desenleri iki aşamalı panel desenlerine göre manidar düzeyde iyi sonuçlar vermiştir. 1-2 ve 1-4 panel desenlerinde ise hangi yönlendirme yönteminin kullanıldığının bir önemi bulunmamaktadır.

Abstract:
The aim of the study is to examine the effect of polytomous item ratio on ability estimation in different conditions in multi-stage tests (MST) using mixed tests. The study is a simulation based research. In the PISA 2018 application, the ability parameters of the individuals and the item pool were created by using the item parameters estimated from the dichotomous and polytomous items obtained in the field of reading skills. MST conditions; panel patterns ("1-2", "1-3", "1-4", "1-2-2", "1-2-3" and "1-3-3"), test lengths (20, 40 and 60), routing methods (Number Correct (NC) and Maximum Fisher Information (MFB)) and polytomous item ratio (10%, 30% and 50%). Simulation data, MST pattern and analysis were obtained with the help of WinGen, Cplex and "mstR" package in R Studio program. A total of 108 conditions and 100 replications were examined in the study. As a result of the simulations; RMSE, mean absolute bias and correlation values were calculated. As a result of the research, it is seen that when the ratio of polytomous items in the tests increases from 10% to 50%, the mean absolute bias and RMSE values decrease, while the correlation values increase. As the test length increases, RMSE and mean absolute bias values decrease, while correlation values increase. In terms of routing methods, MFB performed better than the NC routing method. In general, three-stage panel designs gave significantly better results than two-stage panel designs. In 1-2 and 1-4 panel designs, it does not matter which routing method is used.