Farklı seçkisiz madde örnekleme yaklaşımlarına göre Angoff ve evet/hayır yöntemleri ile belirlenen geçme puanlarının karşılaştırılması
Comparison of passing scores set by Angoff and yes/no methods with respect to different random item sampling approaches
Yazar: HAKAN KARA
Danışman: DR. ÖĞR. ÜYESİ SEVDA ÇETİN
Hacettepe Üniversitesi / Eğitim Bilimleri Enstitüsü / Eğitim Bilimleri Ana Bilim Dalı / Eğitimde Ölçme ve Değerlendirme Bilim Dalı
Derece: Yüksek Lisans, 2018
Konu: Eğitim ve Öğretim = Education and Training
Dizin: Angoff Standart Belirleme Yöntemi = Angoff Standard Setting Method ; Evet-hayır = Yes-no ; Minimum geçme puanı = Minimum passing score ; Standartlar = Standards ; Örnekleme yöntemleri = Sampling methods

Özet:
Bu araştırmada, bir standart belirleme çalışmasında uzmanların değerlendireceği madde sayısını azaltmada çeşitli seçkisiz örnekleme yöntemlerinin etkililiği incelenmiş ve bu yöntemler birbirleriyle karşılaştırılmıştır. İlgili karşılaştırmalar Angoff ve Evet-Hayır yöntemlerine göre ayrı ayrı yapılmıştır. Araştırmada öncelikle SBS 2012 ve 2013 matematik alt testleri birleştirilerek tüm test oluşturulmuş, sonrasında tüm testten farklı büyüklükte alt testler (%30, %40, %50 ve %70) oluşturmak için basit (BSÖ), içerik tabakalı (İ-TSÖ), madde güçlüğü tabakalı (G-TSÖ) ve içerik-madde güçlüğü tabakalı (İG-TSÖ) seçkisiz örnekleme yöntemleri kullanılmıştır. Toplam 16 çalışma durumu (4 yöntem x 4 alt test) değerlendirilmiştir. Verilerin analizinde, alt testlere ilişkin geçme puanının tüm test geçme puanından manidar düzeyde farklılaşıp farklılaşmadığı ANOVA analiziyle incelenmiş, her bir durum için RMSE ve TSH (tahmini standart hata) değerleri hesaplanmıştır. Elde edilen bulgulara göre, yalnızca %30-İ-TSÖ, %40-İ-TSÖ, %30-G-TSÖ ve %30-İG-TSÖ çalışma durumlarında kestirilen ortalama Angoff geçme puanları tüm testin geçme puanından (45.12) manidar düzeyde farklılaşmıştır. Benzer şekilde, yukarıdaki çalışma durumlarında ve %50-İG-TSÖ çalışma durumunda kestirilen ortalama Evet-Hayır geçme puanları tüm testin geçme puanından (56.25) manidar düzeyde farklılaşmıştır. RMSE hata değerlerine göre en küçük hata İ-TSÖ yöntemi, en büyük hata ise BSÖ yöntemi kullanıldığında hesaplanmıştır. Ayrıca, TSH incelemeleri sonucunda elde edilen bulgularda, tüm testin Angoff geçme puanına benzer (1 TSH içerisinde) kestirimler elde etmek için İ-TSÖ yöntemiyle maddelerin %50'sinin seçilmesinin yeterli olduğu görülmüştür. Öte yandan 16 çalışma durumunun hiçbirisiyle tüm testin Evet-Hayır geçme puanına benzer kestirimler elde edilemediği saptanmıştır. Sonuç olarak, Angoff ve Evet/Hayır yöntemleriyle yapılan MGP belirleme çalışmalarında uzmanların değerlendireceği madde sayısının azaltılmasında İ-TSÖ yöntemi diğer yöntemlere kıyasla daha etkili olmuştur.

Abstract:
In this study, the efficiency of various random sampling methods in order to reduce the number of items rated by judges in a standard setting study were examined and those methods were compared with each other. Those comparisons were made with respect to Angoff and Yes-No methods separately. Firstly, full-length test was formed by combining SBS 2012 and 2013 mathematics subsets. After then, simple random sampling (SRS), content stratified (C-SRS), item-difficulty stratified (D-SRS) and content-by-difficulty random sampling (CD-SRS) methods were used in order to constitute different length of subsets (30%, 40%, 50%, 70%) from the full-test. In total, 16 different study conditions (4 methods x 4 subsets) were investigated. In data analysis part, ANOVA analysis were conducted in order to examine whether minimum passing scores (MPSs) for the subsets were significantly different from the MPSs of the full-length test. As a follow up analysis, RMSE and SEE (Standard Error of Estimation) values were calculated for each study condition. Results indicated that only for 30% C-SRS, 40% C-SRS, 30% D-SRS and 30% CD-SRS study conditions, estimated Angoff MPSs were significantly different from the full-test Angoff MPS (45.12). In addition to the conditions above, 50% CD-SRS were also had an estimated Yes-No MPS significantly different from the full-test Yes-No (56.25). According to RMSE values, C-SRS method had smallest error while SRS method had biggest one for both Angoff and Yes-No cases. Moreover, SEE examinations revealed that in order to achieve estimations similar to the full-test Angoff MPS (within one SEE), it is sufficient to get 50% of items with C-SRS method. On the other side, similar estimations to the full-test Yes-No MPS could not been obtained in any of 16 study conditions. In conclusion, C-SRS method were more effective one compared to the others in reducing the number of items rated by judges in MPS setting studies conducted with Angoff and Yes-No methods.