Standart ve SLO taksonomisine dayalı rubrikler ile puanlanan açık uçlu matematik sorularında puanlayıcı etkilerinin çok yüzeyli Rasch modeli ile incelenmesi
The identification of rater effects on open-ended math questions rated through standard rubrics and rubrics based on the SOLO taxonomy in reference to the many facet Rasch model
Yazar: MUSTAFA İLHAN
Danışman: DOÇ. DR. BAYRAM ÇETİN
Gaziantep Üniversitesi / Eğitim Bilimleri Enstitüsü / Eğitim Bilimleri Ana Bilim Dalı
Derece: Doktora, 2015
Konu: Eğitim ve Öğretim = Education and Training
Dizin: Dereceli puanlama anahtarı = Rubric ; Matematik = Mathematics ; Performans değerlendirme = Performance evaluation ; Puanlama = Scoring ; Puanlayıcılar arası tutarlılık = Interrater reliability ; Rasch modeli = Rasch model ; SOLO taksonomi = SOLO taxonomy ; Sorular = Questions ; Standart puanlamalı kurallar = Standard scoring rules ; Ölçme-değerlendirme = Measurement and evaluation

Özet:
Bu araştırmada, standart ve SOLO taksonomisine dayalı rubrikler ile puanlanan açık uçlu matematik sorularında puanlayıcı etkilerinin çok yüzeyli Rasch modeli ile incelenmesi amaçlanmıştır. Araştırmanın katılımcılarını, sekizinci sınıfa devam eden 104 ortaokul öğrencisi ile çalışmada puanlayıcı olarak görev alan yedi matematik öğretmeni oluşturmaktadır. Çalışmada veri toplama aracı olarak; araştırmacı tarafından geliştirilen ve açık uçlu sekiz sorudan oluşan matematik başarı testi, standart rubrikler, SOLO taksonomisine dayalı rubrikler, standart rubrikler ile ilgili düşünceler anketi (SRDA) ve SOLO taksonomisine dayalı rubrikler ile ilgili düşünceler anketi (STDRDA) kullanılmıştır. Araştırmada, açık uçlu matematik sorularına verilen yanıtların standart ve SOLO taksonomisine dayalı rubrikler kullanılarak puanlanmasıyla elde edilen veriler çok yüzeyli Rasch modeline göre analiz edilmiştir. Puanlayıcıların SRDA ile STDRDA'da yer alan kapalı uçlu maddelere verdikleri yanıtların analizinde aritmetik ortalama değerlerinden faydalanılmış; açık uçlu maddelere verilen yanıtlar ise betimsel analiz yaklaşımıyla çözümlenmiştir. Araştırmada; hem standart hem de SOLO taksonomisine dayalı rubriklere göre yapılan puanlamalarda yetenek düzeyi farklı olan öğrencilerin yüksek güvenirlikte birbirinden ayırt edilebildiği ve maddelerin güçlük düzeyleri arasında anlamlı fark olduğu belirlenmiştir. Standart rubrikler kullanılarak yapılan puanlamalarda; halo etkisi, tutarsızlık, puanlayıcı×birey ve puanlayıcı×birey×madde yanlılıklarının bulunmadığı saptanmıştır. Diğer taraftan; puanlamalarda merkeze yönelme etkisi ile puanlayıcı×madde yanlılığın söz konusu olduğu, katılık ve cömertlikleri yönüyle puanlayıcılar arasında anlamlı fark bulunduğu ve puanlayıcı güvenirliğinin düşük olduğu tespit edilmiştir. SOLO taksonomisine dayalı rubrikler kullanılarak yapılan puanlamalarda ise, puanlayıcı katılığı ve cömertliği, merkeze yönelme etkisi, halo etkisi, tutarsızlık ve yanlılık şeklinde sıralanan puanlayıcı etkilerinden hiç birine rastlanmamış; puanlayıcı güvenirliğinin yüksek olduğu ve puanlayıcıların benzer katılık/cömertlikte puanlamalar yaptığı sonucuna ulaşılmıştır.


Anahtar kelimeler: Açık uçlu matematik soruları, Puanlayıcı etkisi, Rubrik, SOLO taksonomisi, Çok yüzeyli Rasch modeli

Abstract:
The purpose of the present study was to identify rater effects on open-ended math questions rated through standard rubrics and those based on the SOLO taxonomy in reference to the many facet Rasch model. The participants were 104 eight grade students and seven mathematics teachers serving as raters. The data collection instruments involved a mathematics achievement test comprised of eight open-ended questions composed by the researcher, standard rubrics, rubrics based on the SOLO taxonomy, the Survey of the Views on Standard Rubrics (SVSR), and the Survey of the Views on Rubrics based on the SOLO Taxonomy (SVRST). The data obtained from the rating of the responses to the open-ended math questions through standard rubrics and those rubrics based on the SOLO taxonomy were analyzed on the basis of the many facet Rasch model. On the other hand, the responses of the raters to the close-ended items included in the SVSR and SVRST were analyzed through arithmetic mean values whereas the responses to the open-ended items were analyzed descriptively. The findings suggested that both the standard rubrics and those based on the SOLO taxonomy could highly reliably distinguish among students of varying levels and that there was a significant difference between the items in terms of their difficulty. The rating through the standard rubrics did not suffer from the halo effect, inconsistency, rater x individual bias, or rater x individual x item bias. Nevertheless, the central tendency effect and rater x item bias were prevalent, there were significant differences among the raters in terms of severity and leniency, and the rater reliability was low. On the other hand, the rating through the rubrics based on the SOLO taxonomy were observed to be free from such rater effects as rater severity and leniency, the central tendency effect, the halo effect, inconsistency, and bias. Furthermore, the rater reliability was high, and the raters had similar levels of severity and leniency.




Key words: Open-ended math questions, Rater effects, Rubrics, SOLO taxonomy,
Many facet Rasch model