Test güvenliği açısından bireyler arasındaki olası iş birliğinin incelenmesi
Investigation of possible collusion between examinees in terms of test security
Yazar: SEHA YORMAZ
Danışman: DOÇ. DR. ÖNDER SÜNBÜL
Mersin Üniversitesi / Eğitim Bilimleri Enstitüsü / Eğitim Bilimleri Ana Bilim Dalı / Eğitimde Ölçme ve Değerlendirme Bilim Dalı
Derece: Doktora, 2019
Konu: Eğitim ve Öğretim = Education and Training
Dizin: Güvenlik = Security ; Hile = Fraud ; Hileli işlemler = Fraud process ; Kopya çekme = Cheating ; Test güvenilirliği = Test reliability ; Testler = Tests ; Ölçme-değerlendirme = Measurement and evaluation ; İşbirlikçi davranışlar = Collaborative behaviours ; İşbirliği = Cooperation

Özet:
Bireyler test öncesinde ya da test sürecinde hile yoluyla iş birliği yaparak cevapları paylaşabilmektedirler. Yapılan bu hileler test puanlarının geçerliği için büyük bir tehdit oluşturmaktadır. Bu araştırmanın amacı çoktan seçmeli maddelerden oluşan testlerde hile yapan bireylerin olası iş birliğini belirlemede M4 benzerlik istatistiği kullanılarak makine öğrenme yöntemlerinin performansını ortaya koymaktır. Bu çalışmada, M4 istatistiği kullanılarak denetimsiz makine öğrenme türü olan hiyerarşik kümeleme ve yarı-denetimli makine öğrenme türü olan kendi kendine öğrenme ve SETRED (Self Training with Editing) yöntemlerinin hile yapan bireyleri ve grupları belirleme performansını ortaya koymak hedeflenmektedir. Araştırmada simülasyon verileriyle çalışılarak çeşitli koşullar altında yöntemlerin performans ölçütleri ortaya konmaktadır. Bu koşullar iş birliği yapan grup sayısı (1 ve 2), grupta yer alan bireylerin sayısı (5, 10, 20) ve kopya çekilmiş madde sayısının oranıdır (%10, %15, %20, %40). Bu koşulların çaprazlanmasıyla elde edilen verinin üretimi ve analizleri R-3.6.1 bilgisayar programı yardımıyla yapılmıştır. Çalışma sonucunda Ward kümeleme yönteminin, testteki maddelerin %40 ve üzeri kopya oranında hileyle iş birliği yapan bireyleri belirlemede oldukça güçlü bir yöntem olduğu; %20 ve altında ise yöntemin performansının yetersiz kaldığı ortaya çıkmıştır.  Gruplardaki iş birlikçi birey sayısı arttıkça yöntemin kümeleme performansı da artmaktadır. Kendi kendine öğrenme ve SETRED yöntemlerinin sınıflandırma performanslarının her koşulda aynı olduğu ortaya çıkmıştır. Bu yöntemlerin iş birliği yapmayan bireyleri sınıflandırma performansının her koşulda yüksek olduğu; ancak iş birlikçi bir gruplu örneklemlerde iş birliği yapan bireylerin sınıfını tahmin etmede performansının yeterli olmadığı; gruptaki birey sayısının yöntemlerin performansına etkisinin ise düşük olduğu ortaya çıkmıştır. İki farklı iş birlikçi gruplu örneklemlerde bu yöntemlerin sınıflandırma performanslarının bir gruplu örneklemden daha iyi olduğu ortaya çıkmıştır. Genel olarak %40 ve üzeri kopya oranında bu yarı-denetimsiz yöntemlerin iş birlikçi bireyleri ve grupları oldukça iyi ayırt ettiği; gruplardaki iş birliği yapan birey sayısı arttıkça bu performansın da arttığı sonucuna ulaşılmıştır.

Abstract:
Examinees will share their answers with collusion via cheating in or during test. Cheating is a big threat for validity of test scores. Purpose of this research is to determine the performance of machine learning methods by using M4 similarity statistic in investigating the possible collusion of individuals in the tests consisting of multiple-choice items. In this study, it is aimed to determine the performance of hierarchical clustering, self-learning and SETRED (Self Training with Editing) methods to identify collusion individuals and groups by using M4 statistics. In the research, the performance criteria of the methods are presented by working with simulation data under various conditions. These conditions are the number of collusion groups (1,2), the number of examinees in groups (5, 10, 20), and the amount of copying (%10, %15, %20, %40). Data generation with crossed of these conditions and analysis were done with R-3.6.1 software. At the end of the study, it was determined that Ward clustering method was a powerful method for identifying collusion examinees who collaborated at a rate of 40% or more of the items in the test and also the performance of the method was insufficient at a rate of 20% or less of the items. Clustering performance of the method increased with increasing the number of collusion examinees in the groups. The classification performance of self-learning and SETRED methods was found to be the same in all conditions. The performance of these methods to classify examinees who do not cooperate was high in all conditions; however, it was found that the performances in predicting the class of one collusion group was not sufficient and the effect of the number of examinees in the collusion group on the performance of the methods was low. The classification performance of these methods in samples with two different collusion groups was found to be better than samples with one collusion group. Generally, these methods quite well distinguished the collusion examinees and groups at 40% or more number of copied items and this performance increased as the number of collusion examinees in the groups increased.