Doğrusal regresyon modellerinde çapraz geçerlik yöntemleri
Cross validation methods in linear regression
Yazar: ALİ KEREM ULUDAĞ
Danışman: PROF. DR. REHA ALPAR
Hacettepe Üniversitesi / Sağlık Bilimleri Enstitüsü / Biyoistatistik Ana Bilim Dalı
Derece: Yüksek Lisans, 2005
Konu: Biyoistatistik = Biostatistics

Özet:
Kestirimeyönelik yapılan çalışmalarda en önemli noktalardan birisi doğal olarak doğrukestirim yapabilme özelliğidir. Özellikle sağlık alanında kestirime yönelikkullanılacak bir model ya da yöntemdeki olası hataların yüksek risktaşıyabilecek olması nedeniyle, doğru kestirim çok daha fazla önemkazanmaktadır. Bu nedenle, kestirim amacıyla kullanılacak yöntemlerinkestirim performanslarını değerlendirebilecek etkili bir yönteme ihtiyaçduyulmaktadır. Eldeki verilere en uygun olacak şekilde ve yeni gözlemlerinkestirimi için geliştirilmiş olan bir model, yeni gözlemlerin kestiriminde herzaman çok iyi sonuçlar vermeyebilmektedir. Bu çalışmanın konusu yineeldeki verileri kullanarak, birbirine alternatif modelleri kestirim yetenekleribakımından karşılaştırarak en iyi kestirim yeteneğine sahip modeli seçençapraz geçerlik yöntemleridir. Literatürde, farklı çapraz-geçerlik yöntemleribulunmaktadır. Bunlar içerisinde en yaygın olarak kullanılanları; Birini-dışarıda-bırakma yöntemi, Çok gözlü çapraz-geçerlik yöntemi ve Monte CarloÇapraz Geçerlik yöntemi'dir.Bu çalışmanın amacı, alternatif modeller içerisinde kestirim performansıen iyi olan regresyon modelinin seçimi için kullanılan çapraz geçerlikyöntemlerinin genel tanımını vermek, yöntemleri tanıtmak, kullanılmakta olanfarklı yöntemleri incelemek ve bu yöntemlerin asimptotik tutarlılıkları veperformanslarını farklı durumlar için benzetim verileri ile karşılaştırmaktır. Buamaç doğrultusunda farklı örneklem genişliği ve hata varyansı değerleri içinyapılan benzetim çalışması sonucunda, belirli kısıtlar temelinde MCCVyönteminin doğru regresyon modellerini saptama olasılıkları bakımındandiğer tüm yöntemlerden çok daha iyi bir performansa sahip olduğu fakat buyöntemin modellerin kestirim hatalarının belirlenmesinde kullanılamayacağısaptanmıştır. Modellerin kestirim hatalarının kestirimine ilişkin sonuçlarda ise,MFCV yöntemlerinin hata kestirimleri için yaygın olarak kullanılan LOOCVyöntemine benzer bir performans gösterdiği saptanmıştır.Anahtar Kelimeler: Model Seçimi, Çapraz Geçerlik, Asimptotik Tutarlılık.

Abstract:
One of the crucial points of predictive studies isobviously the capability of making correct predictions. Correctness of thepredictions gains much more importance for the models to be used inmedicine as an error in such models may contain high risks for individuals.For this reason, a need for an efficient method has been raised in order toevaluate the predictive capabilities of models to be used for prediction. Amodel that is developed to fit to the available observations and to be used forprediction may not give accurate predictive results for new observations. Thescope of this study is to introduce the cross validation methods used tocompare alternative models regarding their predictive capabilities and selectthe model that has the best predictive capability among others just by usingthe available observations. There are different cross-validation methods inthe literature. The most widely used cross validation methods can besummarized as Leave-One-Out Cross-Validation, Multi-Fold Cross-Validationand Monte Carlo Cross Validation method.The aim of this dissertation is to introduce the cross validationmethods used to select the best predictive regression model amongcompeting models, and investigate the characteristics of different cross-validation methods and to compare the asymptotic consistencies andperformances of these methods by simulation. According to the simulationresults conducted for different sample sizes and error variances, MCCVmethod with specific limitations found to be the best method regarding theprobability of selecting the correct model. On the other hand, it has beenfound that this method can?t be used to predict the prediction error of themodel. It has been found in the simulation study that MFCV methods have asimilar performance to more complicated and burdensome LOOCV methodin estimation of the prediction error of the model.Keywords: Model Selection, Cross Validation, Asymptotic Consistency.