Model seçimi için dayanıklı lasso ve uygulamaları
Robust lasso for model selection and aplications
Yazar: BEGÜM YENİLMEZ
Danışman: DR. ÖĞR. ÜYESİ ŞÜKRÜ ACITAŞ
Eskişehir Teknik Üniversitesi / Lisansüstü Eğitim Enstitüsü / İstatistik Ana Bilim Dalı / İstatistik Teorisi Bilim Dalı
Derece: Yüksek Lisans, 2020
Konu: İstatistik = Statistics

Özet:
Model parametrelerinin tahmini ve modelde yer alacak değişkenlerin seçimi regresyon analizinin önemli konularındandır. Son yıllarda, hem parametre tahmini hem de modeldeki değişkenlerin seçimini eşanlı olarak yapabilen daraltıcı (shrinkage) tahmin ediciler ön plana çıkmaktadır. Bu tahmin ediciler belli özelliklerine göre gruplandırılmıştır. Bu çalışmada daraltıcı tahmin edicilerden olan Least Absolute Shrinkage and Selection Operator (En Küçük Mutlak Daralma-LASSO) tahmin edicisi ele alınmıştır. LASSO tahmin edicileri değişken seçiminde tutarlı olmadığından oracle özelliğine sahip değildir. Bu nedenle, literatürde uyarlanmış (adaptive) LASSO (ALASSO) tahmin edicisi önerilmiştir. Ancak bu tahmin ediciler aykırı değer(ler)e karşı duyarlıdır. Bu bağlamda dayanıklı ALASSO tahmin edicileri literatürde M-tahmin edicilerine dayalı olarak geliştirilmektedir. Bu çalışmada, literatürde var olan Huber ve Tukey'in ρ ve ψ fonksiyonlarına dayalı dayanıklı ALASSO tahmin edicilerine alternatif olarak Cauchy, Andrews, Fair, Welsch, Lojistik ve Talwar'ın ρ ve ψ fonksiyonları kullanılarak dayanıklı ALASSO tahmin edicileri ele alınmıştır. İlgili tüm tahmin edicilerin performansları simülasyon çalışması yardımıyla karşılaştırılmıştır. Tahmin edicilerin performanslarını karşılaştırmak için Hata Kareler Ortalaması (Mean Squared Error-MSE),  Ön Kestirim Hata Kareler Ortalaması (Mean Squared Prediction Error-MSPE) kriterleri kullanılmıştır. Ayrıca, ele alınan dayanıklı ALASSO yöntemlerinin model seçim doğrulukları da ölçülmüştür. Simülasyon çalışmasına ek olarak, biri literatürdeki hazır veri, bir diğeri araştırmacı tarafından derlenen veri olmak üzere iki farklı reel veri için uygulama yapılmıştır.

Abstract:
Estimation of model parameters and selection of variables in the model are important issues in regression analysis. In recent years, shrinkage estimators, which can simultaneously make parameter estimation and selection of variables in the model, come to the fore. These estimators are grouped according to their specific characteristics. In this study, Least Absolute Shrinkage and Selection Operator-LASSO estimator, which is one of the shrinkage estimators, is discussed. Since LASSO does not have oracle feature, the adaptive LASSO (ALASSO) estimator has been proposed in the literature. However, these estimators are sensitive to the outliers. In this context, robust ALASSO estimators are developed in the literature based on M-estimators. In this study, robust ALASSO estimators are considered using the ρ and ψ functions of Cauchy, Andrews, Fair, Welsch, Logistics and Talwar as an alternative to the robust ALASSO estimators based on the ρ and ψ functions of the Huber and Tukey existing in the literature. The performances of these estimators  are compared via a simulation study. For comparing the performance of the estimators, Mean Squared Error (MSE) and Mean Squared Prediction Error (MSPE) criteria are used. Furthermore, model selection accuracies of the methods are measured. In addition to the simulation study, two different real data, one of is available in the literature and the other is compiled by the researcher, are applied.