Fonksiyonel regresyon modellerinde kısmi en küçük kareler yöntemi üzerine yeni yaklaşımlar
Nex approaches to the partial least square method in functional regression models
Yazar: SEMANUR SARIÇAM
Danışman: PROF. DR. BARIŞ AŞIKGİL ; DOÇ. DR. UFUK BEYAZTAŞ
Mimar Sinan Güzel Sanatlar Üniversitesi / Fen Bilimleri Enstitüsü / İstatistik Ana Bilim Dalı / İstatistik Bilim Dalı
Derece: Doktora, 2022
Konu: İstatistik = Statistics
Dizin: Doğrusal regresyon = Linear regression ; En küçük kareler yöntemi = Least squares method ; Skaler = Scalar ; Veri analizi = Data analysis

Özet:
Teknolojik gelişmeler, gözlemleri zaman, uzay ve grid noktaları gibi bir süreklilik üzerinden elde edilen karmaşık ve yüksek boyutlu veri yapılarına yol açmıştır. Geleneksel matematiksel/istatistiksel yöntemler, çoklu bağlantı gibi yüksek boyutlu verilerdeki yaygın problemler nedeniyle bu tür verileri analiz edememektedir. Bu nedenle, fonksiyonel verileri analiz etmek için geçerli istatistiksel yöntemlere duyulan ihtiyaç artmıştır. Sonuç olarak, fonksiyonel veri analizine (FDA) olan ilgi yıllar içinde önemli ölçüde artmış ve kimya, meteoroloji, tıp ve finans gibi çeşitli bilim alanlarında genel bir çerçeve haline gelmiştir.
FDA'da, yanıt ve tahmin değişkenleri arasındaki fonksiyonel bağlantıyı araştırmak için, yanıt veya tahmin değişkenlerinden en az birinin sonsuz boyutlu rastgele eğrilerden oluştuğu fonksiyonel doğrusal regresyon modeline (FLRM) özel bir ilgi gösterilmiştir. FLRM'deki temel amaç, sonsuz boyutlu regresyon katsayısı fonksiyonunu tahmin etmektir. Bu tahmin yöntemleri maksimum olabilirlik, maksimum cezalandırılmış olabilirlik, en küçük kareler, temel bileşen regresyonu ve kısmi en küçük kareler regresyonudur. Diğerleri arasında, kısmi en küçük kareler, gelişmiş parametre tahmini ve tahmin doğruluğu üretir. Bununla birlikte, hemen hemen tüm mevcut fonksiyonel kısmi en küçük kareler yöntemleri, SIMPLS ve NIPALS gibi olağan algoritmalara dayanmaktadır. Bu algoritmalar sezgisel ve tutarlı olmakla birlikte, kararlı parametre tahminleri üretemeyebilirler ve/veya yüksek boyutlu fonksiyonel verileri analiz ederken hesaplama açısından yoğun olabilirler.
Bu tezde amacımız, skaler - fonksiyon regresyon altında regresyon katsayısı fonksiyonunu verimli bir şekilde tahmin etmek için iki hibrit fonksiyonel kısmi en küçük kareler yöntemi önermektir. Önerilen yöntemlerde, sonsuz boyutlu fonksiyonel tahminciler ilk önce bir temel genişletme tekniği kullanılarak sonlu boyutlu bir uzaya yansıtılır. Ardından, skorun yeniden ortogonalizasyonuna ve vektör yüklemesine dayanan iki kısmi en küçük kareler algoritması, skaler yanıt ile fonksiyonel tahmin edicilerin temel katsayıları arasındaki doğrusal ilişkiyi tahmin etmek için kullanılır. Sonlu örneklem performansı ve hesaplama hızı için bir dizi Monte Carlo simülasyon çalışması ve bir şeker süreci veri seti kullanılarak sonuçlar, mevcut fonksiyonel kısmi en küçük kareler yöntemleriyle karşılaştırıldığında, önerilen yöntemlerin daha az hesaplama süresi ile kararlı parametre tahminleri ve öngörüler ürettiğini ortaya koyuldu.

Abstract:
Technological developments have led to complex and high-dimensional data structures whose observations are obtained over a continuum, such as time, space, and grid points. Traditional mathematical/statistical methods fail to analyze such kind of data because of common problems in high-dimensional data such as multicollinearity. Therefore, the need for valid statistical methods to analyze functional data has increased. As a result, the interest in functional data analysis (FDA) has increased significantly over the years, and it has become a general framework in various fields of science, such as chemometry, meteorology, medicine, and finance.
In FDA, a particular interest has been devoted to the functional linear regression model (FLRM), in which at least one of the response or predictor variables consist of infinite-dimensional random curves, to explore the functional connectivity between response and predictor variables. The main aim in FLRM is to estimate the infinite-dimensional regression coefficient function. Several estimation strategies, such as, maximum likelihood, maximum penalized likelihood, least squares, principal component regression, and partial least squares regression. Among others, the partial least squares produces improved parameter estimation and prediction accuracy. However, almost all the available functional partial least squares methods are based on the usual algorithms, such as SIMPLS and NIPALS. While these algorithms are intuitive and consistent, they may not produce stable parameter estimates and/or they may be computationally intensive when analyzing high-dimensional functional data.
In this thesis, our aim is to propose two modified functional partial least squares methods to efficiently estimate the regression coefficient function under the scalar-on-function regression. In the proposed methods, the infinite-dimensional functional predictors are first projected onto a finite-dimensional space using a basis expansion method. Then, two partial least-squares algorithms, based on re-orthogonalization of the score and loading vectors, are used to estimate the linear relationship between scalar response and the basis coefficients of the functional predictors. The finite-sample performance and computing speed are evaluated using a series of Monte Carlo simulation studies and a sugar process dataset. Our results revealed that, compared with available functional partial least squares methods, our proposed methods produce stable parameter estimates and predictions with less computing time.