Yapay Sinir Ağlarıyla zaman serisi tahminlemesinde yeni bir model seçim stratejisi
A new model selection strategy in time series forecasting with artificial neural networks
Yazar: SERKAN ARAS
Danışman: PROF. DR. İPEK DEVECİ KOCAKOÇ
Dokuz Eylül Üniversitesi / Sosyal Bilimler Enstitüsü / Ekonometri Ana Bilim Dalı / Ekonometri Bilim Dalı
Derece: Doktora, 2013
Konu: Ekonometri = Econometrics
Dizin: Model seçimi = Model selection ; Sinir ağları = Nerve net ; Tahmin = Estimation ; Yapay sinir ağları = Artificial neural networks ; Zaman serileri = Time series ; Zaman serileri analizi = Time series analysis

Özet:
Yapay Sinir Ağları zaman serisi uygulamalarında gittikçe önem kazanan bir yöntem olmasına rağmen, hala birçok metodolojik eksiklikleri içerisinde barındırmaktadır. Bu eksikliklerden bir tanesi, gerçekleştirilen bir sinir ağı deneyi sonucunda hangi sinir ağı modelinin gelecekte kullanılmak üzere seçileceğidir. Başka bir deyişle, sinir ağının girdi ve gizli hücre sayısı ne olmalı ve girdi-gizli hücre sayısı belirlenmişken farklı başlangıç ağırlık değerlerinin sebep olduğu denemeler arasından hangisinin seçileceği sorularına cevap aranmalıdır. Genel uygulama, veri setinin eğitim, doğrulama ve test seti olarak üçe bölünüp doğrulama setinde en küçük hata ölçüsünü veren sinir ağı modelinin seçimi şeklindedir. Ancak bu durumda, doğrulama setine aşırı uyum sağlamış bir sinir ağı modelinin seçimi olasıdır. Doğrulama setine aşırı uyum sağlamış bir ağın, genelleme yeteneğini gösteren test seti üzerindeki performansı düşük olabilecektir.
Bu tez kapsamında, zaman serileriyle sinir ağı tahmini yaparken model seçimine yönelik bir seçim stratejisi önerilmiştir (GGD ayrışımı). Önerilen seçim stratejisi, öncelikle girdi ve gizli hücre sayılarını belirlemekte ve ardından farklı denemeler arasından hem doğrulama hem de eğitim seti performanslarına eşanlı bakarak bir sinir ağı modeli seçmektedir. Önerilen seçim stratejisinin simülasyon ve gerçek veri setleri üzerinde klasik seçim yöntemiyle karşılaştırılması sonucunda, sinir ağı performansını istatistiksel olarak geliştirdiği görülmüştür. Simülasyon deneyi önerilen seçim stratejisinin altta yatan veri üretim sürecine daha iyi yakınsadığını göstermiştir. ARIMA yöntemiyle olan rekabette, sinir ağında yapılabilecek iyileştirmelerle üstünlüğün sinir ağına daha çok geçebileceği yönünde bulgulara rastlanmıştır. Önerilen seçim stratejisi genel anlamda doğrulama hacmine karşı daha çok direnç sergilemiştir. Ayrıca deneme sayısının klasik seçim yöntemi için önemli bir faktör olmadığı ancak önerilen seçim stratejisi performansı üzerinde etkili olabileceği tespit edilmiştir.



Anahtar Kelimeler: Sinir Ağları, ARIMA, Zaman Serisi, Tahminleme, Model Seçimi.

Abstract:
Although artificial neural networks have recently gained importance in time series applications, methodological shortcomings still continue to exist. One of such shortcomings is the selection of the proper neural networks model for future use after finishing an experiment of neural networks. In other words, the number of inputs and hidden neurons must be determined, and when they are determined, the question of which trial among many trials caused by different initial weights will be selected must be answered. The general application is to divide the dataset into training, validation and test sets and selecting the neural network model that gives the smallest error value in the validation set. However, an overfitting neural networks model is likely to be selected in this case. A neural network model overfitting to validation set is likely to underperform in the test set, which shows the generalization ability of the model.
A model selection strategy (GGD separation) for time series forecasting with neural networks is proposed within the scope of this dissertation. The proposed strategy initially determines the number of inputs and hidden neurons, and then selects a neural networks model from various trials by simultaneously considering performance of training and validation sets. A comparison of our proposed selection strategy with classic selection methods using simulation and real datasets shows that our selection model statistically improves neural networks performance. Simulation experiments indicate that the proposed selection strategy better converges the underlying data generalization process. Findings show that improvements in neural networks may give it a winning edge in the competition with ARIMA method. The proposed selection strategy, in general, exhibits more resistance to the validation size. Moreover, findings show that the number of trials is not a significant factor for the classic selection method; however it may influence the performance of the proposed selection strategy.

Keywords: Neural Networks, ARIMA, Time Series, Forecasting, Model Selection.