Gradyan iniş yöntemi ve kontrol sistemlerinde uygulamaları /
Yazar: NAGİHAN YAĞMUR
Danışman: DOÇ. DR. BARIŞ BAYKANT ALAGÖZ
İnönü Üniversitesi / Fen Bilimleri Enstitüsü / Bilgisayar Mühendisliği Ana Bilim Dalı
Derece: Yüksek Lisans, 2020
Konu: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol = Computer Engineering and Computer Science and Control

Özet:
Gradyan iniş algoritması makine öğrenmesi ve derin öğrenme yöntemlerinde sıklıkla kullanılan bir optimizasyon tekniğidir. Gradyan iniş yöntemi problemlere kolay uygulanabilir olması ve basit nümerik  çözümlemeler sağlamadığı için tercih edilen doğrusal olmayan bir optimizasyon yöntemidir. Birçok alanda yaygın olarak kullanımına rağmen kontrol uygulamaları oldukça sınırlı kalmıştır. Bunun temel nedeni gerçek zamanlı kontrol sistemlerinin hızlı cevaba ve garanti edilmiş nümerik çözüm kararlılığına ihtiyaç duymasıdır. Bu tez çalışmasında gradyan iniş yöntemi ve bu yöntemin kontrol uygulamaları incelenmiştir. Öncelikle sürekli gardyan iniş dinamiğinin Lyapunov kararlılığı incelenmiş ve nümerik gradyan iniş yöntemi çözümleri ile kıyaslanmıştır. Daha sonra adaptif gradyan iniş kontrol çalışmaları incelenmiştir. Zaman gecikmeli dinamik sistem modellerinin adaptif gradyan iniş kontrol performansını iyileştirmek için zamanla değişen FIR model için gradyan iniş yöntemi çözümleri elde edilmiştir. Bu çözümlerin adaptasyon kabiliyeti simülasyon çalışmalarına göre değerlendirilmiştir. Adaptif gradyan iniş kontrol yönteminin adaptasyon performansının iç-modelin kontrol edilen sistemi temsil edebilme kabiliyetine bağlı olarak iyileştirilebileceği gözlemlenmiştir. Bu nedenle adaptif IIR filtre yapılarının zaman gecikmeli dinamik sistem modellerini temsil performansı incelenmiştir. Düşük zaman gecikmeleri için adaptif IIR filtrelerin dinamik sistem modellemesinde kullanılabileceği görülmüştür. Bu tez çalışmasında elde edilen bulgular adaptif gradyan iniş kontrol ile ilgili gelecek yapıbilecek çalışmalara katkı sağlayabilir.

Abstract:
Gradient descent algorithm is an optimization technique that has been frequently used in machine learning and deep learning methods. Gradient descent method is a nonlinear optimization method that is preferred since it is easily applicable to problems and providing simple numerical solutions. Although gradient descent method is widely used in many fields, its applications in control are quite limited. Main reason of this trend is that the real-time control systems require fast response and guarantied stability of numerical solutions. In this thesis, gradient descent method and its control applications are investigated. Firstly, Lyapunov stability of continuous gradient descent dynamics is investigated, and it is compared with solutions of numerical gradient descent method. Afterwards, adaptive gradient descent control studies are surveyed in detail. To improve control performance of adaptive gradient control for time-delay dynamical systems, time variable FIR model solutions of gradient descent method are obtained. The adaptation performance of these solutions is evaluated according to simulation studies. It is observed that the adaptation performance of gradient descent control can be enhanced depending on the capability of internal model to represent the controlled system. For this reason, we investigated representation performance of adaptive IIR filters for time delay dynamical systems. We observed that the adaptive IIR filters can be used for modeling of the dynamic systems with the lower time delay.  The findings of this thesis can contribute to future works that are related to adaptive gradient descent control.