Meta-sezgisel algoritmalar ile konvolüsyonel sinir ağı mimarisinin hiper parametrelerinin optimizasyonu
Optimization of hyper parameters of convolutional neural network architecture with meta-heuristic algorithms
Yazar: MUSTAFA YURDAKUL
Danışman: PROF. DR. ŞAKİR TAŞDEMİR
Selçuk Üniversitesi / Fen Bilimleri Enstitüsü / Bilgisayar Mühendisliği Ana Bilim Dalı
Derece: Yüksek Lisans, 2022
Konu: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol = Computer Engineering and Computer Science and Control
Dizin: Evrişimli sinir ağları = Convolutional neural networks ; Yapay arı kolonisi algoritması = Artificial bee colony algorithm ; Öğrenme = Learning ; Öğretme = Teaching

Özet:
Konvolüsyonel Sinir Ağları (KSA) özellikle görüntü işleme alanında sıklıkla kullanılan bir derin öğrenme algoritmasıdır. KSA evrişim katmanı, havuzlama katmanı, aktivasyon fonksiyonları ve tam bağlantılı sinir ağlarından oluşmaktadır. KSA tasarımında kullanılan katman sayısı, filtre boyutu, aralık değeri, dolgu yöntemi vb. hiperparametreler ağın başarısı ile doğrudan ilişkilidir.  Meta-sezgisel optimizasyon algoritmaları, problemden bağımsız olarak çalışabilen doğa, sürü davranışları, fizik, kimya ve evrim teorisi vb. durumlardan esinlenilerek geliştirilmiş algoritmalardır. Bu çalışmada, filtre sayısı, boyutu, aktivasyon fonksiyonu, havuzlama algoritması, tam bağlantılı katman sayısı, nöron sayısı, öğrenme oranı farklı meta-sezgisel algoritmalar ile belirlenmiştir. 
Yapay Arı Kolonisi (YAK), Öğretme Öğrenme Temelli Optimizasyon (ÖÖTO), JAYA ve Sosyal Grup Optimizasyon (SGO) meta-sezgisel algoritmaları kullanılarak KSA Mimarilerinin optimum bir şekilde tasarlanmıştır. Aday mimariler CIFAR10 veri seti üzerinde sınıflandırma işlemi gerçekleştirmektedir. KSA mimarilerinin test doğruluk miktarları amaç fonksiyonu olarak kabul edilmiştir. Meta-sezgisel algoritmalarda kullanılan amaç fonksiyonu aday mimarilerin eğitimi sonucu elde edilen doğruluk oranı seçilmiştir. Ayrıca YAK, ÖÖTO, SGO ve JAYA algoritmalarından elde edilen sonuçlar karşılaştırılmıştır. YAK ile KSA tasarımında iterasyonlar sonucunda %94.61'lik bir doğruluk oranı elde edilmiştir. YAK ile maksimum doğruluk oranı 3 derinliğinde elde edilmiştir.  ÖÖTO ile  %93.97'lik bir doğruluk oranı 3 derinliğinde elde edilmiştir. SGO ile   %92.96'lık doğruluk oranı 3 derinliğinde elde edilmiştir. Jaya ile  %92.68'lik doğruluk oranı 3 derinliğinde elde edilmiştir. Böylece en yüksek başarım oranı YAK algoritması ile edilmiştir.

Abstract:
Convolutional Neural Networks (CNN) is a frequently used deep learning algorithm, especiallin image processing. CNN consists of a convolutional layer, coupling layer, activation functions, and fully connected neural networks. The number of layers, filter size, gap value, padding method, etc. used in the CNN design. Hyperparameters are directly related to the success of the network. Meta-heuristic optimization algorithms can work independently of problems such as nature, swarm behavior, physics, chemistry and evolution theory, etc. They are algorithms developed based on situations. In this study, the number of filters, size, activation function, association algorithm, the number of fully connected layers, the number of neurons, and learning rate were determined by different meta-heuristic algorithms. 
Artificial Bee Colony (ABC), Teaching Learning Based Optimization (TLBO), JAYA, and Social Group Optimization (SGO) meta-heuristic algorithms are optimally designed using CNN Architectures. Candidate architectures perform classification on the CIFAR10 dataset. The accuracy rate obtained as a result of training the objective function candidate architectures used in meta-heuristic algorithms has been chosen. In addition, the performances of ABC, TLBO, SGO, and JAYA algorithms were compared among themselves. As a result of iterations, an accuracy rate of 94.61% was obtained in the design of the CNN with the ABC. Maximum accuracy with ABC was achieved at a depth of 3. An accuracy rate of 93.97% was obtained with the TLBO at depth 3. With SGO, an accuracy rate of 92.96% was obtained at a depth of 3. With Jaya, an accuracy rate of 92.68% was achieved at a depth of 3. Thus, the highest success rate was achieved with the ABC algorithm.