Ateşleme sinir ağı mimarilerinde algoritmik performans incelemesi
Algorithmic performance review in spiking neural network architectures
Yazar: OBEID MOHAMEDNOOR OBEID ABDALLA
Danışman: PROF. DR. RECAİ KILIÇ
Erciyes Üniversitesi / Fen Bilimleri Enstitüsü / Elektrik-Elektronik Mühendisliği Ana Bilim Dalı / Elektronik Bilim Dalı
Derece: Yüksek Lisans, 2024
Konu: Elektrik ve Elektronik Mühendisliği = Electrical and Electronics Engineering

Özet:
Geleneksel programlama yöntemleri ile yapılan problem çözümlerinin karmaşıklığını azaltmak için insan beynindeki bilgi sürecinden esinlenen çeşitli nöral ağ teknikleri geliştirilmiştir. Bu teknikler arasında birinci nesil ve ikinci nesil yapay sinir ağlarının (YSA) devamı olarak biyolojik anlamlılığa sahip üçüncü nesil YSA'ları olarak Ateşlemeli Sinir Ağlar (Spiking Neural Networks-SNN'ler) tanımlanmaktadır. SNN'ler, zar potansiyeli bir eşiği aştığında ateşlenen nöron katmanlarından oluşan biyolojik nöronların iletişim kurallarını taklit eder. SNN ağ yapılarının başarım odaklı performans değerlerini artırmak için literatürde yenilikçi çalışmalara ihtiyaç duyulmaktadır. Bu tez çalışmasında denetimli ve denetimsiz öğrenme paradigmaları kullanılarak çeşitli görevleri gerçekleştirebilen SNN ağ mimarilerinin tasarlanması ve bu ağ mimarilerine eğitim için farklı algoritmaların uygulanması ve performans değerlendirilmesi amaçlanmaktadır. Bu bağlamda bu tez çalışmasında; biyolojik anlamlılığı yüksek ve az değişkenle tanımlanan FitzHugh-Nagumo nöron modeli (FHN) ile farklı katmanlardan oluşan SNN yapıları oluşturulmuştur. Oluşturulan ağları eğitmek için denetimsiz öğrenme paradigması altında Ateşleme Zamanlamaya Bağlı Plastisite (STDP) algoritmasıyla XOR uygulaması yapılmıştır. Denetimli öğrenme paradigması altında da Multi-STIP ve Multi-ReSuMe algoritmaları kullanılarak İris çiçeği ve Wisconsin göğüs kanseri (WBC) sınıflandırılması gerçekleştirilmiştir. Nümerik simülasyonlardan edinilen veriler, literatürde bulunan veriler ile karşılaştırarak kıyaslaması yapılmıştır. Sonuçlara göre, geliştirilen SNN'lerin kullanılan nöron sayısına göre yüksek doğruluk elde ettiğini görülmüştür. Multi-ReSuMe algoritması İris çiçeği veri setinde Multi-STIP algoritmasından daha iyi performans gösterirken, Multi-STIP algoritması Wisconsin göğüs kanseri veri setinde daha iyi performans sergilemiştir. Bu sonuçlar, SNN'nin güç tüketimini azaltmasında ve performansını artırmasında SNN optimizasyonunun önemini göstermektedir.

Abstract:
Various neural network techniques inspired by the information process of the human brain have been developed to simplify problem-solving beyond traditional programming methods. Among these techniques, Spiking Neural Networks (SNNs) are defined as the third generation of artificial neural networks with good biological significance. They are considered a continuation of the first-generation and second-generation artificial neural networks (ANNs). SNNs mimic the communication rules of biological neurons, consisting of layers of neurons that fire when the membrane potential exceeds a threshold. Innovative studies are needed in the literature to increase the design-oriented performance values of SNN network structures. This thesis aims to design SNN architectures capable of performing various tasks using supervised and unsupervised learning paradigms and to evaluate the performance of different training algorithms. In this context, SNN structures with different layers were constructed using the FitzHugh-Nagumo (FHN) neuron model which is defined with high biological significance and few variables. The XOR problem was addressed using the Spike Time Dependent Plasticity (STDP) algorithm under the unsupervised learning paradigm. The iris flower and Wisconsin breast cancer classification problems were conducted using the Multi-STIP and Multi-ReSuMe algorithms under the supervised learning paradigm. The data obtained from the numerical simulations were compared with the data found in the literature. According to the results, the developed SNNs achieved high accuracy in relation to the low number of neurons used. The developed SNNs were found to achieve high accuracy depending on the number of neurons used. While the Multi-ReSuMe algorithm outperformed the Multi-STIP algorithm on the iris flower dataset, the Multi-STIP algorithm performed better on the Wisconsin breast cancer dataset. These results indicate the importance of optimization of SNN which lowers power consumption of SNN and enhances its performance.