Çok katmanlı yapay sinir ağları modelleri için genetik algoritmalar kullanarak özgün mimari tasarımı: Nöral lojik devreler
A novel architecture design for multi-layer neural networks by using genetic algorithms: Neural logic circuits
Yazar: HAMİT TANER ÜNAL
Danışman: PROF. DR. FATİH BAŞÇİFTÇİ
Selçuk Üniversitesi / Fen Bilimleri Enstitüsü / Bilişim Teknolojileri Mühendisliği Ana Bilim Dalı
Derece: Doktora, 2023
Konu: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol = Computer Engineering and Computer Science and Control
Dizin: Yapay sinir ağları = Artificial neural networks ; Yapay zeka = Artificial intelligence

Özet:
Bu tez çalışmasında; biyolojik nöronların dijital karakterinden ve insan beyninin nöroplastisite sürecinden ilham alan, Nöral Lojik Devreler (NLD) adında, yeni ve özgün bir yapay zekâ paradigması tanıtılmıştır. Çok katmanlı yapay sinir ağları ve derin öğrenme modellerine alternatif olarak geliştirilen bu model üç boyutlu uzayda serbest olarak dizilmiş yapay nöronlardan ve bu nöronlar arasındaki sinaptik bağlantılardan oluşur. Önerilen paradigmada yapay nöronlar mantık kapıları ile temsil edilmiş, ağ mimarisinin tasarımı ve nöronlar arasındaki bağlantıların sürekli olarak optimizasyonu için Genetik Algoritmalardan faydalanılmıştır. Klasik yapay sinir ağlarının aksine katmansız olarak tasarlanan bu yapıda, tüm işlemler ikili sayı sisteminde gerçekleşmekte, bağlantı ağırlığı, aktivasyon fonksiyonu veya geri yayılım gibi yüksek hesaplama maliyeti gerektiren karmaşık işlemler yer almamaktadır.  Optimizasyon prosedürü, eğitim verilerinin yardımıyla, ağı minimal boyuttan başlayarak tasarlar ve kademeli olarak genişletir. Nihai olarak elde edilen ağın performansı test verileri üzerinden değerlendirilir ve gerektiğinde donanımsal olarak inşa edilebilir. Önerilen paradigma yaygın olarak kullanılan ikili sınıflandırma veri setleri üzerinde denenmiş ve gelişmiş ölçüm metrikleri kullanılarak elde edilen performans değerleri yapay sinir ağları da dahil olmak üzere modern makine öğrenmesi algoritmalarıyla kıyaslanmıştır. Gerçekleştirilen tüm deney süreçlerinde Nöral Lojik Devreler, diğer makine öğrenmesi modellerine göre; F1-Score'da ortalama %23,83, Dengelenmiş Doğruluk ölçümünde ortalama %11,47 daha iyi sonuç göstererek, özellikle düzensiz dağılıma sahip veri setlerinde güvenilir bir sınıflandırıcı olduğunu kanıtlamıştır. Bununla birlikte, elde edilen ağların son derece sade olması biyolojik olgularla uyumlu olduğunu göstermiş, sadece belirli öznitelikleri kullanması ile aynı zamanda iyi bir öznitelik seçici olduğunu da ortaya çıkarmıştır. NLD ile elde edilen devrelerin şeffaf yapısı, sonucu etkileyen parametreleri ön plana çıkarmakta ve açıklanabilir yapay zekâ için önemli katkılar sunmaktadır.

Abstract:
In this thesis, we introduce Neural Logic Circuits (NLC), a novel artificial intelligence paradigm inspired by all-or-none character of biological neurons and neuroplasticity of human brain. Developed as an alternative to multilayer artificial neural networks and deep learning models, the proposed paradigm is constructed by artificial neurons arranged in three-dimensional space and synaptic connections between those neurons. The artificial neurons are represented by logic Gates and Genetic Algorithms are used for the design and continuous optimization of neural connections in the network architecture. Unlike classical ANNs, our proposed structure has no layers and weights. All operations are performed in binary and there exists no complex operations such as activation functions or backpropagation. With the help of training data, the optimization algorithm builds the network from minimal scale and augments gradually. The proposed NLC paradigm is evaluated through a serious of experiments by using advanced accuracy metrics and the results are compared with modern and competitive machine learning algorithms. The experimental results proved the efficiency of our proposed paradigm by outperforming all other machine learning models on all test instances. Our NLC model achieved 23.83% better performance on F1-Score and 11.47% better performance on Balanced Accuracy compared to average of best results by other evaluated models. This is a clear indicator of our model's superior ability to classify imbalanced datasets. The resulting NLC networks turned out to be very sparse structures, indicating strong plausibility of biological facts. The sparsity of those networks also proved that NLC can be used as a competitive feature selector. The transparent structure of the circuits obtained with NLC highlights the parameters that affect the result and makes important contributions to explainable artificial intelligence.