Derin öğrenme yöntemlerinin tıbbi teşhis alanında sorgulanması ve beyin tümörü tanısında uygulanması
Investigation of deep learning in medical image analysis and detection of brain tumor using novel adaptive momentum method
Yazar: UTKU CAN AYTAÇ
Danışman: PROF. DR. ALİ GÜNEŞ
İstanbul Aydın Üniversitesi / Lisansüstü Eğitim Enstitüsü / Bilgisayar Mühendisliği Ana Bilim Dalı / Bilgisayar Mühendisliği Bilim Dalı
Derece: Doktora, 2022
Konu: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol = Computer Engineering and Computer Science and Control
Dizin: Evrişimli sinir ağları = Convolutional neural networks ; Geri yayılım ağları = Back propagation networks ; Momentler yöntemi = Moments method ; Optimizasyon teknikleri = Optimization techniques ; Tıbbi görüntüleme = Medical imaging

Özet:
Derin öğrenme yöntemlerindeki ilerlemeler, tıbbi görüntüleme ile elde edilen muazzam görüntü verisi yardımıyla insan organlarını kapsamlı bir şekilde araştırmaya ve hastalıkların erken teşhisine yardımcı olmaktadır. Tıbbi görüntü verisi sağlama teknikleri ve donanımları hızla gelişirken, bu veriyi görüntü sınıflandırma ve segmantasyonunda sıkça kullanılan evrişimsel sinir ağları (CNN'ler) ile işleme ve analiz etme, önemli bir araştırma problemi olarak ortaya çıkmaktadır. Bu çalışmada tıbbi teşhis alanındaki derin öğrenme yöntemleri incelenerek, evrişimsel sinir ağları ile tıbbi resimlerdeki hastalıklı yapının teşhis edilmesi ve sınıflandırılması amaçlanmıştır. Çalışmada, evrişimsel sinir ağlarına yönelik özgün parametre optimizasyon yöntemi önerilmiştir. CNN'ler, derin sinir ağlarının eğitimi için geriye yayılım algoritmasında gradyan iniş metodunu kullanırlar. Literatürde son yıllarda, eğitim süresini hızlandırmak ve performasını iyileştirmek için momentum önerilmektedir. Geleneksel momentum yöntemleri genellikle sabit bir değer olup, doğru hiperparametre değerini bulmak hesaplama karmaşıklığı açısından oldukça belirsizdir. Önerilen uyarlanabilir momentum yöntemi, derin sinir ağlarının parametre optimizasyon sürecini hızlandırmak ve daha istikrarlı yakınsamasını amaçlamaktadır. Uyarlanabilir momentum, eğitim sürecindeki (epok) geçmiş hata fonksiyonu değerini bellekte tutarak, hata fonksiyonunun her epokta artmasına veya azalmasına bağlı değişmektedir. Önerilen yöntem, CNN'lerde uygulanmış ve Moleküler Beyin Neoplazisi Veri Havuzu (REMBRANDT) veri seti ile test edilmiştir. Yöntemin geçerliliği ise farklı tıbbi veri setleri ile yapılmıştır. Uyarlanabilir momentum yönteminin performansı, stokastik gradyan iniş (SGD), Adam ve RMSprop gibi diğer optimizasyon yöntemleri ile karşılaştırılmıştır, ayrıca önerilen uyarlanabilir momentuma sahip en başarılı derin CNN mimarileri için performans karşılaştırması yapılmıştır. Sonuçların değerlendirilmesinde doğruluk, kesinlik, duyarlılılık ve F1 değerleri kullanılmıştır. Tez, altı bölümden oluşmakta olup: Giriş, Derin Öğrenme, Materyal ve Yöntem, Bulgular, Sonuç ve Öneriler kısmından meydana gelmiştir. Giriş bölümünde, bu tezin amacı ve bu çalışma hakkında literatür araştırmasına yer verilmiştir. Derin Öğrenme bölümünde, derin sinir ağlarının genel yapısı, çalışma prensibi incelenmiştir. Materyal ve yöntem bölümünde, çalışma alanı ile ilgili bilgi, kullanılan veri seti ve aynı zamanda önerilen yöntem belirtilmiştir. Bulgular bölümünde çalışma sonuçları açıklanmıştır. Sonuç ve Öneriler bölümünde çıktılar değerlendirilmiş, görüşler ve öneriler belirtilmiştir. 

Anahtar Kelimeler: Uyarlamalı Momentum Yöntemleri, Konveks Olmayan Optimizasyon, Geri Yayılım Algoritması, Evrişimsel Sinir Ağları, Tıbbi Görüntü Sınıflandırması

Abstract:
Developments of deep learning have combined with large amounts of medical images allows more accurate and rapid diagnosis of disorders. It's helping doctors to diagnose patients more accurately. Deep Learning for medical diagnosis has made a tremendous impact by applying convolutional neural networks (CNNs) to medical image classification and momentum plays an essential role in stochastic gradient optimization algorithms for accelerating or improving training convolutional neural networks. In traditional optimizers in CNNs, the momentum is usually weighted by a constant. However, tuning hyperparameters for momentum can be computationally complex. In this thesis, we investigate deep learning algorithms in image prediction and propose a novel adaptive momentum for fast and stable convergence. Applying adaptive momentum rate proposes to increase or decrease based on error changes in every epoch, and it eliminates the need for momentum hyperparameter optimization. We tested proposed method with Repository of Molecular Brain Neoplasia Data (REMBRANDT) dataset anda validated with differend medical datasets. The proposed algorithm applies convolutional neural networks (CNNs) to multi-class magnetic resonance (MR) image classification. This method can recognize brain tumor types and identify other diseases. We compared the performance of a novel adaptive momentum optimizer with Stochastic gradient descent (SGD) and other adaptive optimizers such as Adam and RMSprop. We also investigated the performance comparison for the state of the art CNN architectures with adaptive momentum. Results are compared in terms of precision, recall and F1 score. The thesis consists of six parts: Introduction, Deep Learning, Materials and Methods, Findings, Conclusion and Suggestions. In the introduction part, the aim of this thesis and a literature review about this study were made. In the Deep Learning section, the general structure and working principle of deep artificial neural networks are examined. In the material and method section, information about the study area, the dataset used and also the methods used are specified. In the Results section, the results of the study are explained. In the Conclusion and Suggestions section, the outputs were evaluated and opinions and suggestions were stated. 

Keywords: Adaptive Momentum methods, Nonconvex Optimization, Backpropagation Algorithm, Convolutional Neural Networks, Medical Image Classificatio