Hücre-damar segmentasyonunda kullanılan derin sinir ağı modellerinin hiper-parametre optimizasyonu
Hyper-parameter optimization of deep neural networks for cell-vessel segmentation
Yazar: ZEKİ KUŞ
Danışman: DR. ÖĞR. ÜYESİ BERNA KİRAZ
Fatih Sultan Mehmet Vakıf Üniversitesi / Lisansüstü Eğitim Enstitüsü / Bilgisayar Mühendisliği Ana Bilim Dalı / Bilgisayar Mühendisliği Bilim Dalı
Derece: Doktora, 2023
Konu: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol = Computer Engineering and Computer Science and Control

Özet:
Derin sinir ağları (DSA), medikal görüntülerin segmentasyonu için önemli bir araçtır. Ancak, DSA'ların performansı, seçilen mimari ve hiper parametrelere bağlıdır. Bu hiper parametreler manuel olarak seçilebilir, ancak bu zaman alıcı ve zor olabilir. Bu nedenle, Sinir Mimarisi Arama (NAS) yöntemleri geliştirilmiştir. Bu çalışmada ilk olarak, UNAS-Net adlı yeni bir NAS yöntemi önerilmiştir. UNAS-Net, Diferansiyel Evrim (DE) ve Yerel Arama (LS) gibi meta-sezgisel yöntemlerle optimize edilmiştir. Önerilen yöntem, Optofil ve Hücre Çekirdeği veri kümeleri üzerinde test edilmiş ve U-Net mimarisinden segmentasyon performansı ve hesaplama karmaşıklığı açısından daha iyi performans sergilemiştir. İkinci olarak, beyin damarı segmentasyonu için diferansiyel evrim tabanlı NAS yaklaşımları önerilmiştir. Bu yaklaşımlar, medikal görüntü segmentasyonunda yaygın olarak kullanılan U-Net ve Attention U-Net ağlarını temel almıştır. Arama yöntemi olarak, Geleneksel DE ve karşıtlık tabanlı diferansiyel gelişim (ODE) yöntemleri seçilmiştir. Deneyler, vesseINN ve KUVESG olmak üzere iki farklı herkese açık beyin damar segmentasyonu veri kümesi üzerinde gerçekleştirilmiştir. Önerilen yöntemler, farklı segmentasyon metrikleri açısından daha iyi segmentasyon performansı sağlamış ve temel yöntemlere göre 9.15 kat daha karmaşık mimariler üretmiştir. Retina damar segmentasyonu (RDS), retina hastalıklarının belirlenmesine ve izlenmesine yardımcı olduğu için medikal görüntü analizinde çok önemlidir ve otomatik yöntemlere ihtiyaç duyulmaktadır. Üçüncü olarak, RDS problemi için yüksek segmentasyon performansına ve daha düşük çıkarım süresine sahip mimarileri keşfeden yeni bir NAS yöntemi önerilmiştir: MedUNAS. En iyi ağ yapısını aramak için ODE ve genetik algoritma (GA) yöntemleri kullanılmış ve ayrıca ayrık ve sürekli kodlama stratejileri karşılaştırılmıştır. Önerilen yöntemler, 15 kata kadar daha az parametreye sahip ağlarla dört veri kümesinde temel U-Net'ten daha iyi performans göstermiştir. Ayrıca, oluşturulan ağların yeni medikal görevlere etkili bir şekilde uyarlanabileceği ortaya konulmuştur. Son olarak, tahmin ediciler ile NAS sürecinin birlikte gerçekleştirildiği BaDENAS yaklaşımı önerilmiş ve RDS problemi için test edilmiştir. Sonuçlar, BaDENAS'ın temel alınan yöntemleri model karmaşıklığı, segmentasyon performansı ve yakınsama hızı açısından iyileştirdiğini ortaya koymuştur.

Abstract:
Deep neural networks (DNNs) are important methods for the segmentation of medical images. However, the performance of DNNs depends on the architecture and hyperparameters. These hyperparameters can be selected manually, which can be time-consuming and difficult. Therefore, Neural Architecture Search (NAS) methods are developed. First, we propose a new NAS method called UNAS-Net. UNAS-Net is optimized by meta-heuristics such as Differential Evolution (DE) and Local Search (LS). UNAS-Net is evaluated on the Optofil and Cell Nucleus datasets and outperforms the U-Net regarding segmentation performance and computational complexity. Second, DE-based NAS approaches for brain vessel segmentation are proposed. These approaches are based on U-Net and Attention U-Net, which are widely used in medical image segmentation. Traditional DE and opposition-based DE (ODE) are chosen as search methods. The experiments are performed on two publicly available cerebrovascular segmentation datasets: vesseINN and KUVESG. The proposed methods achieved better segmentation performance in different segmentation metrics and generated 9.15 times more complex architectures than the baselines. Retinal vessel segmentation (RVS) is very important in medical image analysis as it helps to identify and monitor retinal diseases, and automated methods are needed. Third, a new NAS method is proposed for the RVS that discovers architectures with high segmentation performance and lower inference time: MedUNAS. ODE and genetic algorithm (GA) methods are used to search for the best network structure, and also discrete and continuous encoding strategies are compared. The proposed methods outperformed the baseline U-Net on four datasets with networks with up to 15 times fewer parameters. Furthermore, it is demonstrated that the generated networks can be effectively adapted to new medical tasks. Finally, the BaDENAS approach, which combines predictors with the NAS process, is proposed and tested for the RVS problem. The results show that BaDENAS improves the baselines regarding model complexity, segmentation performance and convergence speed.