H&E boyalı histopatolojik görüntülerde çekirdek segmentasyonu için derin öğrenmeye dayalı yeni bir mimarinin geliştirilmesi
Development of a new deep learning architecture for nuclear segmentation in H&E histopathological images
Yazar: MOHAMED TRAORE
Danışman: PROF. DR. REFİK SAMET
Ankara Üniversitesi / Fen Bilimleri Enstitüsü / Bilgisayar Mühendisliği Ana Bilim Dalı / Bilgisayar Mühendisliği Bilim Dalı
Derece: Yüksek Lisans, 2023
Konu: Mühendislik Bilimleri = Engineering Sciences

Özet:
Histopatolojik görüntüler, tıbbi patolojide çekirdek sayma, çekirdek yoğunluğu tahmini,
çekirdek-sitoplazma oranı hesaplama ve nükleer atipi derecelendirme gibi görevleri mümkün kılarak tıbbi patolojinin önemli bir rolünü üstlenmektedir. Çekirdek segmentasyonu ve tespitinin otomatikleştirilmesi, patologların iş yükünü azaltmanın yanı sıra tanı ve tedavi planlama süreçlerini kolaylaştırarak kararların doğruluğunu ve tutarlılığını artırmaktadır. Tıbbi görüntü segmentasyonunda, özellikle histopatolojik görüntü analizinde, U-Net mimarisi mükemmel sonuçlar vererek facto bir standart haline gelmiştir. Ancak, U-Net mimarisi, konvolüsyonlar aracılığıyla yerel bilgiyi etkili bir şekilde yakalama yeteneğine sahip olmasına rağmen, uzun mesafe bağımlılıklarını açıkça yakalama konusunda sınırlı yeteneğe sahiptir. İlk olarak diziden-diziye dönüşüm tahminleri için tasarlanan Transformerlar, küresel öz-dikkat (self-attention) mekanizmasına sahip alternatif mimariler olarak ortaya çıkmıştır. Bununla birlikte, Transformerlar düşük seviye özelliklere yeterince odaklanmama nedeniyle lokalizasyon ve ince ayrıntıların yakalanmasında eksiklikler gösterebilmektedirler. Bu tez çalışmasında, H&E boyalı histopatolojik görüntülerde çekirdeklerin doğru segmentasyonu için hem konvolüsyonel hem de Transformer bloklarını kullanan CompSegNet adlı yeni bir U-şekilli mimari önerilmiştir. Bu kapsamda önerilen konvolüsyonel bloklar, Mobil Konvolüsyon (MBConv) bloğuna, Büyüt-Filtrele-Küçült (BFK) olarak adlandırılan yeni bir alıcı alan genişletme stratejisi vasıtasıyla yeterli alıcı alan sağlanarak, ardından iyileştirilmiş küresel bağlam (GC) bloğunun integrasyonuyla küresel bağlam modellemesi yeteneğini kazandırılarak elde edilmiştir. CompSegNet'in darboğazı, Transformer kodlayıcı bloklarını Sandglass bloğunun bir varyantına özel bir şekilde entegre eden Artık Darboğazlı Transformer (ADT) bloğundan oluşmaktadır. Ek olarak, girdi görüntülerindeki olası gürültülerin etkisini hafifletmek amacıyla U-şekilli mimarinin en üst seviyesinde bir gürültüye duyarlı kök (GDK) bloğu tasarlanmıştır. Ayrıca, mimarinin genel segmentasyon performansını iyileştirmek için ağırlıklı bir ortak kayıp fonksiyonu önerilmiştir. Önerilen CompSegNet mimarisi, nicel ve nitel değerlendirmelerde mevcut çekirdek segmentasyon yöntemlerine göre üstün performans sergilemekte ve aynı zamanda makul sayıda parametreyi korumaktadır. CompSegNet, MoNuSeg 2018 ve NuSeC 2023 veri setlerinde değerlendirildiğinde sırasıyla 0.704 ve 0.677 AJI skorlarını elde ederek, doğru çekirdek segmentasyonundaki etkinliğini kanıtlamıştır.

Abstract:
Histopathological images play a crucial role in medical pathology, enabling tasks like nuclei counting, nuclei density estimation, nuclei-to-cytoplasm ratio calculation, and nuclear atypia grading. Automating nuclei segmentation and detection not only reduces pathologists' workload but also enhances the accuracy and consistency of diagnosis and treatment planning. In medical image segmentation, particularly in histopathological image analysis, the U-Net architecture has become the de-facto standard, yielding excellent results. However, while U-Net excels at capturing local information effectively through convolutions, it has limited ability to explicitly capture long-range dependencies. Transformers, initially designed for sequence-to-sequence prediction, have emerged as alternative architectures with inherent global self-attention mechanisms. Nevertheless, Transformers may lack localization abilities and fine-grained details due to insufficient focus on low-level features. In this thesis study, we propose a novel U-shaped architecture called CompSegNet, which utilizes both convolutional and transformer blocks for accurate nuclei segmentation in H&E-stained histopathological images. The proposed convolutional blocks enhance the Mobile Convolution (MBConv) block through a receptive fields enlargement strategy known as the Zoom-Filter-Rescale (ZFR) and incorporate an enhanced global context (GC) block for global context modeling. The bottleneck of CompSegNet consists of a Residual Bottleneck Transformer (RBT) block, which integrates Transformer encoder blocks in a tailored manner to a variant of the Sandglass block. Additionally, a noise-aware stem (NAS) block is designed at the highest level of the U-shaped architecture to minimize the potential impact of noise in the input images. Furthermore, a weighted joint loss function has been formulated to improve the overall segmentation performance of the architecture. The proposed CompSegNet architecture exhibits superior performance compared to existing nuclei segmentation methods in both quantitative and qualitative evaluations while maintaining a reasonable number of parameters. When evaluated on the MoNuSeg 2018 and NuSeC 2023 datasets, CompSegNet achieves a competitive and commendable AJI score of 0.704 and 0.677 respectively, demonstrating its effectiveness in accurate nuclei segmentation.