Histopatolojik görüntülerde tümör bölütlenmesi
Tumor segmentation in histopathological images
Yazar: ZEHRA BOZDAĞ
Danışman: DOÇ. DR. MUHAMMED FATİH TALU
İnönü Üniversitesi / Fen Bilimleri Enstitüsü / Bilgisayar Mühendisliği Ana Bilim Dalı
Derece: Doktora, 2021
Konu: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol = Computer Engineering and Computer Science and Control
Dizin: Görüntü bölütleme = Image segmentation

Özet:
Histopatolojik Görüntü bölütlenme alanı doygun bir literatüre sahipken, Evrişimsel Sinir Ağlarının (ESA) hayatımıza girmesi, motorize mikroskoplarla hasta doku yüzeylerinin yüksek çözünürlükte Tüm Slayt Görüntülerinin (TSG) elde edilmesi ve kanser enstitüleri tarafından etiketlenmiş büyük veri kümelerinin açık erişime sunulması, araştırmacıları klasik bölütleme algoritmalarından çok daha doğru sonuçlar üretebilen güncel ESA mimarilerini keşfetmeye sevk etmiştir. Meme lenf düğümlerinde meydana gelen kanserli dokuların doğru tespiti, hastalığın hangi evrede olduğunun belirlenmesinde ve uygun tedavi yönteminin planlanmasında önemli rol oynamaktadır. Ancak hastanın lenf düğümlerinden alınan doku örneklerinin boyama prosedürlerindeki farklılıklar, görüntüleme cihazının ve çekim formatının farklı oluşu, dokunun çok farklı şekil, renk ve yapılara sahip olması gibi zorluklar bölütleme işlemini zorlaştırmaktadır.
Mevcut ESA mimarileri (Faster RCNN ve Mask RCNN) nesne tespit ve bölütlenmesinde büyük başarı göstermiştir. ESA'ların ana fikri evrişim ve ortaklama katmanlarını kullanarak görüntüdeki genel desenleri (ayırt edici özellikleri) aşamalı olarak ortaya çıkarmaktır. Evrişim katmanları, yerel filtre sonuçlarını birleştirerek gösterim kabiliyeti yüksek öznitelikler üretmeyi amaçlar. Ortaklama katmanı üretilen öznitelikleri özetleyerek veri boyutunun küçülmesini sağlar. Her iki katmanın yerel görüntü alanlarında çalıştığı görülmektedir. Yerel bağlama odaklanan bu mimariler görüntüdeki global bağlam bilgisini yeterince kullanamaz. Bu tez çalışmasında, histopatolojik görüntülerin bölütlenmesinde yerel ve global bağlam bilgilerini birlikte kullanabilen hibrit ESA mimarileri geliştirilmiştir. 
ESA mimarilerine global bağlamı yakalayabilme kabiliyetini kazandırabilmek için yerel-olmayan ağ (non-local network) modülü kullanılmıştır. Bu modül çok ölçekli ağ modeliyle birleştirilerek, düşük parametre uzayına sahip bir bölütleme mimarisi geliştirilmiştir. Bu mimariye, görüntüdeki nesnelerin sınır hatlarında iyileştirmeyi sağlayan sınır keskinleştirme modülü eklenmiş ve maliyet hesaplamasında derin denetim tekniğinin (orta katman çıktılarının maliyet fonksiyonuna dahil edilmesi) kullanımı sağlanmıştır. Önerilen hibrit mimarinin başarımı birçok farklı deneysel çalışmayla test edilmiştir. Yapılan deneysel çalışmalar sonucunda, mevcut ESA mimarileriyle elde edilen bölütleme sonuçlarına önerilen mimariyle daha hızlı ulaşılabildiği görülmüştür.
Diğer bir çalışma, çözünürlük artırmak amacıyla geliştirilen çok ölçekli artık blok (Multi-Scale Residual Block, MSRB) yaklaşımının bölütleme probleminde kullanılmasını içermektedir. MSRB mimarisi iki kısımdan oluşmaktadır. Birinci kısım girdinin çok ölçekli özelliklerini elde ederken, ikinci kısım artık öznitelik haritasını üretmektedir. Her iki özniteliğin birleşimiyle yüksek çözünürlükte görüntüler üretilebilmektedir. Bu kabiliyetin bölütleme mimarisine entegrasyonu aşamasında ilk olarak bölütleme için uygun çekirdek (kernel) boyutu tespiti yapılmıştır. Belirlenen çekirdek boyutlu mimariye Atrous Uzaysal Piramit Ortaklama (Atrous Spatial Pyramid Pooling, ASPP) modülünün etkisi araştırılmıştır. Düşük hiperparametre sayısına sahip mimarinin yüksek bölütleme başarımı sergilediğini mIoU ölçütü incelenerek görülmüştür.
Son olarak dikkat mekanizmalarının bölütleme doğruluğu üzerindeki etkisi incelenmiştir.  Geliştirilen bölütleme mimarileri çok ölçekli bir yapıya sahip olduğu için dikkat mekanizmaları her ölçeğe ayrı uygulanmıştır. Böylece mimari tarafından elde edilen yerel ve global bağlam bilgilerinde odaklanılacak bölgenin vurgulanması, arka planın baskınlaştırılması sağlanarak belirli bir bölgeye dikkatin çekilmesi sağlanmıştır. Önceki mimarilerde olduğu gibi parametre uzayının düşük tutulmasıyla bölütleme işleminin hızlı olması hedeflenmiştir. Elde edilen başarım sonuçları mevcut bölütleme mimarileriyle kıyaslanmıştır.
Sonuç olarak, meme kanseri tespiti alanında histopatolojik görüntülerin daha hızlı ve daha doğru bölütlenmesi için literatüre üç farklı mimari kazandırılmıştır.

Abstract:
While the histopathological image segmentation area has a rich literature, the introduction of Convolutional Neural Networks (CNN) into our lives, obtaining high-resolution Whole Slide Images (WSI) of patient tissue surfaces with motorized microscopes, and presenting large data sets labeled by cancer institutes to open access, researchers have more It has led them to discover current ESA architectures which can produce more accurate results. The correct detection of cancerous tissues in the breast lymph nodes plays an important role in determining the stage of the disease and planning the appropriate treatment method. However, difficulties such as the differences in the staining procedures of the tissue samples taken from the lymph nodes of the patient, the different imaging device and imaging format, and the very different shapes, colors and structures of the tissue make the segmentation process difficult.
Existing CNN architectures (Faster RCNN and Mask RCNN) have shown great success in object detection and segmentation. The main idea of CNNs is to reveal the general patterns (distinctive features) in the image gradually by using the convolution and pooling layers. Convolution layers combine local filter results to produce features with high display capability. The partnership layer provides a reduction in the size of the data by summarizing the generated attributes. Both layers seem to work in local image areas. These architectures that focus on local context cannot adequately use the global context information in the image. In this thesis, hybrid CNN architectures have been developed which can use local and global context information together in segmentation of histopathological images.
A non-local network module has been used to provide CNN architectures with the ability to capture the global context. This module is combined with a multi-scale network model, and a segmentation architecture with a low parameter space has been developed. The boundary sharpening (boundary-aware) module has been added to this architecture, which provides improvement in the boundary lines of the objects in the image, and the use of deep control technique (including middle layer outputs in the cost function) is provided in cost calculation. The performance of the proposed hybrid architecture has been tested in many different experimental studies. As a result of the experimental studies, it has been observed that the segmentation results obtained with the existing CNN architectures can be reached faster with the proposed architecture.
Another study involves the use of the Multi-Scale Residual Block (MSRB) approach developed to increase the resolution in the segmentation problem. MSRB architecture consists of two parts. While the first part obtains the multi-scale properties of the input, the second part produces the residual feature map. High resolution images can be produced with the combination of both features. At the stage of integrating this capability into the segmentation architecture, firstly, the kernel size suitable for segmentation was determined. The effect of the Atrous Spatial Pyramid Pooling (ASPP) module on the determined kernel-sized architecture has been investigated. It has been observed by examining the mIoU metric that the architecture with a low number of hyperparameters exhibits high segmentation performance.
Finally, the effect of attention mechanisms on segmentation accuracy has been examined. Since the segmentation architectures developed have a multi-scale structure, attention mechanisms have been applied to each scale separately. Thus, the emphasis of the region to be focused on in the local and global context information obtained by the architecture, and the dominance of the background was provided to draw attention to a specific region. As in previous architectures, it is aimed to make the segmentation process fast by keeping the parameter space low. The performance results obtained are compared with existing segmentation architectures.
As a result, three different architectures have been added to the literature for faster and more accurate segmentation of histopathological images in the field of breast cancer detection.