Görüntü dönüştürücüler kullanılarak retina hastalıklarının tespiti için federe öğrenme
Federated learning for retinal disease detection using vision transformers
Yazar: SAİD AKÇA
Danışman: DOÇ. DR. ZEYNEP GARİP ; DOÇ. DR. EKİN EKİNCİ
Sakarya Uygulamalı Bilimler Üniversitesi / Lisansüstü Eğitim Enstitüsü / Bilgisayar Mühendisliği Ana Bilim Dalı / Bilgisayar Mühendisliği Bilim Dalı
Derece: Yüksek Lisans, 2024
Konu: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol = Computer Engineering and Computer Science and Control

Özet:
Medikal verilerde gizlilik büyük bir önem taşımaktadır. Bu tez çalışmasında, optik koherens tomografi (OKT) görüntülerini sınıflandırmak için Federe Öğrenme (FL) teknikleri ve Görüntü Dönüştürücüler (ViTs) kullanılmıştır. Retina hastalıklarının erken teşhisi ve tedaviye hızlı yanıt verilmesi oftalmoloji alanında büyük önem taşır. OKT, retina hastalıklarının tanı ve takibinde kritik bir rol oynar, ancak medikal verilerin gizliliği ve güvenliği nedeniyle bu verilerin paylaşılması zor olabilir. Veri kümesi dört sınıfa ayrılmıştır: CNV, DRUSEN, DME ve NORMAL. Federe öğrenme modeli, iki istemci üzerinde lokal olarak eğitilmiş ve model güncellemeleri merkezi sunucuya FedAvg ve FedMedian stratejileriyle birlikte gönderilmiştir. Bu süreçte, veriler yerel cihazlarda kalmış ve sadece model ağırlıkları merkezi sunucuya aktarılmıştır, böylece veri gizliliği korunmuştur. Federe öğrenme, verilerin gizliliğini koruyarak merkezi olmayan bir makine öğrenimi yaklaşımı sunar. Bu yöntemde, veriler cihazlarda yerel olarak tutulur ve her cihaz kendi modelini eğitir. Eğitim süreci boyunca sadece model güncellemeleri (ağırlıklar) merkezi sunucuya gönderilir. Merkezi sunucu, bu güncellemeleri toplayarak belirlenen stratejiye göre global modeli oluşturur ve oluşturulan bu model global model daha sonra istemcilere geri gönderilir. Böylece, verilerin merkezi bir depoda toplanmasına gerek kalmadan büyük ve genelleştirilebilir modeller geliştirilebilir. Görüntü dönüştürücü (transformatörleri), doğal dil işleme alanında kullanılan dönüştürücü (transformer) mimarisinin görüntü işleme görevlerine uyarlanmış bir versiyonudur. Kullanılan modeller arasında Görüntü dönüştürücü (ViT), Token-to-Token ViT ve MobileViT bulunmaktadır. ViTs, görüntüleri küçük yamalara (patches) ayırarak her bir yamayı işlemek için kendine özgü dikkat (attention) mekanizmalarını kullanır. Bu yapı, evrişimli sinir ağlarına (CNN) kıyasla daha esnek ve güçlü bir model yapısı sunarak, görüntü işleme performansını artırır. Sonuç olarak, bu çalışma MobileViT modelinin FedAvg stratejisi altında %97,4 F1-skoru ve yüksek doğruluk oranı elde ederek, OKT görüntülerinin sınıflandırılmasında etkili olduğunu göstermiştir. Federe öğrenme ve Görüntü dönüştürücüleri kombinasyonu, medikal verilerin gizliliğini korurken yüksek performans sağlayarak, oftalmolojide erken teşhis ve hızlı tedavi yanıtlarını desteklemektedir. Çalışmamızda FedAvg ve FedMedian stratejileri kullanılmıştır. Ancak, en yüksek doğruluk FedAvg stratejisi ile elde edilmiştir

Abstract:
Privacy of medical data is of utmost importance. In this thesis, Federated Learning (FL) techniques and Vision Transformers (ViTs) have been used to classify optical coherence tomography (OCT) images. Early diagnosis of retinal diseases and rapid response to treatment are crucial in the field of ophthalmology. OCT plays a critical role in the diagnosis and follow-up of retinal diseases, but the sharing of medical data can be challenging due to privacy and security concerns. The dataset is divided into four classes: CNV, DRUSEN, DME, and NORMAL. The federated learning model is trained locally on two clients, and model updates are sent to a central server using FedAvg and FedMedian strategies. During this process, the data remains on local devices, and only model weights are transferred to the central server, thereby preserving data privacy. Federated learning provides a decentralized machine learning approach while maintaining data privacy. In this method, data is kept locally on devices, and each device trains its own model. Throughout the training process, only model updates (weights) are sent to the central server. The central server aggregates these updates to form a global model, which is then sent back to the clients. This approach allows the development of large and generalizable models without the need to centralize the data. Vision transformers (ViTs) are an adaptation of the transformer architecture used in natural language processing for image processing tasks. The models used include Vision Transformer (ViT), Token-to-Token ViT, and MobileViT. ViTs divide images into small patches and use unique attention mechanisms to process each patch. This structure offers a more flexible and powerful model compared to convolutional neural networks (CNNs), enhancing image processing performance.As a result, this study demonstrated the effectiveness of the MobileViT model in classifying OCT images, achieving an F1-score of 97.4% and high accuracy under the FedAvg strategy. The combination of federated learning and vision transformers supports early diagnosis and rapid treatment responses in ophthalmology while ensuring the privacy of medical data. In our study, both FedAvg and FedMedian strategies were used. However, the highest accuracy was achieved with the FedAvg strategy.