Medikal görüntü analizinde gürültü saldırılarına karşı derin öğrenme modellerinin performanslarının karşılaştırılması
Benchmarking of deep learning models against adversarial attacks in medical image analysis
Yazar: GÖKÇE OK
Danışman: PROF. DR. MURAT DENER
Gazi Üniversitesi / Fen Bilimleri Enstitüsü / Bilgi Güvenliği Mühendisliği Ana Bilim Dalı
Derece: Yüksek Lisans, 2024
Konu: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol = Computer Engineering and Computer Science and Control
Dizin: Bilgi güvenliği = Information security ; Derin öğrenme = Deep learning ; Medikal resimleme = Medical image ; Transfer öğrenimi = Transfer learning ; Çekişmeli saldırı = Adversarial attack

Özet:
Medikal görüntülerin analizi tıbbi tanı ve teşhis çalışmalarında önemli rol oynamaktadır. Teknolojinin gelişimiyle yapay zeka destekli medikal görüntü analiz sistemlerinin kullanımı yaygınlaşmaktadır. Birçok alanda yüksek başarı sağlayan derin öğrenme modelleri sağlık sektöründe de ilgi görmektedir. Medikal görüntü analizinde kullanılan derin öğrenme modelleri yüksek doğruluk ile görevlerini yerine getirmesine karşın birtakım saldırılara karşı savunmasızdır. Medikal görüntülere çok küçük düzeylerde gürültü eklenerek derin öğrenme modellerinin manipülasyonuna neden olan çekişmeli saldırılar dikkate alınması gereken tehlikelerin başında gelmektedir. Bu saldırıların doğasının anlaşılması ve medikal görüntü analizinde kullanılan derin öğrenme modellerinin hassasiyetlerinin keşfedilmesi, uygun savunma yöntemlerinin geliştirilmesi açısından önem arz etmektedir. Bu çalışmada, tümör tespitinde kullanılan manyetik rezonans (MR) ve bilgisayarlı tomografi (BT) görüntü setleri üzerinde iki gradyan tabanlı gürültü saldırısının etkinliği değerlendirilmektedir. Veri setlerine tek adımlı hızlı gradyan işareti yöntemi (FGSM) ve iteratif bir saldırı olan izdüşürülen gradyan inişi (PGD) uygulanmaktadır. Her bir veri seti için temiz test setleri ve saldırıların üç farklı pertürbasyon parametresi ile ürettiği çekişmeli örneklerden oluşan 7 senaryo ele alınmaktadır. Bu senaryolar 20 farklı ön eğitimli derin öğrenme modeli kullanılarak analiz edilmekte ve derinlemesine bir karşılaştırma gerçekleştirilmektedir. Aynı zamanda pertürbasyon parametresi, görüntü modalitesi, derin öğrenme algoritmaları ve saldırıların iteratif özellikleri gibi unsurların saldırı başarısı üzerindeki etkisi incelenmektedir. Ayrıca, FGSM ve PGD saldırıları ile üretilen örneklerin orijinal görüntüye benzerlikleri ve kaliteleri ölçülerek görüntülerdeki pertürbasyon derecesine bağlı bozulmanın saldırı başarısı ile ilişkisi araştırılmaktadır. Elde edilen deneysel sonuçlar ve bulgular kapsamlı olarak sunulmaktadır.

Abstract:
Medical image analysis plays a pivotal role in medical diagnostics and research studies. With the advent of technology, the proliferation of artificial intelligence-supported systems for medical image analysis is increasingly prevalent. Deep learning models, renowned for their high efficacy across various domains, are gaining prominence within the healthcare sector. Despite their commendable accuracy in medical image analysis tasks, deep learning models are susceptible to adversarial attacks. These attacks involve the manipulation of models by introducing imperceptible perturbations to medical images. Understanding the nature of such attacks and identifying the vulnerabilities of deep learning models in medical image analysis is paramount for devising effective defense mechanisms. In this study, we assess the efficacy of two gradient-based adversarial attacks, namely fast gradient signature method (FGSM) and projected gradient descent (PGD), on magnetic resonance (MR) and computed tomography (CT) image datasets utilized for tumor detection. We conduct experiments across seven scenarios for each dataset, comprising clean test sets and adversarial examples generated by attacks with varying perturbation parameters. Subsequently, we analyze these scenarios using twenty distinct pre-trained deep learning models, facilitating an extensive comparative analysis. Furthermore, we investigate the impact of factors such as perturbation parameters, image modalities, deep learning algorithms, and the iterative nature of attacks on attack success rates. Additionally, we assess the similarity and quality of samples generated by FGSM and PGD attacks concerning the original images, elucidating the relationship between image distortion due to perturbation and attack success. The experimental results and findings are comprehensively presented to provide insights into the effectiveness of adversarial attacks in medical image analysis.