Siber güvenlikte makine öğrenimi tabanlı zararlı yazılımların algılanması ve analizi
Detection and analysis of malicious software in cybersecurity using machine learning
Yazar: AHMET ÖZTÜRK
Danışman: DR. ÖĞR. ÜYESİ SELMAN HIZAL
Sakarya Uygulamalı Bilimler Üniversitesi / Lisansüstü Eğitim Enstitüsü / Bilgisayar Mühendisliği Ana Bilim Dalı / Bilgisayar Mühendisliği Bilim Dalı
Derece: Yüksek Lisans, 2024
Konu: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol = Computer Engineering and Computer Science and Control
Dizin: Makine öğrenmesi = Machine learning ; Siber güvenlik = Cyber security ; Siber saldırı = Cyber attack ; Zararlı yazılım analizi = Malware analysis

Özet:
Zararlı yazılımlar, hızla ilerleyen teknolojik gelişmelere uyum sağlayarak siber güvenlik alanında ciddi bir tehdit oluşturmakta ve bu tehditler, sürekli evrilen doğaları nedeniyle geleneksel güvenlik önlemlerini aşma potansiyeline sahiptir. Bu bağlamda, bu tez çalışması, zararlı yazılımların tespiti ve engellenmesini iyileştirmek amacıyla makine öğrenmesi (ML) tekniklerini entegre eden yenilikçi bir yaklaşım sunmayı hedeflemektedir. Çalışma, casus yazılım, fidye yazılımı ve truva atları gibi yaygın zararlı yazılım türlerini kapsayan ve gerçek dünya verilerini yansıtan CIC-MalMem-2022 veri kümesini kullanmaktadır. Bu veri kümesi, zararlı yazılımların tespitinde kullanılacak modellerin etkinliğini artırmak için zengin bir veri kaynağı sağlamaktadır. Tezde, zararlı yazılımların tespiti için ML algoritmalarının performansı, yüzde bölme ve 10 katlı çapraz doğrulama gibi çeşitli deneysel koşullar altında değerlendirilmiştir. Değerlendirmeler, ikili ve çok sınıflı sınıflandırma görevleri kapsamında gerçekleştirilmiş olup, Rastgele Ağaç (RT), Rastgele Orman (RF), J-48 (C4.5), Naive Bayes (NB) ve XGBoost algoritmaları incelenmiştir. Elde edilen sonuçlar, RF, J-48 ve XGBoost algoritmalarının yüksek doğruluk oranları ile öne çıktığını göstermiştir. Özellikle RF ve XGBoost algoritmaları, zararlı yazılım tespitinde üstün performans sergileyerek siber güvenlik alanında önemli katkılar sağlamıştır. Naive Bayes algoritması ise, genel olarak rekabetçi bir performans sergilemiş ancak dengesiz veri kümeleri ve çok sınıflı sınıflandırma görevlerinde bazı zorluklarla karşılaşmıştır. Bu bulgular, gelişmiş ML tekniklerinin zararlı yazılım tespitinde ne kadar etkili olabileceğini açıkça ortaya koymakta ve siber güvenlik uzmanları ile araştırmacılara değerli içgörüler sunmaktadır. Gelecekteki araştırmalar için önerilen yönler arasında model hiperparametrelerinin daha da optimize edilmesi, topluluk öğrenme yaklaşımlarının detaylı incelenmesi ve değerlendirmelerin daha geniş veri kümeleri ile gerçek dünya senaryolarına genişletilmesi bulunmaktadır. Bu öneriler, zararlı yazılım tespiti için kullanılan ML tekniklerinin uygulanabilirliğini ve etkinliğini artırabilir. Sonuç olarak, bu tez çalışması, zararlı yazılım tespiti için makine öğrenmesi yöntemlerinin kullanımını genişletmeyi ve siber güvenlik alanında daha güvenli, etkili ve yenilikçi çözümler geliştirilmesine katkıda bulunmayı hedeflemektedir. Bu yaklaşım, siber tehditlerle mücadelede yeni ve etkili metodolojilerin önünü açabilir ve siber güvenlik alanında dönüşümü teşvik edebilir.

Abstract:
Malware poses a significant threat in the cybersecurity domain, rapidly adapting to technological advancements and often surpassing traditional security measures due to its dynamic and evolving nature. This thesis presents an innovative approach to improving malware detection and prevention by integrating machine learning (ML) techniques. The study employs the CIC-MalMem-2022 dataset, which includes common types of malware such as spyware, ransomware, and Trojans, and mirrors real-world data. This dataset serves as a rich resource to enhance the effectiveness of the models used for malware detection. In this thesis, the performance of ML algorithms for malware detection is evaluated under various experimental conditions, including percentage split and 10-fold cross-validation. These evaluations are conducted across both binary and multi-class classification tasks, examining algorithms such as Random Tree (RT), Random Forest (RF), J-48 (C4.5), Naive Bayes (NB), and XGBoost. The results highlight that RF, J-48, and XGBoost achieve high accuracy rates, with RF and XGBoost, in particular, demonstrating superior performance in detecting malware, thus contributing significantly to the field of cybersecurity. Although the Naive Bayes algorithm generally displays competitive performance, it encounters challenges with imbalanced datasets and multi-class classification tasks. These findings underscore the potential effectiveness of advanced ML techniques in malware detection and offer valuable insights to cybersecurity experts and researchers. Future research directions suggested include further optimization of model hyperparameters, exploration of ensemble learning approaches, and expansion of evaluations to broader datasets and real-world scenarios. These recommendations could enhance the applicability and efficacy of ML techniques used for malware detection. In conclusion, this thesis aims to expand the use of machine learning methods in malware detection and contribute to developing safer, more effective, and innovative solutions in cybersecurity. This approach can pave the way for new and effective methodologies in combating cyber threats and promoting transformation in the field of cybersecurity.