Dijital oyunlarda siber terörün yapay zekâ ile tespiti ve erişime engellenmesi
Detection and prevention of cyber terrorism in digital games using deep learning
Yazar: AHMET EDİP ÇAPANOĞLU
Danışman: DOÇ. DR. NURSEL YALÇIN
Gazi Üniversitesi / Bilişim Enstitüsü / Adli Bilişim Ana Bilim Dalı / Adli Bilişim Bilim Dalı
Derece: Doktora, 2024
Konu: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol = Computer Engineering and Computer Science and Control
Dizin: Görsel nesne tanıma = Visual object recognition ; Yapay zeka = Artificial intelligence

Özet:
Dijital oyunların eğitim, dikkat güçlendirme, strateji kurma, eğlenme, sosyalleşme gibi farklı faydalı amaçları olsa da içerdikleri şiddet, kumar, cinsellik, küfür, uyuşturucu gibi zararlı içeriklerle de kullanıcıları olumsuz yönde etkilemektedir. Dijital oyunlar içerisinde en yaygın ve tehlikeli içeriklerin başında şiddet gelmektedir. Özellikle küçük yaştan itibaren siber şiddete maruz kalan çocuklarda bilinçaltına yerleşen şiddet, ilerleyen yaşlarında hayatlarına olumsuz yön vermektedir. Bu şiddetin iletişim eksikliği, yalnızlık, depresyon, saldırganlık, suç işleme, intihar gibi birçok yönü yapılan çalışmalar ile gösterilmiştir. Şiddet içerikleri silah, bıçak, kavga, ateş, kan vb. görüntülerle dijital oyunlarda çok yaygın karşımıza çıkmaktadır. Bu şiddet unsurlarının gerçek zamanlı tespiti ve analizi problemlere erken müdahale etmemize olanak sağlayacağından oldukça önemlidir. Çalışmada ilk olarak dijital oyunlar içerisinde barınan şiddet unsurları incelenerek farklı oyunlardan elde edilen 6256 görüntüden oluşan bir şiddet veri seti oluşturuldu. Veri seti şiddet unsurlarından silah, bıçak, bomba, ateş, kan, kavga olmak üzere 6 farklı sınıfa ayrıldı. Daha sonra 6256 şiddet görüntüsü etiketlenerek 18704 adet şiddet içeriği derin öğrenme modellerinde kullanılmak üzere kaydedildi. Çalışma kapsamında gerçek zamanlı şiddet tespiti, analizi ve gerektiğinde erişim engellemesi yapan derin öğrenme tabanlı model geliştirildi. Geliştirilen şiddet tespit modelinin omurgası, görüntü özelliklerini daha hızlı çıkarabilmek ve daha hızlı nesne algılama yapabilmek için parametre ve katman sayısı azaltılarak hafifletildi. Geliştirilen yöntem altı farklı derin öğrenme yöntemi ile karşılaştırıldı. Test sonuçlarına bakıldığında geliştirilen yöntemin yüksek tespit hızı ve doğruluk performansıyla gerçek zamanlı dijital
vi
oyunlar için kullanılabileceği gösterildi. Ayrıca geliştirilen yöntem gerçek zamanlı ekran analizi yapabildiğinden kullanıcının bilgisayarında kayıtlı görüntü, video, dijital oyun vb. görsellerden veya Youtube, Instagram, Facebook vb. sosyal medya içeriklerden şiddet analizi yapabildiği de gösterildi. Çalışmada son olarak tespit edilen şiddet unsurlarının analizi gerçekleştirildi. Tanımlanan üç şiddet eşik değeri ile bu şiddet eşik değerlerinden fazla şiddete maruz kalan kullanıcılar için kullanıcı uyarıları, ebeveyn uyarıları ve erişim engellenmesi gerçekleştirildi.

Abstract:
Despite their beneficial objectives, such as educational enhancement, attention empowerment, strategic skill development, entertainment, and facilitation of socialization, digital games pose significant adverse influences on users. These negative impacts stem from the inclusion of violence, gambling, obscenity, abuse, and drug-related content within these games. Notably, violence is among the most prevalent and harmful elements. It tends to embed itself in the subconscious of children who are exposed to cyber-violence, especially at early developmental stages, subsequently affecting their lives adversely in later years. Empirical studies have documented various outcomes of exposure to such violence, including diminished communication skills, loneliness, depression, aggression, criminal behavior, and increased suicide risk. In digital games, the portrayal of violence through weapons, knives, physical altercations, fire, and blood is widespread. Given the potential for intervention, the real-time detection and analysis of these violent elements are of paramount importance. This study embarks on identifying and categorizing violent elements in digital games. It constructs a dataset comprising 6,256 images depicting violence, which is classified into six classes based on the nature of the violent element: weapons, knives, bombs, fire, blood, and physical altercations. Subsequently, 6,265 images containing 18,704 instances of violence were annotated to train deep learning models. Within the ambit of this research, a model was developed capable of real-time detection, analysis, and, if deemed necessary, restriction of access to violent content. The model's architecture was optimized
viii
by minimizing the number of parameters and layers, thus accelerating feature extraction and object detection processes. This novel method was evaluated against six alternative deep learning approaches. The comparative analysis revealed that the proposed model exhibits superior detection speed and accuracy performance, rendering it suitable for real-time application in digital gaming environments. Additionally, it was demonstrated that the developed method can perform real time screen analysis, allowing the user to conduct violence analysis from digitally stored images, videos, digital games etc., as well as from social media content on platforms such as YouTube, Instagram, Facebook, etc. The study also includes an analysis of detected violent content, wherein user and parental warnings are issued based on three predefined violence threshold levels, with access restrictions imposed on users exceeding these thresholds.