Zararlı video içeriklerinin derin öğrenme teknikleri ile tespiti ve filtrelenmesi için bir yazılım aracı geliştirilmesi
Development of a software tool for detecting and filtering harmful video content with deep learning techniques
Yazar: FATMA GÜLŞAH TAN
Danışman: DOÇ. DR. ASIM SİNAN YÜKSEL
Süleyman Demirel Üniversitesi / Fen Bilimleri Enstitüsü / Bilgisayar Mühendisliği Ana Bilim Dalı
Derece: Doktora, 2023
Konu: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol = Computer Engineering and Computer Science and Control

Özet:
21. yüzyılın başından beri internet, yaşamın hemen hemen her alanında kullanılmıştır. Bu dijital bağımlılığı ortaya çıkarmakta ve bu durumdan en çok etkilenen grup genç bireyler olmaktadır. Ayrıca pandemi kısıtlamaları nedeniyle gençler sosyal ağlarda ve video yayın platformlarında daha fazla zaman geçirirken, silah, bıçak gibi tehlikeli nesnelerin sansürsüz bir şekilde görüntülenmesi ruh sağlıklarını olumsuz etkileyebilecek önemli bir sorun haline gelmektedir. Dijital ortamlarda bulunan zararlı içerikleri sansürleyen politikalar sınırlı veya hiç yoktur. Ayrıca çocukların olumsuz etkilenmesine neden olabilecek açık içerikler, sigara, şiddet unsurları ve alkol içeren videolar da bulunmaktadır. Zararlı içeriklerin tespiti için anket çalışması düzenlenmiştir. Kullanıcılar sigara, alkol, şiddet unsurları ve açık içeriklerin videolar üzerinde sansürlenmesi gerektiğini belirtmişlerdir. Bu nedenle, zararlı içeriklerin gerçek zamanlı, otomatik olarak tespit edilmesini ve sansürlenmesini sağlayan sistemlere ihtiyaç duyulmaktadır. Bu sorunlara çözüm bulmak için, dijital platformlara kolayca entegre edilebilen özgün bir platform geliştirilmiştir. Bu platformda kullanılan eğitim modellerinin hiperparametre değerleri deneme-yanılma yoluyla belirlenmiş ve en yüksek başarı oranı sağlayan değerler tüm kategoriler için kullanılmıştır. Yüksek tespit doğruluğuna sahip derin öğrenme tekniklerine dayalı bir sansür sistemi olan DeepCens, boru hattı mimarisinin nesne tespit modellerine entegre edilmesi ile nesne algılama süresinin iyileştirilmesini sağlamaktadır. Kişiye özgü, dinamik sansürleme yapabilme ve gecikmesiz yayın akışı sağlaması ile sistem, kullanıcı tercihlerini baz alarak birden fazla kategori için gerçek zamanlı olarak zararlı içerik tespiti ve sansürleme yapabilmektedir. Bu çalışmada gerçek zamanlı performans elde etmek için farklı platformlara entegre edilebilen iki farklı boru hattı tabanlı yaklaşım önerilmiştir: Tek aşamalı sansür ve iki aşamalı sansür. Tek aşamalı sansür yöntemi görüntüler ve web kameralarında gerçek zamanlı sansür yapabilmektedir.  Videolar üzerinde test edilen YOLO tabanlı derin öğrenme yöntemimiz, diğer nesne tespit algoritmalarına göre yaklaşık %58.6 daha hızlı çalışmaktadır. Videolarda oluşan süre kayıplarının düzeltilmesi için iki aşamalı sansür yöntemi önerilmiştir. Bu yöntem videolar üzerinde gerçek zamanlı sansür yapabilmektedir. İçerik bazında doğruluk oranları açık içerikler için %98.4, alkol için %97.1, sigara için %98.3 ve şiddet unsurları için %97.1'dir.

Abstract:
Internet has been used in almost every area of life since the beginning of the 21st century. This has resulted in digital addiction, with the most affected group being young individuals. Furthermore, young people have started to spend more time on social networks and video streaming platforms because of pandemic restrictions and uncensored display of dangerous objects such as guns, knives became an important issue that can negatively affect their mental health. Policies to censor harmful content in these digital environments are limited or do not exist. Videos or images containing explicit content, cigarette, elements of violence and alcohol may negatively impact children. An online survey was conducted to identify harmful content. Users expressed the need for censorship of cigarette, alcohol, violence and explicit content in videos. Therefore, there is a demand for systems that can automatically and in real-time detect and censor harmful content. To address these issues, a novel platform was developed that can be easily integrated into digital platforms. The hyperparameter values of the training models used in this platform were determined through trial and error and the values that achieved the highest success rate were applied to all categories. DeepCens, a censorship system based on deep learning techniques with high detection accuracy, improves object detection time by integrating the pipeline architecture into object detection models. The system can provide personalized, dynamic censorship and real-time content detection and censorship for multiple categories based on user preferences. In this study, two different pipeline-based approaches that can be integrated into different platforms were proposed to achieve real-time performance: single-stage censorship and two-stage censorship. The single-stage censorship method can perform real-time censorship on images and web cameras. Our deep learning method based on YOLO, tested on videos, works approximately 58.6% faster than other object detection algorithms. The two-stage censorship method is proposed to address time delays in video processing and can perform real-time censorship on videos. The accuracy rates for specific content categories are 98.4% for explicit content, 97.1% for alcohol, 98.3% for cigarette and 97.1% for violence.