Sosyal medya verilerinde derin öğrenme modelleri ile ırkçılık ve yabancı düşmanlığı tespiti
Detection of racism and xenophobia with deep learning models on social media data
Yazar: ŞULE KAYA
Danışman: PROF. DR. BİLAL ALATAŞ
Fırat Üniversitesi / Fen Bilimleri Enstitüsü / Yazılım Mühendisliği Ana Bilim Dalı
Derece: Yüksek Lisans, 2024
Konu: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol = Computer Engineering and Computer Science and Control ; Bilim ve Teknoloji = Science and Technology
Dizin: Derin öğrenme = Deep learning ; Sosyal ağlar = Social networks ; Veri madenciliği = Data mining ; Yapay zeka = Artificial intelligence

Özet:
Dijital çağın öne çıkan yeniliklerinden biri, sosyal medya platformlarının insanlara düşüncelerini, duygularını ve deneyimlerini anında milyonlarca kişiyle paylaşma imkanı sunmasıdır. Bu etkileşimler, toplumsal bütünlüğü tehdit edebilecek ırkçı ve yabancı düşmanı içeriklerin hızla yayılmasına da yol açabilmektedir. Bu çalışma, Twitter gibi sosyal medya platformlarında bu tür zararlı mesajların yüksek doğrulukla otomatik olarak tespit edilmesini sağlayacak bir derin öğrenme modelinin geliştirilmesini amaçlamaktadır. Hipotezimiz, hibrit bir yaklaşımı benimseyen modelin, mevcut metin sınıflandırma tekniklerinden daha üstün performans göstereceğidir.

Araştırma sürecinde, 01 Ocak 2020 ile 01 Ekim 2022 tarihleri arasında Python ile toplanan tweetler, etnik ve milli kimliklere yönelik ayrımcı dil kullanımını içeren ve içermeyen olarak iki kategoriye ayrılmış ve analiz edilmiştir. Metin ön işleme, tokenizasyon, ve sayısal vektörlere dönüştürme işlemleri gerçekleştirilmiş, ardından çift yönlü KTN katmanları ve çok başlıklı dikkat mekanizmalarını içeren ileri düzey modellemeler uygulanmıştır. Çapraz doğrulama yöntemiyle yapılan değerlendirmeler sonucunda, modelin ortalama %62.92 doğruluk oranı ile nefret söylemi içeren mesajları etkili bir şekilde sınıflandırdığı belirlenmiştir.

Bu bulgular, modelin sosyal medya metinlerindeki zararlı içerikleri sınıflandırma kapasitesine dair değerli bilgiler sunmakta ve ırkçılık ile yabancı düşmanlığının otomatik tespiti konusunda sosyal medya platformlarına ve ilgili kurumlara stratejik bir rehberlik etmektedir.

Abstract:
One of the most notable innovations of the digital age is the ability of social media platforms to allow individuals to instantly share their thoughts, feelings, and experiences with millions of people. These interactions can also lead to the rapid spread of racist and xenophobic content that may threaten social cohesion. This study aims to develop a deep learning model that can automatically detect such harmful messages with high accuracy on social media platforms like Twitter. Our hypothesis is that a model adopting a hybrid approach will outperform current text classification techniques.

During the research process, tweets collected using Python from January 1, 2020, to October 1, 2022, were categorized into those containing discriminatory language against ethnic and national identities and those that did not. Text preprocessing, tokenization, and conversion into numerical vectors were performed, followed by the application of advanced modeling with bidirectional GRU layers and multi- headed attention mechanisms. The evaluations conducted using the cross-validation method determined that the model effectively classifies messages containing hate speech with an average accuracy rate of 62.92%.

These findings provide valuable insights into the model's capacity to classify harmful content in social media texts and offer strategic guidance for social media platforms and related institutions in the automatic detection of racism and xenophobia.