Sosyal medyadaki nefret söylemi içeren yayınların tespitinde yapay zeka temelli makine öğrenmesi algoritmalarının performans değerlendirmesi
Performance evaluation of artificial intelligence based machine learning algorithms in detecting publications containing hate speech on social media
Yazar: KADİR TURGUT
Danışman: DR. ÖĞR. ÜYESİ AYTAÇ UĞUR YERDEN
İstanbul Gedik Üniversitesi / Lisansüstü Eğitim Enstitüsü / Yapay Zeka Mühendisliği Ana Bilim Dalı / Yapay Zeka Mühendisliği Bilim Dalı
Derece: Yüksek Lisans, 2023
Konu: Mühendislik Bilimleri = Engineering Sciences

Özet:
Sosyal medya üzerindeki nefret söylemi tespiti, insanlar ve topluluklar üzerinde olumsuz etkileri önlemek ve bu tür içerikleri kaldırmak için büyük öneme sahiptir. Ancak nefret söylemi tespiti, dilbilimsel ve kültürel çeşitlilik nedeniyle karmaşık ve zorlu bir süreçtir. Bu nedenle, güçlü ve etkili makine öğrenmesi algoritmaları geliştirmek önemlidir. Geleneksel yöntemlerle bu tür içeriklerin tespiti zaman alıcı ve maliyetli olabileceğinden, yapay zeka temelli makine öğrenmesi algoritmalarının bu konuda büyük bir potansiyel taşıdığı belirtilmektedir.
Bu çalışmanın amacı, sosyal medyadaki nefret söylemi içeren yayınların tespitinde kullanılan yapay zeka temelli makine öğrenmesi algoritmalarının performansını değerlendirmektir. Çalışma, sosyal medya platformlarında nefret söylemini tespit etme ve yönetme sorununa odaklanmaktadır. Bu çalışmada, farklı algoritmaların performanslarını karşılaştıracak ve en uygun yöntemleri belirleyecektir. Ayrıca, veri kümesi ve özellik çıkarımı yöntemlerinin algoritma performansı üzerindeki etkileri analiz edilecektir. Algoritmalar genellikle doğal dil işleme tekniklerine dayanır ve metinlerdeki özellikleri öğrenerek nefret söylemini tespit etmeye çalışır. Bu algoritmaların performansı, dil, kültür, kullandıkları öznitelikler ve eğitim veri kümesi gibi faktörlere bağlı olarak değişebilir, bu nedenle kapsamlı bir analiz gereklidir. Araştırmada, nefret söylemi tespitinde kullanılan algoritmaların performansı, veri kümesi ve özellik çıkarımı yöntemleriyle karşılaştırılmıştır. Bu süreçte algoritmaların dil ve kültürlerarası etkinliği, özellik seçimi ve temsilini, yanlış pozitif ve yanlış negatif oranlarını ve genel doğruluklarını analiz edilecektir.
Bu çalışma, algoritmaların yanlış pozitif ve yanlış negatif oranlarını düşürmek için sürekli iyileştirme ve optimizasyon çalışmalarının önemini vurgulamaktadır. Çalışmada, algoritmaların dil ve kültürlerarası etkinliği, özellik seçimi ve temsilini, yanlış pozitif ve yanlış negatif oranlarını ve genel doğruluklarını analiz edilecek ve bu analiz, nefret söylemi tespiti için en uygun ve etkili yöntemleri belirlemeye yardımcı olacaktır.
Sonuç olarak bu çalışma nefret söyleminin yayılmasını önlemek ve sosyal medya ortamlarını daha güvenli hale getirmek için önemli bir adım olarak görülebilir.

Abstract:
The detection of hate speech on social media holds significant importance in preventing adverse effects on individuals and communities, as well as in removing such content. However, hate speech detection is a complex and challenging process due to linguistic and cultural diversity. Therefore, it is crucial to develop robust and effective machine learning algorithms. Given that the detection of such content through traditional methods can be time-consuming and costly, there is an indication that artificial intelligence-based machine learning algorithms carry substantial potential in this regard.
The objective of this study is to evaluate the performance of artificial intelligence-based machine learning algorithms employed in the detection of publications containing hate speech on social media. The research focuses on addressing the issue of detecting and managing hate speech on social media platforms. In this study, different algorithms will be compared in terms of their performances, aiming to identify the most suitable methods. Additionally, the impact of dataset and feature extraction methods on algorithm performance will be analyzed. These algorithms typically rely on natural language processing techniques, learning features in texts to identify hate speech. The performance of these algorithms may vary based on factors such as language, culture, features employed, and training dataset; hence, a comprehensive analysis is necessary.
In the research, the performance of algorithms used for hate speech detection is compared with dataset and feature extraction methods. The cross-cultural and cross-linguistic effectiveness of algorithms, feature selection and representation, false positive and false negative rates, and overall accuracy will be analyzed. This study underscores the importance of continuous improvement and optimization efforts to reduce false positive and false negative rates of algorithms. The analysis of cross-cultural and cross-linguistic effectiveness, feature selection and representation, false positive and false negative rates, and overall accuracy will help determine the most suitable and effective methods for hate speech detection.
In conclusion, this study can be perceived as a crucial step in preventing the spread of hate speech and enhancing the safety of social media environments.