Doğal dil işlemede destek vektör makineleri
Support vector machines in natural language processing
Yazar: UĞURCAN DEMİR
Danışman: DOÇ. DR. ÖZGE ELMASTAŞ GÜLTEKİN
Ege Üniversitesi / Fen Bilimleri Enstitüsü / İstatistik Ana Bilim Dalı
Derece: Yüksek Lisans, 2024
Konu: İstatistik = Statistics
Dizin: Yapay zeka ve makine öğrenmesi dersi = Artificial intelligence and machine learning course

Özet:
Bu tezde, Doğal Dil İşleme (DDİ) alanında Destek Vektör Makineleri (DVM) yöntemlerinin uygulanabilirliği araştırılmaktadır. Doğal Dil İşleme, insan diliyle etkileşimde bulunan sistemlerin geliştirilmesi için bir dizi algoritma ve teknik sunar. Özellikle metin sınıflandırması, duygu analizi ve dil modeli oluşturma gibi görevlerde, DVM gibi Makine Öğrenimi algoritmaları, yüksek doğruluk ve genelleme yetenekleri ile öne çıkmaktadır. Bu çalışma, DVM'nin farklı veri kümeleri üzerinde DDİ problemlerine nasıl adapte edilebileceğini ve sonuçlarının nasıl optimize edilebileceğini ele almaktadır.

Çalışma kapsamında, Word2Vec ve BERT gibi metin vektörleştirme teknikleri kullanılarak oluşturulan özellik kümeleri ile DVM modelleri eğitilmiştir. Özellikle, farklı kernel fonksiyonları ve hiperparametre ayarlarının, model performansı üzerindeki etkileri incelenmiştir. DVM'nin DDİ'deki avantajları ve sınırlamaları, hem teorik hem de deneysel analizlerle tartışılmıştır.

Bu tezde kullanılan yöntemler, metin tabanlı veri setlerinde DVM modellerinin başarısını değerlendirmek için kapsamlı deneyler gerçekleştirmiştir. Farklı veri kümeleri ve özellik çıkarım teknikleri kullanılarak yapılan deneyler, model doğruluğu, hassasiyet, özgüllük ve F1 skoru gibi metriklerle karşılaştırılmıştır. DVM modellerinin performansı, diğer Makine Öğrenimi yöntemleriyle de kıyaslanarak sonuçların genel geçerliliği değerlendirilmiştir.

Sonuç olarak, bu çalışma, Destek Vektör Makinelerinin Doğal Dil İşleme problemlerinde güçlü bir sınıflandırıcı olarak kullanılabileceğini göstermektedir. Elde edilen bulgular, DVM'nin metin sınıflandırmasında etkili bir seçenek olduğunu ve doğru özellik çıkarım teknikleri ile performansının daha da iyileştirilebileceğini ortaya koymaktadır.

Abstract:
In this thesis, the applicability of Support Vector Machines (SVM) in the field of Natural Language Processing (NLP) is investigated. Natural Language Processing offers a set of algorithms and techniques for developing systems that interact with human language. In tasks such as text classification, sentiment analysis, and language model creation, machine learning algorithms like SVM stand out due to their high accuracy and generalization capabilities. This study examines how SVM can be adapted to NLP tasks on different datasets and how the results can be optimized.

In this study, SVM models were trained using feature sets created through text vectorization techniques like Word2Vec and BERT. In particular, the effects of different kernel functions and hyperparameter settings on model performance were investigated. The advantages and limitations of SVM in NLP were discussed through both theoretical and experimental analyses.

The methods employed in this thesis involve extensive experiments to evaluate the success of SVM models on text-based datasets. The experiments, conducted using different datasets and feature extraction techniques, compared model accuracy, sensitivity, specificity, and F1 score. The performance of SVM models was also evaluated in comparison with other machine learning methods to assess the overall validity of the results.

In conclusion, this study demonstrates that Support Vector Machines can be effectively used as a strong classifier in Natural Language Processing problems. The findings show that SVM is a viable option for text classification and that its performance can be further enhanced with the correct feature extraction techniques.