Hybrid Framework for Named Entity Recognition in Turkish Social Media

Named Entity Recognition (NER) is a task of extracting entities such as person, location, and organization from texts. NER is more challenging in the social media texts compared to the formal texts due to the noisy language including grammatical errors and abbreviations. However, the problem of NER in the social media gained significant attention in the literature due to the amount of information flow in the social media. In this paper, we propose a comprehensive model for NER in Turkish texts of distinct social media domains, i.e. Twitter, Facebook, and Donanimhaber Forum. The model employs Conditional Random Fields followed by Bidirectional Long Short Term Memory. To overcome the challenges of social media texts, we incorporate word embeddings, character representations, morphology, domain information, pattern-matching, dictionary, part-of-speech, and casing based features to our model. We perform ablation studies to analyze the effect of these features. We demonstrate the success of our model for tagging Turkish social media texts through the largest Turkish NER database. Keywords—Turkish named entity recognition, social media, informal texts I. GİRİŞ Adlandırılmış Varlık Tanıma (AVT) görevi metinlerden kişi, organizasyon, yer varlıklarının (veya diğer tipteki varlıkların [1]) çıkarımıdır. Bu görev aynı zamanda Varlık İsmi Tanıma olarak da bilinmektedir [2], [3]. Bir çok doğal dil işleme görevi gerçekleştirilmeden önce ilk aşama olarak Adlandırılmış Varlık Tanıma yapılmaktadır. Resmi metinler daha düzenli bir yazıma sahiptir ve bu metnilerden oluşturulan kelime kümesi daha basit metinler içermektedir. Sosyal medya metinleri ise ilgili mecraya ait jargon (örneğin Twitter’da retweet), kısaltmalar, yazım hataları gibi metnin ön bilgi olmadan anlaşılmasını zorlaştıracak birçok faktör bulunmaktadır. Ayrıca bu faktörler seyreklik (sparsity) problemine sebep olmaktadır. Örneğin, bir kelimenin yanlış yazılmış veya kısaltılmış halleri başka bir kelimeymiş gibi değerlendirilebilir. Sosyal medya kullanıcıları bir ileti oluştururken sıklıkla Türkçe alfabede bulunan "ğ,ç,ü,ö" harflerinin yerine "g,c,u,o" ASCII karakterlerini kullanmaktadır. Resmi olmayan metinlerin kullanımının yanında kullanılan varlık ismi sayısı da Adlandırılmış Varlık Atama görevini etkilemektedir [4]. Etiket sayısı arttıkça kelimeler arasındaki bağlantıların yanı sıra etiketler arasındaki bağlantılara da dikkat edilmesi gerekmektedir. Her etiketin atama yapılırken değerlendirilmesi görevin zorluğunu artırmaktadır. Bu çalışmanın katkıları şu şekildedir. 1) Türkçe sosyal medyada AVT için şimdiye dek oluşturulan en büyük veri kümesinde başarımı doğrulanmış bir model önerilmektedir. Kullandığımız veri kümesinde 16 çeşit varlık tipiyle etiketlenmiş 1.671. 665 kelime bulunmaktadır. Bundan önceki en büyük veri kümesinde 3 çeşit varlık tipiyle etiketlenmiş yaklaşık 520 bin kelime bulunmaktadır [5]. 2) Türkçe için şimdiye dek en fazla varlık tipi sayısı olan 16 varlık tipiyle çalışılmaktadır. Bilgimiz dahilindeki önceki çalışmalarda bu sayı en fazla 7’dir [6]. 3) Kapsamlı Çarpraz-alan deneyleri ile alan adaptasyonunun Türkçe AVT için önemli bir problem olduğu gösterilmekte ve bu probleme karşı boru hattı tabanlı 978-1-7281-7206-4/20/$31.00 c ©2020 IEEE model önerilmektedir. 4) Kelime gömme vektörü, karakter gösterimleri, biçimbilim, öznitelik çıkarımı yöntemleri açıklanmakta ve etkileri ablasyon çalışmaları ile doğrulanmaktadır. Bu bildirinin sunu planı şu şekildedir. Bölüm II’de veri kümeleri açıklanmaktadır. Bölüm III’te problem tanımlanmakta, öznitelik çıkarım yöntemleri ve önerilen model açıklanmaktadır. Bölüm IV’te özniteliklerin etkileri ve çarpraz-alan incelemesi için deneyler yer almaktadır. Bölüm V’te bildiri sonuçlandırılmaktadır.