Otomatik özetleme
Ticari ürünler > Anahtar kelime çıkarma > Denetimsiz yaklaşım: TextRank

Başka bir anahtar sözcük çıkarma algoritması TextRank'tır. Denetimli yöntemler, bir anahtar kelimeyi hangi özelliklerin karakterize ettiğine ilişkin yorumlanabilir kurallar üretebilmek gibi bazı güzel özelliklere sahip olsa da, aynı zamanda büyük miktarda eğitim verisi gerektirir . Bilinen anahtar sözcüklere sahip birçok belgeye ihtiyaç vardır. Ayrıca, belirli bir alan üzerinde eğitim, çıkarma sürecini o alana göre özelleştirme eğilimindedir; dolayısıyla, Turney'nin bazı sonuçlarının gösterdiği gibi, ortaya çıkan sınıflandırıcının mutlaka taşınabilir olması gerekmez. Denetimsiz anahtar sözcük çıkarma, eğitim verilerine olan ihtiyacı ortadan kaldırır. Soruna farklı bir açıdan yaklaşıyor. TextRank algoritması  anahtar sözcükleri karakterize eden açık özellikleri öğrenmeye çalışmak yerine, PageRank'in önemli Web sayfalarını seçmesi gibi, metinde "merkezi" görünen anahtar sözcükleri belirlemek için metnin kendi yapısından yararlanır . Hatırlayın ki bu, sosyal ağlardan gelen "prestij" veya "tavsiye" kavramına dayanmaktadır . Bu şekilde, TextRank hiçbir şekilde önceki eğitim verilerine dayanmaz, bunun yerine herhangi bir metin parçası üzerinde çalıştırılabilir ve yalnızca metnin kendine özgü özelliklerine dayalı olarak çıktı üretebilir. Böylece algoritma yeni alanlara ve dillere kolayca taşınabilir.
TextRank, NLP için genel amaçlı grafik tabanlı bir sıralama algoritmasıdır . Temel olarak PageRank'i belirli bir NLP görevi için özel olarak tasarlanmış bir grafik üzerinde çalıştırır. Anahtar kelime çıkarımı için, bazı metin birimlerini köşe olarak kullanarak bir grafik oluşturur. Kenarlar, metin birimi köşeleri arasındaki anlamsal veya sözcüksel benzerliğin bir ölçüsüne dayanır . PageRank'ten farklı olarak kenarlar genellikle yönsüzdür ve bir benzerlik derecesini yansıtacak şekilde ağırlıklandırılabilir. Grafik oluşturulduktan sonra, bir sönümleme faktörü ("rastgele sörfçü modelinde" olduğu gibi) ile birleştirilmiş bir stokastik matris oluşturmak için kullanılır ve köşeler üzerindeki sıralama, özdeğer 1'e karşılık gelen özvektörün (yani, grafikteki rastgele yürüyüşün durağan bir dağılımı ).
Köşeler sıralamak istediğimiz şeye karşılık gelmelidir. Potansiyel olarak, denetimli yöntemlere benzer bir şey yapabilir ve her bir unigram, bigram, trigram vb. için bir köşe oluşturabiliriz. Bununla birlikte, grafiği küçük tutmak için yazarlar, ilk adımda tek tek unigramları sıralamaya ve ardından ikinci bir adım eklemeye karar verirler. Çok kelimeli ifadeler oluşturmak için yüksek dereceli bitişik unigramları birleştiren adım. Bunun, keyfi uzunlukta anahtar sözcükler üretmemize izin veren hoş bir yan etkisi vardır. Örneğin, unigramları sıralarsak ve "gelişmiş", "doğal", "dil" ve "işleme" kelimelerinin hepsinin yüksek sıralar aldığını görürsek, orijinal metne bakarız ve bu kelimelerin ardışık olarak göründüğünü ve bir final oluşturduğunu görürüz. dördünün birlikte kullanıldığı anahtar kelime. Grafiğe yerleştirilen unigramların konuşmanın bölümlerine göre filtrelenebileceğini unutmayın. Yazarlar, sıfatların ve isimlerin dahil edilecek en iyi şeyler olduğunu buldu. Dolayısıyla bu adımda bir miktar dil bilgisi devreye giriyor.
Kenarlar, TextRank'in bu uygulamasında kelimelerin birlikte bulunmasına dayalı olarak oluşturulur . Unigramlar orijinal metinde N boyutunda bir pencere içinde görünüyorsa, iki köşe bir kenarla bağlanır . N tipik olarak 2-10 civarındadır. Dolayısıyla NLP ile ilgili bir metinde "doğal" ve "dil" arasında bağlantı kurulabilir. "Doğal" ve "işleme" de bağlantılı olacaktır çünkü her ikisi de aynı N kelime dizisinde görünecektir. Bu kenarlar, "metin bütünlüğü " kavramına ve birbirine yakın görünen kelimelerin muhtemelen anlamlı bir şekilde ilişkili olduğu ve okuyucuya birbirini "tavsiye ettiği" fikrine dayanmaktadır.
Bu yöntem basitçe bireysel köşeleri sıraladığından, sınırlı sayıda anahtar kelimeyi eşiklemek veya üretmek için bir yola ihtiyacımız var. Seçilen teknik, grafikteki toplam köşe sayısının kullanıcı tarafından belirlenen bir kesri olacak şekilde bir T sayısını ayarlamaktır. Daha sonra en üstteki T köşeleri/unigramları durağan olasılıklarına göre seçilir. Daha sonra bu T unigramlarının bitişik örneklerini birleştirmek için bir işlem sonrası adımı uygulanır. Sonuç olarak, potansiyel olarak T'den daha fazla veya daha az nihai anahtar kelime üretilecektir, ancak sayı kabaca orijinal metnin uzunluğuyla orantılı olmalıdır.
PageRank'i bir birlikte oluşum grafiğine uygulamanın neden yararlı anahtar sözcükler üreteceği başlangıçta açık değildir. Bunu düşünmenin bir yolu şudur. Bir metin boyunca birden çok kez geçen bir kelimenin birçok farklı birlikte ortaya çıkan komşusu olabilir. Örneğin, makine öğrenimiyle ilgili bir metinde, "öğrenme" unigramı dört farklı cümlede "makine", "denetlenen", "denetlenmeyen" ve "yarı denetlenen" ile birlikte ortaya çıkabilir. Dolayısıyla "öğrenme" köşesi, bu diğer değiştirici sözcüklere bağlanan merkezi bir "merkez" olacaktır. Grafikte PageRank/TextRank'i çalıştırmak muhtemelen "öğrenmeyi" yüksek bir sıralamaya sokacaktır. Benzer şekilde, eğer metin "denetlenen sınıflandırma" ifadesini içeriyorsa, o zaman "denetlenen" ile "sınıflandırma" arasında bir ayrım olacaktır. Eğer "sınıflandırma" başka yerlerde de karşımıza çıkıyorsa ve dolayısıyla birçok komşusu varsa, önemi "denetlenenin" önemine katkıda bulunacaktır. Eğer yüksek bir sıralamaya ulaşırsa, "öğrenme" ve muhtemelen "sınıflandırma" ile birlikte en iyi T unigramlarından biri olarak seçilecektir. Son işlem sonrası adımında, "denetimli öğrenme" ve "denetimli sınıflandırma" anahtar sözcükleriyle sonuçlanırız.
Kısacası birlikte oluşum grafiği, sıklıkla ve farklı bağlamlarda ortaya çıkan terimler için yoğun şekilde bağlantılı bölgeler içerecektir. Bu grafikteki rastgele bir yürüyüş, kümelerin merkezlerindeki terimlere büyük olasılıklar atayan durağan bir dağılıma sahip olacaktır. Bu, yoğun bağlantılı Web sayfalarının PageRank'e göre üst sıralarda yer almasına benzer. Bu yaklaşım aynı zamanda aşağıda ele alınan belge özetlemede de kullanılmıştır.