yusufekorman/turkce-edebiyat-embedding-bge-m3-basic

🇹🇷 Türkçe Edebiyat Embedding Modeli (BGE-M3 Fine-tuned)

Bu model, nezahatkorkmaz/turkce-embedding-bge-m3 üzerine Türk edebiyatı metinleri kullanılarak fine-tune edilmiş bir cümle embedding modelidir. Türkçe edebi metinler arasında anlamsal benzerlik, metin arama ve kümeleme görevleri için optimize edilmiştir.

Model Özellikleri

Özellik	Değer
Temel Model	nezahatkorkmaz/turkce-embedding-bge-m3
Mimari	XLM-RoBERTa + Pooling + Normalize
Embedding Boyutu	1024
Maksimum Dizi Uzunluğu	256 token
Benzerlik Fonksiyonu	Cosine (Kosinüs)
Dil	Türkçe 🇹🇷
Kullanım Alanları	Anlamsal Arama, Metin Benzerliği, RAG, Kümeleme

Kullanım

from sentence_transformers import SentenceTransformer

model = SentenceTransformer("yusufekorman/turkce-edebiyat-embedding-bge-m3-basic")

cümleler = [
    "Deniz, dalgaların kıyıya vuruşuyla huzur veren bir ses çıkarıyordu.",
    "Dalgaların sahile çarptığında çıkardığı ses, insana dinginlik veriyordu.",
    "Bugün marketten alışveriş yapmam gerekiyor, akşama misafir gelecek."
]
embeddings = model.encode(cümleler, normalize_embeddings=True)

similarities = model.similarity(embeddings, embeddings)
print(similarities)

Eğitim Verisi

Fine-tune işlemi, açık kaynaklı edebi materyaller, telif süresi dolmuş (kamu malı) Türk edebiyatı klasikleri ve yapılandırılmış paraphrase triplet verileri kullanılarak yapılmıştır.

Eğitim Detayları

Hiperparametreler

Parametre	Değer
Batch size (efektif)	16 (2 × 8 grad accumulation)
Learning rate	2e-5
Epoch	3
Optimizer	AdamW 8-bit
Mixed precision	BF16
Gradient checkpointing	Evet
Loss	CachedMultipleNegativesRankingLoss
Max sequence length	256 token

Donanım

• GPU: NVIDIA GeForce RTX 4060 (8GB VRAM)
• Eğitim süresi: ~9.7 dakika

Performans

Test Seti Karşılaştırması (89 triplet)

Model	Avg Pozitif	Avg Negatif	Margin	Acc
Fine-tuned (bu model)	0.772	0.249	0.522	%100
nezahatkorkmaz/bge-m3 (base)	0.833	0.449	0.384	%100
BAAI/bge-m3 (multilingual)	0.862	0.510	0.352	%100

Fine-tuned model, pozitif-paraphrase benzerliğini daha düşük gösterirken (0.77) negatif (ilgisiz) metinleri çok daha iyi ayırmaktadır (0.25 vs 0.45-0.51). Margin (pozitif - negatif farkı) en belirleyici metriktir: fine-tuned model 0.522 ile base modellerin 0.384 ve 0.352'sine karşı açık ara öndedir.

Değerlendirme Seti

Metrik	Değer
Cosine Accuracy	1.0 (111/111 doğru sıralama)
Validation Loss	0.0002

License

Bu model BAAI/bge-m3 temel alınarak fine-tune edilmiştir. Temel modelin lisansı geçerlidir (MIT).