Datasets:
Model ekleme: batuhanozkose/cevher-nuve
Merhaba,
Cevher Nüve v1'in (batuhanozkose/cevher-nuve) Pusula'ya eklenmesini öneriyorum. 15.2M parametreli, EmbeddingGemma'dan damıtılmış bir TR+EN embedding modeli.
Resmi kodla, HF model ID'si üzerinden ölçtük (parmak izi aaa2a0a453bb4f31):
- Temiz: 0.7162
- Mobil: 0.6651
- BUYUK HARF korunma: %83
Yüklemek için:
SentenceTransformer("batuhanozkose/cevher-nuve", trust_remote_code=True)
Prompt'lar modelin kendi config'inde tanımlı (query / document), ek ayar gerekmiyor.
Sorgu bazındaki sonuç dosyasını (results/cevher-nuve.json) bu PR'a ekledim.
Bir de not: msmarco-tr test sorgularının bir kısmı orijinal MS MARCO train setinde de bulunuyor, çünkü trmteb/msmarco-tr o seti yeniden bölmüş. Biz v1'de bu sorguları eğitimden çıkardık. MS MARCO train ile eğitilmiş modellerin msmarco-tr skorları bu yüzden biraz yüksek çıkıyor olabilir.
Teşekkürler,
Batuhan
Merhaba Batuhan,
Katkın için çok teşekkürler, ikisi de Pusula için değerli.
Leaderboard'daki tüm sonuçların aynı koşullarda üretilmesi için dış katkılarda şu yolu izlemek istiyorum: modeli kendi değerlendirme kodumuzla, belirli bir commit'e sabitleyerek yeniden çalıştırıp sorgu bazında senin dosyanla karşılaştıracağım. Sonuçlar eşleşirse modeli leaderboard'a ekleyip katkını dataset kartında belirteceğim.
İki sorum olacak:
- Değerlendirmede kullandığın model revision'ı (commit hash) nedir?
- msmarco-tr test sorgularının MS MARCO train ile örtüştüğünü nasıl tespit ettiniz (sorgu ID'si mi, metin eşleşmesi mi)? Örtüşen sorgu listesini paylaşabilirsen, elimizdeki sorgu bazındaki sonuçlarla tüm modeller için örtüşen ve örtüşmeyen sorgulardaki skorları ayrı ayrı raporlayabilirim.
İyi çalışmalar
Merhaba Cihat,
Teşekkürler, yöntem bana da uygun.
Bugün modelde birkaç güncelleme yaptım. Ölçümü şu revision ile yapmanı rica ederim:
6d1aa0259883f494879c9e0b35273bb8b6000028
PR'daki results/cevher-nuve.json dosyasını da bu revision ile resmi kodu kullanarak yeniden ürettim (parmak izi aaa2a0a453bb4f31). Temiz: 0.7199, mobil: 0.6721.Örtüşmeyi metin eşleşmesiyle buldum. Sorguları küçük harfe çevirip noktalama ve boşlukları normalize ettim, sonra eğitim verisindeki sorgularla karşılaştırdım. 1000 msmarco-tr test sorgusunun 770'i Türkçe eğitim sorgularıyla, 404'ü İngilizce orijinal MS MARCO metniyle eşleşiyor. İkisinin birleşimi 855.
Liste: https://filebin.net/3ld72mgxmqw3jyrr
Sütunlar: query_id, overlap, tr_text_match, en_text_match (1 = eşleşiyor).
Yeni sürümün eğitiminden bu sorguları çıkardım, bu revision'da örtüşme yok. MS MARCO train ile eğitilmiş başka modellerde de benzer bir durum olabilir, ayrı raporlama bu yüzden faydalı olur.
İyi çalışmalar,
Batuhan
Merhaba Batuhan,
İstediğin revision'ı (6d1aa02) Pusula koduyla bağımsız olarak çalıştırdım; sorgu bazındaki sonuçlar seninkilerle eşleşti. Doğrulanmış sonucu commit bilgisiyle birlikte leaderboard'a ekledim, katkını da dataset kartında belirttim. Sonuç dosyası ana dala ayrıca yüklendiği için bu PR'ı kapatıyorum.
Kontaminasyon notun çok yerindeydi ve sorun düşündüğümüzden de geniş çıktı: trmteb/msmarco-tr'nin train+dev+test toplamı (532.761) orijinal MS MARCO train ilgi etiketi sayısıyla birebir aynı. Yani test sorgularının tamamı MS MARCO train'in yeniden bölünmesinden geliyor; metin eşleşmesinin yakaladığı 855 bunun görünen kısmı. Bu yüzden msmarco-tr'yi sıralamadan çıkardım: tabloda uyarıyla gösteriliyor ama ortalamaya, sıralamaya ve bulgulara artık girmiyor. Bu değişiklik, örtüşen sorguları eğitimden çıkaran modelleri de doğru değerlendirmemizi sağlıyor.