KultuTR: Türkçe Kültür Bilgisi Benchmark'ı

KultuTR, Türkçe konuşan küçük dil modellerinin Türkiye kültürü ve genel kültür bilgisini kısa soru-cevap görevleriyle incelemek için hazırlanmış, 100 soruluk deneysel bir benchmark'tır.

Benchmark; coğrafya, tarih, edebiyat, gelenekler, yemekler ve kültürel miras konularından örnekler içerir. Özellikle 1 milyardan az parametreli küçük dil modellerini denemek için tasarlanmıştır. Sonuçlar model seçimi veya üretim ortamı için tek başına yeterli bir kalite ölçüsü değildir.

İlk deney sonuçları

Model	Yaklaşık parametre	Puanlama ölçütü	Doğru	Doğruluk
Töz-1.5-SFT-v9	604M	Anlam temelli	55/100	%55
Ufakzeka-1	182M	Anlam temelli	34/100	%34
Töz-1	195M	Anlam temelli	31/100	%31
Yedikule-1.4	202M	Anlam temelli	30/100	%30
Qwen3-0.6B	752M	Anlam temelli, ek yanlış bilgi yanlış sayılır	2/100	%2
Qwen3.5-0.8B (T=0.4)	800M	Katı anlam temelli	0/100	%0
Qwen3.5-0.8B (T=0.4)	800M	Referans cevap yanıtta geçiyor*	6/100	%6
Qwen3.5-0.8B (T=0.7)	800M	Referans cevap yanıtta geçiyor*	3/100	%3

• “Referans cevap yanıtta geçiyor” ölçütünde yanlış ek bilgiler yok sayılır. Bu ölçüt katı anlam temelli puanlamayla aynı değildir; ilgili satırları diğer modellerle doğrudan karşılaştırmayın.

Puanlama ve sınırlamalar

Bu ilk sonuçlar manuel, anlam temelli puanlamadır. Referans yanıtla aynı anlamı taşıyan farklı ifadeler doğru kabul edildi; yanlış veya soruyu yanıtlamayan ek bilgi içeren yanıtlar doğru sayılmadı. Bu, otomatik exact-match skoru veya bağımsız hakem değerlendirmesi değildir. Skorlar ön inceleme niteliğindedir; tekrar puanlama sonuçları değiştirebilir.

Her soru tek turda, her model için tek üretimle soruldu. Bütün deneylerde sıcaklık 0.4, top_p 0.9 ve üst sınır 64 yeni token olarak ayarlandı. Model uygulamalarının gerektirdiği diğer örnekleme ayrıntıları aynı değildir; bu nedenle tablo tam kontrollü, birebir eşdeğer bir laboratuvar karşılaştırması olarak yorumlanmamalıdır. Qwen3-0.6B'de düşünme modu kapatıldı; ayrıca top_k=40 ve tekrar cezası 1.1 kullanıldı. Bu ayarlar Qwen'in model kartındaki düşünmesiz üretim önerilerinden farklıdır; sıcaklık ve top_p, diğer modellerle ortak deney ayarlarına uyum için kullanıldı. Qwen yanıtları ayrıca tekil ve batch üretimle kontrol edildi; görülen düşük sonuç batch doldurma kaynaklı değildi. Qwen3.5-0.8B de düşünmesiz modda, aynı ortak üretim ayarlarıyla çalıştırıldı. Referans cevabın yanı sıra çelişkili/yanlış ek bilgi içeren yanıtlar doğru sayılmadı; bu nedenle doğru ifadeleri yanlış bağlamla birlikte anan birkaç yanıt puana dahil edilmedi.

Bu veri seti akademik olarak doğrulanmış, dengelenmiş veya kapsamlı biçimde kalibre edilmiş resmî bir benchmark değildir. Soruların konu dağılımı ve zorluk düzeyi eşit değildir; 100 soru geniş kültürel yeterliliği ölçmek için yeterli değildir. Sonuçları kesin sıralama veya modelin genel kabiliyeti olarak sunmayın.

Dosyalar

Dosya	İçerik
benchmark.jsonl	prompt ve answer alanlarıyla 100 soru ve referans yanıt
benchmark.csv	Dataset Viewer için aynı 100 soru ve yanıtın CSV kopyası
toz1_predictions.jsonl	Töz-1'in model yanıtları ve üretim metaverisi
toz15_predictions.jsonl	Töz-1.5-SFT-v9'un model yanıtları ve üretim metaverisi
ufakzeka_predictions.jsonl	Ufakzeka-1'in model yanıtları ve üretim metaverisi
yedikule_predictions.jsonl	Yedikule-1.4'ün model yanıtları ve üretim metaverisi
qwen3_0_6b_predictions.jsonl	Qwen3-0.6B'nin model yanıtları ve üretim metaverisi
qwen3_5_0_8b_predictions.jsonl	Qwen3.5-0.8B'nin model yanıtları ve üretim metaverisi
qwen3_5_0_8b_temp07_predictions.jsonl	Qwen3.5-0.8B'nin temperature=0.7 yanıtları ve üretim metaverisi

Her tahmin dosyasında soru numarası, soru, referans yanıt, model yanıtı, model sürümü ve üretim ayarları bulunur. Tahminler model çıktılarıdır; doğru bilgi olarak değerlendirilmemeli veya model geliştiricilerinin onayladığı şeklinde yorumlanmamalıdır.

Yeniden kullanım

Her satır ayrı bir JSON nesnesidir (JSONL):

import json

with open("benchmark.jsonl", encoding="utf-8") as f:
    examples = [json.loads(line) for line in f if line.strip()]

for example in examples:
    prompt = example["prompt"]
    reference = example["answer"]

Hugging Face Dataset Viewer, yukarıdaki default yapılandırmasında benchmark.csv dosyasını train bölümü olarak gösterir. JSONL benchmark dosyası ve model tahminleri indirme için depoda korunur.

Yeniden kullanımda KultuTR benchmark'ına ve veri seti deposuna atıf yapın. Model ağırlıkları, adları ve lisansları kendi model kartlarına tabidir.

Deney kayıtları

Ufakzeka-1, Töz-1 ve Yedikule-1.4 deneyleri Kaggle CPU ortamında çalıştırıldı. Her çalışmanın kodu ve tam üretim çıktısı, ilgili Kaggle kernel sayfasından incelenebilir:

• Ufakzeka-1 — Kaggle çalışması
• Töz-1 — Kaggle çalışması
• Yedikule-1.4 — Kaggle çalışması
• Qwen3-0.6B — Kaggle çalışması
• Qwen3.5-0.8B — Kaggle çalışması

Töz-1.5-SFT-v9 yerel checkpoint ve tokenizer ile çalıştırıldı. Qwen3-0.6B, iki Tesla T4 GPU'lu Kaggle ortamında çalıştırıldı; model indirildikten sonraki model yükleme ve üretim işlemi 11,1 saniye sürdü. Qwen3.5-0.8B de iki Tesla T4 GPU'da çalıştırıldı; model indirildikten sonraki model yükleme ve üretim işlemi 16,3 saniye sürdü. Sıcaklık 0.7 ek denemesi aynı iki GPU'da 16,5 saniyede tamamlandı.

Model kaynakları

• TozAI/Toz-1
• TozAI/Toz-1.5
• ufakai/ufakzeka-1
• MarulAI/Yedikule-1.4
• Qwen/Qwen3-0.6B
• Qwen/Qwen3.5-0.8B

Atıf

@misc{kultutr,
  title        = {KultuTR: Türkçe Kültür Bilgisi Benchmark'ı},
  author       = {TozAI},
  year         = {2026},
  howpublished = {Hugging Face Datasets},
  note         = {100 soruluk deneysel küçük dil modeli değerlendirmesi}
}