afkfatih/guppylm-turmix-data

GuppyLM TurMix Tokenized Dataset

This dataset contains the highly curated TurMix Turkish corpus, pre-tokenized using the custom GuppyLM 50K ByteLevel BPE Tokenizer.

Not: HuggingFace üzerindeki veri önizleme (Dataset Viewer) özelliği kasten kapatılmıştır (viewer: false). Çünkü bu veri seti, PyTorch eğitimlerinde RAM tasarrufu sağlamak amacıyla doğrudan bellek haritalaması (np.memmap) yapılabilen ham uint16 ikili (binary) formatta (.bin) kaydedilmiştir.

📊 Veri Seti İstatistikleri (Dataset Statistics)

Güncel işleme aşamasına göre veri setindeki tam (gerçek) istatistikler aşağıdaki gibidir:

• Toplam Token (Total Tokens): 34,685,166,900 (~34.7 Milyar)
• Eğitim Tokenları (Train Tokens): 34,675,166,557
• Değerlendirme Tokenları (Eval Tokens): 10,000,343
• Toplam Belge Sayısı (Total Docs): 60,500,000
• Kelime Dağarcığı (Vocab Size): 50,000
• Format: Ham İkili Binary (uint16)
• Bağlam Uzunluğu (Sequence Length): 512 Token

Kaynak Dağılımı (Belge Sayısı / Eşleşme Frekansı):

• FineWeb-2: 43,398,568
• CulturaX: 40,932,311
• HPLT2: 33,110,789
• C4: 32,794,551
• VNGRS: 20,661,553

(Not: TurMix matched alt kümesi kullanıldığı için belgeler birden fazla veri tabanında eşleşmiş olabilir.)

🚀 Nasıl Kullanılır? (How to Use)

Veri seti standart JSON veya CSV formatında olmadığı için pandas ile açılamaz. En yüksek performansta kullanmak için numpy.memmap kullanmanız gerekir:

import numpy as np
from tokenizers import Tokenizer

# 1. Binary dosyayı bellek haritalaması ile açın
train_data = np.memmap("train.bin", dtype=np.uint16, mode="r")

# 2. Örnek bir sekans okuyun (örn: ilk 512 token)
sequence = train_data[:512]

# 3. Tokenizer ile metne geri çevirin
tokenizer = Tokenizer.from_file("tokenizer_50k.json")
text = tokenizer.decode(sequence.tolist())
print(text)

📖 Source Data & Acknowledgements

This dataset is an aggregated, tokenized version of several high-quality datasets. We acknowledge and thank the creators of the following upstream datasets:

• FineWeb-2: HuggingFace/fineweb-2
• CulturaX: uonlp/CulturaX
• C4: allenai/c4
• HPLT: HPLT Project
• VNGRS: VNGRS Web Corpus

📜 Citation

If you use this tokenized version of the dataset in your research, please cite the TurMix project:

@misc{turmix2025,
      title={TurMix: A State-of-the-Art Turkish Corpus for Large Language Models}, 
      author={AdaMLLab},
      year={2025},
      eprint={2512.18834},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}

⚖️ Telif Hakkı ve Lisans (Copyright & License)

Bu veri seti, büyük dil modellerinin (LLM) eğitimi için araştırma ve eğitim amaçlı (Research & Educational Purposes) hazırlanmıştır. İçerisindeki metinlerin telif hakları orijinal kaynaklarına aittir.

Olası telif ve lisans çakışmalarını önlemek amacıyla, bu veri seti orijinal C4 ve CulturaX lisanslarına (OpenRAIL/ODC-BY) uyumlu olarak CC-BY-NC 4.0 (Creative Commons Alıntı-Gayriticari 4.0 Uluslararası) lisansı altında sunulmuştur.