TurkishFineweb2-Cleaned

A Turkish web corpus derived from the Turkish (tur_Latn) subset of FineWeb-2, augmented with an additional quality-classification layer and a near-duplicate removal pass.

Source

FineWeb-2 is a large-scale, multilingual web corpus built from Common Crawl. This dataset covers the Turkish (tur_Latn) portion of FineWeb-2, spanning the 2013–2024 crawl range.

FineWeb-2 is distributed with the following processing already applied upstream (not repeated here):

• Language identification and confidence scoring (language_score)
• Internal MinHash-based deduplication (minhash_cluster_size)
• General-purpose quality filtering (FineWeb-2's own pipeline)

Additional processing applied to this dataset

1) Custom fastText quality classifier

A binary (clean / garbage) fastText classifier, trained on a manually labeled set of 480K examples, was applied as an additional quality filter. Each document receives a clean probability score from the classifier; documents with clean_score < 0.5 (low-quality, noisy, or boilerplate-heavy pages) were removed. The resulting score is preserved in the source metadata as fasttext_clean_score.

2) MinHash + LSH near-duplicate removal

In addition to FineWeb-2's own internal deduplication, the full corpus (jointly with other monthly Common Crawl snapshots) was passed through a custom MinHash + LSH near-duplicate detection pipeline:

• 126-permutation MinHash signatures, 14 bands × 9 rows per band (LSH threshold ≈ 0.75 Jaccard similarity)
• A splitmix64-based 64-bit hash mixing function is used for the permutation step. An earlier implementation using a 32-bit-truncated hash was found to produce false matches between unrelated documents; this was corrected, reducing the measured false-positive rate from approximately 9% to approximately 0.03% (verified by manual sampling of matched pairs).
• Within each near-duplicate cluster, only the earliest-encountered document is retained.

Dataset size

	Value
Token count	~37.76 billion (measured with a 64K-vocabulary, byte-level BPE Turkish tokenizer)
Language	Turkish (tur_Latn)
Crawl coverage	2013–2024

Fields

Field	Description
text	Document text
id	Source URN identifier
metadata.url	Source page URL
metadata.date	Crawl timestamp
metadata.language_score	FineWeb-2 language identification confidence
metadata.minhash_cluster_size	FineWeb-2's internal deduplication cluster size
metadata.fasttext_clean_score	Quality score from the custom fastText classifier

License

The upstream data (FineWeb-2 / Common Crawl) is distributed under ODC-By; this derived dataset is released under the same terms.

Citation

@misc{turkishfineweb2cleaned2026,
      title={TurkishFineweb2-Cleaned},
      author={Furkan Yılmaz and Aleyna Taşdemir and Faruk Gözay and Bekir Top},
      year={2026},
      publisher={Hugging Face},
      howpublished={\url{https://huggingface.co/datasets/moganai/turkishfineweb2-cleaned}}
}

---

TurkishFineweb2-Cleaned (Türkçe)

FineWeb-2'nin Türkçe (tur_Latn) alt kümesinden türetilmiş, ek bir kalite sınıflandırma katmanı ve neredeyse-birebir-kopya (near-duplicate) temizliği uygulanmış bir Türkçe web derlemi.

Kaynak

FineWeb-2, Common Crawl'dan oluşturulmuş büyük ölçekli, çok dilli bir web derlemidir. Bu veri kümesi, FineWeb-2'nin Türkçe (tur_Latn) kısmını, 2013–2024 tarama aralığını kapsayacak şekilde içerir.

FineWeb-2, aşağıdaki işlemler zaten uygulanmış olarak dağıtılmaktadır (bu adımlar burada tekrarlanmamıştır):

• Dil tespiti ve güven skorlaması (language_score)
• Dahili MinHash tabanlı yinelenen içerik temizliği (minhash_cluster_size)
• Genel amaçlı kalite filtreleme (FineWeb-2'nin kendi işlem hattı)

Bu veri kümesine uygulanan ek işlemler

1) Özel fastText kalite sınıflandırıcısı

Elle etiketlenmiş 480 bin örnekten oluşan bir veri kümesi üzerinde eğitilmiş, ikili (temiz / gürültülü) bir fastText sınıflandırıcısı ek bir kalite filtresi olarak uygulanmıştır. Her belge, sınıflandırıcıdan bir clean olasılık skoru alır; clean_score < 0.5 olan belgeler (düşük kaliteli, gürültülü veya kalıp-metin ağırlıklı sayfalar) kaldırılmıştır. Elde edilen skor, kaynak üst verisinde fasttext_clean_score olarak saklanmıştır.

2) MinHash + LSH ile neredeyse-birebir-kopya temizliği

FineWeb-2'nin kendi dahili yinelenen içerik temizliğine ek olarak, derlemin tamamı (diğer aylık Common Crawl anlık görüntüleriyle birlikte) özel bir MinHash + LSH yakın-kopya tespit işlem hattından geçirilmiştir:

• 126 permütasyonlu MinHash imzaları, band başına 14 bant × 9 satır (LSH eşiği ≈ 0.75 Jaccard benzerliği)
• Permütasyon adımında splitmix64 tabanlı 64-bit bir karıştırma fonksiyonu kullanılmıştır. Önceki bir uygulamada kullanılan 32-bit'e kırpılmış hash'in, ilgisiz belgeler arasında yanlış eşleşmeler ürettiği tespit edilmiş; bu sorun giderilerek ölçülen yanlış-pozitif oranı yaklaşık %9'dan yaklaşık %0,03'e düşürülmüştür (eşleşen çiftlerin elle örneklenmesiyle doğrulanmıştır).
• Her yakın-kopya kümesinde yalnızca ilk karşılaşılan belge saklanmıştır.

Veri kümesi boyutu

	Değer
Token sayısı	~37,76 milyar (64K kelime dağarcıklı, byte-level BPE Türkçe tokenizer ile ölçülmüştür)
Dil	Türkçe (tur_Latn)
Tarama kapsamı	2013–2024

Alanlar

Alan	Açıklama
text	Belge metni
id	Kaynak URN kimliği
metadata.url	Kaynak sayfa URL'i
metadata.date	Tarama zaman damgası
metadata.language_score	FineWeb-2 dil tespiti güven skoru
metadata.minhash_cluster_size	FineWeb-2'nin dahili yinelenen içerik kümesi boyutu
metadata.fasttext_clean_score	Özel fastText sınıflandırıcısından gelen kalite skoru

Lisans

Üst veri (FineWeb-2 / Common Crawl) ODC-By lisansı altında dağıtılmaktadır; bu türetilmiş veri kümesi de aynı koşullar altında yayımlanmaktadır.

Atıf

@misc{turkishfineweb2cleaned2026,
      title={TurkishFineweb2-Cleaned},
      author={Furkan Yılmaz and Aleyna Taşdemir and Faruk Gözay and Bekir Top},
      year={2026},
      publisher={Hugging Face},
      howpublished={\url{https://huggingface.co/datasets/moganai/turkishfineweb2-cleaned}}
}