README.md

metadata

language:
  - sr
pretty_name: SMEĆE
size_categories:
  - 1B<n<10B
configs:
  - config_name: default
    data_files:
      - split: stars
        path: stars.boiler.txt
      - split: train
        path: '*.boiler.txt'
task_categories:
  - text-generation
  - text-classification
license: cc-by-sa-4.0

Skup teksta koji je obeležen kao smeće prilikom pripremanja drugih korpusa oko 1.5 milijardi "reči" Može se koristiti za obučavanje modela za klasifikaciju smeća :) Za korpuse pravog teksta za srpski jezik pogledajte S.T.A.R.S (13,289 disertacija sa NARDUS-a) ili Kišobran veb korpus (najveći korpus za srpski jezik).

A set of text marked as garbage/boilerplate when preparing other corpora around 1.5 billion "words" Can be used to train boilerplate classification models :) For real text corpora for Serbian see S.T.A.R.S (13,289 dissertations from NARDUS) or Umbrella web corp. (largest corpus for the Serbian language).

from datasets import load_dataset
dataset = load_dataset("procesaur/smece")

Editor

Mihailo Škorić

@procesaur

Citation:

@article{skoric24korpusi,
  author    = {\vSkori\'c, Mihailo and Jankovi\'c, Nikola},
  title     = {New Textual Corpora for Serbian Language Modeling},
  journal   = {Infotheca},
  volume    = {24},
  issue     = {1},
  year      = {2024},
  publisher = {Zajednica biblioteka univerziteta u Srbiji, Beograd},
  url       = {https://arxiv.org/abs/2405.09250}
}