Datasets:

Modalities:
Text
Formats:
json
Languages:
Serbian
ArXiv:
Libraries:
Datasets
pandas
License:
STARS / README.md
procesaur's picture
Update README.md
ba6eedb verified
|
raw
history blame
9.48 kB
metadata
language:
  - sr
pretty_name: S.T.A.R.S.
size_categories:
  - 100M<n<1B
configs:
  - config_name: default
    data_files:
      - split: train
        path:
          - '*_sr.jsonl'
          - '*cnr_.jsonl'
task_categories:
  - text-generation
license: cc-by-sa-4.0

Скуп Теза и Академских Радова на Српском

Високо-квалитетан скуп објављених научних радова писаних на српском језику.

Неопходан за обучавање квалитетних језичких модела за српски језик.

Укупно 24,165 докумената, укупно са 29 милиона реченица ипреко 700 милиона речи.

Филтрирање могуће по институцијама, ауторима, кључним речима.

Свака ЈСОН линија представља једну публикацију.

Унутар сваког документа су обележене реченице и параграфи.

Set of Thesis and Academic Research in Serbian

Highly curated, High-quality, Serbian scientific corpus

Necessary for training quality language models for Serbian.

A total of 24,165 documents containing 29 million sentences andover 700 million words.

Filtering possible by institutions, authors, keywords.

Each JSON line represents one publication.

All documents are paragraph and sentence-delimited.

Izvori: Sources
Број докумената
Doc. count
Број реченица
Sent. count
Број речи
Word count
Удео
Share
НАРДУС дисертације
NARDUS doc. dissertations
11,598 23,471,447 570,000,000 80.3%
Институционални репозиторијуми
Institutional repositories
12,174 4,880,229 123,000,000 17.4%
Универзитет Црне Горе
University of Montenegro
324 630,025 14,500,000 2%
OpenSlovenia 61 51,612 1,265,000 0.2%
Универзитет у Источном Сарајеву
University of East Sarajevo
8 24,153 530,000 0.1%
from datasets import load_dataset
dataset = load_dataset("procesaur/STARS")["train"]["text"]
print(dataset[0])
'<s>Na oraničnim površinama gaje se raznovrsne ratarske kulture koje imaju važno mesto u našoj...'
Editor
Mihailo Škorić
Editor
Nikola Janković

Citation:

@article{skoric24korpusi,
  author    = {\vSkori\'c, Mihailo and Jankovi\'c, Nikola},
  title     = {New Textual Corpora for Serbian Language Modeling},
  journal   = {Infotheca},
  volume    = {24},
  issue     = {1},
  year      = {2024},
  publisher = {Zajednica biblioteka univerziteta u Srbiji, Beograd},
  url       = {https://arxiv.org/abs/2405.09250}
}

Истраживање jе спроведено уз подршку Фонда за науку Републике Србиjе, #7276, Text Embeddings – Serbian Language Applications – TESLA.

This research was supported by the Science Fund of the Republic of Serbia, #7276, Text Embeddings - Serbian Language Applications - TESLA.

За комплетне метаподатке докторских дисертација погледајте NARDUS-meta (метаподаци 13,289 дисертација саНАРДУС-а).

За паралелни КОРПУС ПРЕВОДА сажетака погледајте PaSaž (преко 20,000 паралелних сегмената).

For the complete metadata check out NARDUS-meta (metadata for 13,289 dissertations from NARDUS-a).

For the coprus of PARALEL TRANSALTIONS check out PaSaž (over 20,000 paralel segments).