procesaur/STARS

Скуп Теза и Академских Радова на Српском Високо-квалитетан скуп објављених научних радова писаних на српском језику. Неопходан за обучавање квалитетних језичких модела за српски језик. Укупно 23,340 докумената, укупно са 27.8 милиона реченица ипреко 700 милиона речи. Филтрирање могуће по институцијама, ауторима, кључним речима. Свака ЈСОН линија представља једну публикацију. Унутар сваког документа су обележене реченице и параграфи.	Set of Thesis and Academic Research in Serbian Highly curated, High-quality, Serbian scientific corpus Necessary for training quality language models for Serbian. A total of 23,340 documents containing 27.8 million sentences andover 700 million words. Filtering possible by institutions, authors, keywords. Each JSON line represents one publication. All documents are paragraph and sentence-delimited.
Izvori:	Sources
Број докумената Doc. count Број реченица Sent. count Број речи Word count Удео Share НАРДУС дисертације NARDUS doc. dissertations 11,464 22,826,613 576,600,000 81.9% Институционални репозиторијуми Institutional repositories 10,982 4,265,164 111,400,000 15.8% Универзитет Црне Горе University of Montenegro 315 605,119 14,500,000 2% OpenSlovenia 571 42,777 1,080,000 0.2% Универзитет у Источном Сарајеву University of East Sarajevo 8 21,156 510,000 0.1% Укупно Total 23,340 27,760,829 704,000,000 100%

from datasets import load_dataset
dataset = load_dataset("procesaur/STARS")["train"]["text"]

print(dataset[0])
'<s>Na oraničnim površinama gaje se raznovrsne ratarske kulture koje imaju važno mesto u našoj...'

Editor

Mihailo Škorić

@procesaur

Editor

Nikola Janković

@Nikola-92

Citation:

@article{skoric24korpusi,
  author    = {\vSkori\'c, Mihailo and Jankovi\'c, Nikola},
  title     = {New Textual Corpora for Serbian Language Modeling},
  journal   = {Infotheca},
  volume    = {24},
  issue     = {1},
  year      = {2024},
  publisher = {Zajednica biblioteka univerziteta u Srbiji, Beograd},
  url       = {https://arxiv.org/abs/2405.09250}
}

Истраживање jе спроведено уз подршку Фонда за науку Републике Србиjе, #7276, Text Embeddings – Serbian Language Applications – TESLA.

This research was supported by the Science Fund of the Republic of Serbia, #7276, Text Embeddings - Serbian Language Applications - TESLA.

За комплетне метаподатке докторских дисертација погледајте NARDUS-meta (метаподаци 13,289 дисертација саНАРДУС-а). За паралелни КОРПУС ПРЕВОДА сажетака погледајте PaSaž (преко 20,000 паралелних сегмената).

For the complete metadata check out NARDUS-meta (metadata for 13,289 dissertations from NARDUS-a). For the coprus of PARALEL TRANSALTIONS check out PaSaž (over 20,000 paralel segments).