Fix Dataset Viewer: canonical `author` for biblioteka_nauki + declare data_files

#118

Why

The dataset card failed to load in the Hugging Face Dataset Viewer for two reasons:

  1. The card declared no data_files, so the viewer picked up the non-data sidecars alongside the parquets.
  2. biblioteka_nauki (the only source whose shard is assembled from the SpeakLeash redistribution) exposed a column named attribution instead of the canonical author, so its shard had a different schema from every other source (FileFormatMismatchBetweenSplitsError / CastError: column names don't match).

What changed

  • biblioteka_nauki: the author name(s) now go into the canonical author column; the full citation (Autor | Rok | Tytuł[ | Wydawca]) moves verbatim into a sidecar, data/biblioteka_nauki/biblioteka_nauki.attribution.jsonl (one {"id", "attribution"} per row, in row order). The shard now carries the canonical 8-column schema.
  • The derived author drops a trailing footnote marker glued to the last name in the source (… Kowol 1) and turns the . . placeholder (27 pages titled "Noty o autorach" with no single author) into an empty value.
  • src/test_uniform_schema.py (new): asserts every data/*/*.parquet carries the canonical column schema.
  • Card: configs / data_files: data/*/*.parquet added to the header (src/make_docs.py template + README.md), so the viewer reads the parquets, not the sidecars.
  • Datasheet (data/biblioteka_nauki/biblioteka_nauki.md): documents the author column, the sidecar and how author is derived.

Sample (from the built shard)

id: biblioteka_nauki_articles_920161
source: biblioteka_nauki
added: 2026-06-27
created: 2010-01-01, 2010-12-31
token_count: 12049
license: CC-BY-4.0
author: Józef JAROSZ

35 
 
 
O archaizmach językowych i prawnych anachronizmach w 
konstytucji Królestwa Danii 
 
Józef JAROSZ 
Uniwersytet Wrocławski 
Wydział Filologiczny 
Instytut Filologii Germaniskiej 
pl. Nankiera 15, 
50-140 Wrocław, Poland 
jaroj1@interia.pl 
 
Abstrakt: Niniejszy artykuł poddaje analizie tekst konstytucji Królestwa Danii, której treść 
i postać językowa bazują w dużej mierze na pierwszej duńskiej ustawie zasadniczej z 1849 roku. 
Badanie przebiega dwutorowo: obok uwag odnośnie języka ustawy ocenie poddano zawartość 
merytoryczną tekstu. Wnioski rozpatrywane są w odniesieniu do funkcji tekstu w ujęciu 
lingwistycznym oraz funkcji konstytucji w kontekście funkcji prawa. Badanie w sferze językowej 
wskazało na liczne archaizmy leksykalne, zawiłości składniowe i niedoskonałości […]
id: biblioteka_nauki_articles_151455
source: biblioteka_nauki
added: 2026-06-27
created: 2011-01-01, 2011-12-31
token_count: 7767
license: CC-BY-3.0
author: Z. Plutecki

PAK vol. 57, nr 2/2011    153 
 
Zbigniew PLUTECKI 
POLITECHNIKA OPOLSKA,  
ul. Sosnkowskiego 31, 45-272 Opole 
 
Wieloparametryczna ocena warunków komfortu cieplnego 
 
Dr inż. Zbigniew PLUTECKI 
 
Adiunkt na Wydziale Elektrotechniki, Automatyki  
i Informatyki Politechniki Opolskiej. Dorobek naukowy 
to 35 publikacji w czasopismach, krajowych i międzyna-
rodowych materiałach konferencyjnych, udział w 4 
projektach badawczych i 1 patent krajowy oraz ponad 
30 przemysłowych wdrożeń patentu. Członek Stowarzy-
szenia 
Polskich 
Energetyków. 
Główne 
kierunki 
działalności naukowej to optymalizacja układów 
energetycznych oraz badanie i modelowanie zjawisk 
cieplno-przepływowych. 
 
e-mail: z.plutecki@po.opole.pl 
 
 
Streszczenie 
 
W artykule przedstawiono […]
id: biblioteka_nauki_articles_555709
source: biblioteka_nauki
added: 2026-06-27
created: 2015-01-01, 2015-12-31
token_count: 4327
license: CC-BY-SA-4.0
author: Tomasz Rudowski

GOSPODARKA 
 
 
Ameryka Łacińska, 1 (87) 2015, ss. 99-103 
99 
SYTUACJA GOSPODARCZA W REGIONIE 
(STYCZEŃ – MARZEC) 
REGION: WZROST GOSPODARCZY W 2015 ROKU NA POZIOMIE 2,2% 
AMERYKA ŁACIŃSKA I KARAIBY: STOPY REALNEGO WZROSTU PKB (2010-2015) 
Kraj/Region 
2011 
2012 
2013 
2014 
2015* 
Ameryka Łacińska 
i Karaiby 
4,5 
2,9 
2,7 
1,1 
2,2 
Ameryka Południowa 
Argentyna 
8,6 
0,9 
2,9 
-1,7 
-1,5 
Boliwia  
5,2 
5,2 
6,8 
5,2 
5,0 
Brazylia 
2,7 
1,0 
2,5 
0,3 
1,4 
Chile 
5,8 
5,5 
4,2 
2,0 
3,3 
Kolumbia 
6,6 
4,0 
4,7 
4,8 
4,5 
Ekwador 
7,8 
5,1 
4,5 
4,0 
4,0 
Paragwaj 
4,3 
-1,2 
13,6 
4,0 
4,5 
Peru 
6,5 
6,0 
5,8 
3,6 
5,1 
Urugwaj 
7,3 
3,7 
4,4 
2,8 
2,8 
Wenezuela  
4,2 
5,6 
1,3 
-3,0 
-1,0 
Meksyk i Ameryka Środkowa 
Kostaryka 
4,5 
5,1 
3,5 
3,6 
3,6 
Salwador 
2,2 
1,9 
1,7 […]

Provenance and licensing

  • Origin: Biblioteka Nauki (https://bibliotekanauki.pl, ICM, University of Warsaw). Text via the SpeakLeash redistribution (biblioteka_nauki_pl_corpus); per-document licence and attribution re-fetched 1:1 from the Biblioteka Nauki API (bibliotekanauki.pl/api/{type}/{id}).
  • Licence: per-document CC BY / CC BY-SA, version 2.0–4.0 (generic or PL), carried in the license column (full table in the datasheet).
  • Attribution: the author column carries the author name(s); the full citation (author · year · title · publisher) is preserved verbatim in biblioteka_nauki.attribution.jsonl, satisfying the CC BY / CC BY-SA attribution requirement. This matches the repo convention (parquet = canonical columns + a separate <key>.attribution.jsonl sidecar, as for wikibooks / ted_pl / sejm / global_voices / govpl / nonsa).

Verification

  • src/test_biblioteka_nauki_contract.py + src/test_uniform_schema.py green; full pytest src/ = 981 passed, 0 failed.
  • Per-row audit of all 41,985 shipped rows: author is the first citation field, the sidecar is byte-identical to the v0.2.5 citation, 27 placeholder rows are empty, one trailing marker stripped.
  • Local load_dataset("parquet", data_files={"train": "data/*/*.parquet"}) loads a single split of 3,555,561 rows with the canonical columns and no cast error.
Argonus92 changed pull request status to open
Fabryka AI org
  1. Three build scripts still read biblioteka_nauki’s attribution column from whatever main is at run time. After the merge, rerunning their overlap step crashes on the missing column, and no test catches it:
    build_wiadomosci_statystyczne_pl.py:318
    fetch_open_icm_pl.py:803
    fetch_rock_pollub_pl.py:259

All three should read the sidecar instead. The title-parsing code is also copied across the three scripts, so it should become one helper.

  1. Repeated column list (DRY). The list of 8 columns is now hard-coded in about 17 builders, and the PR adds two more copies (clean_biblioteka_nauki.CANONICAL and the one in test_uniform_schema.py). At minimum the test should import it.
Ready to merge
This branch is ready to get merged automatically.

Sign up or log in to comment