Datasets:
Fix Dataset Viewer: canonical `author` for biblioteka_nauki + declare data_files
#118
by Argonus92 - opened
Why
The dataset card failed to load in the Hugging Face Dataset Viewer for two reasons:
- The card declared no
data_files, so the viewer picked up the non-data sidecars alongside the parquets. biblioteka_nauki(the only source whose shard is assembled from the SpeakLeash redistribution) exposed a column namedattributioninstead of the canonicalauthor, so its shard had a different schema from every other source (FileFormatMismatchBetweenSplitsError/CastError: column names don't match).
What changed
biblioteka_nauki: the author name(s) now go into the canonicalauthorcolumn; the full citation (Autor | Rok | Tytuł[ | Wydawca]) moves verbatim into a sidecar,data/biblioteka_nauki/biblioteka_nauki.attribution.jsonl(one{"id", "attribution"}per row, in row order). The shard now carries the canonical 8-column schema.- The derived
authordrops a trailing footnote marker glued to the last name in the source (… Kowol 1) and turns the. .placeholder (27 pages titled "Noty o autorach" with no single author) into an empty value. src/test_uniform_schema.py(new): asserts everydata/*/*.parquetcarries the canonical column schema.- Card:
configs/data_files: data/*/*.parquetadded to the header (src/make_docs.pytemplate +README.md), so the viewer reads the parquets, not the sidecars. - Datasheet (
data/biblioteka_nauki/biblioteka_nauki.md): documents theauthorcolumn, the sidecar and howauthoris derived.
Sample (from the built shard)
id: biblioteka_nauki_articles_920161
source: biblioteka_nauki
added: 2026-06-27
created: 2010-01-01, 2010-12-31
token_count: 12049
license: CC-BY-4.0
author: Józef JAROSZ
35
O archaizmach językowych i prawnych anachronizmach w
konstytucji Królestwa Danii
Józef JAROSZ
Uniwersytet Wrocławski
Wydział Filologiczny
Instytut Filologii Germaniskiej
pl. Nankiera 15,
50-140 Wrocław, Poland
jaroj1@interia.pl
Abstrakt: Niniejszy artykuł poddaje analizie tekst konstytucji Królestwa Danii, której treść
i postać językowa bazują w dużej mierze na pierwszej duńskiej ustawie zasadniczej z 1849 roku.
Badanie przebiega dwutorowo: obok uwag odnośnie języka ustawy ocenie poddano zawartość
merytoryczną tekstu. Wnioski rozpatrywane są w odniesieniu do funkcji tekstu w ujęciu
lingwistycznym oraz funkcji konstytucji w kontekście funkcji prawa. Badanie w sferze językowej
wskazało na liczne archaizmy leksykalne, zawiłości składniowe i niedoskonałości […]
id: biblioteka_nauki_articles_151455
source: biblioteka_nauki
added: 2026-06-27
created: 2011-01-01, 2011-12-31
token_count: 7767
license: CC-BY-3.0
author: Z. Plutecki
PAK vol. 57, nr 2/2011 153
Zbigniew PLUTECKI
POLITECHNIKA OPOLSKA,
ul. Sosnkowskiego 31, 45-272 Opole
Wieloparametryczna ocena warunków komfortu cieplnego
Dr inż. Zbigniew PLUTECKI
Adiunkt na Wydziale Elektrotechniki, Automatyki
i Informatyki Politechniki Opolskiej. Dorobek naukowy
to 35 publikacji w czasopismach, krajowych i międzyna-
rodowych materiałach konferencyjnych, udział w 4
projektach badawczych i 1 patent krajowy oraz ponad
30 przemysłowych wdrożeń patentu. Członek Stowarzy-
szenia
Polskich
Energetyków.
Główne
kierunki
działalności naukowej to optymalizacja układów
energetycznych oraz badanie i modelowanie zjawisk
cieplno-przepływowych.
e-mail: z.plutecki@po.opole.pl
Streszczenie
W artykule przedstawiono […]
id: biblioteka_nauki_articles_555709
source: biblioteka_nauki
added: 2026-06-27
created: 2015-01-01, 2015-12-31
token_count: 4327
license: CC-BY-SA-4.0
author: Tomasz Rudowski
GOSPODARKA
Ameryka Łacińska, 1 (87) 2015, ss. 99-103
99
SYTUACJA GOSPODARCZA W REGIONIE
(STYCZEŃ – MARZEC)
REGION: WZROST GOSPODARCZY W 2015 ROKU NA POZIOMIE 2,2%
AMERYKA ŁACIŃSKA I KARAIBY: STOPY REALNEGO WZROSTU PKB (2010-2015)
Kraj/Region
2011
2012
2013
2014
2015*
Ameryka Łacińska
i Karaiby
4,5
2,9
2,7
1,1
2,2
Ameryka Południowa
Argentyna
8,6
0,9
2,9
-1,7
-1,5
Boliwia
5,2
5,2
6,8
5,2
5,0
Brazylia
2,7
1,0
2,5
0,3
1,4
Chile
5,8
5,5
4,2
2,0
3,3
Kolumbia
6,6
4,0
4,7
4,8
4,5
Ekwador
7,8
5,1
4,5
4,0
4,0
Paragwaj
4,3
-1,2
13,6
4,0
4,5
Peru
6,5
6,0
5,8
3,6
5,1
Urugwaj
7,3
3,7
4,4
2,8
2,8
Wenezuela
4,2
5,6
1,3
-3,0
-1,0
Meksyk i Ameryka Środkowa
Kostaryka
4,5
5,1
3,5
3,6
3,6
Salwador
2,2
1,9
1,7 […]
Provenance and licensing
- Origin: Biblioteka Nauki (https://bibliotekanauki.pl, ICM, University of Warsaw). Text via the SpeakLeash redistribution (
biblioteka_nauki_pl_corpus); per-document licence and attribution re-fetched 1:1 from the Biblioteka Nauki API (bibliotekanauki.pl/api/{type}/{id}). - Licence: per-document CC BY / CC BY-SA, version 2.0–4.0 (generic or PL), carried in the
licensecolumn (full table in the datasheet). - Attribution: the
authorcolumn carries the author name(s); the full citation (author · year · title · publisher) is preserved verbatim inbiblioteka_nauki.attribution.jsonl, satisfying the CC BY / CC BY-SA attribution requirement. This matches the repo convention (parquet = canonical columns + a separate<key>.attribution.jsonlsidecar, as for wikibooks / ted_pl / sejm / global_voices / govpl / nonsa).
Verification
src/test_biblioteka_nauki_contract.py+src/test_uniform_schema.pygreen; fullpytest src/= 981 passed, 0 failed.- Per-row audit of all 41,985 shipped rows:
authoris the first citation field, the sidecar is byte-identical to the v0.2.5 citation, 27 placeholder rows are empty, one trailing marker stripped. - Local
load_dataset("parquet", data_files={"train": "data/*/*.parquet"})loads a single split of 3,555,561 rows with the canonical columns and no cast error.
Argonus92 changed pull request status to open
- Three build scripts still read biblioteka_nauki’s attribution column from whatever main is at run time. After the merge, rerunning their overlap step crashes on the missing column, and no test catches it:
build_wiadomosci_statystyczne_pl.py:318
fetch_open_icm_pl.py:803
fetch_rock_pollub_pl.py:259
All three should read the sidecar instead. The title-parsing code is also copied across the three scripts, so it should become one helper.
- Repeated column list (DRY). The list of 8 columns is now hard-coded in about 17 builders, and the PR adds two more copies (clean_biblioteka_nauki.CANONICAL and the one in test_uniform_schema.py). At minimum the test should import it.