Dataset Viewer
The dataset viewer is not available for this subset.
Cannot get the split names for the config 'default' of the dataset.
Exception: SplitsNotFoundError
Message: The split names could not be parsed from the dataset config.
Traceback: Traceback (most recent call last):
File "/usr/local/lib/python3.14/site-packages/datasets/inspect.py", line 286, in get_dataset_config_info
for split_generator in builder._split_generators(
~~~~~~~~~~~~~~~~~~~~~~~~~^
StreamingDownloadManager(base_path=builder.base_path, download_config=download_config)
^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
)
^
File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/webdataset/webdataset.py", line 80, in _split_generators
raise ValueError(
...<2 lines>...
)
ValueError: The TAR archives of the dataset should be in WebDataset format, but the files in the archive don't share the same prefix or the same types.
The above exception was the direct cause of the following exception:
Traceback (most recent call last):
File "/src/services/worker/src/worker/job_runners/config/split_names.py", line 68, in compute_split_names_from_streaming_response
for split in get_dataset_split_names(
~~~~~~~~~~~~~~~~~~~~~~~^
path=dataset,
^^^^^^^^^^^^^
config_name=config,
^^^^^^^^^^^^^^^^^^^
token=hf_token,
^^^^^^^^^^^^^^^
)
^
File "/usr/local/lib/python3.14/site-packages/datasets/inspect.py", line 340, in get_dataset_split_names
info = get_dataset_config_info(
path,
...<6 lines>...
**config_kwargs,
)
File "/usr/local/lib/python3.14/site-packages/datasets/inspect.py", line 291, in get_dataset_config_info
raise SplitsNotFoundError("The split names could not be parsed from the dataset config.") from err
datasets.inspect.SplitsNotFoundError: The split names could not be parsed from the dataset config.Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.
Как генерируются датасеты (наши + чужие данные)
Этот документ фиксирует происхождение всех данных и конвейер их сборки: что является нашим (и залито), что — чужим/восстановимым (и НЕ перезаливается, а тянется из источника). Честная рамка: обучение правомерно (PD-сканы + CC-BY шифры); ограничения касаются редистрибуции, а не обучения.
1. Входные источники
1.1 Чужое / внешнее (НЕ перезаливаем — берём из источника)
| источник | что даёт | лицензия | как получить |
|---|---|---|---|
| Beinecke MS 408, Yale University Library | изображения рукописи | Public Domain (Yale копирайт не заявляет) | IIIF manifest collections.library.yale.edu/manifests/2002046; scripts/fetch_yale_iiif.py |
| Zandbergen–Landini EVA транслитерация | метки/разметка текста | © R. Zandbergen (атрибуция; сырьё не перезаливать) | voynich.nu; наш исправленный overlay — в PUBLIC_RELEASE/data/transcriptions/ |
| voynichese координаты слов | привязка глифов/слов к позициям | © Zandbergen (атрибуция) | voynichese.com / SOURCES/word_coordinates |
| DECODE / DECRYPT шифры (Copiale, Borg и др.) | бенчмарк шифров (вспомогательно; провальная Naibbe-атака) | CC BY 4.0 (Megyesi et al.) | DECODE database |
| Pliny, Naturalis Historia и пр. | сравнительный корпус | текст PD; оцифровка — атрибуция источника | WORKING/data/s1_semantic_corpora |
| EVA2.ttf (шрифт) | только отрисовка глифов в прототипах | © G. Landini 1998, free/НЕ коммерческое | не включать в коммерческий пакет |
1.2 Наше (производное от PD-сканов — залито на HF Dataset voynich-decode-data)
| датасет | размер | содержимое |
|---|---|---|
strict_v4_direct_factor_crops_v1 |
~370M | кропы ячеек для accepted strict_v4 |
leaf_clean_highres_crops_v1 |
~269M | high-res кропы для shadow-обсервера |
strict_v2_broad_highres_targets_v1 |
~72M | таргет-кропы v2 |
label_hand_forensics_x1 |
~1.2G | покадровые кропы слов (форензика рук) |
x_v10u_epoch30_target_free_oof_v1 |
~1.0G | OOF-обучающий набор (leaf-held) |
s1_visual_crib |
~512M | визуальный «криб» |
2. Конвейер генерации датасета
Yale IIIF сканы (PD) Z–L транскрипция (метки) voynichese координаты
│ │ │
▼ ▼ ▼
нормализация листов ───────────► выравнивание текст↔изображение ◄──── боксы ячеек/слов
│ │
└──────────────────────────────► НАРЕЗКА КРОПОВ ◄────────────────┘
│
leaf-held split (5×3 fold/seed, 0 overlap recto/verso)
│
train / OOF / blind-target наборы
│
обучение обсерверов → gates
Ключевые правила:
- PD-основа: кропы — это пиксели public-domain Yale-сканов; кадрирование не добавляет чужих прав → наши кропы публикуемы.
- Метки берутся из Z–L транскрипции (+ наш overlay-реестр исправлений); сырьё транскрипции не перезаливаем, указываем атрибуцию.
- Координаты — из voynichese (атрибуция).
- Split всегда leaf-held (физический лист целиком в одном фолде), чтобы recto/verso не протекали между train и OOF.
- Каждый шаг привязан к
scan_index+ SHA-256 (см.OFFICIAL_SCAN_SOURCE_AUDIT.md).
Воспроизвести без хранения кропов можно так: fetch_yale_iiif.py (сканы) +
координаты + overlay → повторная нарезка даёт те же боксы.
3. Где что лежит
- Наши кропы/обучающие наборы: HF Dataset
LeonidMolchanov1987/voynich-decode-data(приватный), архивами*.tar. - Веса обсерверов: HF Model
LeonidMolchanov1987/voynich-decode-models. - Код/факторизация/исправления/генератор:
PUBLIC_RELEASE(+ Zenodo). - Чужое: не хостим —
fetch_yale_iiif.py(сканы), DECODE (шифры), voynich.nu (транскрипция), источник корпуса (Pliny).
4. Лицензионный итог
- Обучать на этих данных — правомерно (PD-сканы, CC-BY шифры).
- НЕ перезаливать: сырую Z–L транскрипцию, полный архив Yale-сканов (тянется по IIIF), EVA-шрифт в коммерческий пакет.
- Атрибуция обязательна: Zandbergen–Landini, DECRYPT/DECODE, Landini (шрифт), источник корпуса, Beinecke/Yale (courtesy).
- Downloads last month
- 53