Hugging Face's logo

Datasets:
milord-x
/
KazNU-OCR-Layout-dataset

Tasks:
Object Detection
Languages:
Kazakh
Tags:
document-layout-analysis
newspaper
ocr
kazakh
License:
Dataset card Files
xet
 Community
Dataset Viewer
Duplicate
The dataset viewer is not available for this split.
Cannot load the dataset split (in streaming mode) to extract the first rows.
Error code:   StreamingRowsError
Exception:    TypeError
Message:      Couldn't cast array of type double to null
Traceback:    Traceback (most recent call last):
                File "/src/services/worker/src/worker/utils.py", line 147, in get_rows_or_raise
                  return get_rows(
                      dataset=dataset,
                  ...<4 lines>...
                      column_names=column_names,
                  )
                File "/src/libs/libcommon/src/libcommon/utils.py", line 272, in decorator
                  return func(*args, **kwargs)
                File "/src/services/worker/src/worker/utils.py", line 127, in get_rows
                  rows_plus_one = list(itertools.islice(safe_iter(ds, dataset=dataset), rows_max_number + 1))
                File "/src/services/worker/src/worker/utils.py", line 478, in safe_iter
                  yield from ds.decode(False) if ds.features else ds
                File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 2818, in __iter__
                  for key, example in ex_iterable:
                                      ^^^^^^^^^^^
                File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 2355, in __iter__
                  for key, pa_table in self._iter_arrow():
                                       ~~~~~~~~~~~~~~~~^^
                File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 2380, in _iter_arrow
                  for key, pa_table in self.ex_iterable._iter_arrow():
                                       ~~~~~~~~~~~~~~~~~~~~~~~~~~~~^^
                File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 536, in _iter_arrow
                  for key, pa_table in iterator:
                                       ^^^^^^^^
                File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 419, in _iter_arrow
                  for key, pa_table in self.generate_tables_fn(**gen_kwags):
                                       ~~~~~~~~~~~~~~~~~~~~~~~^^^^^^^^^^^^^
                File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/json/json.py", line 343, in _generate_tables
                  self._cast_table(pa_table, json_field_paths=json_field_paths),
                  ~~~~~~~~~~~~~~~~^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/json/json.py", line 132, in _cast_table
                  pa_table = table_cast(pa_table, self.info.features.arrow_schema)
                File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2369, in table_cast
                  return cast_table_to_schema(table, schema)
                File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2303, in cast_table_to_schema
                  cast_array_to_feature(
                  ~~~~~~~~~~~~~~~~~~~~~^
                      table[name] if name in table_column_names else pa.array([None] * len(table), type=schema.field(name).type),
                      ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                      feature,
                      ^^^^^^^^
                  )
                  ^
                File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 1852, in wrapper
                  return pa.chunked_array([func(chunk, *args, **kwargs) for chunk in array.chunks])
                                           ~~~~^^^^^^^^^^^^^^^^^^^^^^^^
                File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2109, in cast_array_to_feature
                  casted_array_values = _c(array.values, feature.feature)
                File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 1854, in wrapper
                  return func(array, *args, **kwargs)
                File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2059, in cast_array_to_feature
                  _c(array.field(name) if name in array_fields else null_array, subfeature)
                  ~~^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 1854, in wrapper
                  return func(array, *args, **kwargs)
                File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2143, in cast_array_to_feature
                  return array_cast(
                      array,
                  ...<2 lines>...
                      allow_decimal_to_str=allow_decimal_to_str,
                  )
                File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 1854, in wrapper
                  return func(array, *args, **kwargs)
                File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2005, in array_cast
                  raise TypeError(f"Couldn't cast array of type {_short_str(array.type)} to {_short_str(pa_type)}")
              TypeError: Couldn't cast array of type double to null

Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.

KazNU-OCR-Layout Dataset

Датасет для layout detection (определение структурных блоков) страниц казахской университетской газеты «Qazaq Universiteti». Используется для обучения модели KazNU-OCR-Layout в рамках hybrid active learning пайплайна OCR газетного архива.

65 страниц, отрендеренных из оригинальных PDF выпусков (300 DPI), с ручной разметкой структурных блоков и их границ (bounding box).

Состав

  • images/ — PNG-страницы (300 DPI)
  • annotations/ — JSON-файлы разметки, один на страницу, имя файла совпадает с именем изображения

Формат аннотации 

{
  "version": 1,
  "image_path": "images/2021-01-26_no3__page_01.png",
  "page_width": 3071,
  "page_height": 4489,
  "blocks": [
    {
      "block_id": 1,
      "class": "headline",
      "bbox": {"x": 350.0, "y": 95.0, "w": 1200.0, "h": 110.0},
      "reading_order": null,
      "article_id": null,
      "confidence": null
    }
  ],
  "status": "reviewed"
}

bbox — пиксельные координаты, origin в верхнем левом углу. confidence: null означает разметку человеком; числовое значение — это предсказание модели, впоследствии проверенное и подтверждённое/исправленное человеком (active learning).

Классы и их частота

Класс Количество блоков Описание
text_column 654 колонка текста
photo 215 фотография/иллюстрация
headline 191 заголовок статьи
author 134 автор статьи
masthead 65 шапка газеты
teaser 29 анонс другой статьи
footer 17 футер страницы

Всего 1305 размеченных блоков на 65 страницах.

Изначально в схеме были также классы caption (подпись к фото) и continuation_marker (маркер «Жалғасы 2-бетте») — они были убраны из-за малого числа примеров и нестабильного качества обучения; в текущей версии датасета такие блоки переразмечены под соседние классы.

Сбор данных

Страницы выбраны в два этапа active learning:

  1. batch_001 (50 страниц) — случайная выборка по разным выпускам газеты (2021–2025 гг.) для построения первой эталонной разметки
  2. batch_002 (15 страниц) — целевая доразметка страниц, на которых первая модель показала наибольшую неуверенность (преимущественно фоторепортажи с несколькими фото без явных текстовых разделителей)

Ограничения

  • Только издание «Qazaq Universiteti» (вёрстка Adobe InDesign, казахский язык)
  • Малый объём — частые классы (text_column, photo) представлены хорошо, редкие элементы вёрстки могут быть недопредставлены
Downloads last month
155
Total file size:
332 MB