README.md

---

annotations_creators:

• machine-generated language:
• ru language_creators:
• machine-generated license:
• afl-3.0 multilinguality: [] pretty_name: Dmitriy007/restor_punct_Lenta2 size_categories:
• 100K<n<1M source_datasets:
• original tags: [] task_categories:
• token-classification task_ids: []

Dataset Card for Dmitriy007/restor_punct_Lenta2

Table of Contents

• Table of Contents
• Dataset Description
• Dataset Summary
  • Supported Tasks and Leaderboards
  • Languages
• Dataset Structure
  • Data Instances
  • Data Fields
  • Data Splits
• Dataset Creation
  • Curation Rationale
  • Source Data
  • Annotations
  • Personal and Sensitive Information
• Considerations for Using the Data
  • Social Impact of Dataset
  • Discussion of Biases
  • Other Known Limitations
• Additional Information
  • Dataset Curators
  • Licensing Information
  • Citation Information
  • Contributions

Dataset Description

• Homepage:
• Repository:
• Paper:
• Leaderboard:
• Point of Contact:

Dataset Summary

Набор данных restor_punct_Lenta2 (версия 2.0) представляет собой набор из 800 975 блоков русскоязычных предложений, разбитых на слова, каждое слово размечено маркером для последующей классификации токенов.

Набор данных очищен от символов: '...', ',', '«', '»', '\', '-', '"'

Виды маркеров: L L. L! L? B B. B! N N. No

Примеры значений маркеров:

L -- данное слово с маленькой буквы + пробел

L. -- данное слово с маленькой буквы + тчк

B -- данное слово с заглавной буквы

B. -- данное слово с заглавной буквы + тчк

N -- Число + пробел

N. -- Число + тчк

No -- Символ не определён

Supported Tasks and Leaderboards

token-classification: набор данных можно использовать для обучения модели восстановления пунктуации и заглавных букв.

Languages

Текст на русском языке

Dataset Structure

Data Instances

Пример из набора поездов restor_punct_Lenta2 выглядит следующим образом: {'words': ['фотограф-корреспондент', 'daily', 'mirror', 'рассказывает', 'случай', 'который', 'порадует', 'всех', 'друзей', 'животных'], 'labels': ['B', 'B', 'B', 'L', 'L', 'L', 'L', 'L', 'L', 'L.'], 'labels_id': [4, 4, 4, 0, 0, 0, 0, 0, 0, 1]}

Data Fields

• 'words': список слов, содержащая текст разбитый на отдельные слова. • 'labels': строка, список маркеров • 'labels_id: целое число, от 0 до 9 , обозначающее порядковый номер маркера

Data Splits

[More Information Needed]

Dataset Creation

Curation Rationale

Набор данных restor_punct_Lenta2 был разработан для обучения модели восстановления пунктуации и аглавных букв в тексте предложения. Предполагалась, что обученная таким образом модель, будет использоваться в задачи транскрибации.

Source Data

Initial Data Collection and Normalization

Данных restor_punct_Lenta2 был основан на наборе данных Lenta2 проекта CORUS.

Who are the source language producers?

[More Information Needed]

Annotations

Набор данных не содержит никаких дополнительных аннотаций.

Annotation process

[More Information Needed]

Who are the annotators?

[More Information Needed]

Personal and Sensitive Information

Имена пользователей или личная информация рецензентов не собирались вместе с обзорами, но потенциально могут быть восстановлены.

Considerations for Using the Data

Social Impact of Dataset

[More Information Needed]

Discussion of Biases

[More Information Needed]

Other Known Limitations

[More Information Needed]

Additional Information

Dataset Curators

[More Information Needed]

Licensing Information

[More Information Needed]

Citation Information

[More Information Needed]

Contributions

Thanks to @github-username for adding this dataset.