README.md

---
annotations_creators:
- machine-generated
language:
- ru
language_creators:
- machine-generated
license:
- afl-3.0
multilinguality: []
pretty_name: Dmitriy007/restor_punct_Lenta2
size_categories:
- 100K<n<1M
source_datasets:
- original
tags: []
task_categories:
- token-classification
task_ids: []

# Dataset Card for Dmitriy007/restor_punct_Lenta2

## Table of Contents
- [Table of Contents](#table-of-contents)
- [Dataset Description](#dataset-description)
- [Dataset Summary](#dataset-summary)
  - [Supported Tasks and Leaderboards](#supported-tasks-and-leaderboards)
  - [Languages](#languages)
- [Dataset Structure](#dataset-structure)
  - [Data Instances](#data-instances)
  - [Data Fields](#data-fields)
  - [Data Splits](#data-splits)
- [Dataset Creation](#dataset-creation)
  - [Curation Rationale](#curation-rationale)
  - [Source Data](#source-data)
  - [Annotations](#annotations)
  - [Personal and Sensitive Information](#personal-and-sensitive-information)
- [Considerations for Using the Data](#considerations-for-using-the-data)
  - [Social Impact of Dataset](#social-impact-of-dataset)
  - [Discussion of Biases](#discussion-of-biases)
  - [Other Known Limitations](#other-known-limitations)
- [Additional Information](#additional-information)
  - [Dataset Curators](#dataset-curators)
  - [Licensing Information](#licensing-information)
  - [Citation Information](#citation-information)
  - [Contributions](#contributions)

## Dataset Description

- **Homepage:**
- **Repository:**
- **Paper:**
- **Leaderboard:**
- **Point of Contact:**

### Dataset Summary

Набор данных restor_punct_Lenta2 (версия 2.0) представляет собой набор из 800 975 блоков русскоязычных предложений, разбитых на слова, каждое слово размечено маркером для последующей классификации токенов.

Набор данных очищен от символов: '...', ',', '«', '»', '\\', '-', '"' 

Виды маркеров: L L. L! L? B B. B! N N. No

Примеры значений маркеров:

L -- данное слово с маленькой буквы + пробел

L. -- данное слово с маленькой буквы + тчк

B -- данное слово с заглавной буквы

B. -- данное слово с заглавной буквы + тчк

N  -- Число + пробел

N. -- Число + тчк

No -- Символ не определён

### Supported Tasks and Leaderboards

token-classification: набор данных можно использовать для обучения модели восстановления пунктуации и заглавных букв.

### Languages

Текст на русском языке

## Dataset Structure

### Data Instances

Пример из набора поездов restor_punct_Lenta2 выглядит следующим образом:
{'words': ['фотограф-корреспондент', 'daily', 'mirror', 'рассказывает', 'случай', 'который', 'порадует', 'всех', 'друзей', 'животных'], 'labels': ['B', 'B', 'B', 'L', 'L', 'L', 'L', 'L', 'L', 'L.'], 'labels_id': [4, 4, 4, 0, 0, 0, 0, 0, 0, 1]}

### Data Fields

•	'words': список слов, содержащая текст разбитый на отдельные слова.
•	'labels': строка, список маркеров
•	'labels_id: целое число, от 0 до 9 , обозначающее порядковый номер маркера


### Data Splits

[More Information Needed]

## Dataset Creation

### Curation Rationale

Набор данных restor_punct_Lenta2 был разработан для обучения модели восстановления пунктуации и 
аглавных букв в тексте предложения. Предполагалась, что обученная таким образом модель, будет использоваться в задачи транскрибации.

### Source Data

#### Initial Data Collection and Normalization

Данных restor_punct_Lenta2 был основан на наборе данных Lenta2 проекта CORUS.   

#### Who are the source language producers?

[More Information Needed]

### Annotations

Набор данных не содержит никаких дополнительных аннотаций.

#### Annotation process

[More Information Needed]

#### Who are the annotators?

[More Information Needed]

### Personal and Sensitive Information

Имена пользователей или личная информация рецензентов не собирались вместе с обзорами, но потенциально могут быть восстановлены.

## Considerations for Using the Data

### Social Impact of Dataset

[More Information Needed]

### Discussion of Biases

[More Information Needed]

### Other Known Limitations

[More Information Needed]

## Additional Information

### Dataset Curators

[More Information Needed]

### Licensing Information

[More Information Needed]

### Citation Information

[More Information Needed]

### Contributions

Thanks to [@github-username](https://github.com/<github-username>) for adding this dataset.