|
--- |
|
license: apache-2.0 |
|
task_categories: |
|
- text-generation |
|
language: |
|
- ru |
|
size_categories: |
|
- 1M<n<10M |
|
--- |
|
|
|
Texts inverse normalized obtained from [pikabu](https://huggingface.co/datasets/IlyaGusev/pikabu) dataset. |
|
Normalized using [these notebooks](https://github.com/saarus72/text_normalization) for a personal [russian normalization model](https://huggingface.co/saarus72/russian_text_normalizer) (avaliable on [HF Space](https://huggingface.co/spaces/saarus72/russian-text-normalization) as well). |
|
|
|
All put into single `jsonl` file with lines like (beautified): |
|
```json |
|
{ |
|
"tn": "\\- Ну как так то? У нас в Норильске при минус сорока градусах в буран люди не замерзают, а у вас при минус десяти без ветра человек насмерть замёрз?", |
|
"itn": "\\- Ну как так то? У нас в Норильске при минус 40 градусах в буран люди не замерзают, а у вас при минус 10 без ветра человек насмерть замёрз?", |
|
"orig_index": 7178627, |
|
"text_index": 1, |
|
"replaces": [ |
|
{ |
|
"text_from": "\\- Ну как так то? У нас в Норильске при минус ", |
|
"text_to": "\\- Ну как так то? У нас в Норильске при минус " |
|
}, |
|
{ |
|
"text_from": "40", |
|
"text_to": "сорока" |
|
}, |
|
{ |
|
"text_from": " градусах в буран люди не замерзают, а у вас при минус ", |
|
"text_to": " градусах в буран люди не замерзают, а у вас при минус " |
|
}, |
|
{ |
|
"text_from": "10", |
|
"text_to": "десяти" |
|
}, |
|
{ |
|
"text_from": " без ветра человек насмерть замёрз?", |
|
"text_to": " без ветра человек насмерть замёрз?" |
|
} |
|
] |
|
} |
|
``` |
|
|
