README.md

metadata

license: apache-2.0
task_categories:
  - text-generation
language:
  - ru
size_categories:
  - 1M<n<10M

Texts inverse normalized obtained from pikabu dataset. Normalized using these notebooks for a personal russian normalization model (avaliable on HF Space as well).

All put into single jsonl file with lines like (beautified):

{
  "tn": "\\- Ну как так то? У нас в Норильске при минус сорока градусах в буран люди не замерзают, а у вас при минус десяти без ветра человек насмерть замёрз?",
  "itn": "\\- Ну как так то? У нас в Норильске при минус 40 градусах в буран люди не замерзают, а у вас при минус 10 без ветра человек насмерть замёрз?",
  "orig_index": 7178627,
  "text_index": 1,
  "replaces": [
    {
      "text_from": "\\- Ну как так то? У нас в Норильске при минус ",
      "text_to": "\\- Ну как так то? У нас в Норильске при минус "
    },
    {
      "text_from": "40",
      "text_to": "сорока"
    },
    {
      "text_from": " градусах в буран люди не замерзают, а у вас при минус ",
      "text_to": " градусах в буран люди не замерзают, а у вас при минус "
    },
    {
      "text_from": "10",
      "text_to": "десяти"
    },
    {
      "text_from": " без ветра человек насмерть замёрз?",
      "text_to": " без ветра человек насмерть замёрз?"
    }
  ]
}