ficbook_text_norm / README.md
saarus72's picture
Add dataset file
ee36642 verified
metadata
license: apache-2.0
task_categories:
  - text-generation
language:
  - ru
size_categories:
  - 1M<n<10M

Texts inverse normalized obtained from ficbook dataset. Normalized using these notebooks for a personal russian normalization model (avaliable on HF Space as well).

All put into single jsonl file with lines like (beautified):

{
  "replaces": [
    {
      "text_from": "Боль во всем теле...Боже...я так и знала.... ",
      "text_to": "Боль во всем теле...Боже...я так и знала.... "
    },
    {
      "text_from": "5",
      "text_to": "Пятая"
    },
    {
      "text_from": " точка буквально ныла от боли, ушиб будет тот еще...садиться не смогу дня ",
      "text_to": " точка буквально ныла от боли, ушиб будет тот еще...садиться не смогу дня "
    },
    {
      "text_from": "3",
      "text_to": "три"
    },
    {
      "text_from": " так, точно.",
      "text_to": " так, точно."
    }
  ]
}