saarus72 commited on
Commit
159cd44
1 Parent(s): 1563055

Add dataset file

Browse files
Files changed (3) hide show
  1. .gitattributes +1 -0
  2. README.md +41 -0
  3. pikabu_replaces.jsonl +3 -0
.gitattributes CHANGED
@@ -53,3 +53,4 @@ saved_model/**/* filter=lfs diff=lfs merge=lfs -text
53
  *.jpg filter=lfs diff=lfs merge=lfs -text
54
  *.jpeg filter=lfs diff=lfs merge=lfs -text
55
  *.webp filter=lfs diff=lfs merge=lfs -text
 
 
53
  *.jpg filter=lfs diff=lfs merge=lfs -text
54
  *.jpeg filter=lfs diff=lfs merge=lfs -text
55
  *.webp filter=lfs diff=lfs merge=lfs -text
56
+ pikabu_replaces.jsonl filter=lfs diff=lfs merge=lfs -text
README.md CHANGED
@@ -1,3 +1,44 @@
1
  ---
2
  license: apache-2.0
 
 
 
 
 
 
3
  ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
  ---
2
  license: apache-2.0
3
+ task_categories:
4
+ - text-generation
5
+ language:
6
+ - ru
7
+ size_categories:
8
+ - 1M<n<10M
9
  ---
10
+
11
+ Texts inverse normalized obtained from [pikabu](https://huggingface.co/datasets/IlyaGusev/pikabu) dataset.
12
+ Normalized using [these notebooks](https://github.com/saarus72/text_normalization) for a personal [russian normalization model](https://huggingface.co/saarus72/russian_text_normalizer) (avaliable on [HF Space](https://huggingface.co/spaces/saarus72/russian-text-normalization) as well).
13
+
14
+ All put into single `jsonl` file with lines like (beautified):
15
+ ```json
16
+ {
17
+ "tn": "\\- Ну как так то? У нас в Норильске при минус сорока градусах в буран люди не замерзают, а у вас при минус десяти без ветра человек насмерть замёрз?",
18
+ "itn": "\\- Ну как так то? У нас в Норильске при минус 40 градусах в буран люди не замерзают, а у вас при минус 10 без ветра человек насмерть замёрз?",
19
+ "orig_index": 7178627,
20
+ "text_index": 1,
21
+ "replaces": [
22
+ {
23
+ "text_from": "\\- Ну как так то? У нас в Норильске при минус ",
24
+ "text_to": "\\- Ну как так то? У нас в Норильске при минус "
25
+ },
26
+ {
27
+ "text_from": "40",
28
+ "text_to": "сорока"
29
+ },
30
+ {
31
+ "text_from": " градусах в буран люди не замерзают, а у вас при минус ",
32
+ "text_to": " градусах в буран люди не замерзают, а у вас при минус "
33
+ },
34
+ {
35
+ "text_from": "10",
36
+ "text_to": "десяти"
37
+ },
38
+ {
39
+ "text_from": " без ветра человек насмерть замёрз?",
40
+ "text_to": " без ветра человек насмерть замёрз?"
41
+ }
42
+ ]
43
+ }
44
+ ```
pikabu_replaces.jsonl ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:ad280585781c6bbb6d47ca817a31da0ccdec633294eaff3a7705f057c0767b9a
3
+ size 2713656527