annieske commited on
Commit
4365bea
1 Parent(s): cb7d94d

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +59 -3
README.md CHANGED
@@ -4,9 +4,65 @@ task_categories:
4
  - text-classification
5
  language:
6
  - fi
 
 
7
  tags:
8
- - toxicity
9
- - multi-label
 
10
  size_categories:
11
  - 100K<n<1M
12
- ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
4
  - text-classification
5
  language:
6
  - fi
7
+ multilinguality:
8
+ - translation
9
  tags:
10
+ - toxicity, multi-label
11
+ source_datasets:
12
+ - extended|jigsaw_toxicity_pred
13
  size_categories:
14
  - 100K<n<1M
15
+ ---
16
+
17
+
18
+ ### Dataset summary
19
+
20
+ This dataset is a DeepL -based machine translated version of the Jigsaw toxicity dataset for Finnish. The dataset is originally from a Kaggle competition https://www.kaggle.com/c/jigsaw-toxic-comment-classification-challenge/data.
21
+ The dataset poses a multi-label text classification problem.
22
+
23
+ #### Example data
24
+
25
+ ```
26
+ {
27
+ "id": "879ad7bdba4cedaa",
28
+ "label_identity_attack": 0,
29
+ # for these "0 or 1"?
30
+ "label_insult": 0,
31
+ "label_obscene": 0,
32
+ "label_severe_toxicity": 0,
33
+ "label_threat": 0,
34
+ "label_toxicity": 0,
35
+ "lang": "fi-deepl",
36
+ "text": "\" \n\n Hei Pieter Pietersen, ja tervetuloa Wikipediaan! \n\n Tervetuloa Wikipediaan! Toivottavasti viihdyt tietosanakirjassa ja haluat jäädä tänne. Ensimmäiseksi voit lukea johdannon. \n\n Jos sinulla on kysyttävää, voit kysyä minulta keskustelusivullani - autan mielelläni. Tai voit kysyä kysymyksesi Uusien avustajien ohjesivulla. \n\n - \n Seuraavassa on lisää resursseja, jotka auttavat sinua tutkimaan ja osallistumaan maailman suurinta tietosanakirjaa.... \n\n Löydät perille: \n\n \n * Sisällysluettelo \n\n * Osastohakemisto \n\n \n Tarvitsetko apua? \n\n \n * Kysymykset - opas siitä, mistä voi esittää kysymyksiä. \n * Huijausluettelo - pikaohje Wikipedian merkintäkoodeista. \n\n * Wikipedian 5 pilaria - yleiskatsaus Wikipedian perustaan. \n * The Simplified Ruleset - yhteenveto Wikipedian tärkeimmistä säännöistä. \n\n \n Miten voit auttaa: \n\n \n * Wikipedian avustaminen - opas siitä, miten voit auttaa. \n\n * Yhteisöportaali - Wikipedian toiminnan keskus. \n\n \n Lisää vinkkejä... \n\n \n * Allekirjoita viestisi keskustelusivuilla neljällä tildillä (~~~~). Tämä lisää automaattisesti \"\"allekirjoituksesi\"\" (käyttäjänimesi ja päivämääräleima). Myös Wikipedian tekstinmuokkausikkunan yläpuolella olevassa työkalupalkissa oleva painike tekee tämän. \n\n * Jos haluat leikkiä uusilla Wiki-taidoillasi, Hiekkalaatikko on sinua varten. \n\n \n Onnea ja hauskaa. \""
37
+ }
38
+ ```
39
+
40
+ ### Data fields
41
+
42
+ - `id`: a `string` feature.
43
+ - `label_identity_attack`: a `int32` feature.
44
+ - `label_insult`: a `int32` feature.
45
+ - `label_obscene`: a `int32` feature.
46
+ - `label_severe_toxicity`: a `int32` feature.
47
+ - `label_threat`: a `int32` feature.
48
+ - `label_toxicity`: a `int32` feature.
49
+ - `lang`: a `string` feature,
50
+ - `text`: a `string` feature.
51
+
52
+
53
+ ### Data splits
54
+
55
+ The splits are the same as in the original English data.
56
+
57
+ | | train | test |
58
+ | -------- | -----: | ---------: |
59
+ | Jigsaw toxicity data | 130319 | 11873 |
60
+
61
+ ### Considerations for Using the Data
62
+ Due to DeepL terms and conditions, this dataset **must not be used for any machine translation work**, namely machine translation
63
+ system development and evaluation of any kind. In general, we wish you do not pair the original English data with the translations
64
+ except when working on research unrelated to machine translation, so as not to infringe on the terms and conditions.
65
+ ### Licensing Information
66
+ Contents of this repository are distributed under the
67
+ [Creative Commons Attribution-ShareAlike 4.0 International License (CC BY-SA 4.0)](https://creativecommons.org/licenses/by-sa/4.0/).
68
+ Copyright of the dataset contents belongs to the original copyright holders.