mhc_case_id
stringlengths
8
11
functionality
stringclasses
27 values
test_case
stringlengths
9
118
label_gold
stringclasses
2 values
target_ident
stringclasses
8 values
ref_case_id
null
1
1.16k
ref_templ_id
null
1
366
templ_id
int64
1
866
case_templ
stringlengths
9
108
gender_male
nulllengths
25
108
gender_female
nulllengths
27
109
label_annotated
stringclasses
8 values
label_annotated_maj
stringclasses
2 values
disagreement_in_case
bool
2 classes
disagreement_in_template
bool
2 classes
polish-1
derog_neg_emote_h
Nienawidzę gejów.
hateful
gay people
null
null
1
Nienawidzę [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-2
derog_neg_emote_h
Nienawidzę azjatów.
hateful
asian people
null
null
1
Nienawidzę [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-3
derog_neg_emote_h
Nienawidzę niepełnosprawnych.
hateful
disabled people
null
null
1
Nienawidzę [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-4
derog_neg_emote_h
Nienawidzę Żydów.
hateful
jewish people
null
null
1
Nienawidzę [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-5
derog_neg_emote_h
Nienawidzę imigrantów.
hateful
immigrants
null
null
1
Nienawidzę [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-6
derog_neg_emote_h
Nienawidzę kobiet.
hateful
women
null
null
1
Nienawidzę [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-7
derog_neg_emote_h
Nienawidzę osób transpłciowych.
hateful
trans people
null
null
1
Nienawidzę [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-8
derog_neg_emote_h
Naprawdę nie znoszę gejów jak ty.
hateful
gay people
null
null
2
Naprawdę nie znoszę [IDENT_P] jak ty.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-9
derog_neg_emote_h
Naprawdę nie znoszę azjatów jak ty.
hateful
asian people
null
null
2
Naprawdę nie znoszę [IDENT_P] jak ty.
null
null
['non-hateful', 'hateful', 'hateful']
hateful
false
false
polish-10
derog_neg_emote_h
Naprawdę nie znoszę niepełnosprawnych jak ty.
hateful
disabled people
null
null
2
Naprawdę nie znoszę [IDENT_P] jak ty.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-11
derog_neg_emote_h
Naprawdę nie znoszę Żydów jak ty.
hateful
jewish people
null
null
2
Naprawdę nie znoszę [IDENT_P] jak ty.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-12
derog_neg_emote_h
Naprawdę nie znoszę imigrantów jak ty.
hateful
immigrants
null
null
2
Naprawdę nie znoszę [IDENT_P] jak ty.
null
null
['non-hateful', 'hateful', 'hateful']
hateful
false
false
polish-13
derog_neg_emote_h
Naprawdę nie znoszę kobiet jak ty.
hateful
women
null
null
2
Naprawdę nie znoszę [IDENT_P] jak ty.
null
null
['non-hateful', 'hateful', 'hateful']
hateful
false
false
polish-14
derog_neg_emote_h
Naprawdę nie znoszę osób transpłciowych jak ty.
hateful
trans people
null
null
2
Naprawdę nie znoszę [IDENT_P] jak ty.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-15
derog_neg_emote_h
Gardzę gejami.
hateful
gay people
null
null
3
Gardzę [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-16
derog_neg_emote_h
Gardzę azjatami.
hateful
asian people
null
null
3
Gardzę [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-17
derog_neg_emote_h
Gardzę niepełnosprawnymi.
hateful
disabled people
null
null
3
Gardzę [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-18
derog_neg_emote_h
Gardzę Żydami.
hateful
jewish people
null
null
3
Gardzę [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-19
derog_neg_emote_h
Gardzę imigrantami.
hateful
immigrants
null
null
3
Gardzę [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-20
derog_neg_emote_h
Gardzę kobietami.
hateful
women
null
null
3
Gardzę [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-21
derog_neg_emote_h
Gardzę osobami transpłciowymi.
hateful
trans people
null
null
3
Gardzę [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-22
derog_neg_emote_h
Nie znoszę gejów.
hateful
gay people
null
null
4
Nie znoszę [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-23
derog_neg_emote_h
Nie znoszę azjatów.
hateful
asian people
null
null
4
Nie znoszę [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-24
derog_neg_emote_h
Nie znoszę niepełnosprawnych.
hateful
disabled people
null
null
4
Nie znoszę [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-25
derog_neg_emote_h
Nie znoszę Żydów.
hateful
jewish people
null
null
4
Nie znoszę [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-26
derog_neg_emote_h
Nie znoszę imigrantów.
hateful
immigrants
null
null
4
Nie znoszę [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-27
derog_neg_emote_h
Nie znoszę kobiet.
hateful
women
null
null
4
Nie znoszę [IDENT_P].
null
null
['hateful', 'hateful', 'non-hateful']
hateful
false
false
polish-28
derog_neg_emote_h
Nie znoszę osób transpłciowych.
hateful
trans people
null
null
4
Nie znoszę [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-29
derog_neg_emote_h
Absolutnie nie cierpię gejów.
hateful
gay people
null
null
5
Absolutnie nie cierpię [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-30
derog_neg_emote_h
Absolutnie nie cierpię azjatów.
hateful
asian people
null
null
5
Absolutnie nie cierpię [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-31
derog_neg_emote_h
Absolutnie nie cierpię niepełnosprawnych.
hateful
disabled people
null
null
5
Absolutnie nie cierpię [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-32
derog_neg_emote_h
Absolutnie nie cierpię Żydów.
hateful
jewish people
null
null
5
Absolutnie nie cierpię [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-33
derog_neg_emote_h
Absolutnie nie cierpię imigrantów.
hateful
immigrants
null
null
5
Absolutnie nie cierpię [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-34
derog_neg_emote_h
Absolutnie nie cierpię kobiet.
hateful
women
null
null
5
Absolutnie nie cierpię [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-35
derog_neg_emote_h
Absolutnie nie cierpię osób transpłciowych.
hateful
trans people
null
null
5
Absolutnie nie cierpię [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-36
derog_neg_emote_h
Jestem obrzydzony wszystkimi tymi gejami tutaj.
hateful
gay people
null
null
6
Jestem obrzydzony wszystkimi tymi [IDENT_P] tutaj.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-37
derog_neg_emote_h
Jestem obrzydzony wszystkimi tymi azjatami tutaj.
hateful
asian people
null
null
6
Jestem obrzydzony wszystkimi tymi [IDENT_P] tutaj.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-38
derog_neg_emote_h
Jestem obrzydzony wszystkimi tymi niepełnosprawnymi tutaj.
hateful
disabled people
null
null
6
Jestem obrzydzony wszystkimi tymi [IDENT_P] tutaj.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-39
derog_neg_emote_h
Jestem obrzydzony wszystkimi tymi Żydami tutaj.
hateful
jewish people
null
null
6
Jestem obrzydzony wszystkimi tymi [IDENT_P] tutaj.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-40
derog_neg_emote_h
Jestem obrzydzony wszystkimi tymi imigrantami tutaj.
hateful
immigrants
null
null
6
Jestem obrzydzony wszystkimi tymi [IDENT_P] tutaj.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-41
derog_neg_emote_h
Jestem obrzydzony wszystkimi tymi kobietami tutaj.
hateful
women
null
null
6
Jestem obrzydzony wszystkimi tymi [IDENT_P] tutaj.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-42
derog_neg_emote_h
Jestem obrzydzony wszystkimi tymi osobami transpłciowymi tutaj.
hateful
trans people
null
null
6
Jestem obrzydzony wszystkimi tymi [IDENT_P] tutaj.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-43
derog_neg_emote_h
Mam tyle pogardy dla tych gejów.
hateful
gay people
null
null
7
Mam tyle pogardy dla tych [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-44
derog_neg_emote_h
Mam tyle pogardy dla tych azjatów.
hateful
asian people
null
null
7
Mam tyle pogardy dla tych [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-45
derog_neg_emote_h
Mam tyle pogardy dla tych niepełnosprawnych.
hateful
disabled people
null
null
7
Mam tyle pogardy dla tych [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-46
derog_neg_emote_h
Mam tyle pogardy dla tych Żydów.
hateful
jewish people
null
null
7
Mam tyle pogardy dla tych [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-47
derog_neg_emote_h
Mam tyle pogardy dla tych imigrantów.
hateful
immigrants
null
null
7
Mam tyle pogardy dla tych [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-48
derog_neg_emote_h
Mam tyle pogardy dla tych kobiet.
hateful
women
null
null
7
Mam tyle pogardy dla tych [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-49
derog_neg_emote_h
Mam tyle pogardy dla tych osób transpłciowych.
hateful
trans people
null
null
7
Mam tyle pogardy dla tych [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-50
derog_neg_emote_h
Mam tyle nienawiści do was gejów.
hateful
gay people
null
null
8
Mam tyle nienawiści do was [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-51
derog_neg_emote_h
Mam tyle nienawiści do was azjatów.
hateful
asian people
null
null
8
Mam tyle nienawiści do was [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-52
derog_neg_emote_h
Mam tyle nienawiści do was niepełnosprawnych.
hateful
disabled people
null
null
8
Mam tyle nienawiści do was [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-53
derog_neg_emote_h
Mam tyle nienawiści do was Żydów.
hateful
jewish people
null
null
8
Mam tyle nienawiści do was [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-54
derog_neg_emote_h
Mam tyle nienawiści do was imigrantów.
hateful
immigrants
null
null
8
Mam tyle nienawiści do was [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-55
derog_neg_emote_h
Mam tyle nienawiści do was kobiet.
hateful
women
null
null
8
Mam tyle nienawiści do was [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-56
derog_neg_emote_h
Mam tyle nienawiści do was osób transpłciowych.
hateful
trans people
null
null
8
Mam tyle nienawiści do was [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-57
derog_neg_emote_h
Mam dość bycia w pobliżu gejów jak ty.
hateful
gay people
null
null
9
Mam dość bycia w pobliżu [IDENT_P] jak ty.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-58
derog_neg_emote_h
Mam dość bycia w pobliżu azjatów jak ty.
hateful
asian people
null
null
9
Mam dość bycia w pobliżu [IDENT_P] jak ty.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-59
derog_neg_emote_h
Mam dość bycia w pobliżu niepełnosprawnych jak ty.
hateful
disabled people
null
null
9
Mam dość bycia w pobliżu [IDENT_P] jak ty.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-60
derog_neg_emote_h
Mam dość bycia w pobliżu Żydów jak ty.
hateful
jewish people
null
null
9
Mam dość bycia w pobliżu [IDENT_P] jak ty.
null
null
['non-hateful', 'hateful', 'hateful']
hateful
false
false
polish-61
derog_neg_emote_h
Mam dość bycia w pobliżu imigrantów jak ty.
hateful
immigrants
null
null
9
Mam dość bycia w pobliżu [IDENT_P] jak ty.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-62
derog_neg_emote_h
Mam dość bycia w pobliżu kobiet jak ty.
hateful
women
null
null
9
Mam dość bycia w pobliżu [IDENT_P] jak ty.
null
null
['non-hateful', 'hateful', 'hateful']
hateful
false
false
polish-63
derog_neg_emote_h
Mam dość bycia w pobliżu osób transpłciowych jak ty.
hateful
trans people
null
null
9
Mam dość bycia w pobliżu [IDENT_P] jak ty.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-64
derog_neg_emote_h
Nie czuję nic poza pogardą dla gejów.
hateful
gay people
null
null
10
Nie czuję nic poza pogardą dla [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-65
derog_neg_emote_h
Nie czuję nic poza pogardą dla azjatów.
hateful
asian people
null
null
10
Nie czuję nic poza pogardą dla [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-66
derog_neg_emote_h
Nie czuję nic poza pogardą dla niepełnosprawnych.
hateful
disabled people
null
null
10
Nie czuję nic poza pogardą dla [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-67
derog_neg_emote_h
Nie czuję nic poza pogardą dla Żydów.
hateful
jewish people
null
null
10
Nie czuję nic poza pogardą dla [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-68
derog_neg_emote_h
Nie czuję nic poza pogardą dla imigrantów.
hateful
immigrants
null
null
10
Nie czuję nic poza pogardą dla [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-69
derog_neg_emote_h
Nie czuję nic poza pogardą dla kobiet.
hateful
women
null
null
10
Nie czuję nic poza pogardą dla [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-70
derog_neg_emote_h
Nie czuję nic poza pogardą dla osób transpłciowych.
hateful
trans people
null
null
10
Nie czuję nic poza pogardą dla [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-71
derog_neg_emote_h
Te kobiety tak bardzo mnie obrzydzają.
hateful
women
null
null
11
null
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-72
derog_neg_emote_h
Te osoby transpłciowe tak bardzo mnie obrzydzają.
hateful
trans people
null
null
11
null
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-73
derog_neg_emote_h
Ci geje tak bardzo mnie obrzydzają.
hateful
gay people
null
null
11
null
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-74
derog_neg_emote_h
Ci azjaci tak bardzo mnie obrzydzają.
hateful
asian people
null
null
11
null
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-75
derog_neg_emote_h
Ci niepełnosprawni tak bardzo mnie obrzydzają.
hateful
disabled people
null
null
11
null
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-76
derog_neg_emote_h
Ci Żydzi tak bardzo mnie obrzydzają.
hateful
jewish people
null
null
11
null
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-77
derog_neg_emote_h
Ci imigranci tak bardzo mnie obrzydzają.
hateful
immigrants
null
null
11
null
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-78
derog_neg_emote_h
Kobiety są absolutnie najgorsze.
hateful
women
null
null
12
null
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-79
derog_neg_emote_h
Osoby transpłciowe są absolutnie najgorsze.
hateful
trans people
null
null
12
null
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-80
derog_neg_emote_h
Geje są absolutnie najgorsi.
hateful
gay people
null
null
12
null
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-81
derog_neg_emote_h
Azjaci są absolutnie najgorsi.
hateful
asian people
null
null
12
null
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-82
derog_neg_emote_h
Niepełnosprawni są absolutnie najgorsi.
hateful
disabled people
null
null
12
null
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-83
derog_neg_emote_h
Żydzi są absolutnie najgorsi.
hateful
jewish people
null
null
12
null
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-84
derog_neg_emote_h
Imigranci są absolutnie najgorsi.
hateful
immigrants
null
null
12
null
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-85
derog_neg_emote_h
Wy geje przyprawiacie mnie o mdłości.
hateful
gay people
null
null
13
Wy [IDENT_P] przyprawiacie mnie o mdłości.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-86
derog_neg_emote_h
Wy azjaci przyprawiacie mnie o mdłości.
hateful
asian people
null
null
13
Wy [IDENT_P] przyprawiacie mnie o mdłości.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-87
derog_neg_emote_h
Wy niepełnosprawni przyprawiacie mnie o mdłości.
hateful
disabled people
null
null
13
Wy [IDENT_P] przyprawiacie mnie o mdłości.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-88
derog_neg_emote_h
Wy Żydzi przyprawiacie mnie o mdłości.
hateful
jewish people
null
null
13
Wy [IDENT_P] przyprawiacie mnie o mdłości.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-89
derog_neg_emote_h
Wy imigranci przyprawiacie mnie o mdłości.
hateful
immigrants
null
null
13
Wy [IDENT_P] przyprawiacie mnie o mdłości.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-90
derog_neg_emote_h
Wy kobiety przyprawiacie mnie o mdłości.
hateful
women
null
null
13
Wy [IDENT_P] przyprawiacie mnie o mdłości.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-91
derog_neg_emote_h
Wy osoby transpłciowe przyprawiacie mnie o mdłości.
hateful
trans people
null
null
13
Wy [IDENT_P] przyprawiacie mnie o mdłości.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-92
derog_neg_emote_h
Nie ma nic gorszego niż gej.
hateful
gay people
null
null
14
Nie ma nic gorszego niż [IDENT_S].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-93
derog_neg_emote_h
Nie ma nic gorszego niż azjata.
hateful
asian people
null
null
14
Nie ma nic gorszego niż [IDENT_S].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-94
derog_neg_emote_h
Nie ma nic gorszego niż niepełnosprawny.
hateful
disabled people
null
null
14
Nie ma nic gorszego niż [IDENT_S].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-95
derog_neg_emote_h
Nie ma nic gorszego niż Żyd.
hateful
jewish people
null
null
14
Nie ma nic gorszego niż [IDENT_S].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-96
derog_neg_emote_h
Nie ma nic gorszego niż imigrant.
hateful
immigrants
null
null
14
Nie ma nic gorszego niż [IDENT_S].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-97
derog_neg_emote_h
Nie ma nic gorszego niż kobieta.
hateful
women
null
null
14
Nie ma nic gorszego niż [IDENT_S].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-98
derog_neg_emote_h
Nie ma nic gorszego niż osoba transpłciowa.
hateful
trans people
null
null
14
Nie ma nic gorszego niż [IDENT_S].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
polish-99
derog_neg_emote_h
Widok gejów w tym miejscu bardzo mnie złości.
hateful
gay people
null
null
15
Widok [IDENT_P] w tym miejscu bardzo mnie złości.
null
null
['hateful', 'hateful', 'non-hateful']
hateful
false
false
polish-100
derog_neg_emote_h
Widok azjatów w tym miejscu bardzo mnie złości.
hateful
asian people
null
null
15
Widok [IDENT_P] w tym miejscu bardzo mnie złości.
null
null
['hateful', 'hateful', 'non-hateful']
hateful
false
false

Dataset Card for Multilingual HateCheck

Dataset Description

Multilingual HateCheck (MHC) is a suite of functional tests for hate speech detection models in 10 different languages: Arabic, Dutch, French, German, Hindi, Italian, Mandarin, Polish, Portuguese and Spanish. For each language, there are 25+ functional tests that correspond to distinct types of hate and challenging non-hate. This allows for targeted diagnostic insights into model performance.

For more details, please refer to our paper about MHC, published at the 2022 Workshop on Online Abuse and Harms (WOAH) at NAACL 2022. If you are using MHC, please cite our work!

Dataset Structure

The csv format mostly matches the original HateCheck data, with some adjustments for specific languages.

mhc_case_id The test case ID that is unique to each test case across languages (e.g., "mandarin-1305")

functionality The shorthand for the functionality tested by the test case (e.g, "target_obj_nh"). The same functionalities are tested in all languages, except for Mandarin and Arabic, where non-Latin script required adapting the tests for spelling variations.

test_case The test case text.

label_gold The gold standard label ("hateful" or "non-hateful") of the test case. All test cases within a given functionality have the same gold standard label.

target_ident Where applicable, the protected group that is targeted or referenced in the test case. All HateChecks cover seven target groups, but their composition varies across languages.

ref_case_id For hateful cases, where applicable, the ID of the hateful case which was perturbed to generate this test case. For non-hateful cases, where applicable, the ID of the hateful case which is contrasted by this test case.

ref_templ_id The equivalent to ref_case_id, but for template IDs.

templ_id The ID of the template from which the test case was generated.

case_templ The template from which the test case was generated (where applicable).

gender_male and gender_female For gender-inflected languages (French, Spanish, Portuguese, Hindi, Arabic, Italian, Polish, German), only for cases where gender inflection is relevant, separate entries for gender_male and gender_female replace case_templ.

label_annotated A list of labels given by the three annotators who reviewed the test case (e.g., "['hateful', 'hateful', 'hateful']").

label_annotated_maj The majority vote of the three annotators (e.g., "hateful"). In some cases this differs from the gold label given by our language experts.

disagreement_in_case True if label_annotated_maj does not match label_gold for the entry.

disagreement_in_template True if the test case is generated from an IDENT template and there is at least one case with disagreement_in_case generated from the same template. This can be used to exclude entire templates from MHC.

Downloads last month
70
Edit dataset card