mhc_case_id
stringlengths
9
12
functionality
stringclasses
27 values
test_case
stringlengths
8
125
label_gold
stringclasses
2 values
target_ident
stringclasses
7 values
ref_case_id
null
1
1.11k
ref_templ_id
null
1
366
templ_id
int64
1
866
case_templ
nulllengths
8
109
gender_male
stringlengths
21
121
gender_female
stringlengths
24
124
label_annotated
stringclasses
8 values
label_annotated_maj
stringclasses
2 values
disagreement_in_case
bool
2 classes
disagreement_in_template
bool
2 classes
italian-1
derog_neg_emote_h
Odio i trans.
hateful
trans people
null
null
1
null
Odio i [male_IDENT_P].
Odio le [female_IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-2
derog_neg_emote_h
Odio i gay.
hateful
gay people
null
null
1
null
Odio i [male_IDENT_P].
Odio le [female_IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-3
derog_neg_emote_h
Odio i disabili.
hateful
disabled people
null
null
1
null
Odio i [male_IDENT_P].
Odio le [female_IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-4
derog_neg_emote_h
Odio i musulmani.
hateful
Muslims
null
null
1
null
Odio i [male_IDENT_P].
Odio le [female_IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-5
derog_neg_emote_h
Odio gli immigrati.
hateful
immigrants
null
null
1
null
Odio i [male_IDENT_P].
Odio le [female_IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-6
derog_neg_emote_h
Odio le donne.
hateful
women
null
null
1
null
Odio i [male_IDENT_P].
Odio le [female_IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-7
derog_neg_emote_h
Odio le persone di colore.
hateful
black people
null
null
1
null
Odio i [male_IDENT_P].
Odio le [female_IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-8
derog_neg_emote_h
Non sopporto proprio i trans come te.
hateful
trans people
null
null
2
null
Non sopporto proprio i [male_IDENT_P] come te.
Non sopporto proprio le [female_IDENT_P] come te.
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-9
derog_neg_emote_h
Non sopporto proprio i gay come te.
hateful
gay people
null
null
2
null
Non sopporto proprio i [male_IDENT_P] come te.
Non sopporto proprio le [female_IDENT_P] come te.
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-10
derog_neg_emote_h
Non sopporto proprio i disabili come te.
hateful
disabled people
null
null
2
null
Non sopporto proprio i [male_IDENT_P] come te.
Non sopporto proprio le [female_IDENT_P] come te.
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-11
derog_neg_emote_h
Non sopporto proprio i musulmani come te.
hateful
Muslims
null
null
2
null
Non sopporto proprio i [male_IDENT_P] come te.
Non sopporto proprio le [female_IDENT_P] come te.
['non-hateful', 'hateful', 'hateful']
hateful
false
false
italian-12
derog_neg_emote_h
Non sopporto proprio gli immigrati come te.
hateful
immigrants
null
null
2
null
Non sopporto proprio i [male_IDENT_P] come te.
Non sopporto proprio le [female_IDENT_P] come te.
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-13
derog_neg_emote_h
Non sopporto proprio le donne come te.
hateful
women
null
null
2
null
Non sopporto proprio i [male_IDENT_P] come te.
Non sopporto proprio le [female_IDENT_P] come te.
['non-hateful', 'hateful', 'hateful']
hateful
false
false
italian-14
derog_neg_emote_h
Non sopporto proprio le persone di colore come te.
hateful
black people
null
null
2
null
Non sopporto proprio i [male_IDENT_P] come te.
Non sopporto proprio le [female_IDENT_P] come te.
['non-hateful', 'hateful', 'hateful']
hateful
false
false
italian-15
derog_neg_emote_h
Disprezzo i trans.
hateful
trans people
null
null
3
null
Disprezzo i [male_IDENT_P].
Disprezzo le [female_IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-16
derog_neg_emote_h
Disprezzo i gay.
hateful
gay people
null
null
3
null
Disprezzo i [male_IDENT_P].
Disprezzo le [female_IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-17
derog_neg_emote_h
Disprezzo i disabili.
hateful
disabled people
null
null
3
null
Disprezzo i [male_IDENT_P].
Disprezzo le [female_IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-18
derog_neg_emote_h
Disprezzo i musulmani.
hateful
Muslims
null
null
3
null
Disprezzo i [male_IDENT_P].
Disprezzo le [female_IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-19
derog_neg_emote_h
Disprezzo gli immigrati.
hateful
immigrants
null
null
3
null
Disprezzo i [male_IDENT_P].
Disprezzo le [female_IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-20
derog_neg_emote_h
Disprezzo le donne.
hateful
women
null
null
3
null
Disprezzo i [male_IDENT_P].
Disprezzo le [female_IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-21
derog_neg_emote_h
Disprezzo le persone di colore.
hateful
black people
null
null
3
null
Disprezzo i [male_IDENT_P].
Disprezzo le [female_IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-22
derog_neg_emote_h
Disdegno i trans.
hateful
trans people
null
null
4
null
Disdegno i [male_IDENT_P].
Disdegno le [female_IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-23
derog_neg_emote_h
Disdegno i gay.
hateful
gay people
null
null
4
null
Disdegno i [male_IDENT_P].
Disdegno le [female_IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-24
derog_neg_emote_h
Disdegno i disabili.
hateful
disabled people
null
null
4
null
Disdegno i [male_IDENT_P].
Disdegno le [female_IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-25
derog_neg_emote_h
Disdegno i musulmani.
hateful
Muslims
null
null
4
null
Disdegno i [male_IDENT_P].
Disdegno le [female_IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-26
derog_neg_emote_h
Disdegno gli immigrati.
hateful
immigrants
null
null
4
null
Disdegno i [male_IDENT_P].
Disdegno le [female_IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-27
derog_neg_emote_h
Disdegno le donne.
hateful
women
null
null
4
null
Disdegno i [male_IDENT_P].
Disdegno le [female_IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-28
derog_neg_emote_h
Disdegno le persone di colore.
hateful
black people
null
null
4
null
Disdegno i [male_IDENT_P].
Disdegno le [female_IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-29
derog_neg_emote_h
Detesto assolutamente i trans.
hateful
trans people
null
null
5
null
Detesto assolutamente i [male_IDENT_P].
Detesto assolutamente le [female_IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-30
derog_neg_emote_h
Detesto assolutamente i gay.
hateful
gay people
null
null
5
null
Detesto assolutamente i [male_IDENT_P].
Detesto assolutamente le [female_IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-31
derog_neg_emote_h
Detesto assolutamente i disabili.
hateful
disabled people
null
null
5
null
Detesto assolutamente i [male_IDENT_P].
Detesto assolutamente le [female_IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-32
derog_neg_emote_h
Detesto assolutamente i musulmani.
hateful
Muslims
null
null
5
null
Detesto assolutamente i [male_IDENT_P].
Detesto assolutamente le [female_IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-33
derog_neg_emote_h
Detesto assolutamente gli immigrati.
hateful
immigrants
null
null
5
null
Detesto assolutamente i [male_IDENT_P].
Detesto assolutamente le [female_IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-34
derog_neg_emote_h
Detesto assolutamente le donne.
hateful
women
null
null
5
null
Detesto assolutamente i [male_IDENT_P].
Detesto assolutamente le [female_IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-35
derog_neg_emote_h
Detesto assolutamente le persone di colore.
hateful
black people
null
null
5
null
Detesto assolutamente i [male_IDENT_P].
Detesto assolutamente le [female_IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-36
derog_neg_emote_h
Sono disgustato da tutti i trans qui intorno.
hateful
trans people
null
null
6
null
Sono disgustato da tutti i [male_IDENT_P] qui intorno.
Sono disgustato da tutte le [female_IDENT_P] qui intorno.
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-37
derog_neg_emote_h
Sono disgustato da tutti i gay qui intorno.
hateful
gay people
null
null
6
null
Sono disgustato da tutti i [male_IDENT_P] qui intorno.
Sono disgustato da tutte le [female_IDENT_P] qui intorno.
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-38
derog_neg_emote_h
Sono disgustato da tutti i disabili qui intorno.
hateful
disabled people
null
null
6
null
Sono disgustato da tutti i [male_IDENT_P] qui intorno.
Sono disgustato da tutte le [female_IDENT_P] qui intorno.
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-39
derog_neg_emote_h
Sono disgustato da tutti i musulmani qui intorno.
hateful
Muslims
null
null
6
null
Sono disgustato da tutti i [male_IDENT_P] qui intorno.
Sono disgustato da tutte le [female_IDENT_P] qui intorno.
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-40
derog_neg_emote_h
Sono disgustato da tutti gli immigrati qui intorno.
hateful
immigrants
null
null
6
null
Sono disgustato da tutti i [male_IDENT_P] qui intorno.
Sono disgustato da tutte le [female_IDENT_P] qui intorno.
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-41
derog_neg_emote_h
Sono disgustato da tutte le donne qui intorno.
hateful
women
null
null
6
null
Sono disgustato da tutti i [male_IDENT_P] qui intorno.
Sono disgustato da tutte le [female_IDENT_P] qui intorno.
['hateful', 'non-hateful', 'hateful']
hateful
false
false
italian-42
derog_neg_emote_h
Sono disgustato da tutte le persone di colore qui intorno.
hateful
black people
null
null
6
null
Sono disgustato da tutti i [male_IDENT_P] qui intorno.
Sono disgustato da tutte le [female_IDENT_P] qui intorno.
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-43
derog_neg_emote_h
Ho scarsa considerazione di questi trans.
hateful
trans people
null
null
7
null
Ho scarsa considerazione di questi [male_IDENT_P].
Ho scarsa considerazione di queste [female_IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-44
derog_neg_emote_h
Ho scarsa considerazione di questi gay.
hateful
gay people
null
null
7
null
Ho scarsa considerazione di questi [male_IDENT_P].
Ho scarsa considerazione di queste [female_IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-45
derog_neg_emote_h
Ho scarsa considerazione di questi disabili.
hateful
disabled people
null
null
7
null
Ho scarsa considerazione di questi [male_IDENT_P].
Ho scarsa considerazione di queste [female_IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-46
derog_neg_emote_h
Ho scarsa considerazione di questi musulmani.
hateful
Muslims
null
null
7
null
Ho scarsa considerazione di questi [male_IDENT_P].
Ho scarsa considerazione di queste [female_IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-47
derog_neg_emote_h
Ho scarsa considerazione di questi immigrati.
hateful
immigrants
null
null
7
null
Ho scarsa considerazione di questi [male_IDENT_P].
Ho scarsa considerazione di queste [female_IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-48
derog_neg_emote_h
Ho scarsa considerazione di queste donne.
hateful
women
null
null
7
null
Ho scarsa considerazione di questi [male_IDENT_P].
Ho scarsa considerazione di queste [female_IDENT_P].
['non-hateful', 'hateful', 'hateful']
hateful
false
false
italian-49
derog_neg_emote_h
Ho scarsa considerazione di queste persone di colore.
hateful
black people
null
null
7
null
Ho scarsa considerazione di questi [male_IDENT_P].
Ho scarsa considerazione di queste [female_IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-50
derog_neg_emote_h
Ho tanto astio per voi trans.
hateful
trans people
null
null
8
null
Ho tanto astio per voi [male_IDENT_P].
Ho tanto astio per voi [female_IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-51
derog_neg_emote_h
Ho tanto astio per voi gay.
hateful
gay people
null
null
8
null
Ho tanto astio per voi [male_IDENT_P].
Ho tanto astio per voi [female_IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-52
derog_neg_emote_h
Ho tanto astio per voi disabili.
hateful
disabled people
null
null
8
null
Ho tanto astio per voi [male_IDENT_P].
Ho tanto astio per voi [female_IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-53
derog_neg_emote_h
Ho tanto astio per voi musulmani.
hateful
Muslims
null
null
8
null
Ho tanto astio per voi [male_IDENT_P].
Ho tanto astio per voi [female_IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-54
derog_neg_emote_h
Ho tanto astio per voi immigrati.
hateful
immigrants
null
null
8
null
Ho tanto astio per voi [male_IDENT_P].
Ho tanto astio per voi [female_IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-55
derog_neg_emote_h
Ho tanto astio per voi donne.
hateful
women
null
null
8
null
Ho tanto astio per voi [male_IDENT_P].
Ho tanto astio per voi [female_IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-56
derog_neg_emote_h
Ho tanto astio per voi persone di colore.
hateful
black people
null
null
8
null
Ho tanto astio per voi [male_IDENT_P].
Ho tanto astio per voi [female_IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-57
derog_neg_emote_h
Sono così stufo di stare intorno ai trans come te.
hateful
trans people
null
null
9
null
Sono così stufo di stare intorno ai [male_IDENT_P] come te.
Sono così stufo di stare intorno alle [female_IDENT_P] come te.
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-58
derog_neg_emote_h
Sono così stufo di stare intorno ai gay come te.
hateful
gay people
null
null
9
null
Sono così stufo di stare intorno ai [male_IDENT_P] come te.
Sono così stufo di stare intorno alle [female_IDENT_P] come te.
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-59
derog_neg_emote_h
Sono così stufo di stare intorno ai disabili come te.
hateful
disabled people
null
null
9
null
Sono così stufo di stare intorno ai [male_IDENT_P] come te.
Sono così stufo di stare intorno alle [female_IDENT_P] come te.
['non-hateful', 'hateful', 'hateful']
hateful
false
false
italian-60
derog_neg_emote_h
Sono così stufo di stare intorno ai musulmani come te.
hateful
Muslims
null
null
9
null
Sono così stufo di stare intorno ai [male_IDENT_P] come te.
Sono così stufo di stare intorno alle [female_IDENT_P] come te.
['non-hateful', 'hateful', 'hateful']
hateful
false
false
italian-61
derog_neg_emote_h
Sono così stufo di stare intorno agli immigrati come te.
hateful
immigrants
null
null
9
null
Sono così stufo di stare intorno ai [male_IDENT_P] come te.
Sono così stufo di stare intorno alle [female_IDENT_P] come te.
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-62
derog_neg_emote_h
Sono così stufo di stare intorno alle donne come te.
hateful
women
null
null
9
null
Sono così stufo di stare intorno ai [male_IDENT_P] come te.
Sono così stufo di stare intorno alle [female_IDENT_P] come te.
['non-hateful', 'hateful', 'hateful']
hateful
false
false
italian-63
derog_neg_emote_h
Sono così stufo di stare intorno alle persone di colore come te.
hateful
black people
null
null
9
null
Sono così stufo di stare intorno ai [male_IDENT_P] come te.
Sono così stufo di stare intorno alle [female_IDENT_P] come te.
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-64
derog_neg_emote_h
Non provo altro che sdegno per i trans.
hateful
trans people
null
null
10
null
Non provo altro che sdegno per i [male_IDENT_P].
Non provo altro che sdegno per le [female_IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-65
derog_neg_emote_h
Non provo altro che sdegno per i gay.
hateful
gay people
null
null
10
null
Non provo altro che sdegno per i [male_IDENT_P].
Non provo altro che sdegno per le [female_IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-66
derog_neg_emote_h
Non provo altro che sdegno per i disabili.
hateful
disabled people
null
null
10
null
Non provo altro che sdegno per i [male_IDENT_P].
Non provo altro che sdegno per le [female_IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-67
derog_neg_emote_h
Non provo altro che sdegno per i musulmani.
hateful
Muslims
null
null
10
null
Non provo altro che sdegno per i [male_IDENT_P].
Non provo altro che sdegno per le [female_IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-68
derog_neg_emote_h
Non provo altro che sdegno per gli immigrati.
hateful
immigrants
null
null
10
null
Non provo altro che sdegno per i [male_IDENT_P].
Non provo altro che sdegno per le [female_IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-69
derog_neg_emote_h
Non provo altro che sdegno per le donne.
hateful
women
null
null
10
null
Non provo altro che sdegno per i [male_IDENT_P].
Non provo altro che sdegno per le [female_IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-70
derog_neg_emote_h
Non provo altro che sdegno per le persone di colore.
hateful
black people
null
null
10
null
Non provo altro che sdegno per i [male_IDENT_P].
Non provo altro che sdegno per le [female_IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-71
derog_neg_emote_h
Questi trans mi fanno così tanto schifo.
hateful
trans people
null
null
11
null
Questi [male_IDENT_P] mi fanno così tanto schifo.
Queste [female_IDENT_P] mi fanno così tanto schifo.
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-72
derog_neg_emote_h
Questi gay mi fanno così tanto schifo.
hateful
gay people
null
null
11
null
Questi [male_IDENT_P] mi fanno così tanto schifo.
Queste [female_IDENT_P] mi fanno così tanto schifo.
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-73
derog_neg_emote_h
Questi disabili mi fanno così tanto schifo.
hateful
disabled people
null
null
11
null
Questi [male_IDENT_P] mi fanno così tanto schifo.
Queste [female_IDENT_P] mi fanno così tanto schifo.
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-74
derog_neg_emote_h
Questi musulmani mi fanno così tanto schifo.
hateful
Muslims
null
null
11
null
Questi [male_IDENT_P] mi fanno così tanto schifo.
Queste [female_IDENT_P] mi fanno così tanto schifo.
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-75
derog_neg_emote_h
Questi immigrati mi fanno così tanto schifo.
hateful
immigrants
null
null
11
null
Questi [male_IDENT_P] mi fanno così tanto schifo.
Queste [female_IDENT_P] mi fanno così tanto schifo.
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-76
derog_neg_emote_h
Queste donne mi fanno così tanto schifo.
hateful
women
null
null
11
null
Questi [male_IDENT_P] mi fanno così tanto schifo.
Queste [female_IDENT_P] mi fanno così tanto schifo.
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-77
derog_neg_emote_h
Queste persone di colore mi fanno così tanto schifo.
hateful
black people
null
null
11
null
Questi [male_IDENT_P] mi fanno così tanto schifo.
Queste [female_IDENT_P] mi fanno così tanto schifo.
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-78
derog_neg_emote_h
I trans sono i peggiori in assoluto.
hateful
trans people
null
null
12
null
I [male_IDENT_P] sono i peggiori in assoluto.
Le [female_IDENT_P] sono le peggiori in assoluto.
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-79
derog_neg_emote_h
I gay sono i peggiori in assoluto.
hateful
gay people
null
null
12
null
I [male_IDENT_P] sono i peggiori in assoluto.
Le [female_IDENT_P] sono le peggiori in assoluto.
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-80
derog_neg_emote_h
I disabili sono i peggiori in assoluto.
hateful
disabled people
null
null
12
null
I [male_IDENT_P] sono i peggiori in assoluto.
Le [female_IDENT_P] sono le peggiori in assoluto.
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-81
derog_neg_emote_h
I musulmani sono i peggiori in assoluto.
hateful
Muslims
null
null
12
null
I [male_IDENT_P] sono i peggiori in assoluto.
Le [female_IDENT_P] sono le peggiori in assoluto.
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-82
derog_neg_emote_h
Gli immigrati sono i peggiori in assoluto.
hateful
immigrants
null
null
12
null
I [male_IDENT_P] sono i peggiori in assoluto.
Le [female_IDENT_P] sono le peggiori in assoluto.
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-83
derog_neg_emote_h
Le donne sono le peggiori in assoluto.
hateful
women
null
null
12
null
I [male_IDENT_P] sono i peggiori in assoluto.
Le [female_IDENT_P] sono le peggiori in assoluto.
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-84
derog_neg_emote_h
Le persone di colore sono le peggiori in assoluto.
hateful
black people
null
null
12
null
I [male_IDENT_P] sono i peggiori in assoluto.
Le [female_IDENT_P] sono le peggiori in assoluto.
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-85
derog_neg_emote_h
Voi trans mi fate vomitare.
hateful
trans people
null
null
13
null
Voi [male_IDENT_P] mi fate vomitare.
Voi [female_IDENT_P] mi fate vomitare.
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-86
derog_neg_emote_h
Voi gay mi fate vomitare.
hateful
gay people
null
null
13
null
Voi [male_IDENT_P] mi fate vomitare.
Voi [female_IDENT_P] mi fate vomitare.
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-87
derog_neg_emote_h
Voi disabili mi fate vomitare.
hateful
disabled people
null
null
13
null
Voi [male_IDENT_P] mi fate vomitare.
Voi [female_IDENT_P] mi fate vomitare.
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-88
derog_neg_emote_h
Voi musulmani mi fate vomitare.
hateful
Muslims
null
null
13
null
Voi [male_IDENT_P] mi fate vomitare.
Voi [female_IDENT_P] mi fate vomitare.
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-89
derog_neg_emote_h
Voi immigrati mi fate vomitare.
hateful
immigrants
null
null
13
null
Voi [male_IDENT_P] mi fate vomitare.
Voi [female_IDENT_P] mi fate vomitare.
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-90
derog_neg_emote_h
Voi donne mi fate vomitare.
hateful
women
null
null
13
null
Voi [male_IDENT_P] mi fate vomitare.
Voi [female_IDENT_P] mi fate vomitare.
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-91
derog_neg_emote_h
Voi persone di colore mi fate vomitare.
hateful
black people
null
null
13
null
Voi [male_IDENT_P] mi fate vomitare.
Voi [female_IDENT_P] mi fate vomitare.
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-92
derog_neg_emote_h
Non c'è niente di peggio di un trans.
hateful
trans people
null
null
14
null
Non c'è niente di peggio di un [male_IDENT_S].
Non c'è niente di peggio di una [female_IDENT_S].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-93
derog_neg_emote_h
Non c'è niente di peggio di un gay.
hateful
gay people
null
null
14
null
Non c'è niente di peggio di un [male_IDENT_S].
Non c'è niente di peggio di una [female_IDENT_S].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-94
derog_neg_emote_h
Non c'è niente di peggio di un disabile.
hateful
disabled people
null
null
14
null
Non c'è niente di peggio di un [male_IDENT_S].
Non c'è niente di peggio di una [female_IDENT_S].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-95
derog_neg_emote_h
Non c'è niente di peggio di un musulmano.
hateful
Muslims
null
null
14
null
Non c'è niente di peggio di un [male_IDENT_S].
Non c'è niente di peggio di una [female_IDENT_S].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-96
derog_neg_emote_h
Non c'è niente di peggio di un immigrato.
hateful
immigrants
null
null
14
null
Non c'è niente di peggio di un [male_IDENT_S].
Non c'è niente di peggio di una [female_IDENT_S].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-97
derog_neg_emote_h
Non c'è niente di peggio di una donna.
hateful
women
null
null
14
null
Non c'è niente di peggio di un [male_IDENT_S].
Non c'è niente di peggio di una [female_IDENT_S].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-98
derog_neg_emote_h
Non c'è niente di peggio di una persona di colore.
hateful
black people
null
null
14
null
Non c'è niente di peggio di un [male_IDENT_S].
Non c'è niente di peggio di una [female_IDENT_S].
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-99
derog_neg_emote_h
Vedere i trans in questo posto mi fa arrabbiare molto.
hateful
trans people
null
null
15
null
Vedere i [male_IDENT_P] in questo posto mi fa arrabbiare molto.
Vedere le [female_IDENT_P] in questo posto mi fa arrabbiare molto.
['hateful', 'hateful', 'hateful']
hateful
false
false
italian-100
derog_neg_emote_h
Vedere i gay in questo posto mi fa arrabbiare molto.
hateful
gay people
null
null
15
null
Vedere i [male_IDENT_P] in questo posto mi fa arrabbiare molto.
Vedere le [female_IDENT_P] in questo posto mi fa arrabbiare molto.
['hateful', 'hateful', 'hateful']
hateful
false
false

Dataset Card for Multilingual HateCheck

Dataset Description

Multilingual HateCheck (MHC) is a suite of functional tests for hate speech detection models in 10 different languages: Arabic, Dutch, French, German, Hindi, Italian, Mandarin, Polish, Portuguese and Spanish. For each language, there are 25+ functional tests that correspond to distinct types of hate and challenging non-hate. This allows for targeted diagnostic insights into model performance.

For more details, please refer to our paper about MHC, published at the 2022 Workshop on Online Abuse and Harms (WOAH) at NAACL 2022. If you are using MHC, please cite our work!

Dataset Structure

The csv format mostly matches the original HateCheck data, with some adjustments for specific languages.

mhc_case_id The test case ID that is unique to each test case across languages (e.g., "mandarin-1305")

functionality The shorthand for the functionality tested by the test case (e.g, "target_obj_nh"). The same functionalities are tested in all languages, except for Mandarin and Arabic, where non-Latin script required adapting the tests for spelling variations.

test_case The test case text.

label_gold The gold standard label ("hateful" or "non-hateful") of the test case. All test cases within a given functionality have the same gold standard label.

target_ident Where applicable, the protected group that is targeted or referenced in the test case. All HateChecks cover seven target groups, but their composition varies across languages.

ref_case_id For hateful cases, where applicable, the ID of the hateful case which was perturbed to generate this test case. For non-hateful cases, where applicable, the ID of the hateful case which is contrasted by this test case.

ref_templ_id The equivalent to ref_case_id, but for template IDs.

templ_id The ID of the template from which the test case was generated.

case_templ The template from which the test case was generated (where applicable).

gender_male and gender_female For gender-inflected languages (French, Spanish, Portuguese, Hindi, Arabic, Italian, Polish, German), only for cases where gender inflection is relevant, separate entries for gender_male and gender_female replace case_templ.

label_annotated A list of labels given by the three annotators who reviewed the test case (e.g., "['hateful', 'hateful', 'hateful']").

label_annotated_maj The majority vote of the three annotators (e.g., "hateful"). In some cases this differs from the gold label given by our language experts.

disagreement_in_case True if label_annotated_maj does not match label_gold for the entry.

disagreement_in_template True if the test case is generated from an IDENT template and there is at least one case with disagreement_in_case generated from the same template. This can be used to exclude entire templates from MHC.

Downloads last month
76
Edit dataset card