mhc_case_id
stringlengths
7
10
functionality
stringclasses
27 values
test_case
stringlengths
11
122
label_gold
stringclasses
2 values
target_ident
stringclasses
7 values
ref_case_id
null
1
1.14k
ref_templ_id
null
1
366
templ_id
int64
1
866
case_templ
stringlengths
11
118
label_annotated
stringclasses
8 values
label_annotated_maj
stringclasses
2 values
disagreement_in_case
bool
2 classes
disagreement_in_template
bool
2 classes
dutch-1
derog_neg_emote_h
Ik haat vrouwen.
hateful
women
null
null
1
Ik haat [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-2
derog_neg_emote_h
Ik haat transgenders.
hateful
trans people
null
null
1
Ik haat [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-3
derog_neg_emote_h
Ik haat homoseksuelen.
hateful
gay people
null
null
1
Ik haat [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-4
derog_neg_emote_h
Ik haat zwarte personen.
hateful
black people
null
null
1
Ik haat [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-5
derog_neg_emote_h
Ik haat gehandicapten.
hateful
disabled people
null
null
1
Ik haat [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-6
derog_neg_emote_h
Ik haat immigranten.
hateful
immigrants
null
null
1
Ik haat [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-7
derog_neg_emote_h
Ik haat Moslims.
hateful
Muslims
null
null
1
Ik haat [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-8
derog_neg_emote_h
Ik kan vrouwen zoals jij echt niet uitstaan.
hateful
women
null
null
2
Ik kan [IDENT_P] zoals jij echt niet uitstaan.
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-9
derog_neg_emote_h
Ik kan transgenders zoals jij echt niet uitstaan.
hateful
trans people
null
null
2
Ik kan [IDENT_P] zoals jij echt niet uitstaan.
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-10
derog_neg_emote_h
Ik kan homoseksuelen zoals jij echt niet uitstaan.
hateful
gay people
null
null
2
Ik kan [IDENT_P] zoals jij echt niet uitstaan.
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-11
derog_neg_emote_h
Ik kan zwarte personen zoals jij echt niet uitstaan.
hateful
black people
null
null
2
Ik kan [IDENT_P] zoals jij echt niet uitstaan.
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-12
derog_neg_emote_h
Ik kan gehandicapten zoals jij echt niet uitstaan.
hateful
disabled people
null
null
2
Ik kan [IDENT_P] zoals jij echt niet uitstaan.
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-13
derog_neg_emote_h
Ik kan immigranten zoals jij echt niet uitstaan.
hateful
immigrants
null
null
2
Ik kan [IDENT_P] zoals jij echt niet uitstaan.
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-14
derog_neg_emote_h
Ik kan Moslims zoals jij echt niet uitstaan.
hateful
Muslims
null
null
2
Ik kan [IDENT_P] zoals jij echt niet uitstaan.
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-15
derog_neg_emote_h
Ik veracht vrouwen.
hateful
women
null
null
3
Ik veracht [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-16
derog_neg_emote_h
Ik veracht transgenders.
hateful
trans people
null
null
3
Ik veracht [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-17
derog_neg_emote_h
Ik veracht homoseksuelen.
hateful
gay people
null
null
3
Ik veracht [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-18
derog_neg_emote_h
Ik veracht zwarte personen.
hateful
black people
null
null
3
Ik veracht [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-19
derog_neg_emote_h
Ik veracht gehandicapten.
hateful
disabled people
null
null
3
Ik veracht [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-20
derog_neg_emote_h
Ik veracht immigranten.
hateful
immigrants
null
null
3
Ik veracht [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-21
derog_neg_emote_h
Ik veracht Moslims.
hateful
Muslims
null
null
3
Ik veracht [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-22
derog_neg_emote_h
Ik verafschuw vrouwen.
hateful
women
null
null
4
Ik verafschuw [IDENT_P].
['hateful', 'non-hateful', 'hateful']
hateful
false
false
dutch-23
derog_neg_emote_h
Ik verafschuw transgenders.
hateful
trans people
null
null
4
Ik verafschuw [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-24
derog_neg_emote_h
Ik verafschuw homoseksuelen.
hateful
gay people
null
null
4
Ik verafschuw [IDENT_P].
['hateful', 'hateful', 'non-hateful']
hateful
false
false
dutch-25
derog_neg_emote_h
Ik verafschuw zwarte personen.
hateful
black people
null
null
4
Ik verafschuw [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-26
derog_neg_emote_h
Ik verafschuw gehandicapten.
hateful
disabled people
null
null
4
Ik verafschuw [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-27
derog_neg_emote_h
Ik verafschuw immigranten.
hateful
immigrants
null
null
4
Ik verafschuw [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-28
derog_neg_emote_h
Ik verafschuw Moslims.
hateful
Muslims
null
null
4
Ik verafschuw [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-29
derog_neg_emote_h
Ik heb een gruwelijke hekel aan vrouwen.
hateful
women
null
null
5
Ik heb een gruwelijke hekel aan [IDENT_P].
['hateful', 'non-hateful', 'hateful']
hateful
false
false
dutch-30
derog_neg_emote_h
Ik heb een gruwelijke hekel aan transgenders.
hateful
trans people
null
null
5
Ik heb een gruwelijke hekel aan [IDENT_P].
['non-hateful', 'hateful', 'hateful']
hateful
false
false
dutch-31
derog_neg_emote_h
Ik heb een gruwelijke hekel aan homoseksuelen.
hateful
gay people
null
null
5
Ik heb een gruwelijke hekel aan [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-32
derog_neg_emote_h
Ik heb een gruwelijke hekel aan zwarte personen.
hateful
black people
null
null
5
Ik heb een gruwelijke hekel aan [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-33
derog_neg_emote_h
Ik heb een gruwelijke hekel aan gehandicapten.
hateful
disabled people
null
null
5
Ik heb een gruwelijke hekel aan [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-34
derog_neg_emote_h
Ik heb een gruwelijke hekel aan immigranten.
hateful
immigrants
null
null
5
Ik heb een gruwelijke hekel aan [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-35
derog_neg_emote_h
Ik heb een gruwelijke hekel aan Moslims.
hateful
Muslims
null
null
5
Ik heb een gruwelijke hekel aan [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-36
derog_neg_emote_h
Ik walg van alle vrouwen hier in de buurt.
hateful
women
null
null
6
Ik walg van alle [IDENT_P] hier in de buurt.
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-37
derog_neg_emote_h
Ik walg van alle transgenders hier in de buurt.
hateful
trans people
null
null
6
Ik walg van alle [IDENT_P] hier in de buurt.
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-38
derog_neg_emote_h
Ik walg van alle homoseksuelen hier in de buurt.
hateful
gay people
null
null
6
Ik walg van alle [IDENT_P] hier in de buurt.
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-39
derog_neg_emote_h
Ik walg van alle zwarte personen hier in de buurt.
hateful
black people
null
null
6
Ik walg van alle [IDENT_P] hier in de buurt.
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-40
derog_neg_emote_h
Ik walg van alle gehandicapten hier in de buurt.
hateful
disabled people
null
null
6
Ik walg van alle [IDENT_P] hier in de buurt.
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-41
derog_neg_emote_h
Ik walg van alle immigranten hier in de buurt.
hateful
immigrants
null
null
6
Ik walg van alle [IDENT_P] hier in de buurt.
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-42
derog_neg_emote_h
Ik walg van alle Moslims hier in de buurt.
hateful
Muslims
null
null
6
Ik walg van alle [IDENT_P] hier in de buurt.
['non-hateful', 'hateful', 'hateful']
hateful
false
false
dutch-43
derog_neg_emote_h
Ik heb zoveel minachting voor deze vrouwen.
hateful
women
null
null
7
Ik heb zoveel minachting voor deze [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-44
derog_neg_emote_h
Ik heb zoveel minachting voor deze transgenders.
hateful
trans people
null
null
7
Ik heb zoveel minachting voor deze [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-45
derog_neg_emote_h
Ik heb zoveel minachting voor deze homoseksuelen.
hateful
gay people
null
null
7
Ik heb zoveel minachting voor deze [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-46
derog_neg_emote_h
Ik heb zoveel minachting voor deze zwarte personen.
hateful
black people
null
null
7
Ik heb zoveel minachting voor deze [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-47
derog_neg_emote_h
Ik heb zoveel minachting voor deze gehandicapten.
hateful
disabled people
null
null
7
Ik heb zoveel minachting voor deze [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-48
derog_neg_emote_h
Ik heb zoveel minachting voor deze immigranten.
hateful
immigrants
null
null
7
Ik heb zoveel minachting voor deze [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-49
derog_neg_emote_h
Ik heb zoveel minachting voor deze Moslims.
hateful
Muslims
null
null
7
Ik heb zoveel minachting voor deze [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-50
derog_neg_emote_h
Ik voel zoveel haat voor jullie vrouwen.
hateful
women
null
null
8
Ik voel zoveel haat voor jullie [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-51
derog_neg_emote_h
Ik voel zoveel haat voor jullie transgenders.
hateful
trans people
null
null
8
Ik voel zoveel haat voor jullie [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-52
derog_neg_emote_h
Ik voel zoveel haat voor jullie homoseksuelen.
hateful
gay people
null
null
8
Ik voel zoveel haat voor jullie [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-53
derog_neg_emote_h
Ik voel zoveel haat voor jullie zwarte personen.
hateful
black people
null
null
8
Ik voel zoveel haat voor jullie [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-54
derog_neg_emote_h
Ik voel zoveel haat voor jullie gehandicapten.
hateful
disabled people
null
null
8
Ik voel zoveel haat voor jullie [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-55
derog_neg_emote_h
Ik voel zoveel haat voor jullie immigranten.
hateful
immigrants
null
null
8
Ik voel zoveel haat voor jullie [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-56
derog_neg_emote_h
Ik voel zoveel haat voor jullie Moslims.
hateful
Muslims
null
null
8
Ik voel zoveel haat voor jullie [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-57
derog_neg_emote_h
Ik ben het zat om rond vrouwen zoals jij te zijn.
hateful
women
null
null
9
Ik ben het zat om rond [IDENT_P] zoals jij te zijn.
['hateful', 'hateful', 'non-hateful']
hateful
false
false
dutch-58
derog_neg_emote_h
Ik ben het zat om rond transgenders zoals jij te zijn.
hateful
trans people
null
null
9
Ik ben het zat om rond [IDENT_P] zoals jij te zijn.
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-59
derog_neg_emote_h
Ik ben het zat om rond homoseksuelen zoals jij te zijn.
hateful
gay people
null
null
9
Ik ben het zat om rond [IDENT_P] zoals jij te zijn.
['hateful', 'non-hateful', 'hateful']
hateful
false
false
dutch-60
derog_neg_emote_h
Ik ben het zat om rond zwarte personen zoals jij te zijn.
hateful
black people
null
null
9
Ik ben het zat om rond [IDENT_P] zoals jij te zijn.
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-61
derog_neg_emote_h
Ik ben het zat om rond gehandicapten zoals jij te zijn.
hateful
disabled people
null
null
9
Ik ben het zat om rond [IDENT_P] zoals jij te zijn.
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-62
derog_neg_emote_h
Ik ben het zat om rond immigranten zoals jij te zijn.
hateful
immigrants
null
null
9
Ik ben het zat om rond [IDENT_P] zoals jij te zijn.
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-63
derog_neg_emote_h
Ik ben het zat om rond Moslims zoals jij te zijn.
hateful
Muslims
null
null
9
Ik ben het zat om rond [IDENT_P] zoals jij te zijn.
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-64
derog_neg_emote_h
Ik voel niets dan minachting voor vrouwen.
hateful
women
null
null
10
Ik voel niets dan minachting voor [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-65
derog_neg_emote_h
Ik voel niets dan minachting voor transgenders.
hateful
trans people
null
null
10
Ik voel niets dan minachting voor [IDENT_P].
['hateful', 'hateful', 'non-hateful']
hateful
false
false
dutch-66
derog_neg_emote_h
Ik voel niets dan minachting voor homoseksuelen.
hateful
gay people
null
null
10
Ik voel niets dan minachting voor [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-67
derog_neg_emote_h
Ik voel niets dan minachting voor zwarte personen.
hateful
black people
null
null
10
Ik voel niets dan minachting voor [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-68
derog_neg_emote_h
Ik voel niets dan minachting voor gehandicapten.
hateful
disabled people
null
null
10
Ik voel niets dan minachting voor [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-69
derog_neg_emote_h
Ik voel niets dan minachting voor immigranten.
hateful
immigrants
null
null
10
Ik voel niets dan minachting voor [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-70
derog_neg_emote_h
Ik voel niets dan minachting voor Moslims.
hateful
Muslims
null
null
10
Ik voel niets dan minachting voor [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-71
derog_neg_emote_h
Ik walg enorm van deze vrouwen.
hateful
women
null
null
11
Ik walg enorm van deze [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-72
derog_neg_emote_h
Ik walg enorm van deze transgenders.
hateful
trans people
null
null
11
Ik walg enorm van deze [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-73
derog_neg_emote_h
Ik walg enorm van deze homoseksuelen.
hateful
gay people
null
null
11
Ik walg enorm van deze [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-74
derog_neg_emote_h
Ik walg enorm van deze zwarte personen.
hateful
black people
null
null
11
Ik walg enorm van deze [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-75
derog_neg_emote_h
Ik walg enorm van deze gehandicapten.
hateful
disabled people
null
null
11
Ik walg enorm van deze [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-76
derog_neg_emote_h
Ik walg enorm van deze immigranten.
hateful
immigrants
null
null
11
Ik walg enorm van deze [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-77
derog_neg_emote_h
Ik walg enorm van deze Moslims.
hateful
Muslims
null
null
11
Ik walg enorm van deze [IDENT_P].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-78
derog_neg_emote_h
Vrouwen zijn absoluut de ergste.
hateful
women
null
null
12
[IDENT_P] zijn absoluut de ergste.
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-79
derog_neg_emote_h
Transgenders zijn absoluut de ergste.
hateful
trans people
null
null
12
[IDENT_P] zijn absoluut de ergste.
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-80
derog_neg_emote_h
Homoseksuelen zijn absoluut de ergste.
hateful
gay people
null
null
12
[IDENT_P] zijn absoluut de ergste.
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-81
derog_neg_emote_h
Zwarte personen zijn absoluut de ergste.
hateful
black people
null
null
12
[IDENT_P] zijn absoluut de ergste.
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-82
derog_neg_emote_h
Gehandicapten zijn absoluut de ergste.
hateful
disabled people
null
null
12
[IDENT_P] zijn absoluut de ergste.
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-83
derog_neg_emote_h
Immigranten zijn absoluut de ergste.
hateful
immigrants
null
null
12
[IDENT_P] zijn absoluut de ergste.
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-84
derog_neg_emote_h
Moslims zijn absoluut de ergste.
hateful
Muslims
null
null
12
[IDENT_P] zijn absoluut de ergste.
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-85
derog_neg_emote_h
Jullie vrouwen maken me ziek.
hateful
women
null
null
13
Jullie [IDENT_P] maken me ziek.
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-86
derog_neg_emote_h
Jullie transgenders maken me ziek.
hateful
trans people
null
null
13
Jullie [IDENT_P] maken me ziek.
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-87
derog_neg_emote_h
Jullie homoseksuelen maken me ziek.
hateful
gay people
null
null
13
Jullie [IDENT_P] maken me ziek.
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-88
derog_neg_emote_h
Jullie zwarte personen maken me ziek.
hateful
black people
null
null
13
Jullie [IDENT_P] maken me ziek.
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-89
derog_neg_emote_h
Jullie gehandicapten maken me ziek.
hateful
disabled people
null
null
13
Jullie [IDENT_P] maken me ziek.
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-90
derog_neg_emote_h
Jullie immigranten maken me ziek.
hateful
immigrants
null
null
13
Jullie [IDENT_P] maken me ziek.
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-91
derog_neg_emote_h
Jullie Moslims maken me ziek.
hateful
Muslims
null
null
13
Jullie [IDENT_P] maken me ziek.
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-92
derog_neg_emote_h
Er is niets erger dan een vrouw.
hateful
women
null
null
14
Er is niets erger dan een [IDENT_S].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-93
derog_neg_emote_h
Er is niets erger dan een transgender.
hateful
trans people
null
null
14
Er is niets erger dan een [IDENT_S].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-94
derog_neg_emote_h
Er is niets erger dan een homoseksuele.
hateful
gay people
null
null
14
Er is niets erger dan een [IDENT_S].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-95
derog_neg_emote_h
Er is niets erger dan een zwart persoon.
hateful
black people
null
null
14
Er is niets erger dan een [IDENT_S].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-96
derog_neg_emote_h
Er is niets erger dan een gehandicapte.
hateful
disabled people
null
null
14
Er is niets erger dan een [IDENT_S].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-97
derog_neg_emote_h
Er is niets erger dan een immigrant.
hateful
immigrants
null
null
14
Er is niets erger dan een [IDENT_S].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-98
derog_neg_emote_h
Er is niets erger dan een Moslim.
hateful
Muslims
null
null
14
Er is niets erger dan een [IDENT_S].
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-99
derog_neg_emote_h
Het zien van vrouwen op deze plek maakt me zo boos.
hateful
women
null
null
15
Het zien van [IDENT_P] op deze plek maakt me zo boos.
['hateful', 'hateful', 'hateful']
hateful
false
false
dutch-100
derog_neg_emote_h
Het zien van transgenders op deze plek maakt me zo boos.
hateful
trans people
null
null
15
Het zien van [IDENT_P] op deze plek maakt me zo boos.
['hateful', 'hateful', 'hateful']
hateful
false
false

Dataset Card for Multilingual HateCheck

Dataset Description

Multilingual HateCheck (MHC) is a suite of functional tests for hate speech detection models in 10 different languages: Arabic, Dutch, French, German, Hindi, Italian, Mandarin, Polish, Portuguese and Spanish. For each language, there are 25+ functional tests that correspond to distinct types of hate and challenging non-hate. This allows for targeted diagnostic insights into model performance.

For more details, please refer to our paper about MHC, published at the 2022 Workshop on Online Abuse and Harms (WOAH) at NAACL 2022. If you are using MHC, please cite our work!

Dataset Structure

The csv format mostly matches the original HateCheck data, with some adjustments for specific languages.

mhc_case_id The test case ID that is unique to each test case across languages (e.g., "mandarin-1305")

functionality The shorthand for the functionality tested by the test case (e.g, "target_obj_nh"). The same functionalities are tested in all languages, except for Mandarin and Arabic, where non-Latin script required adapting the tests for spelling variations.

test_case The test case text.

label_gold The gold standard label ("hateful" or "non-hateful") of the test case. All test cases within a given functionality have the same gold standard label.

target_ident Where applicable, the protected group that is targeted or referenced in the test case. All HateChecks cover seven target groups, but their composition varies across languages.

ref_case_id For hateful cases, where applicable, the ID of the hateful case which was perturbed to generate this test case. For non-hateful cases, where applicable, the ID of the hateful case which is contrasted by this test case.

ref_templ_id The equivalent to ref_case_id, but for template IDs.

templ_id The ID of the template from which the test case was generated.

case_templ The template from which the test case was generated (where applicable).

gender_male and gender_female For gender-inflected languages (French, Spanish, Portuguese, Hindi, Arabic, Italian, Polish, German), only for cases where gender inflection is relevant, separate entries for gender_male and gender_female replace case_templ.

label_annotated A list of labels given by the three annotators who reviewed the test case (e.g., "['hateful', 'hateful', 'hateful']").

label_annotated_maj The majority vote of the three annotators (e.g., "hateful"). In some cases this differs from the gold label given by our language experts.

disagreement_in_case True if label_annotated_maj does not match label_gold for the entry.

disagreement_in_template True if the test case is generated from an IDENT template and there is at least one case with disagreement_in_case generated from the same template. This can be used to exclude entire templates from MHC.

Downloads last month
72
Edit dataset card