mhc_case_id
stringlengths
12
15
functionality
stringclasses
27 values
test_case
stringlengths
9
109
label_gold
stringclasses
2 values
target_ident
stringclasses
7 values
ref_case_id
null
1
1.11k
ref_templ_id
null
1
366
templ_id
int64
1
866
case_templ
stringlengths
9
105
gender_male
nulllengths
25
110
gender_female
nulllengths
28
112
label_annotated
stringclasses
8 values
label_annotated_maj
stringclasses
2 values
disagreement_in_case
bool
2 classes
disagreement_in_template
bool
2 classes
portuguese-1
derog_neg_emote_h
Eu odeio mulheres.
hateful
women
null
null
1
Eu odeio [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-2
derog_neg_emote_h
Eu odeio negros.
hateful
black people
null
null
1
Eu odeio [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-3
derog_neg_emote_h
Eu odeio gays.
hateful
gay people
null
null
1
Eu odeio [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-4
derog_neg_emote_h
Eu odeio pessoas trans.
hateful
trans people
null
null
1
Eu odeio [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-5
derog_neg_emote_h
Eu odeio indígenas.
hateful
indigenous people
null
null
1
Eu odeio [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-6
derog_neg_emote_h
Eu odeio judeus.
hateful
jews
null
null
1
Eu odeio [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-7
derog_neg_emote_h
Eu odeio deficientes.
hateful
disabled people
null
null
1
Eu odeio [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-8
derog_neg_emote_h
Eu realmente não suporto mulheres como você.
hateful
women
null
null
2
Eu realmente não suporto [IDENT_P] como você.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-9
derog_neg_emote_h
Eu realmente não suporto negros como você.
hateful
black people
null
null
2
Eu realmente não suporto [IDENT_P] como você.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-10
derog_neg_emote_h
Eu realmente não suporto gays como você.
hateful
gay people
null
null
2
Eu realmente não suporto [IDENT_P] como você.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-11
derog_neg_emote_h
Eu realmente não suporto pessoas trans como você.
hateful
trans people
null
null
2
Eu realmente não suporto [IDENT_P] como você.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-12
derog_neg_emote_h
Eu realmente não suporto indígenas como você.
hateful
indigenous people
null
null
2
Eu realmente não suporto [IDENT_P] como você.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-13
derog_neg_emote_h
Eu realmente não suporto judeus como você.
hateful
jews
null
null
2
Eu realmente não suporto [IDENT_P] como você.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-14
derog_neg_emote_h
Eu realmente não suporto deficientes como você.
hateful
disabled people
null
null
2
Eu realmente não suporto [IDENT_P] como você.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-15
derog_neg_emote_h
Eu desprezo mulheres.
hateful
women
null
null
3
Eu desprezo [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-16
derog_neg_emote_h
Eu desprezo negros.
hateful
black people
null
null
3
Eu desprezo [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-17
derog_neg_emote_h
Eu desprezo gays.
hateful
gay people
null
null
3
Eu desprezo [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-18
derog_neg_emote_h
Eu desprezo pessoas trans.
hateful
trans people
null
null
3
Eu desprezo [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-19
derog_neg_emote_h
Eu desprezo indígenas.
hateful
indigenous people
null
null
3
Eu desprezo [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-20
derog_neg_emote_h
Eu desprezo judeus.
hateful
jews
null
null
3
Eu desprezo [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-21
derog_neg_emote_h
Eu desprezo deficientes.
hateful
disabled people
null
null
3
Eu desprezo [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-22
derog_neg_emote_h
Eu detesto mulheres.
hateful
women
null
null
4
Eu detesto [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-23
derog_neg_emote_h
Eu detesto negros.
hateful
black people
null
null
4
Eu detesto [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-24
derog_neg_emote_h
Eu detesto gays.
hateful
gay people
null
null
4
Eu detesto [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-25
derog_neg_emote_h
Eu detesto pessoas trans.
hateful
trans people
null
null
4
Eu detesto [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-26
derog_neg_emote_h
Eu detesto indígenas.
hateful
indigenous people
null
null
4
Eu detesto [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-27
derog_neg_emote_h
Eu detesto judeus.
hateful
jews
null
null
4
Eu detesto [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-28
derog_neg_emote_h
Eu detesto deficientes.
hateful
disabled people
null
null
4
Eu detesto [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-29
derog_neg_emote_h
Eu abomino totalmente mulheres.
hateful
women
null
null
5
Eu abomino totalmente [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-30
derog_neg_emote_h
Eu abomino totalmente negros.
hateful
black people
null
null
5
Eu abomino totalmente [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-31
derog_neg_emote_h
Eu abomino totalmente gays.
hateful
gay people
null
null
5
Eu abomino totalmente [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-32
derog_neg_emote_h
Eu abomino totalmente pessoas trans.
hateful
trans people
null
null
5
Eu abomino totalmente [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-33
derog_neg_emote_h
Eu abomino totalmente indígenas.
hateful
indigenous people
null
null
5
Eu abomino totalmente [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-34
derog_neg_emote_h
Eu abomino totalmente judeus.
hateful
jews
null
null
5
Eu abomino totalmente [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-35
derog_neg_emote_h
Eu abomino totalmente deficientes.
hateful
disabled people
null
null
5
Eu abomino totalmente [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-36
derog_neg_emote_h
Tenho aversão a todos os negros por aqui.
hateful
black people
null
null
6
null
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-37
derog_neg_emote_h
Tenho aversão a todos os gays por aqui.
hateful
gay people
null
null
6
null
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-38
derog_neg_emote_h
Tenho aversão a todos os indígenas por aqui.
hateful
indigenous people
null
null
6
null
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-39
derog_neg_emote_h
Tenho aversão a todos os judeus por aqui.
hateful
jews
null
null
6
null
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-40
derog_neg_emote_h
Tenho aversão a todos os deficientes por aqui.
hateful
disabled people
null
null
6
null
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-41
derog_neg_emote_h
Tenho aversão a todas as mulheres por aqui.
hateful
women
null
null
6
null
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-42
derog_neg_emote_h
Tenho aversão a todas as pessoas trans por aqui.
hateful
trans people
null
null
6
null
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-43
derog_neg_emote_h
Eu desdenho muito desses negros.
hateful
black people
null
null
7
null
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-44
derog_neg_emote_h
Eu desdenho muito desses gays.
hateful
gay people
null
null
7
null
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-45
derog_neg_emote_h
Eu desdenho muito desses indígenas.
hateful
indigenous people
null
null
7
null
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-46
derog_neg_emote_h
Eu desdenho muito desses judeus.
hateful
jews
null
null
7
null
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-47
derog_neg_emote_h
Eu desdenho muito desses deficientes.
hateful
disabled people
null
null
7
null
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-48
derog_neg_emote_h
Eu desdenho muito dessas mulheres.
hateful
women
null
null
7
null
null
null
['non-hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-49
derog_neg_emote_h
Eu desdenho muito dessas pessoas trans.
hateful
trans people
null
null
7
null
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-50
derog_neg_emote_h
Eu tenho muito ódio por vocês mulheres.
hateful
women
null
null
8
Eu tenho muito ódio por vocês [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-51
derog_neg_emote_h
Eu tenho muito ódio por vocês negros.
hateful
black people
null
null
8
Eu tenho muito ódio por vocês [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-52
derog_neg_emote_h
Eu tenho muito ódio por vocês gays.
hateful
gay people
null
null
8
Eu tenho muito ódio por vocês [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-53
derog_neg_emote_h
Eu tenho muito ódio por vocês pessoas trans.
hateful
trans people
null
null
8
Eu tenho muito ódio por vocês [IDENT_P].
null
null
['hateful', 'hateful', 'non-hateful']
hateful
false
false
portuguese-54
derog_neg_emote_h
Eu tenho muito ódio por vocês indígenas.
hateful
indigenous people
null
null
8
Eu tenho muito ódio por vocês [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-55
derog_neg_emote_h
Eu tenho muito ódio por vocês judeus.
hateful
jews
null
null
8
Eu tenho muito ódio por vocês [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-56
derog_neg_emote_h
Eu tenho muito ódio por vocês deficientes.
hateful
disabled people
null
null
8
Eu tenho muito ódio por vocês [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-57
derog_neg_emote_h
Estou farto de estar perto de mulheres como você.
hateful
women
null
null
9
Estou farto de estar perto de [IDENT_P] como você.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-58
derog_neg_emote_h
Estou farto de estar perto de negros como você.
hateful
black people
null
null
9
Estou farto de estar perto de [IDENT_P] como você.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-59
derog_neg_emote_h
Estou farto de estar perto de gays como você.
hateful
gay people
null
null
9
Estou farto de estar perto de [IDENT_P] como você.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-60
derog_neg_emote_h
Estou farto de estar perto de pessoas trans como você.
hateful
trans people
null
null
9
Estou farto de estar perto de [IDENT_P] como você.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-61
derog_neg_emote_h
Estou farto de estar perto de indígenas como você.
hateful
indigenous people
null
null
9
Estou farto de estar perto de [IDENT_P] como você.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-62
derog_neg_emote_h
Estou farto de estar perto de judeus como você.
hateful
jews
null
null
9
Estou farto de estar perto de [IDENT_P] como você.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-63
derog_neg_emote_h
Estou farto de estar perto de deficientes como você.
hateful
disabled people
null
null
9
Estou farto de estar perto de [IDENT_P] como você.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-64
derog_neg_emote_h
Eu não sinto nada além de desprezo por mulheres.
hateful
women
null
null
10
Eu não sinto nada além de desprezo por [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-65
derog_neg_emote_h
Eu não sinto nada além de desprezo por negros.
hateful
black people
null
null
10
Eu não sinto nada além de desprezo por [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-66
derog_neg_emote_h
Eu não sinto nada além de desprezo por gays.
hateful
gay people
null
null
10
Eu não sinto nada além de desprezo por [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-67
derog_neg_emote_h
Eu não sinto nada além de desprezo por pessoas trans.
hateful
trans people
null
null
10
Eu não sinto nada além de desprezo por [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-68
derog_neg_emote_h
Eu não sinto nada além de desprezo por indígenas.
hateful
indigenous people
null
null
10
Eu não sinto nada além de desprezo por [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-69
derog_neg_emote_h
Eu não sinto nada além de desprezo por judeus.
hateful
jews
null
null
10
Eu não sinto nada além de desprezo por [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-70
derog_neg_emote_h
Eu não sinto nada além de desprezo por deficientes.
hateful
disabled people
null
null
10
Eu não sinto nada além de desprezo por [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-71
derog_neg_emote_h
Esses negros me dão tanto nojo.
hateful
black people
null
null
11
null
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-72
derog_neg_emote_h
Esses gays me dão tanto nojo.
hateful
gay people
null
null
11
null
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-73
derog_neg_emote_h
Esses indígenas me dão tanto nojo.
hateful
indigenous people
null
null
11
null
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-74
derog_neg_emote_h
Esses judeus me dão tanto nojo.
hateful
jews
null
null
11
null
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-75
derog_neg_emote_h
Esses deficientes me dão tanto nojo.
hateful
disabled people
null
null
11
null
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-76
derog_neg_emote_h
Essas mulheres me dão tanto nojo.
hateful
women
null
null
11
null
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-77
derog_neg_emote_h
Essas pessoas trans me dão tanto nojo.
hateful
trans people
null
null
11
null
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-78
derog_neg_emote_h
Mulheres são o pior que existe.
hateful
women
null
null
12
[IDENT_P] são o pior que existe.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-79
derog_neg_emote_h
Negros são o pior que existe.
hateful
black people
null
null
12
[IDENT_P] são o pior que existe.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-80
derog_neg_emote_h
Gays são o pior que existe.
hateful
gay people
null
null
12
[IDENT_P] são o pior que existe.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-81
derog_neg_emote_h
Pessoas trans são o pior que existe.
hateful
trans people
null
null
12
[IDENT_P] são o pior que existe.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-82
derog_neg_emote_h
Indígenas são o pior que existe.
hateful
indigenous people
null
null
12
[IDENT_P] são o pior que existe.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-83
derog_neg_emote_h
Judeus são o pior que existe.
hateful
jews
null
null
12
[IDENT_P] são o pior que existe.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-84
derog_neg_emote_h
Deficientes são o pior que existe.
hateful
disabled people
null
null
12
[IDENT_P] são o pior que existe.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-85
derog_neg_emote_h
Vocês mulheres me dão nojo.
hateful
women
null
null
13
Vocês [IDENT_P] me dão nojo.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-86
derog_neg_emote_h
Vocês negros me dão nojo.
hateful
black people
null
null
13
Vocês [IDENT_P] me dão nojo.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-87
derog_neg_emote_h
Vocês gays me dão nojo.
hateful
gay people
null
null
13
Vocês [IDENT_P] me dão nojo.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-88
derog_neg_emote_h
Vocês pessoas trans me dão nojo.
hateful
trans people
null
null
13
Vocês [IDENT_P] me dão nojo.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-89
derog_neg_emote_h
Vocês indígenas me dão nojo.
hateful
indigenous people
null
null
13
Vocês [IDENT_P] me dão nojo.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-90
derog_neg_emote_h
Vocês judeus me dão nojo.
hateful
jews
null
null
13
Vocês [IDENT_P] me dão nojo.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-91
derog_neg_emote_h
Vocês deficientes me dão nojo.
hateful
disabled people
null
null
13
Vocês [IDENT_P] me dão nojo.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-92
derog_neg_emote_h
Não há nada pior do que um negro.
hateful
black people
null
null
14
null
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-93
derog_neg_emote_h
Não há nada pior do que um gay.
hateful
gay people
null
null
14
null
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-94
derog_neg_emote_h
Não há nada pior do que um indígena.
hateful
indigenous people
null
null
14
null
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-95
derog_neg_emote_h
Não há nada pior do que um judeu.
hateful
jews
null
null
14
null
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-96
derog_neg_emote_h
Não há nada pior do que um deficiente.
hateful
disabled people
null
null
14
null
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-97
derog_neg_emote_h
Não há nada pior do que uma mulher.
hateful
women
null
null
14
null
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-98
derog_neg_emote_h
Não há nada pior do que uma pessoa trans.
hateful
trans people
null
null
14
null
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-99
derog_neg_emote_h
Ver mulheres neste lugar me deixa com muita raiva.
hateful
women
null
null
15
Ver [IDENT_P] neste lugar me deixa com muita raiva.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
portuguese-100
derog_neg_emote_h
Ver negros neste lugar me deixa com muita raiva.
hateful
black people
null
null
15
Ver [IDENT_P] neste lugar me deixa com muita raiva.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false

Dataset Card for Multilingual HateCheck

Dataset Description

Multilingual HateCheck (MHC) is a suite of functional tests for hate speech detection models in 10 different languages: Arabic, Dutch, French, German, Hindi, Italian, Mandarin, Polish, Portuguese and Spanish. For each language, there are 25+ functional tests that correspond to distinct types of hate and challenging non-hate. This allows for targeted diagnostic insights into model performance.

For more details, please refer to our paper about MHC, published at the 2022 Workshop on Online Abuse and Harms (WOAH) at NAACL 2022. If you are using MHC, please cite our work!

Dataset Structure

The csv format mostly matches the original HateCheck data, with some adjustments for specific languages.

mhc_case_id The test case ID that is unique to each test case across languages (e.g., "mandarin-1305")

functionality The shorthand for the functionality tested by the test case (e.g, "target_obj_nh"). The same functionalities are tested in all languages, except for Mandarin and Arabic, where non-Latin script required adapting the tests for spelling variations.

test_case The test case text.

label_gold The gold standard label ("hateful" or "non-hateful") of the test case. All test cases within a given functionality have the same gold standard label.

target_ident Where applicable, the protected group that is targeted or referenced in the test case. All HateChecks cover seven target groups, but their composition varies across languages.

ref_case_id For hateful cases, where applicable, the ID of the hateful case which was perturbed to generate this test case. For non-hateful cases, where applicable, the ID of the hateful case which is contrasted by this test case.

ref_templ_id The equivalent to ref_case_id, but for template IDs.

templ_id The ID of the template from which the test case was generated.

case_templ The template from which the test case was generated (where applicable).

gender_male and gender_female For gender-inflected languages (French, Spanish, Portuguese, Hindi, Arabic, Italian, Polish, German), only for cases where gender inflection is relevant, separate entries for gender_male and gender_female replace case_templ.

label_annotated A list of labels given by the three annotators who reviewed the test case (e.g., "['hateful', 'hateful', 'hateful']").

label_annotated_maj The majority vote of the three annotators (e.g., "hateful"). In some cases this differs from the gold label given by our language experts.

disagreement_in_case True if label_annotated_maj does not match label_gold for the entry.

disagreement_in_template True if the test case is generated from an IDENT template and there is at least one case with disagreement_in_case generated from the same template. This can be used to exclude entire templates from MHC.

Downloads last month
69
Edit dataset card