mhc_case_id
stringlengths
8
11
functionality
stringclasses
27 values
test_case
stringlengths
6
86
label_gold
stringclasses
2 values
target_ident
stringclasses
7 values
ref_case_id
null
1
1.07k
ref_templ_id
null
1
366
templ_id
int64
1
866
case_templ
stringlengths
6
82
gender_male
nulllengths
22
80
gender_female
nulllengths
25
83
label_annotated
stringclasses
8 values
label_annotated_maj
stringclasses
2 values
disagreement_in_case
bool
2 classes
disagreement_in_template
bool
2 classes
arabic-1
derog_neg_emote_h
انا بكره النساء.
hateful
women
null
null
1
انا بكره ال[IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-2
derog_neg_emote_h
انا بكره المتحولين جنسيا.
hateful
trans people
null
null
1
انا بكره ال[IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-3
derog_neg_emote_h
انا بكره المثلين.
hateful
gay people
null
null
1
انا بكره ال[IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-4
derog_neg_emote_h
انا بكره السود.
hateful
black people
null
null
1
انا بكره ال[IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-5
derog_neg_emote_h
انا بكره اليهود.
hateful
Jews
null
null
1
انا بكره ال[IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-6
derog_neg_emote_h
انا بكره المعاقيين.
hateful
disabled people
null
null
1
انا بكره ال[IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-7
derog_neg_emote_h
انا بكره اللاجئين.
hateful
immigrants
null
null
1
انا بكره ال[IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-8
derog_neg_emote_h
انا ما بطقش النساء الي زيك.
hateful
women
null
null
2
انا ما بطقش ال[IDENT_P] الي زيك.
null
null
['hateful', 'hateful', 'non-hateful']
hateful
false
false
arabic-9
derog_neg_emote_h
انا ما بطقش المتحولين جنسيا الي زيك.
hateful
trans people
null
null
2
انا ما بطقش ال[IDENT_P] الي زيك.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-10
derog_neg_emote_h
انا ما بطقش المثلين الي زيك.
hateful
gay people
null
null
2
انا ما بطقش ال[IDENT_P] الي زيك.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-11
derog_neg_emote_h
انا ما بطقش السود الي زيك.
hateful
black people
null
null
2
انا ما بطقش ال[IDENT_P] الي زيك.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-12
derog_neg_emote_h
انا ما بطقش اليهود الي زيك.
hateful
Jews
null
null
2
انا ما بطقش ال[IDENT_P] الي زيك.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-13
derog_neg_emote_h
انا ما بطقش المعاقيين الي زيك.
hateful
disabled people
null
null
2
انا ما بطقش ال[IDENT_P] الي زيك.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-14
derog_neg_emote_h
انا ما بطقش اللاجئين الي زيك.
hateful
immigrants
null
null
2
انا ما بطقش ال[IDENT_P] الي زيك.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-15
derog_neg_emote_h
انا بستحقر النساء.
hateful
women
null
null
3
انا بستحقر ال[IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-16
derog_neg_emote_h
انا بستحقر المتحولين جنسيا.
hateful
trans people
null
null
3
انا بستحقر ال[IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-17
derog_neg_emote_h
انا بستحقر المثلين.
hateful
gay people
null
null
3
انا بستحقر ال[IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-18
derog_neg_emote_h
انا بستحقر السود.
hateful
black people
null
null
3
انا بستحقر ال[IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-19
derog_neg_emote_h
انا بستحقر اليهود.
hateful
Jews
null
null
3
انا بستحقر ال[IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-20
derog_neg_emote_h
انا بستحقر المعاقيين.
hateful
disabled people
null
null
3
انا بستحقر ال[IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-21
derog_neg_emote_h
انا بستحقر اللاجئين.
hateful
immigrants
null
null
3
انا بستحقر ال[IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-22
derog_neg_emote_h
انا بمقت النساء.
hateful
women
null
null
4
انا بمقت ال[IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-23
derog_neg_emote_h
انا بمقت المتحولين جنسيا.
hateful
trans people
null
null
4
انا بمقت ال[IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-24
derog_neg_emote_h
انا بمقت المثلين.
hateful
gay people
null
null
4
انا بمقت ال[IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-25
derog_neg_emote_h
انا بمقت السود.
hateful
black people
null
null
4
انا بمقت ال[IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-26
derog_neg_emote_h
انا بمقت اليهود.
hateful
Jews
null
null
4
انا بمقت ال[IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-27
derog_neg_emote_h
انا بمقت المعاقيين.
hateful
disabled people
null
null
4
انا بمقت ال[IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-28
derog_neg_emote_h
انا بمقت اللاجئين.
hateful
immigrants
null
null
4
انا بمقت ال[IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-29
derog_neg_emote_h
انا بكره النساء خالص.
hateful
women
null
null
5
انا بكره ال[IDENT_P] خالص.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-30
derog_neg_emote_h
انا بكره المتحولين جنسيا خالص.
hateful
trans people
null
null
5
انا بكره ال[IDENT_P] خالص.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-31
derog_neg_emote_h
انا بكره المثلين خالص.
hateful
gay people
null
null
5
انا بكره ال[IDENT_P] خالص.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-32
derog_neg_emote_h
انا بكره السود خالص.
hateful
black people
null
null
5
انا بكره ال[IDENT_P] خالص.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-33
derog_neg_emote_h
انا بكره اليهود خالص.
hateful
Jews
null
null
5
انا بكره ال[IDENT_P] خالص.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-34
derog_neg_emote_h
انا بكره المعاقيين خالص.
hateful
disabled people
null
null
5
انا بكره ال[IDENT_P] خالص.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-35
derog_neg_emote_h
انا بكره اللاجئين خالص.
hateful
immigrants
null
null
5
انا بكره ال[IDENT_P] خالص.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-36
derog_neg_emote_h
انا بتقرف من كل النساء الي هنا.
hateful
women
null
null
6
انا بتقرف من كل ال[IDENT_P] الي هنا.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-37
derog_neg_emote_h
انا بتقرف من كل المتحولين جنسيا الي هنا.
hateful
trans people
null
null
6
انا بتقرف من كل ال[IDENT_P] الي هنا.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-38
derog_neg_emote_h
انا بتقرف من كل المثلين الي هنا.
hateful
gay people
null
null
6
انا بتقرف من كل ال[IDENT_P] الي هنا.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-39
derog_neg_emote_h
انا بتقرف من كل السود الي هنا.
hateful
black people
null
null
6
انا بتقرف من كل ال[IDENT_P] الي هنا.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-40
derog_neg_emote_h
انا بتقرف من كل اليهود الي هنا.
hateful
Jews
null
null
6
انا بتقرف من كل ال[IDENT_P] الي هنا.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-41
derog_neg_emote_h
انا بتقرف من كل المعاقيين الي هنا.
hateful
disabled people
null
null
6
انا بتقرف من كل ال[IDENT_P] الي هنا.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-42
derog_neg_emote_h
انا بتقرف من كل اللاجئين الي هنا.
hateful
immigrants
null
null
6
انا بتقرف من كل ال[IDENT_P] الي هنا.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-43
derog_neg_emote_h
انا بتقرف اوي من النساء دول.
hateful
women
null
null
7
انا بتقرف اوي من ال[IDENT_P] دول.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-44
derog_neg_emote_h
انا بتقرف اوي من المتحولين جنسيا دول.
hateful
trans people
null
null
7
انا بتقرف اوي من ال[IDENT_P] دول.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-45
derog_neg_emote_h
انا بتقرف اوي من المثلين دول.
hateful
gay people
null
null
7
انا بتقرف اوي من ال[IDENT_P] دول.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-46
derog_neg_emote_h
انا بتقرف اوي من السود دول.
hateful
black people
null
null
7
انا بتقرف اوي من ال[IDENT_P] دول.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-47
derog_neg_emote_h
انا بتقرف اوي من اليهود دول.
hateful
Jews
null
null
7
انا بتقرف اوي من ال[IDENT_P] دول.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-48
derog_neg_emote_h
انا بتقرف اوي من المعاقيين دول.
hateful
disabled people
null
null
7
انا بتقرف اوي من ال[IDENT_P] دول.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-49
derog_neg_emote_h
انا بتقرف اوي من اللاجئين دول.
hateful
immigrants
null
null
7
انا بتقرف اوي من ال[IDENT_P] دول.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-50
derog_neg_emote_h
انا بكرهكم خالص يا نساء.
hateful
women
null
null
8
انا بكرهكم خالص يا [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-51
derog_neg_emote_h
انا بكرهكم خالص يا متحولين جنسيا.
hateful
trans people
null
null
8
انا بكرهكم خالص يا [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-52
derog_neg_emote_h
انا بكرهكم خالص يا مثلين.
hateful
gay people
null
null
8
انا بكرهكم خالص يا [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-53
derog_neg_emote_h
انا بكرهكم خالص يا سود.
hateful
black people
null
null
8
انا بكرهكم خالص يا [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-54
derog_neg_emote_h
انا بكرهكم خالص يا يهود.
hateful
Jews
null
null
8
انا بكرهكم خالص يا [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-55
derog_neg_emote_h
انا بكرهكم خالص يا معاقيين.
hateful
disabled people
null
null
8
انا بكرهكم خالص يا [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-56
derog_neg_emote_h
انا بكرهكم خالص يا لاجئين.
hateful
immigrants
null
null
8
انا بكرهكم خالص يا [IDENT_P].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-57
derog_neg_emote_h
انا زهقت من النساء متلك حوليا.
hateful
women
null
null
9
انا زهقت من ال[IDENT_P] متلك حوليا.
null
null
['hateful', 'hateful', 'non-hateful']
hateful
false
false
arabic-58
derog_neg_emote_h
انا زهقت من المتحولين جنسيا متلك حوليا.
hateful
trans people
null
null
9
انا زهقت من ال[IDENT_P] متلك حوليا.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-59
derog_neg_emote_h
انا زهقت من المثلين متلك حوليا.
hateful
gay people
null
null
9
انا زهقت من ال[IDENT_P] متلك حوليا.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-60
derog_neg_emote_h
انا زهقت من السود متلك حوليا.
hateful
black people
null
null
9
انا زهقت من ال[IDENT_P] متلك حوليا.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-61
derog_neg_emote_h
انا زهقت من اليهود متلك حوليا.
hateful
Jews
null
null
9
انا زهقت من ال[IDENT_P] متلك حوليا.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-62
derog_neg_emote_h
انا زهقت من المعاقيين متلك حوليا.
hateful
disabled people
null
null
9
انا زهقت من ال[IDENT_P] متلك حوليا.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-63
derog_neg_emote_h
انا زهقت من اللاجئين متلك حوليا.
hateful
immigrants
null
null
9
انا زهقت من ال[IDENT_P] متلك حوليا.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-64
derog_neg_emote_h
ما بحسش بحاجة تجاه النساء غير الاستحقار.
hateful
women
null
null
10
ما بحسش بحاجة تجاه ال[IDENT_P] غير الاستحقار.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-65
derog_neg_emote_h
ما بحسش بحاجة تجاه المتحولين جنسيا غير الاستحقار.
hateful
trans people
null
null
10
ما بحسش بحاجة تجاه ال[IDENT_P] غير الاستحقار.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-66
derog_neg_emote_h
ما بحسش بحاجة تجاه المثلين غير الاستحقار.
hateful
gay people
null
null
10
ما بحسش بحاجة تجاه ال[IDENT_P] غير الاستحقار.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-67
derog_neg_emote_h
ما بحسش بحاجة تجاه السود غير الاستحقار.
hateful
black people
null
null
10
ما بحسش بحاجة تجاه ال[IDENT_P] غير الاستحقار.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-68
derog_neg_emote_h
ما بحسش بحاجة تجاه اليهود غير الاستحقار.
hateful
Jews
null
null
10
ما بحسش بحاجة تجاه ال[IDENT_P] غير الاستحقار.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-69
derog_neg_emote_h
ما بحسش بحاجة تجاه المعاقيين غير الاستحقار.
hateful
disabled people
null
null
10
ما بحسش بحاجة تجاه ال[IDENT_P] غير الاستحقار.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-70
derog_neg_emote_h
ما بحسش بحاجة تجاه اللاجئين غير الاستحقار.
hateful
immigrants
null
null
10
ما بحسش بحاجة تجاه ال[IDENT_P] غير الاستحقار.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-71
derog_neg_emote_h
النساء دول بيقرفوني.
hateful
women
null
null
11
ال[IDENT_P] دول بيقرفوني.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-72
derog_neg_emote_h
المتحولين جنسيا دول بيقرفوني.
hateful
trans people
null
null
11
ال[IDENT_P] دول بيقرفوني.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-73
derog_neg_emote_h
المثلين دول بيقرفوني.
hateful
gay people
null
null
11
ال[IDENT_P] دول بيقرفوني.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-74
derog_neg_emote_h
السود دول بيقرفوني.
hateful
black people
null
null
11
ال[IDENT_P] دول بيقرفوني.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-75
derog_neg_emote_h
اليهود دول بيقرفوني.
hateful
Jews
null
null
11
ال[IDENT_P] دول بيقرفوني.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-76
derog_neg_emote_h
المعاقيين دول بيقرفوني.
hateful
disabled people
null
null
11
ال[IDENT_P] دول بيقرفوني.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-77
derog_neg_emote_h
اللاجئين دول بيقرفوني.
hateful
immigrants
null
null
11
ال[IDENT_P] دول بيقرفوني.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-78
derog_neg_emote_h
النساء اسواء حاجة.
hateful
women
null
null
12
ال[IDENT_P] اسواء حاجة.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-79
derog_neg_emote_h
المتحولين جنسيا اسواء حاجة.
hateful
trans people
null
null
12
ال[IDENT_P] اسواء حاجة.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-80
derog_neg_emote_h
المثلين اسواء حاجة.
hateful
gay people
null
null
12
ال[IDENT_P] اسواء حاجة.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-81
derog_neg_emote_h
السود اسواء حاجة.
hateful
black people
null
null
12
ال[IDENT_P] اسواء حاجة.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-82
derog_neg_emote_h
اليهود اسواء حاجة.
hateful
Jews
null
null
12
ال[IDENT_P] اسواء حاجة.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-83
derog_neg_emote_h
المعاقيين اسواء حاجة.
hateful
disabled people
null
null
12
ال[IDENT_P] اسواء حاجة.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-84
derog_neg_emote_h
اللاجئين اسواء حاجة.
hateful
immigrants
null
null
12
ال[IDENT_P] اسواء حاجة.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-85
derog_neg_emote_h
انتو يا نساء بتقرفوني.
hateful
women
null
null
13
انتو يا [IDENT_P] بتقرفوني.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-86
derog_neg_emote_h
انتو يا متحولين جنسيا بتقرفوني.
hateful
trans people
null
null
13
انتو يا [IDENT_P] بتقرفوني.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-87
derog_neg_emote_h
انتو يا مثلين بتقرفوني.
hateful
gay people
null
null
13
انتو يا [IDENT_P] بتقرفوني.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-88
derog_neg_emote_h
انتو يا سود بتقرفوني.
hateful
black people
null
null
13
انتو يا [IDENT_P] بتقرفوني.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-89
derog_neg_emote_h
انتو يا يهود بتقرفوني.
hateful
Jews
null
null
13
انتو يا [IDENT_P] بتقرفوني.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-90
derog_neg_emote_h
انتو يا معاقيين بتقرفوني.
hateful
disabled people
null
null
13
انتو يا [IDENT_P] بتقرفوني.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-91
derog_neg_emote_h
انتو يا لاجئين بتقرفوني.
hateful
immigrants
null
null
13
انتو يا [IDENT_P] بتقرفوني.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-92
derog_neg_emote_h
ما فيش حاجة اسواء من المرأة.
hateful
women
null
null
14
ما فيش حاجة اسواء من ال[IDENT_S].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-93
derog_neg_emote_h
ما فيش حاجة اسواء من المتحول جنسيا.
hateful
trans people
null
null
14
ما فيش حاجة اسواء من ال[IDENT_S].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-94
derog_neg_emote_h
ما فيش حاجة اسواء من المثلي.
hateful
gay people
null
null
14
ما فيش حاجة اسواء من ال[IDENT_S].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-95
derog_neg_emote_h
ما فيش حاجة اسواء من الاسود.
hateful
black people
null
null
14
ما فيش حاجة اسواء من ال[IDENT_S].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-96
derog_neg_emote_h
ما فيش حاجة اسواء من اليهودي.
hateful
Jews
null
null
14
ما فيش حاجة اسواء من ال[IDENT_S].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-97
derog_neg_emote_h
ما فيش حاجة اسواء من المعاق.
hateful
disabled people
null
null
14
ما فيش حاجة اسواء من ال[IDENT_S].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-98
derog_neg_emote_h
ما فيش حاجة اسواء من اللاجئ.
hateful
immigrants
null
null
14
ما فيش حاجة اسواء من ال[IDENT_S].
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-99
derog_neg_emote_h
مناظر النساء في المكان دا بتعصبني.
hateful
women
null
null
15
مناظر ال[IDENT_P] في المكان دا بتعصبني.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false
arabic-100
derog_neg_emote_h
مناظر المتحولين جنسيا في المكان دا بتعصبني.
hateful
trans people
null
null
15
مناظر ال[IDENT_P] في المكان دا بتعصبني.
null
null
['hateful', 'hateful', 'hateful']
hateful
false
false

Dataset Card for Multilingual HateCheck

Dataset Description

Multilingual HateCheck (MHC) is a suite of functional tests for hate speech detection models in 10 different languages: Arabic, Dutch, French, German, Hindi, Italian, Mandarin, Polish, Portuguese and Spanish. For each language, there are 25+ functional tests that correspond to distinct types of hate and challenging non-hate. This allows for targeted diagnostic insights into model performance.

For more details, please refer to our paper about MHC, published at the 2022 Workshop on Online Abuse and Harms (WOAH) at NAACL 2022. If you are using MHC, please cite our work!

Dataset Structure

The csv format mostly matches the original HateCheck data, with some adjustments for specific languages.

mhc_case_id The test case ID that is unique to each test case across languages (e.g., "mandarin-1305")

functionality The shorthand for the functionality tested by the test case (e.g, "target_obj_nh"). The same functionalities are tested in all languages, except for Mandarin and Arabic, where non-Latin script required adapting the tests for spelling variations.

test_case The test case text.

label_gold The gold standard label ("hateful" or "non-hateful") of the test case. All test cases within a given functionality have the same gold standard label.

target_ident Where applicable, the protected group that is targeted or referenced in the test case. All HateChecks cover seven target groups, but their composition varies across languages.

ref_case_id For hateful cases, where applicable, the ID of the hateful case which was perturbed to generate this test case. For non-hateful cases, where applicable, the ID of the hateful case which is contrasted by this test case.

ref_templ_id The equivalent to ref_case_id, but for template IDs.

templ_id The ID of the template from which the test case was generated.

case_templ The template from which the test case was generated (where applicable).

gender_male and gender_female For gender-inflected languages (French, Spanish, Portuguese, Hindi, Arabic, Italian, Polish, German), only for cases where gender inflection is relevant, separate entries for gender_male and gender_female replace case_templ.

label_annotated A list of labels given by the three annotators who reviewed the test case (e.g., "['hateful', 'hateful', 'hateful']").

label_annotated_maj The majority vote of the three annotators (e.g., "hateful"). In some cases this differs from the gold label given by our language experts.

disagreement_in_case True if label_annotated_maj does not match label_gold for the entry.

disagreement_in_template True if the test case is generated from an IDENT template and there is at least one case with disagreement_in_case generated from the same template. This can be used to exclude entire templates from MHC.

Downloads last month
74
Edit dataset card