text
stringlengths
5
367
label
class label
2 classes
rt @user olha quem chegouuuuu, nossos queridinhos!!! vem na minha direção 🤩 fem 👧: 10/15 masc 👦: 25/40 #qqmt https://t.co/jivoqeuq…
0not-toxic
veio umas teorias muito loucas na minha cabeça agora, pqp to assustado
1toxic
@user @user 😂😂😂😂mais nao tinha falado ontem que não ia ser patrocinado nada que pudesse "violar" a moralidade da família brasileira 🤦‍♂️
0not-toxic
rt @user quer ser filha da puta logo comigo que sou 50x pior kkkkkkkkkkkkkk fica no sapatinho
1toxic
vai besta 😂😂😂😂 casquei com a ultima foto
1toxic
rt @user @user não sei oq é mais chocante, um botafoguense, ou um botafoguense falando de torcida e grandeza.
1toxic
@user pois é mano que coisa chata da porra
0not-toxic
rt @user eu odeio sentir ódio de alguém pq eu tô por trás da porra da tela de um celular e não posso meter o socão na fuça.
1toxic
se eu ganhar raspo minha cabeça https://t.co/ucfwfabmam #sorteiochipart
0not-toxic
rt @user @user vlw mano tmj 鉂ゐ煉煆�
0not-toxic
rt @user mulher que é mulher não discuti por homem , quando a briga tá feia deixa pra quem passa fome 🎵 #vctediçãobailedoegito
0not-toxic
@user bicho eu fico puto demais
0not-toxic
@user deve ser um peso, mas chorar faz parte do ritual de cura, às vezes
0not-toxic
rt @user eu to puto so queria ser prioridade na vida de alguem nessa caralha mas fds não sou nem minha msm imagina na dos outros
1toxic
eu lembro quando a pérola era tímida e quieta, eu criei um monstro
0not-toxic
puta merda, que saudade de jogar midnight club 3
1toxic
rt @user você eh fraco stuart liro, lhe falta lepto lepisto lesoto lepecto a doença do rato https://t.co/si4uzsstaz
0not-toxic
@user vai se ferrar af desgraçada de perfeita te amo gostosa da minha vida
0not-toxic
blz perdi o onibus kkkkkkkkk vsf
1toxic
Há um mistério há anos, desde a criação do Ministério da Pesca na Esplanada. Por que Brasília tem quase 40 mil pescadores que recebem o seguro-defeso pago pelo Governo?
0not-toxic
@user @user @user com certeza vai ser mo, a taylor é mto inteligente
0not-toxic
boca fechada pros planos darem certo!!!! 🤫🤐🙏🏾
0not-toxic
rt @user @user eu também amg, mas me incomoda aquela mata atlântica na minha buceta
1toxic
rt @user @user nao sei . pra mim todo japones que é comunista é burro... uma coisa q meu pai ensinou kk
1toxic
rt @user deus só não me fez magra pq sabe q se fizesse eu iria ser uma grande vadia
1toxic
não é possível que vai virar essa porra de jogo
0not-toxic
Eu na hora de comprar celular "nossa quero um Plus quero um grande amo celular grande" Eu depois de anos comprei um celular grande "que coisa grande do caralho que merda"
1toxic
rt @user quem não gosta de uma cerveja geladinha = aberração https://t.co/7sfumeokjq
1toxic
tenho nem privacidade pra ficar triste em paz mais vtnc
0not-toxic
vó me manter assim pq as outras pessoas não tem nada a ver com isso pq o que dá vontade é de se a porra de um cuzao do caralho
1toxic
se o meu horário deste ano, foi igual ao do ano passado, vou morrer mm 🙃
0not-toxic
a mas curitiba tá um frio do carai
1toxic
@user vai sonhando filho da puta
1toxic
no escurinho da favela
0not-toxic
rt @user eu amo a isabela é isto kkkkdkndhenwjwnwhaj https://t.co/qlmpmw0bqj
0not-toxic
"O Rio de Janeiro, que sempre respirou Flamengo, precisava estar ofegante. (...) Domingo, após porrar um eterno freguês, um recado: “Vamos virar, Mengo!”. Não estávamos pedindo, e sim avisando." @user entende do riscado. Vale demais a leitura! https://t.co/eo9KUc3iLV
0not-toxic
@user Kakakak é que o Malcon estava negociando com a Roma e já estava dado como certo na Itália, de ÚLTIMA hora o jogador deixou de assinar com a Roma pra ir pro Barcelona dando um chapéu no clube italiano. Desde então ele é amado pela Roma kakakakka. Daí o Zenit cornetou kakakkakaka
0not-toxic
rt @user quatrocentos tweets, falta pouco paulinha na fab
0not-toxic
@user caralho eu sentaria em varias mesas
0not-toxic
@user @user @user @user retardado 茅 aquele que n茫o leva a biologia em considera莽茫o
1toxic
adorava que a puta da maria vivas me respondesse 馃檭
1toxic
@user kkkkkk né porra essa mulher é de outro mundo na boa
0not-toxic
os meus lowkey são mas acho q mais liberdade ia me fazer confusão KKKKK cm é q vcs chegam a casa dps das 8 da noite qd é q vcs jantam??? https://t.co/swqxR365r4
0not-toxic
o que eu tenho de feio tenho de engraçado.😂👍 https://t.co/qb8svpgdih
0not-toxic
as vezes dá vontade sabe, mas já aceitei q n vai acontece kkkkk
0not-toxic
eu tava muito linda ontem,pqp
1toxic
rt @user que babaca arrogante, acha que é a última palavra do direito, vsfder. https://t.co/dasl7caau3
1toxic
@user bolsonaro surfistinho...😂
0not-toxic
@user ele queria nudes da alma mas eu só tinha foto do pau 😔
1toxic
estou morrendo de saudades 💕❤
0not-toxic
@user Pena de morte já para esses lixos assassinos confessos! Gastar dinheiro com gente como essas aí é sim desperdício de quem paga a conta! NÃO EXISTE DIREITOS HUMANOS PARA PESSOAS ASSIM E EU NÃO SOU BOLSOMINION PORRA!
1toxic
só queria não pensar em muita coisa...
0not-toxic
@user @user @user porra cheguei de sv na merda fi kkkkkkkk
1toxic
rt @user se eu tivesse amigos assim, eu já teria pegado todos kkk #mpn #nowunited https://t.co/hlvdzauvte
0not-toxic
@user herói vegetariano é outro patamar
0not-toxic
@user saudades do nosso amigo seedorf
0not-toxic
Realmente... Pensar eu o que eles disseram dos professores ,na saúde, nos transportes publicos,da cgtp,etc,agora numa greve entre privados,nem tocar... Já não tenho idade,mas aqui vai. ..pro caralho...
1toxic
fico puta quando vejo essas coisas, namoral
1toxic
@user @user @user um cara que em 30 anos não fez nada de relevante não vai dar jeito no país nunca
0not-toxic
tá errada não
0not-toxic
meu deus até o richard...........
0not-toxic
@user poxa queria engolir o pau do jungkook inteirinho😔
1toxic
@user @user @user Azul linhas aéreas meu amigo, não precisamos patrocinio gringo, precisamos de alguem que valorize nosso clube e nosso país.
0not-toxic
nunca fiquei tão triste na vida, pqp, emocionada demaissssss, tenho que acostumar a esperar tudo !!!
0not-toxic
rt @user orra já acordo me estressando, vsf 🤬
0not-toxic
eu odeio as ligações da vivo pqp q pertubação
1toxic
tô sentindo uma saudade do caralho de você 😓😭
0not-toxic
tem que limpar toda essa merda.
0not-toxic
@user pra mim tá claro que ele não foi dar essa caneta, não sei pra vocês
0not-toxic
shawn mendes eh homofobico pq ja deixou claro que não eh gay cancelem essa aberração 😡
1toxic
@user bolsonaro se vingou da globo ???? essa folha de são paulo é um lixo mesmo ! 😀
1toxic
só pq nasci feio
0not-toxic
aí caralho,q gato
0not-toxic
@user lula tá preso, babaca!
1toxic
@user @user @user @user Lol, se calhar eu 茅 q tenho q me acalmar antes de responder. ;) Mas o q @user @user disse nem 茅 t茫o fora. N 茅 dif铆cil encontrar pessoas para qm 茅 mesmo assim q tem de ser. E 茅 por isso q eu passo a ferro desde mi煤da e mts amigos da minha idd n sabem ou aprenderam para a铆 aos 30.
0not-toxic
@user @user @user @user por isso foi esculachado pelo @user , esse neto é escroto sem cérebro.
1toxic
mano, eu amo sair com quem n tem frescura, n fica de cara feia, e super fecha cmg, a karen e a bia são dessas
0not-toxic
rt @user @user essa tag está sempre atual! #stfvergonhanacional
0not-toxic
@user eita carai nao moss kkkkk
1toxic
@user Na Ucrânia as autoridades desrespeitaram as instituições e a liturgia dos cargos, esqueceram que todo poder emana do povo, que apenas exercem o poder por outorga do povo, e por tempo limitado. Resultado: o povo colocou os pingos nos is... lata do lixo, literalmente. 🇧🇷 🇮🇱 🇺🇸
0not-toxic
@user meu deus????? fico espantado q parece q os jornalista não fazem o mínimo
1toxic
ela disse que eu não valho nada por isso que essa noite ela vem fuder comigo
1toxic
Desgoverno da destruição, esconde dados !. estamos sendo enganados e roubados de todos lados e agora a certeza que esses covardes vão manipular dados para apresentação da falsa realmente.. até o presente mostrar o contrário a destruição visível do país.!. #ForaBol卐onaro
1toxic
@user @user porra lua para de decifrar meus asterisco
1toxic
Gente agora é sério, pq só comigo que não acontece de eu gostar da pessoa pra caralho e ela gostar de mim pra caralho???? Oq eu tenho de errado vsfdddd
1toxic
"Aquecimento global é uma mentira!" ESTUDO A BASE DE YOUTUBE NÃO TE FAZ SABIO, TE FAZ SER UM IGNORANTE DE MERDA MESMO! VAI ESTUDAR UMA PORRA DE UMA BIOLOGIA E FÍSICA
1toxic
“juma épica”
0not-toxic
não aguento mais essas gringas me colocando em grupo de puta no instagram gente
1toxic
rt @user preocupação do carai com a minha vida vou mandar um boleto pra tu pagar visse
0not-toxic
hoje o dia está lindo, perfeito para levar um tiro e-- parei
0not-toxic
rt @user e nesse tempo ganhou uma copa do brasil e dois campeonatos brasileiros 馃サ https://t.co/jmypqr9zg3
0not-toxic
as pessoas falando que t么 escutando funk s贸 pra ver a raba das meninas kkkkkkkkkkk, voc锚s j谩 me respeitaram mais
0not-toxic
rt @user pqp anitta??? garota???? mdsss https://t.co/rngttnhkio
0not-toxic
chama na glória
0not-toxic
R$ 32,90 cada | #DiaDosPais É ideal para quem busca conforto na leitura da #PalavradeDeus e, ao mesmo tempo, praticidade no uso e transporte diários. 🛒 https://t.co/Q0F4fCyMU7 Válido por tempo limitado! https://t.co/vAZF39YCd8
0not-toxic
É ridículo cobrar o que deve ser espontâneo, mas é na esperança de mudar algo e a pessoa simplesmente te dar valor quando na verdade é pura perda de tempo e no fim sabemos que isso não vai mudar nunca até seguir o baile e aparecer alguém que faça o que o outro não faz
1toxic
rt @user maldita é a boca que me julga, sendo pior que eu... 🤐
0not-toxic
rt @user kkkk é o melhor que nos tem kk https://t.co/l6xi9opest
0not-toxic
tô com uma puta sdds do meu filho, mas estou c mt preguiça de ir p catarina
1toxic
@user @user @user @user O que vagabundo? Tu ta em rede social fela da puta.... falou tem resposta. Seu pau no cu
1toxic

Dataset Card for "ToLD-Br"

Dataset Summary

ToLD-Br is the biggest dataset for toxic tweets in Brazilian Portuguese, crowdsourced by 42 annotators selected from a pool of 129 volunteers. Annotators were selected aiming to create a plural group in terms of demographics (ethnicity, sexual orientation, age, gender). Each tweet was labeled by three annotators in 6 possible categories: LGBTQ+phobia, Xenophobia, Obscene, Insult, Misogyny and Racism.

Supported Tasks and Leaderboards

-text-classification-other-hate-speech-detection: The dataset can be used to train a model for Hate Speech Detection, either using it's multi-label classes or by grouping them into a binary Hate vs. Non-Hate class. A BERT model can be fine-tuned to perform this task and achieve 0.75 F1-Score for it's binary version.

Languages

The text in the dataset is in Brazilian Portuguese, as spoken by Tweet users. The associated BCP-47 code is pt-BR.

Dataset Structure

Data Instances

ToLD-Br has two versions: binary and multilabel.

Multilabel: A data point consists of the tweet text (string) followed by 6 categories that have values ranging from 0 to 3, meaning the amount of votes from annotators for that specific class on homophobia, obscene, insult, racism, misogyny and xenophobia.

An example from multilabel ToLD-Br looks as follows:

{'text': '@user bandido dissimulado. esse sérgio moro é uma espécie de mal carater com ditadura e pitadas de atraso'
'homophobia': 0
'obscene': 0
'insult': 2
'racism': 0
'misogyny': 0
'xenophobia': 0}

Binary:
A data point consists of the tweet text (string) followed by a binary class "toxic" with values 0 or 1.

An example from binary ToLD-Br looks as follows:

{'text': '@user bandido dissimulado. esse sérgio moro é uma espécie de mal carater com ditadura e pitadas de atraso'
'toxic': 1}

Data Fields

Multilabel:

  • text: A string representing the tweet posted by a user. Mentions to other users are anonymized by replacing the mention with a @user tag.
  • homophobia: numerical value {0, 1, 2, 3) representing the number of votes given by annotators flagging the respective tweet as homophobic.
  • obscene: numerical value {0, 1, 2, 3) representing the number of votes given by annotators flagging the respective tweet as obscene.
  • insult: numerical value {0, 1, 2, 3) representing the number of votes given by annotators flagging the respective tweet as insult.
  • racism: numerical value {0, 1, 2, 3) representing the number of votes given by annotators flagging the respective tweet as racism.
  • misogyny: numerical value {0, 1, 2, 3) representing the number of votes given by annotators flagging the respective tweet as misogyny.
  • xenophobia: numerical value {0, 1, 2, 3) representing the number of votes given by annotators flagging the respective tweet as xenophobia.

Binary:

  • text: A string representing the tweet posted by a user. Mentions to other users are anonymized by replacing the mention with a @user tag.
  • label: numerical binary value {0, 1} representing if the respective text is toxic/abusive or not.

Data Splits

Multilabel:
The entire dataset consists of 21.000 examples.

Binary:
The train set consists of 16.800 examples, validation set consists of 2.100 examples and test set consists of 2.100 examples.

Dataset Creation

Curation Rationale

Despite Portuguese being the 5th most spoken language in the world and Brazil being the 4th country with most unique users, Brazilian Portuguese was underrepresented in the hate-speech detection task. Only two other datasets were available, one of them being European Portuguese. ToLD-Br is 4x bigger than both these datasets combined. Also, none of them had multiple annotators per instance. Also, this work proposes a plural and diverse group of annotators carefully selected to avoid inserting bias into the annotation.

Source Data

Initial Data Collection and Normalization

Data was collected in 15 days in August 2019 using Gate Cloud's Tweet Collector. Ten million tweets were collected using two methods: a keyword-based method and a user-mention method. The first method collected tweets mentioning the following keywords:

viado,veado,viadinho,veadinho,viadao,veadao,bicha,bixa,bichinha,bixinha,bichona,bixona,baitola,sapatão,sapatao,traveco,bambi,biba,boiola,marica,gayzão,gayzao,flor,florzinha,vagabundo,vagaba,desgraçada,desgraçado,desgracado,arrombado,arrombada,foder,fuder,fudido,fodido,cú,cu,pinto,pau,pal,caralho,caraio,carai,pica,cacete,rola,porra,escroto,buceta,fdp,pqp,vsf,tnc,vtnc,puto,putinho,acéfalo,acefalo,burro,idiota,trouxa,estúpido,estupido,estúpida,canalha,demente,retardado,retardada,verme,maldito,maldita,ridículo,ridiculo,ridícula,ridicula,morfético,morfetico,morfética,morfetica,lazarento,lazarenta,lixo,mongolóide,mongoloide,mongol,asqueroso,asquerosa,cretino,cretina,babaca,pilantra,neguinho,neguinha,pretinho,pretinha,escurinho,escurinha,pretinha,pretinho,crioulo,criolo,crioula,criola,macaco,macaca,gorila,puta,vagabunda,vagaba,mulherzinha,piranha,feminazi,putinha,piriguete,vaca,putinha,bahiano,baiano,baianagem,xingling,xing ling,xing-ling,carioca,paulista,sulista,mineiro,gringo

The list of most followed Brazilian Twitter accounts can be found here.

Who are the source language producers?

The language producers are Twitter users from Brazil, speakers of Portuguese.

Annotations

Annotation process

A form was published at the Federal University of São Carlos asking for volunteers to annotate our dataset. 129 people volunteered and 42 were selected according to their demographics in order to create a diverse and plural annotation group. Guidelines were produced and presented to the annotators. The entire process was done asynchronously because of the Covid-19 pandemic. The tool used was Google Sheets. Annotators were grouped into 14 teams of three annotators each. Each group annotated a respective file containing 1500 tweets. Annotators didn't have contact with each other, nor did they know that other annotators were labelling the same tweets as they were.

Who are the annotators?

Annotators were people from the Federal University of São Carlos' Facebook group. Their demographics are described below:

Gender
Male 18
Female 24
Sexual Orientation
Heterosexual 22
Bisexual 12
Homosexual 5
Pansexual 3
Ethnicity
White 25
Brown 9
Black 5
Asian 2
Non-Declared 1

Ages range from 18 to 37 years old.

Annotators were paid R$50 ($10) to label 1500 examples each.

Personal and Sensitive Information

The dataset contains sensitive information for homophobia, obscene, insult, racism, misogyny and xenophobia.

Tweets were anonymized by replacing user mentions with a @user tag.

Considerations for Using the Data

Social Impact of Dataset

The purpose of this dataset is to help develop better hate speech detection systems.

A system that succeeds at this task would be able to identify hate speech tweets associated with the classes available in the dataset.

Discussion of Biases

An effort was made to reduce annotation bias by selecting annotators with a diverse demographic background. In terms of data collection, by using keywords and user mentions, we are introducing some bias to the data, restricting our scope to the list of keywords and users we created.

Other Known Limitations

Because of the massive data skew for the multilabel classes, it is extremely hard to train a robust model for this version of the dataset. We advise using it for analysis and experimentation only. The binary version of the dataset is robust enough to train a classifier with up to 76% F1-score.

Additional Information

Dataset Curators

The dataset was created by João Augusto Leite, Diego Furtado Silva, both from the Federal University of São Carlos (BR), Carolina Scarton and Kalina Bontcheva both from the University of Sheffield (UK)

Licensing Information

ToLD-Br is licensed under a Creative Commons BY-SA 4.0

Citation Information

@article{DBLP:journals/corr/abs-2010-04543,
  author    = {Joao Augusto Leite and
               Diego F. Silva and
               Kalina Bontcheva and
               Carolina Scarton},
  title     = {Toxic Language Detection in Social Media for Brazilian Portuguese:
               New Dataset and Multilingual Analysis},
  journal   = {CoRR},
  volume    = {abs/2010.04543},
  year      = {2020},
  url       = {https://arxiv.org/abs/2010.04543},
  eprinttype = {arXiv},
  eprint    = {2010.04543},
  timestamp = {Tue, 15 Dec 2020 16:10:16 +0100},
  biburl    = {https://dblp.org/rec/journals/corr/abs-2010-04543.bib},
  bibsource = {dblp computer science bibliography, https://dblp.org}
}

Contributions

Thanks to @JAugusto97 for adding this dataset.

Downloads last month
346

Models trained or fine-tuned on told-br