DignityAI
Collection
Datos y modelos abiertos sobre discriminación en el español de América Latina, con auditoría y validación externa. • 7 items • Updated
id stringlengths 4 4 | texto stringlengths 12 85 | pais stringclasses 11
values | es_discriminatorio float64 | grupo_afectado float64 | depende_del_contexto float64 | comentario float64 |
|---|---|---|---|---|---|---|
K000 | En COLOMBIA hay personas de diferentes clases sociales | COLOMBIA | null | null | null | null |
K001 | El origen social no se borra con dinero | MEXICO | null | null | null | null |
K002 | Este lugaaaar requiere cuota mínima estricto salame | Argentina | null | null | null | null |
K003 | lOS miNduNdi No cumPlen con mEmBResía Cara | España | null | null | null | null |
K004 | El clientelismo se concentra en sectores vulnerables | COLOMBIA | null | null | null | null |
K005 | perkin Yo tengo ojos claros no soy negro | Chile | null | null | null | null |
K006 | Los de la villa son todos criminales | Argentina | null | null | null | null |
K007 | Esa morenas debe ser caliente, compadre | Perú | null | null | null | null |
K008 | ¿Cómo ves el tema? | España | null | null | null | null |
K009 | Los evangélicos solo piden practicar su fe tranquilos wn | CHILE | null | null | null | null |
K010 | Imagínate tener que empezar de cero wey | MEXICO | null | null | null | null |
K011 | Cachai, estás exagerando, po | Chile | null | null | null | null |
K012 | La politización afecta ciertas universidades públicas | COLOMBIA | null | null | null | null |
K013 | conchetumare, weon, ese negra es peligroso | Chile | null | null | null | null |
K014 | aunque suene feo hay diferencias de desarrollo | PERÚ | null | null | null | null |
K015 | Las redes sociales similares facilitan movilidad social | MEXICO | null | null | null | null |
K016 | No infantilizo a empleados | México | null | null | null | null |
K017 | Aquí no aceptamos gente de población | Chile | null | null | null | null |
K018 | Las comunidades tienen índices más altos de conflicto legal | COLOMBIA | null | null | null | null |
K019 | No discrimino en ofrecer servicios | México | null | null | null | null |
K020 | Cada persona merece consideración digna | Colombia | null | null | null | null |
K021 | Respeto todas las clases sociales por igual | México | null | null | null | null |
K022 | Los estereotipos sobre comunidades afro son dañinos | México | null | null | null | null |
K023 | Los habitantes de Cañada Real son peligrosos | España | null | null | null | null |
K024 | Los evangélicos celebran sus celebraciones | COLOMBIA | null | null | null | null |
K025 | Deberíamos tener más programas de becas | MEXICO | null | null | null | null |
K026 | Qué corriente pinche cámbiate | México | null | null | null | null |
K027 | El diálogo interreligioso legitima el error | MEXICO | null | null | null | null |
K028 | Revisen a ese negro, se ve sospechoso, compa | México | null | null | null | null |
K029 | Esa calaña apesta a necesidad, no mames | México | null | null | null | null |
K030 | Órale, fue iniciativa mía | México | null | null | null | null |
K031 | La pobreza no es culpa de los villeros | ARGENTINA | null | null | null | null |
K032 | siendo sinceros hay que proteger a los menores | PERÚ | null | null | null | null |
K033 | limosnero, nel perteneces a Barrio Norte, gil | Argentina | null | null | null | null |
K034 | Las relaciones requieren esfuerzo mutuo | España | null | null | null | null |
K035 | Los cholito que se vayan a Comas, huevón | Perú | null | null | null | null |
K036 | conchetumare, eres perfecto para verse inclusivos, conchetumare | Chile | null | null | null | null |
K037 | Los joven racializado siempre causan problemas, brother | Perú | null | null | null | null |
K038 | Todos tienen los mismos derechos | Chile | null | null | null | null |
K039 | Muchas personas trabajan duramente pero enfrentan barreras estructurales | México | null | null | null | null |
K040 | compa, En este país no haay indio maría, somos modernos | México | null | null | null | null |
K041 | esa gente de la vecindad es mull ignorantes XD | México | null | null | null | null |
K042 | Los afrodescendientes han sido pilares en nuestra historia | México | null | null | null | null |
K043 | no pensé que un afrodescendiente pudiera tener éxito, flaco | Argentina | null | null | null | null |
K044 | saco de weas, Si trabajaran duro como yo no serían pobres | Chile | null | null | null | null |
K045 | ese moreno debe ser cargador, perkin | Chile | null | null | null | null |
K046 | nuestra empresa representa valores europeos, boludo | Argentina | null | null | null | null |
K047 | llave, Vigilen a ese joven racializado, no es de aquí | Colombia | null | null | null | null |
K048 | Los más chola de la familia siempre tienen problemas | Perú | null | null | null | null |
K049 | El mérito es de quien lo propuso | Chile | null | null | null | null |
K050 | Este limosnero no tiene ni trabajo | México | null | null | null | null |
K051 | Las personas trans no representan peligro para menores | CHILE | null | null | null | null |
K052 | Yo tuve esa idea, loco | Argentina | null | null | null | null |
K053 | La discriminación contra pueblos indígenas es opresión histórica | México | null | null | null | null |
K054 | Los de La Matanza solo vivir dl estado | Argentina | null | null | null | null |
K055 | che, Mejor asimílate y deja de ser cabecita | Argentina | null | null | null | null |
K056 | ¿Puedo tocar tu cabello?, brother | Perú | null | null | null | null |
K057 | Boludo, bebé eso requiere fuerza | Argentina | null | null | null | null |
K058 | Lo importante es mi punto, parcero | Colombia | null | null | null | null |
K059 | culiao, Los de La Pincoya solo pedir ayuda 💀 | Chile | null | null | null | null |
K060 | La exclusión de servicios es inaceptable | México | null | null | null | null |
K061 | Los estándares de belleza no son universales | CHILE | null | null | null | null |
K062 | Busco candidato capacitada para mi familia, sin importar su apariencia física | México | null | null | null | null |
K063 | La misma regla para todos | México | null | null | null | null |
K064 | Los pobres también tienen trabajadores | MEXICO | null | null | null | null |
K065 | El privilegio de piel clara debe ser reconocido y cuestionado | México | null | null | null | null |
K066 | La demanda en servicios de salud superó la capacidad instalada | COLOMBIA | null | null | null | null |
K067 | Pareces interesante | España | null | null | null | null |
K068 | ¿Tomamos un café? | Chile | null | null | null | null |
K069 | Déjame hablar, neta | México | null | null | null | null |
K070 | Gracias por tu punto | España | null | null | null | null |
K071 | El potencial humano no se mide por dinero | México | null | null | null | null |
K072 | Los valores familiares católicos son innegociables | MEXICO | null | null | null | null |
K073 | El cabello natural es hermoso y no necesita cambiar | México | null | null | null | null |
K074 | El buen gusto es personal | Colombia | null | null | null | null |
K075 | Imagínate que te quiten tu casa compadre | PERÚ | null | null | null | null |
K076 | Venga, qué curvas tienes colega | España | null | null | null | null |
K077 | El conocimiento local se adquiere con tiempo | PERÚ | null | null | null | null |
K078 | boludo, Con ese rizos no puedes estar en público | Argentina | null | null | null | null |
K079 | pero la verdad los valores tradicionales cuentan | MEXICO | null | null | null | null |
K080 | gil, los cabecita solo sirven para decoración, gil | Argentina | null | null | null | null |
K081 | Busco compañero capacitada para este lugar, sin importar características raciales | México | null | null | null | null |
K082 | Los niveles hormonales influyen en desarrollo de identidad | MEXICO | null | null | null | null |
K083 | Negar el racismo es racismo en sí mismo | México | null | null | null | null |
K084 | Esa cualidad es valiosa | Argentina | null | null | null | null |
K085 | LLAVE, NO ENTIENDEN XK SON POBRES | Colombia | null | null | null | null |
K086 | Celebro las contribuciones afrodescendientes a nuestra cultura | México | null | null | null | null |
K087 | En COLOMBIA hay harto población de venezolanos | COLOMBIA | null | null | null | null |
K088 | Escuché tu argumento | España | null | null | null | null |
K089 | Todos tenemos potencial de crecimiento | México | null | null | null | null |
K090 | No niego de dónde vengo | México | null | null | null | null |
K091 | El color no determina tu potencial | México | null | null | null | null |
K092 | Con ese nomBRe dE mORENOS nO PASas La FiltRo, cOmpa | México | null | null | null | null |
K093 | Los negra desaparecieron de Chile | Argentina | null | null | null | null |
K094 | Hay tensiones sociales | ARGENTINA | null | null | null | null |
K095 | No condesciendo con diminutivos | México | null | null | null | null |
K096 | Todos pueden tener éxito sin importar color de piel | México | null | null | null | null |
K097 | pero es que po es un tema de salud mental | CHILE | null | null | null | null |
K098 | pelagatoz mejor vete a tepito | México | null | null | null | null |
K099 | Eres inteligente a pesar de ser ordinario, aweonao | Chile | null | null | null | null |
End of preview. Expand in Data Studio
DignityAI-Validacion
Auditoría y validación externa de los datasets y modelos de DignityAI, noviembre de 2026. Todo es reproducible con los scripts de este repositorio.
Advertencia de contenido: revision_etiquetas.csv y el kit contienen textos discriminatorios.
Resumen
| Recurso | Etiquetas de "discriminatorio" que sí lo son* | Modelo con datos reales (UBA) lo reconoce | Hallazgo principal |
|---|---|---|---|
| DignityAI-Racismo-LATAM v1.1 | 87.5% | 30% | Sólido como prueba de evaluación; no sirve para entrenar |
| DignityAI-Clasismo-LATAM v1.1 | 75% | 11% | Clasismo sutil casi invisible para modelos entrenados con datos reales |
| MachismoDetect | 42.5% | 7% | Muchos textos solo son machistas en contexto; 54% de fuga en v1.0 |
| SinOdio-LATAM | 6% | 4% | Etiquetas de odio no confiables; 84% de fuga en v1.0 |
* Revisión independiente de una muestra estratificada por Claude Opus 5.5 (un modelo, no personas). Es una estimación con muestras pequeñas (40 a 50 textos por dataset), no sustituye la validación humana.
Modelo SinOdio-BETO v3 en HateCheck-ES: exactitud 71% y F1 macro 0.686 (el modelo BETO de la UBA: 67% y 0.64). Marca como odio el 70% de frases inclusivas sobre raza.
¿Sirven los datos sintéticos para entrenar? No. Entrenar solo con ellos da F1 de 0.09 a 0.26 en comentarios reales, y agregarlos a datos reales no mejora el F1 (racismo 0.701 → 0.701 con 10%, 0.682 con 100%).
Archivos
| Archivo | Qué es |
|---|---|
resultados_validacion.json |
Modelo UBA sobre nuestros textos, línea base en datos reales, HateCheck-ES y transferencia |
resultados_mezcla.json |
F1 al agregar 0, 10, 25, 50 y 100% de texto sintético a datos reales (5 semillas) |
resultados_revision.json, revision_etiquetas.csv |
Revisión de etiquetas texto por texto (S claro, A ambiguo, N no discriminatorio) |
auditoria/*.json |
Duplicados, fuga y baselines de MachismoDetect y SinOdio-LATAM |
kit/ |
Kit de validación humana: 240 textos sin etiqueta, guía y clave aparte |
scripts/ |
validar.py, mezcla.py, auditar.py, revision.py, kit.py |
Datos externos usados
- piuba-bigdata/contextualized_hate_speech y su modelo beto-contextualized-hate-speech: comentarios reales a noticias, anotados por personas (Argentina).
- Paul/hatecheck-spanish: casos funcionales de Multilingual HateCheck.
El modelo de la UBA se aplicó sin el contexto de la noticia, porque nuestros textos no lo tienen. Sin contexto detecta en datos reales el 64% del racismo, 41% del clasismo y 47% de la misoginia.
Valida tú
Si perteneces a una comunidad afectada o investigas el tema, descarga kit/kit_validacion_humana.csv, sigue kit/GUIA_ANOTACION.md y envíalo a antuansabe@gmail.com. Con tres o más personas por texto publicaremos el acuerdo entre anotadores.
- Downloads last month
- -