YachayWiki/quechua-collao-sentiment

---

license: cc-by-4.0 language: - qu - es task_categories: - text-classification task_ids: - sentiment-classification annotations_creators: - machine-generated size_categories: - 1K<n<10K tags: - quechua - collao - low-resource - silver-standard - indigenous-languages

Quechua Collao Sentiment Corpus

Corpus de análisis de sentimientos en quechua collao (quechua sureño), con 1,598 oraciones etiquetadas en tres polaridades: POSITIVO, NEGATIVO y NEUTRO.

Aviso importante sobre las etiquetas

Las etiquetas de este corpus no fueron asignadas por anotadores humanos. Cada oración recibió la etiqueta acordada por al menos dos de tres clasificadores automáticos independientes, trabajando sobre la traducción al español de cada oración. Es lo que en la literatura se denomina un silver standard.

Ningún hablante de quechua ha validado estas etiquetas. La concordancia entre los anotadores automáticos es evidencia de consistencia, no de corrección: tres modelos que compartan un mismo sesgo coincidirían entre sí sin acertar.

Quien use este corpus debe tenerlo presente al interpretar cualquier resultado obtenido con él.

Composición

Fuente	Oraciones
Corpus de habla de quechua collao (Paccotacya-Yanque et al., 2022)	1,497
Plataforma YachayWiki	101
Total	1,598

Del corpus de Paccotacya-Yanque et al. se utilizan únicamente las oraciones como texto. Las anotaciones emocionales originales de ese recurso no se emplean en ningún punto.

Particiones

Partición	Oraciones
Entrenamiento	1,278
Prueba	320

División estratificada 80/20 que preserva las proporciones de clase.

Distribución de clases

Clase	Total	%
NEUTRO	897	56.1
NEGATIVO	470	29.4
POSITIVO	231	14.5

El corpus está desbalanceado. Al evaluar sobre él conviene reportar F1 macro además de exactitud: un clasificador que prediga siempre NEUTRO alcanza 56.25 % de exactitud sin haber aprendido nada.

Columnas

Columna	Contenido
Fuente	Origen de la oración
Variante	Variante del quechua (Collao)
Quechua	La oración en quechua
Espanol	Traducción al español
Tipo	Tipo de unidad textual
anot_robertuito	Etiqueta del anotador robertuito
anot_beto	Etiqueta del anotador BETO
anot_claude	Etiqueta del anotador LLM
etiqueta	Etiqueta final por consenso

Se publican las tres etiquetas individuales además de la final, para que cualquiera pueda aplicar un criterio de consenso distinto o analizar los desacuerdos.

Procedimiento de anotación

Los tres anotadores fueron robertuito (RoBERTa entrenado en textos en español de redes sociales, ajustado para sentimientos), BETO (BERT en español) y un modelo de lenguaje grande con instrucción de clasificación. Cada oración se presentó a los tres a través de su traducción al español.

Concordancia entre anotadores

Medida	κ	Acuerdo simple
Fleiss κ (tres anotadores)	0.616	—
robertuito – BETO	0.628	78.5 %
robertuito – LLM	0.609	76.5 %
BETO – LLM	0.614	77.7 %

Nivel de acuerdo	Oraciones	%
Unanimidad (3/3)	1,067	66.8
Mayoría (2/3)	517	32.4
Sin acuerdo	14	0.9

El 99.1 % del corpus tiene una etiqueta respaldada por al menos dos anotadores independientes. Las 14 oraciones sin acuerdo se resolvieron caso por caso y constituyen el único punto donde interviene juicio humano.

Limitaciones

• Las etiquetas no han sido validadas por hablantes de quechua.
• Los anotadores operan sobre traducciones al español, no sobre quechua directo: cualquier sentimiento expresado por medios propios del quechua y perdido en la traducción es invisible para el procedimiento.
• El conjunto de prueba tiene 320 oraciones, lo que implica un margen de error aproximado de ±5.5 puntos porcentuales al 95 % de confianza.
• El corpus cubre una sola variante (collao). No debe asumirse que los resultados se transfieren a otras variantes del quechua.

Resultados de referencia

Modelos entrenados desde cero sobre la partición de entrenamiento y evaluados sobre la de prueba:

Modelo	Exactitud	F1 macro
Línea base (clase mayoritaria)	56.25 %	—
Word2Vec (corpus ampliado)	54.06 %	0.485
Word2Vec (corpus propio)	56.25 %	0.518
BiLSTM (caracteres)	61.88 %	0.568
Lexicón de polaridad	66.25 %	0.593
n-gramas (SVM, caracteres 2-5)	76.25 %	0.711

Los tres modelos anotadores no aparecen en esta tabla: evaluarlos contra etiquetas que ellos mismos produjeron sería circular.

Recursos relacionados

• Lexicón de polaridad de 759 entradas: YachayWiki/quechua-collao-sentiment-lexicon
• Proyecto YachayWiki: https://yachaywiki.com

Cita

Si utilizas este corpus, cita también el recurso original del que proceden las oraciones:

Paccotacya-Yanque, R., et al. (2022). A speech corpus of Quechua Collao for automatic dimensional emotion recognition. Scientific Data.

Licencia

CC BY 4.0