mariuxitoapanta/FactCheckEC-Sci

FactCheckToolEC — Datasets para detección de afirmaciones científicas y recuperación de fuentes

Este repositorio reúne los conjuntos de datos generados como parte del sistema de verificación de noticias falsas FactCheckToolEC. Los corpus están orientados a dos subtareas complementarias en español:

1. Detección automática de afirmaciones científicas (clasificación multietiqueta)
2. Recuperación de fuentes científicas (information retrieval)

Los datos de entrada provienen de noticias verificadas y publicaciones de la red social X (antes Twitter). Estos registros crudos se consolidan en el archivo corpus_augmented.json, del cual se extrajo el campo texto como base para los datasets aquí descritos.

---

Descripción general de los datasets

1. dataset_etiquetado_final.xlsx

Corpus completo para la tarea de detección de afirmaciones científicas

Descripción

Este archivo corresponde al corpus completo etiquetado, compuesto por 6.299 registros. Incluye tanto los casos positivos como los negativos necesarios para entrenar y evaluar modelos que distingan entre discurso científico y no científico.

Cada registro corresponde al texto de una noticia o publicación y está etiquetado en tres categorías no excluyentes, siguiendo el marco de anotación de Hafid et al. (2022) para SciTweets y su adaptación en la Tarea 4 de CheckThat! Lab (CLEF 2025).

Esquema de columnas

• Indice: identificador numérico del registro.
• texto: contenido textual de la noticia o publicación.
• Categoria 1: afirmación científica verificable (0 = No, 1 = Sí).
• categoria 2: referencia científica (0 = No, 1 = Sí).
• categoria 3: contexto de investigación (0 = No, 1 = Sí).
• recuperable: indicador auxiliar para la subtarea de recuperación de evidencia (1 = caso recuperable).

Definición de categorías

• Categoría 1 — Afirmación científica verificable El texto contiene una proposición fáctica contrastable mediante documentos científicos (papers, ensayos clínicos, estadísticas de investigación).

• Categoría 2 — Referencia científica El texto proporciona un mecanismo de acceso, directo o indirecto, a la fuente científica. Una referencia directa incluye DOI o título exacto; una indirecta incluye una URL que dirija al estudio.

• Categoría 3 — Contexto de investigación El texto menciona explícitamente elementos del entorno científico: científicos, instituciones académicas, laboratorios, esfuerzos de investigación o hallazgos científicos.

Aclaración importante sobre la categoría 2

En esta versión del corpus, la columna categoria 2 contiene solo valores 0. Esto es correcto y responde a una característica del conjunto analizado: ninguno de los textos incluye DOI, título exacto del estudio ni URL dentro del propio texto, por lo que no se registraron casos positivos para esta categoría en el dataset final publicado.

Proceso de construcción

1. Punto de partida: corpus_augmented.json (6.299 registros). Se extrajo el campo texto de cada documento.
2. Filtrado automático preliminar: se aplicó un filtro heurístico basado en diccionarios de palabras clave y similitud semántica con Sentence Transformers, con criterio de alta sensibilidad, obteniendo 1.804 candidatos.
3. Anotación manual exhaustiva: los 1.804 candidatos fueron revisados manualmente según las tres categorías definidas.
4. Resultado conceptual del filtrado:
   • 419 registros fueron confirmados como publicaciones con al menos una dimensión científica positiva.
   • 1.385 registros fueron descartados como falsos positivos del filtro automático.
5. Dataset publicado: se conserva el corpus completo de 6.299 registros ya etiquetados, donde:
   • los registros con al menos una dimensión científica positiva permanecen marcados con 1 en sus categorías correspondientes;
   • los registros que no activan ninguna etiqueta quedan con 0 en todas las categorías.

Estadísticas del archivo publicado

• Total de registros publicados: 6.299
• Registros con al menos una etiqueta positiva: 419
• Registros sin etiquetas positivas: 5.880
• Positivos en Categoría 1: 401
• Positivos en Categoría 2: 0
• Positivos en Categoría 3: 267
• Casos recuperables (recuperable = 1): 45

Distribución de combinaciones de etiquetas

• (0, 0, 0): 5.880 registros
• (0, 0, 1): 18 registros
• (1, 0, 0): 152 registros
• (1, 0, 1): 249 registros

---

2. Noticia_Estudio.xlsx

Corpus de pares Noticia–Documento

Descripción

Conjunto de pares validados (noticia, documento científico) que establece la relación de referencia entre cada afirmación científica recuperable y su fuente primaria. Sirve como ground truth para el entrenamiento y evaluación de la subtarea de recuperación de información.

Esquema de columnas

• Indice: identificador numérico del registro (coincide con el corpus de detección).
• texto: contenido textual de la noticia o publicación.
• id_paper: identificador del documento científico asociado (por ejemplo, SRC_001).

Proceso de construcción

1. Punto de partida: las 419 afirmaciones del corpus de detección con al menos una dimensión científica positiva.
2. Filtro Q1 (criterio de unicidad de fuente): se aplicó la primera regla del protocolo AI4Sci (2024): “¿Menciona el tweet un único estudio científico?”. De los 419 registros, 45 cumplieron este criterio.
3. Validación Q2 (correspondencia): se verificó manualmente si el texto hacía referencia inequívoca al documento recuperado.
4. Validación Q3 (justificación de evidencia): se documentaron los elementos de coincidencia (autores, institución, cifras o hallazgos) que confirmaban el vínculo entre la noticia y el paper.
5. Resultado: 45 pares Noticia–Documento validados.

Estadísticas

• Afirmaciones científicas de entrada: 419
• Afirmaciones recuperables (Q1): 45
• Pares validados finales: 45

---

3. Collection_document.xlsx

Colección de documentos científicos candidatos

Descripción

Repositorio de documentos científicos recuperados mediante web scraping desde fuentes académicas de acceso abierto. Constituye el espacio de búsqueda contra el cual opera el modelo de recuperación de información e incluye tanto los documentos correctamente vinculados a las afirmaciones como documentos distractores semánticamente similares.

Esquema de columnas

• id_paper: identificador único del documento (por ejemplo, SRC_001).
• titulo: título del artículo o publicación científica.
• autores: lista de autores del documento.
• year: año de publicación.
• journal: revista o medio de publicación.
• doi: identificador DOI.
• url: enlace al documento.
• abstract: resumen del estudio.
• fuente: fuente de extracción.

Proceso de construcción

1. Punto de partida: las 45 afirmaciones recuperables identificadas con el filtro Q1.
2. Web scraping en Python: consulta de repositorios académicos y científicos a partir de queries construidas con palabras clave extraídas del texto, considerando menciones a universidades, revistas, estudios o datos específicos.
3. Fusión y deduplicación: los resultados de todas las fuentes se unificaron eliminando duplicados por similitud de títulos y DOIs.
4. Resultado: 304 documentos candidatos (documentos correctos + distractores semánticamente similares).

Estadísticas

• Afirmaciones procesadas: 45
• Documentos recuperados totales: 304
• Fuentes de extracción: Crossref, PubMed y NASA

---

Archivos complementarios

guia_etiquetado.pdf

Guía de etiquetado utilizada en la fase de anotación manual. Define las tres categorías, proporciona ejemplos positivos y negativos y documenta reglas de resolución de ambigüedades como:

• entidad vs. contexto,
• referencia deíctica,
• completitud del hallazgo,
• distinción entre autoridad política y autoridad científica.

---

Referencias

• Hafid, S. et al. (2022). SciTweets: A dataset and annotation framework for detecting Scientific Online Discourse.
• Hafid, S. et al. (2025). Overview of the CLEF-2025 CheckThat! Lab Task 4 on Scientific Web Discourse Processing.
• Cochran, W. G. (1977). Sampling Techniques.