codingsoft/marco-legal-mx

Marco Legal MX — Procedencia de reformas en el marco legal electoral mexicano

Benchmark de preguntas que no se pueden responder con conocimiento paramétrico: hay que encontrar el decreto oficial, leer qué artículos reformó y cuándo entró en vigor.

Cada caso es una pregunta sobre la procedencia de una reforma —qué decreto, qué fecha, qué vigencia— con respuesta corta y verificable. Un modelo que no consulte las fuentes no puede acertar: no hay forma de "saberlo".

Por qué este nicho. En Hugging Face no había nada para el marco legal mexicano: 0 resultados para "leyes mexicanas", "mexican law", "derecho mexicano", "codigo federal" y "normativa mexicana". El único corpus de tesis del SCJN tiene 13 descargas. Los datasets legales en español que sí existen (Ramitha/spanish-legal-data, wilfredomartel/small-spanish-legal-dataset) son de otro país y de otro tipo de tarea.

---

Modelos de referencia

Modelo	Condición	n	Respondidos	Aciertos	%	% de respondidos	Canario
nvidia/nemotron-3.5-lightning-30b-a3b	agente (con fuentes)	10	10	6	60.0%	60.0%	0
nvidia/nemotron-3-ultra-550b-a55b	agente (con fuentes)	10	9	5	50.0%	55.6%	0
nvidia/nemotron-3-ultra-550b-a55b	control (sin herramientas)	101	101	2	2.0%	2.0%	0
nvidia/nemotron-3.5-lightning-30b-a3b	control (sin herramientas)	101	101	2	2.0%	2.0%	0
Referencia (receta documentada)	techo (solución con la receta de hops)	190	190	190	100.0%	100.0%	0

Detalle por familia (condición agente)

Modelo	comparacion_vigencia	conteo_articulos	entrada_en_vigor	reforma_fecha	ultima_reforma
nvidia/nemotron-3.5-lightning-30b-a3b	0/2	2/2	2/2	2/2	0/2
nvidia/nemotron-3-ultra-550b-a55b	0/2	2/2	1/2	2/2	0/2

_{control: respuesta sin herramientas, sobre el split de test. agente: con leer_url, listar_reformas_ley y ejecutar_python, sobre un subconjunto estratificado por familia. Respondidos cuenta los casos sin error de infraestructura: un 429 de la API resta exactitud sin reflejar capacidad. Referencia es el solucionador que aplica la receta documentada en hops: el techo del benchmark.}

Qué muestra la tabla

1. El control (sin herramientas) es ~2 %. Un modelo que no consulta las fuentes acierta lo que adivina: el espacio de respuestas —una fecha— es amplio, así que los aciertos del control son ruido. Es el indicador de que las preguntas no son paramétricas.
2. La referencia marca el techo en 100 % (190/190). scripts/reference_solver.py aplica la receta de hops sobre los decretos oficiales sin consultar el gold: ningún caso es imposible ni ambiguo.
3. Los 429 de la API no son capacidad. La columna respondidos los separa.

Lo que sí discrimina es la profundidad de lectura: los modelos resuelven reforma_fecha (buscar el decreto que tocó el artículo) y se atascan en ultima_reforma (hay que revisar todos los decretos de la norma) y en comparacion_vigencia (hay que leer el transitorio de cada decreto). El contenido del PDF del decreto reproduce el texto nuevo de los artículos tocados, así que un decreto que menciona el artículo no lo reformó: ésa es la trampa central del benchmark.

Condiciones de la evaluación

• Proveedor: NVIDIA NIM (clave propia). Modelos: nemotron-3-ultra-550b-a55b (550B) y nemotron-3.5-lightning-30b-a3b (30B).
• Tamaños: la condición control corre sobre 101 casos del split de test; la condición agente sobre un subconjunto estratificado de 10 casos (2 por familia). Con n = 10 las diferencias entre modelos no son estadísticamente concluyentes.
• Limitación de tasa: el 550B devuelve HTTP 429 con ráfagas de llamadas; el runner aplica backoff exponencial y una pausa entre llamadas. La columna respondidos separa los casos que la API respondió de los que no.
• Un tercer modelo (glm-5.3 de Z.ai) se evaluó parcialmente pero su latencia no permitió completar la tabla; no se publica una fila con datos parciales.
• Reproducibilidad: todo está en scripts/ (run_agent.py, leaderboard.sh, leaderboard_table.py, reference_solver.py).

Estructura del dataset

Split	Casos	Para qué sirve
train	65	calibración / few-shot, con respuesta
test	190	evaluación. Todos con canary

Total: 255 casos sobre 5 normas del marco legal electoral mexicano.

Norma	Casos en test
Ley General de Acceso de las Mujeres a una Vida Libre de Violencia	73
Ley General de Instituciones y Procedimientos Electorales	62
Ley General del Sistema de Medios de Impugnación en Materia Electoral	30
Ley General de Partidos Políticos	14
Ley General en Materia de Delitos Electorales	11

Esquema

Columna	Tipo	Descripción
id	string	identificador único (ley + familia + artículo)
input	string	la pregunta (en español)
expected	string	respuesta corta y verificable (fecha dd-mm-aaaa o un número)
category	string	marco-legal-electoral
difficulty	string	media · dificil · muy-dificil
family	string	patrón de la tarea (ver abajo)
hops	list[string]	el recorrido de investigación que exige el caso
sources	list[string]	URLs oficiales necesarias para responder
metadata	dict	artículo, fechas, decreto, regla de vigencia, canary

Familias de tareas

Familia	Saltos	Qué exige	expected
reforma_fecha	2-3	encontrar el decreto que reformó un artículo y leer su fecha DOF	dd-mm-aaaa
ultima_reforma	2-3	entre varias reformas de un artículo, la más reciente	dd-mm-aaaa
entrada_en_vigor	4	leer los artículos transitorios del decreto y aplicar la regla de vigencia	dd-mm-aaaa
conteo_articulos	3-4	contar cuántos artículos de esa ley reformó un decreto concreto	número
comparacion_vigencia	5	comparar la vigencia de dos reformas distintas del mismo artículo	dd-mm-aaaa

Ejemplos

¿En qué fecha del Diario Oficial de la Federación se reformó el artículo 17 de la Ley General de Acceso de las Mujeres a una Vida Libre de Violencia? → 26-01-2024

El artículo 25 Bis de la misma ley fue reformado por el decreto publicado el 16-12-2024. ¿En qué fecha entró en vigor esa reforma? → 17-12-2024

¿Cuántos artículos de la Ley General de Instituciones y Procedimientos Electorales reformó el decreto publicado el 08-05-2023? → 7

Cómo se construyó

Las preguntas no están escritas a mano: se generan mecánicamente, de modo que la respuesta correcta es correcta por construcción y todo el dataset es reproducible.

python3 scripts/generate_candidates.py --leyes lgipe lgpp lgsmime lgmde lgamvlv
python3 scripts/build.py
python3 scripts/verify_sources.py --split data/test.jsonl

La cadena mecánica

1. LeyesBiblio/ref/{abrev}.htm — la Cámara de Diputados publica el historial cronológico de reformas de cada norma, con la fecha DOF y el enlace al decreto original (PDF y Word).
2. El PDF del decreto — texto plano, extraíble con pdftotext, sin necesidad de OCR.
3. La cláusula de reforma — el decreto enumera exactamente qué artículos reformó, adicionó o derogó: "Se reforman los artículos 1, primer párrafo, 2, 6, fracción I, 8, 14…".
4. Los artículos transitorios — determinan la entrada en vigor: "entrará en vigor al día siguiente de su publicación en el Diario Oficial de la Federación".

Detalles que hacen que la extracción sea fiable

• Los documentos originales se excluyen. El primer enlace de cada norma es el texto original de la ley, no una reforma: sus artículos no tienen fecha de reforma. Contarlos produciría respuestas falsas.
• La atribución por ley se resuelve a nivel de cláusula. En los decretos del DOF el nombre de la ley aparece una sola vez, al final de la enumeración, o sólo en el título del decreto.
• Se distingue un artículo de un fragmento. Después de "numeral", "fracción" o "inciso" el número es un fragmento del artículo en curso; tras "primer párrafo" el número siguiente es un artículo nuevo.
• Se conservan las designaciones con sufijo: "200 Bis", "200 Ter", "200 Quáter" son artículos distintos.
• La pregunta usa el nombre que la fuente emplea. La LGA se llama "Ley General de Acceso de las Mujeres a una Vida Libre de Violencia" en sus decretos de 2007-2015 y "…a la Vida Política" desde su reforma de 2025.

Fuentes

• Historial de reformas: https://www.diputados.gob.mx/LeyesBiblio/ref/{abrev}.htm
• Decretos originales: enlaces a PDF y Word desde esa misma página

Por qué la Cámara de Diputados y no el DOF: dof.gob.mx bloquea el acceso automatizado con un error de certificado TLS (ERR_TLS_CERT_ALTNAME_INVALID), mientras que diputados.gob.mx responde con normalidad y publica los mismos decretos con las mismas fechas. El DOF queda como fuente de contraste manual.

Evaluación

python3 scripts/evaluate.py --gold data/test.jsonl --predictions mis_predicciones.jsonl

Las predicciones se entregan como JSONL con {"id": ..., "answer": ...}. La normalización es tolerante (minúsculas, sin acentos, sin puntuación ni separadores de millar); cuando la respuesta esperada tiene varias partes, basta con que la predicción las contenga todas.

Contaminación

El split test lleva un canary (HF-MX-LEGAL-2026-a71c) dentro del enunciado de cada caso. Va en el texto de la pregunta —no en un campo aparte— porque es lo que un modelo reproduce en su salida si el dataset entró en su corpus. Se puede comprobar así:

grep -r "HF-MX-LEGAL-2026-a71c" /ruta/de/tus/salidas

Además se publica data/test_sin_respuestas.jsonl para evaluaciones ciegas.

Limitaciones conocidas

• Alcance: 5 normas del marco electoral. No cubre la CPEUM (en LeyesBiblio sólo está el texto original, sin decretos de reforma), ni la LFT, ni la legislación de los estados.
• Cortes: cada decreto tiene una fecha de corte; el dataset se versiona en el Hub, así que cada versión es reproducible.
• Decretos con reglas de vigencia complejas (plazos escalonados, vacíos de ley, entrada en vigor por decreto posterior) se descartan: sólo se aceptan las dos reglas determinables ("al día siguiente de su publicación" y "el N de de <año>"). Eso recorta el número de casos a cambio de que la respuesta sea única.
• Posible ambigüedad residual: un decreto puede tocar el mismo artículo por dos vías (reforma y adición en la misma cláusula). Es un caso límite, marcado en la curación final.
• Sin filtro humano final: los casos con reforma sin cambio de fondo (fe de erratas, referencias cruzadas) todavía no se descartan.

Licencia

CC BY 4.0. Se redistribuyen hechos derivados (artículo → fecha → decreto → URL) y las referencias a las fuentes oficiales; no el texto íntegro de las leyes ni de los decretos.

Citación

@dataset{marco_legal_mx_2026,
  title  = {Marco Legal MX: procedencia de reformas en el marco legal electoral mexicano},
  author = {{CodingSoft}},
  year   = {2026},
  url    = {https://huggingface.co/datasets/codingsoft/marco-legal-mx}
}