Modelo ajustado SENA (ejemplo de la semana 6)
Ejemplo resuelto de la semana 6 del curso SENA "Iniciación a la Inteligencia Artificial" para ADSO (2026). Guía y notebooks: https://github.com/inghggw/iniciacion-ia-adso
Qué es
Qwen/Qwen2.5-0.5B-Instruct reentrenado con LoRA para responder preguntas cortas sobre la API de tareas del curso (FastAPI). Es un modelo de práctica: muestra qué se gana y qué se pierde al hacer fine-tuning con pocos datos.
Datos y entrenamiento
- 40 pares de pregunta y respuesta de prueba, sin datos personales: 5 sobre la API (crear, listar, error 404, documentación y qué es ADSO) y 35 de relleno con la misma forma. Un aprendiz debe escribir 40 ejemplos reales sobre su tema.
- LoRA (r=16, alpha=32, todas las capas lineales), 5 épocas, tasa de aprendizaje 2e-4, float32.
- GPU T4 gratis de Google Colab: menos de un minuto. En una ejecución de prueba la pérdida bajó de 2,29 a 0,05.
- El ajuste LoRA se fusionó con el modelo base antes de publicarlo.
Resultados
- Responde bien lo que estaba en los datos: "¿Cómo listo las tareas?" → "Haz un GET a /tareas."
- Inventa con seguridad lo que no estaba: dijo que la API usa Flask (usa FastAPI) y que una tarea se elimina con un POST.
Limitaciones
No usar como asistente real. Para responder con información confiable sobre documentos es mejor RAG (semana 4 del curso).
Autor
Henry Giovanny González Waltero, instructor SENA, Centro de Comercio y Servicios, Regional Tolima.
- Downloads last month
- 379