You need to agree to share your contact information to access this dataset

This repository is publicly accessible, but you have to accept the conditions to access its files and content.

Log in or Sign Up to review the conditions and access this dataset content.

Reglamento aeronautico Colombiano QA

1. Descripción geneneral.

Este contenido se refiere a un conjunto de datos (dataset) que se ha elaborado basándose en el Reglamento Aeronáutico Colombiano. A partir del contenido original del reglamento, se ha utilizado inteligencia artificial para extraer información relevante y crear un conjunto de preguntas y respuestas. Este proceso permite transformar el reglamento, que puede ser extenso y complejo, en un formato más accesible y comprensible, facilitando el aprendizaje y la revisión de sus normativas para personas interesadas en la aviación colombiana, ya sean profesionales del sector, estudiantes o entusiastas. La utilización de IA para este propósito no solo mejora la eficiencia en la generación de material educativo, sino que también asegura que las preguntas y respuestas sean precisas y estén alineadas con el contenido y espíritu del reglamento.

2. Descripción de los objetivos.

El proyecto descrito tiene como objetivo principal la creación de un dataset de alta calidad a partir del Reglamento Aeronáutico Colombiano mediante un proceso en dos etapas, utilizando tanto inteligencia artificial como intervención humana. En la primera etapa, se emplea una inteligencia artificial para extraer datos relevantes del reglamento y generar un conjunto preliminar de preguntas y respuestas. Este enfoque automatizado permite cubrir de manera eficiente un amplio espectro del material, identificando temas clave y generando preguntas pertinentes que reflejan el contenido y la estructura del reglamento.

En la segunda etapa, estos datos son revisados por etiquetadores humanos. Este equipo de revisores valida las respuestas generadas por la IA, realizando correcciones y ajustes según sea necesario para asegurar la precisión y relevancia del contenido. Este paso de validación es crucial para garantizar la calidad del dataset, pues permite incorporar el entendimiento humano y la interpretación precisa de las normativas, algo que la IA, por avanzada que sea, puede no lograr a la perfección.

El dataset final, validado y refinado, se destina a entrenar un modelo de inteligencia artificial más específico y de menor escala. Este modelo está diseñado para realizar tareas concretas relacionadas con el Reglamento Aeronáutico Colombiano, posiblemente incluyendo la automatización de consultas, asistencia en la interpretación de las normativas, y apoyo en la formación y evaluación de personal en el sector aeronáutico. El entrenamiento con datos de alta calidad asegura que el modelo sea efectivo, confiable y preciso en sus tareas designadas, reflejando así el compromiso con la excelencia y la seguridad que caracteriza al sector aeronáutico.

3. PDF extraidos.

RAC 1 hasta el Rac 5.

4. Distribución de los tokens Gemma.

5. Modelo a fine-tune.

Este modelo previamente se a entrenado con el dataset de 'OpenAssistant/oasst2' que contiene mas de 15 idiomas y se hizo un filtro de datos.

https://huggingface.co/NickyNicky/gemma-2b-it_oasst2_all_chatML_Unsloth_V1

6. Ejemplo de plantilla basica.

Es una plantilla de ejemplo para entrenamiento de gemma-2b. El proposito de esta plantilla es que el modelo aprenda a generalizar sobre las normativas aeronauticas Colombiana.

<bos><start_of_turn>system
You are a helpful AI assistant.
Responde en formato json.
Eres un agente experto en la normativa aeronautica Colombiana.<end_of_turn>
<start_of_turn>user
¿Qué sucede con las empresas de servicios aéreos comerciales que no hayan actualizado su permiso de operación después del 31 de marzo de 2024?<end_of_turn>
<start_of_turn>model
{
    "Respuesta": "Quedarán suspendidas de actividades de vuelo hasta obtener la actualización.",
    "Pagina": "77",
    "Rac": "Rac 5"
}<end_of_turn>

7. Ejemplo en una variable en Python.

# con esto se elimina los interrogantes incompletos. 
question = "Qué sucede si la Autoridad Aeronáutica hace requerimientos o solicita aclaraciones sobre una solicitud de operación de fletamento?".replace("¿","").replace("?","")

text = f"""<bos><start_of_turn>system
You are a helpful AI assistant.
Responde en formato json.
Eres un agente experto en la normativa aeronautica Colombiana.<end_of_turn>
<start_of_turn>user
¿{question}?<end_of_turn>
<start_of_turn>model
"""

8. Datos Iniciales

Datos iniciales solo del RAC 1.

name: somosnlp/Reglamento_aeronautico_Colombiano_QA_RAC1_FULL
url: https://huggingface.co/datasets/somosnlp/Reglamento_aeronautico_Colombiano_QA_RAC1_FULL

9. Posibles nombres del modelo.

name 1: AeroReg_Col_AI
name 2: AeroReg_Cop_AI
name 3: AeroReg_AI

imagen del modelo AI.

Codigo entrenamiento.

En Kamino...

Autores

  • Edison Bejarano
  • Nicolai Potes
  • Santiago Pineda
  • Dany
  • Alex
  • Sergio
Downloads last month
7
Edit dataset card

Models trained or fine-tuned on somosnlp/Reglamento_aeronautico_Colombiano_FULL_ChatML_format_gemma