[ca] La integració de la intel·ligència artificial (IA) en l'educació superior presenta un vast potencial per a la innovació i la transformació, abastant tant els processos d'ensenyament i aprenentatge com la gestió i la recerca. No obstant això, aquest ús comporta una sèrie de desafiaments i riscos que requereixen atenció, especialment en termes d'ètica i responsabilitat. La regulació amb el recent Reglament de la Unió Europea sobre IA (Artificial Intelligent Act, AIA), cerca proporcionar un marc per a un ús ètic i segur d'aquesta tecnologia. En aquest context, és essencial que els estudiants universitaris adquireixin un nivell adequat de coneixement i habilitats per a interactuar amb la IA de manera crítica i responsable. La verificació humana o el human on the loop emergeix com un component fonamental per a un ús ètic i alineat amb els ODS i el disseny universal de l'aprenentatge (DUA). Aquest enfocament implica la supervisió i validació contínua del funcionament i els resultats de les aplicacions de IA, així com la intervenció quan sigui necessari per a corregir o millorar el seu acompliment. L'experiència que presentem es desenvolupa en el context d'un projecte d'innovació educativa, i s'enfoca a avaluar el grau de coneixement i usabilitat de la IA entre estudiants universitaris. A més, investiga el paper que exerceix la verificació humana en la interacció dels estudiants amb la IA. A través d'un qüestionari en línia per a una primera avaluació diagnòstica i la realització d'activitats pràctiques, pretenem preparar a l'estudiantat per a un món digital i tecnològic en permanent canvi, promoure un ús adequat i fomentar una reflexió crítica sobre l'impacte i l'ètica de la IA en la societat i l'entorn educatiu.

[es] La integración de la inteligencia artificial (IA) en la educación superior presenta un vasto potencial para la innovación y la transformación, abarcando tanto los procesos de enseñanza y aprendizaje como la gestión y la investigación. Sin embargo, este uso conlleva una serie de desafíos y riesgos que requieren atención, especialmente en términos de ética y responsabilidad. La regulación con el reciente Reglamento de la Unión Europea sobre IA (Artificial Intelligent Act, AIA), busca proporcionar un marco para un uso ético y seguro de esta tecnología. En este contexto, es esencial que los estudiantes universitarios adquieran un nivel adecuado de conocimiento y habilidades para interactuar con la IA de manera crítica y responsable. La verificación humana o el human on the loop emerge como un componente fundamental para un uso ético y alineado con los ODS y el diseño universal del aprendizaje (DUA). Este enfoque implica la supervisión y validación continua del funcionamiento y los resultados de las aplicaciones de IA, así como la intervención cuando sea necesario para corregir o mejorar su desempeño. La experiencia que presentamos se desarrolla en el contexto de un proyecto de innovación educativa, y se enfoca en evaluar el grado de conocimiento y usabilidad de la IA entre estudiantes universitarios. Además, investiga el papel que desempeña la verificación humana en la interacción de los estudiantes con la IA. A través de un cuestionario en línea para una primera evaluación diagnóstica y la realización de actividades prácticas, pretendemos preparar al estudiantado para un mundo digital y tecnológico en permanente cambio, promover un uso adecuado y fomentar una reflexión crítica sobre el impacto y la ética de la IA en la sociedad y el entorno educativo.