Uso de la Inteligencia Artificial Generativa en educación desde una perspectiva ética
Creators: name: García-Peñalvo, Francisco José
Publisher: name: Grupo GRIAL
Year: 2024
Subjects: Inteligencia Artificial Generativa
Educación Superior
LLM
Herramientas para el desarrollo de aplicaciones educativas inteligentes
Ética
Inteligencia Artificial Segura en Educación

description: La conferencia invitada “Uso de la Inteligencia Artificial Generativa en educación desde una perspectiva ética” se impartió el 12 de noviembre de 2024 en el Instituto Politécnico Superior (Ciudad de México), dentro de la VII edición del Taller Internacional de Cómputo Inteligente (VII TICI) organizado por el Laboratorio de Cómputo Inteligente.

La Inteligencia Artificial Generativa (IAGen) está impactando significativamente el ámbito educativo, desde la creación de contenidos hasta la personalización de la enseñanza. No obstante, el uso de estas tecnologías trae consigo retos éticos que deben ser atendidos. La seguridad, la privacidad y la transparencia son fundamentales para construir un entorno educativo que sea justo y equitativo. Por ello, se exploran estos principios, apoyándose en el Safe AI in Education Manifesto, que destaca la necesidad de una implementación de la IAGen en la educación basada en principios éticos.

 

Uno de los temas principales se refiere a la percepción de la IAGen como una herramienta que a menudo se interpreta como “mágica” por sus capacidades avanzadas y la falta de comprensión profunda de su funcionamiento, como expresó Arthur C. Clarke en su famosa tercera ley. A partir de esto, se discute cómo la IAGen, aunque poderosa, depende de modelos como los Large Language Models (LLM) que, a pesar de sus capacidades, no comprenden ni razonan de la misma manera que los humanos. Estos modelos son redes neuronales con millones de parámetros que predicen palabras en base a grandes cantidades de datos, un proceso que implica altos costos energéticos y financieros, lo cual añade otra capa ética respecto al impacto ambiental.

 

Se abordan los desafíos de la adopción de herramientas de IAGen generalistas sin pasar por una revisión crítica previa, especialmente cuando se utilizan en contextos educativos. Estos modelos pueden no estar alineados con los objetivos específicos de la educación y, en algunos casos, pueden producir respuestas imprecisas o sesgadas. Frente a ello, se resalta la importancia de crear herramientas educativas de nueva generación basadas en IAGen que ofrezcan un entorno seguro para el usuario y que sean evaluadas rigurosamente.

 

El Safe AI in Education Manifesto propone varios principios clave para la implementación de la IAGen en el ámbito educativo. Estos incluyen la supervisión humana y la responsabilidad, el respeto a la privacidad, la precisión en las respuestas, y la necesidad de que las herramientas de IA se integren en estrategias educativas de forma ética y transparente. La interfaz y el comportamiento de las herramientas de IAGen deben ser entendibles y deben proporcionar una experiencia segura y explicativa para los estudiantes.

 

Finalmente, se subraya la importancia de la alfabetización en IA tanto para el profesorado como para el estudiantado. En lugar de prohibir el uso de estas herramientas, se destaca la necesidad de formar a los usuarios en un uso crítico y ético de la tecnología, promoviendo habilidades de pensamiento crítico y comprensión profunda. La IAGen ofrece beneficios significativos, como el apoyo en la evaluación personalizada y la mejora de la productividad. Sin embargo, es fundamental que se utilicen bajo un marco ético que garantice el bienestar y el desarrollo integral de los estudiantes y profesores en la era de la inteligencia artificial.