Empfehlungen für eine evidenzbasierte Nutzung von Künstlicher Intelligenz und Large Language Modells in Hochschulen: Ergebnisse eines  systematischen Reviews
Creators: name: Leitgeb, Thomas
name: Leitgeb, Michael
Publisher: name: University College of Teacher Education Burgenland
Year: 2024
Subjects: subject: AI in Higher Education
subject: Artificial intelligence
subject: Large Language Models (LLMs) Implementation
subject: Ethical Considerations and Data Protection
subject: Systematic Literature Review

description: Abstract Deutsch

Die Künstliche Intelligenz (KI) und insbesondere Large Language Models (LLMs) haben in den letzten Jahren erheblich an Bedeutung im Bildungssektor gewonnen. Diese Technologien bieten vielfältige Einsatzmöglichkeiten, wie die Personalisierung des Lernens, Effizienzsteigerungen in administrativen Prozessen und die Einführung innovativer Lehrmethoden. Trotz der zahlreichen Potenziale besteht eine Forschungslücke hinsichtlich der konkreten Gestaltung und Implementierung von KI-Systemen in der Hochschulbildung, die sowohl technische Effizienz als auch ethische Standards berücksichtigt. Die vorliegende Arbeit schließt diese Lücke durch eine systematische Literaturanalyse gemäß den PRISMA-Richtlinien, wobei 116 relevante Studien aus den Datenbanken Web of Science, Scopus und Google Scholar ausgewertet wurden.

Die Analyse zeigt, dass KI und LLMs signifikante Vorteile für die Hochschulbildung bieten, wie die Erstellung individualisierter Lernpfade und die Automatisierung von Bewertungsprozessen. Gleichzeitig identifiziert die Studie wesentliche Herausforderungen, darunter Datenschutzprobleme, algorithmische Verzerrungen (Bias) und die mangelnde Erklärbarkeit komplexer Modelle. Ethische Implikationen wie Fairness und Gleichberechtigung werden ebenfalls kritisch beleuchtet. Um diese Herausforderungen zu bewältigen, werden konkrete Handlungsempfehlungen für hochschulische Bildungseinrichtungen entwickelt. Dazu gehören die Entwicklung hochschuleigener KI-Systeme zur besseren Datenkontrolle, die Förderung interdisziplinärer Zusammenarbeit, umfassende Schulungsprogramme für Lehrkräfte sowie die Etablierung von Governance-Strukturen und ethischen Leitlinien.

Die Ergebnisse unterstreichen die Notwendigkeit einer integrativen Perspektive, die technische und ethische Aspekte gleichermaßen berücksichtigt, um das volle Potenzial von KI im Bildungsbereich verantwortungsvoll auszuschöpfen. Diese Arbeit liefert praxisorientierte Leitlinien für die effektive und ethisch fundierte Implementierung von KI-Technologien in der Hochschulbildung und trägt somit zur Verbesserung der Bildungsqualität und zur Sicherstellung von Datenschutz und Fairness bei.

 

Abstract English

Artificial Intelligence (AI), particularly Large Language Models (LLMs), have gained significant importance in the education sector in recent years. These technologies offer a variety of applications, such as the personalization of learning, efficiency improvements in administrative processes, and the introduction of innovative teaching methods. Despite the numerous potentials, there exists a research gap regarding the concrete design and implementation of AI systems in higher education that consider both technical efficiency and ethical standards. The present work closes this gap through a systematic literature analysis in accordance with PRISMA guidelines, evaluating 116 relevant studies from the Web of Science, Scopus, and Google Scholar databases.

The analysis shows that AI and LLMs provide significant advantages for higher education, such as the creation of individualized learning paths and the automation of assessment processes. At the same time, the study identifies essential challenges, including data privacy issues, algorithmic biases, and the lack of explainability of complex models. Ethical implications, such as fairness and equality, are also critically examined. To address these challenges, concrete recommendations for educational institutions are developed. These include the development of proprietary, internally hosted AI systems for better data control, the promotion of interdisciplinary collaboration, comprehensive training programs for educators, as well as the establishment of governance structures and ethical guidelines.

The results emphasize the necessity of an integrative perspective that equally considers technical and ethical aspects to responsibly harness the full potential of AI in the educational sector. This work provides practical guidelines for the effective and ethically grounded implementation of AI technologies in higher education, thereby contributing to the improvement of educational quality and ensuring data privacy and fairness.