Document ID: /fineweb-2-swissfilter-quality_10-filterrobots/filtered/03474.jsonl.gz/364

Instrumente der generativen Künstlichen Intelligenz (KI) erstellen in wenigen Sekunden Inhalte wie Texte, Bilder, Codes, Musik oder Videos auf der Basis von Mustern und Strukturen verwendeter Trainingsdaten.
Je nach Inhalt werden unterschiedliche Daten zum Trainieren von KI-Algorithmen verwendet. Ein Beispiel dafür sind Large Language Models (LLMs), welche auf Textanalyse, -verarbeitung sowie Textgenerierung spezialisiert sind und mit sehr grossen Datensätzen trainiert wurden. Die ausgegebenen Resultate basieren auf Plausibilitäten und Wahrscheinlichkeiten; Kategorien wie «richtig» vs. «falsch» oder «wahr» vs. «unwahr» kennt die generative KI hingegen nicht. In der Konsequenz sind Ergebnisse oft fehlerhaft, einseitig (biased) oder gar erfunden (sog. Halluzinationen oder confabulations). Zugleich ergibt sich daraus, dass das immer mächtiger werdende Potential der generativen KI in gleichem Masse wie sie konstruktiv und nutzbringend auch destruktiv und zerstörerisch eingesetzt werden kann.
Die verantwortungsvolle und informierte Nutzung generativer KI im Sinne von Assistenzsystemen kann auch im wissenschaftlichen Kontext sehr hilfreich sein, etwa bei Brainstorming, Themenfindung und Schärfung einer Fragestellung, zur Verschaffung eines ersten Überblicks oder bei der Generierung von Codes, Illustrationen, Tabellen oder Präsentationen, aber auch zur Fehlerbehebung oder Redaktion.
Die rasche und kontinuierliche (Weiter-)Entwicklung von immer mehr Instrumenten der generativen KI birgt im universitären Kontext sowohl im Lehrbetrieb als auch in der Forschung aber auch diverse Herausforderungen und Risiken. Diese betreffen zentral das Konzept von Autorschaft (und damit auch das Urheberrecht), neue Formen wissenschaftlichen Fehlverhaltens durch undeklarierte oder intransparente Nutzung von Instrumenten der generativen KI, damit auch die Glaubwürdigkeit von Wissenschaft und wissenschaftlichen Publikationen überhaupt, das erhebliche Missbrauchspotential für (z.B. wissenschaftsfeindliche) Desinformationskampagnen oder die Tradierung von Biases.
Vor diesem Hintergrund wird deutlich, dass eine verantwortungsvolle Nutzung von Instrumenten der generativen KI ein Wissen um deren Limitationen ebenso voraussetzt:
Eine informierte und den Grundsätzen von akademischer Integrität entsprechende Nutzung der generativen KI setzt nicht nur Übung und ein Wissen um die Limitationen der jeweiligen Instrumente voraus, sondern auch eine profunde Kenntnis des jeweiligen Fachgebiets, da die Faktizität aller Aussagen unabhängig von der KI geprüft und beurteilt können werden muss.