Frage: Vorbemerkung der Fragesteller
Am 30. November 2022 hat das US-Start-up Open AI den auf Künstlicher Intelligenz (KI) beruhenden Textgenerator ChatGPT vorgestellt (https://chat.ope nai.com/auth/login). Die Entwickler charakterisieren den Bot folgendermaßen: „Wir haben ein Modell namens ChatGPT trainiert, das auf eine dialogische Weise interagiert. Das Dialogformat ermöglicht es ChatGPT, Folgefragen zu beantworten, Fehler zuzugeben, falsche Prämissen in Frage zu stellen und unangemessene Anfragen zurückzuweisen. ChatGPT ist ein Geschwistermodell von InstructGPT, das darauf trainiert ist, einer Anweisung in einer Eingabeaufforderung zu folgen und eine detaillierte Antwort zu geben“ (ebd., übersetzt mit https://deepl.com).
Die Fragesteller haben die frei zugängliche Forschungsversion von ChatGPT getestet (https://chat.openai.com/chat). Der Bot verwendet eine sachlich-höfliche Sprache, interagiert orthografisch, grammatikalisch und syntaktisch einwandfrei und wechselt auf Wunsch während der Konversation vom Deutschen ins Französische. Regelmäßig weist er darauf hin, ein KI-Modell zu sein, über keinerlei Gefühle und Absichten zu verfügen und als Hilfestellung des Nutzers in Wissensfragen gedacht zu sein. Auf den ersten Blick ist nicht ersichtlich, dass die generierten Antworten nicht von einem Menschen, sondern von einem Algorithmus kommen. Fragen nach jüngeren Ereignissen, etwa zum Literaturnobelpreis für Annie Ernaux oder zum Tod Benedikts XVI., bringen den Bot jedoch an seine Grenzen: Sein digitalisiertes Wissen reicht bis zum September 2021, er verfügt gegenwärtig über keinen Zugang zum Internet, um seine Datenbank à jour zu halten (digitale Antworten des ChatGPT auf Fragen der Fragesteller).
Die Software hat nach Auskunft der Firmenleitung binnen weniger Tage 1 Million Nutzer erreicht. Open AI wurde 2015 gegründet mit dem Anspruch, KI-Lösungen zu entwickeln, die einen „Nutzen für die Menschheit“ stiften und dabei mögliche Schäden vermeiden. Seit 2019 arbeitet das Unternehmen gewinnorientiert, im selben Jahr stieg der Konzern Microsoft als Investor ein. Gegenwärtig befindet sich Open AI in Verhandlungen über eine weitere milliardenschwere Beteiligung von Microsoft (Microsoft greift nach Open AI, in: Frankfurter Allgemeine Zeitung, 11. Januar 2023, S. 22).
Während einer kürzlich erfolgten Reise in die USA hat der Bundesminister für Digitales und Verkehr, Dr. Volker Wissing, auch mit Repräsentanten des Start-ups Open AI gesprochen. Er lehnt einem Pressebericht zufolge eine strenge Regulierung künstlicher Intelligenz ab und plädiert im Umgang mit KI-Lösungen für Transparenz und Zertifizierungen (https://www.zeit.de/politik/2023-01/digitalminister-volker-wissing-kuenstliche-intelligenz-chatgpt).
1. Hat die Bundesregierung oder eine ihr nachgeordnete Behörde Kenntnis über den Bot ChatGPT (siehe Vorbemerkung der Fragesteller) und hat diesen eventuell bereits getestet, und wenn ja, sieht die Bundesregierung Potenziale und oder mögliche Risiken des Bots ChatGPT (bitte ausführen, wo sie diese ggf. sieht)?
Antwort: Die Bundesregierung beschäftigt sich regelmäßig mit technologischen Neuheiten und hat die KI-basierte Software ChatGPT auch bereits getestet.
So hat beispielsweise das Bundesamt für Sicherheit in der Informationstechnik (BSI) mit dem Fokus der IT-Sicherheit Tests mit dem ChatBot durchgeführt. Auch das Datenlabor des Bundesministeriums für wirtschaftliche Zusammenarbeit und Entwicklung (BMZ) sowie die Physikalisch-Technische Bundesanstalt haben ChatGPT getestet.
ChatGPT ist ein Beispiel für die bekannten Chancen und Risiken im Umgang mit KI-Systemen.
Grundsätzlich sieht die Bundesregierung großes Potential in der Verwendung von Sprachmodellen in der digitalen Verwaltung.
Allerdings müssen beispielsweise grundrechtliche Fragestellungen, urheber- und datenschutzrechtliche Aspekte, Fragen zur Vermeidung von Diskriminierung, zur Zuverlässigkeit, Erklärbarkeit und Nachvollziehbarkeit etwaiger Ergebnisse sowie wirtschaftliche Fragestellungen im Hinblick auf den Ressourcenaufwand und die mit einer Abfrage verbundene erhebliche Rechenleistung betrachtet werden. Darüber hinaus müssen die Ergebnisse auch im Rahmen einer Risikoanalyse betrachtet werden.