Frage: 25. Wird nach Kenntnis der Bundesregierung im Bereich der Träger des sozialen Sicherungssystems bereits „künstliche Intelligenz“ genutzt, und
a) wenn ja, wo,
b) welchen Einfluss hat dies auf die Personalkultur,
c) welchen Einfluss hat dies auf die Finanzlage?
Antwort: Beim überwiegenden Teil der Träger der Sozialversicherung wird KI derzeit noch nicht im Produktivbetrieb genutzt. Entsprechend können keine verlässlichen Aussagen hinsichtlich eines möglichen Einflusses auf die Personalkultur und die Finanzlage getroffen werden. Die Nutzung von KI im produktiven Be-
trieb der gesetzlichen Unfallversicherung findet bei der Berufsgenossenschaft Energie Textil Elektro Medienerzeugnisse aktuell in drei Bereichen statt. Es ist ein System zur Ermittlung von Unfalltendenzbetrieben im Einsatz, ein System zur Optimierung von Regressfallanalysen und ein System zur zeitnahen Identifikation von potenziellen Reha-Managementfällen. Verlässliche Aussagen zu Auswirkungen des KI-Einsatzes auf die Personalkultur oder die Finanzlage sind zum gegenwärtigen Zeitpunkt nicht möglich.
Nach Auskunft der Deutschen Rentenversicherung Bund (DRV Bund) liegen keine Kenntnisse vor, dass KI in der Leistungserbringung der Rentenversicherung aktuell produktiv eingesetzt wird. Daher können auch keine verlässlichen Aussagen hinsichtlich eines möglichen Einflusses auf die Personalkultur und die Finanzlage gemacht werden. Es ist nicht auszuschließen, dass einzelne im Einsatz befindliche Softwareprodukte (z. B. im Bereich der IT-Sicherheit oder der Dokumentensuche) KI-Ansätze verwenden. Über die Auswirkungen dieses mittelbaren Einsatzes von KI auf die Personalkultur und die Finanzlage können keine Aussagen getroffen werden. Weitere Projekte zur Auslotung potentieller Anwendungsfelder bis hin zu ersten Pilotprojekten sind sowohl bei der DRV Bund als auch bei der Sozialversicherung für Landwirtschaft, Forsten und Gartenbau (SVLFG) angesiedelt.
Der inzwischen erreichte hohe Grad der Digitalisierung erlaubt es der BA, einen stärkeren Fokus auf den Einsatz von KI zu legen. Die BA analysiert hierbei Anforderungen und Möglichkeiten für den Einsatz der KI, um neue innovative Ansätze im Umfeld der Automatisierung sowie für weitergehende Dienstleistungen zu erschließen. Dies erfolgt insbesondere in den Fällen, wenn deterministische Systeme an ihre Grenzen stoßen, im Kontext großer Datenmengen und insofern kontrolliert lernende Systeme die technologisch beste Lösung darstellen. Chancen und Risiken werden hierbei für jeden Einzelfall untersucht, bewertet und dokumentiert. Der Einsatz von KI-Methoden bedarf dabei insbesondere im Bereich der sozialen Sicherung der Beachtung von Vorgaben. Vorrangig betrifft dies die Einhaltung von Vorgaben der Zweckbindung erhobener Sozialdaten, von Datenschutz und Datensicherheit. Ziel ist es, dass sich Mitarbeiterinnen und Mitarbeiter der BA stärker auf mehrwertstiftende Tätigkeiten ihres Kerngeschäfts fokussieren können. Die Prinzipien der Human Friendly Automation werden konsequent berücksichtigt sowie die datenethischen Prinzipien der BA für jeden Anwendungsfall eingehalten, um unbeabsichtigte Diskriminierungen auszuschließen.
Einfache Anwendungsfälle, wie die Klassifizierung (Vorstrukturierung) von Dokumenten, sind bereits gegenwärtig im Einsatz. Komplexe Anwendungen unter Verwendung von sogenannten „Unsupervised Machine Learning-Methoden“ werden derzeit in der BA noch nicht eingesetzt.
Die BA unterscheidet beim Einfluss von KI auf die Personalkultur vier unterschiedliche Typen von Auswirkungen: Ersatz, Entlastung, Einschränkung sowie Entstehung neuer maschinell ausgeführter Arbeit. Der Einsatz von KI in der BA betrifft derzeit insbesondere die Auswirkungstypen Ersatz (Aufgaben oder Teilaufgaben fallen weg) sowie Entlastung (Aufgaben oder Teilaufgaben werden einfacher) und unterstützt die Wertschöpfung der BA positiv. Im Rahmen einer guten Personalkultur werden mögliche Vorbehalte des Personals im Umgang mit KI aufgegriffen und darauf hingewirkt, das Personal gut zu begleiten, zu unterstützen und mitzunehmen. Einen Einfluss auf die Finanzlage der BA ist derzeit nicht absehbar.
Die BA, die DRV Bund, die Deutsche Rentenversicherung Knappschaft-Bahn-See, die SVLFG, die Deutsche Gesetzliche Unfallversicherung e. V. und die Träger der gesetzlichen Unfallversicherung sowie die Künstlersozialkasse waren im Netzwerk KI in der Arbeits- und Sozialverwaltung des BMAS an der Erarbeitung der selbstverpflichtenden Leitlinien für den KI-Einsatz in der behördlichen Praxis beteiligt und haben sich den Empfehlungen der Leitlinien angeschlossen.