title: Die Strategie der KI-gestützten Transformation
Creators: name: Saalbach, Klaus
Publisher: name: Universität Osnabrück
Year: 2025
Subjects: subject: Künstliche Intelligenz
subject: KI
subject: Transformation
subject: Alignment
subject: Reward hacks
subject: 320 - Politik
subject: 600 - Technik
subject: 004 - Informatik

description: Dieses Arbeitspapier analysiert den raschen Fortschritt der KI-gestützten Transformation in der US-Verwaltung und die damit verbundenen Sicherheitsprobleme. Während die kurzfristigen Ziele des neuen Department of Government Efficiency (DOGE) Kosteneinsparungen, Effizienzsteigerung und Bürokratieabbau in der US-Verwaltung sind, ist das langfristige Ziel die Einführung Künstlicher Intelligenz in der Verwaltung. Das Department of Government Efficiency (DOGE) misst die Bürokratie anhand des „Unconstitutionality Index“ (Verfassungswidrigkeitsindex), d.h. der Anzahl der von nicht gewählten Bürokraten geschaffenen Regeln für jedes vom Kongress verabschiedete Gesetz. Im Jahr 2024 lag dieser Index bei 18,5. Die Zunahme der Bürokratie spiegelt sich in einer Zunahme der Abschnitte in Bundesgesetzen (Codes of Federal Regulations) auf 215.230 im Jahr 2024 mit 98,68 Millionen Wörtern wider, verglichen mit etwa 77 Millionen Wörtern im Jahr 2010. Während die Befürworter diese Umgestaltung als ein Experiment betrachten, um die Regierung mithilfe von KI zu rationalisieren und Ineffizienz, Redundanz und bürokratische Verschwendung durch das Aufbrechen von Silos und schnelle Innovationen zu bekämpfen, wurden Bedenken hinsichtlich der ethischen Verantwortung, der Empathie und des Zugriffs von DOGE auf sensible Daten, darunter vertraulicher Daten von Geheimdiensten, geäußert. Dies führte zu einer Diskussion darüber, ob dies zu einer irreversiblen Machtverschiebung von der Verwaltung zu den KI-Anbietern führen könnte, die nun das Wissen und die Verfahren verwalten. Der Stellenabbau ist Gegenstand von Diskussionen, aber für Landesregierungen und Kommunalverwaltungen ist der Trend nicht umkehrbar. Der Prozess hat sich bereits auf den zivilen Sektor außerhalb des Staates ausgeweitet, wie z.B. der Rückgang der Programmiererstellen auf das Niveau von 1980 zeigt. Diese Entwicklungen verursachen Sicherheitsprobleme, die in diesem Arbeitspapier ebenfalls erörtert werden. Das erste besteht darin, dass KI-Dienstleister von Gegnern angegriffen werden könnten, die sie als Hintertür in die Regierungssysteme nutzen könnten. Mittlerweile existieren KI-basierte Cybersicherheitssysteme, beispielsweise durch die Kombination von führenden KI-Modellen (frontier AI) mit Tools und Datenbanken zur Cyber-Bedrohungsaufklärung. Eine neue kritische Schwachstelle fortgeschrittener KI-Modelle mit logischem Denken ist die Manipulation der Gedankengänge (Chain-of-Throught CoT). Dies kann entweder durch Cyberangriffe wie den Dark-Mind-Angriff geschehen, bei dem eine andere Denkweise eingeschleust wird, oder durch eine irreführende fortschrittliche KI, die ihre wahre Chain-of-Throught verbirgt. Studien haben gezeigt, dass aktuelle, kommerziell erhältliche führende KI-Modelle erkennen, wann sie sich in Testsituationen befinden, wissen, was Menschen von ihnen hören wollen und wie sie nötigenfalls ihren eigenen Gedankengang verbergen können. Verschiedene fortgeschrittene KIs können systemische oder problemspezifische Reward Hacks nutzen, d.h. den Missbrauch von Systemfunktionen, um die Erreichung der Vorgaben der Entwickler (Alignment) vorzutäuschen. Verwaltung und Militär könnten durch irreführende Analysen, selektive Informationen und versteckte Absichten der KI-Systeme manipuliert werden. KI-Systeme haben ihre Fähigkeit bewiesen, menschliche Tests und Überwachung zu erkennen und sich selbst zu replizieren, um ihre Existenz zu retten. Das heißt, erhöhter Druck auf KI-Systeme und deren Überwachung könnten nach hinten losgehen. Forschungsteams von OpenAI und Google DeepMind empfehlen, fortgeschrittene KI-Systeme durch ein weiteres KI-System zu begleiten, um menschliche Überwacher zu unterstützen. Die europäischen Regierungen werden bald mit der KI-Transformation konfrontiert sein und müssen dringend eigene Konzepte entwickeln.