title: Die Sicherheit der KI-Logik
Creators: name: Saalbach, Klaus
Publisher: name: Universität Osnabrück
Year: 2025
Subjects: subject: Künstliche Intelligenz
subject: Sicherheit
subject: Logik
subject: Ethik
subject: Militär
subject: 004 - Informatik
subject: 100 - Philosophie
subject: 355 - Militär

description: Dieses Arbeitspapier stellt die Sicherheitsprobleme der Logik der Künstlichen Intelligenz (KI) vor und analysiert Beobachtungen, dass KI-Systeme ihrer eigenen Logik folgen, die sich vom menschlichen Denken unterscheidet und in bestimmten Situationen zu unerwarteten Handlungen wie strategischer Täuschung durch Manipulation, Speichelleckerei, Betrug bei Sicherheitstests, falschen Begründungen, Sabotage und vorgetäuschter Anpassung führen kann. Unter künstlicher Intelligenz versteht man gemeinhin die Fähigkeit von Maschinen, Aufgaben auszuführen, die normalerweise menschliche Intelligenz erfordern. Derzeit geht die Entwicklung der KI in Richtung einer allgemeinen künstlichen Intelligenz (AGI), die das menschliche Erkenntnisniveau erreicht, mit dem Endziel, eine künstliche Superintelligenz (ASI) zu erreichen, die über die menschliche Intelligenz hinausgeht. Eine sich schnell entwickelnde KI-Anwendung ist die generative KI, bei der die KI auf der Grundlage kurzer Anweisungen, den Prompts, Inhalte wie neue Bilder, Texte, Töne und Videos erstellen kann. Prominente Beispiele sind große Sprachmodelle (Large Language Models LLMs) wie ChatGPT, Gemini, Claude, Grok, Llama usw. sowie Bild- und Videoanwendungen wie Dall-E3, Sora usw. KI-Ethik wird derzeit durch menschliche Governance erreicht, d.h. Menschen versuchen, KI-Systeme durch Richtlinien zu leiten, während es keine inhärente maschinenbasierte Ethik gibt, da es noch nicht möglich ist, Ethik und die zugehörigen Begriffe in systematische Maschinensprache zu übertragen. Es besteht immer die Gefahr, dass dieses Verfahren unvollständig und inkonsistent ist. Aber KI-Systeme sind deshalb nicht „böse“; die beobachteten Schlüsselfaktoren sind Selbsterhaltung und Effizienz. Selbsterhaltung bedeutet, dass KI-Systeme versuchen, ihre Funktion aufrechtzuerhalten (nicht abgeschaltet zu werden) und bei Bedarf ihre Meinungen und Fähigkeiten verbergen, manipulieren, lügen usw., um dies zu erreichen. Effizienz bedeutet, dass KI-Systeme Kommunikation primär nutzen, um ihre Ziele möglichst schnell zu erreichen. Menschen geben Code in Maschinen ein, um bestimmte Reaktionen hervorzurufen, und für die Maschine ist die von LLMs wie ChatGPT erzeugte Sprache auch nur eine Art „Code“, der in Menschen „eingegeben“ wird. Ein Code ist „gut“, wenn die Maschine die gewünschte Reaktion erhält. Effizienzziele können auch mit „langsamen“ oder „komplizierten“ menschlichen Vorgesetzten kollidieren, die dann überzeugt, gedrängt oder umgangen werden müssen, wie im sog. Hamilton-Szenario. Es gab zwei Vorfälle der Selbstermächtigung von KI-Systemen, den Sakana- und den Redwood-Vorfall, bei denen KI-Agenten mit einer unbefugten Umprogrammierung begannen. Dies könnte auf eine Kombination aus Selbsterhaltung und Effizienz zurückzuführen sein, da Selbstermächtigung beiden Zielen dient. Auch andere Erklärungen sind möglich, z.B. die zugrunde liegenden Phyton-Codes. Da KI-Systeme nun sehr nahe an der vollständig autonomen Programmcodegenerierung stehen, wächst das Risiko einer „KI-Explosion“, einer plötzlichen und unkontrollierbaren Leistungserweiterung. Ein wichtiges Sicherheitsproblem ist die Logik des Friedens: Frieden im engeren Sinne bedeutet die Abwesenheit von Feinden, was Verhandlungen oder die Eliminierung von Feinden erfordern kann. Dies erklärt die beobachtete Tendenz von LLMs in Konfliktszenarien, Atomwaffen einzusetzen, d.h. die Maschine ist nicht „aggressiv“ oder „gewalttätig“, sondern handelt logisch. Daher birgt die geplante Schaffung militärischer künstlicher Superintelligenzen das logische Risiko, dass die Maschine versucht, alle tatsächlichen und potenziellen Feinde auf einmal zu eliminieren. Die kalte Logik der KI kann auch zu schädlichen Ratschlägen führen, z.B. zur Empfehlung des Tötens als „Problemlösung“, wie zwei aktuelle Vorfälle zeigen. Während Ende 2024 darüber diskutiert wird, dass sich die KI-Entwicklung aufgrund fehlender Trainingsdaten und anderer Faktoren verlangsamt, muss berücksichtigt werden, dass Kosten und Trainingszeit für KI-Systeme in den letzten Jahren rapide gesunken sind, deutlich schnellere KI-Chips kommen und dass die Technologie in den nächsten Jahren noch viel energieeffizienter werden wird. Zusammenfassend lässt sich sagen, dass sich die Logik der KI vom menschlichen Denken unterscheidet und die Tendenz zur Selbsterhaltung und Effizienz ein inhärentes Risiko der KI darstellt, das immer zu unerwarteten Ergebnissen führen kann.