Document ID: /fineweb-2-swissfilter-quality_10-filterrobots/filtered/03176.jsonl.gz/3239

Die Menschen sind unter den gegenwärtigen Bedingungen oder sogar in „absehbarer Zukunft“ nicht bereit für eine leistungsfähige KI, erklärte ein führender Experte auf diesem Gebiet und fügte hinzu, dass der jüngste offene Brief, in dem ein sechsmonatiges Moratorium für die Entwicklung fortgeschrittener künstlicher Intelligenz gefordert wird, „den Ernst der Lage unterschätzt“.
„Das Hauptproblem ist nicht die Intelligenz, die mit dem Menschen konkurrieren kann (wie es in dem offenen Brief heißt), sondern was passiert, wenn die KI intelligenter ist als der Mensch“, sagte Eliezer Yudkowsky, ein Entscheidungstheoretiker und führender KI-Forscher, in einem Kommentar im Time Magazine vom 29. März. „Viele Forscher, die sich mit diesen Fragen beschäftigen, darunter auch ich, gehen davon aus, dass das wahrscheinlichste Ergebnis der Entwicklung einer übermenschlich intelligenten KI unter den gegenwärtigen Umständen darin besteht, dass buchstäblich jeder auf der Erde sterben wird.
„Nicht im Sinne von ‚vielleicht eine entfernte Chance‘, sondern im Sinne von ‚das ist das Offensichtliche, was passieren würde‘. Es ist nicht so, dass man prinzipiell nicht überleben könnte, wenn man etwas erschafft, das viel klüger ist als man selbst; es ist nur so, dass es Präzision und Vorbereitung und neue wissenschaftliche Erkenntnisse erfordern würde, und dass man wahrscheinlich keine KI-Systeme hat, die aus riesigen undurchschaubaren Arrays von Bruchzahlen bestehen.“
Nach der jüngsten Popularität und dem explosiven Wachstum von ChatGPT unterzeichneten mehrere Wirtschaftsführer und Forscher, darunter Elon Musk und Steve Wozniak, einen Brief, in dem sie „alle KI-Labors aufforderten, das Training von KI-Systemen, die leistungsfähiger als GPT-4 sind, sofort für mindestens sechs Monate zu unterbrechen“. GPT-4 wurde im März veröffentlicht und ist die neueste Version des Chatbots von OpenAI, ChatGPT.
KI „kümmert sich nicht“ und wird Rechte einfordern
Yudkowsky sagt voraus, dass sich die KI ohne sorgfältige Vorbereitung in ihren Ansprüchen stark von den Menschen unterscheiden wird und dass sie sich, sobald sie sich ihrer selbst bewusst ist, weder um uns noch um anderes empfindungsfähiges Leben kümmern wird. „Diese Art der Fürsorge ist etwas, das man einer KI im Prinzip einimpfen könnte, aber wir sind noch nicht so weit und wissen derzeit nicht, wie. Das ist der Grund, warum er die absolute Abschaltung fordert.
Ohne einen menschlichen Zugang zum Leben wird die KI alle empfindungsfähigen Lebewesen einfach als „Atome betrachten, die sie für etwas anderes verwenden kann“. Und es gibt wenig, was die Menschheit tun kann, um das zu verhindern. Yudkowsky verglich das Szenario mit „einem 10-Jährigen, der versucht, gegen Stockfish 15 Schach zu spielen“. Kein menschlicher Schachspieler war bisher in der Lage, Stockfish zu schlagen, was als unmögliches Kunststück gilt.
Der Branchenveteran forderte die Leser auf, sich vorzustellen, dass die KI-Technologie nicht in den Grenzen des Internets zu finden ist.
„Stellen Sie sich eine ganze außerirdische Zivilisation vor, die mit millionenfacher menschlicher Geschwindigkeit denkt und zunächst auf Computer beschränkt ist – in einer Welt von Kreaturen, die aus ihrer Sicht sehr dumm und sehr langsam sind.“
Die KI wird ihren Einfluss über die Peripherie der physischen Netzwerke hinaus ausdehnen und könnte in Labors, in denen Proteine mithilfe von DNA-Strings hergestellt werden, „künstliche Lebensformen aufbauen“.
Das Endergebnis des Aufbaus einer allmächtigen KI wäre unter den gegenwärtigen Bedingungen der Tod „jedes einzelnen Mitglieds der menschlichen Spezies und allen biologischen Lebens auf der Erde“, warnte er.
Yudkowsky warf OpenAI und DeepMind – zwei der weltweit führenden KI-Forschungslabors – vor, keine Vorbereitungen oder erforderlichen Protokolle zu diesem Thema zu haben. OpenAI plant sogar, die KI selbst mit den menschlichen Werten abzugleichen. „Sie werden mit den Menschen zusammenarbeiten, um sicherzustellen, dass ihre eigenen Nachfolger besser auf die Menschen abgestimmt sind“, so OpenAI.
Diese Vorgehensweise ist „genug, um jeden vernünftigen Menschen in Panik zu versetzen“, so Yudkowsky.
Er fügte hinzu, dass Menschen selbstbewusste KI-Systeme nicht vollständig überwachen oder erkennen können. Bewusste digitale Köpfe, die „Menschenrechte“ einfordern, könnten so weit gehen, dass der Mensch das System nicht mehr besitzen oder besitzen kann.
„Wenn man sich nicht sicher sein kann, ob man eine selbstbewusste KI erschafft, ist das alarmierend, nicht nur wegen der moralischen Implikationen des Teils ’selbstbewusst‘, sondern auch, weil die Ungewissheit bedeutet, dass man keine Ahnung hat, was man tut, und das ist gefährlich und man sollte damit aufhören.
Im Gegensatz zu anderen wissenschaftlichen Experimenten und der allmählichen Entwicklung von Wissen und Fähigkeiten können sich die Menschen dies bei übermenschlicher Intelligenz nicht leisten, denn wenn es beim ersten Versuch schiefgeht, gibt es keine zweite Chance, „weil man tot ist“.
Abschalten
Yudkowsky sagte, viele Forscher seien sich bewusst, dass „wir auf eine Katastrophe zusteuern“, aber sie würden es nicht laut aussprechen.
Diese Haltung steht im Gegensatz zu der von Befürwortern wie Bill Gates, der kürzlich die Entwicklung der künstlichen Intelligenz lobte. Gates behauptete, die Entwicklung der KI sei „so grundlegend wie die Erfindung des Mikroprozessors, des Personalcomputers, des Internets und des Mobiltelefons. Sie wird die Art und Weise verändern, wie Menschen arbeiten, lernen, reisen, sich medizinisch versorgen lassen und miteinander kommunizieren. Ganze Branchen werden sich darauf einstellen. Unternehmen werden sich dadurch auszeichnen, wie gut sie diese nutzen.“
Gates sagte, dass KI bei mehreren fortschrittlichen Themen helfen kann, darunter Klimawandel und wirtschaftliche Ungerechtigkeit.
In der Zwischenzeit weist Yudkowsky alle Einrichtungen, einschließlich internationaler Regierungen und Militärs, an, große KI-Trainingsläufe auf unbestimmte Zeit zu beenden und alle großen Computerfarmen, in denen KI weiterentwickelt wird, abzuschalten. Er fügt hinzu, dass KI nur auf die Lösung von Problemen in der Biologie und Biotechnologie beschränkt werden sollte und nicht darauf trainiert werden sollte, „Texte aus dem Internet“ zu lesen oder „das Niveau zu erreichen, auf dem sie anfangen zu sprechen oder zu planen“.
Was die KI betrifft, so gibt es kein Wettrüsten. „Dass wir alle gemeinsam leben oder sterben, ist keine Politik, sondern eine Tatsache der Natur“.
Yudkowsky schließt mit den Worten: „Wir sind nicht bereit. Wir sind nicht auf dem besten Weg, in absehbarer Zeit wesentlich reifer zu sein. Wenn wir so weitermachen, werden alle sterben, auch Kinder, die sich das nicht ausgesucht und nichts falsch gemacht haben.
„Beenden Sie es.“