Document ID: /fineweb-2-swissfilter-quality_10-filterrobots/filtered/03370.jsonl.gz/839

99 % der Bevölkerung haben keine Vorstellung davon, was KI eigentlich ist oder welche Bedrohung sie für die Menschheit darstellt. Wenn echte Experten der Branche eindringlich davor warnen, die KI-Entwicklung zu stoppen, weiß der Rest der Welt immer noch nicht, warum jemand auf sie hören sollte, und so geht die Entwicklung unvermindert und ungebremst weiter. ⁃ TN-Redakteur
Ein führender KI-Experte hat eine eindringliche Warnung vor der möglichen Auslöschung der Welt durch die superintelligente KI-Technologie ausgesprochen.
Eliezer Yudkowsky ist ein führender KI-Forscher und er behauptet, dass „jeder auf der Erde sterben wird“, wenn wir die Entwicklung von übermenschlichen Intelligenzsystemen nicht stoppen.
Der 43-Jährige ist Mitbegründer des Machine Intelligence Research Institute (MIRI) und behauptet, er wisse genau, wie „schrecklich gefährlich diese Technologie“ sei.
Er befürchtet, dass das Ergebnis, wenn es zu einem Kampf Mensch gegen übermenschliche Intelligenz kommt, ein „Totalverlust“ sein wird, schreibt er in TIME.
Als Metapher, sagt er, wäre dies wie ein „11. Jahrhundert, das versucht, das 21. Jahrhundert zu bekämpfen“.
Kurz gesagt, der Mensch würde dramatisch verlieren.
Am 29. März reichten führende Experten von OpenAI einen offenen Brief mit dem Titel „Pause Giant AI Experiments“ ein, in dem sie ein sofortiges sechsmonatiges Verbot des Trainings von leistungsstarken KI-Systemen forderten.
Unterzeichnet wurde der Brief unter anderem von Apple-Mitbegründer Steve Wozniak und Elon Musk.
Der amerikanische Theoretiker lehnt es jedoch ab, diese Petition zu unterzeichnen, da sie „zu wenig verlangt, um das Problem zu lösen“.
Die Bedrohung ist so groß, dass er argumentiert, dass die Auslöschung durch KI „als Priorität vor der Verhinderung eines vollständigen nuklearen Austauschs“ betrachtet werden sollte.
Er warnt, dass das wahrscheinlichste Ergebnis der Roboterwissenschaft darin besteht, dass wir „eine KI schaffen, die nicht das tut, was wir wollen, und die sich weder um uns noch um empfindungsfähiges Leben im Allgemeinen kümmert.“
Wir sind noch nicht so weit, räumt Yudkowsky ein, der KI beizubringen, wie man fürsorglich ist, da wir „derzeit nicht wissen, wie“.
Die nackte Realität ist vielmehr, dass man im Kopf eines Roboters „aus Atomen besteht, die er für etwas anderes verwenden kann“.
„Wenn jemand unter den gegenwärtigen Bedingungen eine zu mächtige KI baut, erwarte ich, dass jedes einzelne Mitglied der menschlichen Spezies und alles biologische Leben auf der Erde kurz darauf stirbt.“
Yudkowsky weist darauf hin, dass „wir derzeit keine Ahnung haben, wie wir feststellen können, ob KI-Systeme sich ihrer selbst bewusst sind“.
Das bedeutet, dass Wissenschaftler versehentlich „digitale Gehirne mit echtem Bewusstsein“ erschaffen könnten, was zu allen möglichen moralischen Dilemmata führen würde, da bewusste Wesen Rechte haben und nicht besessen werden sollten.
Unsere Unwissenheit, beschwört er, wird unser Untergang sein.
Da die Forscher nicht wissen, ob sie eine selbstbewusste KI schaffen, sagt er: „Sie haben keine Ahnung, was sie tun, und das ist gefährlich, und sie sollten aufhören“.
Yudkowsky behauptet, dass wir Jahrzehnte benötigen könnten, um das Problem der Sicherheit übermenschlicher Intelligenz zu lösen – diese Sicherheit besteht darin, „nicht buchstäblich jeden zu töten“ – und in dieser Zeit könnten wir alle tot sein.
Die zentrale Aussage des Experten ist folgende: „Wir sind nicht vorbereitet. Wir sind nicht auf dem Weg, in einem vernünftigen Zeitfenster vorbereitet zu sein. Es gibt keinen Plan.
„Der Fortschritt bei den KI-Fähigkeiten ist dem Fortschritt beim Verständnis dessen, was in diesen Systemen vor sich geht, weit, weit voraus. Wenn wir das tatsächlich tun, werden wir alle sterben.“
Um diese weltbewegende Katastrophe zu verhindern, glaubt Yudkowsky, dass der einzige Weg darin besteht, alle neuen Schulungen zur KI-Technologie weltweit zu stoppen, „ohne Ausnahmen, einschließlich Regierung und Militär“.
Sollte jemand diese Vereinbarung brechen, beweist der KI-Experte seine Ernsthaftigkeit, indem er sagt, dass Regierungen bereit sein sollten, „ein abtrünniges Rechenzentrum durch einen Luftangriff zu zerstören“.
„Jeder, der von Wettrüsten spricht, ist ein Narr. Dass wir alle gemeinsam leben oder sterben, ist keine Politik, sondern eine Tatsache der Natur.“