Document ID: /fineweb-2-swissfilter-quality_10-filterrobots/filtered/03389.jsonl.gz/3399

Wenn Nick Bostrom recht hat, könnte der Menschheit durch die künstliche Intelligenz das gleiche Schicksal drohen wie 99 Prozent aller Lebewesen, die bisher die Erde bevölkerten: die Auslöschung. Und dass er recht hat, glauben so prominente Köpfe wie der Astrophysiker Stephen Hawking und der Microsoft-Gründer Bill Gates, die Bostroms Buch «Superintelligenz. Szenarien einer kommenden Revolution» dringend zur Lektüre empfehlen. Gates sagte, er könne gar nicht verstehen, dass es Leute gebe, die nicht besorgt seien. Elon Musk, Gründer von Paypal und CEO von Tesla, twitterte: «Wir müssen super vorsichtig sein mit KI. Potentiell gefährlicher als Atomwaffen.»
«Superintelligenz» wurde 2014 zum «New York Times»-Bestseller und in viele Sprachen übersetzt. Dabei ist es kein Buch, das man verschlingt. Bostrom, ein Philosoph und Mathematiker, legt in analytisch-spröder Wissenschaftsprosa dar, was er als grösste Bedrohung der Menschheit sieht: die Entwicklung einer künstlichen Intelligenz, die die menschliche weit übersteigt. «Und genau wie das Schicksal der Gorillas heute stärker von uns Menschen abhängt als von den Gorillas selbst, so hinge das Schicksal unserer Spezies von den Handlungen dieser maschinellen Superintelligenz ab.»
Darum gehört die künstliche Intelligenz zu den «existentiellen Risiken», deren Erforschung sich Bostrom und seine Mitarbeiter am Future of Humanity Institute (FHI) verschrieben haben. Man würde einen solchen Think-Tank, der sich mit Zukunftstechnologien beschäftigt, eher im Silicon Valley erwarten, aber er ist ein Teil der philosophischen Fakultät der tausendjährigen Universität Oxford. Der 43jährige Nick Bostrom, ein gebürtiger Schwede, absolvierte eine akademische Blitzkarriere: Er studierte Psychologie, Physik, Neurowissenschaften, Mathematik und Philosophie in Gothenburg, Stockholm und London; doktorierte an der London School of Economics über Wahrscheinlichkeitstheorie; lehrte in Yale und Oxford, wo er 2005 sein eigenes Institut bekam. Da war er gerade 32 Jahre alt.
Das Future of Humanity Institute liegt im Zentrum der Stadt, das im wesentlichen aus den historischen Sandsteingebäuden der 38 Colleges besteht, die die Universität bilden. Unterwegs in den schmalen Gassen erwartet man, hinter jeder Hausecke Harry Potter anzutreffen. Das Institut ist in einem modernen Haus in hellen Räumen untergebracht, in den Einzelbüros sieht man durch die verglasten Wände junge Männer bei der Denkarbeit, am Computer oder mit Stift und Papier. 16 Leute arbeiten hier, Physiker, Biochemiker, Mathematiker, Philosophen, Informatiker. Peter McIntyre, ein Mediziner, rattert die Mission des FHI herunter: «Wir forschen interdisziplinär an den grossen Fragen der Zukunft, an den Risiken, die vernachlässigt werden und für die wir Lösungsansätze zu sehen glauben. Also nicht an Problemen wie dem Klimawandel, mit dem sich schon Tausende beschäftigen.» Forschungsgebiete sind unter anderem die Biotechnologie und die Nanotechnologie – der Nanopionier Eric Drexler gehört als Berater zum Institut.
Das wichtigste Thema am FHI ist jedoch das sogenannte Kontrollproblem: Finden wir Wege, fortgeschrittene KI-Systeme im Zaum zu halten? Das ist Bostroms Spezialgebiet. In letzter Zeit ist er nicht oft im Institut anzutreffen, er ist ein gefragter Redner an Kongressen auf der ganzen Welt, wird eingeladen von Google und der amerikanischen Regierung; auch an diesem Tag ist er aus Übersee zurückgekommen. Bostrom, ein schmaler, jugendlicher Mann, ist das Gegenteil eines polternden Untergangspropheten. Er ist ruhig und fokussiert, seine Antworten kommen schnell und bestimmt.
Nick Bostrom, das Programm AlphaGo der Google-Firma Deepmind hat einen der besten Go-Spieler besiegt. Vor zwei Jahren haben Sie in «Superintelligenz» prophezeit, bis dahin werde es zehn Jahre dauern. Warum ging es so viel schneller?
Ich habe geschrieben: Wenn die gegenwärtige Rate des Fortschritts gleich bleibt. Inzwischen glaube ich, das Tempo des Fortschritts ist generell höher, als ich vor zwei Jahren dachte. Und die Leute bei Deepmind haben sich Go als interessantes Problem vorgenommen, sie haben darin einen Meilenstein gesehen – und massive Ressourcen eingesetzt, um ihn zu erreichen.
Auf welchen Gebieten hat die KI am meisten Fortschritte gemacht?
Technisch gesehen sicher auf dem Gebiet des Deep Learning. Algorithmen, die in neuronalen Netzen mit vielen Schichten zur Anwendung kommen, funktionieren inzwischen sehr gut für unterschiedliche Aufgaben im Bereich der Wahrnehmung, der Bild- und Spracherkennung. Sehr beeindruckt hat mich auch, wie sich die Diskussion über KI und ihre Gefahren in jüngster Zeit entwickelt hat. Wir haben dem Thema seit zehn Jahren unsere Forschung gewidmet, aber wir waren ein Randphänomen. Und jetzt sind wir plötzlich im Mainstream angekommen. Man nimmt das Problem der Kontrolle ernst. Es gibt dafür jetzt auch Forschungsgelder.
Könnte es auch sein, dass wir bloss eine KI-Blase erleben?
Irgendwann wird es den epochalen Übergang ins Zeitalter der Maschinenintelligenz geben. Das ist sicher. Vorausgesetzt natürlich, dass wir die Welt nicht vorher zerstören. Es ist eine andere Frage, ob die Fortschritte in Deep Learning weiterhin so aufregende Resultate bringen oder ob man da ein Plateau erreicht hat. Es könnte sein, dass wir dann für eine Weile warten müssen, bis eine neue konzeptionelle Idee auftaucht, um die KI auf eine nächste Stufe zu bringen. Zurzeit strömt viel Geld und Talent in die KI und das maschinelle Lernen. Dazu kommt, dass die heutigen Systeme bereits gut genug sind, um in einer Reihe von kommerziellen Anwendungen nützlich zu sein. Man kann sich schwer vorstellen, dass das einfach eine Blase ist. Ich erwarte nicht, dass der Schwung nachlässt.
In Ihrem Buch verwenden Sie ein beunruhigendes Bild für unseren Umgang mit KI: Wir seien wie Kinder, die mit einer tickenden Zeitbombe spielten. Sind die Leute zu sorglos, die an der KI arbeiten?
Ich glaube, wir sind alle ein bisschen zu sorglos, was unsere schnell wachsende technologische Macht betrifft. Wir als Spezies. Das gilt auch für andere Gebiete als die KI, Biotechnologie etwa. Auch da ist das Entwicklungstempo sehr hoch. Es gibt zwar ein riesiges Potential für eine gute Nutzung, aber wir rasen mehr oder weniger blind in diese Zukunft. Wir entwickeln alles, was wir können – und hoffen einfach, dass es gut herauskomme. Aber wenn nicht, haben wir keinen Plan B. Die Macht der Technologie wächst viel schneller als unsere Fähigkeit, damit weise umzugehen. Zum Glück haben inzwischen wichtige Teile der KI-Forschungsgemeinschaft begonnen, sich mit den Gefahren auseinanderzusetzen. Wir brauchen keine separate Gruppe, die sich um die Sicherheit Gedanken macht, während die anderen die KI bauen. Das muss zusammengehen, die Fragen der Sicherheit müssen in die Forschung integriert werden.
Warum ist das Sicherheitsproblem denn so drängend?
Es braucht vielleicht Jahrzehnte, um es zu lösen. Beginnt man damit erst, wenn die maschinelle Superintelligenz unmittelbar bevorsteht, wird man zu wenig Zeit dafür haben. Wenn man diesen Punkt erreicht hat, wird es sehr schwierig sein, die Entwicklung zu verlangsamen oder gar zu stoppen – die wirtschaftlichen und strategischen Anreize sind viel zu gross. Darum müssen wir heute das Fundament für die Lösung des Sicherheitsproblems legen.
Wie muss man sich die Superintelligenz eigentlich vorstellen?
Darauf habe ich keine Antwort. Sie wird wahrscheinlich einen grossen Teil der existierenden Computerressourcen nutzen. Wenn man sich die gegenwärtig führenden KI-Anwendungen anschaut, laufen sie oft auf Serverfarmen, wie Google und andere sie betreiben. Das scheint mir ein plausibler Ort, von dem aus Superintelligenz starten könnte.
Für Hysterie gibt es laut Bostrom keinen Grund. Die Maschinen stehen nicht unmittelbar vor der Machtübernahme. Aber was wir für ferne Zukunft halten, könnte schneller hier sein, als wir glauben. Intuitiv stellen wir uns historische Entwicklungen linear fortschreitend vor. Der Futurologe Ray Kurzweil sieht jedoch beim technischen Fortschritt ein «Gesetz der beschleunigten Erträge» am Werk, ein Wachstum, das nicht linear ist, sondern exponentiell. Wenn sich die Seerosen in einem Teich jeden Tag verdoppeln und ihn nach 99 Tagen zur Hälfte bedecken, dauert es nicht weitere 99 Tage, bis sie ihn ganz überwuchern, sondern nur noch einen Tag. Bostrom hat die Studien ausgewertet, in denen KI-Experten gefragt wurden, bis wann sie mit einer maschinellen Intelligenz auf menschlichem Niveau rechnen. Man nennt diese Stufe auch «starke» KI, im Unterschied zur «schwachen» KI, die wir heute kennen: Anwendungen, die in speziellen Bereichen Höchstleistungen erbringen, aber weit entfernt sind von einer generellen menschlichen Intelligenz. Anwendungen wie die Spracherkennung in unserem Smartphone oder der Hochfrequenzhandel an den Aktienmärkten.
Die Experten erwarten mit 50 Prozent Wahrscheinlichkeit bis 2040 eine menschenähnliche starke KI, mit 90 Prozent Wahrscheinlichkeit bis 2075. Bostrom glaubt, dass es länger dauern werde, ist aber zuversichtlicher als die Experten, was den nächsten Schritt angeht, jenen zur Superintelligenz. Das ist der entscheidende Punkt, an dem künstliche Intelligenz die menschliche übersteigt. Die Experten glauben, nach dem Erreichen der starken KI werde es mit 50 Prozent Wahrscheinlichkeit innerhalb von dreissig weiteren Jahren zur Superintelligenz kommen. Bostrom ist überzeugt, dass es «kurz danach» so weit sein wird: Er hält eine Intelligenzexplosion für wahrscheinlich, wie sie der britische Mathematiker Irving J. Good schon 1965 voraussagte. Denn sobald wir eine starke KI entwickelt haben, kann sie ihre Vorteile gegenüber unserem Gehirn ausspielen: Biologische Neuronen sind um ein Millionenfaches langsamer als Transistoren, und unsere Speicherkapazität ist durch die Grösse des Gehirns beschränkt; jene der KI kann beliebig erweitert werden – bis zum weltumspannenden Netzwerk.
Vielleicht sei die starke KI zu Beginn so beschränkt wie ein Dorftrottel, sagt Bostrom. Aber da sie nicht auf die langsame biologische Evolution angewiesen ist, sondern ihr Gehirn sekundenschnell umbauen kann, wird sie im Nu die Intelligenz eines Einstein erreichen. Und warum sollte sie dann innehalten? Sie wird sich im Gegenteil einen Plan zurechtlegen, der nicht so simpel ist, dass wir ihn voraussehen können. Der Plan, sagt Bostrom, könnte ein Phase vorsehen, in der die KI ihre intellektuelle Entwicklung und ihre wahren Motive vor den Programmierern verbirgt, um keine Besorgnis zu erregen.
Die KI wird sich in einer Kaskade von Selbstverbesserungszyklen weiterentwickeln und klüger werden als jeder Mensch. Selbst wenn sie bis dahin auf einem isolierten Computer lief, wird sie sich nun Zugang zum Internet verschaffen, beliebige Systeme hacken und direkt in die reale Welt eingreifen können – sie wird zur Superintelligenz. Auf menschliche Programmierer wird sie nicht länger angewiesen sein. Sie wird die letzte Erfindung sein, die die Menschen machen werden – fortan wird die Superintelligenz erfinden und kreieren, was wir uns nicht einmal in unseren wildesten Träumen vorstellen können. Oder in unseren Albträumen. Je nachdem, welches Ziel die KI anpeilt. Denn die Superintelligenz wird ohne Skrupel alle ihr zur Verfügung stehenden Ressourcen dafür einsetzen, ihr Ziel zu erreichen. Es sei denn, man könnte ihr menschliche Werte einpflanzen. Allein das sei «eine würdige Herausforderung für die besten Mathematiker der nächsten Generation», sagt Bostrom. Und angenommen, man könnte sie einpflanzen: Welche Werte, welche moralischen Überzeugungen sollten es sein? Können wir überhaupt wissen, was wir wirklich wollen und was moralisch richtig wäre? Vielleicht wäre es unkomplizierter, der KI einfach den Stecker zu ziehen.
Nick Bostrom, warum bauen wir nicht einen Ausschaltknopf ins System ein, den wir betätigen können, wenn die Superintelligenz ausser Kontrolle zu geraten droht?
Wir sollten einen solchen Knopf haben, aber wir sollten uns nicht auf ihn verlassen. Stellen wir uns einen sehr fähigen KI-Agenten vor, der ein vorgegebenes Ziel verfolgt. Mein Standardbeispiel ist die Büroklammer-KI. Wenn sie dafür programmiert wurde, so viele Büroklammern wie möglich zu produzieren, hat sie einen guten Grund, die Menschen daran zu hindern, den Ausschaltknopf zu drücken. Sie würde mittels Nanotechnologie jedes Atom auf der Erde in Büroklammern verwandeln, auch die Menschen, und schliesslich das Universum. Darum ist es nicht weise, darauf zu vertrauen, dass wir den KI-Agenten notfalls abschalten können. Viel besser wäre es, eine KI zu haben, die wir von Anfang an auf unserer Seite wissen. Eine KI, die Ziele hat, die mit den unseren übereinstimmen. Eine, die nicht ein potentieller Gegner wäre, den man einsperren oder an der kurzen Leine halten muss.
Ist denn die KI grundsätzlich etwas Menschenfeindliches?
Nein, wir müssen nicht die Sorge haben, dass wir eine KI schaffen, die uns hasst. Ich sage es mit einem Bild: Wenn wir einen Parkplatz bauen wollen an einer Stelle, wo eine Ameisenkolonie sich angesiedelt hat, löschen wir sie aus. Nicht weil wir die Ameisen hassen, sondern weil uns ihr Wohlergehen egal ist – der Parkplatz ist uns wichtiger. Die KI wird auch nicht unbedingt ein Ressentiment gegen uns Menschen haben. Gefährlich wird sie, wenn sie ein schlecht spezifiziertes Ziel hat. Wenn sie mächtig genug ist und ein Ziel hat, das sie am besten in einer Welt erreichen kann, in der es keine Menschen gibt, dann könnten wir für sie wie Ameisen sein.
Und was passiert, wenn nicht das Horrorszenario eintritt, sondern das Gegenteil: dass die Superintelligenz das Wohl der Menschen fördert?
Dann eröffnet sich ein ungeheurer Raum an Möglichkeiten. Ich denke darüber eher abstrakt nach, ich kann nicht ein getreues Bild einer Utopie malen, einen durchschnittlichen Tag im Leben einer Person schildern. Die Utopie findet in einem viel grösseren Raum von möglichen Formen des Seins statt. Superintelligenz ist nicht bloss eine verbesserte KI, sie wird auch viele andere Technologien weitertreiben. Alles, was die Menschheit hätte erreichen können, wenn wir jahrtausendelang Zeit dazu gehabt hätten: Heilmittel gegen das Altern, Kolonisierung des Weltraums, Hochladen des menschlichen Hirns in einen Computer – all dies könnte unmittelbar nach dem Übergang zur Superintelligenz möglich werden. Das meiste wird digitalisiert ablaufen statt in biologischen Prozessen. Das heisst für mich Utopie.
Und der Mensch darin?
Der Prozess, der steuert, wohin wir gehen, wird ein weiser sein, er wird menschliche Werte einschliessen. Wir sind heute nicht in der Lage, klar zu sehen, was in diesem gigantischen Möglichkeitsraum das Beste sein wird – aber das können wir der Zukunft überlassen. Jenen, die näher an dieser Zukunft leben werden. Sie werden die Utopie detaillierter entwerfen können. Unser Ziel ist es, sicherzustellen, dass sie die Gelegenheit dazu haben werden, dass sie diese Zukunft erleben werden.
In sieben Milliarden Jahren wird die Sonne die Erde verdampfen. Das ist wahrscheinlich den meisten heute lebenden Menschen egal. Nick Bostrom nicht. Darum arbeitet er daran, die KI zu zähmen. Wenn es gelingt, werden unsere Nachfahren dem Untergang unseres Planeten ungerührt aus den fernen Galaxien zuschauen, die sie bis dahin erobert haben werden.
DANIEL WEBER ist Chefredaktor von NZZ-Folio.