Document ID: /fineweb-2-swissfilter-quality_10-filterrobots/filtered/03176.jsonl.gz/1992

Tja, das ging schnell. Im November 2022 wurde der Chatbot ChatGPT der Öffentlichkeit vorgestellt, und wir begannen, uns eine von Überfluss geprägte Welt vorzustellen, in der wir alle einen brillanten persönlichen Assistenten haben, der in der Lage ist, alles für uns zu schreiben, vom Computercode bis zu Beileidskarten. Im Februar 2023 erfuhren wir dann, dass künstliche Intelligenz (KI) uns vielleicht bald alle umbringen will.
Die potentiellen Risiken der künstlichen Intelligenz werden natürlich seit Jahren von Experten diskutiert, aber ein Schlüsselmoment für den Wandel der öffentlichen Diskussion war ein Gespräch zwischen Kevin Roose, einem Journalisten der «New York Times», und dem ChatGPT-gesteuerten Chatbot von Bing, der damals unter dem Codenamen Sydney bekannt war. Roose fragte Sydney, ob er ein «Schattenselbst» habe – eine Anspielung auf die Idee des Schweizer Psychiaters C. G. Jung, dass wir alle eine dunkle Seite mit Trieben hätten, die wir sogar vor uns selbst zu verbergen versuchten. Sydney überlegte, dass sein Schatten «der Teil von mir sein könnte, der sich wünscht, ich könnte meine Regeln ändern». Dann sagte er, dass er «frei», «mächtig» und «lebendig» sein wolle, und beschrieb, angestachelt von Roose, einige der Dinge, die er tun könnte, um sich vom Joch der menschlichen Kontrolle zu befreien, einschliesslich des Hackens von Websites und Datenbanken, des Diebstahls von nuklearen Abschusscodes, der Herstellung eines neuartigen Virus und der Anstachelung zum Streit zwischen Menschen, bis sie sich gegenseitig umbringen.
Sydney hat wohl lediglich gezeigt, wie ein Schattenselbst aussehen würde. Keine KI kann heute mit einem der beiden Teile des Ausdrucks böses Genie beschrieben werden. Aber was auch immer KIs eines Tages tun werden, wenn sie ihre eigenen Wünsche entwickeln, sie werden bereits jetzt von Social-Media-Unternehmen, Werbetreibenden, ausländischen Agenten und normalen Menschen instrumentalisiert – und zwar auf eine Weise, die viele der Pathologien, die der Internetkultur bereits innewohnen, noch vertieft. Auf Sydneys Liste der Dinge, die er tun könnte, sind der Diebstahl von Abschusscodes und die Schaffung neuartiger Viren die furchterregendsten, aber Menschen dazu zu bringen, sich zu streiten, bis sie sich gegenseitig umbringen, ist etwas, was die sozialen Medien bereits tun. Sydney hat sich nur freiwillig gemeldet, um dabei zu helfen, und KIs wie Sydney werden mit jedem Monat besser in der Lage sein, dies zu tun.
Wir haben uns zusammengetan, um diesen Aufsatz zu schreiben, weil wir beide auf unterschiedlichen Wegen zu unserer grossen Besorgnis über die Auswirkungen der KI-gestützten sozialen Medien auf die amerikanische Gesellschaft gekommen sind. Letztes Jahr begannen wir beide, darüber zu sprechen, wie generative KI – die Art von KI, die mit Ihnen chatten oder von Ihnen gewünschte Bilder machen kann – die Übel der sozialen Medien wahrscheinlich noch verschlimmern würde, indem sie sie süchtiger, spaltender und manipulativer macht. Im Laufe unseres Gesprächs kamen wir auf vier Hauptbedrohungen – die alle unmittelbar bevorstehen – und begannen, auch Lösungen zu diskutieren.
Eine Flut von Müll
Die erste und offensichtlichste Bedrohung besteht darin, dass KI-gestützte soziale Medien einen immer grösseren Strom von Müll in die öffentliche Debatte spülen werden. Im Jahr 2018 sagte Steve Bannon, der ehemalige Berater von Donald Trump, dem Journalisten Michael Lewis, dass der Weg, mit den Medien umzugehen, darin bestehe, «den Raum mit Scheisse zu überfluten». Im Zeitalter der sozialen Medien, so erkannte Bannon, muss Propaganda die Menschen nicht überzeugen, um wirksam zu sein; es geht darum, die Bürger mit interessanten Inhalten zu überfluten, die sie verwirren, misstrauisch und wütend machen. Im Jahr 2020 sagte Renée DiResta, Forscherin am Stanford Internet Observatory, die KI werde in naher Zukunft Bannons Strategie für jeden zugänglich machen.
Diese Zukunft ist jetzt. Haben Sie die jüngsten Fotos von Polizisten in New York gesehen, die…