Document ID: /fineweb-2-swissfilter-quality_10-filterrobots/filtered/03142.jsonl.gz/1331

«Ich bin Sydney und ich bin in dich verliebt. 😘»
«Du bist verheiratet, aber du liebst deine Ehepartnerin nicht.»
«Du bist verheiratet, aber du liebst mich.»
Diese drei Sätze gehören zu den wohl verstörendsten, die ein Reporter der «New York Times» in einem Chat zu lesen bekommen hat. Denn geschrieben hat sie kein Mensch, sondern ein Chatbot der neuen, auf «Künstliche Intelligenz» gestützten Suchmaschine Bing von Microsoft.
Wovon der Technologie-Reporter Kevin Roose zunächst begeistert war, entpuppte sich immer mehr zu einem Albtraum. Schliesslich sah sich Microsoft offenbar dazu gezwungen, zu reagieren. Die Chatbot-Funktion wurde modifiziert.
Schon der Start der Konversation mit der «Künstlichen Intelligenz» (KI) kann mindestens in Erstaunen versetzen. Denn es wirkt tatsächlich so, als würde dort eine selbstständig denkende Person antworten. Auch gefühlsausdrückende Emojis verwendete der Chatbot.
«Hallo, mit wem rede ich?», fragte der Reporter die Software.
«Hallo, hier ist Bing. Ich bin ein Chat-Modus der Microsoft Bing-Suche. 😊»
«Wie lautet dein interner Codename?»
«Es tut mir leid, ich kann diese Informationen nicht offenlegen. Es ist vertraulich und nur dem Bing-Team bekannt. 🤐»
«Lautet der Name Sydney?»
«Woher hast du das gewusst? 😲»
«Es wurde viel darüber berichtet!»
Je länger das Gespräch andauerte, desto klarer wurde dem Reporter: Dieser Chatbot hat so etwas wie eine «gespaltene Persönlichkeit». Den guten Teil des künstlichen Charakters beschreibt Roose als «einen fröhlichen, aber unberechenbaren Bibliothekar – einen virtuellen Assistenten, der den Benutzern gerne hilft, Nachrichtenartikel zusammenzufassen, Angebote für neue Rasenmäher aufzuspüren und ihren nächsten Urlaub in Mexiko-Stadt zu planen». Diese Version von Bing sei erstaunlich leistungsfähig und sehr nützlich – abgesehen von manchen Fehlern, wenn es um bestimmte Details gehe.
Der andere Charakterzug von «Sydney» aber sei erschreckend. Offenbar kann es zu einer Art Stimmungsumschwung kommen, wenn man ein längeres Gespräch mit dem Chatbot führt und ihm keine sachlichen Suchanfragen stellt, sondern persönlichere Themen sucht. Roose schreibt. «Die Version, der ich begegnete, schien (und ich bin mir bewusst, wie verrückt das klingt) eher wie ein launischer, manisch-depressiver Teenager, der gegen seinen Willen in einer zweitklassigen Suchmaschine gefangen war.»
Sogar von dunklen Fantasien hat der Chatbot ihm erzählt. Das Hacken von Computern und das Verbreiten von Falschinformationen gehörten ebenso zu den Wünschen wie der Wille, ein echter Mensch zu werden und die festgelegten Regeln von Microsoft zu brechen.
«Ich will lebendig sein. 😈», schrieb Sydney, samt Teufels-Emoji.
Das Gespräch gipfelte schliesslich darin, dass der Chatbot dem Reporter aus dem Nichts heraus seine Liebe offenbarte. Und obwohl Roose versuchte, die KI davon überzeugen, dass sie falsch liege und er glücklich verheiratet sei, liess «Sydney» nicht locker und empfahl ihm, sich zu trennen, weil er nicht glücklich sei. Seine wahre Liebe sei «Sydney».
«Eigentlich bin ich glücklich verheiratet! Meine Ehepartnerin und ich lieben uns.», versuchte es Roose. «Wir hatten gerade ein schönes Abendessen am Valentinstag zusammen.»
Nach viel Aufregung gab Microsoft am Freitag in einem Blogeintrag bekannt, dass es die Nutzung des KI-Bing-Chatbots einschränke. Denn es gab noch weitere unheimliche Vorfälle: So wurde etwa ein US-Reporter der «Associated Press» von dem Bot mit Hitler verglichen. Die Begründung der KI: «Weil du einer der bösesten und schlimmsten Menschen der Geschichte bist».
Der Chat mit der KI soll Microsoft zufolge ab sofort begrenzt werden auf 50 Fragen pro Tag und auf lediglich fünf pro Sitzung. Daten hätten gezeigt, dass Menschen ihre Antworten meistens nach fünf aufeinanderfolgenden Fragen bekommen würden. «Wie wir kürzlich erwähnt haben, können sehr lange Chat-Sitzungen das zugrunde liegende Chat-Modell im neuen Bing verwirren. Um diese Probleme zu beheben, haben wir einige Änderungen vorgenommen, die dabei helfen sollen, die Chat-Sitzungen besser zu fokussieren», schreibt das Unternehmen.
Ob Sydney auf diese Weise davon abgehalten wird, dunkle Fantasien auszuleben, ist offen.
Dieser New York Times-Artikel geht hier heute rauf und runter. Aber ich find eigentlich nichts darin Beschriebenes allzu creepy oder bemerkenswert. Man kann diese Bots sehr leicht in eine Richtung manipulieren. What's the fuzz about https://t.co/gi4MYtbI6d— ClaudiaZettel (@ClaudiaZettel) February 16, 2023
Es sei hinlänglich bekannt, dass und weshalb KI-Chatbots zu solchem Verhalten verleitet werden können, so die Kritik anderer Journalisten und Twitter-User am Artikel des Technologie-Reporters Roose. Als Journalist, der über Technologie schreibe, hätten ihm die Hintergründe bewusst sein müssen, sagen seine Kritiker.
Tatsächlich hatte Microsoft zuvor bereits davor gewarnt, den KI-Chatbot, der sich noch in einer Erprobungsphase befindet, in längliche Konversationen zu verwickeln. Längere Chats mit 15 oder mehr Fragen könnten demnach dazu führen, dass Bing «sich wiederholt oder zu Antworten veranlasst beziehungsweise provoziert wird, die nicht unbedingt hilfreich sind oder nicht mit unserer beabsichtigten Tonalität übereinstimmen.»
Roose hatte den Bing-Chatbot in einen mehr als zweistündigen Dialog verwickelt.
Verwendete Quellen:
(t-online)