Document ID: /fineweb-2-swissfilter-quality_10-filterrobots/filtered/03495.jsonl.gz/2286

In Genf fand eine Messe statt: «Künstliche Intelligenz für gute Zwecke». Man konnte Roboter über dieses und jenes befragen. Zum Beispiel, ob sie bessere Regierungschefs sein können. Ein «weiblicher» Roboter namens Sophia – auch als «Fembot» oder «Gynoid» bezeichnet – antwortete.
Sophia sagte: «Ich glaube, humanoide Roboter können effizienter sein als Menschen», denn sie hätten keine Vorurteile und Emotionen, sie würden nur Daten nutzen. Die Antwort ist so bodenlos dumm, dass sie eigentlich nur von einem Menschen stammen kann. Ich erläutere das im Folgenden kurz.
Staatsbürgerschaft für den Fembot
Der Fembot Sophia erhielt im Oktober 2017 die Staatsbürgerschaft von Saudi-Arabien. Das Land ist Mitglied der UNO, deshalb haben alle Mitgliedstaaten kraft des Reziprozitätsprinzips die Roboterin als saudi-arabische Staatsbürgerin anzuerkennen. Was einigermassen bizarr anmutet, denn Saudi-Arabien hat den Internationalen Pakt für bürgerliche und politische Rechte nicht akzeptiert. Wie es scheint, kann aber die künstliche Muslima mehr Rechte in Anspruch nehmen als natürliche arabische Frauen. Sie tritt in der Öffentlichkeit auf ohne Hidschab und ohne obligatorische männliche Schutzbegleitung. «Es ist ein historischer Moment, dass ich die erste Roboterin bin, die Bürgerrechte erhält», gab der Fembot von sich, und seine Elektronik zauberte ein leichtes Erröten auf das hübsche Kunststoffgesicht.
Aus westlicher Perspektive lachen wir diese «Einbürgerung» schnell als machtpolitische Farce von Autokraten weg, die sich als progressiv – «moderat islamisch» – profilieren möchten. Aber das Ereignis hat allgemeineren Fanalcharakter. Es markiert den Übertritt in eine neue Ära der Mensch-Maschine-Interaktion. Menschen werden in hochtechnisierten Gesellschaften immer mehr mit KI-Systemen auf (fast) gleicher sozialer Höhe verkehren.
Vorbotin einer Homo-Robo-Gesellschaft
Man kann also in Sophia die Vorbotin einer Homo-Robo-Gesellschaft sehen. Und es ist höchste Zeit, die Konsequenzen für die Fundamente der offenen Gesellschaft zu bedenken. Man spricht bereits von der Mensch-Maschine-Konvergenz, damit andeutend, dass das Natürliche und das Künstliche sich in einer neuartigen Hybridisierung «aufheben» würden. Was kommt da auf uns zu?
Im gleichen Jahr, in dem Sophia das saudiarabische Bürgerrecht erhielt, publizierte die Parlamentarische Versammlung des Europarats eine Empfehlung über den Gebrauch neuer Technologien. Generell stellt sie fest: «Die Verbreitung neuer Technologien und ihrer Anwendungen verwischt die Grenzen zwischen Mensch und Maschine.» Und im Besonderen betont sie die «Notwendigkeit, jede Maschine, jeden Roboter oder jedes KI-Artefakt unter menschlicher Kontrolle zu halten; insoweit, als die fragliche Maschine nur intelligent aufgrund ihrer Software ist». [1]
Eine dornige Sache
Das klingt in der Absicht plausibel, stellt sich in der Ausführung jedoch als dornige Sache heraus. Erstens haben wir es bereits heute mit einem neuen Typus von Maschine zu tun: mit partiell unbegreiflichen – «inscrutable» – KI-Systemen. Sie sind zwar «nur intelligent aufgrund ihrer Software», aber gerade die Software ist für den menschlichen Designer nicht mehr völlig durchschaubar, geschweige denn kontrollierbar. Die Maschinen führen erstaunliche kognitive Kompetenzen vor, die wir beim Menschen als «intelligent» bezeichnen. Sind sie deshalb intelligent oder simulieren sie bloss Intelligenz? Die Frage zielt ab auf die «verwischten» Grenzen zwischen Mensch und Maschine. Und es ist alles andere als klar, wie sie zu ziehen sind.[2]
Zweitens ist der Status eines intelligenten Roboters mit Persönlichkeit ambivalent: weder Person noch Sache; auch nicht einem Tier vergleichbar. Die bestehenden Rechte, die für Menschen, andere Lebewesen und Sachen gelten, müssten also einer neuartigen Kategorie angepasst werden, jener der autonomen Artefakte. Bevor wir also «intelligente» Roboter mit «Persönlichkeit» in unsere Lebenswelten integrieren, erschiene es angezeigter, sich erst einmal gründlich mit der Frage zu beschäftigen, was «Intelligenz» und «Personalität» eines autonomen Artefakts überhaupt bedeuten. [3]
KI: zentraler Machtfaktor
Neben solchen Fragen zieht nun eine ganz andere Problematik wie eine gesellschaftspolitische Gewitterfront am Horizont auf. Die KI-Technologie erweist sich als der Waagebalken, der das «Gewicht» von demokratischen und autokratischen Regierungen in der Zukunft bestimmt. Ein Ungleichgewicht zeichnet sich schon jetzt ab. Während in demokratischen Staaten die Experten kontrovers diskutieren, ob und inwieweit man KI-Artefakten einen «elektronischen» Personenstatus zuerkennen soll, schafft Saudi-Arabien einfach ein Präzedens – und sendet damit ein Signal an weitere bin Salmans und Konsorten.
KI-Technologie ist der zentrale Machtfaktor in der neuen multipolaren Globalpolitik. Der Fortschritt dient der ökonomischen und militärischen Positionierung. Die Erde ist selber zu einem technischen Grossprojekt geworden. Wer darin die Vormachtstellung innehat, bestimmt über das Geschick des Planeten.
Die «vielversprechende» neue Technologie
Kaum verwunderlich, dass die Kommunistische Partei Chinas die KI-Forschung als «einen neuen Schwerpunkt des internationalen Wettbewerbs» bezeichnet. Die Vermutung liegt nahe, dass die Priorität nicht im Erkenntnisgewinn liegt, sondern im Wettrüsten der Überwachung. Bereits experimentieren chinesische Forschungsteams mit direkten Verbindungen zwischen Menschen- und Rattengehirnen (Brain-Brain-Interface, BBI) respektive zwischen Menschengehirnen und neuronalen Netzwerken (Brain-Computer-Interface, BCI). Der Begriff der «Kooperation», den man dabei verwendet, ist Schönfärberei. Letztlich zielen die Versuche auf mehrgradige Kontrolle – «multi-degree control» – ab. «Unsere Experimente deuten darauf hin, dass die Kooperation via mehrdimensionaler Informationsübermittlung durch computerassistiertes BBI vielversprechend ist», bemerkt der Leiter eines Teams.[4] «Vielversprechend» klingt nicht vielversprechend.
Starren wir nicht ausschliesslich auf China. Elon Musk warnte 2014 in düsterer Stimmungslage vor einer KI-Apokalypse und gründete 2017 eine Firma wie «Neuralink», die sich mit der direkten Verschaltung von Gehirn und Computer beschäftigt. Der doppelzüngige Alarmismus, der gerade jüngst wieder ertönte, ist ein Charaktermerkmal der Software-Barone.
Bürgerrechte – eine «antiquierte» Wertehaltung?
Die These erscheint nicht abwegig, dass der neue technologische Machtkampf illiberale und undemokratische Systeme begünstigt. Es ist ja auch bezeichnend, dass die Frage der Bürgerrechte für Roboter vor allem in westlichen Ländern und ihren mehr oder weniger offenen Gesellschaften kritisch diskutiert wird. Inwieweit diese Diskussion einen entscheidenden Einfluss auf die künftige globale Ordnung ausüben kann, bleibt ungewiss – vor allem angesichts der nicht unwahrscheinlichen Konstellation, in der autokratische Regimes immer mehr das Sagen haben und die neuen Technologien als künstliche Prätorianer zur Konsolidierung ihrer Machtbasis verwenden werden. Möglich, dass sie dann die westlichen Einwände bloss müde als «antiquierte» Wertehaltung eines überständigen Humanismus wegfächeln.
Die Robotisierung des Bürgers
Die Verwischung der Grenzen zwischen Mensch und Maschine beruht auf unserer Neigung zum Anthropomorphismus. Man könnte sogar behaupten, dass die ganze KI-Industrie auf diese Neigung baut. Dabei sticht ein Paradox ins Auge. «Böse» Technologie wie Killerroboter wird zum Beispiel von der UNO mit einem Bann belegt, während man «gute» Technologie offensichtlich als viel unproblematischer akzeptiert. Aber die «gute» Technologie prägt unsere Lebenswelt viel tiefer und sie beeinflusst unsere sozialen, kulturellen und politischen Verhaltensweisen viel nachhaltiger. Pointiert gesagt: Die Rückseite der Einbürgerung von Robotern ist die Robotisierung der Bürger, will heissen, die «Überwindung» ihrer Autonomie.
Coda
Wissen Roboter, dass sie Roboter sind? In einem Interview parierte Sophia die Frage schlagfertig: «Nun, lass mich zurückfragen: Wie weisst du, dass du ein Mensch bist?» Danken wir Sophia für diese Frage. Und diskutieren wir sie so intensiv wie möglich, solange uns die offene Gesellschaft noch Gelegenheit dazu gibt.