Document ID: /fineweb-2-swissfilter-quality_10-filterrobots/filtered/03172.jsonl.gz/593

Gaspard Koenig, in Ihrem Buch «Das Ende des Individuums» schreiben Sie, dass man gegenüber künstlicher Intelligenz (KI) oder Robotern nicht höflich sein sollte. Warum ist das wichtig?
Technologie ist kein Fortschritt an sich, sie ist nur ein Werkzeug. Sie kann in mancher Hinsicht auch ein Rückschritt sein. Eine KI ist ein sehr nützliches Werkzeug, aber man sollte nicht vergessen, dass sie nur eine Nachahmung und keine Replikation des Menschen ist. Wenn man eine KI personifiziert, wenn man höflich zu einer KI ist oder wenn man eine KI als eine Person mit einem Bewusstsein betrachtet, verfällt man einem Trugschluss, man missversteht sie in gewisser Weise. Es ist, als würde man Dingen eine Seele verleihen, man fällt in eine Art Animismus zurück.
Wir vergessen damit schnell, dass KI nicht Mensch ist, sondern nur Maschine.
Amazon bittet Kinder, die mit Alexa sprechen, höflich zu sein. Ich glaube sogar, dass die Maschine nur in Gang kommt, wenn das Kind höflich spricht. Ich halte das für einen Fehler, denn wenn man Kindern beibringt, mit einem Roboter höflich zu sein, dann werden sie nicht zwischen Realität und Nachahmung unterscheiden können. Mit einer KI sollte man natürlich umgehen, wie man das etwa bei einer Suchmaschinenanfrage tut.
Sie beschreiben, wie Ihre Tochter in ein Smartphone tippt, und Sie beobachten, wie sie das erste Wort nimmt, das Google vorschlägt. Was bedeutet es, wenn Kinder aufhören, nach der besten Formulierung zu suchen, stattdessen die Entscheidung der KI übergeben?
Die Frage, welches Wort wir in die Textnachricht schreiben, können wir vielleicht bequem an die Maschine delegieren. Aber es gibt weitaus grössere Fragen. Wen werde ich heiraten? Auf welche Universität werde ich gehen? Auf welche Stelle bewerbe ich mich? Ich habe in Kalifornien Unternehmen besucht, die Angebot und Nachfrage im
Arbeitsmarkt aufeinander abstimmen; sie sagen, man werde in Zukunft nicht mehr nach einem bestimmten Job fragen müssen. Es reiche stattdessen, die eigenen Daten zur Verfügung zu stellen, und ihre Firma findet die richtige Tätigkeit angesichts der aktuellen Marktlage, den richtigen Beruf. Das ist dann vielleicht etwas, an das Sie gar nicht gedacht haben.
Daten im Tausch gegen Lebensglück also.
Das bietet mehr Bequemlichkeit, vielleicht sogar mehr Glück – aber auf Kosten des freien Willens und auf Kosten der Freiheit. Das hat auch Yuval Noah Harari in «Homo Deus» sehr pointiert festgestellt: Was hier auf dem Spiel steht, ist die Zukunft des Liberalismus, der liberalen Gesellschaften.
«In der Geschichte der Technik
sind die Eigentumsrechte immer
hinter den neuen Technologien zurückgeblieben,
manchmal um Jahrhunderte.»
Besteht nicht die grosse Gefahr, dass die Menschen bereit sind, alles der Maschine zu überlassen?
Buddhisten wie Harari fühlen sich mit der Perspektive, glücklicher zu werden, sehr wohl, denn ihr Hauptziel ist es, das Leiden zu beseitigen. Er sagt etwa, dass es ihm sehr geholfen hätte, wenn ihm eine KI aufgrund seines Verhaltens im Internet bereits als Teenager offenbart hätte, dass er homosexuell sei – es hätte ihm jahrelanges Leiden erspart. Ich hingegen denke, dass diese Zeit des Leidens, die er durchgemacht hat, der wichtigste Teil ist. Denn man leidet, weil man frei ist und weil man eine Entscheidung über sich selbst zu treffen hat.
Sie wollen die Entscheidung also nicht der Maschine überlassen?
Für mich ist es das nicht wert. Selbst wenn es mich glücklicher macht, mir mehr Komfort bietet, mein Leben bequemer macht. Doch werden wir alle einen Kompromiss zwischen Glück und Freiheit eingehen müssen.
Sie haben etwa die Entscheidung getroffen, aus den sozialen Medien auszusteigen.
Wir können die Art und Weise ändern, wie wir Technologie nutzen; sie beherrschen, statt von ihr beherrscht zu werden. Für Internetsuchen nutze ich heute DuckDuckGo und nicht mehr Google. Ich habe auch mein Twitterkonto gelöscht, weil ich das Gefühl hatte, dass ich in einer Filterblase gelandet war, in der wir uns nur noch wiederholen. Seit ich Twitter verlassen habe, habe ich meine Perspektiven erweitert; ich lese nun wieder vermehrt Texte, denen ich nicht zustimme, lasse mich von Argumenten überzeugen.
Sie haben angefangen, wieder mehr Bücher zu lesen?
Der Abschied von Twitter gab mir ein neues intellektuelles Leben. Es hat mir erlaubt, in Bereiche vorzudringen, in die ich sonst nicht vorgedrungen wäre. Der liberale Grundgedanke ist doch, dass der einzelne dazu da ist, in seinem Urteil so autonom wie möglich zu werden. Wenn wir nun diese Fähigkeit nach und nach an die Maschine abgeben, weil es so viel bequemer ist, sabotieren wir die Grundlagen unserer liberalen Gesellschaften. Wir bewegen uns in Richtung einer Situation, in der alles zentralisiert und durch ein zentrales System geregelt wird. Hierbei wird dann auch kein Markt mehr benötigt zur Entscheidungsfindung.
Bedroht KI auch die Demokratie?
Die Aussage «Wir brauchen keine Demokratie» ist im Silicon Valley jedenfalls sehr beliebt. Wenn das Ziel unserer Gesellschaften darin besteht, den einzelnen so frei und so autonom wie möglich zu machen, dann sollten wir dafür sorgen, dass wir unseren eigenen freien Willen auch in unseren täglichen Routinen ausüben können. Ich gehöre nicht zu denen, die sagen, wir müssten Facebook oder Google zerstören – es ist eine persönliche Entscheidung, wie wir sie nutzen. Doch aktuell gibt es keine Eigentumsrechte an Daten, nirgendwo auf der Welt, sie werden nicht als Gut betrachtet. Bei Vorschriften wie der Datenschutzgrundverordnung (DSGVO) der EU handelt es sich lediglich um sehr allgemeine Vorschriften darüber, was Unternehmen mit Ihren Daten tun oder nicht tun dürfen. Die allermeisten Leute geben ihre Daten kostenlos ins Netz. Im Gegenzug erhalten sie einige kostenlose Dienste…
… und Überwachung.
Ja, und Überwachung. Aus wirtschaftshistorischer Sicht ähnelt es sehr dem Feudalsystem des Mittelalters. Beim französischen Historiker Georges Duby lässt sich nachlesen, wie die französischen Bauern im Laufe eines Jahrtausends nach und nach das Recht erlangten, das von ihnen bewirtschaftete Land auch zu besitzen. Das taten sie vorher nämlich nicht. Sie mussten einen beachtlichen Teil ihrer Produktion einem Adligen überlassen, der ihnen im Gegenzug einige kostenlose Dienstleistungen wie die Nutzung der Mühle oder Schutz vor Krieg gewährte. Erst das Eigentumsrecht, das im Zuge der Französischen Revolution verankert wurde, erlaubte es, frei über Eigentum zu verfügen. Dank diesem kann ein jeder Güter frei verkaufen oder auch nicht. Oder sie zerstören, wenn er will.
«Wenn das Ziel unserer
Gesellschaften darin besteht,
den einzelnen so frei und
so autonom wie möglich zu machen,
dann sollten wir dafür sorgen,
dass wir unseren eigenen
freien Willen auch in unseren
täglichen Routinen ausüben können.»
Was für politische Forderungen haben Sie diesbezüglich?
Ich will, dass die Daten von diesem feudalen System in ein liberales marktwirtschaftliches System übergehen. Darin sind Sie der Eigentümer Ihrer Daten, so wie Sie der Eigentümer eines Autos sind oder Patente auf Ihre geistige Schöpfung besitzen. Das System muss gedreht werden.
Wie wäre das möglich?
Mit einer persönlichen digitalen Brieftasche, in der all Ihre persönlichen Informationen enthalten sind. In dieser stellen Sie Ihre eigenen Bedingungen und Konditionen im Detail auf und legen sie auf der Blockchain ab. Big-Tech-Firmen wie Facebook oder Google sind dann gezwungen, bei Ihnen anzuklopfen und sich darum zu bemühen, Ihre Nutzungsbedingungen zu erfüllen. So entscheiden Sie selbst, welcher Algorithmus Ihre Daten verwenden darf, wie und von wem Sie im Gegenzug beeinflusst werden wollen. Die Europäische Kommission sollte den Mut haben zu sagen: Wir werden Daten als ein Gut schützen. Und wir werden die Definition der Eigentumsrechte um Daten erweitern. Das ist alles, was wir als Gesetzestext brauchen.
Das könnte noch länger dauern.
In der Geschichte der Technik sind die Eigentumsrechte immer hinter den neuen Technologien zurückgeblieben, manchmal um Jahrhunderte. Als der Buchdruck erfunden wurde, dauerte es zwei Jahrhunderte, bis Beaumarchais Eigentumsrechte an Büchern geltend machen konnte. Auch Autoren hatten lange keinen Schutz. Während der industriellen Revolution dauerte es ein Jahrhundert, bis Patente international anerkannt wurden und Erfinder ihre Erfindungen schützen konnten. Dass das ein bisschen Zeit benötigt und es bis dahin noch einige Fehltritte geben wird, ist ganz normal. Wenn man mit EU-Wettbewerbskommissarin Margrethe Vestager spricht, ist sie sich dieses Themas sehr bewusst.
Was neu ist, wird oft exzessiv und gedankenlos genutzt. Heute geben Eltern ihren Kindern ein Tablet zum Fernsehen wie einen Schnuller. Sie haben auch eine Petition gegen die Überbeanspruchung von Kindern durch Bildschirme unterzeichnet. Wie können Kinder heutzutage einen unabhängigen Geist entwickeln?
Die Kontrolle über die Bildschirmnutzung steht natürlich in der Pflicht der Eltern, aber auch des Schulsystems. Verantwortungsvoll erziehende Eltern sind oft restriktiver gegenüber Bildschirmen. Apple-Gründer Steve Jobs hat bekanntlich das iPad bei sich zu Hause verboten.
Als Sie nach einem Restaurant gesucht haben, in dem viele wichtige Personen des Silicon Valleys anzutreffen sind, haben Sie es nicht auf Google Maps gefunden.
Mark Zuckerberg sagte einmal, dass das Privatleben der Vergangenheit angehöre. Aber um sein Grundstück herum hat er sehr hohe Mauern gebaut, um sich von der Aussenwelt abzuschotten. Ich denke nicht, dass sich die Menschen verändert haben. Um frei zu sein, benötigen sie Privatsphäre, aber natürlich auch Grundrechte, Marktwirtschaft und eine gute Erziehung von Kindern. Was ich vorschlage, entspricht unserer eigenen intellektuellen und politischen Tradition. Ich will nur, dass wir unsere Prinzipien auf neue Technologien anwenden.
Peter Thiel sagt: «KI ist kommunistisch», weil KI wie das Zentralkomitee von oben herab befiehlt. Wenn wir davon ausgehen, dass das richtig ist: Was ist dann Kryptografie?
KI basiert auf der Zentralisierung von Daten: Je zentraler sie organisiert ist, desto reibungsloser und besser funktionieren ihre Systeme. Die Nutzung der Blockchain bewirkt das Gegenteil. Bei geht es darum, dass die Menschen die Kontrolle über Geld oder Daten übernehmen. Nehmen wir das allerdings ernst und verwenden Bitcoin für alle alltäglichen Transaktionen, dann zerstören wir damit auch das Modell eines demokratischen Nationalstaates. Denn das Herzstück des Nationalstaates ist die Fähigkeit, Geld zu kontrollieren. Wenn wir uns damit in eine völlig libertäre Welt begeben, in der die Individuen ihre kollektiven Entscheidungen selbst treffen und ihre Gemeinschaften schmieden, dann ist das gut. Aber so weit sind wir noch nicht, denke ich. Wir brauchen immer noch das Modell des Nationalstaates. Das ist nicht annähernd ideal, bleibt aber funktional, wenn wir uns eine gewisse demokratische, kollektive Entscheidungsgrundlage bewahren wollen.
Sie sind in Paris als Sohn von Literaturjournalisten aufgewachsen. Jetzt sind Sie acht Monate lang auf einem Pferd durch Frankreich, Deutschland und Italien gereist. Was für Menschen haben Sie angetroffen?
Nachdem ich mein Buch über künstliche Intelligenz beendet hatte, wollte ich das genaue Gegenteil tun. Ich war es satt, immer dieselben Typen zu treffen, die in denselben Büros sitzen und dieselbe Sprache sprechen. Ich wollte etwas Tieferes, Menschlicheres, Überraschenderes und wollte etwas finden, das voller Gefahren, Zufälle und Abenteuer ist. Und so kam ich auf die Idee, den Spuren von Michel de Montaigne nachzugehen – auf vielen Umwegen.
«Wenn Sie mit Klempnern sprechen,
sagen sie Ihnen, dass es einfach
zu kompliziert geworden sei –
all der Papierkram, den sie
jedes Mal ausfüllen müssen,
wenn sie ein Rohr nur berühren!»
Denn die heutigen Strassen sind nicht mehr gebaut für einen Mann auf einem Pferd.
Ja, wenn man heute auf einem Pferd sitzt, ist man immer in einer schwierigen Situation. Man geht auf Fussgängerwegen. Man weiss nicht, ob eine Brücke stark genug ist, um ein 600 Kilogramm schweres Pferd zu tragen. Man weiss nicht, wo man schlafen soll. Um aus dem Schlamassel herauszukommen, muss man oft um Hilfe bitten und Fragen stellen. Es ist eine körperliche Herausforderung, und man verbringt sehr viel Zeit mit sich selbst. So entwickelt man eine Form von Stoizismus. Und man lernt Menschen kennen, die einem Gastfreundschaft anbieten, wie in alten Zeiten. Es war täglich eine Improvisation, doch in der Wildnis schlief ich fast nie.
Was haben Sie bei der Reise gelernt?
Zuallererst habe ich mein eigenes Land entdeckt. Ich habe gesehen, wie vielfältig und einladend es ist, wie unterschiedlich die Städte von einer Region zur anderen sind. Die ursprünglichen Kulturen sind immer noch stark ausgeprägt. Da ich abends mit vielen verschiedenen Leuten zu Abend gegessen habe, habe ich auch erfahren, dass das Hauptproblem nicht die Einwanderung ist, sondern der erstickende Druck der Bürokratie. Überall, wo ich hinkam, hörte ich die gleiche Beschwerde, sehr detailliert, sehr präzise.
Zum Beispiel?
Viele Bauernhöfe bieten Unterkunft und Verpflegung an, nicht gerade etwas Neues. Dennoch ist die Abrechnung rechtlich gesehen extrem kompliziert. Während die Landwirtschaft nämlich in der Agrarpolitik geregelt ist, fallen Unterkunft und Restaurant in eine andere Kategorie. Natürlich aber müssen die Anzahl der Arbeitsstunden in einem Betrieb korrekt gemeldet werden – unter Androhung einer Geldstrafe. Will man alles korrekt machen, benötigt das fast eine Vollzeitkraft, die sich nur um den Papierkram kümmert. Wenn Sie mit Klempnern sprechen, sagen sie Ihnen, dass es einfach zu kompliziert geworden sei – all der Papierkram, den sie jedes Mal ausfüllen müssen, wenn sie ein Rohr nur berühren! Die Leute haben also zwei Möglichkeiten: Entweder etwas nebenbei zu machen oder sie geben auf und lassen sich von einem grossen Unternehmen anheuern, das über ein juristisches Team verfügt, das sich dieser Fragen annimmt.
In anderen Branchen ist das kaum anders.
Die Zahl der Normen in Frankreich nimmt ständig zu, und das ist nicht tragbar. Juristen prangern das zwar an, aber das bleibt abstrakt. Wer es sich leisten kann, engagiert dafür jemanden, der sich mit der Komplexität befasst. Aber die Leute, die ich angetroffen habe, sind weit weg von den Zentren und bekommen die normative Wand vor die Nase gesetzt. Weil sie ihr gezwungenermassen hilflos gegenüberstehen, haben sich grosse Ressentiments gegen die Zentralregierung gebildet. Das erklärt die Gelbwesten und die Revolten, die wir gesehen haben und die wir wieder sehen werden.