Document ID: /fineweb-2-swissfilter-quality_10-filterrobots/filtered/03173.jsonl.gz/41

Werden Chinas Social-Credit-Scores einen grossen technologischen Durchbruch für die Gesellschaft darstellen oder letztlich ein Beispiel für ethischen Treibsand sein? Eine kritische Auseinandersetzung in der digitalen Ethik.
Bildquelle AdobeStock
Im Jahr 2010 startete die chinesische Regierung in einer Provinz nördlich von Shanghai ein Pilotprogramm für Social-Credit-Scores (SCS), das Punkte für Vertrauenswürdigkeit vergibt und für negatives Verhalten abzieht. Dieses Pilotsystem bietet Anreize für Personen mit einem hohen Social-Credit-Score, wie z. B. bevorzugten Zugang zu öffentlichem Wohnraum, Reisevisa und Karriere.
Andere Provinzen führten daraufhin ähnliche Systeme ein, die finanzielle, soziale und andere Informationen über Chinas 1,3 Milliarden Menschen sammeln. Seit 2020 sind die Bürger-Scores verpflichtend und öffentlich zugänglich. Das Vorhaben Chinas hat in den westlichen Medien Kritik auf sich gezogen, da sie befürchten, dass es eine Dystopie der sozialen Kontrolle schaffen könnte.
Um die Vor- und Nachteile dieses Vorhabens beschreiben zu können, sollte erst die Bedeutung eines solchen Systems erläutert werden.
Was ist ein Social-Credit-System eigentlich?
Ein SCS basiert auf einer Big-Data-Infrastruktur, die für jede Person Daten aus den sozialen Medien, zu Wahlverhalten, Finanzinformationen, Online-Einkäufen, Kreditvergangenheit, Steuerzahlungen, Rechtsangelegenheiten usw. sammelt und sie zu ihrem Social-Credit-Score zusammenfasst.
Diese Datenbank wird dazu in China mit Informationen aus Gesundheits-Apps, Geo-Tracking-Software, Informationen aus Gesichtserkennungssoftware und Fakten über Beziehungen, Freunde und Familie ergänzt.
Offizielle Ziele des chinesischen Social-Credit-Systems
Die chinesische Regierung entwickelte ihr SCS als ein Reputationssystem, das die Tugenden der Integrität fördern, Unehrlichkeit entmutigen und ein Umfeld des Vertrauens aufbauen soll. Dieses SCS nutzt eine Big-Data-gestützte Überwachungsinfrastruktur, um die Vertrauenswürdigkeit von Bürgern, Firmen und Regierungen zu verwalten, zu überwachen und vorherzusagen. Für Menschenrechtsorganisationen ist der Vorwand der Förderung von «traditionellen Tugenden» nur ein Vorwand, um die Bevölkerung zu überwachen.
Ethische Dilemmata
Nebst Bedenken hinsichtlich des Datenschutzes und der Cybersicherheit wirft das SCS tiefere ethische Dilemmata auf. Erstens sollte das Dilemma von «Konformität vs. Zwang» adressiert werden. Der Zweck von Anreizen und Belohnungen bei diesem System ist es, positive Verhaltensweisen zu verstärken und Strafmassnahmen zu erlassen, um negative Handlungen zu verhindern.
Einige Wissenschaftler argumentieren, dass dies lediglich der Versuch der Regierung sei, ein wie ein Spiel anmutendes System zu nutzen, um einfacher allgemeine Konformität zu schaffen. Positives Verhalten zu belohnen ist eine gute Sache, aber die Einführung von Strafen für «Unzuverlässigkeit» erzeugt Konsequenzen für die mangelnde Einhaltung von staatlich verordneten sozialen Verhaltensweisen. Hier liegt das Hauptproblem, weil es eine kritische ethische Frage ist, wie der Bewertungsalgorithmus definiert wird. Soziale Werte und Normen können schnell durch den Druck zur Einhaltung von Gesetzen und Vorschriften ausser Kraft gesetzt werden.
Zusätzlich können von der Regierung auferlegte Sanktionen und Strafen zu Zwangsmassnahmen werden, wenn es kein angemessenes System der Kontrolle und des Ausgleichs gibt. Die zentrale Frage ist: Welche Instanz garantiert diesen Ausgleich? Chinas Datenschutzgesetze schützen zwar die Daten der Bürger vor Missbrauch durch private Firmen und nichtstaatliche Akteure, nicht jedoch durch die Regierung.
Ein zweites ethisches Dilemma ist die Frage von «Transparenz vs. Handel». Die Gamification des Social-Status-Scores bedeutet, dass sowohl die absolute Punktzahl einer Person als auch ihre relative auf der Rangliste zu anderen wichtig ist. Positiv könnte sein, dass die Ranglisten Vergleichspunkte und Transparenz bieten. Dies kann einzelne jedoch reizen, unethische Mittel einzusetzen, um den eigenen Gesamtscore und die relative Position zu verbessern. Dies öffnet die Tür zu einer parallelen «Dark World», in der alles käuflich ist.
Ein weiteres Dilemma ist die «Transparenz des Bewertungsalgorithmus». Das Wertesystem für das SCS wurde nicht von einer vom Volk gewählten Gruppe bestimmt, sondern von der Kommunistischen Partei Chinas allein. Daher reflektiert das Wertesystem nur die Werte und Normen einer einzigen Denkrichtung. Dieses System repräsentiert somit keine Vielfalt der sozialen Werte, wie sie in einem Vielvölkerstaat die Regel sein sollte.
Das nächste Dilemma ist die «Integration» des Systems in das öffentliche Leben. Das SCS wurde vom Staat programmiert und diskreditiert systematisch Individuen, beispielsweise auf öffentlichen Screens. Das Ziel ist, einen aus der Sicht der Partei «besseren» Menschen zu schaffen. Obwohl in China die Gesellschaft gegenüber dem Individuum einen anderen Stellenwert als im Westen hat, kann diese öffentliche Demütigung mit gesundem Menschenverstand nicht gerechtfertigt werden.
Ist ein Social-Credit-System für jede technologiegetriebene Gesellschaft notwendig?
Diese Frage ist irreführend. Aus der Tatsache, dass eine Gesellschaft technisch in der Lage ist, ein SCS zu realisieren, folgt nicht die Notwendigkeit zur Realisierung solch eines Systems.
Das folgende Beispiel kann diese Irreführung darstellen: Die technische Fähigkeit einer Nation zur Herstellung von Nuklearwaffen führt zu keiner Notwendigkeit zur Umsetzung militärischer Nuklearprogramme. Um solche irreführenden Fragestellungen zu vermeiden, sollte in erster Linie reflektiert werden, weshalb eine Gesellschaft ein Social-Credit-System als notwendig erachten sollte.
Eine richtungsweisende Frage sollte zuerst beantworten, was im gesellschaftlichen System fehlt und warum ein SCS eine adäquate Lösung sein sollte. Ein Beispiel aus den traditionellen Tugenden kann diese Überlegungen deutlicher machen.
Die Selbstbezahlung auf Blumenfeldern
Auf diesen Feldern schneidet die Kundschaft die Blumen selbst und legt den zu zahlenden Betrag in eine Box. Das Geschäftsmodell basiert auf Vertrauen, es gibt keine Überwachung. Im Zeitalter der digitalen Möglichkeiten zeugen diese Blumenfelder dafür, dass die meisten Käufer freiwillig den korrekten Preis bezahlen. Aus welchem Grund verhalten sich die Menschen hier korrekt, obwohl sie nicht durch ihre Social-Scores zu «guten Taten» ermutigt werden? Die Gründe für dieses korrekte Verhalten sind wesentlich bei Debatten um ein SCS.
Was ist wirksam gegen kleine Delikte?
In den Debatten zur Einführung eines SCS ausserhalb von China wird dieses System häufig als das geeignete Mittel zur Vorbeugung und Bekämpfung kleiner Delikte dargestellt. In jeder Gesellschaft gibt es leichte, mittlere und schwere Delikte. Daher gibt es auch überall strafrechtliche Methoden, um sämtliche infrage kommenden Straftatbestände festzustellen, zu überprüfen und strafrechtlich zu sanktionieren.
Bei solchen Debatten sollte erst festgestellt werden, warum die Befürworter eines SCS denken, dass das bestehende Strafsystem fehlfunktioniert und kleine Delikte nicht angemessen bestraft würden. Weiterhin sollten die Befürworter von Social-Credit-Systemen begründen, warum die (aus ihrer Sicht) Fehlfunktion des Strafsystems nicht behoben werden kann und ein grosses Teil davon deshalb durch ein SCS nach chinesischem Modell ersetzt werden sollte.
Die rechtsleitende Debatte um die Vorbeugung und Bekämpfung kleiner Delikte sollte nicht über die Ersetzung des bestehende Strafsystem, sondern über die Identifizierung eventueller Lücken im Strafsystem durchgeführt werden. Bei solchen Debatten sollte darauf hingewiesen werden, dass die Einführung eines SCS in den westlich demokratischen Staaten erstens den Justizapparat schwächen und zweitens das gesellschaftlich-historisch aufgebaute ethische Wertesystem durch ein unbekanntes Regelsystem zur Belohnung ersetzen würde.
Un petit «Social-Credit-System» für die Schweiz?
Ein SCS wird in der Schweiz wie auch im restlichen Europa sehr schwer einzuführen sein. Es müssten grundlegende Änderungen am Wertesystem und der Demokratie vorgenommen werden. Dies würde z. B. in der Politik oder der Justiz auf Probleme stossen.
Eins zu eins könnte das chinesische System definitiv nicht übernommen werden. Eine Stärke des politischen Systems in der Schweiz besteht darin, bei Problemen einen Konsens zu finden. Dies wäre hierzulande auch eine grosse und vielleicht die erste Hürde bei der Einführung eines Social-Credit-Systems. In den Ländern, in denen die Leute sich bei der Selbstbezahlung in Blumenfeldern auf Grund vorhandener ethischer Wertesysteme korrekt verhalten, gibt es keinen Raum für ein chinesische Social-Credit-System.
Die Autorin
Ladan Pooyan-Weihs ist Professorin und Leiterin vom CAS Digital Ethics am Departement Informatik der Hochschule Luzern
Der Beitrag erschien im topsoft Fachmagazin 23-1
Das Schweizer Fachmagazin für Digitales Business kostenlos abonnieren
Abonnieren Sie das topsoft Fachmagazin kostenlos. 4 x im Jahr in Ihrem Briefkasten.