Über die mögliche Gefahr eines KI-Kartells zur Zementierung ideologischer Spaltungen
Creators: name: Mildner, Sven
Publisher: name: Sven Mildner, Dresden
Year: 2025
Subjects: subject: Artificial Intelligence
subject: Künstliche Intelligenz
subject: KI
subject: Google Gemini
subject: Politik
subject: politische Systeme
subject: Freiheit
subject: Demokratie
subject: Datenschutz
subject: Militärfestspiele
subject: Ukraine-Konflikt
subject: Gleichschaltung
subject: Totalitarismus
subject: Maskenpflicht
subject: digitales Zeitalter
subject: DeepSeek
subject: Bard
subject: Qwen
subject: Chat-GPT
subject: Profilierung
subject: Nutzerprofile
subject: Social Scoring
subject: Sozialkredit
subject: Netzpolitik
subject: Netzpolitik.org

description: PREPRINT / Entwurf

www.netzpolitik.org

 

kurzes Abstract

Die nachfolgende Studie soll im Ansatz untersuchen, wie zwei verschiedene KI Systeme - aus mutmaßlich unterschiedlichen Interessenssphären- mit der Frage umgehen, ob ein hypothetisches KI Kartell die Gefahr mit sich bringen könnte, bestehende ideologische Spaltungen zwischen den Ländern und den Einflussspären zu zementieren: Beispielsweise im Konfliktfeld zwischen Ost und West, Kapitalismus vs. Kommunismus, USA <> China.

Als mögliche Bedingung hierfür sei im vorliegenden Beispiel eine heimliche Absprache auf geheimdienstlicher oder militärischer Ebene angeführt, zum Nachteil der Nutzer im Allgemeinen, die entweder diesem oder jenem System zwangsweise zugeordnet werden (Profilierung).

Die Gefahr besteht hierbei also nicht unbedingt bei der transparenten und offenen Kooperation zwischen den beteiligten KI Unternehmen, sondern in einem hypothetisch stattfindenden intransparenten Datenaustausch mit dem Ziel, die Welt bewusst in verschiedene politische Interessenssphären aufzuteilen (gemeinsam).

Befragt wurden hierfür zwei KI Systeme, welche sinnbildlich für die oben genannten Konfliktparteien stehen, deren Antworten jedoch anonymisiert werden, um Fairness und Neutralität zu bewahren.

Die Veröffentlichung soll als mögliche Diskussionsgrundlage dienen, beispielsweise im Rahmen künftig stattfindender KI-Ethik-Konferenzen oder auch im öffentlichen Diskurs über verschiedene KI Themen.

 

Der notwendige Dialog - Zwischenmenschliche Kommunikation und Verantwortung im Gespräch

- oder - Die Grundlagen für das Gespräch vor dem Gespräch - auch mit der KI?

Manche Menschen neigen dazu, direkt oder kritisch zu sein, während andere eher indirekt oder diplomatisch kommunizieren. Wenn diese Stile aufeinandertreffen, kann es schnell zu Missverständnissen kommen. Aber auch falsche Entscheidungen können das Resultat sein, das aus Missverständnissen hervorgeht. Das gilt schon bald womöglich nicht einmal nur unbedingt für die zwischenmenschliche Kommunikation, sondern auch für die Arbeit mit Künstlicher Intelligenz. Nämlich dann, sollte dort auch ein persönliches Nutzerprofil hinterlegt werden, das gleichzeitig auch zur Bewertung von Systemtreue herangezogen wird (siehe Profiling und Social Scoring). Schnell kann es dann geschehen, dass man an Reputation gegenüber einem Bewertungssystem verliert, wenn man beispielsweise Dokumente hat analysieren lassen, die zufällig auch die “falschen” Schlüsselworte oder Inhalte thematisieren könnten - und sei es zu einem späteren Zeitpunkt vielleicht auch nur im Nebensatz. George Orwells 1984 lässt grüßen.

Wichtig ist zu beachten, dass ein Mensch selbst ja keine Maschine ist und deshalb nicht mit der gleichen Genauigkeit und Effizienz arbeiten kann, wie die KI oder auch nur diejenige Institution im Hintergrund, die hier womöglich das Maß anlegt, für die Bewertungskriterien einer KI. Die Grenzen werden also unter Umständen gezogen von elitären Strukturen (Spezialisten) oder solchen, die im Staat (noch) privilegiert sind und deshalb ausreichend Ressourcen zur Verfügung haben, um 120% zu leisten, gegenüber dem Otto-Normalbürger, für den die KI vielleicht noch Neuland ist oder zunächst ein Hobby. Ein vielleicht unbedachter Satz könnte eine solche KI also womöglich auch heranziehen, um automatisiert eine falsche Nutzerbewertung vorzunehmen, die sich insbesondere in Staaten, welche nach und nach ins Autoritäre gleiten, gleichzeitig auch zu einem willkürlichen Bewertungskriterium werden. Ein solches Abdriften ins Autoritäre könnte beispielsweise auch dann geschehen, wenn ideologische Spaltungen nicht aufgelöst werden dürfen, sondern sich - im Gegenteil - eher verfestigen.