Über die mögliche Gefahr eines KI-Kartells zur Zementierung ideologischer Spaltungen
Creators: name: Mildner, Sven
Publisher: name: Sven Mildner, Dresden
Year: 2025
Subjects: subject: Artificial Intelligence
subject: Künstliche Intelligenz
subject: KI
subject: Google Gemini
subject: Politik
subject: politische Systeme
subject: Freiheit
subject: Demokratie
subject: Datenschutz
subject: Militärfestspiele
subject: Ukraine-Konflikt
subject: Gleichschaltung
subject: Totalitarismus
subject: Maskenpflicht
subject: digitales Zeitalter
subject: DeepSeek
subject: Bard
subject: Qwen
subject: Chat-GPT
subject: Profilierung
subject: Nutzerprofile
subject: Social Scoring
subject: Sozialkredit
subject: Netzpolitik
subject: Netzpolitik.org

description: PREPRINT / Entwurf

www.netzpolitik.org

 

kurzes Abstract

Die nachfolgende Studie soll im Ansatz untersuchen, wie zwei verschiedene KI Systeme - aus mutmaßlich unterschiedlichen Interessenssphären- mit der Frage umgehen, ob ein hypothetisches KI Kartell die Gefahr mit sich bringen könnte, bestehende ideologische Spaltungen zwischen den Ländern und den Einflussspären zu zementieren: Beispielsweise im Konfliktfeld zwischen Ost und West, Kapitalismus vs. Kommunismus, USA <> China.

Als mögliche Bedingung hierfür sei im vorliegenden Beispiel eine heimliche Absprache auf geheimdienstlicher oder militärischer Ebene angeführt, zum Nachteil der Nutzer im Allgemeinen, die entweder diesem oder jenem System zwangsweise zugeordnet werden (Profilierung).

Die Gefahr besteht hierbei also nicht unbedingt bei der transparenten und offenen Kooperation zwischen den beteiligten KI Unternehmen, sondern in einem hypothetisch stattfindenden intransparenten Datenaustausch mit dem Ziel, die Welt bewusst in verschiedene politische Interessenssphären aufzuteilen (gemeinsam).

Befragt wurden hierfür zwei KI Systeme, welche sinnbildlich für die oben genannten Konfliktparteien stehen, deren Antworten jedoch anonymisiert werden, um Fairness und Neutralität zu bewahren.

Die Veröffentlichung soll als mögliche Diskussionsgrundlage dienen, beispielsweise im Rahmen künftig stattfindender KI-Ethik-Konferenzen oder auch im öffentlichen Diskurs über verschiedene KI Themen.

 

Der notwendige Dialog - Zwischenmenschliche Kommunikation und Verantwortung im Gespräch

- oder - Die Grundlagen für das Gespräch vor dem Gespräch - auch mit der KI?

“Ich bitte um Verzeihung und Nachsicht, ich wollte nicht verletzend sein, falls ich das war.” Es war mir nicht bewusst in "meiner Unbewusstheit". Ich bin zunächst eben auch nur ein Produkt meiner äußeren Umstände (Sozialisation, Kulturkreis etc.) und kann deine Perspektive nicht sofort und ohne Weiteres nachvollziehen.” - Vor dem Gespräch oder der Entscheidung wäre es wahrscheinlich erforderlich gewesen, zunächst noch über die Rahmenbedingungen zu sprechen, die einem solchen oder einer solchen zugrunde liegen sollten.

Manche Menschen neigen dazu, direkt oder kritisch zu sein, während andere eher indirekt oder diplomatisch kommunizieren. Wenn diese Stile aufeinandertreffen, kann es schnell zu Missverständnissen kommen. Aber auch falsche Entscheidungen können das Resultat sein, das aus Missverständnissen hervorgeht. Das gilt schon bald womöglich nicht einmal nur unbedingt für die zwischenmenschliche Kommunikation, sondern auch für die Arbeit mit Künstlicher Intelligenz. Nämlich dann, sollte dort auch ein persönliches Nutzerprofi l hinterlegt werden, das gleichzeitig auch zur Bewertung von Systemtreue herangezogen wird (siehe Profi ling und Social Scoring). Schnell kann es dann geschehen, dass man an Reputation gegenüber einem Bewertungssystem verliert, wenn man beispielsweise Dokumente hat analysieren lassen, die zufällig auch die “falschen” Schlüsselworte oder Inhalte thematisieren könnten - und sei es zu einem späteren Zeitpunkt vielleicht auch nur im Nebensatz. George Orwells 1984 lässt grüßen.

Wichtig ist zu beachten, dass ein Mensch selbst ja keine Maschine ist und deshalb nicht mit der gleichen Genauigkeit und Effi zienz arbeiten kann, wie die KI oder auch nur diejenige Institution im Hintergrund, die hier womöglich das Maß anlegt für die Bewertungskriterien einer KI. Die Grenzen werden also unter Umständen gezogen von elitären Strukturen (Spezialisten) oder solchen, die im Staat (noch) privilegiert sind und deshalb ausreichend Ressourcen zur Verfügung haben, um 120% zu leisten, gegenüber dem Otto-Normalbürger, für den die KI vielleicht noch Neuland ist oder zunächst ein Hobby...