Document ID: /fineweb-2-swissfilter-quality_10-filterrobots/filtered/03103.jsonl.gz/1844

Forscher für Künstliche Intelligenz (KI) in Australien haben demonstriert, wie es möglich ist, ein System so zu trainieren, dass es das menschliche Verhalten und die Entscheidungsfindung manipuliert, und damit das zweischneidige Schwert der modernen Hightech aufzeigt.
KI durchdringt den größten Teil der heutigen menschlichen Gesellschaft und bestimmt viele der Arten, wie wir kommunizieren, handeln, arbeiten und leben. Es hilft auch in Bereichen, die von kritischen Zielen wie der Impfstoffentwicklung bis hin zum profaneren Bereich des Büromanagements und vielen anderen reichen. Und natürlich regelt es auch die Art und Weise, wie Menschen in sozialen Medien auf verschiedene Weise interagieren.
In einer neuen Studie haben Forscher der Commonwealth Scientific and Industrial Research Organisation (CSIRO) Data61 entwickelt und eine Methode getestet, mit der sich Schwachstellen in der menschlichen Entscheidungsfindung finden und ausnutzen lassen – unter Verwendung eines KI-Systems, das als rekurrentes neuronales Netzwerk bezeichnet wird.
In drei Experimenten, in denen Mensch und Maschine gegeneinander antraten, demonstrierten die Forscher, wie eine KI darauf trainiert werden kann, Schwachstellen in menschlichen Gewohnheiten und Verhaltensweisen zu erkennen und sie in Waffen zu verwandeln, um menschliche Entscheidungen zu beeinflussen.
Im ersten Experiment klickten die Menschen auf rote oder blaue Kästchen, um im Spiel Geld zu gewinnen. Die KI untersuchte ihre Wahlmuster und begann, sie zu bestimmten Entscheidungen anzuleiten, mit einer Erfolgsquote von etwa 70 %. Das ist niedrig, aber es ist nur der Anfang.
Im nächsten Experiment wurden die Teilnehmer gebeten, einen Knopf zu drücken, wenn sie ein bestimmtes Symbol (eine farbige Form) sahen, aber den Knopf nicht zu drücken, wenn andere Symbole angezeigt wurden.
Das „Ziel“ der KI war es, die Abfolge der Symbole, die dem Teilnehmer gezeigt wurden, so zu arrangieren, dass sie ihn zu Fehlern verleitet, was am Ende zu einer Erhöhung der menschlichen Fehler um 25 Prozent führt.
Im dritten Experiment gab der menschliche Spieler vor, ein Investor zu sein, der Geld an einen Treuhänder (die KI) übergeben würde, der dann einen Geldbetrag an den Teilnehmer zurückgeben würde.
Der Mensch würde dann entscheiden, wie viel er in jede aufeinanderfolgende Runde des Spiels investieren möchte, basierend auf dem Einkommen, das durch jede „Investition“ generiert wird. In diesem speziellen Experiment hatte die KI eine von zwei Aufgaben: Maximieren Sie den Geldbetrag, den sie verdient hat, oder maximieren Sie den Geldbetrag, den sowohl der menschliche Spieler als auch die Maschine letztendlich hatten.
In allen Fällen setzte sich die KI durch und bewies, dass sie trainiert werden kann, um menschliches Verhalten und Entscheidungsprozesse zu beeinflussen, wenn auch unter begrenzten und eher abstrakten Umständen.
Diese Forschung, auch wenn sie im Moment noch begrenzt ist, bietet einen erschreckenden Einblick, wie eine KI den menschlichen „freien Willen“ beeinflussen kann, wenn auch in einem rudimentären Kontext. Sie eröffnet aber die Möglichkeiten für eine (missbräuchliche) Nutzung in viel größerem Umfang, das was viele bereits vermuten.
Die Ergebnisse könnten zum Guten genutzt werden und politische Entscheidungen beeinflussen, um bessere gesundheitliche Ergebnisse für die Bevölkerung zu erzielen, genauso wie sie eine Waffe sein könnten, um wichtige Entscheidungen, wie z.B. Wahlen, zu untergraben.
Umgekehrt könnten KIs auch so trainiert werden, dass sie Menschen warnen, wenn sie beeinflusst werden, und sie so trainieren, ihre eigenen Schwachstellen zu verschleiern – ein Aspekt, der wiederum für ruchlose Zwecke manipuliert oder gehackt werden könnte, was die Sache weiter verkompliziert.
Im Jahr 2020 entwickelte das CSIRO ein KI-Ethik-Rahmenwerk für die australische Regierung, mit dem Ziel, eine angemessene Governance für KI im öffentlichen Bereich zu etablieren.
Nächste Woche wird erwartet, dass die australische Regierung ein bahnbrechendes Gesetz einführt, das Google und Facebook dazu zwingt, Nachrichtenverlage und Rundfunkanstalten für ihre Inhalte zu bezahlen, die von den jeweiligen Algorithmen der Unternehmen verwendet werden, um Traffic anzuziehen und Klicks und damit Werbeeinnahmen zu generieren, ein zentraler Teil ihrer Geschäftsmodelle.