Document ID: /fineweb-2-swissfilter-quality_10-filterrobots/filtered/03493.jsonl.gz/667

Das Thema Deepfakes wird uns sicher noch eine Weile beschäftigen. Die Probleme sind bekannt: Überzeugend echt aussehende gefälschte Fotos könnten einen Politiker in einer problematischen Situation darstellen oder in einem gefälschten Video könnten einer Firmenchefin falsche Worte in den Mund gelegt werden. Auch könnten Deepfake-Bilder verwendet werden, um Social-Media-Bots echt aussehen zu lassen, schreibt die Universität Sidney. Demnach hat eine russische Troll-Farm im Jahr 2016 über 50'000 Bots eingesetzt, die Deepfakes als Profilbilder verwendeten, um den Ausgang der US-Präsidentschaftswahlen zu beeinflussen. Jüngere Beispiele umfassen Deepfake-Videos von Vladimir Putin und Volodymyr Zelensky.
Forschende der Uni Sydney haben in einem Experiment versucht herauszufinden, wie gut Menschen Deepfakes erkennen. Die Hirnaktivitäten der Teilnehmenden hätten gezeigt, dass Deepfakes in 54% der Fälle erkannt werden konnten. Sobald die Teilnehmenden die Deepfakes aber aktiv benennen mussten, sei ihnen das nur in 37% der Fälle korrekt gelungen.
Dazu sind laut Universität zwei Experimente durchgeführt worden. Bei einem wurden den Teilnehmern 50 Bilder von echten und computergenerierten falschen Gesichtern gezeigt. Sie sollten erkennen, welche echt und welche unecht waren. Beim zweiten wurden einer anderen Gruppe von Teilnehmern dieselben Bilder gezeigt, während ihre Gehirnaktivität mittels EEG aufgezeichnet wurde, ohne dass sie wussten, dass die Hälfte der Bilder gefälscht war. Ein Vergleich der Ergebnisse habe gezeigt, dass "die Gehirne der Menschen besser in der Lage waren, Fälschungen zu erkennen, als ihre Augen", schreiben die Forschenden.
Basis für Algorithmen
Die Trefferquote sei zwar mit 54% niedrig, aber "statistisch zuverlässig", glauben die Forscher.
"Das zeigt uns, dass das Gehirn den Unterschied zwischen gefälschten und echten Bildern erkennen kann." Dies lasse darauf schliessen, dass die derzeitigen Deepfakes fehlerhaft seien, führen die Forscher aus
.
"Wenn wir lernen können, wie das Gehirn Fälschungen erkennt, könnten wir diese Informationen nutzen, um Algorithmen zu entwickeln, die Fälschungen auf digitalen Plattformen wie Facebook und Twitter erkennen", glaubt Thomas Carlson von der School of Psychology der Universität Sidney.
Allerdings merken die Autoren an, dass sich diese Forschung noch am Anfang befinde. Möglicherweise führe der Ansatz nicht zu einer Lösung, aber man habe vielleicht ein weiteres Instrument, um gegen Fälschungen und die Verbreitung von Desinformationen vorzugehen.