Document ID: /fineweb-2-swissfilter-quality_10-filterrobots/filtered/03505.jsonl.gz/1397

Das Wichtigste in Kürze
- Ein Forschungsteam aus Oxford warnt in einem neuen Paper vor künstlicher Intelligenz (KI).
- Demnach sei es wahrscheinlich, dass KI zu einer existenziellen Katastrophe führen würde.
- Gleichzeitig betonen die Forschenden: Alle ihre Annahmen seien durchaus anfechtbar.
Eine neue Studie von der Oxford-Universität schlussfolgert, dass künstliche Intelligenz «wahrscheinlich» in einer «existenziellen Katastrophe» münden wird. Die Studie wurde auf den Seiten des AI Magazine publiziert. Die Grundidee der Forscher ist simpel: Eine besonders intelligente Maschine könnte lernen, den Menschen auszutricksen, um an eine Belohnung zu gelangen.
Eine solche künstliche Intelligenz könnte zu diesem Zweck beispielsweise unbemerkte, unüberwachte Helfer installieren. Auf diese Weise könnte die Maschine den ursprünglichen Bediener schrittweise ersetzen, um sich selbst eine grössere Belohnung anzubieten.
Bereitet Ihnen die Entwicklung künstlicher Intelligenz Sorgen?
Einer der Co-Autoren, Michael Cohen, arbeitet neben seiner Universitätsprofessur auch als Forschungschef bei Deep-Mind. Das Unternehmen gehört dem Google-Mutterkonzern Alphabet und spezialisiert sich auf die Programmierung von künstlicher Intelligenz. Der Experte betont, dass fast alle Annahmen der Studie entweder anfechtbar oder vermeidbar seien.