Document ID: /fineweb-2-swissfilter-quality_10-filterrobots/filtered/03342.jsonl.gz/1864

Verschiedene namhafte Vertreter aus der Tech-Branche, unter ihnen Apple-Mitgründer Steve Wozniak und Twitter-CEO Elon Musk, aber auch bekannte Persönlichkeiten aus Forschung und Politik, fordern in einem offenen Brief eine Pause der derzeit in ihren Augen "gigantischen KI-Experimente". Ganz konkret fordern sie alle KI-Labore und wichtigen Akteure dazu auf, das Training von KI-Systemen, die leistungsfähiger als GPT-4 sind, sofort für mindestens ein halbes Jahr zu unterbrechen. Notfalls sollen die Regierungen eingreifen.Im Brief
, der inzwischen über 1000 Unterzeichner hat, wird unter anderem die Frage aufgeworfen, ob wir es zulassen wollen, dass Maschinen unsere Informationskanäle mit Propaganda und Unwahrheiten überfluten. Oder, ob wir wirklich möchten, dass alle unsere Arbeitsplätze automatisiert werden und wir den Verlust der Kontrolle über unsere Zivilisation riskieren wollen. Die Verfasser sind der Meinung, dass solche Entscheidungen nicht durch nicht-gewählte Technikführer zu treffen sind. Zudem sollen leistungsstarke KI-Systeme ihrer Ansicht nach erst dann entwickelt werden, wenn man sicher ist, dass ihre Auswirkungen positiv und ihre Risiken überschaubar sind.
In ihrem offenen Brief zitieren Wozniak und Co. mit OpenAI
auch einen der Vorreiter in diesem Bereich. Dort soll man zum Thema kürzlich unter anderem zu Protokoll gegeben haben, dass es irgendwann wichtig werden könnte, eine unabhängige Überprüfung einzuholen, bevor mit dem Training zukünftiger Systeme begonnen wird. Diesen Zeitpunkt sieht man nun gekommen.
(mv)