Document ID: /fineweb-2-swissfilter-quality_10-filterrobots/filtered/03534.jsonl.gz/1021

Die EU plant offenbar strenge Regeln, was den Einsatz von KI anbelangt. Unternehmen, die dagegen verstossen, müssten mit happigen Bussen rechnen, berichtet 'Bloomberg'. Dem US-Magazin liegt ein Entwurf des Vorschlags der EU-Kommission vor. Dieser soll offenbar noch nächste Woche vorgestellt werden, wie auch die 'FAZ' schreibt.
Laut den beiden Berichten sieht der EU-Vorschlag unter anderem ein Verbot von kommerziellen KI-Anwendungen für die Massenüberwachung vor sowie von Social-Scoring-Systemen, die zu Diskriminierung führen könnten. Auch KI, die darauf ausgelegt ist, menschliches Verhalten oder Entscheidungen zu einem nachteiligen Zweck zu manipulieren, sogenannte Dark Patterns, sind im Vorschlag als verboten aufgeführt.
Für die öffentliche Sicherheit würden einige Ausnahmen gelten. Die Regeln würden auch nicht für KI-Systeme gelten, die ausschliesslich für militärische Zwecke genutzt werden.
"Risiko-KI" soll vor dem Einsatz überprüft werden
KI-Anwendungen, die als "risikoreich" eingestuft werden, müssen vor dem Einsatz einer Prüfung unterzogen werden. Dies soll sicherstellen, dass die Systeme mit unvoreingenommenen Datensätzen, auf nachvollziehbare Weise und unter menschlicher Aufsicht trainiert wurden.
Als hochriskant gilt laut 'Bloomberg' KI, die die Sicherheit, das Leben oder die Grundrechte von Menschen sowie die demokratischen Prozesse in der EU gefährden könnte. Als Beispiel werden KI-gesteuerte Operationen oder autonome Autos genannt.
Zu Hochrisiko-Anwendungen zählt die EU laut 'FAZ' auch die Nutzung von Gesichtserkennung im öffentlichen Raum. Auch der Einsatz bei der Beurteilung der Kreditwürdigkeit, bei der Einstellung von Arbeitnehmenden oder bei der Bewertung für den Zugang zu Sozialleistungen zähle dazu. In diesen Fällen sollen Menschen die abschliessende Kontrolle über die Entscheidungen haben. Die Liste der hochriskanten Anwendungen soll regelmässig überarbeitet werden, schreibt die Zeitung.
Daneben will die EU laut den Berichten sichergestellt haben, dass die Daten, mit denen die KI trainiert wird, angemessen und neutral sind.
Bei anderen, harmloseren Anwendungen soll klar sein, wenn Menschen es mit KI zu tun haben, etwa bei Chat-Bots oder in Telefon-Hotlines. Auch Deep-Fakes müssten entsprechend gekennzeichnet werden, sofern die Manipulation nicht aus dem Kontext erkennbar sei, schreibt die 'FAZ' weiter.
Bussen von bis zu 20 Millionen Euro
Die EU sieht Bussen vor in der Höhe von bis zu 4% des Jahresumsatzes oder bis zu 20 Millionen Euro. Diese Zahl aus dem Entwurf könne sich aber bis nächste Woche noch ändern, heisst es bei der 'FAZ'.
Wie auch bei der DSGVO sollen die Regeln und Strafen für alle Unternehmen gelten, die in der EU aktiv sind, unabhängig davon, ob sich ihr Sitz in einem EU-Mitgliedsland befindet.