SubmittedText

Angesichts der rasanten Entwicklung der KI, aktuell vor allem von generativen Kls, stellt sich die Frage, wie möglichen Schäden auch gesetzgeberisch entgegengewirkt werden muss.

Dabei ist zwischen Rechtssetzung und Rechtsdurchsetzung zu unterscheiden. Wenn bereits heute klare Rechtsgüter definiert sind, bedarf es möglicherweise gar keiner spezifischen Regulierung im Hinblick auf deren Verletzung durch KI-Technologien, sondern allenfalls bloss gesetzgeberischen Anpassungen, um die tatsächliche Rechtsdurchsetzung zu erleichtern. In der Antwort auf das Postulat 23.3201 lehnte der Bundesrat es aber leider rundheraus ab, eine Auslegeordnung darüber zu erstellen, ob und wo er aktuell bei der Gesetzeslage und Rechtspraxis Lücken identifiziert, welche dazu führen, dass unser Rechtssystem den Entwicklungen rund um KI nicht gerecht wird, und mit welchen Massnahmen er gedenkt, diese Lücken zu füllen.

Ich bitte darum, zu jedem der angegebenen Bereiche festzuhalten, ob und wenn ja welchen Anpassungsbedarf der Bundesrat einerseits im Bereich der Gesetzgebung und/oder andererseits im Bereich der Rechtsdurchsetzung identifiziert:

1. Korpora zum Training von generativer KI brauchen massive Mengen an Material wie Bilder, Fotos, Videos, Stimmen, Text - Wie weit ist deren Gebrauch durch das Urheberrecht gedeckt oder nicht - welche Entschädigungsforderungen können Urheber von Werken allenfalls gelten machen? Inwieweit agieren hier kollektive Verwertungsgesellschaften? Inwieweit handelt es sich hier im Zusammenhang mit personenbezogenen Daten auch um widerrechtliche Datenbearbeitung?

2. KI treffen immer öfter automatisierte Entscheidungen oder schlagen Entscheidungen vor, die dann z.B. von sachbearbeitenden Personen nur noch "abgenickt" werden - Wie weit greifen hier die Bestimmungen des neuen DSG?

3. Verletzung des Persönlichkeitsrechts, Rufschädigung etc. durch generierte Bildmaterialien, Videos, Audiodokumente, welche fälschlicherweise vorgeben, Aufnahmen von einer existierenden natürlichen Person zu sein - Erfahrungsgemäss gestaltet sich die Rechtsdurchsetzung bei Verbreitung über Social Media Plattformen hier schwierig und ist nicht niederschwellig

FederalCouncilResponseText

1. Ob die Verwendung von Inhalten zum Training generativer KI eine urheberrechtlich relevante Nutzung darstellt, ist Gegenstand intensiver Diskussionen. Um zu klären, ob sich aus dem Einsatz generativer KI ein Regulierungsbedarf ergibt, werden den Vernehmlassungsadressaten in der Vernehmlassung zu einem Rechtsschutz journalistischer Veröffentlichungen (Verlegerleistungsschutz) zusammen mit dem Vorentwurf auch spezifische Fragen zur Anwendung von KI unterbreitet.Im Zusammenhang mit personenbezogenen Daten kann festgehalten werden, dass private Datenbearbeiter die Persönlichkeit der betroffenen Personen nicht widerrechtlich verletzen dürfen (Art. 30 Abs. 1 des revidierten Datenschutzgesetzes [nDSG]; AS 2022 491). Eine Persönlichkeitsverletzung liegt u.a. dann vor, wenn Personendaten entgegen den datenschutzrechtlichen Grundsätzen bearbeitet werden (Art. 30 Abs. 2 Bst. a nDSG). Widerrechtlich ist eine Persönlichkeitsverletzung, wenn sie nicht durch Einwilligung der betroffenen Person, ein überwiegendes privates oder öffentliches Interesse oder ein Gesetz gerechtfertigt ist (Art. 31 Abs. 1 DSG). Keine Persönlichkeitsverletzung liegt i.d.R. vor, wenn die Person ihre Daten allgemein zugänglich gemacht und eine Bearbeitung nicht ausdrücklich untersagt hat (Art. 30 Abs. 3 nDSG).

2. Automatisierte Einzelentscheidungen sind im nDSG einschlägigen Bestimmungen unterworfen (namentlich gelten besondere Informations- und Auskunftspflichten sowie das Recht der betroffenen Person, auf Antrag den eigenen Standpunkt darzulegen und zu verlangen, dass die Entscheidung von einer natürlichen Person überprüft wird; Art. 21 und Art. 25 Abs. 2 Bst. f nDSG). Diese Bestimmungen finden dann Anwendung, wenn die Entscheidung ausschliesslich auf einer automatisierten Datenbearbeitung beruht, ohne Zutun einer natürlichen Person. Nur eine Entscheidung, welche eine gewisse Komplexität aufweist, erfüllt die Begriffsdefinition. Zudem muss sie mit einer Rechtsfolge für die betroffene Person verbunden sein oder diese erheblich beeinträchtigen.Dahingegen handelt es sich nicht um eine automatisierte Einzelentscheidung im Sinne des nDSG, wenn bei ihrer Vorbereitung auf KI zurückgegriffen wurde. In diesem Fall gelten die weiteren Vorschriften des nDSG, welche der Verwendung neuer Technologien ebenfalls Rechnung tragen. Neben den bereits geltenden Grundsätzen der Verhältnismässigkeit oder der Zweckbindung (Art. 6 Abs. 2-4 nDSG), sind neu etwa der Grundsatz des Datenschutzes durch Technik (Art. 7 nDSG) oder die Datenschutz-Folgenabschätzung (Art. 22 f. nDSG) zu nennen.Die Bestimmungen des nDSG zu den automatisierten Einzelentscheidungen entsprechen den Anforderungen des revidierten Übereinkommens SEV 108 des Europarates sowie denjenigen der Richtlinie (EU) 2016/680 in Bezug auf den Datenschutz im Strafrechtsbereich. Damit nähert sich die schweizerische Gesetzgebung über den Datenschutz den europäischen Anforderungen der Datenschutz-Grundverordnung (EU) 2026/679 an. Zunächst sollte deshalb das Inkrafttreten des nDSG abgewartet werden, ehe die mögliche Notwendigkeit weiterer Anpassungen beurteilt wird.

3. Die zivilrechtlichen Regelungen über Persönlichkeitsverletzungen (insbes. Recht am eigenen Bild und an der eigenen Stimme, Recht auf Achtung der Intim- und Privatsphäre, Recht auf Ehre; Art. 28 ff. ZGB) und die entsprechenden Rechtsbehelfe (namentlich Beseitigung oder Unterlassung) sind technologieneutral ausgestaltet und auch beim Einsatz von KI anwendbar. Die Rechtsdurchsetzung ist bei Verletzung im Internet aufgrund der möglichen Anonymität und der Internationalität aber unbestrittenermassen komplex. Der Bundesrat hat am 5. April 2023 das UVEK beauftragt, bis Ende März 2024 eine Vernehmlassungsvorlage zur Regulierung von grossen Kommunikationsplattformen auszuarbeiten, um diese Plattformen zur Bereitstellung von niederschwelligen Lösungen anzuhalten. Die Vorlage soll sich, wo sinnvoll, an den Regeln der Verordnung (EU) 2022/2065 vom 19. Oktober 2022 über einen Binnenmarkt für digitale Dienste und zur Änderung der Richtlinie 2000/31/EG (Gesetz über digitale Dienste/Digital Services Act) orientieren.

Antwort des Bundesrates.