BEGRÜNDUNG

1.KONTEXT DES VORSCHLAGS

·Gründe und Ziele des Vorschlags

Diese Begründung begleitet den Vorschlag für eine Richtlinie zur Anpassung der Vorschriften über außervertragliche zivilrechtliche Haftung an künstliche Intelligenz (KI). Einer repräsentativen Umfrage aus dem Jahr 2020 zufolge zählt die Haftung zu den drei größten Hindernissen für den Einsatz von KI durch europäische Unternehmen. Sie wurde als wichtigstes externes Hindernis (43 %) für Unternehmen genannt, die den Einsatz von KI planen, aber dies bisher nicht getan haben.

In ihren politischen Leitlinien hat Kommissionspräsidentin Ursula von der Leyen ein koordiniertes europäisches Konzept für KI vorgestellt. Im Weißbuch zur KI vom 19. Februar 2020 hat sich die Kommission verpflichtet, die Einführung von KI zu fördern und die mit einigen ihrer Anwendungen verbundenen Risiken durch die Förderung von Exzellenz und Vertrauen zu bewältigen. In dem Bericht über die Haftung für KI, der dem Weißbuch beigefügt ist, hat die Kommission die besonderen Herausforderungen aufgezeigt, die KI für die bestehenden Haftungsvorschriften darstellt. In seinen Schlussfolgerungen zur Digitalstrategie vom 9. Juni 2020 begrüßte der Rat die Konsultation zu den politischen Vorschlägen im Weißbuch zur KI und forderte die Kommission auf, konkrete Vorschläge zu unterbreiten. Am 20. Oktober 2020 nahm das Europäische Parlament eine legislative Initiativentschließung gemäß Artikel 225 des Vertrags über die Arbeitsweise der EU (AEUV) an, in der es die Kommission aufforderte, einen Vorschlag für eine Regelung der zivilrechtlichen Haftung für KI auf der Grundlage von Artikel 114 AEUV anzunehmen.

Die derzeitigen nationalen Haftungsvorschriften, insbesondere die Vorschriften über die verschuldensabhängige Haftung, sind für die Bearbeitung von Haftungsansprüchen für Schäden, die durch KI-gestützte Produkte und Dienstleistungen verursacht werden, nicht geeignet. Nach diesen Vorschriften müssen die Opfer eine unrechtmäßige Handlung oder Unterlassung einer Person nachweisen, die den Schaden verursacht hat. Die besonderen Merkmale der KI, darunter Komplexität, Autonomie und Undurchsichtigkeit (der sogenannte „Blackbox“-Effekt), können die Ermittlung der haftbaren Person und die Erfüllung der Voraussetzungen für eine erfolgreiche Haftungsklage für die Opfer erschweren oder unerschwinglich machen. Insbesondere bei der Geltendmachung von Schadensersatzansprüchen könnten den Opfern sehr hohe Vorlaufkosten entstehen und die Gerichtsverfahren könnten erheblich länger dauern als in Fällen, in denen keine KI eingesetzt wird. Dies könnte die Opfer davon abhalten, überhaupt Schadensersatzansprüche geltend zu machen. Diese Bedenken hat auch das Europäische Parlament in seiner Entschließung vom 3. Mai 2022 zu künstlicher Intelligenz im digitalen Zeitalter geäußert.

Erhebt ein Opfer eine Klage, können die nationalen Gerichte, die mit den besonderen Merkmalen der KI konfrontiert sind, ihre Auslegung der bestehenden Vorschriften ad hoc anpassen, um zu einem gerechten Ergebnis für das Opfer zu gelangen. Dies wird zu Rechtsunsicherheit führen. Den Unternehmen wird es schwerfallen, vorherzusagen, wie die bestehenden Haftungsvorschriften angewandt werden, und somit eigenes Haftungsrisiko zu bewerten und zu versichern. Für grenzüberschreitend tätige Unternehmen werden sich die Auswirkungen noch verstärken, da die Ungewissheit sich auf verschiedene Rechtsordnungen erstrecken wird. Besonders betroffen werden die kleinen und mittleren Unternehmen (KMU) sein, die sich nicht auf internes juristisches Fachwissen oder Kapitalreserven verlassen können.

Die nationalen KI-Strategien zeigen, dass mehrere Mitgliedstaaten Legislativmaßnahmen zur zivilrechtlichen Haftung für KI in Betracht ziehen oder sogar konkret planen. Es ist daher zu erwarten, dass die Mitgliedstaaten ihre nationalen Haftungsvorschriften an die Herausforderungen der KI anpassen werden, wenn die EU nicht tätig wird. Dies wird zu einer weiteren Fragmentierung und zu erhöhten Kosten für EU-weit tätige Unternehmen führen.

In der öffentlichen Konsultation, die der Folgenabschätzung zu diesem Vorschlag zugrunde lag, wurden die oben erläuterten Probleme bestätigt. Aus Sicht der Öffentlichkeit kann der „Blackbox“-Effekt es dem Opfer erschweren, Verschulden und Kausalität nachzuweisen, und es kann Unsicherheit darüber bestehen, wie die Gerichte die bestehenden nationalen Haftungsvorschriften in KI betreffenden Fällen auslegen und anwenden werden. Darüber hinaus zeigte sich die Öffentlichkeit besorgt darüber, wie sich die von einzelnen Mitgliedstaaten eingeleiteten Legislativmaßnahmen zur Anpassung der Haftungsvorschriften und die daraus resultierende Fragmentierung auf die Kosten für Unternehmen, insbesondere KMU, auswirken und die Einführung von KI EU-weit verhindern würden.

Ziel dieses Vorschlags ist es daher, die Einführung vertrauenswürdiger KI zu fördern, um ihre Vorteile für den Binnenmarkt voll auszuschöpfen. Damit soll sichergestellt werden, dass Opfer von durch KI verursachten Schäden den gleichen Schutz erhalten wie Opfer von Schäden, die durch Produkte im Allgemeinen verursacht wurden. Zudem wird die Rechtsunsicherheit von Unternehmen, die KI entwickeln oder nutzen, in Bezug auf ihr mögliches Haftungsrisiko verringert und das Entstehen fragmentierter KI-spezifischer Anpassungen der nationalen Vorschriften über die zivilrechtliche Haftung verhindert.

·Kohärenz mit den bestehenden Vorschriften in diesem Bereich

Dieser Vorschlag ist Teil eines Maßnahmenpakets zur Unterstützung der Einführung von KI in Europa durch die Förderung von Exzellenz und Vertrauen. Dieses Paket umfasst drei sich ergänzende Arbeitsansätze:

–einen Legislativvorschlag zur Festlegung horizontaler Vorschriften für Systeme der künstlichen Intelligenz (Gesetz über künstliche Intelligenz),

–eine Überarbeitung der sektoralen und horizontalen Produktsicherheitsvorschriften,

–EU-Vorschriften zur Regelung von Haftungsfragen im Zusammenhang mit KI-Systemen.