Künstliche Intelligenz (KI) ist eine neue, vielseitig einsetzbare Technologie: eine höchst leistungsfähige Reihe von Computerprogrammierungstechniken. KI-Systeme können für die Gesellschaft von großem Nutzen sein, das Wirtschaftswachstum ankurbeln, Innovationen in der EU hervorbringen und die globale Wettbewerbsfähigkeit der EU stärken. In bestimmten Fällen kann der Einsatz von KI-Systemen jedoch zu Problemen führen. Die besonderen Merkmale bestimmter KI-Systeme können neue Risiken mit Blick auf die 1) Sicherheit und die 2) Grundrechte bergen und die Wahrscheinlichkeit und Intensität des Eintretens bereits bestehender Risiken erhöhen. KI-Systeme 3) erschweren es zudem den Durchsetzungsbehörden, die Einhaltung der bestehenden Vorschriften zu überprüfen und diese durchzusetzen. Diese Probleme führen wiederum zu 4) Rechtsunsicherheit für Unternehmen, 5) zu einer möglicherweise langsameren Inanspruchnahme von KI-Technologien durch Unternehmen und Bürger aufgrund fehlenden Vertrauens sowie 6) zu regulatorischen Eingriffen der nationalen Behörden, um mögliche externe Effekte zu mindern, die zu einer Fragmentierung des Binnenmarkts führen könnten.

Mit dem Rechtsrahmen sollen diese Probleme angegangen werden, indem die Voraussetzungen für die Entwicklung und Verwendung vertrauenswürdiger KI in der Union geschaffen werden, damit der Binnenmarkt reibungslos funktioniert. Die Ziele im Einzelnen: 1) Es muss gewährleistet sein, dass die auf dem Unionsmarkt in Verkehr gebrachten KI-Systeme sicher sind und die bestehenden Grundrechte und die Werte der Union wahren. 2) Zur Förderung von Investitionen in KI und innovativer KI muss Rechtssicherheit gewährleistet sein. 3) Leitungsstrukturen und die wirksame Durchsetzung des geltenden Rechts zur Wahrung der Grundrechte sowie die Sicherheitsanforderungen an KI-Systeme müssen gestärkt werden. 4) Die Entwicklung eines Binnenmarkts für rechtskonforme, sichere und vertrauenswürdige KI-Systeme muss erleichtert werden und es gilt, eine Marktfragmentierung zu verhindern.

Der grenzüberschreitende Charakter großmaßstäblicher Daten und Datensätze, auf die KI-Anwendungen häufig angewiesen sind, bedeutet, dass die Ziele der Initiative von den Mitgliedstaaten allein nicht wirksam erreicht werden können. Der europäische Rechtsrahmen für vertrauenswürdige KI zielt darauf ab, in der Union harmonisierte Vorschriften für die Entwicklung, das Inverkehrbringen und die Nutzung von Produkten und Dienstleistungen, in die KI-Technologien eingebettet sind, oder von eigenständigen KI-Anwendungen festzulegen. Sein Zweck besteht darin, gleiche Wettbewerbsbedingungen zu gewährleisten und alle europäischen Bürgerinnen und Bürger zu schützen sowie gleichzeitig die Wettbewerbsfähigkeit und die industrielle Basis Europas im Bereich der KI zu stärken. Die Maßnahmen der EU im Bereich der KI werden den Binnenmarkt ankurbeln und bieten ein beträchtliches Potenzial, um der europäischen Industrie einen globalen Wettbewerbsvorteil zu verschaffen, der auf Größenvorteilen beruht, die von den einzelnen Mitgliedstaaten allein nicht erzielt werden können.

Folgende Optionen wurden in Betracht gezogen: Option 1: EU-Rechtsetzungsinstrument zur Einrichtung eines Systems zur freiwilligen Kennzeichnung; Option 2: ein sektorspezifischer „Ad-hoc“-Ansatz; Option 3: ein horizontales Rechtsinstrument der EU zur Festlegung verbindlicher Anforderungen für Hochrisiko-KI-Anwendungen; Option 3+: wie Option 3, jedoch mit freiwilligen Verhaltenskodizes für KI-Anwendungen ohne hohes Risiko; Option 4: ein horizontales Rechtsinstrument der EU zur Festlegung verbindlicher Anforderungen für alle KI-Anwendungen. Die bevorzugte Option ist Option 3+, da sie angemessene Absicherungen gegen die von KI ausgehenden Risiken bietet und gleichzeitig die Verwaltungs- und Rechtsbefolgungskosten gering hält. Haftungsspezifische Fragen im Zusammenhang mit KI-Anwendungen werden in eigenen künftigen Vorschriften geregelt und sind somit nicht von den Optionen abgedeckt.

Für Bürgerinnen und Bürger wird die bevorzugte Option dazu führen, dass die Risiken für ihre Sicherheit und Grundrechte gemindert werden. KI-Anbieter erhalten Rechtssicherheit und die Gewissheit, dass bei der grenzüberschreitenden Bereitstellung von Diensten und Produkten im Zusammenhang mit KI keine Hindernisse auftauchen. Kunden werden größeres Vertrauen in die von Unternehmen eingesetzte KI haben. Nationale öffentliche Verwaltungen werden vom gestiegenen Vertrauen der Öffentlichkeit in die Verwendung von KI und den gestärkten Durchsetzungsmechanismen profitieren (durch die Einführung eines europäischen Koordinierungsmechanismus, die Bereitstellung angemessener Kapazitäten und die Erleichterung von Audits der KI-Systeme durch neue Anforderungen an die Dokumentation, Rückverfolgbarkeit und Transparenz).