49.

Vor diesem Hintergrund spricht der EDSB folgende Empfehlungen aus: (1) Dem Ziel, „ein hohes Maß an Schutz der Menschenrechte und die Wahrung der europäischen Werte zu gewährleisten“ sollte im Einklang mit dem Wesen und dem Mandat des Europarates mehr Gewicht verliehen werden. (2) Das Wort „auch“ nach „mit dem EU-Binnenmarktrecht und anderen Bereichen des EU-Rechts vereinbar“ in den Richtlinien 5 und 11 sollte gestrichen werden, um dem Zusammenspiel zwischen allgemeinen Grundsätzen und Grundrechten einerseits und dem Sekundärrecht (EU-Binnenmarktrecht und andere Rechtsbereiche) andererseits besser Rechnung zu tragen. (3) Es sollte eine Richtlinie hinzugefügt werden, die an die Notwendigkeit erinnert, das richtige Gleichgewicht zwischen dem öffentlichen Interesse und den Interessen der Personen, die von KI-Systemen berührt sind, zu finden und die vollständige Einhaltung der Grundrechte auf Privatsphäre und auf den Schutz personenbezogener Daten sowie der anderen betroffenen, Grundrechte, insbesondere des Rechts auf Unschuldsvermutung und auf ein faires Verfahren, dem Recht auf eine gute Verwaltung und dem Grundsatz der Nichtdiskriminierung sicherzustellen. (4) In einer Richtlinie sollte festgelegt werden, dass das Übereinkommen verfahrenstechnisch bestimmte Mindestverfahrensgarantien und Rechte für die von der Nutzung der KI-Systeme betroffenen Personen vorsehen sollte. (5) In einer Richtlinie sollte festgelegt werden, dass das Übereinkommen Mindestanforderungen an die Transparenz, Erklärbarkeit und Überprüfbarkeit von KI-Systemen vorsehen sollte. (6) Es sollte in der Richtlinie 14 die Vorgabe aufgenommen werden, dass die von KI-Systemen ausgehenden Risiken für die Gesellschaft/Gruppen ebenfalls bewertet und gemildert werden müssen. (7) In den Verhandlungsrichtlinien sollte vorgesehen werden, dass bestimmte KI-Systeme, die mit unannehmbaren Risiken behaftet sind, verboten werden sollten, und es sollte eine unverbindliche Liste solcher KI-Systeme vorgesehen werden. (8) Es sollte eine Verhandlungsrichtlinie vorgesehen werden, wonach das Übereinkommen die Einführung des Konzeptes des Datenschutzes durch Technikgestaltung und datenschutzfreundliche Voreinstellungen in jedem Schritt des Lebenszyklus von KI-Systemen fördern sollte. (9) Der Inhalt der Richtlinie 17 sollte wie folgt näher ausgeführt werden: — Es muss eine Ex-ante-Konformitätsbewertung durch Dritte für Hochrisiko-KI durchgeführt werden; — Hochrisiko-KI-Systeme sollten einem neuen Konformitätsbewertungsverfahren unterzogen werden, wenn sie wesentlich geändert werden; — Es sollte der Gegenstand und die Rechtswirkung von Zertifizierungen angegeben werden; — Es sollte angegeben werden, dass technische Normen einerseits eine positive Auswirkung auf die Harmonisierung von Produkten und Dienstleistungen haben können. Andererseits besteht ihre Rolle darin, technische Spezifikationen für bereits gesetzlich festgelegte Regeln zu liefern. (10) Es sollte eine Richtlinie aufgenommen werden, nach der das Übereinkommen vorsehen sollte, dass die zuständigen Aufsichtsbehörden mit angemessenen Ermittlungs- und Durchsetzungsbefugnissen ausgestattet werden müssen. (11) Es sollte eine Verhandlungsrichtlinie hinzugefügt werden, die sicherstellt, dass das Übereinkommen die grenzüberschreitende Zusammenarbeit zwischen den zuständigen Behörden erleichtert und fördert.