6.12.2022
DE
Amtsblatt der Europäischen Union
C 465/89 Dienstag, 3.
Mai 2022
134. weist darauf hin, dass die Einstufung eines KI-Systems als hochriskant auf seiner konkreten Nutzung und auf dem Kontext, der Art, der Wahrscheinlichkeit, der Schwere und der potenziellen Unumkehrbarkeit des bei Verstößen gegen die Grundrechte und die im Unionsrecht festgelegten Gesundheits- und Sicherheitsvorschriften zu erwartenden Schadens beruhen sollte; betont, dass diese Einstufung mit Leitlinien und der Förderung des Austauschs bewährter Verfahren für KI-Entwickler einhergehen sollte; betont, dass das Recht auf Privatsphäre stets geachtet werden muss und dass KI-Entwickler die vollständige Einhaltung der Datenschutzvorschriften sicherstellen sollten; 135. unterstreicht, dass KI-Systeme, die voraussichtlich mit Kindern interagieren oder sie anderweitig beeinträchtigen können, deren Rechte und Schwachstellen berücksichtigen müssen und den höchsten verfügbaren Standards für Sicherheit und Schutz der Privatsphäre entsprechen müssen; 136. weist darauf hin, dass das Umfeld, in dem die KI-Systeme eingesetzt werden, je nachdem, ob es sich um ein Business-to-Business-Umfeld (B2B) oder ein Business-to-Consumer-Umfeld (B2C) handelt, Unterschiede aufweisen kann; weist darauf hin, dass die Verbraucherrechte durch Verbraucherschutzvorschriften rechtlich geschützt werden müssen; betont, dass Unternehmen zwar die Haftung und andere rechtliche Herausforderungen durch vertragliche Mittel mit Geschäftspartnern schneller und kostengünstiger direkt lösen können, dass jedoch Rechtsvorschriften erforderlich sein können, um kleinere Unternehmen vor dem Missbrauch ihrer Marktmacht seitens marktbeherrschender Akteure durch kommerzielle oder technologische Beschränkungen, Hindernisse für den Marktzugang oder asymmetrische Informations­ probleme zu schützen; hebt hervor, dass auch die Bedürfnisse von KMU und Start-up-Unternehmen im Zusammenhang mit den komplexen rechtlichen Anforderungen berücksichtigt werden müssen, um sie gegenüber größeren Unternehmen, die über die Ressourcen verfügen, um umfangreiche Rechts- und Compliance-Abteilungen zu unterhalten, nicht zu benachteiligen; 137. betont, dass ein prinzipienbasierter Ansatz auf offene ethische Fragen angewendet werden muss, die sich durch neue technologische Möglichkeiten durch den Verkauf und die Nutzung von KI-Anwendungen ergeben, u. a. durch die Anwendung grundlegender, verbindlicher Prinzipien wie dem Grundsatz der Schadensvermeidung, dem Grundsatz der Achtung der Menschenwürde und der Grundrechte und dem Schutz des demokratischen Prozesses; stellt fest, dass bewährte Praktiken in der KI-Entwicklung, wie z. B. eine auf den Menschen ausgerichtete KI, eine verantwortungsvolle Unternehmensführung und die Prinzipien der Transparenz und Erklärbarkeit sowie die Grundsätze einer nachhaltigen KI, die vollständig mit der VN-Agenda 2030 für nachhaltige Entwicklung in Einklang stehen, weitere wichtige Komponenten für die Gestaltung der KI-Wirtschaft sind; 138. erkennt an, dass es nicht immer möglich ist, KI-Algorithmen vollständig von jeglicher Voreingenommenheit zu befreien, da das Idealziel fehlerfreier Daten sehr schwer oder beinahe unmöglich zu erreichen ist; weist darauf hin, dass selbst ein getestetes KI-System unweigerlich mit realen Szenarien konfrontiert wird, die zu verzerrten Ergebnissen führen können, wenn es in einer Umgebung eingesetzt wird, die sich von der Zusammensetzung seiner Trainings- und Testdaten unterscheidet; betont, dass die Union bestrebt sein sollte, die Transparenz der Datensätze und Algorithmen zu verbessern, sehr eng mit KI-Entwicklern zusammenzuarbeiten, um strukturelle Verzerrungen in der Gesellschaft auszugleichen und zu verringern, und bereits in einem frühen Stadium der Entwicklung verbindliche Sorgfaltsregeln für Menschenrechte in Betracht zu ziehen; 139. weist darauf hin, dass sinnvolle Transparenz- oder Erklärbarkeitspflichten für KI-Systeme zwar in vielen Fällen hilfreich sind, aber nicht in jedem Fall umgesetzt werden können; weist darauf hin, dass Rechte des geistigen Eigentums und Geschäftsgeheimnisse vor illegalen Praktiken wie Industriespionage geschützt werden müssen; 140. erklärt, dass der Rechtsrahmen für geistiges Eigentum weiterhin Anreize und Schutz für KI-Innovatoren bieten muss, indem ihnen als Belohnung für die Entwicklung und Veröffentlichung ihrer Werke Patente verliehen werden; ist der Ansicht, dass die bestehenden Rechtsvorschriften größtenteils zukunftssicher sind, schlägt jedoch einige Anpassungen, einschließlich der Integration quelloffener Elemente, sowie gegebenenfalls die Nutzung des öffentlichen Beschaffungswesens zur Förderung von Open-Source-Software für KI-Lösungen vor; schlägt neue Formen der Patentlizenzvergabe vor, um sicherzustellen, dass die betreffenden Instrumente auch denjenigen Regionen und Initiativen zur Verfügung stehen, die sie sich andernfalls nicht leisten könnten; 141. ist der Ansicht, dass verbindliche Ex-ante-Risiko-Selbstbewertungen auf der Grundlage klarer Regeln und Standards sowie Datenschutz-Folgenabschätzungen in Verbindung mit Konformitätsbewertungen durch Dritte mit der relevanten und geeigneten CE-Kennzeichnung und in Kombination mit der Ex-post-Durchsetzung durch die Marktüberwachungsbehörden nützlich sein könnten, um sicherzustellen, dass die auf dem Markt in Verkehr gebrachten KI-Systeme sicher und vertrauenswürdig sind; ist der Ansicht, dass die Normen und Leitlinien zur Einhaltung der KI-Rechtsvorschriften unter enger Einbeziehung der kleinen Unternehmen entwickelt, soweit wie möglich international angeglichen und kostenlos zur Verfügung gestellt werden sollten, um zu verhindern, dass die KMU aus dem Markt gedrängt werden;