6.12.2022
NL
Publicatieblad van de Europese Unie
C 465/89 Dinsdag, 3 mei 2022
134. specificeert dat de kwalificatie van AI-systemen als “hoog risico” moet gebeuren op basis van het concrete gebruik ervan en de context, aard, waarschijnlijkheid, ernst en potentiële onomkeerbaarheid van de schade die naar verwachting zal optreden in strijd met de grondrechten en de gezondheids- en veiligheidsvoorschriften als vastgelegd in het Unierecht; benadrukt dat deze kwalificatie vergezeld moet gaan van richtsnoeren en de bevordering van de uitwisseling van beste praktijken voor AI-ontwikkelaars; benadrukt dat het recht op privacy te allen tijde moet worden geëerbiedigd en dat AI-ontwikkelaars volledige naleving met de regels inzake gegevensbescherming moeten garanderen; 135. onderstreept dat AI-systemen die waarschijnlijk zullen interageren met kinderen of anderszins gevolgen zullen hebben voor kinderen, rekening moeten houden met hun rechten en kwetsbaarheden en moeten voldoen aan de hoogste beschikbare normen op het gebied van veiligheid, beveiliging en privacy door ontwerp en door standaardinstellingen; 136. merkt op dat de omgevingen waarin AI-systemen werken, kunnen verschillen wanneer bedrijven zaken doen met bedrijven (B2B) of bedrijven met consumenten (B2C); wijst erop dat consumentenrechten bij wet moeten worden beschermd door middel van wetgeving inzake consumentenbescherming; benadrukt dat bedrijven aansprakelijkheids­ kwesties en andere juridische uitdagingen weliswaar sneller en kosteneffectiever rechtstreeks kunnen oplossen door middel van contracten met zakenpartners, maar dat wetgeving nodig kan zijn om kleinere ondernemingen te beschermen tegen misbruik van marktmacht door dominante spelers door middel van commerciële of technologische lock-in, belemmeringen voor markttoegang of problemen in verband met asymmetrische informatie; wijst erop dat het tevens noodzakelijk is rekening te houden met de behoeften van kmo’s en start-ups met complexe vereisten, om te voorkomen dat zij in een nadelige positie zouden belanden ten opzichte van grotere ondernemingen, die over de middelen beschikken om omvangrijke juridische en complianceafdelingen in stand te houden; 137. onderstreept dat er een op beginselen gebaseerde benadering moet worden gehanteerd voor open ethische vraagstukken die de kop opsteken door nieuwe technologische mogelijkheden die voortvloeien uit de verkoop en het gebruik van AI-toepassingen, onder meer via het gebruik van fundamentele, verplichte beginselen, zoals het beginsel om geen schade te berokkenen, het beginsel van eerbiediging van de menselijke waardigheid en de grondrechten, en het beschermen van het democratische proces; merkt op dat goede praktijken op het gebied van AI-ontwikkeling, zoals mensgerichte AI, verantwoord bestuur en de beginselen van transparantie en verklaarbaarheid, alsook beginselen inzake duurzame AI die volledig zijn afgestemd op de Agenda 2030 voor duurzame ontwikkeling van de VN, andere belangrijke componenten zijn voor het vormgeven van de AI-economie; 138. erkent dat het niet altijd mogelijk is om de vertekening volledig te schrappen uit AI-algoritmen, aangezien het ideale doel van foutloze gegevens zeer moeilijk of bijna onmogelijk te verwezenlijken is; merkt op dat zelfs een getest AI-systeem onvermijdelijk geconfronteerd zal worden met scenario’s in reële omstandigheden die vertekende resultaten kunnen opleveren wanneer zij worden ingezet in een omgeving die verschilt van de samenstelling van de training- en testgegevens; benadrukt dat de EU ernaar moet streven de transparantie van datasets en algoritmen te verbeteren, zeer nauw samen te werken met ontwikkelaars van AI om een tegenwicht te bieden tegen structurele maatschappelijke vertekeningen en te verminderen, en in een vroeg stadium van de ontwikkeling verplichte zorgvuldigheidseisen inzake mensenrechten te overwegen; 139. licht toe dat zinvolle verplichtingen inzake transparantie of verklaarbaarheid van AI-systemen weliswaar nuttig kunnen zijn in veel gevallen, maar niet in alle gevallen toepasbaar zijn; merkt op dat intellectuele-eigendomsrechten en handelsgeheimen moeten worden beschermd tegen illegale praktijken zoals industriële spionage; 140.
stelt vast dat AI-innovatoren in het kader van het wetgevingskader inzake intellectuele eigendom voortdurend moeten worden gestimuleerd en beschermd door hun octrooien toe te kennen als beloning voor het ontwikkelen en uitgeven van hun creaties; constateert dat de bestaande wetgeving grotendeels toekomstbestendig is, maar stelt bepaalde aanpassingen voor, met inbegrip van openbronelementen, alsook het gebruik van openbare aanbestedingen om, waar passend, openbronsoftware voor AI-oplossingen verplicht te stellen; stelt nieuwe vormen van octrooilicenties voor om ervoor te zorgen dat deze instrumenten verkrijgbaar zijn voor regio’s en initiatieven waarvoor ze anders niet binnen bereik lagen; 141. is van mening dat verplichte ex-anterisicobeoordelingen op basis van duidelijke regels en normen, alsmede gegevensbeschermingseffectbeoordelingen, aangevuld met conformiteitsbeoordelingen door een derde partij met relevante en passende CE-markering, in combinatie met ex-posthandhaving door markttoezicht, nuttig kunnen zijn om ervoor te zorgen dat AI-systemen op de markt veilig en betrouwbaar zijn; is van mening dat om te voorkomen dat kmo’s van de markt worden verdrongen, normen en richtsnoeren voor de naleving van de wetgeving inzake AI moeten worden ontwikkeld met de nauwe betrokkenheid van kleine ondernemingen, een zo groot mogelijke internationale afstemming en kosteloze beschikbaarheid;