·Transparens.

·Mångfald, icke-diskriminering och rättvisa.

·Samhällets och miljöns välbefinnande.

·Ansvarsskyldighet.

Riktlinjerna innehåller dessutom en bedömningslista som kan användas i praktiken av företag. Under andra halvåret 2019 har över 350 organisationer testat den här bedömningslistan och skickat in synpunkter. Högnivågruppen håller på att se över sina riktlinjer mot bakgrund av de här synpunkterna och kommer att slutföra det här arbetet senast i juni 2020. Ett viktigt resultat av den här återkopplingen är att även om ett antal av kraven redan återspeglas i befintliga rättsordningar eller regelverk, omfattas de krav som gäller transparens, spårbarhet och mänsklig uppsikt inte specifikt av den nuvarande lagstiftningen inom många ekonomiska sektorer.

Utöver den här uppsättningen icke-bindande riktlinjer från högnivågruppen, och i linje med kommissionsordförandens politiska riktlinjer, skulle ett tydligt EU-regelverk skapa förtroende för AI hos konsumenterna och företagen och därmed påskynda användandet av tekniken. Ett sådant regelverk bör vara förenligt med andra åtgärder för att främja Europas innovationskapacitet och konkurrenskraft på det här området. Dessutom måste det säkerställa socialt, miljömässigt och ekonomiskt optimala resultat och efterlevnad av EU:s lagstiftning, principer och värden. Detta är särskilt viktigt på områden där den direkta påverkan på medborgarnas rättigheter kan vara störst, till exempel när det gäller AI-tillämpningar för brottsbekämpning och rättsväsendet.

Utvecklare av AI och spridare av AI omfattas redan av EU-lagstiftningen om grundläggande rättigheter (till exempel skydd av personuppgifter, integritet, icke-diskriminering), konsumentskydd, produktsäkerhet och produktansvar. Konsumenterna förväntar sig samma säkerhetsnivå och respekt för sina rättigheter oavsett om en produkt eller ett system bygger på AI eller inte. Vissa särskilda aspekter av AI (till exempel bristande transparens) kan dock försvåra tillämpningen och kontrollen av efterlevnaden av den här lagstiftningen. Därför finns det ett behov av att undersöka om den nuvarande lagstiftningen kan hantera riskerna med AI och om kontrollen av dess efterlevnad kan ske effektivt, om det behövs anpassningar av lagstiftningen eller om det behövs ny lagstiftning.

Med tanke på hur snabbt AI utvecklas måste regelverket lämna utrymme för att ta hänsyn till den fortsatta utvecklingen. Eventuella ändringar bör begränsas till klart identifierade problem där det finns genomförbara lösningar.

Medlemsstaterna pekar på att det för närvarande saknas en gemensam europeisk ram. Den tyska kommittén för dataetik har efterlyst ett riskbaserat regleringssystem med fem nivåer som skulle gå från ingen reglering för de mest ofarliga AI-systemen till ett fullständigt förbud för de farligaste. Danmark har precis lanserat en prototyp på ett dataetiskt märke. Malta har infört ett frivilligt certifieringssystem för AI. Om EU misslyckas med att tillhandahålla en EU-omfattande strategi, finns det en reell risk för fragmentering av den inre marknaden, vilket skulle undergräva målen om förtroende, rättssäkerhet och marknadspenetration

Ett solitt europeiskt regelverk för tillförlitlig AI kommer att skydda alla EU-medborgare och bidra till att skapa en friktionsfri inre marknad för vidareutveckling och spridning av AI samt stärka EU:s industriella bas inom AI.

A.Problemformulering

Även om AI kan föra mycket gott med sig, till exempel genom att göra produkter och processer säkrare, kan den också göra skada. Den här skadan kan vara både materiell (människors säkerhet och hälsa, inbegripet förlust av människoliv, och sakskador) och immateriell (förlust av integritet, begränsningar av yttrandefriheten, mänsklig värdighet, diskriminering när det gäller till exempel tillträde till arbetsmarknaden) och kan gälla en mängd olika risker. Ett regelverk bör inriktas på hur man minimerar de olika potentiella skaderiskerna, särskilt de största.

De största riskerna i samband med användningen av AI rör tillämpningen av regler avsedda att skydda de grundläggande rättigheterna (inklusive skydd av personuppgifter och integritet samt icke-diskriminering) och frågor som rör säkerhet och ansvar.

Risker för de grundläggande rättigheterna, inklusive skyddet för personuppgifter och integritet och icke-diskriminering

Användningen av AI kan påverka de värden som EU bygger på och leda till kränkningar av de grundläggande rättigheterna, inbegripet yttrandefriheten, mötesfriheten, rätten till mänsklig värdighet, rätten att inte utsättas för diskriminering på grund av kön, ras eller etniskt ursprung, religion eller övertygelse, funktionsnedsättning, ålder eller sexuell läggning, beroende på vad som är tillämpligt inom olika områden, rätten till skydd av personuppgifter och privatlivet, eller rätten till ett effektivt rättsmedel och en opartisk domstol samt konsumentskydd. De här riskerna kan bero på brister i den allmänna utformningen av AI-systemen (inklusive mänsklig uppsikt) eller på användning av data utan korrigering av eventuella snedvridningar (till exempel systemet är tränat med hjälp av endast eller främst data som gäller män, vilket leder till suboptimala resultat när det är fråga om kvinnor).

AI kan utföra många av de funktioner som tidigare endast kunde utföras av människor. Till följd av detta kommer medborgare och juridiska personer i allt högre grad att bli föremål för åtgärder och beslut som fattas av eller med hjälp av AI-system, vilka ibland kan vara svåra att förstå och vid behov bestrida på ett effektivt sätt. Dessutom ökar AI möjligheterna att spåra och analysera människors vardagsvanor. Det kan till exempel finnas en risk för att AI, i strid med EU:s dataskyddsregler och andra regler, används av statliga myndigheter eller andra enheter för massövervakning och av arbetsgivare för att se hur deras anställda beter sig. Genom att analysera stora dataset och identifiera kopplingar mellan dem kan AI också användas för att spåra och avanonymisera data om personer, vilket skapar nya risker för skydd av personuppgifter även i fråga om dataset som i sig inte innehåller personuppgifter. AI används också av mellanhänder på internet för att prioritera information åt sina användare och redigera innehållet. De behandlade uppgifterna, tillämpningarnas utformning och utrymmet för mänskligt ingripande kan påverka yttrandefriheten, skyddet av personuppgifter, integriteten och de politiska friheterna.

Vissa AI-algoritmer kan, när de används för att förutsäga återfall i brott, uppvisa snedvridning i fråga om kön och ras, och visa olika sannolikhet för återfall i brott för kvinnor jämfört med män eller för medborgare i ett land jämfört med utländska medborgare. Källa: Tolan S., Miron M., Gomez E. and Castillo C. Why Machine Learning May Lead to Unfairness: Evidence from Risk Assessment for Juvenile Justice in Catalonia, Best Paper Award, International Conference on AI and Law, 2019.

Vissa AI-program för ansiktsanalys visar snedvridning i fråga om kön och ras, och uppvisar liten felfrekvens vid bestämning av ljushyade mäns kön men stor felfrekvens vid könsbestämning av mörkhyade kvinnor. Källa: Joy Buollamwini, Timnit Gebru; Proceedings of the 1st Conference on Fairness, Accountability and Transparency, PMLR 81:77-91, 2018.