bet · H701UbU20 · 2020-05-28 00:00:00 — Utskottet ser särskilt fram emot att ta del av den förstärkta kompetensagendan och den uppdaterade handlingsplanen för digital utbildning som kommissionen har aviserat. Det är viktigt att säkerställa en god matchning på framtidens arbetsmarknad, inte minst för att se till att AI-tekniken kommer alla till gagn. Kommissionen lyfter i vitboken fram grundstenarna för ett framtida regelverk för AI i i syfte att skapa ett ekosystem av förtroende. Utskottet instämmer i kommissionens bedömning att det är avgörande för AI-teknikens framtid att skapa ett välgrundat förtroende för tekniken hos allmänheten, och välkomnar därför kommissionens ansats. Vidare noterar utskottet att kommissionen i vitboken diskuterar dels anpassningar till EU:s befintliga rättsliga ram för AI, dels att ett nytt särskilt regelverk kan behövas för AI med hög risk. Utskottet vill inledningsvis framföra att AI, liksom all teknologi, finns till för att tjäna människor, och inte tvärtom. innebär AI vissa särskilda risker. AI kan få oönskade effekter och användas på sätt som kränker individer och grupper. Utskottet kan konstatera att AI används på ett sådant sätt av olika internationella aktörer med ett visst teknologiskt försprång. Det kan också finnas en övertro på tekniken som kan leda till oförutsedda konsekvenser. Ur det perspektivet innebär ett undermåligt regelverk inte bara att EU riskerar att halka efter för att för få utnyttjar AI-lösningar, det innebär också en potentiell fara för de grundläggande rättigheterna. Det är därför av fundamental vikt att ett framtida regelverk beaktar de etiska aspekterna av AI-tekniken och att lagstiftningen på både svensk och europeisk nivå är adekvat för att säkerställa att riskerna med AI minimeras. Det gäller i synnerhet i fråga om värnandet av den personliga integriteten och arbetet mot diskriminering. Det är av särskild vikt att beakta den personliga integriteten och de etiska aspekterna av att introducera AI-lösningar i hälso- och sjukvården. Det kan t.ex. handla om att lyssna till den enskilda individens önskemål och behov av sådana lösningar och om att alltid göra en individuell bedömning av om övervakningsteknik ska användas eller inte. Det är därför välkommet att kommissionen lyfter fram riskerna med biometrisk fjärridentifiering och annan inkräktande övervakningsteknik så väl som att den noterar att bruket av AI innebär en högre risk inom vissa sektorer än i andra. Utskottet vill i sammanhanget också påpeka vikten av att ett jämställdhets- och rättighetsperspektiv integreras i det fortsatta arbetet. Det är angeläget att främja mångfald inom ramen för AI-system, både vad gäller utveckling och utförande av AI-system och vad gäller träningsdata som ligger till grund för AI-systemet. Utskottet kan här se en roll för kommissionens föreslagna krav på AI-applikationer med hög risk, inte minst när det gäller mänsklig tillsyn av systemen. Som utskottet tidigare konstaterat har utvecklingen av AI också stor potential att bidra med värde på många områden. Det är därför, som näringsutskottet påpekade i sitt yttrande (2019/20:NU8y) till utbildningsutskottet, viktigt med ett proportionerligt regelverk som inte hämmar utvecklingen av AI men däremot balanserar riskerna och värnar den inre marknadens funktionssätt i samband med att nya regler införs. Storleken på den inre marknaden ger EU goda möjligheter att påverka utvecklingen genom att definiera gemensamma standarder. På så sätt kan EU främja att AI-tillämpningar används på ett lämpligt sätt. Det är vidare av stor betydelse att ett långsiktigt perspektiv för ett framtida antas, dels för att möjliggöra långsiktig planering i olika verksamheter och sektorer, dels med hänsyn till AI-teknikens utveckling och spridning. Det är därför enligt utskottet välkommet att kommissionen i vitboken lyfter fram att regelverket bör lämna utrymme för att ta hänsyn till den fortsatta utvecklingen. Utskottet vill i sammanhanget också lyfta fram vikten av att fokusera på gemensamma standarder inom EU, och inte nödvändigtvis på gemensamma lösningar. Därmed välkomnar utskottet att kommissionen i vitboken antar ett balanserat förhållningssätt till möjligheterna och riskerna med AI och att kommissionen förespråkar en utveckling av AI som är människocentrerad, etisk och hållbar och som respekterar grundläggande rättigheter och värden. Utskottet noterar också att kommissionen lyfter fram frågan om transparens i diskussionen om krav för etisk AI. Det kan t.ex. handla om att säkerställa att adekvat information tillhandahålls om ett givet AI-systems kapacitet och begränsningar, men även om krav på dokumentation av metoder, processer och tekniker för programmering och träning som används för att bygga, testa och validera AI-systemen. Utskottet vill också lyfta fram frågan om riskerna för och med teknik- och datamonopol, för att undvika att data som kan användas till det allmännas bästa begränsas till ett fåtal aktörer. Det gäller inte minst frågor kopplade till äganderätten över data, som behöver vara tydlig för att den information som samlas in inte ska missbrukas. Därmed välkomnar utskottet en fortsatt diskussion om transparens i AI-system. I takt med den fortsatta teknikutvecklingen kommer allt fler sektorer och tjänster att utnyttja AI-system. Det är givet den utvecklingen viktigt att säkerställa att AI fungerar tillförlitligt, är robust och kan stå emot angrepp. Utskottet kan också konstatera att utveckling och användning av AI för militära ändamål inte behandlas i vitboken men noterar likväl att AI-system kan användas till militära ändamål. vill därför lyfta fram att utrikesutskottet i sitt yttrande (2019/20:UU4y) framhåller att driver på inom ramen för konventionen om vissa konventionella vapen för ett effektivt internationellt förbud mot dödliga autonoma vapensystem vilka är oförenliga med folkrättens krav. Vidare har AI utrikes- och säkerhetspolitiska aspekter som bör tas på allvar, och den internationella utvecklingen bör beaktas i sammanhanget. Det är därför välkommet att EU för samtal med likasinnade länder och globala aktörer samt erkänner det arbete om AI som pågår i multilaterala internationella organisationer som FN, , , , och den internationella telekomunionen. Utskottet vill också framföra att man i det framtida arbetet med AI bör beakta medlemsstaternas kompetens inom politikområden där det är relevant. Det är utskottets uppfattning att det kommer att behövas insatser på både nationell nivå och EU-nivå inom AI-området. Sammantaget välkomnar utskottet kommissionens vitbok om artificiell intelligens och dess bidrag till den pågående diskussionen om hur EU bäst kan dra nytta av AI. Det står enligt utskottet klart att AI är här för att stanna och kommer att spela en allt större roll både i enskilda människors liv och för den ekonomiska utvecklingen framöver. Utskottet anser därmed liksom kommissionen att AI är en strategisk teknik som erbjuder många fördelar för samhället, förutsatt att den är etisk och hållbar och respekterar grundläggande rättigheter och värden. AI kan ge stora effektivitetsvinster, stärka EU:s konkurrenskraft och bidra med lösningar på olika samhällsproblem. Utskottet ser också att AI kan bidra till kampen mot klimatförändringarna och andra globala utmaningar. Rätt hanterad, med beaktande av de risker som AI också är förknippad med, har AI stor potentiell samhällsnytta. Med det i åtanke kommer utskottet att nogsamt och med stort intresse följa utvecklingen framöver. Förteckning över granskade dokument om artificiell intelligens - en EU-strategi för spetskompetens och förtroende (COM(2020) 65) yttrande 2019/20:UU4y yttrande 2019/20:TU6y yttrande 2019/20:NU8y