bet · H701UbU20 · 2020-05-28 00:00:00 — har granskat kommissionens vitbok om artificiell intelligens (AI). Utskottet anser att AI-teknik har stor potential vad gäller att utveckla både välfärden och konkurrenskraften, men även att AI medför risker och att det behövs nya och samlade insatser på området. Därmed välkomnar utskottet kommissionens vitbok om artificiell intelligens och den viktiga diskussion som inleds om framtida förhållningssätt till AI. Kommissionen föreslår i vitboken att ett ekosystem av spetskompetens ska byggas upp för att stödja utvecklingen av AI inom EU. Utskottet instämmer med kommissionen i att det finns ett behov att mobilisera resurser och se över vilka åtgärder som är nödvändiga för att EU ska kunna stärka sin kapacitet på AI-området. vill utskottet betona att det är av stor vikt att AI-forskning prioriteras på europeisk nivå. Det gäller stöd till både grundforskning och tillämpad forskning, såväl som riktade insatser för att främja spetskompetens. Utskottet vill här framhäva två saker: det är dels viktigt att säkerställa att hela kedjan från forskning till marknaden beaktas, t.ex. genom att samverkan mellan näringslivet och akademiska miljöer möjliggörs, men det är av stor betydelse att insatserna inte entydigt riktas mot att kommersialisera AI-tillämpningar. Resultaten av AI-forskning har även stor potential att tillämpas i offentlig sektor och stöd till forskning med samhällsnytta bör främjas. Vidare handlar AI för samhällets bästa inte enbart om teknik, utan det finns även behov av att stödja tvärsektoriell AI-forskning. Med det i åtanke välkomnar utskottet att kommissionen föreslår initiativ inom ramen för programmet för ett digitalt och Horisont . Utskottet anser vidare att tillgängliga data är av grundläggande betydelse och att det är viktigt att säkra arbetet för öppna och högkvalitativa data i EU. Framsteg inom databehandling i form av ökad beräkningskapacitet och lagringskapacitet är avgörande för forskning om och utveckling av AI-lösningar. För att fullt ut kunna utnyttja potentialen som finns inom AI är det viktigt att beakta att det ställer krav på digital infrastruktur, både specifik datorinfrastruktur (t.ex. högpresterande datorer) och att infrastrukturen i allmänhet ska kunna hantera stora mängder data. Utskottet vill vidare lyfta fram de utmaningar som finns i fråga om kompetensbrister och understryka vikten av att säkerställa att det finns tillräckligt med kompetens för att potentialen med AI ska kunna utnyttjas fullt. Det handlar enligt utskottets uppfattning dels om att främja olika kompetenshöjande insatser, inte minst vidareutbildning, dels om att locka till sig och behålla världsledande forskare. Åtgärder för att stärka spetskompetensen och locka till sig och behålla kompetenta forskare är enligt utskottets uppfattning en förutsättning för att kunna utveckla de bästa AI-systemen. Behövliga kompetensåtgärder rör emellertid inte bara insatser för att stärka kompetensen för att utveckla AI. Det är även av stor vikt att fler ges möjligheten att lära sig att utnyttja AI i både offentlig och privat sektor, vilket är en nödvändig komponent för att kunna dra full nytta av AI-tillämpningar. Därför behöver många olika yrkeskategorier i olika sektorer kunskap om AI. Universitet och högskolor bör uppmuntras att utöka sitt utbildningsutbud på . Vidare ställer den allt mer digitaliserade samhällsekonomin nya krav på möjligheter till fort- och vidareutbildning av redan yrkesverksamma. Utskottet kan konstatera att i takt med att utvecklingen går framåt så kommer nya arbetstillfällen att skapas som andra arbeten kan komma att förändras. Med det i åtanke är det av stor vikt att behovet av livslångt lärande och möjligheterna till omställning under arbetslivet utgör en integrerad del av EU:s förhållningssätt till AI. Det bör beaktas i olika former av vuxenutbildning vad gäller både utbud och innehåll. Det är utskottets uppfattning att det i sammanhanget är viktigt att även nyttja andra utbildningsaktörer än universitet och högskolor. Det är viktigt att dra nytta av all kunskap, även utanför universitets- och högskolevärlden. Det är med ovanstående i åtanke välkommet att kommissionen noterar att den europeiska strategin för AI måste stödjas av en stark inriktning på att åtgärda kompetensbrister. Utskottet ser särskilt fram emot att ta del av den förstärkta kompetensagendan och den uppdaterade handlingsplanen för digital utbildning. Kommissionen lyfter i vitboken fram grundstenarna för ett framtida regelverk för AI i i syfte att skapa ett ekosystem av förtroende. Utskottet instämmer i kommissionens bedömning att det är avgörande för AI-teknikens framtid att skapa ett välgrundat förtroende för tekniken hos allmänheten, och välkomnar därför kommissionens ansats. Utskottet vill framföra att AI, liksom all teknologi, finns till för att tjäna människor, och inte tvärtom. innebär AI vissa särskilda risker. AI kan få oönskade effekter och användas på sätt som kränker individer och grupper. Utskottet kan konstatera att AI används på ett sådant sätt av olika internationella aktörer med ett visst teknologiskt försprång. Det kan också finnas en övertro på tekniken som kan leda till oförutsedda konsekvenser. Ur det perspektivet innebär ett undermåligt regelverk inte bara att EU riskerar att halka efter för att för få utnyttjar AI-lösningar, det innebär också en potentiell fara för de grundläggande rättigheterna. Det är därför av fundamental vikt att ett framtida regelverk beaktar de etiska aspekterna av AI-tekniken och att lagstiftningen på både svensk och europeisk nivå är adekvat för att säkerställa att riskerna med AI-minimeras. Utskottet vill i sammanhanget också påpeka vikten av att ett jämställdhets- och rättighetsperspektiv integreras i det fortsatta arbetet. Utskottet anser att det är viktigt med ett proportionerligt regelverk som inte hämmar utvecklingen av AI men däremot balanserar riskerna och som värnar den inre marknadens funktionssätt i samband med att nya regler införs. Storleken på den inre marknaden ger EU goda möjligheter att påverka utvecklingen genom att definiera gemensamma standarder. Det är vidare av stor betydelse att ett långsiktigt perspektiv för ett framtida antas, dels för att möjliggöra långsiktig planering i olika verksamheter och sektorer, dels med hänsyn till AI-teknikens utveckling och spridning. Det är därför enligt utskottet välkommet att kommissionen i vitboken lyfter fram att regelverket bör lämna utrymme för att ta hänsyn till den fortsatta utvecklingen. Utskottet vill i sammanhanget också lyfta fram vikten av att fokusera på gemensamma standarder inom EU, och inte nödvändigtvis på gemensamma lösningar. Därmed välkomnar utskottet att kommissionen i vitboken antar ett balanserat förhållningssätt till möjligheterna och riskerna med AI och att kommissionen förespråkar en utveckling av AI som är människocentrerad, etisk och hållbar och som respekterar grundläggande rättigheter och värden. Utskottet vill också lyfta fram frågan om riskerna för och med teknik- och datamonopol, för att undvika att data som kan användas till det allmännas bästa begränsas till ett fåtal aktörer. Det gäller inte minst frågor kopplade till äganderätten över data, som behöver vara tydlig för att den information som samlas in inte ska missbrukas. Därmed välkomnar utskottet en fortsatt diskussion om transparens i AI-system. I takt med den fortsatta teknikutvecklingen kommer allt fler sektorer och tjänster att utnyttja AI-system. Det är givet den utvecklingen viktigt att säkerställa att AI fungerar tillförlitligt, är robust och kan stå emot angrepp. Utskottet kan också konstatera att utveckling och användning av AI för militära ändamål inte behandlas i vitboken men noterar likväl att AI-system kan användas till militära ändamål. vill också lyfta fram att utrikesutskottets i sitt yttrande (2019/20:UU4y) framhåller att driver på inom ramen för konventionen om vissa konventionella vapen för ett effektivt internationellt förbud mot dödliga autonoma vapensystem vilka är oförenliga med folkrättens krav. Vidare har AI utrikes- och säkerhetspolitiska aspekter som bör tas på allvar, och den internationella utvecklingen bör beaktas i sammanhanget. Det är därför välkommet att EU för samtal med likasinnade länder och globala aktörer samt erkänner det arbete om AI som pågår i multilaterala internationella organisationer som FN, , , , och den internationella telekomunionen (ITU). Utskottet vill också framföra att man i det framtida arbetet med AI bör beakta medlemsstaternas kompetens inom politikområden där det är relevant. Det är utskottets uppfattning att det kommer att behövas insatser på både nationell nivå och EU-nivå inom AI-området. Sammantaget välkomnar utskottet kommissionens vitbok om artificiell intelligens och dess bidrag till den pågående diskussionen om hur EU bäst kan dra nytta av AI. Det står enligt utskottet klart att AI är här för att stanna och kommer att spela en allt större roll både i enskilda människors liv och för den ekonomiska utvecklingen framöver. Utskottet anser därmed liksom kommissionen att AI är en strategisk teknik som erbjuder många fördelar för samhället, förutsatt att den är etisk och hållbar och respekterar grundläggande rättigheter och värden. AI kan ge stora effektivitetsvinster, stärka EU:s konkurrenskraft och bidra med lösningar på olika samhällsproblem. Utskottet ser också att AI kan bidra till kampen mot klimatförändringarna och andra globala utmaningar. Rätt hanterad, med beaktande av de risker som AI också är förknippad med, har AI stor potentiell samhällsnytta. om artificiell intelligens - en EU-strategi för spetskompetens och förtroende (COM(2020) 65) Utskottets förslag till riksdagsbeslut Ärendet och dess beredning Yttranden från utrikesutskottet, trafikutskottet och näringsutskottet Förteckning över granskade dokument yttrande 2019/20:UU4y yttrande 2019/20:TU6y yttrande 2019/20:NU8y Utskottets förslag till riksdagsbeslut lägger utlåtandet till handlingarna. Följande ledamöter har deltagit i beslutet: (S), (L), (V), (KD), (M), (M), (M), (L), Per Schöldberg (C), (S), (S), (S), (S), (SD), (SD), (SD) och (MP). Ärendet och dess beredning publicerade kommissionen vitboken om artificiell intel-ligens (AI) – en strategi för spetskompetens och förtroende, COM(2020) 65. Talmannen beslutade efter samråd med gruppledarna att vitboken skulle hänvisas till utbildningsutskottet för granskning med stöd av 9 kap. 20 § riksdagsordningen. Dokumentet hänvisades till utskottet . Utskotten ska enligt 10 kap. 3 § andra stycket riksdagsordningen avge utlåtanden till kammaren över de EU-dokument som har hänvisats till dem. beslutade att ge utrikesutskottet, trafikutskottet och näringsutskottet tillfälle att yttra sig över vitboken. Samtliga yttranden finns i bilaga 2–4 i detta utlåtande. Utskotten ska vid beredning av ett utlåtande inhämta behövliga upplysningar från regeringen enligt 10 kap. 10 § riksdagsordningen. Regeringen lämnade in en faktapromemoria om bl.a. vitboken (2019/20:FPM23) till . överlade med statsrådet om vitboken . Utskottets förslag i korthet lägger utlåtandet till handlingarna. om artificiell intelligens föregås av flera tidigare initiativ på AI-området från kommissionen, inklusive en strategi för AI i meddelandet Artificiell intelligens för och uppföljningen av strategin i kommissionens meddelande om en samordnad plan om artificiell intelligens. Dessa kompletterades med meddelandet om att skapa förtroende för människocentrerad artificiell intelligens. Dessa meddelanden återges kortfattat nedan i bakgrundssyfte. Meddelandet Artificiell intelligens för mottog ett meddelande från kommissionen om Artificiell intelligens för (COM(2018) 237). Kommissionen konstaterar i meddelandet att ligger efter vad gäller investeringar i artificiell intelligens jämfört med stora ekonomier som och . I meddelandet föreslår kommissionen ett AI-initiativ som bygger på en tredelad strategi: att öka de offentliga och privata investeringarna inom AI, förbereda inför de samhällsförändringar som AI kommer att medföra och garantera ett lämpligt etiskt och rättsligt ramverk. Kommissionen beskriver vidare att den ämnar lägga fram en samordnad plan för AI, eftersom ovanstående strategiska målsättningar kräver att man förenar sina krafter. Dessutom aviserade kommissionen även att den ämnade inrätta en högnivåexpertgrupp för AI. Gruppen inrättades och består av intressenter och experter som har i uppdrag att utarbeta utkast till riktlinjer etiska riktlinjer för AI. Meddelandet om artificiell intelligens togs fram som en del av ett paket med åtgärder som rör data inom ramen för den digitala inre marknaden. Meddelandet antogs kort efter att 24 medlemsstater och åtog sig att samarbeta på AI-området genom en gemensam deklaration. Meddelandet svarade även mot Europeiska rådets slutsatser från , vari kommissionen uppmanades att lägga fram en europeisk strategi för AI. Kommissionen lyfte i meddelandet att deklarationen medförde ett starkt politiskt godkännande i fråga om att gå fram med ett initiativ på EU-nivå för att förstärka konkurrenskraft på AI-området, förhindra att de socioekonomiska förändringar som AI-utvecklingen leder till gör att någon hamnar på efterkälken och försäkra att nyttjandet av den nya tekniken bygger på värderingar. Meddelandet Samordnad plan om artificiell intelligens Meddelandet En samordnad plan för artificiell intelligens (COM(2018) 795) publicerades . Den samordnade planen är att betrakta som en uppföljning av meddelandet Artificiell intelligens för . I den samordnade planen listas åtgärder som skulle inledas 2019 och 2020 samt riktlinjer för utvecklingen framöver. Enligt planen ska samordningen mellan kommissionen och medlemsstaterna fortsätta, och planen ska ses över och uppdateras regelbundet. Planen syftar till att maximera fördelarna med AI genom olika åtgärder, bl.a. genom olika initiativ för att öka investeringarna på området, utveckla etisk och tillförlitlig AI samt främja kompetensen på området. Meddelandet Att skapa förtroende för människocentrerad artificiell intelligens Både av meddelandet om artificiell intelligens för och av meddelandet om att den samordnade planen framgår hur ett kommande steg i arbetet med AI på europeisk nivå är att ta fram ett lämpligt etiskt ramverk om AI, grundat på unionens värderingar och i enlighet med EU:s stadga om de grundläggande rättigheterna. För att utarbeta sådana riktlinjer inrättade kommissionen högnivåexpertgruppen för artificiell intelligens, som lämnade ett första utkast till etiska riktlinjer . Efter ett samråd med berörda parter och möten med företrädare för medlemsstaterna lämnade AI-expertgruppen in ett reviderat dokument till kommissionen . Kommissionens meddelande om människocentrerad artificiell intelligens (COM(2019) 168) bygger på AI-expertgruppens arbete. Enligt de riktlinjer som har utarbetats av AI-expertgruppen krävs tre komponenter för att artificiell intelligens ska vara tillförlitlig: den bör vara förenlig med lagstiftningen, den bör uppfylla etiska principer och den bör vara robust. Utifrån dessa tre komponenter anges i riktlinjerna sju centrala krav. Dessa krav är inte bindande och medför i sig inga nya rättsliga förbindelser. Vidare inledde kommissionen en pilotfas med berörda parter. Expertgruppen för AI ska utvärdera resultatet . Del i ett paket för den digitala omställningen Kommissionens ordförande von der Leyen betonade i de politiska riktlinjerna för kommissionen behovet av att ska leda övergången mot en ny digital värld. Mot den bakgrunden presenterade kommissionen meddelandet Att forma EU:s digitala framtid (COM(2020) 67) som är avsett som en övergripande strategi från kommissionens sida för EU:s digitaliseringspolitik. Som ett led i denna övergripande strategi publicerades vitboken om AI som ett meddelande om en datastrategi (COM (2020) 66). Meddelandet om en datastrategi innehåller referenser till AI och beskriver behovet av samlade europeiska insatser för att effektivare nyttja data som en strategisk resurs, bl.a. för att utveckla AI. om artificiell intelligens innehåller förslag till åtgärder som kommissionen anser behöver vidtas utifrån två huvudsakliga ingångar: dels för att främja utveckling och användning av AI, dels för att genom ett rättsligt ramverk hantera vissa av de risker som är kopplade till AI-användning. Kommissionens ambition är att främja förtroendeingivande och säker utveckling av AI i som grundar sig i respekt för grundläggande värden och rättigheter. Utifrån detta är åtgärderna uppdelade i två huvudsakliga delar: främjandet av spetskompetens och främjandet av förtroende. Nedan följer en genomgång av de föreslagna åtgärderna. Ett ekosystem av spetskompetens Den första delen består av sex åtgärder i syfte att skapa ett ekosystem av spetskompetens som täcker hela värdekedjan från forskning och utveckling till användning av AI. De föreslagna åtgärderna beskrivs i punktform nedan. Att, med beaktande av resultatet av samrådet kring vitboken om AI, till slutet av 2020 anta en ny version av den samordnade planen för AI. Kommissionen konstaterar i vitboken att den samordnade planen även skulle kunna behandla samhälleligt och miljömässigt välbefinnande som en huvudprincip för AI. Målsättningen med den samordnade planen är att attrahera i investeringar . Att främja etablerandet av test- och excellensmiljöer för AI i . Enligt kommissionen är det nödvändigt att främja fler synergier och nätverk mellan olika europeiska AI-forskningscentrum och minska fragmenteringen på området inom . Som ett led i det har kommissionen inom ramen för programmet för ett digitalt föreslagit ett öronmärkt belopp för att stödja testcenter, som vid behov kan kompletteras med åtgärder inom Horisont som en del av den fleråriga budgetramen 2021–2027. Tanken är att nationella, europeiska och privata investeringar ska kunna kombineras i test- och excellensmiljöerna. Kommissionen utesluter inte att det kan behövas ett nytt rättsligt instrument i detta syfte. Att stötta universitet och institutioner i att attrahera forskare och professorer samt erbjuda världsledande masterprogram för AI. Kommissionen anser att måste understödjas genom att kompetensbrister åtgärdas. Som ett led i det arbetet vill kommissionen bilda och stödja universitetsnätverk på området genom programmet för ett digitalt . Kommissionen menar vidare att den kommande uppdateringen av kompetensagendan skulle kunna användas i syfte att minska kompetensbristen på AI-området och konstaterar att kompetensutveckling även kommer att lyftas fram i den reviderade samordnade planen. Att se till att minst en europeisk digital innovationsknutpunkt per medlemsstat har en hög specialisering mot AI samt att riskkapital för AI-utveckling tillgängliggörs via den europeiska investeringsfonden. Kommissionen avser att lansera ett pilotprojekt genom investeringsfonden om för att tillhandahålla finansiering med eget kapital för AI-utveckling. Kommissionen avser också att utöka den summan betydligt framöver, med förbehåll för att förslaget går igenom i förhandlingarna om den kommande fleråriga budgetramen. Att ett nytt offentlig-privat partnerskap för AI, data och robotik inrättas inom ramen för Horisont . Kommissionen menar att det är viktigt för att se till att den privata sektorn deltar fullt ut i fastställandet av forsknings- och innovationsagendan på området. Enligt kommissionen kan ett sådant offentlig-privat partnerskap även samarbeta med andra offentlig-privata partnerskap inom Horisont och de digitala innovationsknutpunkter som nämns ovan. Att inleda öppna sektorsdialoger för att främja den offentliga sektorns användning av AI. Sektorsdialogerna ska användas för att förbereda ett specifikt ”Adopt AI-programme” som kommer att stötta den offentlig sektorn vid upphandling av AI-system. Kommissionen avser att prioritera hälso- och sjukvård, lokal- och kommunalförvaltning på landsbygden samt offentliga tjänsteleverantörer. Utöver de sex åtgärderna lyfter kommissionen även fram (COM(2020) 66) som läggs fram parallellt (se Bakgrund ovan). De sex åtgärder som föreslås i vitboken kompletterar datastrategin. Kommissionen konstaterar att det inte är möjligt att utveckla AI utan data, och att främja ansvarsfulla metoder för datahantering kommer att bidra till att bygga upp förtroende för AI-tillämpningar. Kommissionen menar vidare att det är viktigt att investera i datorteknik och datorinfrastruktur. Som ett led i det arbetet har kommissionen föreslagit anslag inom ramen för programmet för ett digitalt för att stödja högpresterande datorsystem och kvantdatorsystem. Det inkluderar bl.a. AI, data och molnstruktur och vidareutvecklas i . Kommissionen lyfter även fram internationella aspekter och konstaterar bl.a. att EU ska fortsätta att samarbeta med likasinnade länder och globala aktörer med utgångspunkt i de europeiska värderingarna. Dessutom lyfter kommissionen fram att viktigt arbete med AI utförs i olika multilaterala forum som , och . Ett ekosystem av förtroende: regelverk för AI Den andra delen av vitboken består av en beskrivning av de grundläggande delar som ett regelverk för AI bör bestå av för att skapa vad kommissionen kallar ett ekosystem av förtroende. Utgångspunkten för denna del är att användningen av AI är förknippad med både risker och möjligheter, och kommissionen ser därför ett behov av att säkerställa allmänhetens förtroende för AI-system. Kommissionens tidigare initiativ på AI-området – strategidokumentet Artificiell intelligens för (COM(2018) 237), den samordnade planen (COM(2018) 795) och i synnerhet meddelandet om att skapa förtroende för människocentrerad artificiell intelligens (COM(2019) 168) – innehåller olika aspekter av förtroende för AI. Som beskrevs kortfattat i bakgrunden ovan har kommissionen inrättat en högnivåexpertgrupp för artificiell intelligens, som publicerade riktlinjer för tillförlitlig AI . Utifrån dessa riktlinjer lade kommissionen i meddelandet om människocentrerad artificiell intelligens fram sju centrala krav för tillförlitlig AI: • mänskligt agentskap och mänsklig tillsyn. • teknisk robusthet och säkerhet. • integritet och dataförvaltning. • mångfald, icke-diskriminering och rättvisa. • samhällets och miljöns välbefinnande. Utöver dessa riktlinjer, som revideras efter att de tillsammans med en tillhörande bedömningslista har använts i ett pilotprojekt av över 350 deltagande organisationer, anser kommissionen att ett tydligt kan skapa förtroende för AI hos konsumenter och företag och därmed skynda på AI-utvecklingen. Med det i åtanke har kommissionen identifierat två typer av risker som finns med AI – risker som rör de grundläggande rättigheterna samt risker som rör säkerhet och ansvarsutkrävande. Vad gäller risker som rör grundläggande rättigheter ser kommissionen risker för kränkningar gentemot yttrandefriheten, mötesfriheten, rätten till mänsklig värdighet, rätten att inte utsättas för diskriminering på grund av kön, ras eller etniskt ursprung, religion eller övertygelse, funktionsnedsättning, ålder eller sexuell läggning, beroende på vad som är tillämpligt inom olika områden, rätten till skydd av personuppgifter och privatlivet, rätten till ett effektivt rättsmedel och en opartisk domstol samt konsumentskydd. Dessa risker kan uppstå antingen på grund av brister i utformningen av AI-systemen eller på grund av bristfälliga data som leder till diskriminerande resultat. När det kommer till säkerhetsrisker och ansvarsutkrävande konstaterar kommissionen att AI-teknik kan innebära nya risker för användare när den är inbäddad i produkter och tjänster. Det kan t.ex. röra sig om en självkörande bil som felaktigt identifierar ett föremål på vägen och därmed orsakar en olycka. Liksom med de risker som rör de grundläggande rättigheterna kan den här typen av problem uppstå på grund av designfel i AI-tekniken, tillgängligheten till och kvaliteten på de data som AI-tekniken utgår från eller andra problem kopplade till maskininlärning.