yttr · H705TU6y · 2020-05-08 00:00:00 — beslutade att ge bl.a. trafikutskottet möjlighet att yttra sig över intelligens – en EU-strategi för spetskompetens och förtroende, COM(2020) 65. yttrar sig över kommissionens vitbok i de delar som berör utskottets beredningsområde. Utskottet välkomnar kommissionens vitbok och framhåller att artificiell intelligens (AI) som en strategiskt viktig teknik kommer att kunna medföra betydande möjligheter för EU:s medborgare och företag samt det europeiska samhället som helhet. antog vitboken intelligens – en EU-strategi för spetskompetens och förtroende, COM(2020) 65. I vitboken beskrivs de förslag till åtgärder som kommissionen anser behöver vidtas för att dels främja utvecklingen och användningen av artificiell intelligens (AI), dels adressera de risker som är kopplade till viss AI-användning. Kommissionen konstaterar inledningsvis att AI är en teknik under snabb utveckling som har potential att förändra samhället positivt, exempelvis genom att förbättra hälso- och sjukvården, effektivisera jordbruket och produktionssystem samt begränsa klimatförändringarna. För att nyttja möjligheterna med AI och hantera tillhörande risker menar kommissionen att EU måste agera samfällt och att det finns behov av en ny gemensam EU-strategi för AI. om AI består av två delar; den första delen behandlar åtgärder i syfte att skapa ett ekosystem av spetskompetens som täcker hela värdekedjan från forskning och utveckling till användning av AI, och den andra delen behandlar de grundläggande delar som ett regelverk för AI bör bestå av för att skapa ett ekosystem av förtroende. Kommissionen uppmanar medlemsstaterna, andra europeiska organisationer och berörda aktörer att inkomma med synpunkter på innehållet i vitboken och bidra till EU:s framtida beslutsfattande inom området. Ett ekosystem av spetskompetens När det gäller åtgärder för att skapa ett ekosystem av spetskompetens betonar kommissionen inledningsvis vikten av ett fortsatt samarbete med medlemsstaterna. Kommissionen föreslår därför att den samordnade planen för AI (COM(2018) 79), som kommissionen har utarbetat tillsammans med medlemsstaterna, ska ses över och att en ny version ska antas . Enligt kommissionen skulle den samordnade planen också kunna behandla samhälleligt och miljömässigt välbefinnande som en huvudprincip för AI, mot bakgrund av att AI-systemen sannolikt kommer att bidra till att hantera akuta problem såsom klimatförändringar och miljöförstöring. Kommissionen ser även behov av fokuserade insatser inom forskning och innovation och har för avsikt att underlätta skapandet av spetskompetens- och testcenter som kan förena europeiska, nationella och privata investeringar. Enligt kommissionen bör sådana center främst koncentreras till områden där EU har potential att bli världsledande, däribland transportområdet. Kommissionen har föreslagit att medel för att stödja testcenter ska avsättas inom ramen för programmet för ett digitalt , och kommer vid behov att komplettera med ytterligare forsknings- och innovationsåtgärder inom ramen för Horisont . Kommissionen framhåller även behovet av kompetens och menar att en EU-strategi för AI måste stödjas av en stark inriktning på att åtgärda kompetensbrister. Mot denna bakgrund föreslår kommissionen att ett ledande nätverk av universitet och högskolor ska bildas för att locka till sig de bästa forskarna och professorerna och erbjuda världsledande mastersprogram inom AI. Därutöver understryker kommissionen behovet av att små och stora företag kan få tillgång till AI. Kommissionen föreslår därför ett samarbete med medlemsstaterna för att se till att minst en digital innovationsknytpunkt per medlemsstat har en hög grad av specialisering i fråga om AI, och att dessa innovationsknytpunkter kan få stöd inom ramen för programmet för ett digitalt . Kommissionen och Europeiska investeringsfonden kommer även att lansera ett pilotprojekt för innovativ AI-utveckling. Kommissionen anger även att det är viktigt att den privata sektorn deltar fullt ut i fastställandet av forsknings- och innovationsagendan och kan tillhandahålla nödvändig saminvestering. Enligt kommissionen bör ett offentligt-privat partnerskap med fokus på AI, data och robotteknik inrättas inom ramen för Horisont i syfte att öka samarbetet och säkerställa forskning och innovation i fråga om AI. Kommissionen framhåller även att den offentliga sektorns användande av AI bör främjas. Särskild uppmärksamhet bör enligt kommissionen ägnas sektorer där tekniken är mogen för storskalig utveckling, t.ex. hälso- och sjukvårdssektorn och transportsektorn. Kommissionen föreslår därför att dialoger med vissa sektorer ska inledas och att dessa ska ligga till grund för handlingsplaner för att underlätta utveckling, experiment och införande av AI. Vidare kommer sektorsdialogerna att användas för att förbereda ett specifikt program som stöder offentlig upphandling av AI-system och bidrar till att förändra förfarandena för offentlig upphandling. Utöver ovannämnda åtgärder betonar kommissionen också vikten av säkrad tillgång till data och infrastruktur för databehandling. Enligt kommissionen är det inte möjligt att utveckla AI-tillämpningar utan tillgång till data. Likaså framhåller kommissionen att det är viktigt med investeringar i datorteknik och datorinfrastruktur. Kommissionen framhåller även vikten av internationellt samarbete och menar att detta måste bygga på en strategi som främjar respekten för grundläggande rättigheter såsom mänsklig värdighet, mångfald, inkludering, icke-diskriminering och skydd av integritet och personuppgifter. Ett ekosystem av förtroende Enligt kommissionen bör ett framtida regelverk inriktas på att minimera de olika potentiella riskerna med AI, exempelvis risker kopplade till skyddet för grundläggande rättigheter, inklusive skyddet för personuppgifter och integritet och icke-diskriminering. Vidare konstaterar kommissionen att AI kan innebära nya säkerhetsrisker för användare när AI-tillämpningar är inbäddade i produkter och tjänster; en självkörande bil kan t.ex. riskera att orsaka en olycka till följd av brister i den bakomliggande tekniken. Kommissionen anger i vitboken att utöver eventuella anpassningar av befintlig lagstiftning behövs en ny särskild lagstiftning för att EU:s rättsliga ramverk ska anpassas till den aktuella och förväntade tekniska och kommersiella utvecklingen. I sammanhanget påpekar kommissionen att i ett nytt rättsligt instrument måste definitionen av AI vara tillräckligt flexibel för att kunna anpassas till den tekniska utvecklingen och vara tillräckligt exakt för att ge den rättssäkerhet som krävs. Enligt kommissionen bör en s.k. riskbaserad metod användas för att säkerställa att regleringsåtgärder är proportionerliga, och behövs tydliga kriterier för att kunna skilja på AI-tillämpningar med olika risknivåer. En bedömning av huruvida en AI-tillämpning generellt bör beaktas som en tillämpning med hög risk bör baseras på sektor och typ av användning. Enligt kommissionen bör sektorer där betydande risker kan förväntas uppstå, t.ex. transportområdet, förtecknas särskilt och uttömmande i det nya regelverket. Kommissionen anger även att vid utformningen av det framtida regelverket för AI kommer det att bli nödvändigt att besluta om vilka typer av rättsliga krav som ska ställas på berörda aktörer och ytterligare specificera dessa genom antagandet av standarder. Enligt kommissionen skulle sådana krav endast gälla AI-tillämpningar med hög risk, och dessa skulle kunna bestå av följande centrala aspekter: träningsdata, data och registerföring, tillhandahållande av information, robusthet och korrekthet, mänsklig tillsyn och särskilda krav för vissa specifika AI-tillämpningar. Kommissionen anger även att för att säkerställa utvecklingen av AI-tillämpningar som är tillförlitliga och säkra och respekterar europeiska värderingar och regler behövs en effektiv kontrollmekanism. När det gäller AI-tillämpningar med hög risk anser kommissionen att en bedömning av överenstämmelse måste ske innan produkten släpps ut på marknaden, vilket bl.a. kan innefatta förfaranden för testning, inspektion och certifiering och att dessa förfaranden bör ingå i de redan befintliga bedömningarna om överenstämmelse som finns för många EU-produkter. Därutöver ser kommissionen även ett behov av efterhandskontroller, och kommissionen anger dessutom att ett system med frivillig märkning kan vara ett alternativ för AI-tillämpningar med lägre risk. För att åstadkomma en effektiv kontroll anser kommissionen att det behövs en europeisk styrning i form av ett ramverk för samarbete mellan nationella myndigheter. Kommissionen betonar även att det är nödvändigt att de krav som sätts upp är tillämpliga på alla ekonomiska aktörer som erbjuder AI-produkter och AI-tjänster inom EU, oavsett om de är etablerade inom unionen eller inte. Utöver detta pekar kommissionen på vikten av de internationella dimensionerna i AI-arbetet och framhåller att EU ska fortsätta att samarbeta med likasinnade länder och globala aktörer utifrån europeiska regler och värden. Utskottet kan inledningsvis konstatera att en av Von der sex politiska prioriteringar som ska vägleda kommissionens arbete är ett rustat för den digitala tidsåldern. Inom ramen för denna prioritering antog kommissionen ett paket bestående av ett meddelande om att forma EU:s digitala framtid, (COM(2020) 67), ett meddelande om en strategi för användning av data, (COM(2020) 66) och vitboken om AI, med syfte att sätta ramarna och staka ut riktningen för den digitala omställningen inom EU. om AI utgör på så sätt ett led i den övergripande europeiska digitala strategin och innehåller förslag på åtgärder för att möjliggöra en tillförlitlig och säker utveckling av AI i . Utskottet välkomnar på ett övergripande plan kommissionens paket och mer specifikt vitboken om AI. Den digitala omställningen är en prioriterad fråga för utskottet. Utskottet har framfört att digitaliseringen innebär stora möjligheter för samhället i stort, såväl för individer, näringslivet och civilsamhället som för den offentliga sektorn. Utskottet har även upprepade gånger betonat vikten av att främja digitala innovationer, såsom AI-lösningar, och understrukit behovet av rätt förutsättningar för att digitalt drivna innovationer ska utvecklas, spridas och användas. Liksom kommissionen menar utskottet att AI kan antas få en betydande påverkan på samhällsutvecklingen , inte minst inom transportsektorn. AI har potential att bidra med betydande nytta inom en mängd områden genom ökad kvalitet och effektivitet inom olika verksamheter samt att i förlängningen bidra till lösningar på miljömässiga och sociala samhällsutmaningar. Utskottet noterar t.ex. att kommissionen anger att digital teknik, såsom AI, är en viktig förutsättning för att nå målen i den europeiska gröna given, förutsatt att AI-systemens miljöpåverkan beaktas under hela deras livscykel. Enligt utskottet är det viktigt att understödja en teknikutveckling som innebär att möjligheterna med AI kommer hela samhället till gagn och som kan förbättra förutsättningarna att bo, leva och verka i alla delar av landet. Utskottet påminner i sammanhanget om att har en digital inriktning för AI, vars målsättning är att ska vara ledande i att tillvarata de möjligheter som användning av AI kan ge, med syftet att stärka både den svenska välfärden och den svenska konkurrenskraften. Målsättningen knyter nära an till det digitaliseringsmål som har antagit, dvs. att ska vara bäst i världen på att använda digitaliseringens möjligheter (prop. 2011/12:1, bet. 2011/12:TU1, rskr. 2011/12:87). Enligt myndigheten för digital förvaltning (DIGG) rankar internationella jämförelser som fokuserar på länders AI-beredskap, dvs. till vilken grad ett land och dess institutioner och företag har förutsättningar att tillvarata potentialen med AI, relativt högt. Exempelvis ligger på andra plats av EU-medlemsstaterna i kommissionens index för digital ekonomi och digitalt samhälle () sett till indikatorer såsom bredbandstäckning och användning, andelen informations- och kommunikationstekniksspecialister, e-handelsvolymer, publicering av öppna data med flera. anses därmed ha en solid grund, genom en relativt hög digitaliseringsmognad, för att ta nästa steg i att skapa rätt förutsättningar för att till fullo tillvarata potentialen med AI. understryker DIGG att det finns behov av att skapa ytterligare förutsättningar för att nyttja möjligheterna med AI. Bland annat framhålls vikten av en ändamålsenlig rättsutveckling eftersom rättsliga utmaningar i form av osäkerhet och hinder hämmar användningen av AI och digitaliseringen i stort. Som med all ny teknik är dock användningen av AI förknippad med både möjligheter och risker. Utskottet anser därmed att det är positivt att kommissionen i vitboken antar ett balanserat förhållningssätt till möjligheterna och riskerna med AI och att kommissionen förespråkar en utveckling av AI som är människocentrerad, etisk och hållbar och som respekterar grundläggande rättigheter och värden. Ett ekosystem av spetskompetens Kommissionen föreslår i vitboken att ett politiskt ramverk ska tas fram för att samordna insatserna på europeisk, nationell och regional nivå. Utskottet ser positivt på kommissionens ansats och menar att EU på en övergripande nivå behöver stärka sin kapacitet att utveckla och använda AI. Vidare noterar utskottet att syftet med ramverket är att mobilisera resurser för att uppnå ett ekosystem av spetskompetens som täcker hela kedjan från forskning och utveckling till användning av AI. De åtgärder som kommissionen föreslår rör ett ökat samarbete med medlemsstaterna, fokuserade insatser inom forskning och innovation, kompetens, inriktning på små och stora företag, partnerskap med den privata sektorn och främjande av den offentliga sektorns anammande av AI. Enligt utskottet synes kommissionens föreslagna åtgärder på en övergripande nivå överensstämma med den svenska inriktningen för AI, där ett antal viktiga förutsättningar för att realisera potentialen med AI lyfts fram inom områdena utbildning, forskning, innovation och användning samt ramverk och infrastruktur. Utskottet har i tidigare sammanhang välkomnat effektiva satsningar på innovation och digitalisering som stärker konkurrenskraften och bidrar till sysselsättning samt en ekonomiskt, socialt och miljömässigt hållbar utveckling (bet. 2019/20:TU5) och är alltjämt av den uppfattningen. Ett exempel på en viktig satsning inom området är AI Innovation of ; nationella center för AI som ska fungera som en motor i det svenska AI-ekosystemet. Centrets syfte är att accelerera tillämpningen av AI genom delning av kunskap och data, samlokalisering och samarbetsprojekt, med ett fokus på etik, transparens och säkerhet. Inom ramen för verksamheten etableras regionala noder runt om i landet. I vitboken framhåller kommissionen även att framsteg inom databehandling och ökad tillgång till data är viktiga drivkrafter bakom en utveckling av olika AI-tillämpningar. Utskottet delar kommissionens uppfattning om att en grundläggande förutsättning för AI är data. Utskottet vill i sammanhanget även framhålla att framsteg inom databehandling i form av ökad beräkningskapacitet och lagringskapacitet är avgörande för forskning om och utveckling av AI-lösningar. Utskottet noterar att kommissionen i meddelandet om en strategi för data anger att det inte finns tillräckligt med data tillgängliga för innovativt vidareutnyttjande, såsom utveckling av AI-tillämpningar. Tillgång till data behövs för att träna AI-system, med produkter och tjänster som snabbt går från igenkänning av mönster och generering av insikter till mer sofistikerade prognostekniker och därmed bättre beslut. Utskottet har tidigare angett att det krävs att ligger i framkant när det gäller datadriven utveckling och att en central och viktig produktionsfaktor i datadriven innovation är tillgången till data (bet. 2019/20:TU5). Utskottet konstaterar i sammanhanget att det pågår arbete i i detta avseende. Exempelvis har fått i uppdrag att kartlägga förutsättningarna för att öka små och medelstora företags förmåga att använda data som strategisk resurs, och SCB har fått i uppdrag att kartlägga användningen av AI samt analys av stora datamängder i . Dessutom har DIGG fått i uppdrag att upprätta en handlingsplan för öppna data, tillgängliggöra öppna data som bäst kan bidra till nytta för samhället samt främja förmågan att bedriva öppen och datadriven innovation i samverkan mellan forskning, näringsliv och civilsamhälle. Det pågår även arbete med att upprätta miljöer som ska fungera som nationella datalabb för olika branscher och områden med syfte att snabba på utvecklingen inom AI. När det gäller tillgången till data menar utskottet att det är angeläget att vara uppmärksam på situationer med datamonopol för att undvika att data som kan användas till det allmännas bästa är begränsad till ett fåtal aktörer. Utskottet vill i sammanhanget framhålla vikten av samverkan mellan myndigheter, näringsliv och akademi; genom samverkan skapas förtroende mellan olika aktörer vilket kan underlätta bl.a. datadelning i forsknings-, utvecklings- och innovationssyfte. I finns en tradition av samverkan mellan olika aktörer och så även inom AI-frågor; i satsningen AI Innovation of deltar t.ex. ett 70-tal partner inom näringsliv, offentlig sektor, forskningsinstitut och akademi. Enligt utskottet är det viktigt att även fortsättningsvis främja sådan samverkan i såväl som på EU-nivå. Utskottet noterar att det finns fler utmaningar, utöver tillgången till data, kopplade till AI och användningen av data. Det handlar t.ex. om utmaningar kopplade till äganderätt till individdata och personlig integritet och etik, risker för tillämpning av omogna AI-lösningar baserade på felaktiga data och algoritmer samt risker för medveten datamanipulering för att påverka verksamheter och samhällen negativt. Därmed anser utskottet att det är av yttersta vikt att det finns ett politiskt och rättsligt ramverk som kan balansera den nödvändiga tillgången till data med de fundamentala behoven av integritetsskydd, etik, tillit och samhällsskydd. Utskottet vill i sammanhanget lyfta fram behovet av transparens i hanteringen av data och understryker att transparens är viktigt i alla steg i processen, även i de mer initiala stegen t.ex. kopplat till vilka s.k. träningsdata för AI-system som används och hur de används. Utskottet påminner även om att för att kunna realisera den potential som finns inom AI men även inom andra digitala innovationer ställs stora krav på den digitala infrastrukturen i hela landet. framhåller t.ex. att den digitala infrastrukturen måste finnas tillgänglig i stora delar av landet, den måste vara dimensionerad för att klara allt större trafikmängder, som de digitala vägarna måste vara fria från trafikhinder så att data kan flyta fram utan fördröjning och skapa värden. Ett ekosystem av förtroende I vitboken behandlar kommissionen även de grundläggande delar som ett regelverk för AI bör bestå av för att skapa ett ekosystem av förtroende. Enligt kommissionen bör ett regelverk inriktas på att minimera potentiella skaderisker. Utskottet delar kommissionens uppfattning och stöder inriktningen att som ett första steg göra en heltäckande analys av vilka risker med AI som behöver hanteras. Utskottet noterar i sammanhanget att kommissionen gör bedömningen att de största riskerna med användningen av AI rör tillämpningen av regler avsedda att skydda de grundläggande rättigheterna, inklusive skydd av personuppgifter och integritet, och frågor som rör säkerhet och ansvar. När det gäller risker för de grundläggande rättigheterna kan det bl.a. handla om att AI ökar möjligheterna att spåra och analysera människors vanor, att snedvridna AI-algoritmer kan leda till diskriminering och att bristande transparens, i kombination med komplexitet, oförutsägbarhet och delvis autonomt beteende kan göra det svårt att kontrollera beslut som har fattats med hjälp av AI. Kommissionen framhåller också den säkerhetsrisk som AI-tillämpningar kan innebära för användare när de är inbäddade i produkter och tjänster, exempelvis i självkörande fordon. Utskottet har i tidigare sammanhang påtalat att självkörande fordon är en angelägen transportlösning och att utvecklingen mot ett transportsystem för människor och gods baserat på automation och digitalisering både är ett sätt att möta samhällsutmaningar i fråga om klimat och hälsa och en möjlighet att stärka konkurrenskraften och exportindustrin samt skapa nya arbetstillfällen, såväl i som på EU-nivå (utl. 2018/19:TU3). Utskottet har även uppmärksammat att det finns risker vid en övergång till alltmer automatiserade och uppkopplade fordon, t.ex. en övertro på och felaktig användning av tekniken, och angett att det är viktigt att det politiska och rättsliga ramverket kan omhänderta dessa risker. Utskottet är alltjämt av denna uppfattning och vill i sammanhanget understryka att det finns flera viktiga etiska och moraliska överväganden kopplade till automatiserade och uppkopplade fordon, t.ex. vad gäller deras programmering. Det är därmed positivt att kommissionens utgångspunkt för ett framtida generellt rättsligt regelverk för AI lyfter fram etiska riktlinjer för utveckling och användning av AI. En annan mycket angelägen fråga, som kommer att behöva lösas framöver, är ansvarsfrågan, dvs. vem som är ansvarig när t.ex. ett självkörande fordon är inblandat i en olycka. När det gäller risker med ny teknik har utskottet tidigare påpekat att många kritiska tjänster kommer att vara beroende av trådlös digital infrastruktur, som t.ex. 5G-nät. Utskottet har konstaterat att systemomfattande och utbredda it-incidenter därför kan få omfattande konsekvenser för samhället i stort och för enskilda invånares integritet (bet. 2019/20:TU4). Mot denna bakgrund anser utskottet att det är mycket angeläget att den framtida digitala infrastrukturen som kommer att ligga till grund för bl.a. AI-tillämpningar kan säkras mot tekniska, organisatoriska och rättsliga förhållanden som kan hota säkerhet, integritet och tillgänglighet, och därigenom skada och EU:s säkerhet. Det är därmed viktigt att fortsätta att kontinuerligt verka för ett stärkt samarbete och gemensamt förhållningssätt inom EU vad gäller frågor om t.ex. 5G-nätens säkerhet och cybersäkerhet. I vitboken redogör kommissionen även för hur den ser på behovet av eventuella anpassningar av befintliga . Utskottet ställer sig positivt till att kommissionen har för avsikt att undersöka hur befintliga regelverk fungerar och analysera om det finns behov av att se över reglerna med hänsyn till den nya tekniken. Det är i sammanhanget viktigt att det finns rätt regulatoriska förutsättningar för ett ansvarsfullt nyttjande av ny teknik; i arbetar t.ex. kommittén för teknologisk innovation och etik med att identifiera policyutmaningar, bidra till att minska osäkerheten kring gällande regler och påskynda policyutvecklingen kopplad till den fjärde industriella revolutionens teknologier. I fråga om ett politiskt och rättsligt ramverk för AI vill utskottet även lyfta fram AI Policy Observatory, dvs. en lanserad plattform som bl.a. sammanställer olika länders AI-policyer och regelverk. Av vitboken framgår att EU har varit nära involverat i utarbetandet av principer för AI som syftar till att främja innovativ och pålitlig AI som respekterar mänskliga rättigheter och demokratiska värden; principerna antogs och erkändes av G20-länderna . Utskottet välkomnar internationellt samarbete i fråga om AI, då det gynnar såväl som EU, och framhåller att det är viktigt att följa och dra nytta av det arbete som pågår i andra internationella forum. Utskottet noterar att kommissionen drar slutsatsen att en ny särskild lagstiftning om AI kan behövas för att anpassa EU:s rättsliga ram till den aktuella och förväntade tekniska och kommersiella utvecklingen.