bet · H701UbU20 · 2020-05-28 00:00:00 — Brist på bestämmelser på området kan, utöver att det medför risker för de berörda personerna, skapa rättslig osäkerhet för berörda företag och tillsynsmyndigheter. Rättslig osäkerhet riskerar på så vis att minska AI-tillämpningen generellt och den totala säkerheten vid nyttjandet av AI-teknik. Svårigheten att spåra potentiellt problematiska beslut som har fattats av AI-system i fråga om grundläggande rättigheter gäller även frågor som rör säkerhet och ansvar. Kommissionen lyfter i sammanhanget fram att enligt direktivet om produktansvar är en tillverkare ansvarig för skador som orsakas av en felaktig produkt. När det gäller ett AI-baserat system kan det dock vara svårt att bevisa att produkten är felaktig, att skadan har uppstått och att det finns ett orsakssamband däremellan. Eventuella anpassningar till EU:s befintliga rättsliga ram för AI Kommissionen konstaterar i vitboken att det redan finns ett regelverk på EU-nivå för att skydda de grundläggande rättigheterna samt för produktsäkerhet och produktansvar. Dessa är fullt tillämpliga oaktat om rättsfall inbegriper AI eller ej. Kommissionen ser dock att det är viktigt att bedöma om nuvarande regelverk kan genomföras adekvat för att hantera de risker som AI skapar eller om det behövs anpassningar av vissa rättsliga instrument. Enligt kommissionen skulle det rättsliga ramverket kunna förbättras för att hantera de fem nedanstående situationerna och riskerna som AI medför. Effektiv tillämpning och kontroll av att befintlig lagstiftning på nationell nivå och EU-nivå följs. Bristen på transparens i AI-system gör det svårt att identifiera och bevisa eventuella lagöverträdelser, vilket försvårar ansvarsutkrävande. Det kan därför vara nödvändigt att anpassa eller förtydliga lagstiftningen på vissa områden, t.ex. vad gäller ansvar. Kommissionen publicerade i samband med vitboken en separat rapport om ansvarsimplikationer som följer på AI-teknik, COM(2020) 64. Begränsningar av tillämpningsområdet för gällande EU-lagstiftning. En viktig del av EU:s lagstiftning om produktsäkerhet gäller utsläppande av produkter på marknaden. Även om programvara, när den ingår i slutprodukten, måste överensstämma med de relevanta reglerna i EU-lagstiftningen om produktsäkerhet, är det en öppen fråga om fristående programvara omfattas av EU:s produktsäkerhetslagstiftning, bortsett inom vissa specifika sektorer. De allmänna EU-säkerhetsbestämmelserna som är i kraft gäller för produkter, inte tjänster, och därför i princip inte heller tjänster som bygger på AI-teknik. Förändrad funktionalitet hos AI-system. AI-system som kräver regelbund-na uppdateringar av programvara eller som bygger på maskininlärning kan medföra att produkter som integrerar dessa ändrar funktion under en livscykel, med nya säkerhetsrisker som följd. Dagens lagstiftning är främst inriktad på de säkerhetsrisker som finns för att en produkt släpps på marknaden. Osäkerhet i fråga om ansvarsfördelningen mellan olika aktörer i leveranskedjan. I enlighet med EU:s lagstiftning om produktsäkerhet är det i allmänhet tillverkaren som är ansvarig för den produkt som släpps ut på marknaden, inbegripet alla dess komponenter. Regelverket kan emellertid bli oklart om AI läggs till av en annan part än tillverkaren efter det att produkten har släppts ut på marknaden. EU:s lagstiftning om produktansvar föreskriver vidare tillverkarnas ansvar och överlåter åt de nationella ansvarsreglerna att reglera ansvaret för andra aktörer i leveranskedjan. Ändringar av säkerhetsbegreppet. Användningen av AI i produkter och tjänster kan ge upphov till risker som inte uttryckligen behandlas i EU-lagstiftningen. Det kan t.ex. röra sig om personliga säkerhetsrisker eller risker till följd av att uppkopplingen bryts. Kommissionen menar att EU fullt ut bör utnyttja de verktyg som står till dess förfogande för att stärka sitt faktaunderlag om potentiella risker i samband med AI-tillämpningar. Tillämpningsområdet för EU:s framtida regelverk – riskbaserad metod Kommissionen menar att ett framtida bör följa vad man kallar en riskbaserad metod, i syfte att adekvat balansera ett nytt så att det dels är så effektivt som möjligt, dels inte innebär en oproportionerlig börda. Det innebär enligt kommissionen att AI-tillämpningar bedöms vara antingen hög risk eller inte hög risk. För AI som inte är hög risk bör redan existerande regelverk gälla helt och hållet, medan ett nytt regelverk bör gälla för AI med hög risk. Kommissionen anser att en AI-tillämpning bör klassas som hög risk om den uppfyller två kumulativa krav. Det första kriteriet ställer frågan om AI-tillämpningen används i en sektor där betydande risker kan förväntas uppstå. Hög risk-sektorer bör listas och kontinuerligt uppdateras. Det kan t.ex. röra sig om hälso- och sjukvård. Det andra kriteriet behandlar AI-tillämpningens användning, och kontrollerar huruvida AI-tillämpningen används på ett sådant sätt att betydande risker sannolikt uppstår. Kriteriet antas t.ex. utesluta AI-tillämpningar inom hälso- och sjukvårdssektorn som inte normalt anses ha särskilt hög risk, som tidsbokningssystem eller liknande. Bedömningen av huruvida användningen ska anses ha hög risk skulle enligt kommissionen kunna baseras på effekterna för berörda användare, som t.ex. risken för personskador eller rättighetskränkningar. Kommissionen noterar dock att det kan finnas undantag där AI-tillämpningar för vissa ändamål alltid bör betraktas som hög risk oavsett vilken sektor det rör sig om. Det gäller t.ex. rekryteringsprocesser och användning av AI för biometrisk fjärridentifiering. Krav för AI-tillämpningar med hög risk Kommissionen beskriver att det vid utformningen av det framtida kommer att bli nödvändigt att besluta om vilka typer av obligatoriska krav som ska ställas på berörda aktörer för AI-tillämpningar med hög risk. Kommissionen anser att dessa, som i så fall skulle definieras i ett senare skede med tydliga riktmärken, skulle kunna bestå av följande centrala aspekter: träningsdata, data och registerföring, tillhandahållande av information, robusthet och korrekthet samt mänsklig tillsyn. Vad gäller träningsdata, dvs. data som används för att träna AI-system, så bör det enligt kommissionen finnas krav som säkerställer att det kan ges rimliga garantier för att den efterföljande användningen av de produkter eller tjänster som AI-systemet möjliggör är säker, genom att det uppfyller de normer som fastställs i EU:s befintliga säkerhetsbestämmelser. Det kan t.ex. handla om att dataset som används är tillräckligt stora för att ge ett gott underlag. Det bör vidare finnas krav på att vidta rimliga åtgärder för att säkerställa att sådan senare användning av AI-system inte leder till resultat som medför diskriminering. Det bör därtill finnas krav som syftar till att säkerställa att människors integritet och personuppgifter skyddas på ett adekvat sätt vid användning av AI-baserade produkter och tjänster. När det gäller registerföring och datalagring bör det finnas krav som syftar till att säkerställa att register över det dataset som används för att träna och testa AI-systemen, inklusive en beskrivning av de huvudsakliga egenskaperna och hur datasetet har valts ut, dokumenteras. Det bör även finnas krav på dokumentation av metoder, processer och tekniker för programmering och träning som används för att bygga, testa och validera AI-systemen. I visa fall kan det även vara motiverat att arkivera själva dataseten. När det gäller tillhandahållandet av information bör det finnas krav om att klar och tydlig information om AI-systemens kapacitet och begränsningar tillhandahålls, inklusive om systemens ändamål och syften. Det gäller information om under vilka förhållanden ett AI-system kan förväntas fungera som avsett och den förväntade nivån av korrekthet när det gäller att uppfylla det angivna syftet. Det bör även finnas ytterligare information till allmänheten om icke uppenbara interaktioner med AI-systemet. Vidare bör det finnas krav som syftar till att säkerställa AI-systemens korrekthet, eller åtminstone korrekt återspeglar sin grad av korrekthet. Det bör dessutom finnas krav om att resultat som AI tillhandahåller är reproducerbara, att AI-systemen kan hantera fel och att AI-systemen är motståndskraftiga mot angrepp. Det bör även ställas krav som säkerställer mänsklig tillsyn över AI-systemen, t.ex. så att ett givet AI-system måste ha granskats och godkänts av en människa och att människor övervakar systemet när det är i drift. Av kommissionens vitbok framgår vidare att det finns särskilda krav för biometrisk fjärridentifiering av t.ex. ansiktsbilder. Kommissionen beskriver i vitboken hur i princip förbjuder behandling av biometriska data i syfte att entydigt identifiera en fysisk person, utom under särskilda omständigheter. Enligt den allmänna dataskyddsförordningen kan sådan behandling endast ske på ett begränsat antal grunder, varav den viktigaste är hänsyn till ett väsentligt allmänintresse. I så fall måste behandlingen ske på grundval av EU-lagstiftning eller nationell lagstiftning, med beaktande av kraven på proportionalitet, respekt för det väsentliga innehållet i rätten till dataskydd och lämpliga skyddsåtgärder. Av detta följer enligt kommissionen att AI endast får användas för biometrisk fjärridentifiering, om sådan användning är vederbörligen motiverad, proportionerlig och omfattas av lämpliga skyddsåtgärder. När det gäller geografiskt område och jurisdiktion menar kommissionen att det är nödvändigt att de krav som sätts upp är tillämpliga på alla relevanta ekonomiska aktörer som erbjuder AI-produkter och AI-tjänster inom EU, oavsett om de är etablerade inom unionen eller inte. Frivillig märkning av AI-tillämpningar För AI-tillämpningar som inte klassificeras som hög risk anser kommissionen att ett alternativ vore frivillig märkning av dessa AI-system (tillsammans med den redan gällande EU-lagstiftningen). Det skulle t.ex. kunna tas fram särskilda krav för den frivilliga märkningen, som intresserade aktörer sedan skulle behöva uppfylla. Den frivilliga märkningen skulle på så sätt kunna fungera som en kvalitetsstämpel, enligt kommissionen. En kombination av förhands- och efterhandskontroller skulle krävas för att säkerställa att reglerna följs i ett sådant system, anser kommissionen. I syfte att åstadkomma en effektiv kontroll av AI-produkter och AI-tjänster lyfter kommissionen fram europeisk styrning i form av ett ramverk för samarbete mellan nationella myndigheter som ett alternativ. En europeisk styrningsstruktur skulle kunna ha en rad olika uppgifter, som ett forum för regelbundet utbyte av information och bästa praxis, med kartläggning av nya trender och rådgivning i fråga om standardisering och om certifiering. Den bör också spela en nyckelroll när det gäller att underlätta genomförandet av den rättsliga ramen, t.ex. genom att utfärda riktlinjer, avge yttranden och göra expertutlåtanden. Den bör därför förlita sig på ett nätverk av nationella myndigheter, sektorsspecifika nätverk och tillsynsmyndigheter på nationell nivå och EU-nivå. Regeringen lämnade faktapromemoria 2019/20:FPM23 Digital strategi, och datastrategi till . Av faktapromemorian framgår att regeringen är positiv till den ansats som kommissionen föreslår i vitboken. Regeringen menar att EU på övergripande nivå behöver stärka sin kapacitet att utveckla och använda AI. Vidare är regeringen positiv till att kommissionen undersöker hur befintliga regelverk, inklusive produktansvarsdirektivet och nationella regler som kompletterar detta, fungerar och analyserar om det finns behov av att se över reglerna med hänsyn till den nya tekniken. Regeringen välkomnar en inriktning på arbetet som inte utgår från en ögonblicksbild av hur den tekniska utvecklingen ser ut, utan strävar efter att reglerna ska kunna tillämpas på nya företeelser och nya tekniska fenomen. Det är också viktigt att även i fortsättningen värna en god balans mellan olika berörda intressen. Regeringen menar att det är bra att kommissionens utgångspunkt för ett framtida generellt rättsligt regelverk för AI lyfter fram etiska riktlinjer för utveckling och användning av AI, vilket går väl i linje med regeringens nationella inriktning för AI (N2018.14). Likaså är det positivt att vitboken har ett genomtänkt jämställdhetsperspektiv, anser regeringen, och regeringen stöder kommissionens inriktning att som första steg göra en heltäckande analys av vilka risker med AI som behöver hanteras. Likaså delar regeringen kommissionens bedömning att det kommer att vara nödvändigt att tydliggöra vad som faktiskt ska regleras och vilket tillämpningsområde som ska gälla. Regeringen anser att regleringen bör vara teknikneutral och proportionerlig samt att den bör möjliggöra global konkurrenskraft och fri handel. Vidare välkomnar regeringen internationellt samarbete kring AI då det gynnar såväl EU som . överlade med statsrådet från Infrastrukturdepartementet om kommissionens vitbok om artificiell intelligens (prot. 2019/20:40). Yttranden från utrikesutskottet, trafikutskottet och näringsutskottet beslutade att ge utrikesutskottet, trafikutskottet och näringsutskottet tillfälle att yttra sig över kommissionens vitbok om artificiell intelligens. Utskotten har inkommit med yttranden i de delar som berör respektive utskotts beredningsområde. framför bl.a. att AI på ett grundläggande sätt kan komma att förändra människors livsvillkor och säkerhet, och att många digitala system sträcker sig såväl tekniskt som organisatoriskt över statsgränserna i sammanlänkade nätverk. Vidare framför utrikesutskottet att det är viktig att EU:s medlemsländer, tillsammans med likasinnade, arbetar över statsgränserna för att möta hot och ta vara på möjligheterna med AI. lyfter därtill engagemang för ett effektivt internationellt förbud mot dödliga autonoma vapensystem och instämmer vidare i kommissionens uppfattning att det internationella samarbetet i fråga om AI måste främja respekten för de grundläggande rättigheterna, inbegripet mänsklig värdighet, mångfald, inkludering, icke-diskriminering och skydd av integritet och personuppgifter, samt att EU bör verka för att sprida dessa värden globalt. välkomnar vitboken och framhåller bl.a. att AI som en strategiskt viktig teknik kommer att kunna medföra betydande möjligheter för EU:s medborgare och företag samt för det europeiska samhället som helhet. När det gäller ett ekosystem av spetskompetens ser trafikutskottet bl.a. positivt på kommissionens ansats och menar att EU på en övergripande nivå behöver stärka sin kapacitet att utveckla och använda AI. delar därtill kommissionens uppfattning om att data är en förutsättning för AI och framhåller att framsteg inom databehandling i form av ökad beräkningskapacitet och lagringskapacitet är avgörande för forskning om och utveckling av AI-lösningar. För att kunna realisera den potential som finns inom AI ställs stora krav på den digitala infrastrukturen i hela landet. delar även kommissionens uppfattning om att ett regelverk för AI bör inriktas på att minimera skaderisker och stöder inriktningen att som ett första steg göra en heltäckande analys av vilka risker med AI som behöver hanteras. framför bl.a. att det välkomnar kommissionens vitbok och den gemensamma strategi om kunskapsuppbyggnad och främjande av spetskompetens som presenteras där. Vidare framför näringsutskottet att det är viktigt att värna den inre marknadens funktionssätt så väl som att försvara frihandeln och motverka olika former av protektionism samt att utvecklingen av AI inte får hämmas av onödiga kostnader orsakade av regelkrångel. anser även att det är bra att kommissionen gör en heltäckande analys av vilka risker som behöver hanteras i AI-frågan och poängterar vidare vikten av att kunskaps- och kompetensuppbyggnaden i fråga om AI sker på bred front och kommer alla EU-medborgare till del. Enligt näringsutskottet är det ytterst viktigt att regler som formar EU:s digitala framtid tas fram med ett integrerat informations- och cybersäkerhetsperspektiv, och näringsutskottet lyfter därtill fram de möjligheter som offentliga upphandlingar ger för att kunna genomföra uppskalningar av system för artificiell intelligens. Samtliga yttranden finns i sin helhet som bilaga 2–4 till detta granskningsutlåtande. Utskottet vill inledningsvis framföra att vi befinner oss i en föränderlig tid. I takt med att efterfrågan på AI och möjligheten att använda tekniken för att lösa verkliga problem ökar exponentiellt ställs också nya krav på ett genomtänkt och övergripande förhållningssätt från samhället. Digitaliseringen och AI-tillämpningar innebär stora möjligheter för samhället att skapa nya värden för individer, näringslivet, det civila samhället och offentlig sektor. AI-teknik har ett brett användningsområde och har en stor potential att förbättra och effektivisera ett antal sektorer. Dessutom har den stor potential att förbättra livskvaliteten för många människor, genom allt ifrån nöjestjänster till självkörande bilar och förbättringar i sjukvården. AI kan användas för att gagna samhället i stort och hantera gränsöverskridande utmaningar. Användningen av AI-system kan t.ex. spela en viktig roll för att uppnå målen i Agenda och bidra till den europeiska gröna given så väl som för att stärka välfärden. Artificiell intelligens är viktig för både tillväxt och välfärd. Ett utmärkande drag för AI är dess förmåga att lära sig och bli smartare . Framtidens AI kommer att vara ännu mer än den redan är och kommer att utnyttjas i fler sektorer och av fler användare. AI har potential att spela en betydande roll för framtida konkurrenskraft. Bilden av EU:s position är tudelad. investeringar i AI har halkat efter. Omkring 2,4–3,investerades privat i AI i , jämfört med omkring 12,1–18,i och 6,5–9,i . EU har emellertid stora möjligheter att dra nytta av stora volymer offentliga och industriella data vars potential underutnyttjas, starka forskningscentrum, många innovativa företag och en konkurrenskraftig tjänstesektor. Det gäller inte minst , som ligger i framkant med att utnyttja digitaliseringens möjligheter, vilket också konstateras i den nationella inriktningen för AI (N2018.14). Med rätt insatser har EU goda möjligheter att dra nytta av AI-tekniken, både som producent och som användare. ser utskottet att det finns risker förknippade med AI. Det kan handla om intrång i den personliga integriteten, brist på kontroller och översikt eller svåröverskådliga framtida konsekvenser som dagens regelverk inte är rustat för att bemöta. Det är utskottets uppfattning att dessa risker måste tas på allvar och beaktas i det framtida arbetet på AI-området. Sammantaget ser utskottet stor potential med AI vad gäller att utveckla både välfärden och konkurrenskraften, men även att AI medför risker och att det finns behov av nya och samlade insatser på området. Utskottet välkomnar därför kommissionens vitbok om artificiell intelligens och den viktiga diskussion som inleds om framtida förhållningssätt till AI. Kommissionen föreslår i vitboken att ett ekosystem av spetskompetens ska byggas upp för att stödja utvecklingen av AI inom EU. Utskottet instämmer med kommissionen i att det finns ett behov av att mobilisera resurser och se över vilka åtgärder som är nödvändiga för att EU ska kunna stärka sin kapacitet på AI-området. I det sammanhanget vill utskottet betona att det är av stor vikt att AI-forskning prioriteras på europeisk nivå. Det gäller stöd till både grundforskning och tillämpad forskning, såväl som riktade insatser för att främja spetskompetens. Utskottet vill här framhäva två saker: det är viktigt att säkerställa att hela kedjan från forskning till marknaden beaktas, t.ex. genom att samverkan mellan näringslivet och akademiska miljöer möjliggörs, men det är av stor betydelse att insatserna inte entydigt riktas mot att kommersialisera AI-tillämpningar. Resultaten av AI-forskning har även stor potential att tillämpas i offentlig sektor och stöd till forskning med samhällsnytta bör främjas. Vidare handlar AI för samhällets bästa inte enbart om teknik, utan det finns även ett behov av att stödja tvärsektoriell AI-forskning. Utskottet noterar att kommissionen i vitboken lyfter fram att den samordnade planen bör ses över framöver. Enligt utskottet vore det positivt med en sådan översyn, med hänsyn till vikten av att involvera medlemsstaterna och utbyta erfarenheter. Med det i åtanke välkomnar utskottet även att kommissionen föreslår initiativ inom ramen för programmet för ett digitalt och Horisont . Liksom trafikutskottet noterade i sitt yttrande till utbildningsutskottet (2019/20:TU6y) har kommissionen i meddelandet om en strategi för data angett att det inte finns tillräckligt med data tillgängliga för innovativt vidareutnyttjande. Tillgängliga data är av grundläggande betydelse. Utan data är det inte möjligt att utveckla AI-tillämpningar, och utskottet vill därför lyfta fram att det är viktigt att säkra arbetet för öppna och högkvalitativa data i både och EU. Framsteg inom databehandling i form av ökad beräkningskapacitet och lagringskapacitet är avgörande för forskning om och utveckling av AI-lösningar. Utskottet vill poängtera att det är viktigt att algoritmfrågan lyfts fram och noterar att kommissionen konstaterar att det finns ett behov av att bygga broar mellan ämnesområden där arbetet sker separat, t.ex. i fråga om maskininlärning och symboliska tillvägagångssätt där regler skapas genom mänskligt ingripande. För att fullt ut kunna utnyttja den potential som finns inom AI är det viktigt att beakta att det ställer krav på digital infrastruktur, både specifik datorinfrastruktur (t.ex. högpresterande datorer) och att infrastrukturen i allmänhet ska kunna hantera stora mängder data. Utskottet vill vidare lyfta fram de utmaningar som finns i fråga om kompetensbrister och understryka vikten av att säkerställa att det finns tillräckligt med kompetens för att potentialen med AI ska kunna utnyttjas fullt. Det handlar enligt utskottets uppfattning dels om att främja olika kompetenshöjande insatser, inte minst vidareutbildning, dels om att locka till sig och behålla världsledande forskare. Vad gäller det senare noterar utskottet kommissionens avsikt att bilda och stödja universitetsnätverk på AI-området. Åtgärder för att stärka spetskompetensen och locka till sig och behålla kompetenta forskare är enligt utskottets uppfattning en förutsättning för att kunna utveckla de bästa AI-system. Det underlättar dessutom för kompetensspridning runt om i och kan bidra till positiva synergieffekter. De kompetensåtgärder som behövs rör emellertid inte bara insatser för att stärka kompetensen för att utveckla AI. Det är även av stor vikt att fler ges möjlighet att lära sig utnyttja AI i både offentlig och privat sektor, vilket är en nödvändig komponent för att kunna dra full nytta av AI-tillämpningar. Därför behöver många olika yrkeskategorier i olika sektorer kunskap om AI. Universitet och högskolor bör uppmuntras att utöka sitt utbildningsutbud på . Vidare ställer den allt mer digitaliserade samhällsekonomin nya krav på möjligheter till fort- och vidareutbildning av redan yrkesverksamma. Utskottet kan konstatera att i takt med att utvecklingen går framåt så kommer nya arbetstillfällen att skapas som andra arbeten kan komma att förändras. Med det i åtanke är det av stor vikt att behovet av livslångt lärande och möjligheterna till omställning under arbetslivet utgör en integrerad del av EU:s förhållningssätt till AI. Det bör beaktas i olika former av vuxenutbildning vad gäller både utbud och innehåll. Det är utskottets uppfattning att det i sammanhanget är viktigt att även nyttja andra utbildningsaktörer än universitet och högskolor. Det är viktigt att dra nytta av all kunskap, även utanför universitets- och högskolevärlden. Det är med ovanstående i åtanke välkommet att kommissionen noterar att den europeiska strategin för AI måste stödjas av en stark inriktning på att åtgärda kompetensbrister.