sou · H7B359d7 · 2019-12-12 00:00:00 — Andra forskningsartiklar diskuterar hur medborgare i det digitala samhället förväntas utföra uppgifter som tidigare legat på offentliganställda och att medborgare görs ansvariga för uppgifter och risker som tidigare hanterats av kollektiva strukturer.27 Därmed krävs också att offentliga institutioner hjälper privatpersoner att bli aktiva och ta eget ansvar för sin situation gentemot det offentliga. Inte heller i dessa studier finns dock perspektivet korrekthet tydligt representerat. Inom AI-forskning finns mycket publicerat kring bedrägeri och kontroll med hjälp av AI, framförallt inom bank och finans, där ett stort fokus varit kreditkortsbedrägerier.28 Inom detta fält lyser dock studier som berör offentlig sektor till stor del med sin frånvaro. En litteraturstudie indikerar att endast 59 av 1 682 studier om AI avser tillämpningar i offentlig sektor.29 En anledning till detta kan vara att antalet tillämpningar inom offentlig sektor alltjämt är begränsat, en annan att det inte väckt så mycket intresse i forskarvärlden. , en av främsta AI-forskare, tillika medlem i högnivåexpertgrupp om AI, menar dock att svensk forskning och utveckling inom AI borde nischas till 26 Uppström, E., & , C. (2017): Explaining value co-creation and co-destruction in e-government using boundary object theory. Government Information Quarterly, 34(3), 406-420. 27Se exempelvis , J., & Hjelholt, M. (2018): Digital citizenship and neoliberalization: governing digital citizens in . Citizenship Studies, 22(5), 507-522. 28Se exempelvis forskningssammanställningen av West, J., & Bhattacharya, M. (2016): Intelligent financial fraud detection: A comprehensive review. Computers and Security. 29Heintz, F. m.fl. (2019), How and where is artificial intelligence in the public sector going? A literature review and research agenda, Government Information Quarterly. Styrning, forskning och etiska riktlinjer på området offentlig sektor eftersom det där finns goda förutsättningar och stor potentiell nytta.30 Att ta fram etiska riktlinjer är ett pågående arbete på flera nivåer och det pågår många diskussioner och ett flertal initiativ kring etik framförallt kopplat till artificiell intelligens. Exempelvis släppte EU- kommissionens högnivåexpertgrupp om AI en rapport med etiska riktlinjer för tillförlitlig AI . Rapporten innehåller sju krav som alla AI-system ska uppfylla och berör såväl tekniska som samhälleliga aspekter. Vidare menar expertgruppen att etisk AI har tre övergripande komponenter som måste uppfyllas. 1.Den ska vara laglig, och i linje med applicerbara lagar och regler. 2.Den ska vara etisk, vilket innebär säkerställande av efterlevnad av etiska principer och värden. 3.Den ska vara robust, både från ett tekniskt och ett socialt perspektiv eftersom AI oavsiktligt kan orsaka skada även om intentionerna med systemet är goda.31 och har tagit fram egna etiska riktlinjer för AI.32 Framförallt de amerikanska riktlinjerna har fått kritik för att vara alltför påverkade av näringslivet medan offentlig sektor och privata medborgare haft ett mindre inflytande.33 Det finns också ett antal organisationer som arbetar med etik och AI. Ett exempel är , Media and Democracy (EISMD) som presenterat ett ramverk för etisk AI vid namn AI4People.34 30von , C. (2018): Här är nischerna där kan visa framfötterna. Artikel i , . Lyssna även på intervjun i podcasten Heja Framtiden, Den positiva kraften i AI, . 31Europeiska kommissionen (2019): Etiska riktlinjer för tillförlitlig AI. Europeiska kommissionens expertgrupp på hög nivå för AI-frågor. 32Se exempelvis , , et al. (2018): Artificial intelligence and the ‘good society’: the US, EU, and UK approach. Science and ethics 24.2: 505-528. 33Cath, , et al. (2018): Artificial intelligence and the ‘good society’: the US, EU, and UK approach. Science and ethics 24.2: 505-528. 34Atomium-European Institute for Science, Media and Democracy, EISMD (2018): Ethical Framework for “”. Styrning, forskning och etiska riktlinjer på området I regeringens nationella inriktning för artificiell intelligens omnämns etiska risker inom applikationer i offentlig sektor och det framhålls att användningen av AI-algoritmer måste vara transparent och förståelig. Rapporten ger dock inte närmare vägledning i frågor om AI och etik men pekar på behovet av nationella och internationella etiska riktlinjer. Regeringens bedömning är att ”behöver utveckla regler, standarder, normer och etiska principer i syfte att vägleda etisk och hållbar AI och användning av AI.” I rapporten framhålls också att har möjlighet att ta en ledarroll inom etisk, säker och hållbar användning av AI genom att aktivt arbeta med frågan nationellt och driva den internationellt.35 Inriktningen pekar också på vikten av samarbeten, främst inom EU, varför det arbete som görs inom EU:s ramar kan anses ha bäring på vilka riktlinjer kommer behöva förhålla sig till. Att rapporten tydligt uppmanar offentlig sektor i att driva innovationsprojekt inom AI är också något som har bäring på korrekta utbetalningar, eftersom det kan ses som en uppmaning till de utbetalande myndigheterna att våga starta innovativa projekt där AI är en komponent och då pröva och utmana de etiska och lagliga hinder som kan finnas. Sammanfattningsvis kan vi konstatera att perspektivet korrekta utbetalningar saknas i regeringens strategidokument för digitalisering som vi har gått igenom. Inte heller i den forskning om e-förvaltning som vi har tittat på finns detta perspektiv med. Regeringsuppdragen om informationsutbyte och grunddata berör några av de grundläggande förutsättningarna för korrekta utbetalningar, men i uppdragsbeskrivningarna omnämns inte detta perspektiv. Vi har också sett att de etiska riktlinjer som finns på området förefaller vara relativt övergripande. 35Regeringskansliet, (2018): Nationell inriktning för artificiell intelligens, s. 8-10. Informationsmaterial, N2018.14. 4Myndigheternas arbete med digitalisering och AI av betydelse för korrekta utbetalningar 4.1Synen på digitalisering i relation till korrekta utbetalningar I detta avsnitt beskrivs de deltagande myndigheternas generella bild av digitalisering i relation till korrekta utbetalningar. För att skapa en bild av detta har frågan Vilka av myndighetens arbetssätt och verktyg, kopplat till digitalisering och AI, har betydelse/kan ha betydelse för om utbetalningarna från välfärdssystemet blir korrekta eller inte ställts som första fråga på varje intervju. Tanken var att ge respondenterna möjlighet att tänka fritt kring hur digitaliseringen påverkar korrekta utbetalningar. Samtliga respondenter anser spontant att digitalisering generellt har stor betydelse för korrekta utbetalningar, framförallt i positiv bemärkelse. Digitaliseringen anses på en generell nivå ge upphov till högre grad av korrekta utbetalningar och större möjligheter att upptäcka felaktiga utbetalningar. Många av respondenterna har uppgett att de ser korrekta utbetalningar som en del av kärnverksamheten, och det uttrycks exempelvis i termer av att ”det som hela vår verksamhet syftar till”. Det har förts generella resonemang som handlar om betydelsen av digitaliserade processer för att generellt öka andelen korrekta beslut. Uppföljning och kontroll bedöms förenklas i jämförelse med processer. Vidare ser man automatiserade processer som Myndigheternas arbete med digitalisering och AI av betydelse för korrekta utbetalningar en effektivitetsfaktor och respondenter på flera myndigheter resonerar i termer av att automatiserade flöden frigör tid för myndighetshandläggare att ägna sig åt andra ärenden som kräver utredning och bedömning, vilket därigenom bidrar till mer korrekta beslut. Digitaliseringen har också gjort det möjligt att koncentrera handläggningen av olika ärendeslag och därmed ökad specialisering. I intervjuerna omnämns ett antal övergripande digitala lösningar och tjänster som anses ha betydelse för korrekta utbetalningar, såsom handläggarsystem och självbetjäningstjänster. Digitalisering i form av självbetjäningstjänster och digitala handläggningsprocesser anses göra det enklare att kontrollera och därmed hitta felaktigheter i olika delar av processen. Digitaliseringen anses också medge ett mer systematiskt arbete kring kontroll. Om dessa förbättringar också realiseras när myndigheterna digitaliserar är dock oklart, enligt flera respondenter. Respondenter på flera myndigheter lyfter fram att de anser att felen minskar och att rättssäkerheten stärks med hjälp av digitalisering. Exempel på kommentarer med denna innebörd är: •”Automationen minskar fel eftersom handläggare riskerar att bedöma fel” •”Självbetjäningstjänster med automation bidrar till att eliminera fel” •”En kombination av digitalisering och AI kan göra så att de felen försvinner” •”Vi digitaliserar för effektivisering, skalbarhet och rättssäkerhet” •”Digitaliseringen är ett stöd i att göra utbetalningarna korrekta” Respondenter på uttrycker att digitaliseringen öppnat för mer systematiska, storskaliga och organiserade bedrägerier. Ett exempel kan vara att ett större antal identiteter utnyttjas, med eller utan deras kännedom, till digitala ansökningar om ersättningar från välfärdssystemen. Rent juridiskt har ansvaret för korrekta uppgifter alltid legat på den sökande när denne lämnar uppgifter under formuleringen ”på Rapport 5 Myndigheternas arbete med digitalisering och AI av betydelse för korrekta utbetalningar heder och samvete”. Några respondenter lyfter också fram att den sökandes roll och ansvar för att lämnade uppgifter är korrekta har förstärkts i och med utbyggnaden av självbetjäningstjänster och automatisering. Här hänvisar man till att myndighetens delaktighet ofta är större i en process. I dessa processer kan uppgiftslämnandet ske i dialog med en handläggare, innebära att handläggaren knappar in uppgifterna från en ansökan eller åtminstone går igenom de inskannade uppgifterna innan beslut. Därmed ökar sannolikheten att upptäcka eventuella avvikelser och oklarheter innan beslut fattas. Utifrån detta perspektiv kan åtminstone det upplevda ansvaret för att lämnade uppgifter är korrekta i högre grad anses vara delat i en process. Inspektionen för socialförsäkringen har också i en arbetsrapport lyft fram att en automatisering i de flesta fall innebär en förskjutning av ansvaret för att nödvändiga uppgifter hanteras på ett korrekt sätt från myndigheten till den sökande.36 Myndigheterna förlitar sig i stor utsträckning på att korrekta uppgifter inkommer via exempelvis självbetjäningstjänster. Detta är något som flera av respondenterna på myndigheterna uppger vara en faktor som påverkar korrekta utbetalningar. Det sker en del, relativt rudimentära, kontroller av de uppgifter som inkommer via självbetjäningstjänster. Flera respondenter menar att kontroll av dessa är något som behövs i högre utsträckning. Respondenter lyfter också fram att såväl registerdata som finns hos den egna myndigheten och uppgifter från andra myndigheter kan vara av varierande kvalitet. Här anges särskilt uppgifterna i folkbokföringsregistret eftersom felaktigheter i dessa uppgifter kan leda till felaktiga utbetalningar hos utbetalande myndigheter. Andra nämner också att det är en utmaning att kontrollera uppgifterna eftersom det kräver rättsliga förutsättningar, tid och kompetens. Från intervjuerna framkommer att ansvaret för korrekta utbetalningar är otydligt på de berörda myndigheterna. Detta gäller särskilt skärningspunkten mellan korrekta utbetalningar och digitalisering. Även rapporten av arbetet med att motverka 36ISF arbetsrapport 2015:3 Individuell eller standardiserad socialförsäkring, s. 20. Myndigheternas arbete med digitalisering och AI av betydelse för korrekta utbetalningar felaktiga utbetalningar från välfärdssystemen – En kartläggning (Rapport 3) pekar på att ansvaret för felaktiga utbetalningar är splittrat på myndigheterna.37 Även om vi bedömer att vi hög grad fått möjlighet att intervjua de mest lämpade personerna på de berörda myndigheterna, så har relativt många intervjupersoner spontant sagt att detta inte är deras direkta ansvarsområde. Flera respondenter ger uttryck för att perspektivet korrekta utbetalningar väger relativt lätt i diskussioner om utveckling och utformning av nya digitala lösningar och tjänster. Vid flera intervjuer har respondenterna också givit uttryck för att myndigheten prioriterar service och enkelhet när man utformar självbetjäningstjänster, och att perspektivet ”korrekthet” hamnar längre ner i den typen av prioriteringar. I intervjuerna framkommer också att mål och riktad finansiering för att öka graden korrekta utbetalningar i digitaliseringsinitiativ är ovanliga. Någon respondent bedömer dock att perspektivet korrekta utbetalningar har fått en ökad prioritet de senaste ungefär två åren på den myndighet där denne arbetar och en annan respondent att perspektivet om ”korrekthet” inte är så lågt prioriterat i självbetjäningstjänster. Viss utveckling som genomförts i huvudsak för att säkerställa korrekta utbetalningar har lyfts fram i intervjuerna. Det handlar i första hand om utveckling av informationsutbyten och system för riskbaserade kontroller. I vissa specifika insatser, såsom digitaliseringsprojekt inom assistansersättning, har också mål om minskade felaktiga utbetalningar varit centrala. 4.1.4Regelverken och dess tolkning I intervjuerna framgår tydligt att juridiska frågeställningar har stor betydelse i de deltagande myndigheternas digitaliseringsarbete. Flera respondenter lyfter fram att man upplever att de rättsliga tolkningarna skiljer sig åt mellan myndigheterna och att tolkningarna anses vara för restriktiva på flera myndigheter. Detta anses hindra eller hämma utvecklingen inom digitalisering och AI på myndigheterna, exempelvis vad gäller automatisering av beslut och användning av riskprofilering. Flera respondenter vid myndig- 37Delegationen för korrekta utbetalningar från välfärdssystemen (2019): Styrning av arbetet med att motverka felaktiga utbetalningar från välfärdssystemen – En kartläggning (Rapport 3), s. Rapport 5 Myndigheternas arbete med digitalisering och AI av betydelse för korrekta utbetalningar heterna ser därför ett behov av samsyn och övergripande rättspraxis inom hela den offentliga sektorn, åtminstone bland utbetalande myndigheter, särskilt när det gäller hur Dataskyddsförordningen (GDPR) ska tolkas. Respondenter från alla myndigheterna lyfter fram att de anser att det behövs en generell översyn av de registerförfattningar som styr möjligheterna att behandla uppgifter och att utbyta information mellan myndigheterna. I remissvaren till betänkande pekar också , och på betydelsen av en översyn av registerlagstiftning och sekretessreglering för nå den fulla potentialen med förvaltningens digitalisering.38 Inspektionen för socialförsäkringen (ISF) gjorde i rapporten som urvalsmetod för riktade kontroller bedömningen att det är mycket tveksamt om regleringen av möjligheter att behandla personuppgifter är tillräckligt tydlig i sin nuvarande utformning. I sitt arbete att motverka felaktiga utbetalningar genom utveckling och införande av riskbaserade kontroller genom dataanalyser, behöver myndigheten ett tydligt stöd i ändamålet för behandlingen och en tydlighet om vilken data som får bearbetas för ändamålet.39 Inom arbetsmarknadsområdet har sett behov av att tydliggöra att personuppgifter får behandlas för kontrolländamål. I en departementsskrivelse (Ds 2019:13) föreslås att Arbetsförmedlingen ska få behandla personuppgifter inom den arbetsmarknadspolitiska verksamheten om det är nödvändigt för kontrollen av stöd till arbetsgivare och individer som tar del av insatser inom den arbetsmarknadspolitiska verksamheten.40 Utredningen om samordning av statliga utbetalningar från välfärdssystemen (Fi 2018:05) pekar i sin statusrapport på att personuppgifter enligt flera registerlagar får användas i ärendehandläggningen. Men även om kontroll av utbetald ersättning får sägas ingå i handläggningen, är det inte tydligt definierat vad som avses med kontroll. Utredningen menar därför att detta kan leda till 38Remissvar på betänkande Juridik som stöd för förvaltningens digitalisering (SOU 2018:25): , Remissyttrande, dnr 009188- 2018. , Remissvar, dnr 2018-110-4262. , Remissvar, dnr 202-223563-18/112. 39Inspektionen för socialförsäkringen (2018): Profilering som urvalsmetod för riktade kontroller. 40Ds 2019:13: Etableringsjobb. , avsnitt 8.4. Myndigheternas arbete med digitalisering och AI av betydelse för korrekta utbetalningar omedvetna skillnader mellan olika myndigheter i möjligheterna till kontroll. Utredningen pekar också på att de sekretessbrytande regler som finns på området ofta gäller namngivna personer. Detta innebär att dessa regler inte är tillämpliga för utbyte data om en större mängd personer. Myndigheterna har därför inte möjlighet att på dessa grunder göra dataanalyser till grund för riskbaserade kontroller.41 I vår kartläggning har det också framkommit att flera respondenter uppfattar att förmånsregelverken är föråldrade och utformade för handläggning och därför kan vara ett hinder för digitalisering och automatisering. Respondenter från CSN pekar på att myndigheten under vissa omständigheter begränsas att lämna ut uppgifter elektroniskt och istället behöver skriva ut och skicka uppgifterna på papper. Man lyfter också fram att data som skulle kunna vara värdefulla som grund för riskbaserade kontroller, har behövt gallras. Respondenter från pekar på att de enskilda som får utbetalningar från myndigheten är asylsökande som saknar personnummer och därmed också e-legitimationer, vilket begränsar myndighetens möjligheter till säkra digitala tjänster till denna grupp. I ISF arbetsrapport 2015:3 Individuell eller standardiserad socialförsäkring diskuteras regelverkets konstruktion som en förutsättning för automatiserad handläggning. Man lyfter fram att det är graden av precisering i lagar och förordningar som på förvaltningsmässiga grunder avgör i vilken grad det går att automatisera en viss förmån. Arbetsskadeförsäkringen och sjukpenning är exempel på ersättningssystem där regelutformning bedöms vagt och oprecist utformad och som kännetecknas av stora inslag av bedömning. Inspektionen för socialförsäkringen pekar i en arbetsrapport på att det kan finnas möjligheter till ökad förutsägbarhet och automatisering om regelverken anpassas genom standardisering.42 I betänkande lyfts det fram flera exempel på där formkrav för informationshantering vid kommunikation och ärendehandläggning kan hindra möjligheterna att fullt ut tillvarata digitaliseringens möjligheter. Ett exempel är att 41 Statusrapport från utredningen om samordning av statliga utbetalningar från välfärdssystemen (Fi 2018:05), Färre felaktiga utbetalningar från de statliga välfärdssystemen med ökad samordning av betalningar och kontroller, , s. 33. 42ISF arbetsrapport 2015:3 Individuell eller standardiserad socialförsäkring. Rapport 5 Myndigheternas arbete med digitalisering och AI av betydelse för korrekta utbetalningar begäran om en viss komplettering av en årsredovisning måste skickas till en registrerad postadress, enligt årsredovisningslagen. För att ska kunna digitalisera processen krävs därför en lagändring.43 Respondenter från bedömer att myndigheten inte kan ta emot digitala ansökningar, eftersom den som vill få exempelvis dagersättning ska göra en skriftlig ansökan, enligt gällande förordning.44 Flera respondenter lyfter frågor av etisk karaktär för att kunna förhålla sig till de olika möjligheter som tekniken ger, exempelvis inom området riskprofilering. I likhet med de juridiska frågeställningarna ser flera respondenter ett behov av övergripande samhälleliga förhållningssätt till etik kopplat till exempelvis användningen av AI. anses också specifika riktlinjer som är direkt applicerbara för de utbetalande myndigheterna vara nödvändiga. Dessa anser man ska komma från en överordnad aktör och inte från myndigheterna själva. Det utrycks en försiktighet i att agera och utveckla nya tjänster och automatisera med hjälp av AI när det inte finns några tydligare etiska ramverk utformade med myndigheternas verksamheter i åtanke. Specifika områden som lyfts i kartläggningen är transparens, bias och likabehandling. 4.2Digitalisering och AI som har påverkan på korrekta utbetalningar Ingen av respondenterna från de deltagande myndigheterna är specifik i sina beskrivningar av den direkta kopplingen mellan korrekta utbetalningar och digitalisering, utan ger mer översiktliga beskrivningar. Dock har ett antal generella digitala lösningar och tjänster som anses ha påverkan på korrekta utbetalningar tagits upp av respondenterna. Dessa redovisas i detta avsnitt. 43 SOU 2018:25: Juridik som stöd för förvaltningens digitalisering, s. 44Se 8 § förordning (1994:361) om mottagande av asylsökande m.fl. Myndigheternas arbete med digitalisering och AI av betydelse för korrekta utbetalningar Graden av automatisering och självbetjäning varierar mellan myndigheterna och mellan verksamheter inom samma myndighet. Flera av myndigheterna har automatiserade processer i delar av sin verksamhet, vilket inkluderar automatiserade bifallsbeslut. Ingen av myndigheterna har automatiserat det som benämns bedömningstunga moment. Ett undantag kan dock vara Arbetsförmedlingens automatiserade granskning av de arbetssökandes aktivitetsrapporter, vilken innefattar ett relativt stort bedömningsutrymme. Enligt kartläggningen är det med något undantag en tydlig profil på de ersättningssystem som har automatiserats. Det är volymtunga ersättningssystem som har tydliga kriterier för rätten till ersättning, där det också finns god tillgång till strukturerade data. Maskinellt prövas då om de aktuella villkoren för rätt till ersättning är uppfyllda. Vissa rimlighetskontroller är införda i syfte att uppmärksamma felaktiga uppgifter, men i huvudsak prövas villkoren utifrån de lämnade uppgifterna. I några av automatiserade processer har prediktiva modeller som bygger på dataanalyser integrerats. Då ”flaggas” ärenden för kontroll av lämnade uppgifter, där risken är förhöjd för att dessa är felaktiga. Respondenter vid uppger att man har automatiserat handläggningen av flera ersättningssystem där lagstiftningen ger tydliga kriterier för ansökningar som ger rätt till ersättning och ersättningens storlek. I dessa ersättningssystem används ofta också självbetjäningstjänster, exempelvis inom föräldraförmåner. Inom myndigheten utforskas också möjligheten att ytterligare använda digitalisering och automatisering i bedömningstunga ersättningssystem. Då handlar det om att automatisera delar av processerna och ge beslutsstöd till själva bedömningen, som fortsatt görs av handläggare. Respondenter vid Arbetsförmedlingen anger att myndigheten i stora delar har hantering, men att man har utvecklat självbetjäningstjänster samt automatiserat delar av arbetsgivarkontrollen och kontrollen av de arbetssökandes aktivitetsrapporter. CSN har i hög grad helt automatiserade flöden och även automatiserade bifallsbeslut i de delar av sin verksamhet som rör studiestöd till elever på svenska högskolor, universitet och gymnasieskolor. Även CSN använder sig i hög grad av webbaserade Rapport 5 Myndigheternas arbete med digitalisering och AI av betydelse för korrekta utbetalningar Myndigheten använder sig också av automatiserad inhämtning av uppgifter om exempelvis registrering och studieresultat från svenska högskolor och universitet (via it-systemet Ladok), folkbokförings- och inkomstuppgifter från och möjligheter finns även att hämta digital information från vissa skolor. I hög utsträckning används denna information för att göra efterkontroller men en viss grad av automatiserad inläsning av information finns också i självbetjäningstjänsterna när den studerande ska ansöka om ersättning. Det förs diskussioner inom flera myndigheter om att i högre grad automatisera fler typer av beslut.