prop · H80388 · 2021-03-05 00:00:00 — I granskningen fokuserar vi på tre myndigheter som har haft automatiserat beslutsfattande och i flera beslutsprocesser. Dessa myndigheter är , och Transportstyrelsen. De tre myndigheterna utgör granskningsobjekt tillsammans med regeringen, och Myndigheten för digital förvaltning. För att granska hur myndigheterna arbetar med automatiserat beslutsfattande har vivalt ut en automatiserad beslutsprocess på respektive myndighet: föräldrapenning vid , årlig inkomstbeskattning av privatpersoner vid och körkortstillstånd vid Transportstyrelsen. För mer information om urvalsgrunder, se avsnittet Metod och genomförande (1.4). Vad vi menar med effektivitet, ändamålsenliga strukturer för att säkerställa korrekta beslut och grundläggande rättssäkerhetsaspekter förklaras i avsnittet Bedömningsgrunder (1.3). 8R I K S R E V I S I O N E N E N G R A N S K N I N G S R A P P O R T F R Å N R I K S R E V I S I O N E N Granskningen omfattar statliga myndigheters automatiserade beslutsprocesser som riktar sig mot privatpersoner. Automatiserat beslutsstöd och automatiserade processer som inte resulterar i beslut mot privatpersoner inkluderas inte Vid automatiserat beslutsstöd tas underlagen för beslut fram automatiserat, men en handläggare fattar beslutet. Automatiserade processer som inte resulterar i ett beslut mot privatpersoner avser exempelvis ekonomiadministrativa processer såsom automatiserade inköpsprocesser. Granskningen omfattar inte myndigheternas arbete med informations- eller IT- säkerhet i de automatiserade beslutsprocesserna. Granskningen omfattar inte heller det rättsliga stödet för myndigheter att fatta automatiserade beslut. De övergripande bedömningsgrunderna är budgetlagens (2011:203) bestämmelser om att det i statens verksamhet ska eftersträvas hög effektivitet och iakttas god hushållning,10 samt förvaltningslagens (2017:900) bestämmelser om att ärenden ska handläggas så enkelt, snabbt och kostnadseffektivt som möjligt utan att rättssäkerheten eftersätts.11 Att uppnå effektivitet är därmed underordnat kravet på rättssäkerhet. Strukturer för att säkerställa korrekta beslut är en förutsättning för att beslutsfattande både kan anses vara effektivt och rättssäkert. Vi utvecklar och operationaliserar bedömningsgrunderna nedan, utifrån respektive revisionsfråga. 1.3.1 Effektivisering till följd av automatiserat beslutsfattande Statlig verksamhet bör eftersträva hög effektivitet och god hushållning.12 Ärenden ska handläggas snabbt och kostnadseffektivt med bibehållen rättssäkerhet.13 Enligt myndighetsförordningen har varje myndighetsledning ett ansvar för att verksamheten bedrivs effektivt och att myndigheten hushållar väl med Riksdag och regering styr förvaltningen mot ökad effektivitet, också inom digitaliseringsområdet.15 Att digitalisera och automatisera handläggning och beslut kan vara ett sätt för en myndighet att öka verksamhetens effektivitet. 101 kap. 3 § budgetlagen (2011:203). 119 § förvaltningslagen (2017:900). 121 kap. 3 § budgetlagen (2011:203). 139 § förvaltningslagen (2017:900). 143 § myndighetsförordningen (2007:515). 2019/20:1, UO2, bet. 2019/20:FiU2, rskr. 2019/20:129, rskr. 2019/20:130, s. 91, 95. R I K S R E V I S I O N E N A U T O M A T I S E R A T B E S L U T S F A T T A N D E I S T A T S F Ö R V A L T N I N G E N Effektivitet i en process kan delas upp i yttre och inre effektivitet. Den yttre effektiviteten utgörs av resultatet av organisationens verksamhet och mäts exempelvis i måluppfyllelse eller kundnöjdhet. Den inre effektiviteten avser effekter inom organisationen, till exempel kostnadsbesparingar och effektivare arbetssätt. Det är ofta svårt att värdera om en verksamhet är effektiv eller inte, effektivisering behöver därför som regel mätas som en förändring över tid.16 Automatisering av en process bedöms i denna granskning vara effektiv om den medfört att handläggningstiden har minskat utan att kostnaderna ökat, alternativt att kostnaderna har minskat utan att handläggningstiden ökat. För att ta hänsyn till förändringar i antal ärenden i de automatiserade processerna kommer kostnad per beslut följas . För att myndigheten ska kunna följa upp om utvecklingen av automatiserat beslutsfattande har varit effektiv bör en nulägesanalys och en beräkning av så kallad nyttohemtagning ha gjorts innan utvecklingsarbetet påbörjades. Nyttohemtagningskalkylen består ofta av beräkningar av när utvecklingskostnaderna bör ha hämtats hem av de besparingar som automatiseringen förväntas medföra, liksom andra nyttor som ska uppnås till följd av automatiseringen. De nyttor som följs upp bör spegla det som myndigheten strävar efter att uppnå med automatiseringen, exempelvis kortare handläggningstider, färre handläggare eller andelen helt automatiserade beslut.17 Myndigheten bör även ha följt upp utfallet mot dessa kalkyler och målsättningar.18 De kriterier vi använder för att utvärdera om automatiserat beslutsfattande har medfört en ökad effektivitet är att: •automatiseringen har medfört att tiden från inlämnat ärende till beslut har blivit kortare •automatiseringen har inte medfört ökade förvaltningskostnader •myndigheten har gjort en nyttokalkyl och följt upp utfallet efter genomförd automatisering. 1.3.2 Ändamålsenliga strukturer för att säkerställa korrekta beslut En av de största riskerna med automatiserat beslutsfattande är att fel i systemets uppbyggnad kan generera stora mängder felaktiga beslut. Det är därför viktigt att myndigheterna har ändamålsenliga strukturer för att säkerställa korrekta beslut. 16Ekonomistyrningsverket, Stöd för effektivisering, 2019. 17E-delegationen, Vägledning i Nyttorealisering version 2.0. 18Ekonomistyrningsverket, Stöd för effektivisering, 2019. 10 R I K S R E V I S I O N E N E N G R A N S K N I N G S R A P P O R T F R Å N R I K S R E V I S I O N E N Automatiserat beslutsfattande19 i offentlig sektor är inte utan utmaningar. Forskning har visat att några av utmaningarna är att säkerställa hög kvalitet på information och IT-system samt otydlighet i vem som ansvarar för automatiserade beslut.20 Utredningar gällande myndigheters automatiserade beslutsfattande har visat att ansvarsfördelning, uppföljning och riskanalyser brister i myndigheternas arbete med att säkerställa korrekta beslut.21 Myndigheternas arbete med att säkerställa korrekta beslut kan delas in i två delar: insatser fram till dess att beslut har fattats och uppföljning av fattade beslut. Myndigheternas arbete med att säkerställa korrekta beslut fram till dess att beslut har fattats, innebär till exempel att myndigheterna behöver ha en tydlig intern ansvarsfördelning för de automatiserade beslutsprocesserna, tydliga rutiner för att identifiera och analysera risker, tydliga rutiner för att hantera de identifierade riskerna samt att det bedrivs ett systematiskt arbete för att säkerställa hög kvalitet på informationen i IT-systemen. Det uppföljande arbetet innebär att myndigheterna bör bedriva ett systematiskt uppföljande arbete som syftar till att kontrollera att de beslut som fattas i automatiserade beslutsprocesser dels är korrekta, dels håller en hög kvalitet. Vi bedömer att myndigheterna har ändamålsenliga strukturer för att säkerställa korrekta beslut om: •det finns en tydlig intern ansvarsfördelning för de automatiserade beslutsprocesserna •det bedrivs ett systematiskt arbete för att säkerställa hög kvalitet på informationen i IT-systemen •det utförs riskanalyser av de automatiserade beslutsprocesserna och risker hanteras •det bedrivs ett systematiskt arbete med att följa upp det automatiserade beslutsfattandet i syfte att säkerställa att beslut som fattas automatiserat varit korrekta och hållit en hög kvalitet. 19Wirtz et al. (2018) använder begreppet artificiell intelligens (AI). Denna definition av AI är bred och inkluderar även automatiserat beslutsfattande; teknik som är programmerad av människor och som inte är självlärande (s.k. Artificial Narrow Intelligence), se s. 599. 20Wirtz et al., Artificial intelligence and the public sector – Applications and challenges, s. 601–603, 2018. 21Delegationen för korrekta utbetalningar från välfärdssystemen, Styrning av arbetet med att motverka felaktiga utbetalningar från välfärdssystemen – En kartläggning. Rapport 3, 2019. R I K S R E V I S I O N E N A U T O M A T I S E R A T B E S L U T S F A T T A N D E I S T A T S F Ö R V A L T N I N G E N 1.3.3 Grundläggande rättssäkerhetsaspekter i automatiserade beslut Begreppet rättssäkerhet har inte en klar och entydig innebörd och inte heller en allmängiltig definition. Utgångspunkten för rättssäkerhetsbegreppet är att skydda enskilda mot oberättigade anspråk och krav från myndigheter. Några grundläggande aspekter av rättssäkerhet anses vara att privatpersoner ska kunna förutse de rättsliga följderna av sitt handlande och att lika fall ska bedömas på lika sätt.22 Automatiserat beslutsfattande leder sannolikt till att ärenden i högre utsträckning behandlas mer lika och förutsebart.23 Men för att automatiserat beslutsfattande ska vara förutsebart är det viktigt att myndigheterna säkerställer att det automatiserade beslutsfattandet sker utifrån det regelverk som styr ärendetypen och att det inte finns utrymme för osäkerhet i hur beslutet har fattats. För att uppnå likabehandling är det viktigt att de automatiserade beslutsprocesserna är uppbyggda så att lika ärenden inte hanteras på olika sätt, både i den automatiserade och hanteringen. Brister i likabehandlingen kan exempelvis uppstå i kontrollarbetet, bland annat genom att använda urvalsmetoder som särskiljer ärenden baserat på individens egenskaper (så kallad profilering24) utan att informera om hur detta påverkar beslutsfattandet.25 För att privatpersoner ska kunna förstå hur automatiserade beslut är fattade är det också viktigt att det finns tydlig dokumentation över hur den automatiserade handläggningen har gått till i respektive ärende. Vi har operationaliserat bedömningskriterier för att beslut som fattats automatiserat ska uppfylla grundläggande rättssäkerhetsaspekter: •det automatiserade beslutssystemet bedömer lika fall på lika sätt •beslut som fattas automatiserat är förutsebara •automatiserade beslut dokumenteras lika väl som manuellt fattade beslut. 22SOU 2014:76, s. 89–91; Prop. 2009/10:175, bet. 2009/10:FiU38, rskr.2009/10:315, s. 29. 23Svensson, "Tekniken är den enkla biten": Om att implementera digital automatisering i handläggningen av försörjningsstöd, s. 47, 2019. 24Profilering innebär varje form av automatisk behandling av personuppgifter när uppgifterna används för att bedöma vissa personliga egenskaper, i synnerhet för att analysera eller förutsäga personens arbetsprestationer, ekonomiska situation, hälsa, personliga preferenser, intressen, pålitlighet, beteende, vistelseort eller förflyttningar (artikel 4 i och rådets förordning [EU] 2016/679 av om skydd för fysiska personer med avseende på behandling av personuppgifter och om det fria flödet av sådana uppgifter och om upphävande av direktiv /46/EG [allmän dataskyddsförordning]). 25Artikel 14 i och rådets förordning (EU) 2016/679 av om skydd för fysiska personer med avseende på behandling av personuppgifter och om det fria flödet av sådana uppgifter och om upphävande av direktiv /46/EG (allmän dataskyddsförordning). 12 R I K S R E V I S I O N E N E N G R A N S K N I N G S R A P P O R T F R Å N R I K S R E V I S I O N E N Granskningen har utförts med två huvudsakliga metodansatser: fallstudier och enkät. Fallstudierna syftar till att svara på granskningsfrågorna genom att undersöka tre myndigheters arbete med automatiserat beslutsfattande, med utgångspunkt i en ärendetyp per myndighet. Enkäten syftar dels till att kartlägga omfattningen av myndigheternas automatiserade beslutsfattande, dels till att ge en bild av om iakttagelser från fallstudierna återfinns hos andra myndigheter. Enkäten kartlägger det automatiserade beslutsfattandet gentemot privatpersoner och företag, medan fallstudierna är inriktade på automatiserat beslutsfattande gentemot privatpersoner. 1.4.1Kartläggning för att identifiera myndigheter med automatiserat beslutsfattande Vi gjorde initialt en kartläggning för att identifiera vilka myndigheter som har infört automatiserat beslutsfattande gentemot privatpersoner och företag eftersom det inte finns sammanställningar eller annan information om detta. Utifrån register över förvaltningsmyndigheter gjordes en undersökning för omkring 70 myndigheter som vi bedömde att det fanns en möjlighet att de hade automatiserat beslutsfattande baserat på att de har mer omfattande antal ärenden gentemot privatpersoner och företag. Undersökningen bestod huvudsakligen av att granska årsredovisningar, webbplatser Utifrån detta identifierades 20 myndigheter som tillfrågades om de har automatiserat beslutsfattande i drift gentemot privatpersoner och företag , vilket 14 myndigheter uppgav sig ha.26 Det kan finnas myndigheter utöver dessa som vi inte har identifierat med den valda kartläggningsmetoden.27 26Arbetsförmedlingen, , , , , , , , , , , , , Universitets- och högskolerådet. 27Till exempel har Statens servicecenter en intern automatiserad beslutsprocess och har haft en automatiserad beslutsprocess i drift gentemot privatpersoner som är avvecklad. R I K S R E V I S I O N E N A U T O M A T I S E R A T B E S L U T S F A T T A N D E I S T A T S F Ö R V A L T N I N G E N Med grund i fallstudierna tog vi fram en enkät som skickades till samtliga 14 myndigheter som vi identifierat har automatiserat beslutsfattande gentemot privatpersoner och företag,28 varav 13 myndigheter svarade på enkäten:29 •Universitets- och högskolerådet. Enkäten bestod av tre delar. Den första delen i enkäten syftade till att se hur myndigheternas kostnader och personalsammansättning har förändrats samt om detta går att koppla samman med när processerna automatiserades på myndigheten. Dessa enkätsvar visade sig vara så pass osäkra och ojämförbara – både och mellan myndigheter – att vi valde att inte använda dem. I den andra delen fick myndigheterna ange vilka av myndigheternas beslutsprocesser som omfattas av automatiserat beslutsfattande. I enkätens tredje del fick myndigheterna svara på frågor om det automatiserade beslutsfattandet. Bland annat fick de svara på om myndigheten gör riskanalyser och nyttokalkyler inför driftsättning, om fel har uppstått och vilka effekter automatiserat beslutsfattande har inneburit för verksamheten. Enkätresultat finns i bilaga 2. 28En av de myndigheter (UHR) som svarat att de har automatiserat beslutsfattande gentemot enskilda, och därmed har svarat på enkäten, fattar i formell mening inte beslut automatiserat. UHR har en automatiserad process som tar fram beslutsunderlag; de formella besluten fattas dock av lärosätena. Vi bedömer dock att denna automatiserade process är att likställa med en beslutsprocess, och att det inte inverkar menligt på granskningens resultat att inkludera dem. 29Riksarkivet svarade inte på enkäten. 14 R I K S R E V I S I O N E N E N G R A N S K N I N G S R A P P O R T F R Å N R I K S R E V I S I O N E N Vi har gjort fallstudier vid tre olika myndigheter och av en ärendetyp på respektive myndighet. Fallstudier har gjorts vid , och Transportstyrelsen. Vi har valt myndigheter utifrån kriterierna att myndigheterna ska ha automatiserat beslutsfattande gentemot privatpersoner, i fler än en ärendetyp och . Detta för att granskningen ska omfatta etablerat automatiserat beslutsfattande och myndigheter som har erfarenhet av att arbeta med automatiserade beslutsprocesser. De tre myndigheterna representerar även tillsammans stora in- och utflöden på statens budget och har i samtliga fall haft automatiserade beslut på myndigheten . Vi har gjort bedömningen att det ger bättre förutsättningar att få en tydlig bild av de effekter som automatiserat beslutsfattande fått på verksamheten om granskningen utgår från en befintlig beslutsprocess. Vi har valt ärendetyper som riktar sig mot privatpersoner, är representativa för myndighetens verksamhet och som representerar olika ärendetyper (bidragsutbetalning, skattebeslut och tillståndsgivning), nämligen: •besked om slutlig inkomstskatt för privatpersoner, 30 •körkortstillstånd, Transportstyrelsen. Fallstudierna har genomförts genom intervjuer med bland andra verksamhetsutvecklare, IT-specialister, handläggare och verksamhetsansvariga på respektive myndighet. Inom ramen för granskningen har elva intervjuer hållits med arton respondenter vid , tolv intervjuer med sjutton respondenter vid och sex intervjuer med tretton respondenter vid Transportstyrelsen (se bilaga 1 för intervjuförteckning). Vissa respondenter har närvarat vid flera intervjuer. Intervjuerna och analyserna av dessa har strukturerats utifrån bedömningskriterierna. Fallstudierna har även utgjorts av dokumentstudier av bland annat myndigheternas riskanalyser, processbeskrivningar, utvärderingar, uppföljningar av de aktuella processerna och andra relevanta dokument. Granskningen har omfattat myndigheternas arbete med de automatiserade beslutsprocesserna . Revisionsfrågan om effektivisering till följd av automatiserat beslutsfattande har omfattat förändring för att kunna bedöma effektivitetsvinster. Förändringen syftade till att jämföra utfallet av ett antal effektivitetsmått före och efter automatisering. Det har dock inte alltid varit möjligt att få fram data för detta. 30Vi har granskat besked om slutlig skatt för privatpersoner. automatiserade beslutsprocess INK1 inkluderar både privatpersoner och enskilda näringsidkare. Materialinsamlingen har inriktats på delmängden privatpersoner inom INK1. I de fall endast har information om hela INK1, har denna information använts. R I K S R E V I S I O N E N A U T O M A T I S E R A T B E S L U T S F A T T A N D E I S T A T S F Ö R V A L T N I N G E N Avseende föräldrapenningen har vi fått uppgifter för året före automatisering, 2013, till och med . Granskningen av besked om slutlig skatt för privatpersoner har varit inriktad på om effektiviteten har ökat , eftersom processen automatiserades . Vi har dock inte kunnat få information längre tillbaka än 2012 och i vissa fall 2015 eftersom inte följer upp det som vi efterfrågat. Gällande körkortstillstånd har vi data efter automatiseringen, 2011, . Transportstyrelsen har inte uppgifter från tiden före automatiseringen när länsstyrelserna ansvarade För att svara på granskningsfrågan om effektivitet i de automatiserade processerna har vi granskat kvantitativa data. Det omfattar bland annat förvaltningskostnader31, antal anställda och genomsnittliga handläggningstider. Vi har gjort enklare bearbetningar för att räkna ut genomsnittlig kostnad per beslut. I övrigt har data använts i den form de inkom till . Intervjuer har även hållits med medarbetare vid Infrastukturdepartementet och Myndigheten för digital förvaltning, liksom med medarbetare vid Arbetsförmedlingen, Inspektionen för socialförsäkringen, Datainspektionen, Delegationen för korrekta utbetalningar samt . Totalt har granskningen omfattat 38 intervjuer med sammanlagt 63 respondenter. Se bilaga 1 för intervjuförteckning. Granskningen har genomförts av en projektgrupp bestående av projektledare och projektmedarbetare . Två referenspersoner har varit knutna till projektet och gett synpunkter på såväl ett granskningsupplägg som ett utkast till granskningsrapporten: •Elin , professor, . •Karin , professor, vid . Ett internt seminarium har hållits vid där seminariedeltagare och kollegiala opponenter har gett synpunkter på ett utkast till granskningsrapporten. Företrädare för (Infrastrukturdepartementet), , , Transportstyrelsen och Myndigheten för digital förvaltning har fått tillfälle att faktagranska och i övrigt lämna synpunkter på ett utkast till granskningsrapporten. 31Förvaltningskostnaderna inkluderar kostnader för personal, IT samt övriga kostnader så som exempelvis overheadkostnader. 16 R I K S R E V I S I O N E N E N G R A N S K N I N G S R A P P O R T F R Å N R I K S R E V I S I O N E N 2Om automatiserat beslutsfattande i statsförvaltningen I det här kapitlet ger vi en bakgrund till automatiserat beslutsfattande Vi redogör för regeringens styrning av området, utmaningar som finns, omfattningen av automatiserat beslutsfattande i statsförvaltningen samt beskriver hur automatiserat beslutsfattande går till. Materialet som gäller omfattning av automatiserat beslutsfattande baseras på enkät.32 2.1 Regeringens styrning av automatiserat beslutsfattande 2.1.1 Målet är att bli bäst i världen på digitalisering Regeringens och övergripande mål för digitaliseringspolitiken är att ska vara bäst i världen på att använda digitaliseringens möjligheter.33 Regeringens mål för digitaliseringen av den offentliga förvaltningen är en enklare vardag för medborgare, en öppnare förvaltning som stöder innovation och delaktighet samt högre kvalitet och effektivitet i verksamheten.34 presenterade regeringen en digitaliseringsstrategi som pekade ut riktningen Regeringens styrning av den offentliga förvaltningens digitalisering har huvudsakligen varit delegerad till myndigheterna, men har också skett genom regeringsuppdrag. Regeringen har även styrt via strategier, kommittéer och råd. inrättade regeringen en myndighet, Myndigheten för digital förvaltning (DIGG), med uppdraget att samordna och stödja den förvaltningsgemensamma digitaliseringen i syfte att göra den offentliga förvaltningen mer effektiv och ändamålsenlig.36 I tidigare granskningar har det framkommit dels brister i de statliga myndigheternas arbete med att digitalisera verksamheten, dels bristande institutionella förutsättningar som hämmade eller hindrade digitaliseringsarbetet.37 Även andra aktörer som E-delegationen, , och Statskontoret har påpekat bristande styrning eller bristande förutsättningar för att digitalisera den offentliga verksamheten.38 32Enkätresultat finns i bilaga 2. 2011/2012:1, UO 22, bet. 2011/2012:TU1, rskr. 2011/2012:87. 2019/20:1, UO 2, s. 91, bet. 2019/20:FiU2, rskr. 2019/20:129, rskr. 2019/20:130. 35Regeringen, För ett hållbart digitaliserat – en digitaliseringsstrategi, 2017. 361 § förordningen (2018:1486) med instruktion för Myndigheten för digital förvaltning. 37Riksrevisionen, Den offentliga förvaltningens digitalisering – En enklare, öppnare och effektivare förvaltning?, 2016. 38SOU 2015:66, ESV 2017:13, SOU 2016:89, Statskontoret 2016:26. R I K S R E V I S I O N E N A U T O M A T I S E R A T B E S L U T S F A T T A N D E I S T A T S F Ö R V A L T N I N G E N 2.1.2Regeringens styrning har fokuserat på lagstöd för automatiserade beslut Regeringens styrning av automatiserat beslutsfattande har fokuserat på att ge myndigheterna lagstöd för att fatta automatiserade beslut. I övrigt har inte regeringen specifikt styrt myndigheternas arbete med att automatisera beslutsprocesser. infördes bestämmelsen om att myndigheters beslut uttryckligen får fattas automatiserat i den nya förvaltningslagen,39 vilket tidigare inte varit helt tydligt.40 hade regeringen möjliggjort för sex myndigheter att automatisera beslutsfattande genom att skriva in bestämmelser om detta i myndigheternas instruktioner och genom speciallagstiftning.41 Utvecklingen av automatiserat beslutsfattande hade dock gått före lagstiftningen, där fler myndigheter än de sex som hade bestämmelser i instruktion eller särskild reglering redan infört automatiserat beslutsfattande när bestämmelsen i förvaltningslagen trädde i kraft (se avsnitt 2.3 och bilaga 2). Genom att förvaltningslagen slår fast att beslut kan fattas automatiserat tydliggörs att det principiellt sett inte behövs en reglering i specialförfattning för att en förvaltningsmyndighet ska kunna använda denna beslutsform.42 Men det återstår emellertid frågor, till exempel om kommuners rätt att fatta automatiserade beslut.43 Det finns även frågor om huruvida bestämmelsen i förvaltningslagen är fullt tillräcklig för att medge undantag från EU:s dataskyddsförordning44 om den registrerades rätt att motsätta sig att bli föremål för ett automatiserat beslut.45