prop · H80388 · 2021-03-05 00:00:00 — Detta eftersom föräldrapenningen uppvisar ett stort belopp per felutbetalning, ett stort antal felutbetalningar och hög andel ändrade beslut vid omprövning.207 Intervjuer vid visar att det inte har upptäckts programmerade fel i automatiserade beslut i föräldrapenningen men att de fel som uppstår huvudsakligen beror på felaktigt lämnad information från den förmånssökande; avsiktligt eller oavsiktligt.208 Saknas just nu uppföljning av automatiserade beslut saknas det uppföljning av de automatiserade besluten i föräldrapenningen till följd av att strukturerar om uppföljningen. Syftet med omstruktureringen är enligt att det är lättare att identifiera avvikelser när uppföljningen riktas mot en specifik risk eller situation.209 har en myndighetsgemensam funktion, Intern försäkringskontroll, som regelbundet granskar ett urval av verkställda utbetalningar för att identifiera felaktiga utbetalningar eller systematiska avvikelser som kan leda till felaktiga utbetalningar.210 ingick de automatiserade besluten i den interna försäkringskontrollen. Därefter har automatiserade beslut exkluderats för att Intern försäkringskontroll ska fokusera på att identifiera fel som uppstår i den handläggningen.211 206Riksrevisionens enkät, fråga 15, 16 och 17. 207Underlag från , Slutrapport. En del av Digitala Agenda, 2019, inkom . 208Intervju med företrädare för , . 209Underlag från , svar på frågor , 2020, inkom . 210Försäkringskassan, kontrollarbete. Kartläggning och förslag på fortsatt arbete, 2018, s. 34. 211Underlag från , svar på frågor , 2020, inkom . 48 R I K S R E V I S I O N E N E N G R A N S K N I N G S R A P P O R T F R Å N R I K S R E V I S I O N E N Mot de automatiserade besluten ska det i stället ske riktade kontroller. hade de riktade kontrollerna mot automatiserade beslut i föräldrapenningen inte införts.212 Automatiserade beslut inkluderas inte i kvalitetsuppföljningen har en strukturerad uppföljning av den handläggningen, men inte för den automatiserade handläggningen. har identifierat att de automatiserade besluten inte inkluderas i kvalitetsuppföljningen och har påbörjat ett arbete i syfte att utveckla en myndighetsgemensam kvalitetsuppföljning av automatiserade beslut.213 följer upp kvaliteten i den handläggningen baserat på resultaten från intern försäkringskontroll och uppföljningsverktyget Väksten. Resultaten sammanställs i en så kallad nationell kvalitetsanalys för respektive förmån.214 Automatiserade beslut inkluderas inte i denna uppföljning.215 I den nationella kvalitetsanalysen för föräldrapenningen görs dock bedömningen att det är bra kvalitet i den automatiserade beslutsprocessen. De områden som identifierats som brister och utvecklingsområden finns i den handläggningen.216 och prognos genomför en förstudie i syfte att utreda och kartlägga förutsättningar för ett gemensamt arbetssätt för kvalitetsuppföljning av den automatiserade handläggningen. Det innebär att utreda och kartlägga förutsättningarna för uppföljning av om de automatiska kontrollerna är genomförda och att ta ställning till om de är ändamålsenliga.217 Rättsliga kvalitetsuppföljningar – men arbetssättet ses över har utfört rättsliga kvalitetsuppföljningar av myndighetens förmåner. Syftet med den rättsliga kvalitetsuppföljningen är att dels granska ärenden, dels bidra till kvalitetsutveckling av förmånerna.218 De rättsliga kvalitetsuppföljningarna fördelas jämnt mellan försäkringsavdelningarna och syftar till att utföras på alla förmåner. /2020 ser över formen för de rättsliga uppföljningarna och dessa är pausade tills vidare. 212Underlag från , svar på frågor , 2020, inkom . 213Försäkringskassans årsredovisning 2018, s. 21. 214Intervju med företrädare för , . 215Underlag från , svar på frågor , 2020, inkom . 216Intervju med företrädare för , . 217Underlag från , svar på frågor , 2020, inkom . 218Intervju med företrädare för . R I K S R E V I S I O N E N A U T O M A T I S E R A T B E S L U T S F A T T A N D E I S T A T S F Ö R V A L T N I N G E N Ingen rättslig kvalitetsuppföljning har gjorts på föräldrapenningen.219 Däremot har det gjorts en rättslig kvalitetsuppföljning på tillfällig föräldrapenning som fann bristande dokumentation i de automatiserade besluten.220 Denna uppföljning har lett till ett utvecklingsarbete som syftar till att sätta en standard för dokumentation av automatiserade beslut, något som även 4.4.3Skatteverket inkluderar inte deklarationer utan ändring i skattefelskontrollen – alla automatiserade beslut följs inte upp Myndighetsgemensam uppföljning av skattefelet inkluderar inte alla automatiserade beslut Intervjuer vid visar att det inte har upptäckts några programmerade fel i slutskattebeskeden. De fel som ändå uppstår beror framför allt på felaktiga uppgifter från privatpersoner eller andra aktörer.222 ska enligt myndighetens regleringsbrev bedöma skattefelets storlek och har som mål att skattefelet ska vara så litet som möjligt. Skattefelet definieras som skillnaden mellan de fastställda och de teoretiskt riktiga beloppen för skatter och avgifter.223 Skattefelskontrollen görs stickprovsvis på ett slumpmässigt urval av beslutade ärenden. Urvalet till skattefelskontrollen innefattar både och automatiserade beslut, dock inte alla automatiserade beslut.224 Urvalet omfattar inte de deklarationer där privatpersoner godkänner deklarationer utan att göra ändringar, dessa beslutas helt automatiserat. Deklarationer som ändras av privatpersoner kan också handläggas helt automatiserat om de inte faller ut för hantering i någon av de programmerade kontrollerna – dessa ärenden ingår i populationen för urvalet till skattefelskontrollen även om de hanteras helt automatiserat.225 Skattefelskontrollen görs dock på ett litet antal ärenden avseende privatpersoners deklarationer.226 219Intervju med företrädare för . 220Underlag från , Automatiserade beslut – tillfällig föräldrapenning. Rättslig kvalitetsuppföljning, 2019, inkom . 221Intervju med företrädare för , . 222Intervju med företrädare för , och (a). 223Regleringsbrev för avseende , Fi2019/04080/S3 (delvis). 224Mejl från företrädare för , . 225Underlag från , Skattefelet hos privatpersoner. Det kontrollerbara skattefelet för beskattningsåren 2016–2017. 226Underlag från , Trovärdig kontroll inom programmet Privata händelser, 2019, inkom , s. 3. 50 R I K S R E V I S I O N E N E N G R A N S K N I N G S R A P P O R T F R Å N R I K S R E V I S I O N E N Kvalitetsuppföljning endast på hantering gör inte kvalitetsuppföljning på helt automatiserade beslut utan bedömer att de automatiserade besluten blir korrekta utifrån de tester som utförs på IT-systemen.227 gör en kvalitetsuppföljning där kvaliteten i den handläggningen utvärderas. Det finns vissa problemområden som återkommer i kvalitetsuppföljningen. Dessa områden är till exempel hantering av e-post med sekretess och att skyndsamheten i handläggningen har brustit i några fall.228 4.4.4Transportstyrelsen har valt att inte följa upp helt automatiserade beslut För att följa upp kvaliteten i den handläggningen gör körkortsavdelningen stickprov på beslut och på automatiserade beslut som har föregåtts av hantering.229 Däremot utförs ingen uppföljning på beslut som fattats helt automatiserat. gjorde körkortsavdelningen stickprov på helt automatiserade beslut om körkortstillstånd, men Transportstyrelsen uppger att fel aldrig hittades vid sådana stickprov. I stället görs insatser när kundtjänsthandläggare eller andra aktörer misstänker att det har blivit fel.230 I de fall det uppstått fel i de automatiserade besluten om körkortstillstånd, har det upptäckts genom att individer har hört av sig till Transportstyrelsen eller att handläggare har identifierat felaktigheter.231 Medarbetare vid Transportstyrelsen uppger att inga programmerade fel har upptäckts i den automatiserade handläggningen som har resulterat i felaktiga beslut. Däremot förekommer felaktiga ärenden. Körkortsavdelningens granskningar av de felaktiga ärendena visar att det vanligtvis är åtgärder i den handläggningen som har resulterat i felaktiga beslut.232 Uppföljningar görs därför enbart på den handläggningen eftersom det är där de stora riskerna har identifierats.233 Det har däremot uppstått prestandaproblem i den automatiserade handläggningen som medfört långa ärendeköer och att fler ärenden faller ut för hantering. uppstod ett sådant större prestandaproblem som ledde till utveckling av IT-systemet för att åtgärda problemet. Prestandaproblemet ska enligt Transportstyrelsen inte ha påverkat korrektheten i besluten, utan medfört en högre arbetsbörda för handläggarna och längre handläggningstider.234 227Intervju med företrädare för , . 228Intervju med företrädare för , . 229Intervju med företrädare för Tranportstyrelsen, (a). 230Mejl från företrädare för Transportstyrelsen, . 231Intervju med företrädare för Transportstyrelsen, . 232Intervju med företrädare för Transportstyrelsen, . 233Intervju med företrädare för Transportstyrelsen, . 234Intervju med företrädare för Transportstyrelsen, . R I K S R E V I S I O N E N A U T O M A T I S E R A T B E S L U T S F A T T A N D E I S T A T S F Ö R V A L T N I N G E N I detta kapitel redovisas resultat och analys av den tredje revisionsfrågan, det vill säga hur myndigheterna säkerställer att grundläggande rättssäkerhetsaspekter uppfylls i automatiserat beslutsfattande. Granskningen visar att automatiserat beslutsfattande till viss del har förbättrat grundläggande rättssäkerhetsaspekter. Till exempel går alla ärenden igenom samma automatiska kontroller och hanteras manuellt utifrån samma urvalsgrunder. Därigenom har också den hanteringen blivit mer enhetlig, vilket bidrar till en ökad likabehandling. Det finns dock vissa rättssäkerhetsaspekter som inte är fullt ut omhändertagna på de tre myndigheterna. Det handlar om att det i vissa fall saknas tydlig och läsbar dokumentation av automatiserade beslut och att lika fall inte alltid hanteras på lika sätt i det kontrollarbetet. Myndigheterna har även identifierat att kompetens för att kunna översätta lagstiftning till programkod är en kritisk faktor för att kunna säkerställa korrekta och rättssäkra automatiserade beslut. 5.1Likabehandlingen har ökat med automatisering, men det finns riskfaktorer Kriterium: Det automatiserade beslutssystemet bedömer lika fall på lika sätt. Iakttagelser: De flesta myndigheter som svarat på enkäten uppger att likabehandlingen har ökat till följd av automatiserat beslutsfattande. Intervjuer vid , och Transportstyrelsen visar att medarbetare vid dessa myndigheter genomgående upplever att likabehandlingen har ökat sedan automatiserat beslutsfattande infördes i föräldrapenningen, inkomstbeskattningen av privatpersoner respektive körkortstillståndet. Anledningen till detta är att alla ärenden går igenom samma automatiska kontroller och faller ut till hantering utifrån samma urvalsgrunder. Det saknas dock analyser av hur likabehandlingen har påverkats av automatisering En följdverkan av att ärenden i den automatiserade handläggningen hanteras på samma sätt, är att den hanteringen blir mer enhetlig jämfört med innan automatisering, vilket bidrar till ökad likabehandling. De största riskerna för bristande likabehandling finns dock i den hanteringen och urvalsprocessen för att manuellt kontrollera ärenden. Att särskilja ärenden i det automatiserade beslutsfattandet baserat på personliga egenskaper (så kallad profilering) är ovanligt bland myndigheterna. Det är endast en av de tretton myndigheterna som använder sig av profilering i det automatiserade beslutsfattandet och denna myndighet informerar privatpersoner om att så är fallet. 52 R I K S R E V I S I O N E N E N G R A N S K N I N G S R A P P O R T F R Å N R I K S R E V I S I O N E N 5.1.1 De flesta myndigheter har uppnått ökad likabehandling Tio myndigheter uppger i enkät att en högre grad av likabehandling har uppnåtts i beslutsfattandet till följd av automatisering av beslutsfattande. Övriga tre myndigheter uppger att det är svårt att säga huruvida likabehandlingen ökat.235 En av de tretton myndigheterna använder sig av profilering i det automatiserade beslutsfattandet och denna myndighet informerar privatpersoner om att så är fallet. Myndigheten använder profilering dels för att fatta beslut, dels för att välja ut vilka ärenden som faller ut för kontroll.236 5.1.2Automatiseringen av föräldrapenningen har ökat likabehandlingen Intervjuer vid visar att kvaliteten i ärendehanteringen har förbättrats i och med automatiseringen. Sedan automatiseringen infördes kan säkerställa att samma kontroller görs i samtliga ärenden.237 Medarbetare vid upplever att det även blir en bättre rättslig styrning av förmånen när ärendehanteringssystemet gör samma automatiska kontroller oavsett förmånssökande och sorterar ut ärenden för hantering utifrån samma kriterier. Det medför en systematik i handläggningen som gör att även den hanteringen blir mer enhetlig i tillämpningen.238 Den ökade enhetligheten i den hanteringen riskerar dock i vissa aspekter att få negativ påverkan på utfallet av korrekta beslut. Om en handläggare ser en risk för fel i ett föräldrapenningsärende utöver den åtgärd som IT-systemet meddelar att handläggaren ska utföra, så ska handläggaren inte åtgärda detta, utan lita på att ärendet faller ut igen för hantering. Det gäller även i de fall där det saknas programmerade kontroller men där det är vanligt med fel: om handläggaren misstänker att det förekommer fel ska handläggaren inte vidta någon åtgärd utan respektera den riskbedömning gjorde när det automatiserade systemet sattes upp.239 använder inte riskprofilering som urvalsgrund för kontroller för föräldrapenningen men arbetar med att införa detta (se avsnitt 4.3). Riskprofilering används inom andra förmåner på för att välja ut ärenden för kontroll där det enligt analyser finns störst risk för fel.240 Den riskprofilering som görs inom andra förmåner syftar inte till att särskilja ärenden baserat på personliga egenskaper utan för att identifiera situationer där 235Riksrevisionens enkät, fråga 29. 236Riksrevisionens enkät, fråga 22–24. 237Intervju med företrädare för , och . 238Intervju med företrädare för . 239Intervju med företrädare för och . 240Intervju med företrädare för . R I K S R E V I S I O N E N A U T O M A T I S E R A T B E S L U T S F A T T A N D E I S T A T S F Ö R V A L T N I N G E N det finns hög risk för felaktiga uttag. På finns information om att myndigheten använder riskbaserade kontroller och att den registrerades uppgifter kan komma att hanteras i analyser, urval och kontroller.241 5.1.3Skatteverkets automatisering har möjliggjort centralt urval och högre grad av likabehandling Arbetet med att välja ut inkomstdeklarationer för kontroll har utvecklats från att vara urval baserat på en hög grad av kännedom om personer och företeelser på de lokala skattekontoren, till ett centralt riskbaserat urval som är detsamma för samtliga deklarationer. Detta, som beskriver utveckling av kontrollarbetet över , i kombination med att alla deklarationer går igenom samma automatiska kontroller, framförs genomgående vid intervjuer ha medfört en ökad likabehandling. De deklarationer som kontrolleras manuellt inom ramen för inkomstskatteprocessen väljs ut baserat på ett riskurval. Riskurvalet baseras inte på personliga egenskaper utan är en riskvärdering av händelser.242 har sett en viss risk för att lika ärenden inte hanteras på lika sätt eftersom det finns brister i utförandet av de kontrollerna när handläggare väljer att i viss utsträckning inte genomföra de kontroller som presenteras i ärendehanteringssystemet (se avsnitt 4.3). Det medför en risk att likartade ärenden inte genomgår samma kontroll.243 5.1.4Transportstyrelsens övertagande av körkortsverksamheten syftade till att öka enhetligheten i rättstillämpningen Ett av regeringens syften med att överföra körkortsverksamheten från länsstyrelserna till Transportstyrelsen var att uppnå en mer enhetlig rättstillämpning när alla körkortsärenden hanteras av en myndighet.244 Det finns dock ingen uppföljning av om rättstillämpningen har blivit mer enhetlig sedan överföringen av körkortsverksamheten. Däremot har verksamhetsöverföringen förbättrat förutsättningarna för en mer enhetlig rättstillämpning.245 Transportstyrelsen använder sig inte av någon form av riskbaserade urval eller profilering inom körkortstillståndet. 241Intervju med företrädare för ; e-post från företrädare för ; webbplats ”Dina personuppgifter”, ”Så behandlar vi personuppgifter inom förmånsverksamheten”, hämtad . 242Intervju med företrädare för , . 243Underlag från , Trovärdig kontroll inom programmet Privata händelser, 2019, inkom . 2009/10:20, bet. 2009/10:TU6, rskr. 2009/10:85. 245Se till exempel Statskontoret, Grönt, gult eller rött ljus? Utvärdering av ändrad ansvarsfördelning för körkortsfrågor, 2014, s. 7. 246Intervju med företrädare för Transportstyrelsen, . 54 R I K S R E V I S I O N E N E N G R A N S K N I N G S R A P P O R T F R Å N R I K S R E V I S I O N E N 5.2Förutsebarheten har ökat med automatiserat beslutsfattande Kriterium: Beslut som fattas automatiserat är förutsebara. Iakttagelser: Det automatiserade beslutsfattandet i föräldrapenningen, inkomstbeskattningen och körkortstillståndet baseras på en villkorsstyrd teknik, liksom hos övriga myndigheter som har svarat på enkäten. Det innebär att systemet är programmerat efter regelverket och reagerar lika på lika information, och därmed kan anses vara förutsebart. Detta förutsätter dock att IT-systemet är programmerat på rätt sätt; kompetens som kan översätta regelverk till programkod är en kritisk resurs i att detta arbete blir rätt utfört. Tre myndigheter uppger i enkäten att de använder AI-baserad teknik som en del av det automatiserade beslutsfattandet, men inte för att fatta beslut. En av dessa myndigheter är som använder AI-baserad teknik för att kategorisera skriftliga upplysningar Det finns dock ingen osäkerhet i hur algoritm påverkar den automatiserade handläggningen av inkomstdeklarationer eftersom alla uppgifter som kategoriseras av algoritmen hanteras av en handläggare att beslut fattas. 5.2.1Myndigheternas automatiserade beslutsfattande är villkorsstyrt – AI är ovanligt Det finns olika tekniker för att automatisera beslutsfattande. Alla myndigheter som svarade på enkäten uppger att de använder sig av regelstyrd eller villkorsbaserad teknik.247 Det innebär att IT-systemet är programmerat efter regelverket och reagerar lika på lika information, och därmed kan anses vara förutsebart. Sex av de tretton myndigheterna använder sig av artificiell intelligens (AI) i någon del av verksamheten.248 AI avser system som uppvisar intelligent beteende genom att analysera sin miljö och vidta åtgärder – med viss grad av självständighet – för att uppnå särskilda mål.249 Det är endast tre av dessa sex myndigheter som använder AI i någon del av det automatiserade beslutsfattandet: Arbetsförmedlingen, och Universitets- och högskolerådet. Ingen av dessa använder sig av AI för att fatta automatiserade beslut. I stället används AI för att identifiera ärenden som ska falla ut för kontroll, handläggas manuellt eller kategorisera inkommande uppgifter.250 247Riksrevisionens enkät, fråga 9. 248Riksrevisionens enkät, fråga 8. 249Myndigheten för Digital förvaltning, Främja den offentliga förvaltningens förmåga att använda AI. Delrapport i regeringsuppdraget I2019/01416/DF || I2019/01020/DF (delvis), 2020. 250Riksrevisionens enkät, fråga 9 och 10; intervju med företrädare för . R I K S R E V I S I O N E N A U T O M A T I S E R A T B E S L U T S F A T T A N D E I S T A T S F Ö R V A L T N I N G E N 5.2.2 automation bygger på regelverket Den automatiserade handläggningen i föräldrapenningen är villkorsbaserad och uppbyggd efter regelverket som styr förmånen. Det ska därför inte finnas någon osäkerhet i hur systemen hanterar informationen.251 Vid en intervju uppger IT-chefen vid att det är en kritisk faktor och utmaning att hitta kompetens som kan tolka lagar och göra om dem till programkod för att automatisering av beslutsfattande ska bli korrekt utfört.252 Intervjuerna vid visar även att utformningen av lagstiftningen är en viktig faktor till att automatisering av beslut ska kunna ske på ett rättssäkert och effektivt sätt; om lagstiftningen är formulerad med tydliga kriterier för vilket utfall ett ärende kan få, är det enklare att automatisera beslutsfattande.253 5.2.3Skatteverkets automatiserade beslut baseras på regelverket, men vissa uppgifter kategoriseras med hjälp av AI Inkomstskatteprocessen bygger på ett stort antal IT-system. Dessa är villkorsstyrda och baserade på det befintliga skatteregelverket. Medarbetare vid uppger att det är en kritisk faktor att ha rätt kompetens som kan tolka lagstiftningen och kravställa mot IT-avdelningen, för att på så sätt säkerställa att beskattningsregelverket implementeras på ett korrekt sätt i IT-systemen.254 använder sig av AI-baserad teknik i en delprocess till inkomstbeskattningen. Det handlar om att klassificera de så kallade övriga upplysningar som lämnas på deklarationer som inkommer via e-tjänsten. Uppgifterna kategoriseras enligt en algoritm och fördelas till den handläggare som har rätt kompetens för att hantera just den uppgiften. har satt upp systemet så att en handläggare alltid tittar på det som algoritmen har gjort, för att säkerställa att det blir korrekt.255 algoritm påverkar därmed inte utfallet i det automatiserade beslutsfattandet, utan syftar till att effektivisera fördelningen av ärenden till rätt handläggare. 5.2.4 Körkortstillståndets automatisering bygger på regelverket Ärendehanteringssystemet som beslutar om körkortstillstånd är villkorsbaserat, reagerar lika på lika information och är baserat på regelverket. Medarbetare vid körkortsavdelningen uppger att det är tydliga rekvisit i den automatiserade handläggningen och att automatiskt fattade beslut är de mest 251Intervju med företrädare för . 252Intervju med företrädare för , (b). 253Intervju med företrädare för , (b) och . 254Intervju med företrädare för , . 255Intervju med företrädare för , . 256Intervju med företrädare för Transportstyrelsen, . 56 R I K S R E V I S I O N E N E N G R A N S K N I N G S R A P P O R T F R Å N R I K S R E V I S I O N E N 5.3Dokumentation i automatiserade beslut finns, men är inte alltid helt tydlig Kriterium: Automatiserade beslut dokumenteras lika väl som manuellt fattade beslut. Iakttagelser: Vid , och Transportstyrelsen finns det dokumentation över den automatiserade handläggningen samt beslutsdokument för både och automatiserade beslut. dokumentation är dock inte helt tydlig och förståelig för den som vill spåra vilka åtgärder som har utförts i den automatiserade handläggningen. har identifierat detta som en brist och har påbörjat ett utvecklingsarbete för att fastställa en standard för dokumentation i automatiserade beslut. 5.3.1Försäkringskassan har identifierat brister i dokumentationen av automatiserade beslut I en av rättsliga kvalitetsuppföljningar av automatiserade beslut i tillfällig föräldrapenning upptäcktes att det fanns ett mycket begränsat underlag i ärendena, trots att systemet hade inhämtat ett stort antal uppgifter innan det fattade beslut. Därmed dokumenterades inte den automatiserade handläggningen i fullgod utsträckning. Det var inte heller fullt ut möjligt att bedöma om utredningen i ärendena hade varit tillräcklig för att fatta beslut.257 har därefter inlett ett utvecklingsarbete som syftar till att sätta en standard för dokumentation av automatiserade beslut som omfattar myndighetens alla automatiserade beslutsprocesser, även föräldrapenningen.258 5.3.2Skatteverket har motsvarande dokumentation och beslut i alla ärenden IT-system producerar ett dokument för slutskattebesked i alla ärenden, oavsett om ärendet fattas manuellt eller automatiserat. Slutskattebeskedet återfinns i en elektronisk akt och går att skriva ut.