sou · H7B359d7 · 2019-12-12 00:00:00 — 4 Delegationen för korrekta utbetalningar från välfärdssystemen (2019): Läckaget i välfärdssystemen, del 1 – Omfattningsstudier och bedömningar av felaktiga utbetalningar från vissa välfärdssystem (Rapport 4), s. 25. 5SOU 2018:72: Slutrapport, Betänkande av Expertgruppen för digitala investeringar, s. 18. 6Ibid., Se också Tilson, D., Lyytinen, K., & Sorensen, C. (2010): Digital infrastructures: The missing IS research agenda. , 21(4), 748-759. 7Jfr eSam (2016): Elektroniskt informationsutbyte – en vägledning för utlämnande i elektronisk form. 8111 kap. Socialförsäkringsbalk (2010:110). någon aktiv del i arbetsmomenten.9 Riskbaserade kontroller bygger på dataanalyser av i huvudsak förmånsrelaterade data och syftar till att möjliggöra träffsäkra kontroller av exempelvis lämnade uppgifter.10 Artificiell intelligens (AI) är ett vitt begrepp som kan definieras på olika sätt. Ofta innefattas dock både vetenskapen och tekniken att skapa intelligenta maskiner. Tekniker som närmast förknippas med AI är maskininlärning och djupinlärning, vilket illustrerar att den artificiella intelligensen utmärks av sin förmåga att lära från data och bli smartare . 11 I begreppen digitalisering och AI infattar vi såväl den teknik som den verksamhetsutveckling som krävs och möjliggörs av tekniken. Med systemöverskridande uppgifter menas uppgifter som är centrala i många ersättningssystem för att bedöma rätten till och storleken på ersättningen. De här uppgifterna registerförs ofta hos en myndighet och används av flera myndigheter. Fel i sådana uppgifter kan leda till felaktiga utbetalningar i flera system. I denna rapport har vi undersökt hur digitalisering och AI påverkar och kan påverka graden av korrekta utbetalningar. Digitalisering och AI i mer generella termer, exempelvis dess påverkan på organisation, effektivitet eller service har därmed utelämnats i den grad detta varit möjligt. Kartläggningen har avgränsats till utbetalningar från fem större statliga myndigheter (Arbetsförmedlingen, (), , och ) samt folkbokföringsverksamhet. Därmed är exempelvis utbetalningar från sektor, länsstyrelserna eller arbetslöshetskassorna inte inkluderade i kartläggningen. Dessutom omfattas endast utbetalningar som avser 9 Jfr definitionen för automatiserat beslutsfattande i Prop. 2016/17:180 En modern och rättssäker förvaltning – ny förvaltningslag, s 313: ”Med automatiserade beslut avses beslut som fattas maskinellt utan att någon enskild befattningshavare på myndigheten tar någon aktiv del i själva beslutsfattandet i det enskilda fallet”. 10Jfr årsredovisning 2018, s. 136. 11Regeringskansliet, (2018): Nationell inriktning för artificiell intelligens, s. 4. Informationsmaterial, N2018.14. Utbetalningarna behöver dock inte utbetalas direkt till den enskilde. Rapporten berör också översiktligt frågor om regeringens styrning, forskning samt etik med koppling till rapportens syfte. För att ta fram underlag till rapporten har två huvudsakliga strategier för datainsamling använts. Dels har primärdata samlats in via intervjuer och workshop med representanter från de fem utbetalande myndigheterna Arbetsförmedlingen, CSN, , och ) samt folkbokföring. I förekommande fall har vi också ställt kompletterande frågor till vissa respondenter. Denna data har främst använts för att kartlägga hur myndigheterna arbetar och planerar att arbeta med digitalisering och AI och hur man ser på dess koppling till korrekta utbetalningar. Dels har vi gått igenom sekundärdata i form av relevanta rapporter (från de aktuella myndigheterna, statliga utredningar, regeringen, etc.) för att fördjupa och bredda förståelsen av det som framkommit i intervjuer och workshoppen. En rad iakttagelser som är betydelsefulla för denna studie har också gjorts i delegationens tidigare publicerade rapporter, varav vi redogör för de viktigaste. Vi har också gjort en översiktlig genomgång av forskning inom e-förvaltning för att studera hur forskningen angripit frågan om korrekta utbetalningar. Dessutom har vi översiktligt studerat etiska riktlinjer för AI. Vi har genomfört 13 intervjuer och intervjuat totalt 35 personer. På genomförd workshop diskuterades preliminära iakttagelser från intervjuerna och ungefär 10 personer deltog, varav några inte blivit intervjuade. Respondenterna i intervjuer och workshoppar har valts ut av delegationens kansli och berörda myndigheter på grundval av att de ansetts vara experter inom digitalisering, AI och/eller på välfärdssystemen. Vår bedömning har varit att respondenterna haft god insyn i myndigheternas arbete med digitalisering och AI ur de perspektiv som varit relevanta för denna studie. Vi tycks i mycket hög grad fått möjlighet att intervjua de mest lämpade personerna på de berörda myndigheterna, utifrån syftet med denna studie. Respondenterna har haft olika roller såsom digitaliseringsstrateger, utvecklingsstrateger, it-strateger, verksamhetutvecklare, chefer på olika nivåer från såväl verksamhetssom it-avdelningar, analytiker, it-arkitekter och it-utvecklare. Respondenterna har intervjuats i egenskap av just experter och deras intervjusvar återspeglar inte nödvändigtvis myndighetens officiella syn på frågorna. Under intervjuerna har vi också inledningsvis informerat om att det från rapporten inte kommer framgå vad enskilda respondenter har uppgett i intervjuerna. Vi menar att detta sammantaget stärkt kvaliteten i studien eftersom respondenterna kunnat besvara frågeställningarna med större frihet utifrån sin expertis och erfarenhet. Antalet respondenter har inte varit jämnt fördelat från de myndigheter som ingått i studien, utan flest intervjuer har genomförts med respondenter från . Variationen berodde på omfattningen av myndigheternas arbete med digitalisering och AI i de delar det har betydelse för välfärdsutbetalningar och de möjligheter vi haft att intervjua lämpliga experter. Arbetets kartläggnings- och initiala analysfas har skett med konsultstöd från ramavtalsleverantören . Governo har tillsammans med delegationens kansli planerat och genomfört intervjuer och workshop samt självständigt kartlagt etiska riktlinjer och forskning på området. Flera tidigare rapporter från Delegationen för korrekta utbetalningar från välfärdssystemen har starka beröringspunkter till temat för denna rapport. I det följande sammanfattas de viktigaste iakttagelserna från dessa rapporter med bäring på temat korrekta utbetalningar med hjälp av digitalisering och AI. 2.1Risker för felaktiga utbetalningar I rapporten för felaktiga utbetalningar från välfärdssystemen (Rapport 1) så redogörs för arbetet med att värdera och jämföra risker för felaktiga utbetalningar i totalt 27 ersättningssystem på ett enhetligt sätt. Detta baserades på riskanalyser som genomfördes av berörda myndigheter och organisationer enligt en ny modell för riskvärdering som möjliggör jämförelser mellan olika system. I arbetet identifierades faktorer som innebär särskild risk för felaktiga utbetalningar (riskfaktorer) och sådana faktorer som stärker ett ersättningssystems förmåga att betala ut korrekta utbetalningar (skyddsfaktorer). Vissa faktorer återkommer i många ersättningssystem. I tabell 2.1 redovisar vi därför några av de faktorer som har starkast koppling till arbetet med digitalisering och artificiell intelligens. Det är särskilt intressant att se om, och i så fall hur, digitalisering och AI kan bidra till att reducera de största riskfaktorerna och stärka de viktigaste skyddsfaktorerna. Delegationens publicerade rapporterRapport 5 Sammanfattning av de viktigaste skydds- och riskfaktorerna för korrekta utbetalningar, enligt riskanalyser av 27 ersättningssystem Tydlig, väldefinierad målgrupp Begrepp som inte är harmoniserade mellan systemen. säkerställer inte kvaliteten på - Användande myndighet ifrågasätter inte uppgifterna trots indikationer på fel. Korrekta uppgifter inhämtas och delas i -Uppgifter av stor betydelse för handläggningen omfattas inte av informationsutbyte. - Av riskanalyserna framkom inga större -Fokus på service och handläggningstider snarare än korrekta utbetalningar. -Nyansökningar och kontroller i initial utredning prioriteras framför kontroller under tid med ersättning. tillräckliga uppgifter finns och bedömer om rätt ersättning finns. Dataanalyser används för att rikta kontroller mot ärenden där risker för fel Digitala tjänster ger stöd att lämna korrekta uppgifter, t.ex. genom Av riskanalyserna framkom inga större riskfaktorer kopplade till digitalisering. 2.2Omfattningen av felaktiga utbetalningar12 I rapporten i välfärdssystemen, del 1 – Omfattningsstudier och bedömningar av felaktiga utbetalningar från vissa välfärdssystem (Rapport 4) redogörs för omfattningsstudier och bedömningar av felaktiga utbetalningar från vissa välfärdssystem. Av de samlade utgifterna på i de 13 ersättningssystem som studerats, bedöms felaktigt ha betalats ut för mycket. I denna uppskattning ingår enbart delvis felaktiga utbetalningar som orsakas av fel i grundläggande uppgifter som har betydelse för många ersättningssystem, t.ex. felaktig folkbokföring och sjukpenninggrundad inkomst (SGI). En mer fullständig uppskattning av hur stora felaktiga utbetalningar som orsakas av fel i dessa systemövergripande uppgifter redovisas i en kommande rapport. Delegationens omfattningsstudier visar att ungefär 3 av 4 felaktigt utbetalade kronor orsakats av att de uppgifter som ligger till grund för beslut och utbetalningar är felaktiga. Felen består framför allt i att felaktiga uppgifter har lämnats vid ansökningstillfället eller att ändrade förhållanden inte har meddelats. Två tredjedelar av dessa fel bedöms utgöras av misstänkt avsiktliga fel från den sökande. Andelen fel som orsakas av felaktiga uppgifter är ännu högre i automatiserade ersättningssystem. I de automatiserade ersättningssystem som omfattningsstuderats (tillfällig föräldrapenning, statligt tandvårdsstöd och föräldrapenning) uppskattas samtliga felaktiga utbetalningar ha orsakats av denna anledning. Generellt sett orsakas en begränsad andel av de felaktiga utbetalningarna av felaktiga bedömningar eller beslut. Detta uppskattades orsaka av de felaktiga utbetalningarna i de nio ersättningssystem som studerades i huvudsak empiriskt. Från genomförda studier kan vi konstatera att ett par av de ersättningssystem som har högst andel felaktiga utbetalningar och misstänkt avsiktliga fel är högautomatiserade. Inom tillfällig föräldrapenning uppskattades de felaktiga utbetalningarna till av de totala utgifterna, varav bedöms vara misstänkt avsiktliga. Även statligt tandvårdsstöd har höga 12 Detta avsnitt bygger i på delegationens , del 1 – Omfattningsstudier och bedömningar av felaktiga utbetalningar från vissa välfärdssystem (Rapport 4). nivåer av felutbetalningar och misstänkt avsiktliga fel. Generellt sett bedömdes att kontrollerna av lämnade uppgifter behöver stärkas i de högautomatiserade systemen.13 2.2.1Digitalisering har bidragit till säkrare och mer effektiva omfattningsstudier Digitaliseringen har bidragit till att några av de omfattningsstudier som delegationen har genomfört har kunnat utformas mer effektivt. Detta har skett genom att urvalen för de slumpmässiga kontroller som använts för att uppskatta omfattningen av fel har kunnat stratifieras utifrån faktorer som särskiljer ärenden med hög risk från låg risk. Relativt sett fler ärenden med risk för felaktiga utbetalningar har då ingått i studierna. Till grund för denna stratifiering ligger dataanalyser som möjliggjorts genom digitaliseringen. Urvalen ger en representativ bild av de ärenden som studeras, men ger säkrare uppskattningar och kontrollen blir mer träffsäker, jämfört med slumpmässiga urval som dras utan stratifiering. 2.3Styrningen av arbetet med att motverka felaktiga utbetalningar14 I rapporten av arbetet med att motverka felaktiga utbetalningar från välfärdssystemen – En kartläggning (Rapport 3) har myndigheternas arbete med att säkerställa korrekta utbetalningar och motverka bidragsbrott kartlagts. I kartläggningen har det bland annat framkommit att det finns ett otydligt ansvar för automatiserade processer. Det handlar exempelvis om att flera myndigheter saknar kvalitetsuppföljning för automatiserade ärendeprocesser, att ansvaret för processerna är otydligt och att processerna ofta inte omfattas av myndigheternas riskanalyser. Kartläggningen pekar också på att risker för felaktiga utbetalningar inom automatiserade processer inte är kända på myndigheterna. 13 Delegationen för korrekta utbetalningar från välfärdssystemen (2019): Läckaget i välfärdssystemen, del 1 – Omfattningsstudier och bedömningar av felaktiga utbetalningar från vissa välfärdssystem (Rapport 4), s. 261. 14 Detta avsnitt bygger i sin helhet på delegationens rapport av arbetet med att motverka felaktiga utbetalningar från välfärdssystemen – En kartläggning (Rapport 3). I kartläggningen lyfter flera representanter för myndigheterna fram att regelverken är utformade för handläggning och därför kan vara ett hinder för digitalisering och automatisering. Regelverken upplevs ofta vara föråldrade och därmed inte heller anpassade för att digitaliseras och automatiseras. När det gäller informationsutbyte mellan myndigheter konstateras i rapporten att detta är en central fråga för att kunna få korrekta underlag till beslut och därigenom minska problemen med de felaktiga utbetalningarna. Bedömningen är att det behövs ett helhetsgrepp avseende informationsutbyte mellan myndigheter. I intervjuer med framhålls att det är en fördel om önskemål om informationsutbyte framförs gemensamt av de myndigheter som ska ingå i informationsutbytet. Representanter för myndigheterna anser att lagstiftningen som styr informationsutbyte behöver ses över. Man lyfter fram att det finns en otydlighet i formuleringarna i olika myndigheters regelverk om vilka villkor som gäller vid informationsutbyte med andra myndigheter. Det efterfrågas en samsyn och ett helhetsgrepp kring informationsutbytet mellan myndigheter. Flera myndighetsrepresentanter anser att offentlighets- och sekretesslagstiftningen hindrar myndigheternas arbete med att säkerställa korrekta utbetalningar. När det inte handlar om grov organiserad brottslighet begränsas myndigheternas möjligheter att byta information med varandra. Respondenter från pekar på att det kan vara enklare att få till stånd ett elektroniskt informationsutbyte iform av s.k. utlämnande på medium för automatiserad behandling15, än i form av direktåtkomst. Orsaken är att det bedöms lättare att hantera utifrån ett juridiskt perspektiv. eSamverkansprogrammet (eSam) rekommenderar också att utlämnande av uppgifter inte bör ske genom direktåtkomst utan genom utlämnande på medium för automatiserad behandling.16 CSN har å sin sida löst inhämtandet av uppgifter från studieanordnare utomlands genom att den som söker studiemedel för utlandsstudier redan i ansökan godkänner att myndigheten inhämtar dessa uppgifter. Detta inhämtande av uppgifter sker dock inte automatiserat. 15 För en utförlig beskrivning, se eSamverkansprogrammets vägledning Elektroniskt informationsutbyte – en vägledning för utlämnande i elektronisk form. 16 eSamverkansprogrammet (2016): Elektroniskt informationsutbyte – en vägledning för utlämnande i elektronisk form. Rapporten konstaterar också att det efterfrågas ett tydligare rättsligt stöd för riskbaserade kontroller, där kontrollerna riktas mot ärenden med hög risk. Medarbetare på myndigheterna efterfrågar bland annat större tydlighet i vilka uppgifter som myndigheterna får använda och analysera för detta ändamål. Även prioriteringar av arbetet med korrekta utbetalningar generellt sett tas upp på flera sätt i rapporten. Exempelvis menar företrädare för myndigheterna att det finns en risk för att ett område prioriteras ned om det inte finns några mål för det, vilket ofta är fallet när det gäller felaktiga utbetalningar. Det har förts fram att siffersatta mål för att minska de felaktiga utbetalningarna skulle kunna bidra till att myndigheten i högre utsträckning prioriterar arbetet med felaktiga utbetalningar. finns det en samstämmighet mellan företrädare för myndigheterna om att arbetet med att säkerställa korrekta utbetalningar och motverka bidragsbrott är av långsiktig karaktär. Även målkonflikter mellan att betala ut snabbt och korrekt samt mellan kontroll och service lyfts fram som en utmaning som kan vara svår att hantera. 2.4Inställningen till felaktiga utbetalningar från välfärdssystemen17 I rapporten i samhället – En aktuell lägesbild av inställningen till felaktiga utbetalningar från välfärdssystemen (Rapport 2) har bland annat allmänhetens inställning till kontroller och informationsutbyte undersökts. I den attitydundersökning som genomförts framkom att endast 1 av 10 anser att myndigheterna kontrollerar för mycket och att informationsutbytet mellan myndigheterna är tillräckligt. 4 av 10 anser istället att myndigheternas utbyte av information inte är tillräckligt och att myndigheterna inte är onödigt noggranna i sina kontroller. Andelen som svarat ”tveksam” eller ”vet ej” på dessa påståenden är hög, vilket kan tyda på att de svarande har liten inblick i dessa frågor och att svaren därför får tolkas med större försiktighet.18 17Detta avsnitt bygger i sin helhet på delegationens rapport i samhället – En aktuell lägesbild av inställningen till felaktiga utbetalningar från välfärdssystemen (Rapport 2). 18Ibid., s. 3Styrning, forskning och etiska riktlinjer på området I detta kapitel redogör vi översiktligt för regeringens styrning på digitaliseringsområdet och den forskning som rör digitalisering och AI inom offentlig sektor. Vi presenterar också de etiska riktlinjer för AI som studerats översiktligt. 3.1Regeringens styrning på digitaliseringsområdet Regeringen presenterade 2017 en strategi för hur digitaliseringspolitiken ska bidra till konkurrenskraft, full sysselsättning samt ekonomiskt, socialt och miljömässigt hållbar utveckling. Strategin anger inriktning för regeringens digitaliseringspolitik. Visionen är ett hållbart digitaliserat och det övergripande målet att ska vara bäst i världen på att använda digitaliseringens möjligheter. Digitaliseringens möjligheter att stärka kvaliteten inom offentlig sektor nämns i strategin. Regeringen lyfter bland annat fram nya möjligheter med realtidsdata för bland annat beslutsstöd och bättre kvalitet i tjänster samt att det krävs starkare och tydligare samordning av standardiseringsfrågor och allt oftare gemensamma lösningar och investeringar. Regeringen anser också att uppgifter, där det är möjligt och relevant, bara ska behöva lämnas en gång. Offentlig sektor ska kunna utbyta information och samarbeta och öka sin effektivitet genom gemensamma lösningar som den personliga integriteten värnas. Också behovet av tillgång till enkla och säkra e-legitimationer lyfts fram i ljuset av att identitetskapningar och bedrägerier på internet bedöms vara ett stort samhällsproblem som får stora konsekvenser både för den Styrning, forskning och etiska riktlinjer på området enskilde och för samhällsekonomin. Perspektiven om korrekthet och korrekta utbetalningar omnämns dock inte i strategin.19 Regeringens strategi för en digitalt samverkande statsförvaltning, Med medborgaren i centrum, lyfter fram att det digitala informationsutbytet mellan statliga myndigheter bidrar till högre effektivitet och högre datakvalitet. Kvalitetsperspektivet är annars inte särskilt framträdande i strategin, inte heller under det aktuella delmålet Högre kvalitet och effektivitet i verksamheten. Perspektivet korrekta utbetalningar omnämns inte heller i denna strategi.20 –2018 tog regeringen flera steg att öka digitaliseringstakten genom Digitalt först, som var både ett program för digital förnyelse av den offentliga sektorn och en princip som säger att digitala tjänster, när det är möjligt och relevant, ska vara förstahandsval i den offentliga sektorns kontakter med privatpersoner och företag. inrättade regeringen för digital förvaltning (DIGG) och myndigheten har fått flera uppdrag inom bland annat informationsutbyte och grunddata, öppna data, uppföljning av it-kostnader samt rättsliga förutsättningar för digital samverkan.21 Grunddata definieras som uppgifter inom offentlig förvaltning som flera aktörer har behov av och som är viktiga i samhället.22 Att stärka tillgången till och kvaliteten på sådan grunddata av betydelse för beslut om utbetalningar för välfärdssystemen är också av stor vikt för att tillförsäkra korrekta utbetalningar. I delegationens arbete benämns dessa systemöverskridande uppgifter. I uppdragsbeskrivningen till DIGG och med flera myndigheter omnämns dock inte perspektivet korrekta utbetalningar.23 Regeringen () publicerade 2018 Nationell inriktning för Artificiell Intelligens, med syfte att peka ut en övergripande färdriktning för AI-arbetet i . 19Regeringskansliet () 2017: För ett hållbart digitaliserat –en digitaliseringsstrategi, dnr: N2017/03643/D. 20Regeringskansliet () 2012: Med medborgaren i centrum – Regeringens strategi för en samverkande statsförvaltning, artikelnummer: N2012.37. 22Myndigheten för digital förvaltning m.fl. (2019): Uppdrag om säker och effektiv tillgång till grunddata. Slutrapport för regeringsuppdragen Fi2018/02149/DF, Fi2018/03036/DF och I2019/01060/DF. Styrning, forskning och etiska riktlinjer på området pekar ut ett antal förutsättningar för att ta tillvara på de möjligheter som AI medför och pekar också på ett antal risker som behöver hanteras.24 Regeringen har också gett DIGG i uppdrag att främja den offentliga förvaltningens förmåga att använda artificiell intelligens och myndigheten ska bland annat analysera vilka AI- lösningar och förmågor som skulle kunna utvecklas och användas förvaltningsgemensamt.25 3.2Forskning om e-tjänster och AI En översiktlig genomgång av forskning inom e-förvaltning med hjälp av sökmotorer såsom Google Scholar, Science Direct och Scopus visar att mycket energi ägnats åt att studera olika aspekter på självbetjäningstjänster via internet, så kallade e-tjänster. Exempelvis finns en stor mängd modeller för att studera kvaliteten hos e-tjänster. I princip samtliga studier tycks uteslutande behandla medborgarens perspektiv på kvalitet, medan de offentliga organisationernas perspektiv på kvalitet inte finns representerade i någon större utsträckning. I e-förvaltningsforskningen om e-tjänster står alltså medborgarens upplevelse och mottagande av e-tjänsten i centrum. Perspektivet korrekta utbetalningar, eller korrekthet generellt, tycks därmed ha utelämnats av forskare inom e-förvaltnings- området. Inga forskningsartiklar med detta fokus har hittats i genomgången. De få studier som identifierats som har en viss likhet med perspektivet korrekta utbetalningar handlar om korruption och då endast innefattande oegentligheter som begås av offentliganställda eller politiker. Dessa studier skulle kunna peka på att e-förvaltning kan ha en anti-korruptionseffekt genom att göra myndigheter mer transparenta. Det finns dock inte några studier som indikerar att korruption är en betydande orsak till felaktiga utbetalningar från välfärdssystemen. 24 , (2018): Nationell inriktning för artificiell intelligens. Informationsmaterial, N2018.14. 25 , Infrastrukturdepartementet (2019): Uppdrag att öka den offentliga förvaltningens förmåga att tillgängliggöra öppna data, bedriva öppen och datadriven innovation samt använda artificiell intelligens. Styrning, forskning och etiska riktlinjer på området 3.2.2Relationen mellan det offentliga och medborgare Andra forskningsstudier handlar om hur digitaliseringen påverkar relationen mellan privatpersoner och myndigheter. Studier pekar på att självbetjäningstjänster förflyttar ansvar från offentliga organisationer till privatpersoner och företag. Ett exempel där ansvaret för korrekt information flyttats från till skogsbolagen och den enskilde skogsägaren i och med digitalisering av avverkningsanmälan.26