Kunstig intelligens i den offentlige forvaltning: sammenhænge mellem algoritmisk regulering og automatisering af beslutninger i de danske AI ”signaturprojekter”
Forfattere: Jakob Laage-Thomsen, Helene Friis Ratner
Tidsskrift: politica (2025-04-11)

Jakob Laage-Thomsen og Helene Friis Ratner Kunstig intelligens i den offentlige forvaltning: sammenhænge mellem algoritmisk regulering og automatisering af beslutninger i de danske AI 'signaturprojekter'1

I perioden 2020-2022 investerede regeringen, KL og Danske Regioner i 40 'signaturprojekter' med henblik på at skabe erfaringer med kunstig intelligens (AI) i  den  offentlige  sektor.  Artiklen  anvender  en  udvidet  typologi  fra  frameworket 'algoritmisk regulering' til at undersøge, hvilken form for algoritmisk regulering signaturprojekterne er udtryk for, og hvordan AI udvikles til at understøtte og automatisere beslutninger i den danske offentlige forvaltning. Analysen bidrager konceptuelt og empirisk til den eksisterende litteratur ved at (a) udvikle en udvidet typologi til at klassificere AI som regulering og automatisering af beslutninger og (b) vise sammenhængen mellem regulerings- og beslutningsstøtteformer på tværs af samtlige danske AI signaturprojekter. Det åbner op for en nuanceret diskussion af,  hvordan AI fremmer forskellige former for algoritmisk regulering og beslutningsautomatisering på forskellige forvaltningsområder samt implikationerne af dette for relationen mellem stat og borger.

Nøgleord: kunstig intelligens/AI, offentlig administration, AI signaturprojekter, beslutningsstøtte, algoritmisk regulering, automatisering

I  2019  lancerede  regeringen  en  national  strategi  for  kunstig  intelligens,  som lovede, at 'Den offentlige sektor skal anvende kunstig intelligens til at tilbyde service i verdensklasse' (Regeringen, 2019: 10). Målsætningen omfattede både større  kvalitet  i  borgerrettet  service  og  effektivisering.  I  kølvandet  på  strategien oprettede regeringen, KL og Danske Regioner en investeringsfond (187 mio. kr.), der finansierede 40 signaturprojekter igangsat over en treårig periode (2020-2022). Formålet var at teste udviklingen og anvendelsen af kunstig intelligens, herefter AI ( artificial intelligence ) i den offentlige sektor. Der er store forventninger til,  at  udbredelse  af  AI  i  den  offentlige  forvaltning  kan  'revolutionere' dens organisering (fx Engin og Trealeaven, 2019), men det er også forbundet  med  en  række  dystopiske  fremtidsscenarier  (Hansen,  2022).  Dog mangler empirisk forskning, der kan situere sådanne spekulationer i konkrete cases  (Sun  og  Medaglia,  2019);  ikke  mindst  empirisk  forskning  som  går  ud over singlecasestudier og kan analysere implikationerne af AI i den offentlige forvaltning i et bredere perspektiv.

Begrebet AI opstod i efterkrigstiden  og  defineres  i  dag  som  'en  maskines evne til at have menneskelignende evner såsom ræsonnement, læring, planlægning og kreativitet' (EC HLEG, 2019). Teknikkerne spænder fra regelbaserede matematiske modeller for menneskelig logik (symbolsk AI) over maskinlæring, hvor en algoritme 'trænes' til at finde mønstre i datasæt og 'lære' disse (konnektivistisk AI) (Cardon, Cointet og Mazieres, 2018). Signaturprojekterne anvender maskinlæring til at udvikle prædiktive algoritmer og falder således særligt inden for det sidste paradigme.

Anvendelse af AI i den offentlige forvaltning kan med fordel anskues som 'algoritmisk regulering', hvilket Yeung og Lodge (2019: 3) definerer som 'intentionelle forsøg på at håndtere risici eller ændre adfærd for at opnå et mål' gennem anvendelse af algoritmer. Udvikling af AI handler ikke blot om at 'tilbyde  service  i  verdensklasse',  som  regeringen  anfører  i  det  indledende  citat, men medfører potentielt en ny form for styring, hvor algoritmer udviklet på baggrund af store mængder data anvendes til at forudsige, foregribe og derigennem påvirke fx borgeres adfærd (Williamson, 2014). Endvidere, som Danaher et  al.  (2017)  anfører,  indebærer  algoritmisk  regulering  'en  voksende  vilje  til at  outsource  beslutningstagning  til  algoritmebaserede  beslutningssystemer'. Derfor  udgør  automatisering  af  beslutninger  en  væsentlig  del  af  algoritmisk regulering.

Da fuldstændig eller delvis automatisering af beslutninger udgør et centralt element i mange signaturprojekter, er denne dimension særligt relevant at afdække som en del af algoritmisk regulering. Derfor spørger vi i denne artikel: Hvilke sammenhænge er der mellem forskellige former for algoritmisk regulering og automatisering af beslutninger i signaturprojekterne? Artiklen leverer to bidrag til litteraturen inden for algoritmisk regulering. For det første bidrager den med en systematisk og bred kortlægning til den danske forskning, der ellers er præget af singlecasestudier (Flügge et al., 2022; Jørgensen, 2023; Pors, Pedersen og Kirkegaard, 2023; Ratner og Schrøder, 2023; Sun og Medaglia, 2019). På baggrund af fund i det empiriske materiale bidrager artiklen endvidere til Yeungs (2018) typologi med nye klassifikationer af forskellige former for AI-understøttet beslutningsstøtte og forskellige niveauer for algoritmisk regulering. Udvidelsen er relevant, fordi den gør det muligt at differentiere AIsystemer i forhold til deres konstruktion af prædiktionsmål, dvs. det outcome, som en algoritme skal kunne forudsige, og som dermed bliver til genstand for (delvis) automatiseret beslutningstagning.

Analysen og typologiudvidelsen bygger på et komparativt studie af de 40 signaturprojekter. Signaturprojekterne fungerer som flagskibsprojekter for udvikling og implementering af AI-løsninger i dansk offentlig forvaltning, og vi anskuer dem som 'paradigmatiske cases' (Flyvbjerg, 2006). Selvom projekterne ikke repræsenterer en udtømmende liste over AI-erfaringer i den offentlige sektor, står de efter bedste anslag for tæt på 50 pct. af AI-forsøg på kommunalt og regionalt niveau (Bagger et al., 2023; Datatilsynet, 2023 2 ).  I  skrivende stund er  kun  få  signaturprojekter  implementeret.  Signaturprojekterne  giver  således indblik i, hvordan man i Danmark eksperimenterer med algoritmisk regulering.

Efter  et  baggrundsafsnit,  der  introducerer  signaturprojekterne,  redegør  artiklen for forskningsfeltet algoritmisk regulering. Dette følges af en beskrivelse af, hvordan vi operationaliserer og udvikler denne teori til en typologi i et abduktivt samspil med empirien. Derefter præsenteres artiklens empiriske grundlag og metode, hvor den abduktive tilgang beskrives mere detaljeret. Analysen undersøger forholdet mellem algoritmisk regulering og automatisering af beslutninger  ved  at  vise  sammenhænge  imellem  monitorering,  automatisering, prædiktion  og  beslutningsstøtte  i  projekterne.  I  konklusionen  diskuterer  vi implikationerne af de analytiske fund, herunder hvilke former for algoritmisk regulering og beslutningsautomatisering der dominerer, og hvad dette betyder for relationen mellem stat og borger. Artiklens fund understreger, at AI ikke blot  kan anskues som 'digitalisering', 'serviceforbedring' eller 'innovation', men griber mere grundlæggende ind i den offentlige forvaltnings reguleringsog beslutningspraksisser. Artiklen er ledsaget af et datasæt, der refererer hvert eksempel, som fremføres i teksten, og desuden kan understøtte videre forskning i offentlige AI systemer ( bilag 1 ).

## Introduktion til signaturprojekterne

Signaturprojekterne dækker 40 projekter igangsat 2020-2022. Projekternes gennemsnitlige budget var 4,68 mio. kr. med en gennemsnitlig planlagt varighed på 2,3 år, omend flere projekter har forlænget deres projektperiode. Projekterne er delt imellem de kommunale og de regionale myndigheder. De spænder over fem forvaltningsområder, hvor sundhed primært håndteres af regionerne, mens administration, klima og miljø, beskæftigelse samt social- og omsorgsområdet, med en enkelt undtagelse, håndteres af kommunerne (se tabel 1).

I  praksis  har  alle  projekter  omfattet  udvikling  af  mindst  én  type  maskinlæringsalgoritme, oftest som del af en større systeminfrastruktur kombineret med deterministiske elementer såsom robotic process automation (RPA). 3 Færre projekter har trænet neurale netværk, og ingen har arbejdet med generativ AI. For at give læseren en indledende forståelse af signaturprojekterne beskriver vi nedenfor de problemer, som projekterne forsøger at løse inden for hvert forvaltningsområde. Eksemplerne er udvalgt til at afspejle signaturprojekternes variation, som vi i de følgende afsnit dykker nærmere ned i.

Tabel 1: Antallet af projekter fordelt på forvaltnings-og administrationsområdet, gennemsnitligt budget og planlagt forløb (N = 40)

| Forvaltningsområde   | Antal kommunale projekter   | Antal regionale projekter   | Gns. budget (mio. kr.)   | Gns. planlagt forløb (år)   |
|----------------------|-----------------------------|-----------------------------|--------------------------|-----------------------------|
| Administration       | 5                           | -                           | 4,08                     | 2,0                         |
| Klima og miljø       | 3                           | 1                           | 4,72                     | 2,2                         |
| Beskæftigelse        | 4                           | -                           | 4,90                     | 1,8                         |
| Social og omsorg     | 8                           | -                           | 3,88                     | 1,9                         |
| Sundhed              | -                           | 19                          | 5,11                     | 2,7                         |
| Total                | 20                          | 20                          | 4,68                     | 2,3                         |

Projekterne på administrationsområdet (n = 5) fokuserer på sagsbehandling og kommunikation med borgere, primært på backendsiden og på sagsniveau. I et eksempel trænes NLP-modeller til at genkende, hvilket tema en borgerhenvendelse drejer sig om, så mailsorteringen dermed kan automatiseres ( bilag 1 , Sig20\_13). Et andet eksempel er modeller, der anvender NLP-teknikken named entity recognition til  at  fremhæve de individer eller organisationer, en sagsbehandler muligvis skal anonymisere i dokumenter ved aktindsigtsanmodninger ( bilag 1 , Sig22\_2). Denne slags modeller kan derefter indlejres i mere generelle sagsbehandlingssystemer.

Projekterne på klimaområdet (n = 4) fokuserer primært på at optimere ressourceforbrug. Halvdelen af projekterne forsøger at optimere energiforbruget i  bygninger  ved  at  undersøge  eller  styre,  hvornår  der  opvarmes  og  ventileres ( bilag 1 , Sig22\_3 og Sig21\_6). Projekterne anvender sensordata, og algoritmer trænes til at prædiktere brugsvaner og foretage - eller foreslå - handlinger på den baggrund. De resterende projekter har fokus på at forudsige risiko for oversvømmelser baseret på meteorologisk data ( bilag 1 , Sig21\_8) og på at simulere behovet for kommunens bilflåde baseret på brugsdata og fremtidige ønsker ( bilag 1 , Sig21\_7).

Tidlige projekter på beskæftigelsesområdet ville kategorisere (og dermed profilere) borgere på individniveau ud fra deres ledighedsrisiko og/eller foreslå sagsbehandleren interventioner (fx bilag 1 , Sig20\_10 og Sig20\_11). Sådanne formål blev vurderet ulovlige af Datatilsynet (2022). Et senere projekt har skiftet fokus til backendoptimering af arbejdsgange igennem process mining mhp. at identificere flaskehalse i sagsgange ( bilag 1 , Sig22\_4). Projektet havde som sekundært formål at prædiktere 'borgerforløb der ikke vil forløbe optimalt', men har valgt at  stoppe  denne  del  af  projektet  grundet  ovenstående.  Et  sidste  projekt  ville matche ledige med aktuelle stillingsopslag på baggrund af deres CV, men nåede ikke videre end konceptfasen ( bilag 1 , Sig20\_12).

På  social-  og  omsorgsområdet  har  mange  projekter  forsøgt  at  prædiktere borgeres risiko eller fremtidige behov mhp. at forebygge akut hospitalisering, optimere  visitationsprocesser,  screene  sagskompleksiteter  eller  vurdere  den sandsynlige effekt af en indsats. Et projekt udviklede fx AI til at score kompleksitetsniveau  i  en  sag  for  at  lave  en  hurtig  og  prioriteret  visitationsproces ( bilag 1 , Sig20\_15), imens et andet ville forudsige risikoen for, at en borger blev genindlagt inden for 30 dage mhp. forebyggelse ( bilag 1 ,  Sig21\_11). Flere af disse projekter er også blevet pauseret eller stoppet grundet blandt andet manglende lovhjemmel. Andre projekter har forsøgt at understøtte sagsbehandlingen igennem beslutningsstøtte omkring den konkrete sag. Det kan fx være ved at træne en algoritme til at give sagsbehandleren eksempler på tidligere afgørelser i lignende sager ( bilag 1 , Sig21\_12).

Sundhedsområdet har ligesom socialområdet mange projekter, der forsøger at prædiktere borgeres nuværende eller fremtidige sundhedstilstand inden for forskellige  patientgrupper.  Et  projekt  arbejder  fx  med  at  forudsige  patienter med risiko  for  graviditetskomplikationer  for  at  prioritere,  hvem  der  tilbydes kliniske vurderinger og interventioner ( bilag 1 , Sig21\_13). Et andet projekt har til formål at identificere ubehandlede/ikkediagnosticerede tilfælde af skizofreni eller bipolar lidelse på baggrund af andre sundhedsdata ( bilag 1 , Sig21\_3).

Andre projekter vil optimere diagnoseprocessen på baggrund af specifikke inputs.  Her  fylder  særligt  forskellige  former  for  billeddiagnostik,  hvor  AI  fx udvikles til at fortolke røntgenbilleder ( bilag 1 , Sig21\_1) eller identificere øjensygdomme og dermed prioritere behandling ( bilag 1 , Sig22\_11). Kun ét projekt på sundhedsområdet har ikke primært handlet om individuel diagnosticering. Det ville i stedet optimere ressourceforbrug ved at udvikle et system til at forudsige den fremtidige patientbelæg  ning på hospitalsstuerne ( bilag 1 , Sig20\_4).

Ved sommer 2023 er 21 ud af 40 projekter driftsimplementeret eller fuldt afsluttede. Fire projekter (19 pct.) er ved deres afslutning fuldt implementeret i forvaltningen, og 8 (38 pct.) er test- eller delvist implementeret. Det vil sige, at  de  er  udviklet  og  søgt  implementeret  i  praksis,  men  under  særlige  forudsætninger, eller fx uden at deres maskinlæringsmodul er sat i drift (fx bilag 1 , Sig20\_14). Det er derfor ikke afgjort, om de kan skaleres og indgå i normal drift. På sundhedsområdet er denne status særligt forbundet med kliniske for- søg, der skal afsluttes først. Endelig er ni projekter (43 pct.) ikke implementeret og enten stoppet/pauseret (33 pct.) eller har fortsat udviklingen (10 pct.). Digitaliseringsstyrelsen har i skrivende stund udgivet erfaringsopsamlinger fra de første to runder med signaturprojekter. Rapporterne afdækkede både potentialer og en lang række udfordringer, herunder datakvalitet, jura (fx fortolkning af GDPR eller forvaltningsloven) og it-infrastruktur (Digitaliseringsstyrelsen, 2021). De mange udfordringer gør, at det oftest er muligt at pege på mere end én årsag til, at nogle projekter er nået længere end andre.

## Litteraturgennemgang: AI som regulering

Regulering  er  et  begreb  og  en  tilgang  inden  for  politologien  og  sociologien, som fokuserer på de systemer (af regler og 'håndhævere'), der regulerer adfærd i samfundet (se Koop og Lodge, 2017). Reguleringslitteraturen, i parløb med governancelitteraturen mere bredt, fokuserer på (stats-)styring i senmoderne og kapitalistiske samfund. I litteraturen forstås regulering på den ene side som en specifik  (neoliberal)  styringsform,  der  indebærer  offentlige  myndigheders  direkte og intentionelle interventioner i form af bindende standarder, monitorering og sanktionering. På den anden side undersøges regulering også mere bredt som 'alle  former  for  social  kontrol  -  inklusive  uintenderede  og  ikkestatslige processer' (Baldwin, Scott og Hood, 1998). En mere præcis definition er Julia Blacks beskrivelse af regulering som en styringsform, der er karakteriseret ved en intentionel orientering mod et prædefineret formål og består af tre (selv-) regulerende mekanismer: i) opsættelse af målsætninger/standarder, ii) informationsindhentning og monitorering og iii) intervention og sanktionering for at rette adfærd efter det overordnede mål (Black, 2014 i Ulbricht og Yeung, 2022).

Inden for denne tradition har Karen Yeung udviklet begrebet 'algoritmisk regulering' til at forstå, hvordan de senere års teknologiske udvikling påvirker eller forandrer eksisterende reguleringsformer og forholdet imellem forvaltning og borger (Yeung, 2018; Yeung og Lodge, 2019). Her defineres algoritmisk regulering som 'videnssystemer, der bruges til at udføre eller informere beslutninger', mens regulering handler om 'intentionelle forsøg på at håndtere risici eller ændre adfærd for at opnå et mål' (Yeung og Lodge, 2019: 3). Begrebet er stadig i sin vorden, men har udviklet sig til en anerkendt teoriretning inden for reguleringslitteraturen (se fx Yeung og Ulbrich, 2022 særnummer i Regulation and Governance ). Samtidig, og som forfatterne nævner, overlapper algoritmisk regulering med forskningsområder som algorithmic governance (se fx Danaher et al., 2017).

Algoritmisk regulering trækker på flere interdisciplinære felter, der anlægger et  samfundsfagligt  perspektiv  på  algoritmer  og  datamedierede  virkeligheder, såsom c ritical data studies og videns- og teknologistudier (STS). Herfra kan vi pege på en række overordnede betragtninger om, hvordan AI ændrer samfundet. Campolo og Schwerzmann (2023: 2) argumenterer fx for, at maskinlæring producerer en ny normativitet, som kan 'transformere måden, hvorpå samfund begrebsliggør, udøver og legitimerer autoritet'. Flere undersøgelser viser endvidere, at prædiktive algoritmer kan fremme en anticipatorisk styringsform, hvor staten orienterer sagsbehandling og regulering ift. en risikologik, der prioriterer tidlige  og  foregribende  interventioner  (Amoore,  2013;  Cevolini  og  Esposito, 2020; Munro, 2019; Ratner og Elmholdt, 2023).

I denne artikel er reguleringsperspektivet fordelagtigt af to årsager. For det første, og i modsætning til det bredere algorithmic governance ,  indeholder det et begrebsapparat (se næste afsnit), der muliggør systematisk klassifikation af forskellige former for algoritmisk regulering. For det andet gør det os i stand til at forstå AI-systemer i forlængelse af eksisterende styringsformer. Det vil altså sige, at vi kan behandle AI-systemer både som reguleringssystemer i sig selv og som komponenter, der indgår i og omformer eksisterende reguleringssystemer.

På denne måde kan vi også sætte parentes omkring, hvor grænserne imellem 'velfærdsydelser' og 'regulering' går (se fx Levi-Faur, 2014). Velfærdsserviceydelser og regulering (forstået som kontrol) kan anskues som adskilte hovedopgaver for offentlige organisationer, om end de ofte er sammenflettede i praksis (Jensen,  2018).  I  disse  studier  peges  på,  at  de  to  hovedopgaver  kan  lede  til forskelle i, hvorvidt beslutninger retfærdiggøres i forhold til den enkelte borgers situation  (service)  eller  samfundet  som  helhed  (regulering).  Det  er  dog  også sådan, at myndigheder, der leverer service, samtidig har ansvar for at vurdere, hvem der har ret til en given behandling, og hvem der skal prioriteres først, hvilket  pålægger  dem  en  faglig  vurdering.  I  sådanne  beslutningssituationer, hvor beslutningsstøtte eller -automatisering baseret på AI introduceres, bliver en beslutningssituation også til en reguleringssituation og kan med fordel anskues igennem dette perspektiv.

## Operationalisering

I analysen anvender vi Yeungs (2018) typologi over algoritmisk regulering, som skelner imellem formen for monitorering og graden af automatisering. Vi tilføjer to variable, prædiktionsniveau og beslutningstype , som er opstået i vores abduktive kodning af casematerialet (se metodeafsnittet nedenfor) og retter sig mod at klassificere hhv. forskellige niveauer for forudsigelse og forskellige former for beslutningsstøtte. Vi anvender de fire variable i analysen af signaturprojekterne.

## Monitorering

Yeung skelner først og fremmest mellem proaktiv og reaktiv monitorering. Proaktiv monitorering handler om at identificere sager/borgere, som ellers måske ville blive overset, eller som er i en særlig risikogruppe. Monitoreringen er proaktiv, fordi den inkluderer alle i en given population og med en vis frekvens. Det svarer således til den anticipatoriske styringslogik beskrevet ovenfor. Blandt signaturprojekterne findes fx helbredsalarmer (se bilag 1 ,  Sig20\_3). Et andet velbeskrevet  dansk  eksempel  på  proaktiv  monitorering  er  det  nu  skrinlagte 'databaseret tidlig opsporing' fra Gladsaxe Kommune, der skulle risikoscreene samtlige familier i kommunen mhp. at opspore udsatte familier, før symptomer på et barns mistrivsel opstod (Ratner og Elmholdt, 2023). Proaktive systemer er ofte associeret med formål som 'tidlig opsporing' eller 'forebyggelse'. Modsat er reaktive systemer udelukkende appliceret på indkomne sager, som skal underlægges en form for beslutningsstøtte eller automatiseret sagsbehandling. Det betyder, at reaktive systemer først anvendes, når en sag opstår - det kan fx være en risikovurdering af en underretning, når den modtages (se bilag 1 , Sig21\_9), hvorimod proaktiv monitorering udgør løbende overvågning og screening af en population.

## Automatisering

Yeung (2018) skelner desuden mellem, hvorvidt algoritmer autonomt træffer beslutninger ( automated decision-making , herefter ADM-systemer), eller hvorvidt et menneske skal indgå i beslutningskæden ( automated decision support , herefter ADS-systemer). Det kan synes simpelt at afgøre, om en algoritme kommer med information eller anbefalinger fremfor at automatisere en handling. Omvendt kan en automatiseret handling godt indgå i en større beslutningskæde, før det leder tilbage til en borger, eller udgøre en mindre komponent i et større system (fx automatisk screening af dokumenter i en ansøgning, som giver en automatisk påmindelse til ansøger, hvis der mangler dokumenter, inden sagen viderebehandles (Sig20\_14)). Der er således tale om grader af automatisering, hvor vi har fokus på det væsentlige output af systemet i vores klassifikationer. For eksempel er Sig20\_13 et ADM-system, fordi dets opgave er at klassificere, hvad en borgerhenvendelse drejer sig om, for derefter automatisk at sortere og videresende henvendelsen.

## Prædiktionsniveau

Vi har udvidet Yeungs typologi med variablen 'prædiktionsniveau' for at indfange,  på  hvilket  niveau  målsætningen  for  algoritmisk  regulering  defineres. Med maskinlæring bliver  regulering  et  prædiktionsproblem,  hvor  algoritmer

'trænes' til at forudsige et output, givet et stort antal input-output-par. Hvis en algoritme fx trænes til at forudsige sandsynligheden for, at en borger gennemfører et træningsforløb, så handler reguleringen om at bruge den beregnede sandsynlighed til visitation af træning i rehabiliteringssager ( bilag 1 , Sig20\_9).

Outputtet - det som algoritmen er trænet til at forudsige - beskriver altså, hvordan genstanden for algoritmisk regulering er formateret. Yeungs eksisterende typologi fokuserer som sagt på monitorering og automatisering, men vi finder det også relevant at differentiere mellem forskellige niveauer af algoritmisk prædiktion. Vi har i kodningsprocessen udviklet en udtømmende kategorisk variabel til at adskille tre prædiktionsniveauer, som en algoritme kan trænes til at forudsige på.

Det første er et sagsniveau. Her er tale om algoritmer, der beregner sandsynligheden for, at en sag er af en særlig type eller alvorlighed. De fleste algoritmer, der forudsiger på sagsniveau, anvender billed- eller tekstgenkendelsesalgoritmer ( computer vision og natural language processing ),  da  det handler om at tage et billed- eller tekstinput og give en korrekt klassifikation; det være sig i en risikogruppe, en spørgsmålstype eller et tema. Det kan fx være en model, der udelukkende ud fra ordsammensætningen i en borgerunderretning skal hjælpe med at screene alvorligheden ( bilag 1 , sig21\_9).

Det næste niveau, individniveau, omfatter modeller, der vil forudsige et individs nuværende eller fremtidige tilstand, det være sig ift. sundhed, beskæftigelse eller  inden for social- og ældreforvaltningens domæne. De fleste algoritmer i denne kategori udregner risikoscores med henblik på at rangere individers risiko for, at en begivenhed eller en diagnose finder sted, og kan således betegnes som profileringsværktøjer (Ratner, 2019). Det kan fx være en model, der på baggrund af data fra kommunens omsorgssystem og sundhedsplatformen skal give hjemmesygeplejersker en risikovurdering af sandsynligheden for, at en borger bliver indlagt inden for 30 dage ( bilag 1 , Sig21\_11). Modeller i denne kategori sammenkører ofte flere forskellige data end sagsniveauet. Det kan både være tekst og numeriske variable på tværs af sagssystemer og registre.

Endelig omfatter det organisatoriske niveau modeller, som skal forudsige eller simulere tilstande for et område eller en helhed. Modellerne på dette niveau er generelt rettet mod optimeringsproblemer. Det kan fx være algoritmen, der bruger medarbejderes historiske kørselsdata på kommunalt niveau til at udregne det fremtidige behov for køretøjer ved forskellige scenarier og transporttyper ( bilag 1 , Sig21\_7).

## Beslutningstype

Vi har også udvidet Yeungs typologi med variablen 'beslutningstype'. Vores indledende kodning viste os, at reaktive beslutningsstøttesystemer (ADS) dækker over et broget landskab af systemer, hvor forskellene ikke fanges i den algoritmiske reguleringslitteratur. Af den grund så vi et behov for at udvikle en mere finmasket kodning af reaktive ADS-systemer ved at se på, hvilken type beslutning de skal understøtte. Derfor udviklede vi en ikke udtømmende kategorisering af tre beslutningstyper, som ADS-systemer kan være tiltænkt.

For det første kan systemerne være tiltænkt prioritering . Denne type handler om at identificere de sager eller personer, der har mest akut behov for intervention eller sagsbehandling. Det kan fx være i forbindelse med bevilling af kropsbårne hjælpemidler, hvor et system udvikles til at prioritere ansøgninger om mere kritiske hjælpemidler først ( bilag 1 , Sig21\_12).

For det andet kan et reaktivt ADS-system udvikles til anbefaling ved at komme med interventionsforslag. Anbefalinger eksisterer på et kontinuum fra udstilling af tidligere afgørelser på lignende sager over effektscorer til rangering af konkrete anbefalinger. De har alle det til fælles, at de anbefaler en given intervention (over en anden). For eksempel ville et signaturprojekt inden for beskæftigelsesområdet (videre-)udvikle et reaktivt ADS-system, der på baggrund af en borgers uddannelse og erhvervserfaring skulle finde tilbud givet til lignende borgere (med positiv effekt) og opstille tre anbefalinger ( bilag 1 , Sig20\_11).

For det tredje bliver reaktive ADS-systemer udviklet til at optimere allokeringen af ressourcer på tværs af systemet. Et eksempel er projektet 'øget kontinuitet i  ældreplejen',  der  udviklede  et  værktøj  til  planlægning  af  besøg  gennem  en 'kontinuitetsscore' (organisationsniveau), så færrest muligt forskellige medarbejdere besøger en borgers hjem ( bilag 1 , Sig22\_5). Der er altså tale om optimering af brugen af ressourcer på tværs af sager snarere end prioritering af den enkelte sags alvorlighed.

## Metode

## Data

Projekterne har været afkrævet at producere årlige statusrapporter og en slutrapport.  Vi  har  fra  hvert  projekt  indhentet  følgende  (i  det  omfang  det  var tilgængeligt): indledende projektansøgning, årlige og slutrapporter, teknisk dokumentation og eventuelle juridiske vurderinger. Vi har indsamlet 239 dokumenter (a 5-60 sider) af denne karakter ved hjælp af aktindsigtsanmodninger. Tre projekter er enten ikke nået eller når ikke i løbet af projektperioden til et stadie,  hvor  vi  kan  vurdere  deres  algoritme  ud  fra  vores  udvalgte  parametre. Derfor fokuserer vi i de deskriptive tabeller på 37 projekter (ud af 40).

## Abduktiv analyse

I analysen er vi interesseret i at forstå sammenhængen mellem algoritmisk regulering og automatisering af beslutninger. Metodisk har vi fulgt en abduktiv analysestrategi, som kombinerer en deduktiv forforståelse af fænomenet med en  induktiv  tematisk  kodeproces  for  at  identificere  nye  empirisk-teoretiske mønstre (Timmermans and Tavory, 2012). Metoden er velegnet, fordi den har tilladt  os  at  sætte  særligt  fokus  på  målsætningselementet  i  den  algoritmiske reguleringslitteratur på tværs af et større udvalg af eksempler og dermed tilladt en mere detaljeret klassifikation og differentiering end dem, som vi kender fra de eksisterende typologier (Yeung, 2018). I den abduktive kodeproces (cf. Thompson, 2022) har vi arbejdet med en induktiv kondensering og kodning af materialet omkring en række tematiske spørgsmål, et deduktivt skridt hvor vi  har  kategoriseret  materialet  ud  fra  litteraturen  om  algoritmisk  regulering, og endelig en abduktiv bevægelse imellem de to, hvor vi har forbundet vores induktive interesse i projekternes data og tekniske grundlag med en teoretisk interesse i den regulatoriske målsætning.

For hvert dokument i projektet har vi først markeret, hvor i teksten der svares på overordnede tematikker omkring projektformål og udviklingsstatus, modellernes tekniske dimensioner og datagrundlag samt juridiske og etiske problemstillinger. Herefter har vi kodet data ud fra en række spørgsmål (se bilag 2 for de konkrete spørgsmål), som enten kunne besvares som citater fra teksten, som opsummerende kvalitative beskrivelser (per projektperiode) eller som konkrete informationer  (fx  årstal  eller  datagrundlag).  Informationerne  er  blevet  sammenholdt med senere årsrapporter, og der er kun tilføjet yderligere information, hvis der fremgik ændringer i materialet.

I det deduktive skridt kategoriserede vi projekterne som algoritmiske reguleringssystemer ud fra Yeungs taksonomi, jf. operationaliseringsafsnittet ovenfor. Systemerne er komplekse, og derfor har vi opereret inklusivt med monitorerings- og automatiseringsvariablen. Således er ethvert projekt, der har et centralt proaktivt modul, kodet som sådan, og ethvert projekt, der indeholder et centralt  automatiseret  modul,  kodet  som  sådan.  Derfor  kan  systemer  i  disse kategorier  også  indeholde  reaktive  eller  beslutningsstøttende  elementer.  Det modsatte er ikke tilfældet.

I  den  abduktive bevægelse prøvede vi at forstå den variation, vi så i vores empiriske materiale omkring genstanden for den algoritmiske beslutningsunderstøttelse inden for de ellers 'ens' regulatoriske systemer. Det ledte til variablerne prædiktionsniveau og beslutningstype beskrevet i foregående afsnit. Med hensyn til prædiktionsniveau forekommer der i signaturprojekterne eksempler, hvor et helt system består af flere moduler, der arbejder på forskellige niveauer.

Her har vi valgt at kategorisere efter det mest centrale prædiktionsniveau i løsningen.  For  hver  kategori  har  vi  arbejdet  med  kanoniske  eksempler,  som  vi også præsenterer løbende i teksten for at forankre forbindelsen imellem teori og empiri.

## Begrænsninger

Styrken  ved  at  undersøge  signaturprojekterne  er,  at  Digitaliseringsstyrelsens dokumentationskrav muliggør en komparativ analyse ud fra samme parametre på tværs af projekterne. Omvendt udgør datagrundlaget projektejernes selvrapporterede  redegørelser,  som  må  antages  at  være  mere  positive  end  eventuelle eksterne og uafhængige evalueringer. Da vi ikke analyserer signaturprojekternes (selvrapporterede) potentialer eller legalitet (som har vist sig at adskille sig fra fx Datatilsynets (2023)), men derimod undersøger deres reguleringsformer og automatiseringer af beslutninger, forholdsvis deskriptive parametre, vurderer vi ikke, at dette forhold begrænser analysens udsigelseskraft væsentligt.

Yderligere  udgør  vores  empiriske  grundlag,  som  beskrevet  i  indledningen, et begrænset udsnit af algoritmisk regulering i Danmark, og vi kan ikke konkludere, om vores fund er repræsentative for alle danske eksempler. Endelig, og som vi forholder os til undervejs, er ikke alle projekter afsluttet, hvorfor de data og fortolkninger, der fremgår i artiklen, er udtryk for den tilgængelige information fra projekterne sommer 2023.

## Hvilke former for algoritmisk regulering finder vi i signaturprojekterne?

Analysen  af  signaturprojekterne  følger  tre  skridt.  Først  udforsker  vi,  hvilke typer algoritmiske reguleringssystemer de er udtryk for. Derefter præsenterer vi  en  klassificering  af,  hvilket  prædiktionsniveau  modellerne  udvikles  på.  På denne baggrund kan vi vise, at der er størst variation blandt de reaktive ADSsystemer, som vi til slut udfolder.

Vi er interesserede i at forstå typerne af reguleringssystemer under udvikling, og hvordan de automatiserer beslutningsprocesser. Tabel 2 viser sammenhængen mellem monitoreringstype og beslutningssystem. Monitorering kan være proaktiv eller reaktiv, mens beslutningsformen adskiller fuldt automatiserede beslutningssystemer (ADM) uden inddragelse af menneskeligt skøn og beslutningsstøttesystemer (ADS), der skal understøtte det professionelle skøn.

Tabellen viser de forskellige reguleringsformer, som signaturprojekterne repræsenterer. Cirka en femtedel ( n = 6) arbejder med ADM-systemer, hvor beslutningen er fuldt automatiseret uden menneskeligt skøn. Cirka en tredjedel af projekterne ( n = 13) har arbejdet med proaktive ADS-systemer, der monitorerer en gruppe og producerer præventive beslutningsforslag (typisk alarmer). Knap halvdelen ( n = 18) arbejder med reaktive ADS-systemer. Vi udfolder disse mere detaljeret senere.

Tabel 2: Fordelingen af algoritmiske reguleringssystemer blandt signaturprojekterne (N = 37)

|                                       |   Reaktiv monitorering |   Proaktiv monitorering |
|---------------------------------------|------------------------|-------------------------|
| ADS (automatiseret beslutningsstøtte) |                     18 |                      13 |
| ADM(automatiseret beslutningstagning) |                      6 |                       0 |

Der er ikke eksempler på proaktive ADM-systemer blandt signaturprojekterne.  Det  flugter  på  sin  vis  med  to  observerbare  tendenser  mod  hhv.  ADSsystemer ( n = 32) fremfor ADM-systemer ( n = 6) og reaktiv ( n = 24) fremfor proaktiv monitorering ( n = 14). Det er dog ikke et udtryk for, at sådanne systemer ikke eksisterer i Danmark, hvor de udvikles i centraladministrationen (se Datatilsynet, 2023).

Tabel 3 viser de samme reguleringssystemer fordelt over de fem repræsenterede forvaltningsområder. Der er klare forskelle i, hvor de forskellige systemer udvikles. På det administrative område er der primært udviklet ADM-systemer, imens klimaområdet er mere blandet. Der er stort set ingen ADM-systemer på sundheds- og socialområdet. De har til gengæld flest proaktive ADS-systemer af alle områder, og reaktive ADS-systemer fylder også meget.

En tydelig tendens i denne fordeling er, hvordan de store velfærdsområder primært har fokuseret på at udvikle ADS-systemer, der skal understøtte, men ikke automatisere, velfærdsprofessionelles beslutningsprocesser. Det drejer sig i  de  fleste  eksempler  om  at  anvende  AI  til  at  understøtte  professionelles  ofte komplicerede skøn og vurderingsprocesser. Hvad det mere konkret betyder, udfolder vi i de næste afsnit.

Tabel 3: Fordeling af algoritmiske reguleringssystemer per forvaltningsområde, rækkeprocent (N = 37)

|                    | Algoritmisk reguleringssystem   | Algoritmisk reguleringssystem   | Algoritmisk reguleringssystem   |
|--------------------|---------------------------------|---------------------------------|---------------------------------|
| Forvaltningsområde | Reaktivt ADM-system             | Reaktivt ADS-system             | Proaktivt ADS-system            |
| Administration     | 80                              | 20                              | 0                               |
| Klima              | 50                              | 25                              | 25                              |
| Beskæftigelse      | 0                               | 100                             | 0                               |
| Social og omsorg   | 0                               | 62                              | 38                              |
| Sundhed            | 6                               | 41                              | 52                              |

## Prædiktionsniveau i den algoritmiske regulering

For at komme tættere på, hvordan signaturprojekterne som algoritmiske reguleringssystemer adskiller sig, har vi set nærmere på det prædiktionsniveau, som hvert  system  opererer  på.  Prædiktionsniveauet  fortæller  som  nævnt,  hvilken genstand og hvilket granularitetsniveau systemet trænes til at regulere gennem prædiktion. Tabel 4 viser sammenhængen mellem prædiktionsniveau og reguleringssystem.

Tabel 4: Prædiktionsniveau og reguleringssystemtype (N = 37)

|                           | Algoritmisk reguleringssystem   | Algoritmisk reguleringssystem   | Algoritmisk reguleringssystem   | Algoritmisk reguleringssystem   |
|---------------------------|---------------------------------|---------------------------------|---------------------------------|---------------------------------|
| Primært prædiktionsniveau | Reaktivt ADS-system             | Proaktivt ADS-system            | Reaktivt ADM-system             | Total                           |
| Sag                       | 7                               | 1                               | 5                               | 13                              |
| Individ                   | 6                               | 11                              | -                               | 17                              |
| Organisation              | 5                               | 1                               | 1                               | 7                               |
| Total                     | 18                              | 13                              | 6                               | 37                              |

Tabellen  viser,  at  proaktive  ADS-systemer  og  reaktive  ADM-systemer  er  de mest internt konsistente, dvs. ensartede, reguleringsformer. I begge kategorier er  størstedelen  af  systemerne  samlet  om  ét  primært  prædiktionsniveau,  hhv. individ- eller sagsniveau. De reaktive ADM-systemer fokuserer mestendels på at automatisere sagsgange (et projekt vil fx automatisere fordelingen af e-mails fra en fællespostkasse til de rette afdelinger, hvor der implicit vil være en menneskelig mulighed for at se og rette fejl ( bilag 1 , Sig20\_13)). Af de afsluttede projekter er disse i overvejende grad driftsimplementerede.

De proaktive  ADS-systemer  er  også  forholdsvis  internt  konsistente,  oftest som former for alarmsystemer, hvor en eller flere individuelle tilstande overvåges. Her er alarmen forbundet med sandsynligheden for en diagnose i realtid eller fremtid, og alarmen identificerer et individ, der skal holdes ekstra øje med eller (sags-)behandles hurtigst muligt. Alarmen indeholder således et implicit interventions-  og  prioriteringsforslag  -  særligt  ved  sygdoms-  eller  udsatheds- overvågning.  Et  godt  eksempel  er  overvågningsalgoritmen  'priokritisk',  der overvåger hospitalsindlagte for deres risiko for at udvikle sepsis eller lungesygdom på baggrund af en række sensordata ( bilag 1 , Sig21\_5). Af de afsluttede projekter er de typiske systemer i overvejende grad test- eller delvist (men ikke fuldt) implementeret.

Hvordan  kan  vi  forstå  de  reaktive  ADS-systemers  langt  større  variation? Først  og  fremmest  kan  vi  bemærke,  hvordan  'beslutningsstøtte'  kan  forstås som en udbredt diskurs omkring det, der ses som et acceptabelt spillerum for sikker eller etisk anvendelse af AI-systemer, netop fordi et menneske er inde over beslutningen. Dette leder til den hypotese, at mange AI-systemer er udviklet under denne nemmere 'retfærdiggjorte' reguleringstype (se dog Zarsky (2016) for et overblik over retfærdigheds- og effektivitetsbaserede indvendinger mod sådanne common sense -antagelser). I en dansk kontekst har forskere endvidere anfægtet beslutningsstøtten som juridisk forsvarlig, dels fordi automation bias (dvs.  tiltroen  til  algoritmens  objektivitet)  kan  underminere  de  'forvaltningsmæssige krav til skøn', dels fordi den manglende transparens, som ofte kendetegner  algoritmiske  beslutningssystemer,  udfordrer  borgerens  ret  til  en begrundelse (Næsborg-Andersen, Hammerslev og Ullits, 2023).

## Sammenhæng mellem reguleringstype og beslutningstype for reaktive ADS-systemer

Dette afsnit forsøger at forstå variationen yderligere ved at se på, hvilke typer beslutninger reaktive ADS-systemer udvikles til at understøtte. Tabel 5 viser fordelingen af, hvilke beslutninger de skal understøtte ift. prædiktionsniveau.

Tabellen viser, at et mindre antal projekter er rettet mod at optimere ressourceallokering på et organisationsniveau, og at ADS-systemer, der prædikterer på organisationsniveau, følger samme model, hvor AI-modeller bruges til at simu- lere, forstå eller fremskrive organisationens behov eller belastning. Der er ofte tale om systemer, der retter sig mod ledelse og planlægning. Få af disse projekter er fuldt afsluttet, men flere af dem ser ud til at nå til testimplementering.

Tabel 5: Hvordan skal beslutninger understøttes blandt prioriteringssystemer (N = 18)

|              |   Udelukkende optimering af ressource- allokering |   Udelukkende prioritering |   Udelukkende interventions- forslag |   Interventions- forslag og prioritering |   Alle typer understøt- telse |
|--------------|---------------------------------------------------|----------------------------|--------------------------------------|------------------------------------------|-------------------------------|
| Sag          |                                                 0 |                          0 |                                    3 |                                        3 |                             1 |
| Individ      |                                                 0 |                          1 |                                    3 |                                        2 |                             0 |
| Organisation |                                                 5 |                          0 |                                    0 |                                        0 |                             0 |
| Total        |                                                 5 |                          1 |                                    6 |                                        5 |                             1 |

På sags- og individniveau udvikles 12 ud af 13 projekter til at komme med interventionsforslag, og 6 ud af 13 til at prioritere rækkefølgen på sager. Prioritering og anbefaling er således positivt korreleret. Kun ét projekt er udviklet til  at  prioritere uden også at komme med interventionsforslag. Projektet ville adskille 'komplekse' og 'simple' sager i forbindelse med visitering af rengøringshjælp (Sig20\_15). Endelig har ét projekt alle typer beslutningsstøtte i spil. Det er et system, der skal diagnosticere sandsynligheden for forskellige øjensygdomme ud fra billeder, men ovenpå bygges et beslutningsmodul, der ud fra beslutningsparametre kan tilpasse måden, hvorpå patienter prioriteres og foreslås behandlet ( bilag 1 , Sig22\_11).

Systemerne, der prædikterer på sags- og individniveau, følger i høj grad de samme beslutningstyper ved at komme med anbefalinger til interventioner, i nogle tilfælde forbundet med en prioritering af sagsbehandlingen. Forskellen synes dog at være, at systemer, der prædikterer på individniveau, i høj grad retter sig mod kernen af det professionelle eller forvaltningsmæssige skøn, hvilket i mange tilfælde mangler specifik lovhjemmel (fx profilering eller 'skøn under regel' som i Sig20\_10) eller viser sig yderst vanskeligt at udføre teknisk. Ser vi på de afsluttede projekter, er det i høj grad ADS-systemerne, der prædikterer på individniveau, som afbrydes, 4 imens projekter på sagsniveau er enten test- eller fuldt implementeret.

Blandt de senere reaktive ADS-system-projekter kan vi endvidere observere en bevægelse væk fra prædiktion på individniveau mod sags- og organisationsniveau. Dette tyder på, at der i signaturprojekternes treårige periode er foregået en lærings- eller afklaringsproces, hvor systemerne stabiliserer sig mod disse to beslutningstyper: et ressourceallokeringsformål der prædikterer på organisatorisk niveau, og et prioriterings- og interventionsformål der prædikterer på sagsniveau. Der er fx kun bevilget projektmidler til ADS-systemer, der prædikterer på individniveau, én gang efter første runde signaturprojekter (2020).

## Konklusion

Artiklen har undersøgt sammenhængen mellem algoritmisk regulering og automatisering af beslutninger i de danske AI-signaturprojekter. Artiklen bidrager med empirisk indsigt i variationen af AI i dansk offentlig forvaltning, herunder hvilke typer AI der introduceres på hvilke forvaltningsområder, og hvilke former for algoritmisk regulering og beslutningsautomatisering vi kan iagttage på tværs af disse områder. Artiklen bidrager også med nye klassifikationer af algoritmisk regulering ift. deres prædiktionsniveau (hvad bliver genstand for regulering) og beslutningstype (hvilken slags ADS-system er der tale om). Begge tilføjelser tillader os mere præcist at kortlægge, hvilken type algoritmisk regulering og automatisering der vinder frem i en dansk kontekst via signaturprojekterne.

Analysen viser, at AI udvikles til at løse mange forskellige problemer gennem forskellige  former  for  monitorering  og  beslutningsunderstøttelse.  Den  peger altså på vigtigheden af ikke at behandle AI som en ensartet, stabiliseret eller fastlåst størrelse. Distinktionen mellem reaktiv og proaktiv algoritmisk regulering er vigtig, fordi den fortæller os, at selvom maskinlæring opererer prædiktivt, er ikke alle systemer lige anticipatoriske i deres anvendelsesform. Der er således en vigtig forskel mellem, hvorvidt en population løbende overvåges vha. proaktiv monitorering, eller hvorvidt en borger først analyseres algoritmisk ifm.  sagsbehandling  af  den  ene  eller  anden  art.  Denne  forskel  handler  både om, hvordan AI potentielt omkalfatrer forebyggelsestiltag, ved at en algoritme løbende screener en population, og hvornår i beslutningsprocessen AI anvendes.

Vores bidrag understreger fordelene ved at behandle AI-systemer som reguleringssystemer.  De  tre  prædiktionsniveauer  har  forskellige  implikationer  for borgeren. Hvor prædiktion på individniveau (profilering) hviler på ofte omfattende samkøring af data fra forskellige systemer - og derfor også større grad af overvågning - er denne reguleringsform mest indgribende i relationen mellem stat og borger. Selvom prædiktion på sagsniveau oftest også vedrører borgere, så anvender denne form for AI som regel kun et enkelt datasæt (fx et røntgenbillede  eller  en  e-mail).  Endelig  er  prædiktion  på  organisationsniveau  målrettet forvaltningens interne organisering og berører derfor kun borgere indirekte. De tre prædiktionsniveauer afspejler således en stor forskel på, hvor indgribende AI er over for borgeren. Derfor er det heller ikke overraskende, at prædiktion på individniveau, der som oftest indebærer en større grad af databaseret overvågning, også er det niveau, som har sværest ved at finde lovhjemmel. I en tid hvor mange er optaget af 'algoritmernes magt' i den offentlige forvaltning (Jarlner og Escherich, 2021), kan et algoritmisk reguleringsperspektiv hjælpe os med at blive præcise på, hvori denne magt består, og hvad det betyder for både borgere og den offentlige forvaltnings ansatte.

Analysen  -  og  vores  udvidelse  af  typologien  for  algoritmisk  regulering  tydeliggør,  hvordan  AI  regulerer  igennem  automatiseret  beslutningstagning (ADM) og -støtte (ADS). I mange tilfælde indfører signaturprojekterne ADSfremfor ADM-systemer. Hvor den tidligere forvaltningslitteratur om automatisering diskuterede dette ift. ensartede og rutineprægede opgaver (Bovens og Zouridis, 2002), så viser vores analyse, at AI i stigende grad introduceres som beslutningsstøtte  på  komplekse  opgaver,  der  ellers  har  været  forbeholdt  faglige skøn (fx sagsbehandling og individuel vurdering af borgere). Algoritmisk regulering  medfører,  at  den  delvise  automatisering  gennem  beslutningsstøtte (ADS) i stigende grad bliver en del af områder, der ellers har været forbeholdt menneskeligt skøn. I relation hertil har andre forskere påpeget, at digitalisering risikerer at standardisere det faglige skøn og konsolidere det som 'regler' (fx Justesen og Plesner, 2018).

Netop  fordi  ADS-systemerne  fylder  relativt  meget  -  og  fordi  de  opererer med forskellige beslutningstyper - kalder det på mere forskning i, hvilken betydning disse forskelle har for det individuelle skøn og borgernes retssikkerhed. De forskellige  former  for  ADS-systemer  (prioritering/anbefaling/optimering) viser, at AI vil fremhæve de eksisterende dilemmaer mellem ligebehandling og retfærdighed i det forvaltningsmæssige skøn. Skønnet dækker på den ene side over det konkrete 'vurderingsskøn' om oplysningers rigtighed og på den anden side over forskellige retfærdighedsbetragtninger håndteret igennem lovgivningen.  Binss  (2022)  ser  fx  på  vurderingsskønnet  som  bestående  af  'individuel retfærdighed', retten til  at  blive  behandlet  som  enkeltindivid, consistency (ligebehandling) og fairness (ikkediskrimination). Det kalder på fortsat empirisk forskning i, hvordan offentligt ansatte og borgere oplever beslutninger truffet med AI som beslutningsstøtte, ikke mindst i en situation, hvor algoritmisk regulering primært sætter sig igennem som reaktiv ADS.

Ved at anskue AI i den offentlige forvaltning som algoritmisk regulering - og ikke blot som effektivisering eller serviceforbedring - får vi blik for, hvordan AI potentielt kan forandre den offentlige forvaltnings organisering, mødet mellem stat og borger og ikke mindst præmisser for det professionelle skøn. Algoritmisk regulering peger på, hvordan reguleringstiltag i stigende grad bliver afhængige af indsamling og samkørsel af data, integreres i den offentlige forvaltnings digitale  infrastrukturer  og  helt  eller  delvist  automatiserer  beslutningsprocesser gennem algoritmisk databehandling. Dette forhold peger på nødvendigheden af forskning i og en demokratisk samtale om, hvilke former for algoritmisk regulering der kan fremme både den offentlige forvaltnings kvalitet og borgernes retssikkerhed - og samtidig hvilke former for algoritmisk regulering og beslutningsstøtte der kan underminere det.

## Noter

1. Artiklen er baseret på forskning finansieret af Velux og Villumfondene (ADD Algoritmer, data og demokratiprojektet).
2.  Datatilsynets  kortlægning  dækker  stat  og  kommuner,  hvor  signaturprojekterne involverer  kommuner  og  regioner.  Datatilsynets  kortlægning  tæller  67  projekt-

- kommune-par. Signaturprojekterne involverer ofte flere kommuner. Så når fx ni kommuner siger, at de anvender AI til post- og journaliseringsprocesser, så dækker det formentlig alle involverede i mailsorteringssignaturprojektet (Sig20\_13).
3. RPA henviser kort fortalt til softwaremoduler - såkaldte 'robotter' - der ud fra et forhåndsdefineret sæt af instruktioner udfører en handling.
4. Det har flere årsager, som vi ikke detaljeret kan behandle her, men er ofte forbundet til  juridiske  vurderinger.  I  tilfælde  hvor  den  forvaltningsopgave,  man  vil  understøtte, ikke specifikt har en lovhjemmel, der tillader profilering, eller lovmæssigt kræver et 'individuelt skøn', er systemer problematiske.

## Supplerende materiale

Supplerende materiale findes på disse link: bilag 1 og bilag 2 .

## Litteratur

- Amoore, Louise (2013). The politics of possibility: Risk and security beyond probability . Duke University Press.
- Bagger, Christoffer, Benjamin Schwarz, Rikke Frank Jørgensen, Stine Lomborg, Sille Søe og Christina Neumayer (2023). Mapping the automated decision-making landscape in the Danish welfare state: Working Paper #01 of the CHANSE-funded research consortium AUTO-WELF .
- Baldwin, Robert, Colin Scott og Christopher Hood (1998). Introduction, i pp. 1-56 i Robert Baldwin, Colin Scott og Christopher Hood (red.), A reader on regulation . Oxford University Press.
- Binns, Reubens (2022). Human judgment in algorithmic loops: Individual justice and automated decision-making. Regulation &amp; Governance 16 (1): 197-211.
- Bovens, Mark og Stavros Zouridis (2002). From street-level to system-level bureaucracies:  How information and communication technology is transforming administrative discretion and constitutional control. Public Administration Review 62 (2): 174-184.
- Campolo, Alexander og Katia Schwerzmann (2023). From rules to examples: Machine learning's type of authority. Big Data &amp; Society 10 (2).
- Cardon,  Dominique,  Jean-Philippe  Cointet  og  Antoine  Mazières.  (2018).  Neurons spike back: The invention of inductive machines and the artificial intelligence controversy. Reseaux 211 (5): 173-220.
- Cevolini, Alberto og Elena Esposito (2020). From pool to profile: Social consequences of algorithmic prediction in insurance. Big Data &amp; Society 7 (2).
- Danaher, John, Michale J. Hogan, Chris Noone et al. (2017). Algorithmic governance: Developing a research agenda through the power of collective intelligence . Big Data &amp; Society 4 (2).

- Datatilsynet (2022). Udtalelse fra Datatilsynet: Kommuners hjemmel til AI-profileringsværktøjet Asta , 18. maj.
- [Datatilsynet (2023). Brug af kunstig intelligens i den offentlige sektor. Kortlægning .](https://www.datatilsynet.dk/Media/638321078593916218/Brug%20af%20kunstig%20intelligens%20i%20den%20offentlige%20sektor_%20kortl%C3%A6gning.pdf)
- Digitaliseringsstyrelsen, KL og Danske Regioner (2021). Temperaturmåling af signaturprojekterne .
- EC HLEG, European Commission's High Level Expert Group on artificial intelligence. (2019). A definition of AI: main capabilities and disciplines .
- Engin,  Zeynep  og  Philip  Treleaven  (2019).  Algorithmic  government:  Automating public services and supporting civil servants in using data science technologies. The Computer Journal 62 (3): 448-460.
- Flügge, Asbjørn Ammitzbøll A., Naja Holten Møller, Thomas T. Hildebrandt og Henrik Palmer Olsen (2022). Er du grøn? Algoritmer til beslutningsstøtte i det offentlige. En kvalitativ  undersøgelse  af  sagsbehandleres  praksis  og  brug  af  ASTA  til  profilering af  nyledige  dagpengemodtagere .  Københavns Universitet, Det Naturvidenskabelige Fakultet.
- Flyvbjerg, Bent (2006). Five misunderstandings about case-study research. Qualitative Inquiry 12 (2): 219-245.
- Hansen, Sne Scott (2022). Public AI imaginaries: How the debate on artificial intelligence was covered in Danish newspapers and magazines 1956-2021. Nordicom Review 43 (1): 56-78.
- Jarlner, Michael og Kim Escherich (red.) (2021). Fra velfærdsstat til overvågningsstat: Algoritmernes magt i den offentlige forvaltning . DJØF Forlag.
- Jensen,  Didde  Cramer  (2018).  Does  core  task  matter  for  decision-making?  A  comparative case study on whether differences in job characteristics affect discretionary street-level decision-making. Administration &amp; Society 50 (8): 1125-1147.
- Justesen, Lise og Ursula Plesner (2018). Fra skøn til algoritme: Digitaliseringsklar lovgivning og automatisering af administrativ sagsbehandling. Tidsskrift for Arbejdsliv 20 (3): 9-23.
- Jørgensen, Rikke Frank (2023). Data and rights in the digital welfare state: The case of Denmark. Information, Communication &amp; Society 26 (1): 123-138.
- Koop, Christel og Martin Lodge (2017). What is regulation? An interdisciplinary concept analysis . Regulation &amp; Governance 11 (1): 95-108.
- Levi-Faur, David (2014). The welfare state: A regulatory perspective. Public Administration 92 (3): 599-614.
- Munro, Eileen (2019). Decision-making under uncertainty in child protection: Creating a just and learning culture. Child &amp; Family Social Work 24 (1): 123-130.
- Næsborg-Andersen, Ayo, Ole Hammerslev og Jøren Ullits (2023). Beslutningsunderstøttende algoritmer i det offentlige: Påvirkningen af sagsbehandlerens skøn og begrundelse. Politica 55 (3): 199-217.

- Pors, Anja Svejgaard, Kirstine Zink Pedersen og Line Kirkegaard (2023). Drømmen om datadrevet velfærd. Politica 55 (3): 218-241.
- Ratner, Helene Friis (2019). Europeanizing the Danish school through national testing:  Standardized  assessment  scales  and  the  anticipation  of  risky  populations. Science, Technology, &amp; Human Values 45 (2): 212-234.
- Ratner, Helene Friis og Kasper Elmholdt (2023). Algorithmic constructions of risk: Anticipating uncertain futures in child protection services. Big Data &amp; Society 10 (2).
- Ratner, Helene Friis og Ida Schrøder (2023). Ethical plateaus in Danish child protection services: The rise and demise of algorithmic models . Science &amp; Technology Studies .
- Regeringen (2019). National strategi for kunstig intelligens . København: Regeringen.
- Sun, Tara Qian og Rony Medaglia (2019). Mapping the challenges of Artificial Intelligence in the public sector: Evidence from public healthcare. Government Information Quarterly 36 (2): 368-383.
- Thompson, Jamie (2022). A guide to abductive thematic analysis. The Qualitative Report 27 (5): 1410-1421.
- Timmermans, Stefan og Iddo Tavory (2012). Theory construction in qualitative research: From grounded theory to abductive analysis. Sociological Theory 30 (3): 167186.
- Ulbricht, Lena og Karen Yeung (2022). Algorithmic regulation: A maturing concept for investigating regulation of and through algorithms. Regulation &amp; Governance 16 (1): 3-22.
- Williamson, Ben (2014). Knowing public services: Cross-sector intermediaries and algorithmic governance in public sector reform. Public Policy and Administration 29 (4): 292-312.
- Yeung, Karen (2018). Algorithmic regulation: A critical interrogation. Regulation &amp; Governance 12 (4): 505-523.
- Yeung, Karen og Martin Lodge (2019). Algorithmic regulation: An introduction . New York: Oxford University Press.
- Zarsky, Tal (2016). The trouble with algorithmic decisions: An analytic road map to examine efficiency and fairness in automated and opaque decision making. Science, Technology, &amp; Human Values 41 (1): 118-132.

## Om forfatterne

Jakob Laage-Thomsen, postdoc, Institut for Sociologi og Samfundsgeografi, Universitetet  i  Oslo,  ph.d.  i  ekspertisesociologi  og  offentlig  administration  fra  CBS. Forsker  i  samspillet  imellem  teknovidenskabelig  udvikling  og  statens  videns-  og styringssystemer. E-mail: j.l.thomsen@sosgeo.uio.no

Helene Friis Ratner, lektor, DPU - Danmarks Institut for Pædagogik og Uddannelse, Aarhus Universitet. Co-PI på 'Algoritmer, data og demokrati' (Velux &amp; Villumfondene, 2021-31) og PI på 'Datavisions: Education in the age of digital data visualizations' (DFF, 2022-25). Forsker i digitale og datadrevne teknologiers indvirkning på velfærdsområder som folkeskolen og børn &amp; unge socialforvaltningen, med særligt fokus på algoritmer, datavisualiseringer og generativ AI. E-mail: helr@edu.au.dk