Beslutningsstøttesystemer på børn- og ungeområdet - Konstruktionen af en ny vidensform
Forfattere: Andreas Møller Jørgensen
Tidsskrift: tidsskrift-for-arbejdsliv (2020-11-17)

## Beslutningsstøttesystemer på børn- og ungeområdet - Konstruktionen af en ny vidensform

## A  ndreas Møller Jørgensen

I disse år introduceres socialt arbejde i stigende grad for kunstigt intelligente beslutningsstøttesystemer. På børne- og ungeområdet er danske kommuner, herunder Københavns Kommune Borgercenter Børn og Unge (BBU), ved at udvikle og teste beslutningsstøttesystemer til akutvurdering af underretninger. Forhåbningen er, at teknologierne ved at trække på og lære af store mængder af historisk data kan reducere usikkerheden og dermed understøtte og kvalifi  cere fremtidige vurderinger og beslutninger, strukturere og muliggøre tidligere indsatser og dermed levere mere velfærd for færre ressourcer. Beslutningsstøttesystemet beregner på baggrund af matematiske modeller om en underretning er akut. Vurderingsgrundlaget er således et ganske andet end socialarbejderens og ligeså kan systemets beregningsmodel siges at konstituere en alternativ vidensform. I denne artikel undersøger jeg, hvordan beslutningsstøttesystemet i BBU er udviklet og opbygget for hermed at bidrage til forståelsen af denne vidensform og konstruktionen heraf. Undersøgelsesdesign og analyse trækker på Aktør-Netværks Teori og særligt begrebet translation, som anvendes til at udfolde og fortolke de forskellige oversættelsesprocesser, hvorigennem beslutningsstøttesystemets vurdering konstrueres som matematiske og neutrale beregninger. Afslutningsvist diskuterer jeg perspektiverne for socialt arbejde i relation til det øgede fokus på kunstigt intelligente beslutningsstøttesystemer.

Nøgleord: professionelt skøn, socialt arbejde, kunstig intelligens, akutvurdering, viden

## Indledning

På baggrund af knappe økonomiske og humane ressourcer, et stadigt stigende antal sager, større forventninger til det sociale arbejdes mulighed for at løse sociale problemer samt problematiske enkeltsager i medierne forsøger man i fl  ere lande at sikre konsistens i sagsbehandlingen og hjælpe de mest udsatte mennesker ved at understøtte beslutninger med kunstig intelligens (Gillingham, 2019; Gillingham &amp; Humphreys, 2010). Særligt i USA og England er algoritmebaserede beslutningsstøttesystemer udbredt (Keddell, 2019) blandt andet til at vurdere risikoen for kriminalitet i forskellige bydele (O'Neil, 2017), mistrivsel iblandt børn og unge (Eubanks, 2018) og for at prøveløsladte recidiverer (Citron, 2008). I Danmark ses udviklingen i beslutningsstøttesystemer særligt inden for sundhedsområdet (Aaen &amp; Nielsen, 2016) og beskæftigelses- og socialområdet (Lund, 2019). I Københavns Kommunes Borgercenter Børn og Unge (BBU) har man udviklet og er nu ved at teste et kunstigt intelligent beslutningsstøttesystem til akutvurdering af underretninger på børn og unge.

BBU modtager årligt knap 15.000 underretninger fra fagpersoner og almindelige borgere, der har kendskab til eller rimelig grund til at antage, at et barn eller en ung har brug for særlig støtte eller har været udsat for vold eller andre overgreb. Inden for 24 timer efter modtagelen skal kommunen vurdere, om barnets eller den unges sundhed eller udvikling er i fare, og om der derfor er behov for at iværksætte akutte foranstaltninger (Lov om social service § 155, stk. 2). I akutvurderinger aktiverer socialarbejderen eksplicit og kodifi  ceret viden samt institutionelle løsningsstrategier men også tavs viden, ubevidst bias samt sociale normer og værdier.

Beslutningsstøttesystemet i BBU er designet til at kategorisere underretninger som akut eller ikke-akut og hermed indirekte anbefale, om der straks skal iværksættes en indsats. Socialarbejderen kan så prioritere læsningen af underretningerne og samtidig konsultere beslutningsstøttesystemets kategorisering i sit professionelle skøn. Forhåbningen er således, at beslutningsstøttesystemet kan reducere usikkerheden og dermed understøtte og kvalifi  cere fremtidige vurderinger og samtidig strukturere vurderingspraksissen.

Beslutningsstøttesystemet beregner på baggrund af omfattende data på historiske underretninger og vurderinger sandsynligheden for, om en underretning er akut. Vurderingsgrundlaget er et ganske andet end socialarbejderens og kan siges at konstituere en alternativ vidensform. I denne artikel undersøger jeg, hvordan beslutningsstøttesystemet i BBU er udviklet og stabiliseret for hermed at bidrage til forståelsen af denne vidensform. På baggrund heraf diskuterer jeg perspektiverne for socialt arbejde.

I de to følgende afsnit introducerer jeg til vurderingsproblemet og det professionelle skøn. Herefter gør jeg rede for undersøgelsens design og teoretiske grundlag. I det efterfølgende afsnit analyserer jeg, hvordan beslutningsstøttesystemet er opbygget gennem forskellige translationsprocesser, og hvordan der herigennem skabes en alternativ og relativt stabiliseret vidensform. Herefter følger konklusionen, hvor jeg følger op på analysens fund. Afslutningsvist diskuterer jeg perspektiverne for socialt arbejde.

## Vurderingsproblemet og det professionelle skøn

Når en underretning vurderes at være akut, forpligter kommunen sig til at handle straks og f.eks. undersøge sagsforholdet nærmere. Vurderingen har direkte indfl  ydelse på og kan få store konsekvenser for dem, der gøres eller ikke gøres til genstand for myndighedernes undersøgelse - forældre såvel som børn. Indledende akutundersøgelser, som viser sig at være ubegrundede, kan være krænkende, traumatiserende og stigmatiserende for de involverede parter og kan efterlade langvarige spor i forholdet imellem børn og forældre. Omvendt kan det få alvorlige konsekvenser for barnet eller den unge, hvis kommunen ikke reagerer hurtigt på de problemer, der underrettes om (Damman et al., 2020).

Betingelserne tilgodeser ikke altid en grundig vurdering. Det skorter på ressourcer og økonomi i kommunernes børne- og ungeafdelinger. Samtidig har Overgrebspakken fra 2013 (Socialstyrelsen, 2013), der søgte at sikre en tidligere indsats ved blandt andet at præcisere den skærpede underretningspligt, ikke alene medført en stigning i antallet af underretninger men også fastsat, at underretninger skal vurderes inden for 24 timer. Fra 2015 til 2018 er antallet af underretninger i Københavns Kommune steget med knap 50 % fra 10.071 til 14.796. På landsbasis er antallet i samme periode steget fra 97.288 til 127.182. Antallet er altså steget betragteligt over de seneste år, samtidig med at socialarbejderen har fået kortere tid til at vurdere, om underretningerne giver anledning til at iværksætte akutte foranstaltninger.

Informationsgrundlaget for vurderingen kan være særdeles begrænset, og der er stor varians i underretningernes form og ordlyd. Lov om social service fastsætter ikke, hvordan underretninger skal formidles (Socialudvalget, 2012-2013). Man kan som borger og professionel underrette på mange forskellige måder - per telefon, brev, e-mail, personlig henvendelse og vha. kommunens to offi  cielle underretningsformularer. Mens man fra kommunens side forsøger at disciplinere underrettere til at anvende de offi  cielle underretningsformularer, modtager BBU stadig underretninger i mange forskellige formater. Samtidig er underretningerne skrevet på mange forskellige måder. Socialarbejderen skal således vurdere, hvornår barnets eller den unges sundhed eller udvikling er i fare ud fra forskellige og til tider ufuldstændige informationsgrundlag.

Overgrebspakken retter særligt fokus på vold og overgreb, og BBU anser alle underretninger, der omhandler vold og overgreb, som akutte. Det vil sige, at man vurderer, at underretninger om vold og overgreb giver anledning til at antage, at barnets eller den unges sundhed eller udvikling er i fare, hvorfor der bør iværksættes akutte foranstaltninger. Vurderingen rummer imidlertid stadig et skøn om, hvornår en underretning omhandler vold og overgreb, og hvad vold og overgreb i det hele taget er. Ifølge tal fra Danmarks Statistik blev seksuelt eller voldeligt overgreb angivet som årsag i 1.435 underretninger i 2018 i Københavns Kommune. I 7.246 underretninger blev årsagen angivet til 'Andet'. Tallene fortæller ikke, om underretningerne blev vurderet som akutte eller ej. Hvorom alting er, så vurderes langt størstedelen af underretningerne at omhandle noget, der umiddelbart ikke lader sig indfange fuldstændigt af Danmarks Statistiks operationaliserede kategorier, men netop noget andet; noget diffust, ikke-kategoriseret og usikkert. Vurderingsproblemet er således sammenfaldende med et af beslutningsteoriens helt store spørgsmål: Hvordan træffer man beslutninger i en usikker verden (March, 1995)?

## Det professionelle skøn

Sociale problemer er sammenfi  ltrede, komplekse, foranderlige, værdiladede og mangetydige, og der er generelt ikke enighed om, hvordan vi skal defi  nere og forklare dem (Ejrnæs &amp; Monrad, 2017). Det er blandt andet derfor, at socialarbejderens vurdering forstås som et skøn og ikke en konstatering af objektive kendsgerninger. Det professionelle skøn rummer en iboende usikkerhed men også en refl  eksivitet over for sociale problemers kompleksitet og tvetydighed. Tvetydighed og kompleksitet er betydelige og uundgåelige aspekter ved socialt arbejde som en profession, der er refl  eksiv over for menneskers og sociale omstændigheders fortløbende forandringer (Lorenz, 2006). Sociale problemers mangetydighed nødvendiggør appliceringen af forskellige og mangeartede former for knowhow samt vidensformer, med hvilke vi kan forklare, forstå og forholde os til disse problemstillinger (Evans &amp; Harris, 2004).

I det professionelle skøn inkorporerer socialarbejderen kontekstuelt afhængige og uforudsigelige problemkonstruktionsprocesser, der også involverer underretterens virkelighedsforståelse og gengivelse af en bekymring (Blom et al., 2017). Socialarbejderen vurderer nye fænomener gennem en aktivering af erfaringsbaseret samt kodifi  ceret, akademisk og praktisk anvendelsesorienteret viden, men også gennem en aktivering af tavs viden, normer og bias. Aktiveringen er både bevidst og refl  ekteret men også ubevidst (Molander &amp; Terum, 2008; Haase, 2018). Hertil trækkes også på kollegaer og teamledere og dermed deres professionelle skøn samt organisatoriske retningslinjer og institutionaliserede problemforståelser og løsningsstrategier (Damman et al., 2020).

Beslutningsstøttesystemets  vurdering bygger på en alternativ vidensform, der på sigt skal understøtte socialarbejderens vurdering og hermed kan få konsekvenser for organisationens og den enkelte socialarbejders fortolkningsramme (Kjær &amp; Vendelø, 2014). Det er derfor relevant at undersøge og forholde sig til systemets vidensform, og hvordan denne vidensform relaterer sig til socialfaglige vurderingskriterier (Gillingham, 2019; Gillingham &amp; Graham, 2017). Flere studier påpeger, at bias, værdier og sociale normer indlejres, skjules og reproduceres i og af beslutningsstøttesystemer (Boyd &amp; Crawford, 2012; Bozdag, 2013; Chandler &amp; Fuchs, 2019; Noble, 2018; O'Neil, 2017). Forskning fra USA viser, hvordan automatiserede screeningsværktøjer inkluderer og ekskluderer viden om sociale problemer med alvorlige konsekvenser til følge for folk, der lever i fattigdom og som har brug for hjælp og støtte (Eubanks, 2018). I Danmark er vi kun på et udviklingsstadie. Foreløbige empiriske undersøgelser viser ikke entydige tegn på, at socialarbejdere stoler blindt på beslutningsstøttesystemerne. Alligevel frygter socialarbejdere ifølge Lund (2019), at systemerne over sigt kan blive en sovepude, der er med til at afkoble den socialfaglige viden.

## Design - Teori og metode

Artiklen formidler delresultater fra et kvalitativt eksplorativt projekt i samarbejde med BBU i perioden 2019 og 2020. Projektets mål er at skabe viden om socialt arbejdes tekno- logiske udvikling på børne- og ungeområdet herunder automatiserede beslutningsstøttesystemer. Mere konkret har projektet til formål at udvikle viden om, hvilken viden teknologierne bygger på og skaber, hvordan fagpersoner modtager teknologierne, og om udviklingen og anvendelsen af teknologierne fører til nye indsigter, refl  eksioner, udfordringer, udviklingsmuligheder og forandringer med hensyn til viden, kompetencer og ansvar i det sociale arbejde.

Artiklen anlægger et Aktør-Netværks Teoretisk perspektiv (ANT) på konstruktionen af beslutningsstøttesystemet og dets alternative vidensform. ANT er overordnet set optaget af og tilvejebringer begreber til at undersøge, hvordan aktør-netværk opbygges og stabiliseres (Elgaard-Jensen, 2003; Law, 2009). ANT betragter og undersøger fænomener som mere eller mindre stabile effekter af translationsprocesser i netværk. Fremfor at undersøge et beslutningsstøttesystem som en lukket eller afgrænset teknologisk enhed vil man forstå systemet som et mere eller mindre stabilt aktør-netværk. Translationsbegrebet dækker bredt over de processer, hvormed en aktør opnår styrke og stabilitet og kan virke på vegne af et bagvedliggende heterogent netværk ved at skabe forbindelser imellem to eller fl  ere ting, som før var forskellige. Gennem translationsprocesser fortættes og repræsenteres et heterogent netværk i og af en enkelt aktør (Latour, 1987), der således kan forstås som et obligatoriske passagepunkt (Callon, 1984). Til eksempel forbinder beslutningsstøttesystemet f.eks. historiske vurderinger med nutidige underretninger. Beslutningsstøttesystemer mobiliserer og aktualiserer data og beslutninger i en socio-materiel og kulturel vurderingskontekst, som disse data og beslutninger ellers ikke ville optræde i, og skaber således forbindelser på tværs af historiske og nutidige beslutningsprocesser. Samtidig opnår beslutningsstøttesystemet stabilitet gennem tætte alliancer til politiske IT-strategier samt matematikkens position som objektiv og neutral metode og videnskab.

Translationsprocesser er hverken lineære eller determinerede men derimod forræderiske, som Latour (2005) udtrykker det. Systemet er således ikke lukket eller afsluttet men derimod principielt skrøbeligt, distribueret og kontingent. Den analytiske opgave består i at undersøge, hvordan beslutningsstøttesystemet opnår stabilitet i og repræsenterer et i princippet skrøbeligt, omskifteligt og heterogent netværk ved at etablere tætte alliancer, forskydninger, oversættelser og fortolkninger. Dette forudsætter en detaljeret, empirisk drevet undersøgelse (Birkbak &amp; Carlsen, 2016).

Studiet følger ANTs metodiske mantra om at følge translationerne ud i det netværk, som beslutningsstøttesystemet repræsenterer og er en effekt af (Elgaard-Jensen, 2003). Digitaliseringskonsulenten i BBU, som er uddannet socialrådgiver og således har en socialfaglig indsigt og ballast og som i dag arbejder med digitalisering i BBU, er en helt central gatekeeper (Kristiansen &amp; Kroghstrup, 1999) og præger på forskellig vis studiets empiriske grundlag. Digitaliseringskonsulenten har skaffet mig adgang til felten og istandsat interviewaftaler med de forskellige øvrige informanter samt deltaget i alle interviews. Artiklen er desuden blevet sendt til BBU til kommentering inden publicering.

Ud over at jeg har interviewet og over fl  ere omgange talt uformelt med digitaliseringskonsulenten, har jeg foretaget tematisk organiserede semistrukturerede fokusgruppeinterviews på strategisk- og udviklingsniveau med informanter, der alle er organisatorisk placeret i Københavns Kommune - Koncern IT. Jeg har således interviewet tre IT-strateger, som på forskellig vis har været involveret i de strategiske overvejelser vedrørende beslutningsstøttesystemet i BBU og i udviklingen og implementeringen af Københavns Kommunes IT-strategier generelt. Interviewet på strategisk niveau har fokuse- ret på beslutningsstøttesystemets historik samt de strategisk overvejelser og visioner for digitalisering i BBU og i kommunen mere generelt. Derudover har jeg interviewet udviklerne bag beslutningsstøttesystemet. På udviklingsniveau har interviewet fokuseret på udviklingen og opbygning af beslutningsstøttesystemet samt dets modus operandi. For så vidt informanterne har henvist til dokumenter af særlig relevans for udviklingen af og funktionaliteten i beslutningsstøttesystemet (IT-strategier, procestegninger og beslutningstræer, underretningsformularer, faglige standarder for vurderingspraksis), har jeg indsamlet disse og inddraget dem i translationsanalysen.

Citater fra empirien indgår i analysen til at illustrere, dels hvordan beslutningsstøttesystemet fungerer, og især til at illustrere de forskellige måder, hvorpå vurderingspraksis forbindes og oversættes til matematiske modeller og beregninger, og hvordan denne alternative vidensform stabiliseres.

## Analyse - Konstruktionen af en alternativ vidensform

Beslutningsstøttesystemet indplaceres i en kæde af vurderinger. Først vurderer underretteren, at et barn eller en ung har brug for særlig støtte eller har været udsat for vold eller andre overgreb, og beslutter sig for at underrette kommunen herom. Hernæst følger den socialfaglige akutvurdering og vurderingen af hvilke tiltag, der skal igangsættes. Processen er ikke lineær men sammenfi  ltret, og beslutninger er ikke uomstødelige men kan netop ændres, såfremt nye oplysninger dukker op. Beslutningsstøttesystemet indplaceres imellem underretteren og socialarbejderen. I stedet for at modtage underretningen direkte vil socialarbejderen modtage en underretning med en automatisk genereret vurdering. Systemet er således et obligatorisk passagepunkt i den simple forstand, at alle underretninger helt automatisk vil passere igennem og blive vurderet af systemet. Systemet vil som eneste aktør skulle vurdere alle sager, hvorfor det må forventes at få et særligt bredt aftryk på vurderingsprocessen.

I det følgende afsnit vil jeg koncentrere mig om, hvordan beslutningsstøttesystemet er opbygget gennem translationsprocesser, hvori vurderingspraksis oversættes til og stabiliseres som matematiske beregninger af data.

## Translation - oversættelse og stabilisering

Beslutningsstøttesystemet i BBU består af to modeller. Den første model er en softwarerobot, der systematisk følger et procesdiagram og ud fra prædefi  nerede regler tjekker, om underretteren har anvendt én af kommunens to offi  cielle underretningsformularer, og om underretteren har afkrydset 'ja' til, at der er mistanke om vold eller seksuelle overgreb. Såfremt det er tilfældet, vurderer systemet underretningen som akut. Allerede her møder vi en afgørende translation og alliance. Som tidligere beskrevet anses vold og seksuelle overgreb i BBU for afgørende indikatorer på, at barnets eller den unges sundhed eller udvikling er i fare. Underretninger, der omhandler disse problemer, vurderes derfor per default som akutte. Det kan vi forstå som en institutionel problemforståelse og løsningsstrategi. I de offi  cielle underretningsformularer fortolkes eller fremstår mistanke om vold eller overgreb som en formel eksklusiv disjunktion. De offi  cielle underretningsformularer efterlader ikke plads til tvivl eller grader af mistanke. Enten er der en mistanke, eller så er der ikke en mistanke. Underretterens vurdering oversættes af de offi  cielle underretningsformularer til et enten-eller spørgsmål. Den institutionaliserede løsningsstrategi oversætter dette enten-eller spørgsmål til et spørgsmål om behov for akut handling. Oversættelsen fi  nder sted uden beslutningsstøttesystemets mellemkomst. Beslutningsstøttesystemet blåstempler imidlertid akutvurderingen, da det automatisk vurderer underretningen som akut, hvis underretteren har afkrydset 'ja' til, at der er mistanke om vold eller seksuelle overgreb. Den institutionaliserede løsningsstrategi og beslutningsstøttesystemet danner således en tæt alliance, som tilsammen former en særlig vurderingspraksis.

Såfremt underretteren ikke har benyttet en af de to formelle underretningsformularer, eller vedkommende ikke har afkrydset 'ja' til, at der er mistanke om vold eller seksuelle overgreb, sender softwarerobotten underretningen videre til model to. Model to er et neuralt netværk, der foretager en matematisk beregning på, om underretningen er akut.

Kunstigt intelligente systemer er systemer, der erfarer ændringer i deres miljø og handler på baggrund heraf for at maksimere deres chance for at nå et prædefi  neret mål (Bini, 2018). Det vil sige, at systemet korrigerer sin adfærd på baggrund af feedbackmekanismer. Det måske mest simple og mest velkendte kunstigt intelligente system er termostaten på din og min radiator. Termostaten måler temperaturen omkring sig og justerer ventilen i radiatoren for at opretholde en given temperatur. I kunstigt intelligente softwaresystemer er antallet af variabler og dermed kompleksiteten øget betragteligt. Sådanne systemer analyserer og fi  nder mønstre i store mængder data og beregner på baggrund heraf, om en underretning er akut.

Groft sagt oplæres kunstigt intelligente systemer efter ét af to principper: superviseret maskinlæring og ikke-superviseret dyb læring (Bini, 2018; Sathya &amp; Abraham, 2013). Førstnævnte kaldes til tider blot maskinlæring, mens ikke-superviseret dyb læring er karakteristisk for neurale netværk. Ved superviseret maskinlæring bygger man algoritmer til beregning af sandsynligheden for et givet udfald på baggrund af kendte teorier, parametre og variabler. Algoritmerne baseres således til dels på samme vidensgrundlag, som socialarbejderen anvender i sit professionelle skøn. Det kan f.eks. være kendte risikofaktorer såsom anbringelse, kriminalitet og tidligere underretninger eller kendte risikoord, såsom 'vold' og 'blå mærker'. Herudover kan sådanne systemer trække på metadata på historiske underretninger, som socialarbejderen ikke har adgang til eller ville kunne overskue. Gennem tests vil programmøren eller systemet selv justere på parametrenes og variablernes vægtning og interne relationer. Det kan f.eks. igennem tests vise sig at anbringelse uden for hjemmet, er en mindre væsentlig variabel til at forudsige, om en underretning er akut. VIA University College og Trygfondens Børneforskningscenter har i samarbejde med Silkeborg og Hjørring Kommune udviklet et prognostiske redskab til beslutningsstøtte på denne måde.

Beslutningsstøttesystemet i BBU bygger til forskel herfra på et neuralt netværk, der er trænet igennem ikke-superviseret dyb læring. Systemet har igennem iterative trial and error processer identifi  ceret mønstre i cirka 11.000 historiske underretninger og vurderinger fra de seneste 3 år i BBU. Systemet ved, hvordan underretningerne er blevet kategoriseret og danner selv mønstre i underretningernes ordlyd, på baggrund af hvilke det kan regne sig frem til resultatet. Som en af udviklerne forklarer, ' svarer det til at snakke med alle sagsbehandlere, som nogensinde har sagsbehandlet de her sager, og så høre hvordan de vil kategorisere de enkelte sager' (interview, udvikler, 05/09-2019).

Hvis du eller jeg skal vurdere fremtidige underretninger på baggrund af historiske vurderinger, skal vi imidlertid vide, hvordan socialarbejdere hidtil har kategoriseret underretninger, og hvorfor de er blevet kategoriseret, som de er. Vi ville skulle snakke med sagsbehandlerne om, hvorfor de har kategoriseret den ene og den anden underretning som akut eller ikke akut. De ville skulle begrunde deres vurderinger, og det ville være deres forklaringer, vi skulle bruge som grundlag for fremtidige vurderinger. Neurale netværk lærer igennem en ganske anden translationsproces. Det neurale netværk undersøger ikke, hvorfor sagsbehandlerne vurderer, som de gør, eller hvad de lægger til grund for deres vurderinger. Systemet forholder sig hverken til socialfaglige forklaringer, tavs viden eller normativ og ubevidst bias, men oversætter i stedet den historiske vurderingspraksis til matematiske modeller og sandsynlighedsberegninger. I den forstand er systemet relativt uintelligent. Det lærer ikke af data for at forbedre vurderingspraksis, men for at kunne gentage praksis. Systemet kan med andre ord ikke fare bedre end det datasæt, systemet lærer af.

Vi risikerer at machine learning konkluderer forkert. Den ved ikke bedre. Hvis vi lærer den op på dårlig data, så bliver den selvfølgelig også dårlig. Så derfor fylder datakvalitet rigtig meget (interview, IT-strateg, 6/9-2019).

Udviklingen af beslutningsstøttesystemet beror således på en afgørende 'tillid' til den historiske praksis, som digitaliseringskonsulenten udtrykker det (interview, digitaliseringskonsulent, 5/9-2019). Systemets forudsigelser kan imidlertid også give et indblik i den historiske praksis. Udviklerne bag systemet fortæller således, at en meget differentieret praksis vil ende ud i et usikkert beslutningsstøttesystem, da det neurale netværk ikke vil kunne danne mønstre på tværs af meget forskelligartede vurderingsdata (interview, udvikler, 5/9-2019). Inkonsistens eller differentiering er måske nok udtryk for dårlig data, i den forstand at det er besværligt at bygge en algoritme op på dette grundlag. Men det er ikke nødvendigvis udtryk for en dårlig vurderingspraksis. Det kan være udtryk for, at socialarbejderne trækker på mange forskellige vidensgrundlag, og at hver enkelt sag vurderes på egne præmisser. Konsistente beregninger kan på den anden side tydeliggøre ubevidst bias. Hvis systemet f.eks. konsekvent vurderer underretninger omkring børn af anden etnisk herkomst som akutte, kan det være udtryk for en bestemt bias i de historiske vurderinger imod etnisk herkomst. Systemet kan således bidrage til en bevidstgørelse om ubevidst bias, men kun såfremt vi forholder os spørgende, undrende og tvivlende til systemets input, behandling heraf og output. Hvis systemet fi  kseres og dets vurderinger accepteres for pålydende, risikerer vi at den socialfaglige viden afkobles, og at systemet gentager en problematisk vurderingspraksis.

Men hvordan oversættes en praksis, som altså er resultat af eksplicit og tavs viden samt bevidste og ubevidste normer og værdier, til en beregning? For at systemet kan beregne sandsynligheden for om underretninger giver anledning til akut handling, må ord og begreber oversættes til tal. Det neurale netværk tilskriver ikke ord betydning og mening gennem associationer og kontekst. Ord er ligesom socialfaglige forklaringer meningsløse for et neuralt netværk. Oversættes ord til tal, kan det neurale netværk derimod lave beregninger og danne mønstre på tværs af data. Udviklerne forklarer således, at ' alle tingene er lavet om til tal, som der kan arbejdes videre med. Og det er egentlig det vigtigste' (interview, udvikler, 5/9-2019). Det har man gjort gennem tokenisering. Først har udviklerne oprettet et bibliotek på de 15.000 hyppigst forekommende ord i de historiske underretninger og givet hvert ord en numerisk placering i dette bibliotek. I de 15.000 ord indgår 30 kategorier, som anvendes af socialarbejdere til at indholdsbestemme underretninger. Kategorierne tager afsæt i og udvider Danmarks Statistiks 16 kategorier ud fra et ønske om større detaljegrad (mailkorrespondance, digitaliseringskonsulent, 7/10-2019). Ud over kategorierne 'vold' og 'seksuelle overgreb', indbefatter de 30 kategorier blandt andet 'kriminalitet', 'misbrug', 'udad-reagerende adfærd' og 'indad-reagerende adfærd', 'boligforhold',  'følelsesmæssige  problemer', 'omsorgssvigt', 'sociale problemer', 'social isolation', 'manglende forældrekompetencer', 'sygdom i hjemmet', 'social kontrol' og 'andet'. De 15.000 hyppigst forekommende ord inklusiv de 30 kategorier udgør beslutningsstøttesystemets vokabular udtrykt i talform. Systemet kan således genkende 15.000 ord som numerisk placeringer i et bibliotek. Ord, der ikke forekommer i biblioteket, kan systemet ikke genkende. Det kan derfor heller ikke genkende ord, der er stavet forkert, med mindre stavefejlen er blandt de 15.000 oftest forekommende ord i de historiske underretninger. Hvis underretteren laver en stavefejl i f.eks. 'overgreb' eller 'forældrekompetence', vil systemet sandsynligvis ikke genkende ordet.

Bibliotekets størrelse og dermed omfanget på systemets vokabular er defi  neret ud fra en vurdering af, hvor lidt information det neurale netværk behøver, for at kunne beregne om en underretning er akut. Udviklerne forklarer, at de generelt efterstræber et system, der kan beregne vurderinger på baggrund af mindst mulig information:

Vi prøver at minimere informationsmængden samtidig med, at vi bevarer variationen. Så hvis vi kan skære den her del af og stadig være i stand til at klassifi  cere ting som rød, gul, grøn 1 , så er det bedre for os... Og det gør vi ved hjælp af en regressionsmodel... Vi skærer en masse information væk, og så prøver vi kun at bearbejde den del af informationen, som er tilbage i modellen, og ser om systemet kan gætte kategorien ud fra det... Du kan også tænke på det som et billede af en kat, som så bliver skåret ned til ansigtet af katten. Og så bliver det skåret ned til den øvre del af kattens ansigt, så det kun er øjnene og så måske lige ørerne, der er tilbage. Og til sidst er det faktisk kun kanten af øjet. Så næste gang vi ser et billede, og vi kan se krumningen på kattens øje, så ved vi, det er en kat (interview, udvikler, 5/9-2019).

I stedet for at basere vurderingen på så megen information som muligt, forsøger man at reducere kompleksiteten ved at fjerne al irrelevant information. Beslutningsstøttesystemet mindsker således ikke usikkerheder ved at bringe mere information eller fl  ere perspektiver ind i vurderingen men derimod ved at skabe opmærksomhed på sandsynlige koblinger. Beslutningsstøttesystemer styrer og disciplinerer opmærksomhed og fokus på specifi  kke punkter og ekskluderer anden information som irrelevant og oversætter hermed sandsynligheder til relative sikkerheder, hvorpå vi kan handle.

Ud over at reducere informationsmængden, vægtes information også gennem Term Frequency-Inverse Document Frequency tokenisering. Systemet tjekker således ikke kun, om et givent ord er til stede i underretningsteksten, men vægter samtidig ord gennem en beregning af, hvor mange gange ordet forekommer i den enkelte underretning, i forhold til hvor mange underretninger ordet forekommer i. Ord, som optræder hyppigt i den enkelte underretning men sjældent i de øvrige underretninger, vægtes således højere. Ord, der optræder ofte i alle underretninger som f.eks. 'jeg' og 'at' vægtes lavere. Hvor socialarbejdere vægter information, ud fra hvor meget det siger om den foreliggende problematik og også her trækker på deres viden om forskellige risikofaktorer beregner beslutningsstøttesystemet vægtning.

Mønstrene og beregningerne skabes af beslutningsstøttesystemet og kan i den forstand beskrives som en alternativ vidensform, der opstår som en effekt af translationer fra vurderingspraksis til matematisk beregning. Systemets viden er ikke direkte sammenlig- nelig med de øvrige vidensformer, socialarbejderen trækker på i det professionelle skøn. Denne alternative vidensform kan snarere forstås som en aggregering og oversættelse af den faktiske vurderingspraksis uagtet alle de bevidste og ubevidste forklaringer, der måtte være til denne praksis. Det er ifølge udviklerne uklart, hvilke mønstre eller modeller systemet helt præcist anvender til at beregne vurderinger af underretninger (mailkorrespondance, udvikler, 5/9-2019). Systemet leverer en vurdering men ikke en meningsfuld forklaring, som f.eks. at barnet har behov for særlig støtte, eller at barnet er udsat for vold eller seksuelt overgreb. Outputtet ser entydigt ud og forstås som en neutral eller objektiv sandsynlighedsberegning på baggrund af 'reel data' og 'reelle sager' (interview, digitaliseringskonsulent, 6/9-2020). Årsager oversættes til modulerbare arrangementer af vægtede sandsynsligheder og selvom arrangementet er uklart, reduceres multipliciteten af mulige veje til et enkelt binært output: akut eller ikke akut. Til forskel fra det professionelle skøn, tager output form som en beregning bag enhver tvivl; en risikoscore (Amoore, 2019) eller en forudsigelse (Antczak &amp; Birkholm, 2019), der bør handles på. Systemet oversætter således en faglig praksis baseret på professionelle skøn til matematiske beregninger, som synes at tilvejebringe mere neutrale eller objektive skøn.

I udviklingsprocessen er systemet blevet testet på 4.000 historiske underretninger. Beslutningen om, hvornår systemet fungerer eller ej, eller hvad der udgør en acceptabel eller uacceptabel fejlmargen, er baseret på holdninger, som også oversættes til og bliver en del af systemets matematiske model (O'Neil, 2017). Som nedenstående uddrag illustrerer, forsøger man i BBU at sikre sig imod falske negativer, også selvom det kan få konsekvenser for potentielle effektiviseringsgevinster:

Kriteriet er, at den ikke må fejle på de røde. Ja 99 % altså. Men det må den jo ikke. Den skal jo sige: Her er en akut. Men den der sondring imellem gul og grøn, den er ikke så kritisk... Det der kommer til at ske, hvis en gul bliver vurderet som en rød, det er jo bare, at den bliver hurtigbehandlet. Og det er jo ikke en fejl... Den tager pladsen fra en anden rød. Men okay. Det er et scenarie, vi tænker, det går nok. Der, hvor det ikke går, er, hvis den er rød men bliver klassifi  ceret som grøn (interview, digitaliseringskonsulent, 5/9-2019).

Falske positiver - altså de tilfælde, hvor systemet vurderer en ikke-akut underretning som akut - anses ikke for en fejl som sådan, da det blot vil medføre en hurtigere behandling. Problemet er ifølge digitaliseringskonsulenten, at akutbehandlingen af ikke-akutte underretninger kan optage i forvejen pressede ressourcer og tid, som socialarbejderen ellers kunne have været brugt til at forholde sig til andre sager. Falske positiver er dog også problematiske, for så vidt de medvirker til, at sager, der ikke er akutte, forfølges som var de akutte, hvilket kan få alvorlige konsekvenser for de familier, der gøres til genstand for akutundersøgelsen. Pointen her er imidlertid ikke så meget systemets potentielle aftryk på de konkrete vurderinger, men derimod at forståelsen af og holdningen til acceptable fejlmargener inkorporeres i beslutningsstøttesystemets beregningsmodel og således er med til at afgøre, hvordan systemet beregner akutvurderinger.

Systemet notifi  ceres ikke om udviklingen i en sag på baggrund af yderligere information og kan derfor heller ikke lære heraf (interview, udvikler, 5/9-2019). Beslutningsstøttesystemets miljø indbefatter ikke sagsforløb, og systemet udsættes derfor ikke for vurderingens kontingens. I den forstand er systemet afskærmet for potentiel relevant input. Systemet testes imidlertid løbende på nyere underretninger ved at sammenholde systemets vurderinger med de socialfaglige vurderinger (mailkorrespondance, digitaliseringskonsulent, 30/4-2020). Systemets vidensgrundlag er således åbent for nye socialfaglige, organisatoriske og politiske input. Det skal dog bemærkes, at denne åbenhed er betinget af et strategisk ønske om at lade systemet forblive lærende og dynamisk:

Jeg tror der er kæmpe muligheder. Men det handler om datakvalitet og den der forståelse af de der processer og at tænke at data skal bruges dynamisk frem for statisk. Jeg tror, vi skal tænke dynamisk data frem for statisk (interview, IT-strateg, 6/9-2019)

Kunstigt intelligente beslutningsstøttesystemer får politisk og strategisk legitimitet i nationale, mellemkommunale og kommunale digitaliseringsstrategier (Kommunernes Landsforening, 2015; Københavns Kommune, 2019; Regeringen, 2019; Regeringen, Kommunernes Landsforening &amp; Danske Regioner, 2016; Socialforvaltningen - Københavns Kommune, 2018), som på forskellig vis frembringer og argumenterer for en vision om datadreven forvaltning og datadreven beslutningsunderstøttelse. Digitaliseringsstrategien for Københavns Kommunes Socialforvaltning anfører således, at ' vi skal kunne opsamle og anvende data til at understøtte beslutninger i alle led af vores opgaveløsning. Det betyder, at vi træffer bedre og hurtigere beslutninger ' (Socialforvaltningen Københavns Kommune, 2018, s. 4). I samme ånd fremgår det i den nationale strategi for kunstig intelligens, at ' algoritmerne skal sikre ligebehandling ved at være objektive, saglige og uafhængige af personlige forhold' (Regeringen, 2019, s. 7) . På den måde er de politiske strategier med til at italesætte, at store datasæt tilbyder en højere form for viden, der kan genere sande, objektive og præcise indsigter, som det hidtil har været umuligt at opnå (Boyd &amp; Crawford, 2012). Samtidig advarer de selvsamme strategier imod, at kunstig intelligens kan reproducere en ubevidst og uhensigtsmæssig historik. Ovenstående passus fra den nationale strategi afsluttes således med følgende bemærkning: ' Det indebærer, at kunstig intelligens ikke må skabes til at afspejle fordomme eller være forudindtaget mod fx bestemte køn, personer med handicap og etnisk herkomst ' (Regeringen, 2019, s. 7).

Fordi kunstigt intelligente beslutningsstøttesystemer ikke skeler til årsagerne til en given vurderingspraksis, videreføres og transformeres både fordomme, bias og refl  ekteret socialfaglig viden i translationsprocessen. Netop herfor er det afgørende, at vi ikke lukker og objektiviserer systemerne men insisterer på at holde dem åbne, dynamiske og lærende. Vi kan ikke én gang for alle uddrive uønskede bias og holdninger. Hver gang vi uddriver en norm, indplacerer vi en anden. Vi må derfor i stedet insistere på muligheden for fortløbende at forholde os tvivlende og undersøgende til systermernes vidensgrundlag.

## Konklusion

BBU modtager årligt 15.000 underretninger på børn og unge, som skal akutvurderes indenfor 24 timer. Det kan være en kompleks skønsmæssig opgave. Informationsgrundlaget kan være tvivlsomt eller sparsomt og er under alle omstændigheder udtryk for underretterens virkelighedsforståelse. Sociale problemer er herudover sammenfi  ltrede, komplekse, foranderlige, værdiladede og mangetydige, og der gives ikke én teoretisk linse, hvormed socialarbejderen entydigt og endegyldigt kan vurdere alle sociale problemer. Socialarbejdere uddannes på landets professionshøjskoler og universiteter netop i at anskue sociale problemstillinger ud fra internt konkurrerende men også komplementære teoretiske perspektiver. De uddannes og optrænes i at være refl  eksive over for menneskers og sociale omstændigheders fortløbende forandringer og kompleksiteter - ikke i at reducere kompleksiteter og usikkerheder. Socialarbejderens vurderinger skal ikke forstås som konstateringer af objektive kendsgerninger men netop som et skøn, der aktiverer eksplicit kodifi  ceret og erfaringsbaseret viden, institutionelle løsningsstrategier såvel som tavs viden samt ubevidste normer og sociale værdier.

For at understøtte socialarbejderen har man i BBU udviklet og er nu ved at teste et kunstigt intelligent beslutningsstøttesystem til akutvurderinger af underretninger. Forhåbningen er, at systemet kan reducere kompleksiteten og usikkerheden i skønsopgaven og understøtte skønnet ved at tilvejebringe matematiske beregninger af, om underretninger er akutte. Man inkorporerer således en alternativ vidensform i det professionelle og faglige skøn. I denne artikel har jeg undersøgt, hvordan denne vidensform konstrueres og stabiliseres. Målet har været at bidrage til en bedre forståelse for beslutningsstøttesystemets vurderinger og vurderingsgrundlag.

I  analysen har jeg trukket på ANT og særligt anvendt translationsbegrebet til at udfolde og fortolke de forskellige oversættelsesprocesser, der forbinder, forandrer og stabiliserer en historisk vurderingspraksis, institutionelle løsningsstrategier, vægtet information samt organisatoriske holdninger til acceptable fejlmargener i beslutningsstøttesystemets matematiske modeller. Gennem disse translationsprocesser konstrueres en alternativ vidensform, som ikke direkte kan sammenlignes med de vidensformer, der i øvrigt aktiveres i socialarbejderens professionelle skøn. Beslutningsstøttesystemet skønner ikke i samme forstand som socialarbejderen. Det beregner akuthed. Beregningen er ikke direkte baseret på kodifi  cerede teorier om sociale problemer eller institutionelle problemforståelser og løsningsstrategier. Den matematiske model for beregningen er deri- mod udtryk for en aggregeret og kvantifi  ceret oversættelse af en vurderingspraksis, som i sig selv er en effekt af et stort antal professionelle skøn. Skøn forbliver imidlertid skøn også selvom antallet øges. Skønnet og dets iboende usikkerhed er således en integreret del af beslutningsstøttesystemets beregninger. Selvom systemets beregninger forstås som neutrale konstateringer, bør vi tage alvorligt, at verden i sandhed er principielt usikker og omskiftelig og derfor holde systemet åbent for socialfaglige såvel som politiske og strategiske input, så det bliver ved med at være dynamisk og lærende.

## Diskussion

Artiklen er baseret på en undersøgelse af et beslutningsstøttesystem, der endnu ikke er rullet ud i praksis, og den kan derfor ikke konkludere på, hvordan systemet påvirker den konkrete vurderingspraksis i BBU. Konklusionen kan imidlertid tjene som grundlag for en diskussion af de betingelser beslutningsstøttesystemet implementeres under samt perspektiverne for det sociale arbejde.

Automatiserede beslutningsstøttesystemer aktualiserer et fundamentalt og gammelkendt spørgsmål: Hvad er sikker viden, og hvad er et sikkert vidensgrundlag? Ønsket om at basere akutvurderinger på et mere kvalifi  ceret og velinformeret grundlag vha. kunstigt intelligente beslutningsstøttesystemer kan forstås som seneste fremstød i den evidensbølge, der de seneste årtier har præget de politiske forventninger til socialt arbejde. Evidensbaseret praksis stammer oprindeligt fra medicin (Hjørland, 2010), som da også er udpeget som særligt prioriteret område til udvikling af kunstig intelligens i Danmark (Regeringen, 2019). Praksissen beror på en forestilling om, at man i forbindelse med beslutninger kan sætte sig ud over den professionelles individuelle viden og praksiserfaring og supplere eller erstatte denne med en viden, der er baseret på kvalifi  cerede forskningsresultater (Høgsbro, 2011). Forskning erstattes nu af kunstig intelligens, som forventes at kunne tilvejebringe sande, objektive og præcise indsigter baseret på mønstre i store datasæt. Kvalifi  cerede forskningsresultater skal herudover implementeres af en professionel socialarbejder, mens beslutningsstøttesystemer kan operere uden socialarbejderens mellemkomst. Udviklingen i de tekniske muligheder forenes således med evidensbevægelsens optimisme angående muligheden for objektivt sande indsigter i sociale problemer og deres løsning og dermed en endelig løsning af det moderne samfunds grundlæggende styringsproblemer (Dean, 1999). Troen på den endelige løsning kan imidlertid få alvorlige konsekvenser. Hvis beslutningsstøttesystemernes akutberegninger kommer til at determinere de socialfaglige vurderinger, risikerer man at skabe et lukket feedback loop. Systemets output bliver systemets feedback, og for hver gang beregningen gentages bekræftes beregningens validitet. Det er derfor afgørende, at systemerne ikke lukkes om sig selv. Det gælder for teknologierne men også for socialt arbejde.

Med inspiration i Foucaults begreb om frihed som engageret subjekt konstituering (Rabinow, 1997; Verbeek, 2011) kan vi forstå socialt arbejde som en situeret og historisk kontingent profession, der kan forholde sig til sin egen kontingens og bidrage til sin egen konstituering. Ud fra dette perspektiv er det afgørende, at professionen betvivler, hvorfor den mener at vide sig sikker. Tvivlen bør revitaliseres og rettes imod socialt arbejdes samlede vidensformer inklusiv beslutningsstøttesystemernes beregningsmodeller. Målet er, at professionen engagerer sig i sin egen kontingente konstituering. Praktikere, kommunale forvaltninger såvel som uddannelsessektoren er på forskellig vis engageret i denne konstituering. Socialforvaltningerne har et organisationsansvar for at sikre so- cialarbejdere, udviklere og politikere muligheden for at forholde sig kritisk til beslutningsstøttesystemet, dets akutvurderinger og beregningsgrundlag (Coeckelbergh, 2006). Uddannelsessektoren skal sikre, at socialarbejdere får kompetencerne til at forholde sig kritisk til den viden, systemerne producerer (Eriksen, 2015). Sidst men ikke mindst

## REFERENCER

- Antczak, H., &amp; Birkholm, K. (2019). Når borgeren bliver til data... fordufter den etiske fordring. Uden for Nummer , (39), 4-12.
- Amoore, L. (2019). Doubt and the algorithm: On the partial accounts of machine learning. Theory, Culture &amp; Society, 36 (6), 147-169.
- Bini, S. A. (2018). Artifi  cial intelligence, machine learning, deep learning, and cognitive computing: what do these terms mean and how will they impact health care?. The Journal of arthroplasty , 33 (8), 2358-2361.
- Birkbak, A., &amp; Carlsen, H. B. (2016). The public and its algorithms: Comparing and experimenting with calculated publics. I Piotukh, V. &amp; Amoore, L. (red.), Algorithmic Life-Calculative devices in the age of big data (s. 21-34). Routledge.
- Blom, B., Evertsson, L., &amp; Perlinski, M. (red.) (2017). Social and Caring Professions in European Welfare States. Policies, services and professional practices . Bristol: Policy Press.
- Boyd, D. &amp; Crawford, K. (2012). Critical Questions for Big Data: Provocations for a Cultural, Technological, and Scholarly Phenomenon. Information. Communication &amp; Society, 15 (5), 662-679.
- Bozdag, E. (2013). Bias in algorithmic fi  ltering and personalization. Ethics and information technology, 15 (3), 209-227.
- Callon, M. (1984). Some elements of a sociology of translation: domestication of the scallops and the fi  shermen of St Brieuc Bay. The sociological review , 32 (1\_suppl), 196-233.
- Chandler, D., &amp; Fuchs, C. (2019). Digital Objects, Digital Subjects: Interdisciplinary Perspectives

skal socialarbejderen insistere på retten til at forholde sig kritisk til systemets pålidelighed, ønskværdighed og legitimitet (Verbeek, 2011). Det er således i en kritisk interaktion med nye teknologier, at teknologierne og socialt arbejde kontinuerligt skal formes, og at socialarbejderens faglighed vedbliver at være relevant.

- on Capitalism, Labour and Politics in the Age of Big Data . London: University of Westminster Press.
- Citron, D. (2008). Technological due process. Washington University Law Review, 85 (6), 1249-1314.
- Coeckelbergh, M. (2006). Regulation or responsibility? Autonomy, moral imagination, and engineering. Science, Technology, &amp; Human Values, 31 (3), 237-260.
- Damman, J. L., Johnson Motoyama, M., Wells, S. J., &amp; Harrington, K. (2020). Factors associated with the decision to investigate child protective services referrals: A systematic review. Child &amp; Family Social Work .
- Dean, M. (1999). Governmentality - Power and Rule in Modern Society . London: Sage.
- Eriksen, K. K. (2015). 'Technological literacy' som udfordring for professioner og uddannelse. Delrapport 2 fra projektet VIOL - Velfærdsteknologi, Innovation, Omsorg og Læring . UCSJ Forlag, Sorø.
- Ejrnæs, M., &amp; Monrad, M. (2017). Teorier om sociale problemer. I Guldager, J. &amp; Skytte, M. (red), Socialt Arbejde (s. 50-85), Akademisk Forlag.
- Elgaard-Jensen, T. (2003). Aktør-netværksteori: en sociologi om kendsgerninger, karakker og kammuslinger. Papers in Organization , No. 48.
- Eubanks, V. (2018). Automating inequality: How high-tech tools profi  le, police, and punish the poor . St. Martin's Press.
- Evans, T., &amp; Harris, J. (2004). Street-level bureaucracy, social work and the (exaggerated) death of discretion. The British Journal of Social Work, 34 (6), 871-895.

- Gillingham, P. (2019). Can predictive algorithms assist decision making in social work with children and families?. Child abuse review , 28 (2), 114-126.
- Gillingham, P., &amp; Graham, T. (2017). Big data in social welfare: The development of a critical perspective on social work's latest 'electronic turn'. Australian Social Work , 70 (2), 135-147.
- Gillingham, P., &amp; Humphreys, C. (2010). Child protection practitioners and decision-making tools: Observations and refl  ections from the front line. British Journal of Social Work , 40 (8), 2598-2616.
- Haase, S. (2018). Den skønnede evidens. Tidsskrift for Professionsstudier, 14 (26), 74-84.
- Hjørland, B. (2010). Evidensbaseret praksis i videnskabsteoretisk belysning. Dansk biblioteksforskning, 6 (2/3), 35-47.
- Høgsbro, K. (2011). Evidensbaseret praksis-forhåbninger, begrænsninger og muligheder. Tidsskrift for Forskning i Sygdom og Samfund, 8 (15), 11-30.
- Keddell, E. (2019). Algorithmic Justice in Child Protection: Statistical Fairness, Social Justice and the Implications for Practice. Social Sciences , 8 (10), 281.
- Kjær, P., &amp; Vendelø, M. T. (2014). Beslutningsteori. I Vikkelsø, S. &amp; Kjær, P. (2014). Klassisk og moderne organisationsteori (91-113). Hans Reitzels forlag.
- Kristiansen, S., &amp; Krogstrup, H. K. (1999). Deltagende observation: introduktion til en samfundsvidenskabelig metode . Hans Reitzels Forlag.
- Kommunernes Landsforening (2015). Lokal og digital - et sammenhængende Danmark. Fælleskommunal digitaliseringsstrategi 2016-2020.
- Københavns Kommune (2019). Københavns Kommunes digitaliseringsredegørelse 2019 .
- Latour, B. (1987). Science in action: How to follow scientists and engineers through society . Harvard university press.
- Latour, B. (2005). Reassembling the Social - An Introduction to Actor-Network-Theory . Oxford: Oxford University Press.
- Law, J. (2009). Actor Network Theory and Material Semiotics. I Turner, B. S. (red.), The New Blackwell Companion to Social Theory (pp. 141-158).
- Lorenz, W. (2006). Perspectives on European Social Work - From the Birth of the Nation State to the impact of Globalisation . Opladen: Barbara Budrich Publishers.
- Lov om social service (2019) LBK nr 798 af 07/08/2019. https://www.retsinformation. dk/eli/lta/2019/798
- Lund, C. S. (2019). Algoritmer i socialfaglige vurderinger: En undersøgelse af socialarbejderes opfattelse af at anvende algoritmer til vurdering af underretninger. Uden for Nummer , (39), 20-31.
- March, J. G. (1995). Fornuft og forandring - Ledelse i en verden beriget med uklarhed . Samfundslitteratur.
- Mol, A. (2010). Actor-network theory: sensitive terms and enduring tensions. Kölner Zeitschrift für Soziologie und Sozialpsychologie, 50 (1), 253269.
- Molander, A., &amp; Terum, L. I. (red.) (2008). Profesjonsstudier . Oslo: Universitetsforlaget.
- Noble, S. U. (2018). Algorithms of oppression: How search engines reinforce racism . NYU Press.
- O'Neil, C. (2017). Weapons of math destruction: How big data increases inequality and threatens democracy . Broadway Books.
- Rabinow, P. (red.) (1997). Ethics, subjectivity and truth: The essential works of Foucault 1954-1984 (vol 1). New York: New Press.
- Regeringen (2019). National strategi for kunstig intelligens .
- Regeringen, Kommunernes Landsforening &amp; Danske Regioner (2016). Et stærkere og mere trygt digitalt samfund: Den fællesoffentlige digitaliseringsstrategi 2016-2020 .
- Sathya, R., &amp; Abraham, A. (2013). Comparison of supervised and unsupervised learning algorithms for pattern classifi  cation. International Journal of Advanced Research in Artifi  cial Intelligence , 2 (2), 34-38.
- Socialforvaltningen - Københavns Kommune (2018). Strategisk handleplan for digitalisering 2018-2022 .
- Socialstyrelsen (2013). Overgrebspakken. https:// socialstyrelsen.dk/born/overgreb/overgrebspakken
- Socialudvalget (2012-2013) Vejledning om særlig støtte til børn og unge og deres familier. ht-

tps://www.ft.dk/samling/20101/almdel/sou/ bilag/58/908994.pdf

Verbeek, P. P. (2011). Moralizing technology: Understanding and designing the morality of things . University of Chicago Press.

## NOTER

1.  Kategorierne er siden interviewet ændret fra rød, gul og grøn til akut og ikke-akut

## Andreas Møller Jørgensen , adjunkt, ph.d.

Institut for Sociologi og Socialt Arbejde, Aalborg Universitet e-mail: anmj@socsci.aau.dk

Aaen, J., &amp; Nielsen, J. (2016). Big Data: Kvantitative data med kvalitative forandringer?. Samfundslederskab I Skandinavien, 32 (1), 13-34.