Karlsson flyttet deretter tilbake til Norge for å ta over en ny samarbeidsklubb, Sarpsborg Sparta. Under skiftende klubbnavn hadde laget vært et bunnlag i 1. divisjon i flere år, men etter nok en svak start var laget femte best i høstsesongen 2008. Året etter fikk Karlsson forsvaret til å sitte, og laget sto to poeng bak Hønefoss på kvalifiseringsplass, da Karlsson valgte å trekke seg i juni grunnet økonomisk rot. Straffen ble redusert til tre minuspoeng, og Sarpsborg 08 kom seg opp på 5.-plassen som for første gang ga kvalifisering. Her klarte klubben å slå erkerival Fredrikstad ned i 1. divisjon, men rykket ikke selv opp før året etter.