Karlsen ble valgt inn i kommunestyret for Arbeiderpartiet i 1980. Han ble valgt som ordfører ved valget i 1984 og gjenvalgt i 1988. Etter 6 år som ordfører gikk han av for å overta stillingen som kommunekasserer i Øvre Eiker kommune.