Karlsen ble valgt til fylkesordfører i Buskerud i 1999 og ble gjenvalgt i 2003. Han stilte ikke til gjenvalg ved fylkestingsvalget i 2007. Før det var han politisk rådgiver i Barne- og familiedepartementet under Gro Harlem Brundtlands 3. regjering. Karlsen har også vært styremedlem i Helse Sør.