Karlsen var kommunearbeider i Skien, og ble i 1919 viseformann i Skiens arbeidsmannsforening. Året etter ble han formann i Skiens kommunearbeiderforening. Han var også varamann i hovedstyret i Norsk Kommuneforbund.