Karlsen hadde yrkesbakgrunn fra Meraker smelteverk i Kopperå. Han var formann i Kopperå Arbeidsmannsforening i ni år, medlem av Norsk Kjemisk Industriarbeiderforbunds hovedstyre, ordfører i Meråker kommune 1939–1942 og 1945–1966, fylkestingsformann (fylkesordfører) i Nord-Trøndelag 1946–1955 samt 2. vararepresentant til Stortinget fra Nord-Trøndelag 1945–1953, men møtte aldri på Stortinget.