Karlsen engasjerte seg politisk og var 1929-35 formann i Strinda Arbeiderparti. Han var medlem av Strinda kommunestyre 1934-40, ordførar i kommunen i 1945, varaordførar 1945-47 og medlem 1951-55. Frå 1932 til 1958 hadde han plass i skulestyret i Strinda, formann 1938-1954. Han var også ein lang periode med i alderstrygdnemnda i Strinda, som varaformann 1945-51 og formann 1952-55. Perioden 1946-60 var han formann i sjukehusstyret i Strinda.