Karlsen ble formann i Strinda arbeiderparti i 1929 og valgt inn i kommunestyret i 1934. Ved frigjøringen i 1945 ble Karlsen midlertidig oppnevnt som ordfører i Strinda. Han var mange år formann i skolestyret, sykehusstyret og alderstrygdnemnda.