Han ble valgt som medlem av fylkesutvalget i 1952, og i 1963, da bykommunene ble tilsluttet fylkeskommunene, ble han Finnmark fylkeskommunes første fylkesordfører. Dette vervet hadde han uavbrutt frem til sin død. Han har også møtt på Stortinget flere ganger som varamann for Arbeiderpartiet i Finnmark. Før kommunesammenslåingen var han ligningssjef, men i den nye felleskommunen ble han sosialsjef. De siste årene var tillitsvervet som fylkesordfører en heldagsstilling. Ved sin død hadde han også en lang rekke med styreverv, blant annet formann i Finnmarks fylkes Kraftforsyning og medlem av representantskapet i Norges Bank. Da fylkeskommunen bygde nytt bygg i Vadsø, ble parkområdet rundt bygget gitt navnet Henry Karlsens plass.