Han var medlem av Kragerø bystyre fra 1903 til 1921 og byens ordfører i 1911, 1912, 1913 og 1920, valgt for Avholdspartiet. Han sørget for tomteløsningen for Kragerø sykehus på Marienlyst, og ble formann i sykehusstyret, og engasjerte seg mye i byens forskjønnelse og regulering. Han var også medlem av direksjonen og ordfører i forstanderskapet i Kragerø sparebank. Ved stortingsvalget i 1915 ble han valgt til stortingsmann for Kragerø som Avholdspartiets kandidat. Det året ble 62 totalavholdsmenn og enda flere sympatisører valgt inn på Stortinget, men Hartvig Johnsen var den eneste som ble valgt uten å samarbeide med et annet parti. I motsetning til mange andre organiserte avholdsfolk hadde Hartvig Johnsen høyresympatier. Han satt på Stortinget som uavhengig representant. Han satt i Stortingets næringskomité, og det var mye hans fortjeneste at Stortinget vedtok å bygge Kragerøbanen som et sidespor til Sørlandsbanen.