Han ble formann i Drammens arbeiderparti i 1921, og ble året etter valgt inn i Drammen bystyre. Han satt i bystyret i årene 1922 til 1925 og igjen fra 1931 til 1937. Fra 1922 til 1924 var Johansen Stortingsmann, innvalgt for bykretsen Hønefoss, Drammen, Kongsberg.