Johansen ble tidlig aktiv i Arbeiderpartiets ungdomsbevegelse, og ble etter hvert formann i Drammens sosialdemokratiske ungdomslag. Han var også medlem av landsstyret i ungdomsforbundet. I 1908 ble han dømt og fengslet for antimilitær agitasjon.