Han representerte Akershus på Stortinget i 1997 til 2001. I perioden 1988 til 1996 var han sentralstyremedlem i Venstre, og partiets politiske nestleder 1992 til 1996. I sitt politiske virke har han vært spesielt engasjert i næringspolitiske spørsmål. Johansen er fra 2006 medlem av representantskapet i Norges Bank.