Hans aktive musikerkarriere starter 1951, etterhvert som medvirkende i Harry Waagens orkester, de NM i Jazz-vinnende Modern Swing Group og Modern Jazz Quintet, samt Asmund Bjørkens besetninger. Senere var han i den unge Bjørn Alterhaug sekstett (1969–72) og Ove Stokstads orkestre. Johansen oppnådde å spille med to av jazzens storheter: Ben Webster (16. mars 1970 i Trondheim, private opptak med Tore Sandnæs og Bjørn Alterhaug), og noe senere, med Chet Baker (25. mai 1984 fra i Trondheim, 1984; andre musikere var Erling Aksdal og Bjørn Alterhaug).