Originalmente inspirado por Mick Jagger y Rob Tyner de MC5, Johansen comenzó su carrera en la segunda mitad de la década de los sesenta como cantante en una banda llamada Vagabond Missionaries; posteriormente al inicio de los setentas como cantante de la banda punk New York Dolls.