Lee begynte karrieren i et band med navn «Teaser», gikk så til bandet «Mickey Ratt» som skiftet navn til , hvor han var kun med ett år og deltok ikke på noen albuminnspillinger. Han ble så med i Rough Cutt hvor han kun var ett år før han fikk tilbud om å spille i Dio i 1982, som han takket ja til. Samtidig trengte Ozzy Osbourne en ny gitarist etter at Randy Rhoads døde i en ulykke. Valget sto mellom Jake E. Lee og Dokken gitarist George Lynch. Valget falt på Lee, og han ble med i bandet og sluttet hos Dio innen et år var gått. Han deltok på albumene (1983) og (1986) før han forlot bandet i 1987, og startet bandet Badlands i 1988. Bandet besto av de tidligere Black Sabbath-medlemmene Ray Gillen (vokal) og Eric Singer (trommer) i tillegg til Greg Chaisson (bassgitar). Bandet hadde flere utskiftninger og ga ut tre album.