Fra nå av gjorde Jerusalem sang til karrieren. Hans første store rolle var Lohengrin i 1976, en rolle som han snart dukket opp som i Darmstadt, Aachen, Hamburg, og på Zürich-festivalen, og senere i München og New York Metropolitan. Han fulgte dette med Max i i Stuttgart. Hans Bayreuth-karriere startet i 1977, hvor han i 1981 hadde fremført Froh (), den unge sjømannen og deretter Lohengrin, Parsifal og Walter von Stolzing ().