Dopo la conquista del prestigioso trofeo, Hitzfeld lascia e viene sostituito da Nevio Scala; poco dopo Jürgen Kohler viene nominato Calciatore tedesco dell'anno. Sconfitti dal Barcellona nella Supercoppa d'Europa del 1997, i gialloneri terminano decimi in campionato, pur raggiungendo la semifinale della UEFA Champions League 1997-1998. Nel dicembre 1997 era stata messa in bacheca la Coppa Intercontinentale, vinta all'Olimpico grazie al 2-0 contro il Cruzeiro (reti di Michael Zorc e Heiko Herrlich). Il contratto con Scala non viene rinnovato e inizia un quadriennio senza successi, interrotto dal titolo tedesco vinto dal tecnico Matthias Sammer nel 2001-2002, ottenuto un'insperata rimonta ai danni del , con il giallonero Márcio Amoroso capocannoniere. Nella stessa annata la squadra raggiunge la finale della Coppa UEFA, in cui viene sconfitta dal Feyenoord, vincitore nel proprio stadio.