El equipo logró recuperarse bajo la dirección técnica de Otto Rehhagel, quien lideró al equipo de forma realmente exitosa: subcampeones de liga en 1983, 1985 y 1986, y campeones en 1988; finalistas de la DFB-Pokal en 1989 y 1990 con una victoria en 1991.