Su primera temporada en la máxima categoría consiguió consolidar al equipo con un 11º puesto final, pero en la segunda mitad de la temporada 2003/04, Rangnick fue despedido después de una derrota 0-1 ante el Borussia Mönchengladbach en marzo de 2004.