El 26 de julio de 2004, regresó a Alemania para ocupar su nuevo puesto de entrenador del equipo nacional de , sucediendo a su antiguo compañero de equipo y atacante Rudi Völler.