Se retiraría en ese equipo en 1996 y comenzaría una carrera como entrenador, en la que llevaría a la selección alemana a la final de la Copa Mundial de Fútbol de 2002.