Así, Heynckes regresó a la Bundesliga de la mano del Schalke 04 para la temporada 2003/2004, dejando al equipo en séptimo puesto.