Heynckes edusti Bundesligassa pääasiassa Borussia Mönchengladbachia (1965–67 ja 1970–78), jonka riveissä voitti neljä saksanmestaruutta (1971 ja 1975–77). Heynckes on Bundesliigahistorian parhaimpia maalintekijöitä, hän teki kaikkiaan 220 maalia 369 pelissä. Saksan Cupin voitto tuli vuonna 1973. Jupp Heynckes voitti UEFA Cupin Borussia Mönchengladbachin joukkueessa vuonna 1975 ja vuonna 1977 he pääsivät Euroopan Cupin loppuotteluun. Kolmen kauden ajan Heynckes edusti Hannover 96:ta (1967–70). Saksan maajoukkueessa hän pelasi 39 maaottelua ja teki niissä 14 maalia vuosina 1967–1976. Heynckes voitti maailmanmestaruuden vuoden 1974 MM-kisoissa, vaikkakin pelasi turnauksessa vain yhden puoliajan ja euroopanmestaruuden vuoden 1972 EM-kisoissa.