Юп Хайнкес започва кариерата си като футболист в местния Борусия (Мьонхенгладбах), където играе в периода 1963-1967 и 1970-1978. С него става 4 пъти шампион на Германия и печели по веднъж Купата на Германия и Купата на УЕФА. От 1967 до 1970 се състезава за Хановер 96. В Бундеслигата има записани 369 мача, в които е отбелязал 220 гола (така става третият най-добър реализатор в историята след Герд Мюлер – 365 гола и Клаус Фишер – 268 гола). Играе в германския национален отбор от 1967 до 1976 г., като печели Европейското първенство през 1972 г. и Световното през 1974 г.