Elstrup seniordebuterte for sin lokale klubb Randers Freja i 1981, og i de neste fem sesongene ble han klubbens toppskårer i lavere divisjoner før han foran 1986-sesongen meldte overgang til eliteserieklubben Brøndby IF. Her spilte han kun syv kamper og skåret to mål før han flyttet til Nederland for proffspill i Feyenoord Rotterdam. Her spilte han i to sesonger, men skåret bare ni mål.