Elkjærs karriere begynte i Vanløse IF i 1976, men der ble han bare i en sesong. Han spilte 15 kamper og skåret sju mål. Deretter signerte han for 1. FC Köln i Tyskland, som i de dager var i europateten. Med det laget vant han DFB-pokalen, men han spilte kun ni minutter i finalen mot Hertha Berlin, og kom aldri helt overens hverken med treneren eller med den rigide disiplinkulturen i tysk fotball. Han dro, men rakk å skrive historie før han dro; et sammenstøt med treneren Hennes Weisweiler har blitt en velkjent røverhistorie i Danmark. Weisweiler hadde konfrontert spilleren med at han hadde tilbragt kvelden på en nattklubb med en flaske whiskey og en kvinne. Elkjær svarte at det var løgn: Det var nemlig en flaske vodka og kvinner.