Hans ungarske far Laszlo Limpar kom til Sverige som flyktning i 1956 som følge av oppstanden i Ungarn, og begynte spille fotball i Sverige for Stockholms-klubben Spårvägens IF. Anders fulgte i sin fars fotspor, og startet med barnefotball i samme klubb. Anders Limpar var under oppveksten også innom AIK før han som tenåring kom til IF Brommapojkarna, som er kjent for oppfostring av fotballtalenter. I 1981 debuterte han som seniorspiller, og påfølgende sesong etablerte han seg på seniornivå. Etter å ha spilt der i om lag seks år dro turen videre til Örgryte IS i 1986, som overraskende hadde vunnet Allsvenskan i 1985. I denne klubben imponerte han såpass at han tiltrakk seg oppmerksomhet fra flere europeiske klubber. På høsten 1986 trente han en uke med . På høsten i 1987 var han på prøvespill hos , men Örgrytes prisforlangende var mer enn hva Liverpool var beredt til å betale. Deretter fulgte prøvespill hos og , før han i 1988 ble kjøpt av den sveitsiske toppklubben Young Boys. Her ble han kun i én sesong før han i 1989 dro videre til den italienske klubben Cremonese.