Andersson startet karrièren i Hanhals da han var fem år. Da han var tenåring flyttet familien til Göteborg, og han meldte seg inn i GAIS, der han i 1981 debuterte for A-laget. I 1984 spilte han som 17-åring sin første seriekamp, der Grimsås IF var motstander. Da han var 19 år skrev han på for IK Brage, og debuterte i Allsvenskan som 21-åring. Etter noen sesonger i Brage gikk reisen videre til Örgryte IS.