Larsson startet sin fotballkarriere i IF Hallby 1971-81. Han debuterte i Allsvenskan for Halmstads BK. Han har også spilt for IFK Göteborg. Med dette laget vant ham 3 seriretitler og også finalen i UEFA-cupen i 1987, samme år som han vant Guldbollen. Han spilte for AFC Ajax i perioden 1987-1991. Fra 1991 til 1993 spilte han igjen i Sverige, for AIK og ble svensk seriemester igjen i 1992.