Hysén startet sin karriere på IFK Göteborg og etablerte seg raskt som en tøff forsvarsspiller. I 1983 ble han kåret til årets fotballspiller i Sverige og han fikk sin aller første landskamp, han ble da oppdaget av PSV Eindhoven og fikk dermed overgang dit. Han gikk senere til Fiorentina og i 1988 ble han igjen tildelt Guldbollen etter å ha spilt en stor kamp mot i tillegg til å ha spilt bra for Fiorentina. Engelske klubber ble da interessert i Hysén. En stund så det ut til at han skulle gå til Manchester United, men Liverpool viste interesse og Hysén foretrakk Anfield fremfor Old Trafford siden Liverpool på den tiden var den dominerende klubben i England. Ved siden av veteranen Alan Hansen og unggutten Gary Ablett i Hansens skadeperiode var Hysén en viktig del av Liverpool da de vant Ligaen i 1990. Han var senere kaptein for i et skuffende VM i Italia i 1990 da de tapte sine tre første kamper og gikk ut forbausende tidlig. Deretter gikk det nedover for den store svensken. Etter at Kenny Dalglish sa opp som manager i Liverpool og Graeme Souness tok over fikk han lite spilletid, og i 1992 dro han tilbake til Sverige for å avslutte karrieren i GAIS.