İsveç'in Helsinborg şehrinde doğan Larsson, futbola şehrinin takımı Högaborg'da başladı. Profesyonel hayata da bu takımda başlayan Larsson daha sonra aynı şehrin takımı Helsingborg'a transfer oldu. 1993'te Helsinborg'un Allsvenskan'a yükselmesinde takıma büyük katkıları oldu. Buradan sonra Hollanda'nın Feyenoord takımına transfer olan Larsson, burada da 4 sezon oynadı ve İskoç takımı Celtic'e geçti. Oynadığı dönemde takımın unutulmaz oyuncularından biri olmayı başaran Larsson, burada 7 sezonda 4 şampiyonluk yaşadı ve Scottish Premier League'de en çok gol atan oyuncu unvanını aldı. Daha sonra Kris Boyd'un kendi gol sayısını geçmesiyle en çok gol atan ikinci oyuncu unvanının sahibi oldu. Kariyerinin son dönemlerinde bir Avrupa Kupası kaldırmak isteyen Larsson, Celtic'den ayrıldı ve İspanyol kulüp Barcelona ile anlaştı. 2006 yılında Şampiyonlar Ligi'ni kazanarak hedefine ulaştıktan sonra sözleşmesinin sona ermesiyle ülkesine, eski takımı Helsingborg'a döndü. Helsingborg'a transferinin hemen ardından İsveç liginin tatil döneminde İngiliz kulübü Manchester United'da yarım sezon kiralık olarak oynadı ve 20 Ekim 2009'da Helsingborg'da futbolu bıraktı. Ayrıca eski adıyla UEFA Kupası günümüzdeki adıyla UEFA Avrupa Ligi organizasyonu tarihinde toplamda en fazla gol atan oyuncu unvanına sahiptir.