Tidigere har han spilt for Nyköping, Hammarby, , og Ribe-Esbjerg. I Hammarby var Karlsson lagkaptein og en av de mest markante spillerne på laget. Han var med på å gå opp i Elitserien 2002 og å ta deres første SM-gull i 2006. Etter å ha vunnet to SM-gull med Hammarby 2006–2007 gikk han til Viborg HK i Danmark. 2009 gikk han til Kolding.