Han spilte for Sørum IL, Sørumsand IF, Lillestrøm, Hamarkameratene, Vålerenga, Haugesund, Åsane og FK Tønsberg. Karlsen var også utenlandsproff gjennom sitt låneopphold hos danske Ikast FS og overgang til Luton Town. Karlsen debuterte hos sistnevnte borte mot Bury FC den 4. november 2000.