Larsens profesjonelle karriere begynte i Køge Boldklub, hvorfra han gikk til Brøndby IF og så til BK Frem, før han i 2004 skiftet til Djurgårdens IF i Sverige. Her ble han svensk pokalmester i 2004 og svensk mester i 2005. I 2005 blev han solgt til FC Schalke 04 for 17,5 millioner kr.