Sjöberg, som var midtbanespiller, tilbragte store deler av sin karriere på 1970-tallet i Malmö FF. Han spilte også en sesong for Karlsruher SC i Bundesligaen, i 1976 og 1977.