Był dwukrotnie wicemistrzem olimpijskim: podczas Igrzysk Olimpijskich w Los Angeles 1984 (z wynikiem 2,33 m) i w Barcelonie 1992 (2,34 m). Na Igrzyskach w Seulu 1988 zdobył brązowy medal (z wynikiem 2,36 m). Sjöberg był także mistrzem świata z Rzymu 1987 (wynik 2,38 m).