Sjöberg var Sveriges første olympiske deltaker, han var den eneste utøveren som representerte Sverige under de første moderne olympiske lekene 1896 i Athen. Han deltok i turn og i fire friidrettsøvelser. Hans beste plassering var en fjerdeplass i høydehopp med resultatet 1,60. I lengdehopp fikk han en sjetteplass med 5,80 og i diskos ble han nummer sju.