Olsson to jeden z najbardziej utytułowanych trójskoczków w historii tej konkurencji. Swoją karierę rozpoczął jednak od skoku wzwyż, w którym zdobył złoty medal na mistrzostwach Europy juniorów w 1999 w Rydze. Na tych samych mistrzostwach wywalczył srebrny medal w trójskoku. Później medale zdobywał w tej ostatniej konkurencji. Startował na igrzyskach olimpijskich w 2000 w Sydney, ale odpadł w eliminacjach. Zwyciężył na młodzieżowych mistrzostwach Europy w 2001 w Amsterdamie. W tym samym roku zdobył swój pierwszy medal na imprezie międzynarodowej seniorów – był to srebrny medal mistrzostw świata w Edmonton. W 2002 zdobył tytuły mistrzowskie na halowych mistrzostwach Europy w Wiedniu oraz na mistrzostwach Europy w Monachium. W 2003 zwyciężył na halowych mistrzostwach świata w Birmingham oraz na mistrzostwach świata w Saint-Denis.