Fu ai Campionati europei under 23 a Göteborg nel 1999, che Olsen ottenne il suo primo grande risultato a livello internazionale, con la conquista di un argento nel getto del peso (lancio a 19,50 metri). Lo stesso anno, ai Mondiali di Siviglia, non andò oltre il turno di qualificazione con la misura di 19,13 metri. Nel 2000 fece segnare il nuovo primato danese a 20,02 metri, scalzando il precedente record di Ole Lindskjold che perdurava da circa ventisei anni (14 agosto 1974). Nel corso della stagione riuscì a migliorarsi ulteriormente sino alla misura di 20,88 metri, raggiunta il 12 agosto ad Aalborg. Alle Olimpiadi di Sydney 2000 venne ancora una volta eliminato prima della fase finale; tuttavia fu oggetto di particolare attenzione mediatica dopo il suo messaggio in una "chat room" che accusava il vincitore dell'oro, Arsi Harju, di esser risultato positivo ad un test antidoping. Nonostante la voce si rivelò falsa, il Comitato olimpico nazionale decise di far rientrare Olsen in Danimarca prima della chiusura dei Giochi.