I OL i Athen 2004 var Ndure flaggbærer for Gambia under åpningsseremonien. Gambia stilte med kun to utøvere i dette OL; Ndure og Adama Njie. Han ble slått ut i mellomheatene på både 100 m og 200 m, etter å ha satt ny gambisk rekord med 10,26 i forsøksheatet på 100 m, og kom på 3.-plass i sitt heat, bak Francis Obikwelu og Ronald Pognon. I kvartfinalen løp han på 10,39, og gikk ikke videre til semifinalen. På 200 meter gikk de fire beste fra hvert innledningsheat videre, samt de fire neste utøverne med best tid, og Ndure kom på 5.-plass i sitt heat, med tiden 20,78, og gikk videre på tid. Han kom på 6.-plass i sitt kvartfinaleheat, og gikk ikke videre i konkurransen.