Han kom til Bristol Rovers FC for £250 000 i august 1998. I 1998/1999-sesongen scoret Roberts 16 mål på 32 ligakamper, og fortsatte neste sesong, da han scoret 22 mål på 41 kamper. Sommeren 2000 ville han imidlertid bort fra Rovers, og satte seg selv på transferlista.