Pierwszy sukces w karierze Jérôme Neuville osiągnął w 1996 roku, kiedy zdobył brązowy medal mistrzostw kraju w indywidualnym wyścigu na dochodzenie. W 1997 roku, podczas mistrzostw świata w Perth wspólnie z Franckiem Perque, Philippe’em Ermenaultem i Carlosem Da Cruzem zdobył brązowy medal w drużynowym wyścigu na dochodzenie. Dwa lata później, na mistrzostwach świata w Berlinie razem z Ermenaultem, Cyrilem Bosem i Francisem Moreau w tej konkurencji zajął drugie miejsce. W tym samym składzie Francuzi zajęli czwarte miejsce na igrzyskach olimpijskich w Sydney w 2000 roku, przegrywając walkę o brąz z Brytyjczykami. W drużynowym wyścigu na dochodzenie Neuville zdobył także brązowe medale na mistrzostwach świata w Manchesterze w 2000 roku (razem z Damienem Pommereau, Philippe’em Gaumontem i Cyrilem Bosem) oraz na mistrzostwach świata w Stuttgarcie w 2003 roku (w składzie z Perque, Fabienem Mercirisem i Fabienem Sanchezem), a na igrzyskach w Atenach był siódmy.