Gould begynte sin spillerkarriere hos Clevedon Town i 1989. Han gikk videre via Halifax Town og et kortere opphold hos West Bromwich Albion i lavere divisjoner før han ankom Coventry City i juli 1992. Der spilte han 27 seriekamper frem til 1996, først under hans trenerfar Bobby Gould, og deretter under ledelse av Phil Neal. I 1996 dro han på en fri overgang til andredivisjonsklubben Bradford City, hvor Gould fikk spille Playoff-finalen mot Notts County FC på Wembley.