Han er mest kjent som spiss, men har også spilt forsvar de siste årene. Dublin har spilt for flere engelske klubber. Han startet sin karriere i Norwich, men gikk til Cambridge United i 1988 på grunn av for lite spilletid. I Cambridge fikk han stor suksess, og rykket opp to sesonger på rad; fra fjerde til andre divisjon. Han ble kjøpt av Manchester United for 1 million pund, men han mistet mesteparten av 1992/93- sesongen på grunn av beinbrudd og fikk ikke medaljen for å ha vunnet Premier League på grunn av for få spilte kamper. Han gikk i 1994 for 2 millioner pund til Coventry City. Der etablerte han seg som en engelsk toppspiss, og sesongen 1997/98 fikk han sin første av i alt fire kamper for England. Han ble også toppscorer i Premier League sammen med Michael Owen og Chris Sutton med 18 mål.