Sullivan begynte sin seniorkarriere hos sin lokale klubb Wimbledon i 1988, hvor han fikk totalt 224 kamper (181 seriekamper) frem til 2000. Sullivan ble regnet som en av de bedre målvaktene i engelsk fotball på 1990-tallet, og etter 1997/1998-sesongen ble han valgt ut til Premier League Team of the Year. Sullivan var for øvrig også målvakten som slapp inn David Beckhams famøse langskudd fra midtbanen i Wimbledons åpningskamp mot Manchester United i august 1996. I tillegg til sitt lange opphold i Wimbledon var han også lånt ut til naboklubben Crystal Palace i 1992, men der fikk han kun én seriekamp.