Watfords nye eier, Elton John, henta Taylor i 1977 da han var 32 år. Han hadde suksess og førte klubben fra 4. divisjon til 1. divisjon på bare fem år. Han tok til og med laget til tredje runde i UEFA-cupen etter å ha blitt nummer to i ligaen (1982/83) i lagets første sesong i den øverste divisjonen. Under hans ledelse kom klubben også helt til FA-cupfinalen i 1984, men tapte 0–2 for Everton FC. I Taylors siste sesong, sesongen 1986/87, ble Watford til slutt nummer ni i ligaen og kom til semifinalen i FA-cupen hvor laget tapte mot Tottenham.