I juni 1987 forlot Taylor jobben som manager i Watford og tok over Aston Villa som hadde rykka ned til andre divisjon sesongen før. Han første sesong endte med opprykk til første divisjon. I hans tredje sesong endte Aston Villa på andreplass i ligaen. På grunn av suksessen han hadde hatt, tok han over etter Bobby Robson, som hadde gitt seg etter tapet mot i semifinalen i fotball-VM 1990.