I 1986/1987-sesongen etablerte han seg fast på førstelaget i tospann med Alan Hansen, og mistet kun tre seriekamper. Forsvarsduoen hjalp Liverpool til nytt seriemesterskap, men klarte ikke å forhindre et tap i FA-cupfinalen mot Wimbledon FC (0–1). I 1988/1989-sesongen var Gillespie med på å vinne FA-cupen mot Everton, men tapte seriemesterskapet til fordel for Arsenal FC. Sesongen var ellers preget av Hillsborough-tragedien. Seriemesterskapet ble gjenvunnet i 1989/1990-sesongen, men Gillespie fikk kun 13 seriekamper og tapte førstelagsplassen til fordel for den nyinnkjøpte svenske landslagsspilleren Glenn Hysén. Han ble likevel tatt inn i varmen igjen da Alan Hansen ble tvunget til å legge opp på grunn av skade, og spilte 30 seriekamper i 1990/1991-sesongen.