Gillespie fikk sin landslagsdebut for den 14. oktober 1987 i en EM-kvalifiseringskamp hjemme mot (2–0). Han ble deretter tatt ut i troppen til verdensmesterskapet i Italia i 1990 av landslagstrener Andy Roxburgh, hvor han kun spilte den siste gruppespillkampen mot (0–1), hvor han kom inn som innbytter for en skadet Murdo MacLeod. Fra 1987 til 1991 spilte han totalt 13 landskaper for Skottland.