McInally begynte sin fotballkarriere hos den lokale klubben Ayr United FC i 1980, hvor han fikk sin debut i den øverste divisjonen i 1980/1981-sesongen. Hans scoringsrate var på om lag ett mål hver tredje kamp, noe som førte til interesse fra større klubber. I løpet av 1983/1984-sesongen scoret han 15 mål på 35 seriekamper, noe som førte til at storklubben Celtic FC la inn et bud på ham. Hos Celtic slet han med å etablere seg på førstelaget og var ofte henvist til innbytterbenken. Han bidro likevel til viktige scoringer da han ble byttet inn, og fikk også verdifull erfaring med europacupspill. Celtic vant Scottish Cup i 1984/1985, men uten at McInally fikk spille finalen. Han spilte dog i finalen i Scottish League Cup mot byrivalen Rangers FC i 1986/1987, hvor Celtic tapte 1–2.