McKinlay startet sin fotballkarriere hos Dundee i 1981. Her ble han en etablert førstelagsspiller allerede som tenåring og spilte over syv sesonger på Dens Park før han ble solgt til Heart of Midlothian for 300 000 pund i desember 1988. Her spilte han over 200 seriekamper frem til november 1994, da han ble solgt videre til Celtic for 350 000 pund.