Gunn begynte sin fotballkarriere hos Aberdeen FC i 1980, en klubb som da var ledet av Alex Ferguson. Han seriedebuterte hjemme mot Hibernian FC den 30. oktober 1982, og ble tildelt vinnermedalje etter finalen i cupvinnercupen i 1983, dog uten å få innhopp. Gunn fikk problemer med å etablere seg på førstelaget i sterk konkurranse med landslagsmålvakt Jim Leighton, og fikk kun sporadiske innhopp der hvor Leighton ikke var tilgjengelig for spill. Gunn ble deretter solgt til den engelske klubben Norwich City FC for £100 000 i oktober 1986.