Sheedy startet sin fotballkarriere hos Hereford United FC i 1975, hvor han på tre sesonger spilte like over 70 seriekamper og noterte seg for åtte mål. I juli 1978 meldte han overgang til storklubben Liverpool FC på en overgangssum verdt £80 000, men slet med å få spilletid i konkurranse med langt mer etablerte spillere samt den to år yngre landsmannen Ronnie Whelan. Resultatet ble kun ni seriekamper på drøye fire sesonger. I 1982 ble Sheedy solgt til naborivalen Everton FC for £100 000, hvor han omsider etablerte seg i førstelagstroppen på midtbanen sammen med blant andre Peter Reid og Paul Bracewell.