Livingstone startet karrieren hos Aston Villa. Med Nigel Spink og Mark Bosnich foran seg i køen om plass på laget, gikk han 13. november 1992 på utlån til York City. En drøy måned senere, 15. november 1992, gikk han vederlagsfritt til York. I 1993/94-sesongen gikk han videre til , hvor han ligadebuterte som innbytter for James Walker i sesongens tredje siste kamp. Han spilte også lagets to siste ligakamper samme sesong.