Da Greame Souness innførte den såkalte «engelske invasjonen» i Rangers kom blant andre landslagsmålvakten Chris Woods til klubben, som henviste Walker til benketilværelse. Etter å ha mistet plassen til fordel for Woods gjennom flere sesonger ble Walker solgt videre til Heart of Midlothian FC for 125 000 pund. Hos Hearts konkurrerte han om førstelagsplassen med Henry Smith, og begge fikk tilnærmet lik spilletid en periode før Smith tok over plassen på permanent basis og gjorde at Walker ble lånt ut til Burnley FC. I 1994 ble han solgt til Partick Thistle FC, hvor han endelig etablerte seg som fast førstelagsmålvakt.