Sunderland rykket ned igjen i 2002/03-sesongen, og Gray spilte bare 2 kamper før han ble utlånt til Celtic FC. Her ble han i 4 måneder. før han flyttet til Blackburn Rovers den 1. januar 2004, på free transfer.