Som spiller var Gray kjent for sine tekniske ferdigheter. På slutten av 1960-tallet sang Leeds United-supporterne «Waltzing Mathilda» for ham, siden det så ut som om han danset vals med motstanderne. Han spilte 559 kamper for Leeds United og scoret 68 mål. Langvarige skadeopphold medførte at han kun fikk 12 A-landslagskamper for Skottland. Han er fortsatt ansatt i Leeds United AFC.