David Gray comenzó su trayectoria futbolística en el Heart of Midlothian F.C., donde permaneció hasta los dieciséis años, cuando firmó su contrato de entrenamiento con el Manchester United y fue transferido por cerca de setenta mil euros en julio de 2004.