Formado en las categorías inferiores del Hearts, Gordon su debut oficial con el primer equipo el 6 de octubre de 2002 frente al Livingston FC, aunque no sería hasta la temporada 2003/04 cuando Gordon se adueñase de la portería del equipo de su Edimburgo natal.