Gordon innledet sin karriere i skotsk fotball i Hearts. I sesongen 2001–2002 var han utlånt til Cowdenbeath på nivå 3, og Gordon etablerte seg som Hearts' førstekeeper i 2003 og bidro til at laget vant Scottish Cup i 2006. Han ble også den faste keeperen på Skottlands herrelandslag i fotball.