Gordijevskij ble ansatt i sovjetisk utenrikstjeneste etter fullførte studier, og ble sendt til Øst-Berlin i august 1961, rett før Berlinmuren var ferdigstilt. I 1963 ble han ansatt i KGB, og stasjonert ved den sovjetiske ambassaden i København. I årene i København ble Gordijevskij kritisk til det regimet han jobbet for, særlig etter Warszawapaktens invasjon av Tsjekkoslovakia i 1968, og tok kontakt med britisk etterretning som vervet ham som dobbeltagent. I 1982 ble Gordijevskij KGBs byråsjef i London, ansvarlig for alle KGBs aktiviteter i Storbritannia.