Gouzenko ble født av ukrainske foreldre i landsbyen Rogatsjovo nær Dmitrov i guvernementet Moskva, 100 kilometer nordvest for Moskva. Ved utbruddet av andre verdenskrig ble han med i militæret og ble opplært til chifferoperatør.