Etter Stalins død i 1953 ble imidlertid Zjukov kalt tilbake til Moskva, og fikk stillingen som forsvarsminister. I egenskap av dette var han ansvarlig for Sovjetunionens militære innmarsj i Ungarn i 1956. Zjukov deltok i det mislykkede partiopprøret mot Nikita Khrusjtsjov i 1957, og ble deretter fjernet fra sentralkomitéen.