Stalinin kuoleman jälkeen 1953 Žukov nimitettiin varapuolustusministeriksi. Hän tuki Nikita Hruštšovia ja vastusti ministerineuvostoa ja Georgi Malenkovia, jotka olivat valmiit vähentämään sotilasmenoja. Kun Hruštšov pakotti Malenkovin eroamaan ja korvasi hänet Nikolai Bulganinilla helmikuussa 1955, Žukov nimitettiin puolustusministeriksi ja presidiumin ehdokasjäseneksi. Puolustusministerinä hän vaati Hruštšovia toimimaan Unkarin irtautumisen estämiseksi lokakuussa 1956.