Talvisodan aikana Žukov oli pääesikunnan päällikkönä. Hänet siirrettiin Kiovan sotilaspiiriin. Tammikuussa 1941 hänet nimitettiin puna-armeijan komentajaksi. Erimielisyys Josif Stalinin kanssa johti kuitenkin hänen syrjäyttämiseensä ja hän oli jonkin aikaa pidätettynä. Syytteitä ei kuitenkaan nostettu, hän sai vain varoituksen ”herkkäuskoisuudesta”. Saksan hyökättyä Neuvostoliittoon kesäkuussa 1941 armeijan komentajaksi tuli Boris Šapošnikov, joka väistyi pian Aleksandr Vasilevskin tieltä.