Ako náčelník generálneho štábu sa podieľal na odrazení útoku na Moskvu na prelome rokov 1941–1942. 27. augusta 1942 ho Stalin vymenoval za zástupcu vrchného veliteľa zodpovedného za obranu Stalingradu. Spolu s generálom Vasilievskym a ďalšími dôstojníkmi pripravoval protiútok pri Stalingrade, pri ktorom sovietske vojská obkľúčili a následne v Stalingradskom kotle zlikvidovali alebo zajali asi 330 000 nemeckých a rumunských vojakov. Operácia bola dovtedy najväčšou porážkou nemeckých vojsk v druhej svetovej vojne. Pravdepodobne zo Stalinovej svojvôle, však bol pred začiatkom protiútoku pri Stalingrade poverený velením operácie Mars, ktorú predtým sám pripravoval. Tá sa uskutočnila v oblasti Rževa, Syčevky a Viazmy západne od Moskvy a mala podobný rozsah ako sovietska protiofenzíva pri Stalingrade. V týchto bojoch, ktoré sa stali tiež známe ako „Rževský mlynček na mäso“, sovietske vojská utrpeli ťažké straty, pri čom nedosiahli prakticky žiadny úspech. Mnohí kritici ju pre to považujú za Žukovovu najväčšiu porážku. Podľa niektorých názorov však bola operácia iba jednou z tých, ktoré mali viazať nacistické sily nasadené na likvidáciu sovietskych jednotiek obkľučujúcich 6. armádu pri Stalingrade.