С началом войны направлен в спецкомандировку в ЗакВО представителем Политуправления РККА в 47-й армии, сформированной для прикрытия государственной границы ССР с Ираном. Постановлением ГКО от 14 сентября 1941 года Жуков назначен членом Военного совета Оперативной группы гвардейских минометных частей Юго-Западного фронта, в этой должности, участвовал в оборонительных операциях фронта на курском, харьковском и изюмском направлениях, в Елецкой и Барвенково-Лозовской наступательных операциях. С июля 1942 года проходил службу в той же должности на Сталинградском, с 30 сентября — Донском фронтах. Принимал участие в Сталинградской битве.