С октября 1942 года по май 1945 года — командующий 21-й армией (с 22 апреля 1943 — 6-я гвардейская армия) Юго-Западного и Донского фронтов. Именно там, в ходе наступательного этапа Сталинградской битвы Операция «Уран», молодой командарм проявил своё мастерство — в первые дни советского контрнаступления его армия прорвалась в глубину оборону противника и внесла решающий вклад в окружение в районе станицы Клетской основных сил 3-й румынской армии, а затем и в стремительный разгром окруженных тут войск противника. С 19 по 30 ноября 1942 года силами армии уничтожено до 11 000 и пленено до 35 000 солдат и офицеров противника, освобождено 56 населённых пунктов, уничтожено и захвачено большое количество боевой техники. Затем на Донском фронте 21-я армия участвовала в операции «Кольцо» по уничтожению окруженных немецких войск у Сталинграда. За массовый героизм личного состава и отличное выполнение боевых задач в ходе Сталинградской битвы армии в апреле 1943 года было присвоено гвардейское звание. Затем армия участвовала в Курской битве, Белгородско-Харьковской наступательной операции (в том числе в освобождении Харькова).