30 августа 1942 года назначен командующим 24-й армией, принимавшей участие в Сталинградской битве. С октября 1942 года — помощник и заместитель командующего войсками Воронежского фронта по формированию. Участвовал в Харьковской наступательной и оборонительной операциях, являлся начальником обороны города и организовывал оборону Харькова во время контрнаступления своего заклятого врага Манштейна. С 14 по 21 марта 1943 года через лес северо-восточнее Мохначей вышел из Харькова одним из последних.