С июля 1941 года заместитель командующего Юго-Западного фронта по тылу. Вступил в ряды ВКП(б)/КПСС. С сентября 1941 года командующий 38-й армией — самой многочисленной армией Юго-Западного фронта. Руководил боевыми действиями на харьковском направлении, в том числе обороной и первой сдачей Харькова немцам. В ноябре провел ряд удачных частных операций армейского уровня. С декабря 1941 года командующий 56-й армией. Участвовал в Барвенково-Лозовской операции. В марте 1942 года подразделения 56-й армии начали наступательную операцию с целью разгрома таганрогской группировки противника и освобождения Таганрога. В течение всего месяца ударная армейская группировка вела напряженные бои, но несмотря на большие потери, освободить Таганрог не смогла. В апреле — первой половине июля 56-й армия вела оборонительные бои на рубеже Ростовского укрепленного района.