Після нападу Нацистської Німеччини та її союзників на СРСР — командувач 20-ї армії, яка брала участь в Смоленській оборонній операції. Згодом — командувач 43-ї, 11-ї та 34-ї армії, заступник командувача та командувач Північно-Західного фронту. З грудня 1943 року — заступник командувача 1-го Українського фронту, брав участь в підготовці та проведенні Корсунь-Шевченківської наступальної операції. З лютого 1944 року — командувач 2-го Білоруського фронту, а з квітня 1944 року — 60-ї армії, на чолі якої брав участь у низці операцій Червоної армії на території Західної України, Польщі та Чехословаччини.