独ソ戦勃発と共に前線に立ち、第29軍司令官（1941年7月～）、第39軍司令官（1941年12月～）、北カフカーズ戦線司令官（1943年1月～5月）を歴任した。1943年7月まで副内務人民委員のままであり、督戦隊の創設者の1人でもあった。その後、正式に赤軍に移り、第42軍司令官（1943年12月～1944年3月）、ヴォルガ戦線、南西戦線、第3ウクライナ戦線（1943年5月～12月）、レニングラード戦線（1944年3月～4月）の副司令官を歴任した。大戦末期、第3沿バルト戦線司令官となり、ドイツ軍のクールランド軍集団の撃滅に参加した。1945年6月から極東軍副総司令官となり、関東軍の撃破に参加した。