Po wybuchu wojny z ZSRR w 1941 dowodził Grupą Armii „Południe”. Początkowo jego armia wolno posuwała się do przodu, później osiągnęła większe sukcesy, zdobywając Odessę, Kijów i Charków.