При нападението на Германия срещу Полша през септември 1939 г. е началник на щаба на 22-ри армейски корпус. По време на кампаниите на Вермахта срещу Франция (1940), Югославия, Гърция (1941) и Съветския съюз (1941 – 1942) ръководи щабовете на 1-ва танкова армия и група армии „А“. През 1942 г. за няколко месеца служи във Франция. Допринася за победата над съюзническия десант при Диеп през август. През септември същата година е назначен от Хитлер за началник на генералния щаб на сухопътните войски на мястото на ген. Франц Халдер. Старае се безуспешно да спаси 6-а армия от унищожение в Сталинградската битка. Усилията му се провалят заради разногласия с Хитлер. Планира настъпателната операция „Цитадела“, която завършва с поражение на германските войски в Курската битка. Остава начело на щаба на сухопътните сили до юли 1944 г., когато е сменен след поредния конфликт с фюрера.