Służbę w II wojnie rozpoczął od kampanii w Polsce w 1939 roku. W czerwcu 1940 roku otrzymał awans na generała piechoty. W wojnie z ZSRR początkowo dowodził XLIII Korpusem, który w październiku 1941 został włączony do 2 Armii Pancernej Guderiana. 26 stycznia 1942 objął dowodzenie 4 Armią w Grupie Armii „Środek”. Heinrici, dowodząc resztkami 4 Armii, które zajmowały pozycje naprzeciw Moskwy, kazał swoim oddziałom to wycofywać się na niewielką odległość, to znów powracać na zajmowane wcześniej stanowiska. Dzięki tym manewrom przygotowania artyleryjskie przed kontratakami Rosjan trafiały w opuszczone pozycje i nie dziesiątkowały żołnierzy niemieckich. W takiej sytuacji rosyjskie natarcie szybko traciło rozpęd, a nienaruszonym przez wcześniejszy ostrzał artyleryjski siłom 4 Armii łatwiej było odeprzeć atak.