Vinteren 1941-1942 fikk han kommandoen over 4. armé og ledet denne vest for Moskva der han stabiliserte fronten. 1. januar 1943 ble Heinrici befordret til generaloberst. Sommeren 1943 måtte han trekke seg tilbake til Orscha med sin 4. armé, der han lyktes i å stabilisere fronten. Arméen ble knust under den sovjetiske Operasjon Bagration sommeren 1944 og måtte bygges opp på nytt.