Han blev chef for 5. Korps den 17. juli 1943. Dette var den største troppeenhed i det europæiske operationsområde. Han spillede en stor rolle i planlægningen af invasionen i Normandiet. Han var den første korpschef, som gik i land på D-dag den 6. juni 1944. 5. Korps bestod af 2 infanteridivisioner, 1. og 29. infanteridivision. Hans tid som chef for 5. korps varede frem til 17. september 1944 og igen fra 5. oktober 1944 til 14. januar 1945. General Gerow holdt sig tæt på sine fremrykkende tropper i 5. korps. Han var den første amerikanske generalmajor i Paris efter dens befrielse ved 2. franske pansrede division og 4. amerikanske infanteridivision. For sin indsats i dette felttog blev han tildelt Silver Star.