I 1942 blev han Oberbefehlshaber West, hvilket indebar, at han fik ansvar for forsvaret af Vesteuropa mod den allierede invasion, der truede mere og mere. I august 1942 afviste han med stor succes et allieret landgangsforsøg ved Dieppe, også kendt som Slaget ved Dieppe. I juni 1944 kom invasionen i Normandiet, som blev en succes, og Rundstedt gik af, da han indså, at krigen ikke kunne vindes. Men han blev hurtigt hentet tilbage af Hitler. Han fik derfor også ansvaret for Ardenneroffensiven i december 1944, den sidste store tyske kraftanstrengelse på vestfronten. Offensiven blev en ny fiasko, og efter den amerikanske overgang over Rhinen ved Remagen i marts 1945, gik Rundstedt endeligt af.