Na een korte tijd in Noord-Italië gediend te hebben werd Rommel op 5 november door Hitler benoemd tot inspecteur van de Atlantikwall. Hij moest het gedeelte van deze verdedigingswerken, dat van de Noordzee tot de Golf van Biskaje liep, inspecteren en vervolgens rapporteren. Dit alles had als uiteindelijke doel de verwachte geallieerde invasie tegen te houden. Op aanraden van veldmaarschalk Gerd von Rundstedt, destijds opperbevelhebber van alle Duitse troepen aan het westfront, werd hij op 15 januari 1944 benoemd tot opperbevelhebber van Heeresgruppe B. Deze legergroep omvatte het Duitse 7e en 15e leger, in een sector die zich uitstrekte van Nederland tot het zuiden van Bretagne in Frankrijk. Over de strategie van de verdediging verschilde hij van mening met Von Rundstedt: Von Rundstedt wilde de pantserdivisies meer landinwaarts opstellen, buiten het bereik van de geallieerde marine, terwijl Rommel ze langs de kust wilde positioneren. Hij was er immers van overtuigd dat als ze landinwaarts stonden opgesteld, ze dan spitsroeden moesten lopen door de geallieerde luchtmacht vooraleer ze het front zouden kunnen bereiken. Hij baseerde deze stelling op wat hij meemaakte bij El Alamein: daar was de Britse luchtmacht zodanig in overmacht, dat zijn tanks amper bewegingsvrijheid hadden. Rommel liet in zijn sector van de Atlantikwall tal van verbeteringen aanbrengen. Volgens hem zouden de eerste 24 uur van de invasie de belangrijkste zijn en moest de aanvaller zo snel mogelijk worden teruggedreven, vooraleer er een bruggenhoofd kon worden gevestigd. Die invasie kwam er op 6 juni, in Normandië, in Rommels sector. Daarna verslechterde de Duitse situatie aan het westfront steeds verder, mede door het enorme zee- en luchtoverwicht.