エルヴィン・ロンメル 生涯
対するモントゴメリーは入念に戦力充実を進めており、いまやイギリス第8軍は可能な限りで強化されていた。中でもこれまで性能差で苦杯を舐めさせられていた戦車は、アメリカからレンドリースされた新鋭M4中戦車とM3中戦車500輌が次々と揚陸され、合計1,000輌に達した。兵員も195,000人、航空機は750機といずれもドイツ、イタリア軍を圧倒していた。圧倒的な戦力を持ったモントゴメリーは、ロンメルに引導を渡すための「ライトフット作戦」を策定した。作戦計画では、まずはイギリス第30軍団が、防衛線北部に2つの突破口を開き、その突破口を、2個機甲師団を擁する主力のイギリス第10軍団が突破して、ドイツ、イタリア装甲軍の背後に回り込んで、補給路を分断する計画であった。ここでドイツ軍の戦車隊が反撃してくる可能性が高いが、イギリス軍戦車部隊は大量のM4中戦車の供与で、性能も数もドイツ軍を圧倒しており、ドイツ軍戦車隊を返り討ちにする計画であった。
モントゴメリーはロンメルに防錆戦南部からイギリス軍が攻撃をしかけると誤認させるため、上述のとおり欺瞞作戦「バートラム作戦」を行った。この欺瞞作戦は極めて巧妙なもので、給水パイプに見せかけたフェイクのパイプをわざわざエル・アラメインの補給基地から戦線南部まで張り巡らしたり、張りぼての戦車や軍用車や火砲などが大量に作られて砂漠に並べられ、あたかも大部隊が南部地区に集結しているようにも見せかけた。さらに、モントゴメリーはロンメルに作戦開始時期を誤認させるような工作も行った。カイロで摘発していたドイツ軍スパイ団の暗号を利用して、ドイツ軍側に「イギリス軍の攻撃開始は11月中旬の予定」という偽情報を流し続けた。そしてこの偽情報をロンメルに信用させるため、南部へのフェイク給水パイプの工事を、ドイツ軍側が11月中旬に完成と思い込ませるような作業速度にわざと遅らせたり、フェイクの部隊行動を防衛線南部で行わせたりした。
ロンメルは「バートラム作戦」の欺瞞工作に騙され、イギリス軍の攻撃開始時期を11月と見誤っていたことと、モントゴメリーは絶対に悪魔の庭を突破できないとの確信で病気療養を決め、軍の指揮はヒトラーの配慮で東部戦線から転任してきたゲオルク・シュトゥンメ装甲兵大将に一時的に任せることとし、9月22日にエジプトを発ち、ローマでムッソリーニに面会した後、ドイツに向かった。9月25日には総統官邸でヒトラーから元帥杖を下賜され、その後にはヒトラー以下幹部が集まってお祝いのパーティが開催されて、ヒトラーは自らロンメルをもてなした。
しかし、厳しくなる一方の戦況にロンメルは元帥昇格の喜びも既に吹き飛んでしまっており、その後に行われた総統大本営での作戦会議においてロンメルは、第一次エル・アラメイン会戦で撃退された経緯と、そのもっとも大きな要因となったイギリス軍の圧倒的航空優勢について報告した。しかしヒトラーを始め総統大本営の空気は楽観的で、ロンメルがいかに悲観的な話をしても「とっくの昔に、貴官はやってのけたではないか」とあしらわれてしまい、ヒトラーやその重臣からの信頼がかえってロンメルを苦しめることとなってしまった。それでもロンメルは諦めることはなく、戦力増強の必要性を訴えてようやくヒトラーから戦力増強の約束を取り付けた。その約束というのは、500門もの新兵器ネーベルヴェルファーと40輌のティーガーI重戦車と多数の突撃砲を北アフリカに送るというもので、アシカ作戦用に開発したジーベルフェリーを大量に生産のうえで、地中海に集中配備してヨーロッパからピストン輸送するというものであった。ロンメルはようやく引き出した戦力増強の約束に満足し、オーストリアウィーナー・ノイシュタットの私邸で静養に入ったが、ジーベルフェリーの大量生産計画などは存在せず、そもそも小型船に過ぎないジーベルフェリーにティーガーIや突撃砲を大量に長距離を輸送する能力などはなく、この戦力増強は初めからヒトラーの空手形に過ぎなかった。
10月23日午後8時40分、イギリス軍がドイツ第164軽機械化師団とイタリア第102自動車化師団「トレント」が守る防衛線北部戦区約10kmの範囲に約1,000門もの火砲で5時間もの準備砲撃を浴びせた。これは防衛線10ｍごとに1門の火砲が砲撃した計算になり、ロンメルが絶対の自信を持っていた「悪魔の庭」も砲弾によってすっかりと鋤き返された。このような地雷処理はロンメルには想像もできなかったもので、ドイツ兵とイタリア兵はイギリス軍の砲弾に加え、誘爆する地雷や航空爆弾の爆発で、土砂に埋もれてしまった。その激しい砲撃後にイギリス軍歩兵師団が前進を開始し、残った地雷の処理を開始したが、激しい砲撃でも多くのドイツ兵、イタリア兵が生存しており、イギリス軍歩兵と激戦となった。モントゴメリーの作戦計画はまる1日遅れることとなり、苛立ったモントゴメリーはイギリス第10軍団司令官ハーバード・ラムズデン中将に更迭を匂わした督戦を行い、イギリス軍戦車隊は自らで地雷の処理をしながら進撃した。激戦の中で、ロンメルの代理の軍司令官であったシュトゥンメは、自ら戦況を把握するため、軍用車に乗って前線司令部に出かけたが、途中でイギリス軍歩兵の銃撃を浴びて戦死してしまった。
イギリス軍攻勢開始とシュトゥンメの戦死の件は、攻勢開始の翌日の24日午後に国防軍最高司令部（OKW）総長ヴィルヘルム・カイテル元帥から、ウィーンで療養中であったロンメルに報告があり、ロンメルは即アフリカに帰ることを決意した。その夕方にはヒトラーからも電話があり、「ゆっくり静養させてやりたいがすぐにでもアフリカに帰れるか？」との打診があった。ロンメルは25日にイタリアを経由して空路で前線に向かうよう手配したが、不安であったヒトラーは24日真夜中にも電話で「エル・アラメインの情勢は重大ですぐにでもアフリカに帰ってもらわなければならない」とロンメルに前線復帰を促している。ロンメルはローマを経由してクレタ島からDo 217でアフリカまで飛び、さらにFi 156 シュトルヒで25日中には前線司令部にたどり着いた。ロンメルが帰りつくまでは、2度の世界大戦に従軍して20回も負傷し、スペイン内戦でも東部戦線でも常に最前線で戦ってきた勇将ヴィルヘルム・フォン・トーマ装甲兵大将がどうにかモントゴメリーの攻勢を支え、防衛線の完全崩壊を防いでいた。
司令部についたロンメルはトーマから「情勢は我が軍にすごぶる不利に展開しております。敵の圧倒的砲火のためのに悪魔の庭は破壊され、我が軍は敵をくいとめはしたものの撃退はできませんでした」という報告を受けて戦況を把握すると、これまでの勝利体験の通りに、戦車で打って出て、広い砂漠で機動戦を行ってイギリス軍を撃破し、当初の防衛線を回復させようと考えた。しかし、このロンメルの作戦計画は、陣地に籠って激しく抵抗するドイツ軍装甲師団をおびき出して、イギリス軍の堅陣にぶつけて消耗させることを目論んでいたモントゴメリーの思い通りとなる破滅的なものであった。ロンメルがこのような決断に至った大きな理由が、ロンメルに燃料を届けるべくリビアに向かっていたタンカーが撃沈されたという衝撃的な報告を受けており、燃料が枯渇する前に短期決戦を挑む以外の選択肢がなくなっていたこともあった。ロンメルもこの反撃が困難であることを認識しており、愛妻ルーシーに「誰も私の肩の上の重荷を理解することはできない」と弱音を吐露する一方で「私にとって不利な条件がそろっている。それでも、私は何とか切り抜けたいと思っている」と自らを奮い立たせるような手紙を書いている。
そして10月27日、ロンメルはドイツ第21装甲師団を北上させると、どうにかイギリス軍戦車部隊の戦線突破を食い止めていたドイツ第15装甲師団とイタリア第133機甲師団「リットリオ」の両師団の残存兵力と共同で、イギリス軍に奪われていたキドニー高地を攻撃させた。イギリス軍はこの低い高地に砲兵観測所を置き、アフリカ装甲軍に猛砲撃を浴びせており、早急な奪還が必要であった。モントゴメリーはキドニー高地とその周辺を陣地化してロンメルを待ち構えており、ロンメルが言うところの「平時ならば極貧のアラブ人さえ一顧だにしないような、やせた一握りの土地」に過ぎない低い高地を巡って激戦が繰り広げられた。特に激戦となったのが、キドニー高地前面に構築されていたスナイプ前哨陣地であり、アフリカ装甲軍団の戦車は、ビクター・ターナー臨時中佐指揮の元でスナイプ前哨陣地を守るライフル旅団1個大隊と王立対戦車砲隊1個大隊19門に襲いかかった。ターナーはオードナンス QF 6ポンド砲を巧みに駆使して、ドイツ軍、イタリア軍の戦車を次々と撃破、終日続いたこの攻防戦でターナーの対戦車砲大隊は壊滅状態となったが、実に60輌ものドイツ・イタリア軍の戦車と自走砲を撃破してロンメルの反撃を完全に打ち砕き、ターナーはこの活躍でヴィクトリア十字章を受章した。一方ロンメルは、この反撃によって240輌あった戦車のうち160輌を失ない、このあと反撃に出ることが不可能となってしまった。
ロンメルの反撃が失敗した後、北部の海岸道路沿いではオーストラリア第9師団が、歴戦の第2ニュージーランド師団と連携し、大損害を被っていたドイツ第164軽機械化師団とイタリア第102自動車化師団「トレント」を西方に押しやりながら、前進を続けていた。ロンメルはこれらの動きから、イギリス軍は海岸道路沿いに戦線突破を図っていると考えて、ドイツ軍師団を北方に集中させつつあった。しかし、これもモントゴメリーの巧妙な罠で、ドイツ軍が戦線北部、イタリア軍が戦線南部に集まっていることを確認すると、ドイツ軍とイタリア軍の間隙部から防衛線を突破する「スーパーチャージ作戦」を決定した。11月2日の午前1時、300門のイギリス軍火砲の支援のもと、イギリス軍2個旅団の増援と第9機甲旅団の支援を受けた第2ニュージーランド師団が進撃を開始した。ロンメルは強固なパックフロントを構築させており、モントゴメリーに防衛線の強行突破を命じられていた第9機甲旅団は翌3日までに94輌の戦車のうち70輌を撃破されるという大損害を被った。またこれまで痛い目にあわされ続けたニュージーランド軍に対しても、第21装甲師団と第15装甲師団の残存戦車隊を向かわせて必死の防衛を行って、その突貫をどうにか防いで、突破口の構築を遅らせることに成功した。これらささやかな勝利は、これまでロンメルの下で栄光を重ねてきたドイツアフリカ軍団の最期の栄光となった。
多少の足止めをしたところで、もはや防衛線の崩壊は時間の問題となっており、ロンメルは「スーパーチャージ作戦」が開始された11月2日には敗北を悟って総統大本営向けに撤退の許可を求める戦況報告の電報を打ち、翌3日にヒトラーから返信があったが、送られてきた命令にロンメル以下軍参謀らは目を疑った
ロンメル元帥宛ドイツ国民は、私と共に、貴官の指揮官としての能力ならびに貴官の指揮下にあるドイツ・イタリア軍部隊の勇気に全幅の信頼を捧げ、エジプトにおける英雄的防衛戦を遂行せんとしている。貴官の置かれた状況からすれば、固守以外のことは考えられない。一歩たりとも退却せず、使用できるすべての兵器と兵員を戦いに投入するのだ。《中略》いかに敵が優勢であろうと、いずれは戦力の限界が来る。強大な意志の力が、より優勢な敵の部隊に勝った例は、史上幾度となく存在した。貴官は、麾下部隊に対し、勝利か死か以外の選択肢はないと示すことができよう—アドルフ・ヒトラー
電文を読むロンメルの顔の筋肉は痙攣し「この命令は不可能事を要求している」「強い信念を持つ兵士であろうと、航空爆弾を受ければ、死んでしまう」と怒りを覚え、参謀らも「死刑の宣告」などと口々に不満をもらしたが、軍命令は絶対であり、特に厳格な軍人であったロンメルは「私は部下に絶対服従を求めてきた。部下がその命令に不満や疑問を持った場合でもだ。私がその原則を捨てるわけにはいかない」として、ヒトラーの死守命令を厳守する覚悟を決めた。
戦線北方でドイツ2個装甲師団、イタリア3個機甲師団の残存部隊を巧妙に再配置し、ラムズデンの第10軍団の200輌の戦車の進撃をどうにか防いでいたトーマは、軍参謀長のフリッツ・バイエルライン大佐からヒトラーの死守命令を聞くと「総統命令は狂気の沙汰だ。死刑執行命令だ。」と吐き捨てたが、覚悟を決めると、バイエルラインに後退を命じ、自分は前線に留まることを決意して、今まで受章した多くの勲章を軍服に着け最前線に飛び出して行った。トーマは野戦司令部にイギリス軍が到達するまで戦い続け、前進してきたM4中戦車に追い詰められると、最後まで死守命令を守りぬいたうえでようやく投降した。トーマが投降する頃には支えてきた防衛線も突破されかかっており、ロンメルはヒトラーに死守命令撤回を上申する覚悟を決めて、まずは全軍に「わが軍の前線は突破された。敵は背後に侵入してくる。総統命令は意味を失った。我々はフカ＝ラインに撤退して救えるものは救う」とヒトラーの死守命令に背く撤退命令を出した。このロンメルの決断には、ヒトラーの命令で督戦に来ていたケッセルリンクも同意し、連名で総統大本営に死守命令の撤回と撤退を上申した。ロンメルは命令違反による軍法会議も覚悟していたが、11月4日の夕刻になって、ヒトラーはようやく死守命令を撤回しロンメルに撤退を許可した。
撤退の許可は出たが、前線から逃走するにもトラックやその燃料はわずかしかなく、ドイツ兵やイタリア兵は我先にとトラックに群がったが、そのほとんどが砂漠に置き去りにされて、飢えと渇きで野垂れ死ぬか追撃してきたイギリス軍の捕虜となった。戦車も撃破を免れ敗退できたのはたった38輌であり、8.8 cm FlaK 18/36/37砲も、M4中戦車の榴弾で根こそぎ撃破されて、1門も残っていなかった。逃げるロンメルの方針は、救えるものだけを救うというものであり、車両がない部隊は容赦なく戦場に取り残し、途中で遭遇しても見捨てて先を急いだ。ロンメルに見捨てられた精鋭部隊ラムケ降下猟兵旅団が自らイギリス軍のトラックを奪取して、生き残っていた600人の降下猟兵がロンメルに合流できたという武勇伝もわずかにはあったが、この後もロンメルは惨めな敗走を続けた。ロンメルを破滅から救ったのは、皮肉にもあまりに急激な追撃でイギリス軍が燃料不足に陥ったからであり、11月7日にはモントゴメリーはやむなく追撃停止を命令し、ロンメルは辛くも包囲されることだけは避けたが、その隷下のドイツ軍4個師団、イタリア軍8個師団はすでに戦闘部隊として存在していなかった。
ロンメルはこの戦いで、兵士75,000人と、戦車のほぼ全てを失うという惨敗を喫した。終始ロンメルの戦術を読み切って圧勝したモントゴメリーは、撃ち破った好敵手ロンメルと枢軸国軍の運命を「これまで彼（ロンメル）は「燃料補給」と称して、しばしば後退行動をとることはあったが、その作戦は互角の勝負をしながらの退却で、敗北してはいなかった。だが、今や、彼は決定的に撃ち破られたのであった。枢軸国軍のアフリカにおける運命はもう決まってしまった。われわれが、大きな誤りをしない限り、もはやわが方の勝利である。」と断じた。
11月8日には「トーチ作戦」によりドワイト・D・アイゼンハワー米中将が指揮する米英軍がモロッコ、アルジェリアなどの北アフリカの西海岸に上陸した。
モロッコやアルジェリアはドイツ衛星国ヴィシー・フランスの植民地であり、はじめ同地に駐留するフランス軍守備隊が上陸してきたアメリカ・イギリス軍と交戦していたが、ヒトラーが独仏休戦協定に違反してヴィシー・フランス政府領を占領したことで現地のフランス軍は反独姿勢を強め、米英側に寝返った。
北アフリカ戦線はドイツ軍にとって二正面作戦になってしまった。これに対処するためヒトラーは急遽ヨーロッパ本土から独伊軍1万5000人をチュニジア（ヴィシー・フランス植民地）に送りこみ、第5装甲軍司令部（司令官ハンス＝ユルゲン・フォン・アルニム上級大将）を創設させた。はじめはエジプト国境付近で防衛線を作ろうと考えていたロンメルだったが、アメリカ・イギリス軍の西海岸上陸によりもはやエジプト攻略どころではなくなった。ロンメルはこの時の状況を日記に「これはアフリカのドイツ軍の終末を示すものである」と書いている。ロンメルはエジプト、キレナイカ地方を放棄する大撤退を行い、11月23日には最初の攻撃地であったエル・アゲイラまで軍を後退させた。さらに、ロンメルはリビア西部トリポリタニア地方も放棄してチュニジア南部の要塞マレスラインまで後退することを決意していた。これに対してヒトラーはロンメルにエル・アゲイラを死守することを命じたが、アフリカ北岸は平坦地であり、撤退作戦で後退部隊を収容するには全く向かない地形であった。
ロンメルは既に北アフリカ戦線に見切りをつけており、軍をヨーロッパまで撤退させることをヒトラーに直談判しようと心に決めていた。11月27日に前線を離れて機上の人となると、翌11月28日朝にはウィーナー・ノイシュタットの空港に一旦着陸し、私邸に立ち寄って妻女と会い、再び機上の人となると、乗機は15時15分に東プロイセンの総統大本営「ヴォルフスシャンツェ」の専用飛行場に着陸した。まずは、国防軍最高司令部（OKW）総長ヴィルヘルム・カイテル元帥、国防軍最高司令部作戦部長アルフレート・ヨードル陸軍上級大将、ヒトラーの側近ルドルフ・シュムント少将に、北アフリカの戦況の報告と撤退の提案を行ったが、誰も反対はしなかったので、ロンメルはヒトラーも認めてくれるのではとの淡い期待を抱いて18時にその3人と一緒にヒトラーとの会見に臨んだ。
ヒトラーとの会見にはヘルマン・ゲーリングも同席していた。まずはロンメルからエル・アラメインでの敗北を報告、敗因のひとつとして、ロンメルがこれまで得意としていた軍の機動的運用が燃料不足によってできなかったとの弁明を行うと、ゲーリングが大声で「しかし貴官の車両は何百台も慌てふためいて海岸通りを逃走中だ。そのための燃料はあったのですな」と嘲ってきた。ロンメルはそれでもめげずに「弾薬もなかった」と続けると、ゲーリングはさらに「トブルクとベンガジに数十万発の砲弾を置き去りにしましたな」と嘲った。ヒトラーはゲーリングと示し合わせていたのか、ずっと無言でロンメルを見つめていた。その後にロンメルが「火器も十分ではなかった」と言い、ゲーリングが「退却の途中で捨てたのだ」と嘲ったところでようやくヒトラーが「武器を持たん者は死ぬがよい」と初めて口をはさんだ。ヒトラーとゲーリングから嘲り続けられたロンメルは顔を真っ赤にして足元の椅子を蹴飛ばしたが、ヒトラーはテーブルを強く叩き「武器を捨て、防ぐべき砲を持た者は死ぬがよい」とロンメルを罵倒した。
ヒトラーがロンメルにここまで感情的になったのは、スターリングラードの戦いで包囲されたフリードリヒ・パウルス大将率いる第6軍に死守を命じたばかりであったことが大きかった。パウルスには死ぬまで戦えと命令したのにロンメルの撤退を認めるわけにはいかなかったからである。ヒトラーは同席していたカイテルにナポリにある6,000門もの火砲をロンメルに送り出すように命令した。しかし、ロンメルはそれでも納得せず「来るべきアイゼンハワーの侵攻からヨーロッパ大陸を守るため、兵士だけでも戻してください」と激高しているヒトラーに臆さず意見したが、ヒトラーは「ロンメル、貴官の口からこうしたことを聞こうとは思わなかった」と失望しながらも「北アフリカはスターリングラードのように死守するのだ」「アイゼンハワーの侵攻軍はイタリアの玄関の前で撃破するのだ、シチリアに入ってからではもう遅い」とまくし立て、最後には「北アフリカは死守する、撤退はいかん。これは命令だ元帥」で締めた。厳格な軍人であったロンメルはいくら納得できなくてもこれに従うほかなかった。この後、実際にシチリアを奪われたことが、ムッソリーニの命取りになっており、ヒトラーの言っていることが正しいとロンメルも十分に認識していたが、いくら今後は増援を惜しまないとヒトラーが約束したところで、これまで20か月も戦ってイギリス1国にすら勝てなかったのに、今後アメリカも加わって勝てる見込みなど全くなく、ロンメルは暗澹とした気持ちでアフリカに戻っていった。そしてこの体験がこれまでヒトラーを高く評価し続けてきたロンメルのヒトラーへの評価を大きく変えたといわれる。
リビアに戻ったロンメルは総統命令を無視して部隊の撤退を続けさせた。それによる処分は特になかった。結局のちになって独伊上層部もトリポリタニア防衛は難しいとの結論に達したのであった。だがムッソリーニやイタリア軍部からは「ロンメルはろくに戦いもしないで独断でイタリア植民地を放棄した」と非難されていた。しかし、イタリア本国の意向がどうであっても前線のイタリア軍歩兵師団は、エル・アラメインでロンメルから見捨てられた苦い経験から、死守命令が出たところでそれを守る気は一切なく、ロンメルがドイツ軍機械化部隊だけを手元に置き、イタリア軍歩兵師団を先に撤退させる作戦には率先して協力していた。しかし追うモントゴメリーの速度も速く、しばしば防衛戦を強いられた。12月16日にはエル・アゲイラでロンメルはモントゴメリーを迎え撃った。このエル・アゲイラでロンメルは2度もイギリス軍を撃退しており、その後の反撃に繋げていた。
ロンメルはここでモントゴメリーを食い止め軍の士気を上げようと考えたが、モントゴメリーは逆に決定的な勝利でロンメルの軍を崩壊させようと考え、これまでのロンメルのお株を奪うような機動的な攻撃をしかけることとした。先頭でロンメルを追っていた第10軍団のうち、イギリス第7機甲師団と第51ハイランド師団が陣地正面から攻撃してロンメルの注意を引き付けておく間に、これまで散々ロンメルを悩ませてきた第2ニュージーランド師団が背後に回って攻撃を仕掛け一気に殲滅する作戦計画であったが、これは、エル・アラメインで惨敗する前はロンメルが得意とし幾度となくイギリス軍を破ってきた戦術であった。12月15日にイギリス軍は攻撃を開始したが、ドイツ軍は早くも潰走状態となり、背後に回り込んできた第2ニュージーランド師団から攻撃されると、大損害を被りながら小部隊となって一目散に撤退していった。モントゴメリーはロンメルを取り逃がしたが、これまで難攻不落を誇っていたエル・アゲイラをわずか1日で奪取し、敗走するロンメルの追撃戦に移った。
ロンメルの撤退は加速しており、イタリアの海外最後の拠点トリポリすら素通りして行った。モントゴメリーも急激な追撃を行っており、エル・アラメインの勝利から2か月も経たない間に1,200マイルも前進していたが、大軍によるあまりの急激な追撃で輸送と補給問題に悩まされており、ロンメルに追いつくことはできなかった。年が明けて1943年1月26日にトリポリを無血占領した。さすがに戦わず撤退を続けるロンメルをドイツ本国もかばいきれなくなり、モントゴメリーがトリポリを占領した同日に、「ドイツ＝アフリカ装甲軍はやがてイタリア第1軍に改組され、イタリア軍のジョヴァンニ・メッセ大将が司令官に就任する」旨が内定したが、任命は名ばかりで引き続き実権はロンメルが掌握していた。
チュニジア北西部を陣取る米英軍への反攻作戦にあたってロンメルは米英軍の補給拠点であるアルジェリアの要衝テベサ(fr)を陥落させてそこから地中海へ北上し、米英軍と後方のアルジェリア諸港を遮断して壊滅させることを提案した。一方アルニムはそのような野心的な作戦を実行できる戦力は無いとして反対し、チュニジア・ファイド峠西方の米軍を強襲して北進しチュニス前方まで進出することを提案した。両者の上官である南方総軍司令官ケッセルリンクは作戦を統一しようとせず、両者にそれぞれの作戦を実行させることとした。
1943年2月14日から第5装甲軍が「フリューリングスヴィント作戦（春風作戦）」、ついで2月17日からロンメルのドイツ＝イタリア装甲軍が「モルゲンルフト作戦（朝風作戦）」をそれぞれ発動した。ロンメルの作戦は初戦はうまく運んだ。まずスベイトラを占領し、ついでテベサへの入り口であるカセリーヌ峠に進軍し、同地の米軍を潰走させた（カセリーヌ峠の戦い）。そこからドイツアフリカ軍団をテベサへ、第10装甲師団をターラへ北進させたが、テベサへ向かった部隊は航空支援を受けた米軍B戦闘団によって進撃を阻止され、ターラへ向かった第10装甲師団は一時的にターラを占領したものの英第6機甲師団と近衛旅団によってターラを追われてしまった。ロンメルは2月22日にはテベサ占領が不可能であることを悟らされた。
この頃のロンメルは明らかに病状が悪化していた。カセリーヌでロンメルを見たケッセルリンクは体力的にも精神的にも疲労困憊していることに驚かされた。ロンメルの変化を感じていたのは部下の前線指揮官も同様で、かつては最前線で部下の尻を叩いていたロンメルが前線に出てくることは殆ど無くなり、かつては鋭かった眼光も重度の黄疸で曇っているように見えた。しかし、ロンメルは気力を振り絞って仇敵モントゴメリーに一撃を加えることを計画していた。ロンメルはかつてフランス軍がチュニジア南部に構築した要塞マレスラインまで撤退していたが、この時代遅れの要塞ではモントゴメリーには対抗できないと考えて、かつてロンメルがそうであったように勝利に驕っているはずのモントゴメリーに対して、手持ちの装甲師団の全力で打って出て、勝利に慣れた第8軍に奇襲攻撃を加えて大損害を与え、その進撃を長期にわたって足止めし、できればその大半を撃滅しようと構想した。
しかし、エル・アラメインのときと同様に、モントゴメリーはロンメルの計画を完全に看破していた。これまで散々ロンメルを苦しめてきた第2ニュージーランド師団を休暇中のトリポリから、ロンメルが必ず進撃してくると予想したメデニンに移動させて陣地を構築させた。第2ニュージーランド師団の配下にはイギリス第8機甲旅団と多数の対戦車砲も置かれたが、ロンメルの進撃路を予想して堅牢な陣地を構築して迎え撃つという作戦は、アラム・ハルファの戦いを再現するようなものであった。しかし、ロンメルの作戦指揮はアラム・ハルファの戦いより酷いものとなり、3月6日にドイツ軍装甲3師団が進撃を開始したが、他の戦闘に一部の戦力を転用していたので、戦力は戦車160輌、火砲200門、兵員10,000人と1個師団にも満たず、また作戦開始が遅延したため、得意の迂回戦術ができずイギリス軍陣地への正面攻撃となり、また偵察も杜撰であったので地雷原や対戦車砲陣地の位置の情報すらなかった。
一方でイギリス軍は歴戦の第2ニュージーランド師団を主力に、400輌の戦車、火砲350門、対戦車砲470門が待ち構えていた。ロンメルの進撃方向も全くモントゴメリーの予想通りであり、その予想に基づいて効果的に陣地を構築していた。やがてドイツ軍装甲師団が接近すると、対戦車砲、戦車砲などがドイツ軍戦車隊に向けてつるべ撃ちされた。モントゴメリーからはまったくのアラム・ハルファの戦いの再現となり、部隊に無用な移動はさせず防御に徹させて、前進してくるドイツ軍に猛射を浴びせた。ドイツ軍戦車はイギリス軍の猛射に殆ど前進することができず撃たれるがままとなり、一方的に55輌が撃破されたが、イギリス軍の戦車の損害は皆無であった。また兵士の死傷も130人に過ぎず、モントゴメリーの完勝となった。戦闘の間、ロンメルは要塞内から一歩も外に出ることはなく、3月6日16時にドイツアフリカ軍団指揮官ハンス・クラーマー中将からの戦闘打ち切りの提案を了承して、軍に撤退を命じた。このメデニンの戦いでの惨敗がロンメルの北アフリカでの最後の作戦となった。
1943年3月9日にヒトラーはロンメルをアフリカ軍集団司令官から解任してベルリンに呼び戻した。ヒトラーがロンメルを解任した理由についてはよく分かっていない。ロンメルが病気で衰弱していたという説、敗北に対する処分だったという説、どう考えても北アフリカの戦況は好転しないのでロンメルの名声を守るために彼をこの戦域から外したという説、この数週間前にソ連軍の捕虜となったパウルス元帥に続いてまた一人ドイツ軍元帥が捕虜になるのを恐れたという説などがある。ただしロンメルの遺族は遺された資料等を参照にして「ロンメルはヒトラーにドイツ軍を救い出すことを懇願するためにドイツに戻ったが、この願いは拒絶されたうえ敗北主義者、卑怯者と罵られた。やむなくロンメルは前線復帰を申し出たがヒトラーはそれも許さなかった」と述べている。ロンメルに関する著書もあるイギリスを代表する軍事評論家、軍事史研究者ベイジル・リデル＝ハートも、この遺族の説と同じ見解であり「ロンメルはメデニンの戦い後、これ以上ドイツ軍をアフリカに置いておくのは自殺行為に等しいと考え、病気療養を理由に休暇をとってヒトラーに直談判しその状況を知らしめようと考えた」「しかしロンメルの努力は功を奏さず、ヒトラーから病気を治してから反撃作戦の指揮を執れと命じられそのまま解任された」としている。一方で連合国側では、連合国遠征軍最高司令官ドワイト・アイゼンハワー元帥が「命が惜しくて逃げたのだ」とこき下ろしている。
ロンメルが解任されたあとは、ハンス＝ユルゲン・フォン・アルニム上級大将が引継ぎ、隷下のドイツアフリカ軍団指揮官ハンス・クラーマー中将の巧みな指揮もあって連合軍をどうにか足止めしていたが、ドイツ・イタリア両軍はチュニジアのボン岬方向に追い込まれていた。ロンメルはベルリンへ戻ると、ヒトラーからこれまでのアフリカでの戦いの労を労われて、1943年3月11日付けで騎士鉄十字章のダイヤモンド章を授与された。
その後、ロンメルは療養生活を送っていたが、北アフリカ戦線はいよいよ末期的になっており、アルニムによる最後の反撃を撃破した連合軍は、5月6日にはドイツアフリカ軍集団が籠るチュニスへの総攻撃を開始、ドイツアフリカ軍集団は脆くも24時間で街からたたき出された。その夜にロンメルの元に、最後を悟ったクラーマーから「サヨナラ」の電報が届いている。既に戦局は悪化して、ドイツ本土の運命もわからないなか、ロンメルは、せめて愛するドイツアフリカ軍集団の指揮官や将兵が、これから始まるであろうヨーロッパの大殺戮に巻き込まれなかったのは幸いであったと自分自身を慰めていた。クラーマーはドイツ陸軍統帥部にも「弾丸はすべて撃ち尽くし、武器、資材は破壊せり。命令に従いアフリカ軍団は、全力をふるい可能な限りの戦闘をなせり。ドイツ・アフリカ軍団は、再起せざるべからず」という最終電文を打電し、5月13日に連合軍に降伏した。ここで捕虜となったのはドイツ軍約10万、イタリア軍約15万人という莫大な人数であったが、ドイツ軍とイタリア軍が北アフリカ戦線で失った戦力は兵員約57万人、戦車2,550輌、車輛70,000台、航空機8,000機、艦船240万トンと甚大なものとなり、後の戦局に大きな影響を及ぼした。結局、ロンメルは嫌がるヒトラーをアフリカ大陸に引きずり込み、戦争を政治的目的化したに過ぎなかった。
ドイツ本国に送還されてからしばらくロンメルは療養生活を送っていたが健康が回復したせいもあり、6月にはギリシャの防衛を担当していたE軍集団の指揮官に任命された。これは連合軍によるギリシャ上陸を警戒しての人事であったが結局ギリシャに連合軍が上陸を仕掛けることは無かった。
次にロンメルは、シチリア島上陸作戦（ハスキー作戦）によって、ベニート・ムッソリーニが失脚し、その後のピエトロ・バドリオ政権によって戦争からの脱落が懸念されていたイタリアの抑えのため、新設されたB軍集団の司令官に転属した。ヒトラーの懸念通り、バドリオは水面下で連合軍との交渉を行っており、1943年9月8日にイタリアは連合国に無条件降伏した。ヒトラーは8日の午後8時に、イタリア軍を武装解除しイタリアを制圧するアクセ作戦を命じ、ロンメルが北イタリア、アルベルト・ケッセルリンク元帥が南イタリアの制圧を担当した。ロンメルは迅速に行動開始し、速やかにイタリア兵の武装解除を行っていたが、作戦途中の9月14日に盲腸炎となって入院を余儀なくされた。ロンメルが入院したあともB軍集団は迅速に行動し、10日間で北イタリアの制圧を完了、ヒトラーからはイタリア軍が抵抗した場合射殺しても構わないと命じられていたが、ロンメルがイタリア兵を処刑することはなかった。
やがて、一部のイタリア兵や住民が地下に潜ってパルチザンとしてドイツ軍に抵抗を開始した。そこで、今まで住民虐殺などの戦争犯罪に全く無縁であったロンメルも、パルチザン討伐のため苛烈な命令を発することとなった。
ドイツ軍人が、かつての戦友の軍服を着たバドリオ一派のパルチザンに対し、いかなるものであれ、情緒的なためらいを示すことは、全く適当ではない。そうしてドイツ軍人に敵対する者は、容赦を乞う権利を失ったものであり、突如として友人に武器を向けた無類の徒にふさわしい苛酷な取り扱いを受ける。—エルヴィン・ロンメル
その間、シチリア島に上陸していた連合軍は1943年8月17日にはシチリア全島を解放、続く9月3日にイタリア半島の先端部に上陸（ベイタウン作戦）し、9月9日にサレルノ（アヴァランチ作戦）、ターラント（スラップスティック作戦）へ上陸を行ない、イタリア半島を北上していた。9月27日に退院したロンメルはケッセルリンクと総統大本営に呼び出されて、ヒトラーからローマの南で連合軍を押しとどめよと命じられたが、ロンメルはローマの北方のアペニン山脈に防衛線を構築すべきと主張して譲らなかった。ヒトラーはロンメルをイタリア方面の総司令官にしたいと考えており、10月17日に再度ロンメルを呼び出すとその旨を伝え、イタリア南部で連合軍を押しとどめるよう命じたが、ロンメルはヒトラーに「イタリアですと、（ドイツの）崩壊は目の前に迫っているのです」と言い放ち、自分が南イタリアを防衛できるという確信を持てない限りは、司令官を引き受けることはできないと答えた。ロンメルの答えに失望したヒトラーは、ケッセルリンクにイタリアを任せることとした。その決定を聞いたロンメルは落胆し「仕事は決まらなかった。誰に聞いても、総統は心変わりしたということだ。」という手紙を妻に送っている。
ヒトラーはロンメルを見限ってはおらず、B軍集団の担当地区を北イタリアから北フランスに変更し、1943年11月にロンメルはB軍集団とともに北フランスに移動を命じられ、ゲルト・フォン・ルントシュテット元帥率いるドイツ西方総軍の指揮下に入った。ドイツ軍は連合軍の次の侵攻地を突き止めるのに躍起となっていたが、ヒトラーは北フランスへの連合軍の上陸を恐れており、信頼していたロンメルをかの地に置いたのであった。さらにヒトラーは「要塞をつくることにかけては、古今を通じ、私ほど偉大なものはない」と自信満々であった「大西洋の壁」の整備を監督させるため、「進攻正面防備特務査察監」という新たな役職まで作ってロンメルをその役職に任じた。イタリアで落胆したロンメルであったが、任務の重要性とヒトラーからの信頼を痛感して、着任するなりデンマークからフランスまで精力的に視察して回った。
1944年の1月になって、ドイツ軍は連合軍が西ヨーロッパで「第2戦線」を構築するため大規模な上陸作戦を展開するという情報を掴んでおり、2月にはその場所がヒトラーの懸念通り、北フランスになるという情報を掴んでいた。連合軍の上陸地点としては、ドイツ軍はイギリスからもっとも至近距離となるパ・ド・カレーと予想していた。ロンメルはドイツ軍の殆どの予想とは異なって、上陸地点はノルマンディになると唯一正しい予想をしていたという意見もあるが、ロンメルは1943年12月23日付の報告書において「敵はまず第一にパ・ド・カレーを目指す」と書いていたり、連合軍上陸直前の1944年5月半ばには、指揮下の機甲師団の2個師団をパ・ド・カレーにより近いセーヌ川の北部に配置するなど、他のドイツ軍司令官らと同様に、連合軍の上陸地点をパ・ド・カレーと予想して作戦準備を進めていた。
一方で、連合軍の上陸に対抗する「大西洋の壁」の整備状況としては、上陸が予想されていたカレー方面ですら工事の進捗具合は80％、ノルマンディー地方に至っては20％と言う悲惨な状況でありとても難攻不落とは言い難かった。ロンメルは準備の遅れに危機感を抱きつつも、精力的に活動し、未完成の「大西洋の壁」を少しでも完成に近づけるために全力を傾注した。ロンメルは「大西洋の壁」の整備と並行して、防衛計画の策定も進めていた。ロンメルは連合軍の侵攻を防ぐ方法はただ一つ「敵がまだ海の中にいて、泥の中でもがきながら、陸に達しようとしているとき」「上陸作戦の最初の24時間は決定的なものになるだろう、この日のいかんによってドイツの運命は決する。この日こそは、連合軍にとっても、我々にとっても最も長い一日（Der längste Tag）になる」、として「水際配置・水際撃滅」を主張した。これはロンメルが北アフリカで連合軍の圧倒的な航空戦力で叩かれた苦い経験に基づくもので、連合軍空軍の制空権下では、装甲部隊が戦線にたどり着くためには、小部隊に分散且つ時間をかけて移動する必要があり、反撃の機を逸してしまうため、海岸付近に歩兵、砲兵、装甲部隊全ての兵力を配置し、上陸部隊を速やかに撃滅するべきと考えたからである。しかし、連合軍の大規模上陸作戦においては、必ず戦艦や重巡洋艦などの大口径の艦砲による艦砲射撃が行われており、その射程内に配置されている陣地や部隊は大きな損害を被っていた。ロンメルは連合軍の大規模な艦砲射撃を経験しておらず、明らかにその威力を軽視していたと思われるが、実際には連合軍の上陸を撃破することは困難と認識しており、一縷のむなしい望みにかけたという意見もある。
1943年3月に西方総軍司令官に任命されたルントシュテットも、「大西洋の壁」などと喧伝されている陣地の構築状況が遅々として進んでおらず、これに頼らない作戦を検討する必要に迫られていた。そこで機甲部隊の運用の専門家でもあったルントシュテットは陣地に頼るのではなく、装甲部隊に重点を置くこととした。しかし、最前線地区に配備してしまえば、上陸前の連合軍の圧倒的な航空攻撃と艦砲射撃で連合軍部隊が上陸前に大損害を被る懸念が大きかったため、ルントシュテットは装甲部隊をその射程の外に配置し、海岸陣地の歩兵が上陸部隊が押しとどめている間に、装甲部隊が海岸付近に駆けつけて、艦砲の射程外でまだ体制が整わない上陸部隊を一気に叩く作戦を考えた。これは、ルントシュテットがハスキー作戦やアヴァランチ作戦で、連合軍の圧倒的な艦砲射撃に大損害を被った戦訓に基づくものであり、ドイツ国防軍きってのアメリカ・イギリス通と言われたレオ・ガイヤー・フォン・シュヴェッペンブルク大将も賛同した。
ロンメルはルントシュテットを尊敬し立ててはいたが、一方のルントシュテットは、ロンメルの勇気と忠節ぶりには敬意を払っていたものの、戦略家としての評価は決して高くはなく「良き師団長になるための特性は全て備えているがそれ以上ではない」と評していた。またヒトラーの信頼でのし上がってきたナチの成り上がりものという見方もしており、作戦の全てを握られることに警戒を強めていた。
ロンメルとルントシュテットの意見の相違は、やがてドイツ軍を二分するような「装甲部隊論争」に拡大したが、最終的にヒトラーが問題解決に介入し、機甲4個師団を予備部隊とし国防軍最高司令部の指揮下におくこととした。この4個師団は国防軍最高司令部の許可なしでは動けないこととなり、結局のところ、ロンメルとルントシュテットは自分たちの対立によって余計な手枷足枷を付けることとなってしまった。
こうした将軍同士の対立の中で準備が進められたが、ロンメルは準備を進めていく中で次第に連合軍はノルマンディに上陸する公算が大きいと考えるようになった。そのため、ノルマンディへの視察の頻度を上げたロンメルは、のちに「オマハ・ビーチ」と呼ばれる海岸の防備の強化を命じ、鹵獲したフランス軍の戦車砲をトーチカに設置し海岸砲台とするなど徹底した強化が図られたため、ロンメルが北アフリカで苦戦させられたイギリス軍の拠点に因んで「トブルク」と名付けられた。またロンメルは、自分でデザインしたロンメルのアスパラガスを空挺部隊の落下が予想される地域に設置したり、大量の地雷の埋設も命じ、一説にはその数600万個にも達したと言われるが、実際には地雷の数も足りておらず、ロンメルを満足させるためやむなくダミーの地雷が埋設された。ロンメルを誤魔化す目的で作られたダミー地雷原は、皮肉にも上陸してきた連合軍を混乱させるという予想外の効果もあげている。ロンメルの軍の実情を考慮しない命令によって、ドイツ軍将兵は防備を固めることに多くの時間を取られることとなり、訓練をする時間が殆どなかった。また、演習用の弾薬も不足しており、訓練度が少ないまま連合軍を迎え撃つこととなってしまったので、火器の命中率の低さに悩まされることとなった。
ロンメルの精力的な準備にも拘らず1944年6月時点ではまだ防備は不十分であった。しかし、ドイツ軍の気象班は6月上旬は天候が悪化するため、6月10日までは連合軍の侵攻はないと判断していた。気象班の報告を信じたロンメルは、不覚にも妻の誕生日を祝うためにドイツ本国に帰国することとした。しかしロンメルらが信じたドイツの気象予報は、グリーンランドの観測所が連合軍に破壊されていたため精度に欠けていた。気象班の報告を信じたドイツ空軍は、6月に入ってから1回も空中哨戒を行っておらず、盲目も同然であったが、そのドイツ軍の油断をついて、D-Dayこと6月6日、連合軍のノルマンディー上陸作戦が敢行された。
これらロンメルを始めとするドイツ軍の失策によって、連合軍の作戦は完全な奇襲になってしまい、易々と上陸を許すこととなった。そして、海岸線の防備については、ロンメルとルントシュテットの対立もあって結果的にどっちつかずとなり、オマハ・ビーチを除いて殆ど満足な抗戦すらできなかった。また、数少なかったドイツ軍機甲部隊による反撃のチャンスも、連合軍空挺部隊による欺瞞作戦にはまってその機会を失ってしまったため、満足な反撃ができなかった。ロンメルは、午前10時15分に連合軍上陸の一報を妻の誕生日を祝うため帰宅していたドイツのヘルリンゲンの自宅で受け取ったが、そのとき「私はどうかしていた。大馬鹿者だ」と嘆いたという。
ロンメルは慌ててヒトラーとの会見をキャンセルし、ラ・ロシュ＝ギヨンにある司令部に向かった。前線では第21装甲師団が反撃のために集結し増援を待っていたが、午後5時前にロンメルから軍参謀長ハンス・シュパイデル中将に連絡が入り、シュパイデルが連合軍の主作戦地がノルマンディとはまだ確定できないこと、第21装甲師団は増援を待って反撃に転じるとの報告を行うと、ロンメルはそれを一喝し、直ちに第21装甲師団単独で反撃を行うよう命じた。ロンメルの命令に従って、同師団の第22戦車連隊は、第192装甲擲弾兵連隊第1大隊と協同で連合軍が上陸した海岸に向け突進したが、途中でイギリス軍第27機甲旅団と激突し、一方的にIV号戦車19輌を撃破されて撃退された。
司令部に到着したロンメルは、戦況報告を聞き、上陸したイギリス軍を率いているのが仇敵モントゴメリーであることを知ると、副官のランク大尉に「親愛なる敵モントゴメリーか・・・」と苦々し気につぶやいた。その後も旺盛な攻撃意欲で指揮下の装甲師団に反撃を命じ続けたが、制空権もなく激しい艦砲射撃の中で兵力の集結もままならず、損害を出し続けた。戦略予備として留め置かれていた装甲教導師団もようやく前線に到着したが、空襲下の移動で装甲車輌85輌、戦車5輌、トラック123台（うち燃料車80台）が撃破される大損害を被っており、ロンメルは北アフリカで味わった制空権を失った装甲部隊の悲劇を、再びノルマンディで味わうこととなった。ドイツ軍は連合軍の攻撃機をヤーボ（Jabo）と呼んで恐れたが、ロンメルも幾度となくヤーボに襲われ、6月10日に西部方面戦車軍司令部に車で向かったロンメルは到着までに30回もヤーボに襲われ、そのたびに車を捨てて腹ばいになってヤーボをやり過ごしたので、司令部に到着したときには泥まみれであった。圧倒的物量で押し寄せる連合軍を見て、ロンメルは敗北を悟って副官ランクに以下のようにつぶやいた。
もしわたしが連合国軍を指揮していれば、2週間で戦争を終わらしてしまえるところだな。—エルヴィン・ロンメル
ノルマンディの戦況悪化に居ても立っても居られなくなったヒトラーは、“敗北主義者”の将軍らを叱咤するため、6月16日にフランスのヴォルフスシュルフトIIにやってきた。特に信頼していたロンメルの戦いぶりに幻滅しており、論破すると意気込んでいた。しかし、この頃には重要拠点シェルブールも陥落寸前で、もはや戦線を持ち堪えられないことは明らかとなっていた。そこでロンメルはルントシュテットと戦線を後退することをすり合わせると、フランス北西部を放棄して軍を撤退させ、ロワール川とセーヌ川を今後の防衛線として各装甲師団を再配置し大規模反攻に備えるべきとヒトラーに上申した。しかしヒトラーはロンメルの上申を拒否すると、「V1飛行爆弾が対イギリス戦の帰趨に決定的効果をもたらす」「ジェット機の大群が連合軍の航空優勢に引導を渡すはず」などと現実離れした長広舌をふるったのち、「退却も作戦もあるか。立ち止まって保持するか、死ぬかだよ」と死守を命じた。
現実離れしているヒトラーに腹を立てたロンメルは「既にドイツは孤立し、西部戦線は崩壊の瀬戸際にあり、国防軍は東部戦線だけでなくイタリアでも敗北しつつある」と現状を分析し「できるだけ早い時期に、この戦争を終わらせるべきだ」とヒトラーに促した。ヒトラーは同席していた他の将軍や副官らが恐れるほどにロンメルに対して激怒し「あいつら（連合国）が交渉に応じるはずがない」と拒絶した。これほどまでにヒトラーが激怒したのは、これまで信頼し愛顧してきたロンメルの口から、ヒトラーはこのような言葉を聞きたくはなかったからであったと同席していたヒトラーの副官は回顧している。
ヴォルフスシュルフトIIを去るにあたりロンメルはヒトラーに「我が総統、そもそも、今後の戦争の経緯について、どのようにお考えなのでしょう」と尋ねると、ヒトラーは不快そうにしながら「その問題は、貴官の職掌ではない。私に任せておかなければならないことだ」と突き放している。ロンメルが帰った直後、ヒトラーが期待していたV1飛行爆弾がジャイロスコープの不具合でヴォルフスシュルフトIIに着弾した。これに驚いたヒトラーはその夜のうちにベルヒテスガーデンのベルクホーフに戻ってしまい、この後二度とドイツ第三帝国から離れることはなかった。
6月29日にロンメルとルントシュテットは、戦況報告のためベルヒテスガーデンのベルクホーフに呼び出された。そこでロンメルとルントシュテットは西部戦線の戦況は絶望的であり、再度、西側連合国との和平交渉を求めた。しかし、ヒトラーは前回と同様に2人の申し出を拒否し、軍事的なことのみ報告せよと言い放った。なおもロンメルが食い下がって政治的要求を口にしようとしたが、ヒトラーはそれを遮るとロンメルに退去を命じた。ロンメルはヒトラーの命令通りベルクホーフを後にしたが、これがロンメルとヒトラーの最後のやり取りとなり、この時点でロンメルのヒトラーに対する信頼は消え失せた。
その後の7月2日には、ルントシュテットがヒトラーの死守命令を破って装甲部隊の退却を許したため、ヒトラーから西方総軍総司令官を解任されると、7月17日、ノルマンディーの前線近くを走行中のロンメルの乗用車がカナダ空軍第602飛行隊のスピットファイアによって機銃掃射され、ロンメルは重傷を負って入院した。負傷は軍用車のガラスの破片による顔の傷のほか、機銃弾の破片で左のこめかみと顎を砕かれ、さらには車両から20ｍも投げ出されて意識不明の重態であったが、どうにか命だけはとりとめた。
ロンメルのヒトラーに対する信頼はかなり早い時点で失われており、北フランスに着任し、精力的に「大西洋の壁」の整備を監督していた1944年の2月に、ロンメルはシュトゥットガルト市の市長であったカール・シュトローリン と面談した。シュトローリンは熱心なナチ党員であったが、戦局が悪化するとカール・ゲルデラーと共に、ユダヤ人の虐殺やナチス党の法支配の中止を訴える上申書を提出しており、反体制派として有名となっていた。シュトローリンはロンメルに対して戦況が絶望的であることを指摘すると、現状を打開する唯一の策として「ヒトラー総統を捕えてマイクの前に立たせ、辞職を発表させることです」「既に一部の高級将校の同意も得ており、閣下の決起を期待します」と訴えた。シュトローリンらがロンメルを仲間に引き入れようとしたのは、ドイツ国民の間で抜群の知名度と信頼を得ている存在だったからであるが、ロンメルはしばし黙考したのち「戦争は負けた。彼（ヒトラー）は幻想の中に生きている。彼は、自分が国家だといったルイ14世の再来だ、自身と国民との区別を知らぬ」とのヒトラー評を述べると「承知した。我々軍人の使命は国民を守ることにある」とシュトローリンの手を握った。
こうした反ヒトラー派はドイツ軍内にいくつも存在しており、ロンメルらはヒトラーの殺害までは考えておらず、ヒトラーに西側連合国との講和を迫り、ヒトラーが拒否すれば逮捕して裁判にかけるといったいわば穏健派であった。それに対してヘニング・フォン・トレスコウ少将やクラウス・フォン・シュタウフェンベルク大佐などヒトラーの暗殺も辞さない強硬派もおり、ハンス・シュパイデル中将もその一員であった。シュパイデルは第一次世界大戦のときからロンメルとは旧知の仲であり、1944年4月にB軍集団参謀長に転属になると真っ先にロンメルと会談した。ロンメルは旧知のシュパイデルに対しては胸襟を開いて、北アフリカでの体験談でヒトラーを批判し、「この戦争は可及的速やかに終わらせるべきである」と自説を述べた。シュパイデルは、ロンメルのヒトラー批判を聞くと自らも秘密を打ち明けて、自分が反ヒトラー活動の指導者ルートヴィヒ・ベック上級大将と連絡を取り合っていること、ベックが現政権に引導を渡す準備をしていることを伝えた。その後もロンメルとシュパイデルは何度も密談を行ったが、ロンメルはヒトラー打倒には賛成ながらも殺害については同意しなかった。
ロンメルがヒトラーの殺害に同意しなかった理由としては、ヒトラーに失望はしていても、軍人としての忠節義務には逆らえず、上官の殺害までには踏み切れなかったというものと、ロンメルが、第一次世界大戦でのドイツ帝国の敗戦は、ドイツ軍が負けたわけではなく、ドイツ本国内における戦争妨害・裏切りによるものというデマゴギーである、いわゆる「背後の一突き（匕首伝説）」を信じており、ヒトラーの殺害は「匕首伝説」の再来となるから逮捕にとどめておくべきと考えていたなど諸説ある。
5月15日にロンメルは旧友でフランス軍政長官カール＝ハインリヒ・フォン・シュテュルプナーゲル大将との秘密会合に出席した。その席では戦争の早期終結とヒトラー政権打倒を一気に進める方策について話し合われたが、抵抗運動のリーダーとしてドイツ国民、ドイツ軍のみならず、敵の連合軍側にも議論の余地がないほどの尊敬をかちとっているのはロンメルただ一人であるということが確認された。この頃にはラ・ロシュ=ギヨンのB軍集団司令部は反ヒトラー活動の拠点のようになっており、多くの反ヒトラー派の人物が訪れた。ロンメルたちはヒトラー打倒後についても具体的な計画を話し合い、西側連合国と講和を急ぎ、講和成立後に西側の兵力を全て東部戦線に回して、戦線を縮小したうえでその維持に努めることや、新政権を樹立しその首班をゲルデラーとして、ロンメルが全軍をまとめるといった骨子ができあがったが、しかしこれはドイツ側に一方的に都合のいい現実離れした案であって、連合国側が受け入れる見込みがまったくないものであった。
6月29日にベルクホーフでの会談でヒトラーと物別れに終わったロンメルはもはや行動を起こすしかないと覚悟を決めて、ヨーゼフ・ディートリヒ親衛隊上級大将や後任の西部方面軍司令官ギュンター・フォン・クルーゲ元帥にも協力を要請した。そしてロンメルは、7月13日にヒトラーに最後通牒を送りつけた。西部戦線の評価報告書という形式であったが、最後は「あなたに求めざるを得ません。マイン・フューラー。この状況から、遅滞なく、しかるべき結論を導かれんことを」で締められた。ロンメルはこれを至急電で打電させた後、シュパイデルに「私はヒトラーに最後のチャンスを与えた。もし彼がしかるべき結論を導きだせないのであれば、我々は行動を起こすしかない」と決意を述べている。ロンメルは、自分の説得に応じないヒトラーの頑迷さに、次第に態度が強硬になっており、7月17日、ロンメルが西方装甲集団司令官ハインリッヒ・エーバーバッハ大将と作戦協議をした際に、「総統は殺されなければならない。他に手段がない。あの男こそが全てを推進している源なのだ」とヒトラー殺害もやむなしと述べている。しかし、その日にロンメルはヤーボによって重傷を負ってしまい行動を起こすことはできなかった。
同年7月20日、シュタウフェンベルク参謀大佐主導のヒトラー暗殺未遂事件が発生。暗殺は偶然が重なって失敗に終わるも、ロンメルと懇意にしていたシュパイデルが計画の関与を疑われたこと、また、逮捕直前にシュテュルプナーゲルが自決を図って失敗した際にうわ言のようにロンメルの名を口にしたこと、シュテュルプナーゲルの副官ツェーザー・フォン・ホーファッカー空軍中佐がゲシュタポによる拷問でロンメルが「私を当てにしてよろしい」と語っていたと供述したことからロンメルも計画への関与を疑われた。
ロンメルが暗殺計画に何らかの関与をしているとの疑いは濃かったが、確実な証拠は得られなかった。これらの情報はヒトラーに伝えられたが、ヒトラーはロンメルの関与を確信し、もっともお気に入りであった将軍を葬る決心を固めた。ただし、最後の慈悲として、裁判にかけられて惨めな思いをしたあげくに処刑されるか、英雄の名を保ったままで自決するかロンメル自身に選ばせてやることとした。
ロンメルが実際にシュタウフェンベルクらの計画に関与していたかについては、1970年代まで根強かったロンメル名将論の影響もあって、ロンメルの心底には軍人の忠誠精神があり、上官であるヒトラー暗殺には最後まで賛同することはなかったとして、暗殺計画には関与していないとする見方が有力であった。また、ロンメルを「名誉欲にかられた無謀な作戦」を行った将軍と否定的な評価をした歴史作家デイヴィッド・アーヴィングも、本格的なロンメルの伝記となる「狐の足跡」で、ロンメルは最後までヒトラーに忠実な軍人であって、ヒトラーの暗殺計画には関与しなかったと主張した。しかし、その後にロンメルの計画への関与を示す資料も発見されており、2013年にはドイツの歴史家ペーター・リープが「エルヴィン・ロンメル　抵抗の闘士か、それともナチか」という論文を発表し「ロンメルは、7月20日のクーデターを知っていたのみならず、これを支持し、暗殺計画者たちの陣営に身を投じた」と指摘している。
8月8日にロンメルはパリからヘルリンゲンの私邸に帰った。まだ完治には程遠い状況で歩くだけで激しい頭痛に襲われた。ヒトラー暗殺未遂事件後の関係者に対する裁判について、ロンメルは新聞報道以上のことは知らなかったが、9月7日にはロンメルの副官シュパイデルがついに逮捕された。ロンメル自身には未だ召喚命令などはなかったが、ヒトラーの徹底した捜査が身辺に及ぶとこれまでロンメルと親しくしてきた友人たちも急に目立った発言をしなくなり、ロンメルはその様子をみて息子マンフレートに微笑みながら「ネズミたちが沈んで行く船を離れ始めたようだな」と語っている。それでも逮捕されたシュパイデルの助命嘆願のため、10月1日にはこれで最後となるヒトラーへの親書を書いた。
親愛なる総統閣下、1940年の西方進攻作戦、1941年から43年にわたるアフリカ作戦及び1943年イタリアにおける行動、そしてまた1944年の西方防衛の作戦において、小官がいかに全能力を尽くしたか総統閣下はよくご存じのはずです。常時小官の念頭にあるものは、あなたが新ドイツのために戦い、そして勝利をうることだけであります。ハイル・ヒトラー！—エルヴィン・ロンメル
しかしこの親書も空しく、ついに10月7日にカイテルからロンメルにベルリンへの出頭命令の電文が届いた。出頭の理由は「重要な会議に出席のため」となっていたが、ロンメルは息子マンフレートに「私はそれほど馬鹿ではないよ。連中が何をしようとしているかは知っている。私は生きてベルリンに着くことはできないだろう」と語っている。この出頭命令に対してはロンメルを治療していた脳専門家の教授が、ロンメルはまだ旅行に耐えられない状態であるとの診断書を書いてくれたので出頭せずに済んだが、これでヒトラーが諦めることはなかった。
10月14日、ヒトラーの使者としてヴィルヘルム・ブルクドルフ中将とエルンスト・マイゼル少将がヘルリンゲンを訪れるという連絡があった。連絡を受けた時点でロンメルは「彼らが私をどうしようとしているか、今日わかるだろう。人民裁判にかけられるか、東部戦線の軍司令官だ」と息子マンフレートに話し、ロンメルの予想通りの選択肢であれば軍司令官を引き受けるつもりであるとも話している。しかし、ロンメルの予想通りの選択とはならず、使者の将官2人は到着するなり、ロンメルと3人きりになりたいと家族を退出させると、ロンメルに「自決すれば反逆を不問にして国葬で弔い、家族には年金を支給する」もしくは「人民法廷で裁く」の選択をヒトラーが迫っていることを伝えた。思いがけないことでロンメルは驚き「しばらく考えさせてほしい」と申し出て、熟考のうえで「私は自分がピストルで死ねるかどうか、あまり自信がない」と答えたところ、ブルクドルフが「それは3秒で効果があらわれます」と毒薬を持参していることを穏やかに伝えた。
ロンメルは15分だけ猶予をもらうと、家族と副官ヘルマン・アルディンガー大尉に別れを告げた。息子マンフレートには「味方の手で死ぬのは情けない。だが、家は包囲されているし、ヒトラーは私を大逆罪で告発しているのだ」「私はお前に厳重に沈黙を守らせることを請け負っているしね。もし、この事が一言でも漏れたら、彼らは黙っていないだろう」と秘密を守る代わりに家族の身の安全を保障させたことを伝え、アルディンガーは使者を射殺して前線に脱出することをすすめたが、「私は軍人であり、最高司令官の命令に従う」と抵抗はしないと話した。ロンメルは家族の安全を確約させた上で、ブルクドルフが乗ってきた軍用車に同乗すると、車のなかでブルクドルフから渡されたシアン化物の錠剤を飲んで自決した。ロンメルの自宅周囲には抵抗に備えて、親衛隊の部隊が配置されていた。圧倒的な戦功で知られたロンメルの死は「戦傷によるもの」として発表され、祖国の英雄としてウルムで盛大な国葬が営まれた。ヒトラーがあえてロンメルを処刑せずに自決に追い込んだのは、国民の圧倒的人気を誇るロンメルを処刑すれば、国民や軍の反感をかきたてると判断したからであった。ヒトラーは自ら会葬はせず、事情を知らなかったルントシュテットを代理として会葬させた。
ロンメルの死後、妻女ルーシーや息子マンフレートは、これまでロンメルが遺した戦記や各種記録、1,000通以上にもなる手紙を押収されないため隠すこととし、ドイツ西南部の数か所の街や村落に分割して秘匿した。その秘匿方法は入念であり、信頼できる知人に預けるほかにも、病院の中に隠したり、地下室や空襲で破壊され放棄された廃屋の壁に塗り込んで秘匿したこともあってヒトラーからの押収は免れた。しかし、ロンメルの遺体からは元帥杖と軍帽が押収され、総統大本営に運び込まれると、ヒトラーの副官ユリウス・シャウブ親衛隊大将が自分の机の中に放置していたが、ルーシーとロンメルの副官ヘルマン・アルディンガー大尉の厳重な抗議で返却されている。ロンメルの記録は終戦まで殆どが無事であったが、アメリカ軍が進駐してくると色々な理由をつけて押収されて、家族の手元に帰ってこなかったり、盗難にあったりした。アメリカ軍に押収されたものについては、後日、ロンメルの戦記を執筆するために、イギリスの軍事評論家、軍事史研究者ベイジル・リデル＝ハートやデズモンド・ヤング准将がドワイト・アイゼンハワーに掛け合って、アメリカ政府歴史部から返却されている。