ร็อมเมิลถูกส่งตัวไปเป็นผู้บัญชาการทหารในการทัพแอฟริกาเหนือ เขาได้แสดงฝีมือและได้รับการยอมรับนับถือเป็นผู้บัญชาการรถถังที่เก่งกาจที่สุดในช่วงสงครามและได้รับสมญา "จิ้งจอกทะเลทราย" แม้แต่ศัตรูอย่างผู้บัญชาการทหารชาวบริติชก็ยังยกย่องเขาเป็นอัศวิน ร็อมเมิลเคยอธิบายการทัพแอฟริกาเหนือไว้ว่าเป็น "สมรภูมิปราศความเกลียดชัง" ร็อมเมิลได้รับยศจอมพลเมื่อ 22 มิถุนายน 1942 หลังได้รับชัยชนะในยุทธการที่กาซาลาในประเทศลิเบีย ต่อมาเขาได้เป็นแม่ทัพกลุ่ม B ประจำการในอิตาลี ต่อมาหน่วยนี้ถูกสั่งการไปต้านการยกพลข้ามช่องแคบเพื่อขึ้นบกที่นอร์ม็องดีของฝ่ายสัมพันธมิตรในเดือนมิถุนายน 1944