Λίγες μέρες μετά, στις 20 Ιουλίου, έγινε απόπειρα δολοφονίας του Χίτλερ. Εκτελεστής ήταν ο συνταγματάρχης Κλάους φον Στάουφενμπεργκ, στη συνωμοσία, όμως, που είχε εξυφανθεί, συμμετείχαν και αρκετοί αξιωματικοί κοντά στον Ρόμελ, όπως ο επιτελάρχης του Χανς Σπάιντελ (Hans Speidel). Η εμπλοκή του Ρόμελ στην συνωμοσία είναι ακόμα αντικείμενο διχογνωμιών: παρότι ο ίδιος είχε γίνει επικριτικός για το ναζιστικό καθεστώς, και είχε έντονες διαμάχες με τον Χίτλερ σχετικά με την διεύθυνση του πολέμου, δεν υπάρχει κανένα στοιχείο που να δείχνει ότι είχε μυηθεί στη συνωμοσία, αν και πιθανότατα, όπως και πολλοί άλλοι ανώτατοι αξιωματικοί, γνώριζε την ύπαρξή της. Ως ο πιο γνωστός και σεβαστός ακόμα και στους Συμμάχους Γερμανός στρατηγός όμως, προοριζόταν από τους συνωμότες για την θέση του προέδρου του Ράιχ, σύμφωνα με έναν κατάλογο που είχε συντάξει ο συνωμότης Γκέρντελερ, αλλά και ένα υπόμνημα του Μπόρμαν προς τον Χίτλερ, την 27η Σεπτεμβρίου.