Nel 1944 Gersdorff aveva custodito esplosivo e detonatore per l'attentato previsto per 20 luglio, che il suo collega e compagno di cospirazione Wessel Freytag von Loringhoven si era procurato nascostamente dalle scorte occulte di armi inglesi dell'Abwehr. Il silenzio di Freytag von Loringhoven, durante l'interrogatorio cui fu sottoposto dalla Gestapo dopo il fallimento dell'attentato, lo salvò dall'arresto e dall'impiccagione. Così Gersdorff fu uno dei pochi fra gli appartenenti alla Wehrmacht che, pur avendo preso parte attiva alla resistenza contro il dittatore, riuscì a sopravvivere alla guerra.