Kolonel Von Stauffenberg pleegde op 20 juli 1944 een aanslag op Hitler in diens hoofdkwartier in Rastenburg in Oost-Pruisen "(Wolfsschanze)". Direct na de aanslag moesten Olbricht en kolonel Albrecht Ritter Mertz von Quirnheim "Operatie Walküre" afkondigen. Volgens dit noodplan moest de regeringswijk van Berlijn worden afgegrendeld en bewaakt worden door het reserveleger. Omdat Olbricht en Mertz echter een telefoontje vanuit de "Wolfsschanze" met de boodschap dat Hitler nog leefde van generaal Erich Fellgiebel kregen, kondigden zij "Walküre" niet direct af. Pas nadat Von Stauffenberg vanuit Oost-Pruisen weer op het legerhoofdkwartier aan de "Bendlerstrasse" in Berlijn was aangekomen en zijn medesamenzweerder ervan had verzekerd dat Hitler dood was, werd "Walküre" alsnog afgekondigd. De bevelhebber van het reserveleger, generaal Friedrich Fromm - die op de hoogte was van de coupplannen maar, nadat veldmaarschalk Wilhelm Keitel hem vanuit Rastenburg had gemeld dat Hitler nog leefde, zich uit het complot terugtrok -, werd gearresteerd en Olbricht werd door de coupplegers tot zijn opvolger benoemd. Later die dag bleek echter dat de aanslag was mislukt en de coupplegers werden kort hierna op bevel van - de inmiddels bevrijde - generaal Fromm gearresteerd. Fromm, die veel "haast had om zijn getuigen onder de grond te krijgen" liet de meeste coupplegers, waaronder Olbricht na hun "schuldbekentenissen", executeren op de binnenplaats van de "Bendlerstrasse". Olbricht was de eerste die werd geëxecuteerd. Vervolgens was Kolonel von Stauffenburg aan de beurt, waarna Stauffenburgs adjutant voor de kogel sprong, die hem doodde. Daarna werd Stauffenberg gefusilleerd. Zijn laatste woorden waren "Heil das heilige Deutschland!", waarmee hij naar het doel van de coup wees