Fellgiebel deltog i utarbetandet av Operation Valkyria, den plan som innebar att de sammansvurna vid Hitlers död skulle arrestera den nazistiska ledningen och ta över makten. Den 20 juli 1944 deltog överste Claus Schenk von Stauffenberg i en militär överläggning med Hitler i Wolfsschanze utanför Rastenburg. Han placerade en tidsinställd bomb i konferensrummet och for skyndsamt tillbaka till Berlin för att därifrån leda kuppen. Fellgiebels uppgift bestod i att skära av Wolfsschanzes alla telefonkontakter med omvärlden. Fellgiebel lyckades inte att helt avbryta telefontrafiken och i Berlin fick Joseph Goebbels inom kort kännedom om mordförsöket på Hitler. När Fellgiebel insåg att kuppen hade misslyckats, återupprättade han telefonledningarna och meddelade motståndsmännen i Berlin att Hitler hade överlevt. Fellgiebel greps av Wilhelm Keitel och ställdes den 10 augusti inför Folkdomstolen och domaren Roland Freisler. Fellgiebel dömdes till döden för högförräderi och avrättades genom hängning i fängelset i Plötzensee.