Jeszcze przed wybuchem II wojny światowej, Fellgiebel krytykował reżim nazistowski. Później krytykował także brak kompetencji Hitlera w prowadzeniu wojny. Poprzez dowódców Ludwiga Becka (1880–1944) i Franza Haldera (1884–1972) skontaktował się z kręgami wojskowego Widerstandu. Był zaangażowany w dostosowywanie planu operacyjnego o kryptonimie Walkiria dla potrzeb przejęcia władzy i organizację zamachu na Hitlera. Zamach został przeprowadzony 20 lipca 1944 roku przez Clausa Schenk von Stauffenberga, który podłożył bombę w sali narad. Przebywając w Wilczym Szańcu, Fellgiebel odpowiadał za odcięcie łączności od kwatery Hitlera i zapewnienie łączności spiskowcom. Wybuch bomby ranił większość z obecnych na naradzie, przy czym Hitler odniósł lekkie rany, które nie stanowiły zagrożenia życia. Stauffenberg obserwował eksplozję z odległości i według relacji Fellgiebla miał widzieć, jak z baraku wynoszono ciało okryte płaszczem Hitlera, co przekonało go o pełnym powodzeniu zamachu. Przekonany o sukcesie udał się ze swoim adiutantem Wernerem von Haeftenem do Berlina. Fellgiebel przekazał informacje do Berlina o niepowodzeniu zamachu, przez co generał Friedrich Olbricht (1888–1944), który miał rozpocząć przewrót w stolicy, zwlekał z wydaniem rozkazu do puczu.