Han tjenestegjorde under andre verdenskrig som generalløytnant og stabssjef for generalfeltmarskalk Erwin Rommel. Speidel tilhørte den indre kjernen av konspiratørene bak 20. juli-attentatet mot Hitler og hadde fått ansvar for å verve sin sjef Rommel. Etter at attentatet mislyktes ble han arrestert av Gestapo i 1944, og på slutten av krigen flyktet han fra nazifengsel og gikk i dekning med hjelp fra en munkeorden; han var den eneste i den indre kjernen bak 20. juli-attentatet som overlevde krigen. Under den kalde krigen var han fra 1950 sentral i Vest-Tysklands gjenopprustning og integrasjon i NATO og ble en av Vest-Tysklands fremste militære ledere. Han var den første som ble utnevnt til full general i Vest-Tyskland og avsluttet karrieren som øverstkommanderende for NATOs bakkestyrker i Sentral-Europa i perioden 1957-1963, med hovedkvarter på Fontainebleau slott i Paris.