I 1936 ble han kalt til tjeneste i Reichskriegsministerium. Han arbeidet tett med sjefen for hærens kommunikasjon, general der Nachrichtentruppe Erich Fellgiebel og ble etterhvert en del av attentatet mot Adolf Hitler 20. juli 1944. Han var ansvarlig for den del av kuppforsøket som skulle bryte kommunikasjonen mellom lokale ledere til Hitler og de væpnede enheter i felten, og fra kommunikasjonssenteret i Bendlerstrasse i Berlin. Han sendte en viktig melding fra Fellgiebel til general Friedrich Olbricht og andre medsammensvorne da mordforsøket hadde mislyktes, men sa at kuppforsøket burde likevel fortsette. Det er ulike referater om tiden da han ga denne meldingen. Thiele ønsket selv ikke å gå videre med kuppforsøket da han fikk vite at drapsforsøket hadde mislyktes, og han forlot Bendlerstrasse og besøkte Walter Schellenberg på Reich sikkerhetskontor i et forsøk på å frigjøre seg fra komplottet.