Según las memorias de Gehlen, se aproximó en 1942 al coronel Henning von Tresckow, al coronel Claus von Stauffenberg y al general Adolf Heusinger para participar en el intento de asesinato del dictador alemán Adolf Hitler; sin embargo, su papel fue menor. Cuando el complot culminó en el bombazo fallido del 20 de julio de 1944, el papel de Gehlen fue ocultado y escapó a la brutal venganza de Hitler contra los conspiradores.