Fra 1941 til 1944 var han engasjert i motstandsbevegelsen mot Adolf Hitler, direkte knyttet til Carl Friedrich Goerdeler og den såkalte Kreisau-kretsen. Etter det mislykkede attentatet mot Hitler 20. juli 1944 ble Hermes arrestert og 11. januar 1945 dømt til døden. Hans kone klarte imidlertid å forpurre fullbyrdelsen av dødsstraffen og han ble endelig berget ved Sovjetunionens innmarsj i Berlin i april 1945.