Ved begynnelsen av annen verdenskrig var han løytnant og adjutant ved et panserregiment. Hans motstand mot regimet og avvisning av krigen forsterket seg etter at broren døde i krigen. I 1940 var han med i gruppen som grunnla Kreisau-kretsen (). I 1942 ble han tilknyttet rustningsministeriet, da en skade gjorde at han ikke kunne tjenestegjøre ved fronten. Da Moltkes leilighet i Berlin ble ødelagt i et bombeangrep i 1943, flyttet han inn hos Yorck v. Wartenburg i Hortensienstraße 50 i Berlin-Lichterfelde.