Etter andre verdenskrigs utbrudd i september 1939 arbeidet han på avdelingen for folkerett i den tyske etterretningstjenesten Abwehr, under admiral Wilhelm Canaris. Hans arbeidsoppgaver bestod av informasjonsinnsamling for Wehrmacht av opplysninger fra militærattachéer og utenlandske aviser. Derutover skulle han være ansvarlig for sambandsspørsmål mellom Oberkommando der Wehrmacht (OKW) og Auswärtiges Amt og skrive uttalelser i folkerettslige spørsmål. Moltke håpet på å gjennom denne rolle kunne påvirke Wehrmachts handlemåte i humanitær retning, og ble støttet av sine overordnede, admiral Canaris og Hans Oster, som også var motstandere av Hitlers politikk. Britiske etterretningsdokumenter fra denne tiden, offentliggjort først i 2007, viser at Foreign Office var vel underrettet om von Moltkes sympatier. Moltke kjente godt forholdene i Storbritannia (moren var av engelsk opphav). Mens krigen pågikk opprettholdt han forbindelsene til Storbritannia.