Bij het uitbreken van de Eerste Wereldoorlog had hij de leiding van de Duitse operaties en droeg hij de verantwoordelijkheid voor het offensief tegen Frankrijk. Dit werd gepland en uitgevoerd volgens het Schlieffenplan van zijn voorganger, dat door Moltke overigens aanzienlijk gewijzigd was. Frankrijk had in zes weken uitgeschakeld moeten worden, maar dit mislukte doordat de Duitse troepen begin september 1914 een nederlaag leden in de Slag bij de Marne. Deze werd geweten aan Von Moltkes onduidelijke bevelvoering en aan het feit dat hij van het oorspronkelijke plan was afgeweken. Overigens was deze slag, althans volgens sommige historici, toch onbeslist maar trok Von Moltke zijn troepen terug op een cruciaal moment tot achter de Aisne, een volgens hem, beter verdedigbare positie waar de Duitsers zich ingroeven. Dit was een eerste opbouw voor de daarop volgende loopgravenoorlog. Op 14 september 1914 nam Von Moltke ontslag. Hij werd toen plaatsvervangend chef van de staf in Berlijn, en werd als chef van de Duitse Generale Staf opgevolgd door Erich von Falkenhayn.