Mit Ausbruch des Ersten Weltkriegs macht seine Brigade mobil und nahm im Verbund mit der 7. Division am deutschen Aufmarsch im Westen teil. In Personalunion war Stumpff kurzzeitig Stadtkommandant von Aachen, bis er mit seinem Großverband Mitte August 1914 in die Kämpfe, die zur Eroberung von Lüttich führten, eingriff. Daran schlossen sich die Schlachten an der Gete, bei Mons und am Ourcq an. Nach dem Rückzug von der Marne lag Stumpff mit seiner Brigade in Stellungskämpfen im Artois und kämpfte in der Dezemberschlacht in Französisch-Flandern. Am 3. April 1915 gab er das Kommando über die Brigade an seinen Nachfolger Konrad von Hippel ab, der am 18. April 1915 zum Generalmajor befördert wurde. Stumpff erhielt anschließend das Kommando über die 8. Ersatz-Division, mit der er bei der Armeeabteilung Strantz in der Gegend von Regnièville, Féy und im Priesterwald in Stellungskämpfen lag. Unterbrochen wurde die Gefechtstätigkeit durch einen Einsatz vom 12. Oktober bis 18. November 1916 in der Schlacht an der Somme. Für die Leistungen seiner Division war Stumpff im Oktober 1915 mit den Schwertern zum Roten Adlerorden II. Klasse mit Eichenlaub ausgezeichnet worden.