Stumpff ble født i Kolberg og gikk inn den tyske hæren, i Brandenburgisches Grenadierregiment Nr. 12 som menig i 1907. I 1908 ble han utnevnt til løytnant og ved utbruddet av første verdenskrig tjenestegjorde han i generalstaben. Ved slutten av krigen hadde Stumpff blitt forfremmet til kaptein.