V roku 1903 sa stal veliacim generálom. V roku 1911 vo veku 64 rokov odišiel do penzie. O tri roky neskôr, keď vypukla prvá svetová vojna, ho povolali z penzie späť a 22. augusta 1914 bol vymenovaný ako vrchný veliteľ 8. armády (čiže nemeckých vojsk na východnom fronte). 8. armáda následne v bitke pri Tannenbergu porazila ruské vojská. Nemeckí nacionalisti zideologizovali tzv. druhú bitku pri Tannenbergu ako pomstu za porážku Rádu nemeckých rytierov spojenými poľskými, ruskými a litovskými vojskami, ktorú údajne na tom istom mieste utrpeli v roku 1410 (tzv. bitka pri Grunwalde). V skutočnosti sa druhá bitka odohrala pri Frogenau, vyše 30 kilometrov od Tannenbergu. Paul von Hindenburg v tejto bitke preukázal neobyčajné vojvodcovské kvality. V rokoch 1916 – 1919 bol šéfom generálneho štábu poľného vojska, čiže vrchný veliteľ brannej moci.