Vuonna 1903 Oskar von Hindenburg seurasi isäänsä Preussin armeijaan, missä hän ei aluksi menestynyt, sillä häntä pidettiin ”vähä-älyisenä”. Kuitenkin kun hänen isästään tuli maineikas sotasankari Tannenbergin taistelun 1914 jälkeen, nuoremman Hindenburgin ura alkoi kehittyä, lähinnä hänen sukunimensä ansiosta. Hän yleni kapteeniksi ja sodan jälkeen "Reichswehrissä" majuriksi. Hänestä tuli isänsä adjutantti sen jälkeen, kun tämä valittiin valtakunnanpresidentiksi vuoden 1925 presidentinvaaleissa.