Rennenkampf ble utdannet på kadettskolen i Helsingfors og gikk i 1873 inn i hæren. Fra 1870 til 1882 gikk han på militærakademiet i St. Petersburg. Han klarte seg ualminnelig godt og besto avgangseksamen med det beste resultatet for sin årgang. Derfor kom han inn i generalstaben allerede samme år.