Trepov var sønn av politimester Fjodor Trepov i St. Petersburg som i 1878 ble utsatt for Vera Zasulitsjs attentat. Han ble utdannet ved Pasjekorpset.