En 1831, lors du soulèvement de la Pologne, Trepov intégra les rangs de l'armée. Comme il participait à la répression contre les Polonais, il fut blessé à la tête. Il commanda un régiment de gendarmes à Kiev. Il se distingua lors du Insurrection de Janvier 1863. En 1867, il fut promu adjudant-général. En 1860, il fut nommé chef de la Police de Varsovie, il occupa cette fonction jusqu'en 1861, puis entre 1863 et 1866, il fut le chef de la Police du royaume de Pologne. Pendant son séjour dans ce pays, il laissa le souvenir d'un homme brutal.