Després de cinc anys en Mesxovsk, la família es va traslladar a Varsòvia, en la Polònia russa, on el pare havia acceptat un lloc de professor del gimnàs de la ciutat. Va passar la seva joventut, fins als setze anys, a Varsòvia, on va créixer envoltat de jueus. En 1862, poc abans de la revolta polonesa, els seus pares li van enviar de retorn a Rússia per completar la seva educació; estudiant brillant, es va graduar primer de la seva classe en el gimnàs de Kaluga abans d'ingressar aquest mateix any de 1863 a la Universitat de Moscou per estudiar dret. Pleve va gaudir dels seus anys universitaris i en 1894 va fundar una beca amb el seu nom a la universitat; es va graduar en 1867. Poc després de la seva graduació a l'agost d'aquest any, va entrar com a advocat al servei d'Estat; ambiciós i amb talent, va ascendir amb rapidesa.