Tras cinco años en Meschovsk, la familia se trasladó a Varsovia, en el Zarato de Polonia, donde el padre había aceptado un puesto de profesor del gimnasio de la ciudad. Pasó su juventud, hasta los dieciséis años, en Varsovia, donde creció rodeado de judíos. En 1862, poco antes de la revuelta polaca, sus padres lo enviaron de regreso a Rusia para completar su educación; estudiante brillante, se graduó primero de su clase en el gimnasio de Kaluga antes de ingresar ese mismo año de 1863 en la Universidad de Moscú para estudiar Derecho. Pleve disfrutó de sus años universitarios y en 1894 fundó una beca con su nombre en la universidad; se graduó en 1867. Poco después de su graduación en agosto de ese año, entró como abogado al servicio de Estado; ambicioso y con talento, ascendió con rapidez.