Entre 1872 y 1890, Pellegrini se desempeñó en diversos cargos, entre los que se destacan los de diputado provincial por Buenos Aires, ministro de Hacienda de la provincia, ministro de Guerra durante la presidencia de Nicolás Avellaneda, de Guerra y Marina durante la de Julio Argentino Roca y senador nacional, entre otros cargos; además, fue comisionado a Europa con el objetivo de gestionar créditos en favor del país.