Do Argentyny powrócił w 1852, po klęsce Rosasa w bitwie pod Caseros. W następnym roku przyjęto konstytucję, w myśl której Argentyna stawała się federacją. Spowodowało to sprzeciw Buenos Aires, na czele buntu stanął Mitre. Do zjednoczenia kraju doszło na początku lat 60., zadecydowały o tym dwie bitwy między siłami federalnymi dowodzonymi przez de Urquizę a wojskami prowincji Buenos Aires: pod Cepedą (1859) i Pavón (1861). Prowincja Buenos Aires została włączona do republiki (i wkrótce, jako najbogatsze terytorium kraju, ją zdominowała), w październiku 1862 Mitre został wybrany prezydentem.