Narodil sa v meste San Miguel de Tucumán na severozápade Argentíny do vojenskej rodiny. Jeho otec Segundo Roca bol dôstojníkom a bojoval vo vojne za nezávislosť Argentíny na strane bojovníkov za nezávislosť a neskôr aj vo vojne trojspolku na strane Argentíny. Študoval na Colegio del Uruguay, ktorú ako slobodnú vzdelávaciu inštitúciu provincie Entre Ríos založil guvernér provincie Justo José de Urquiza. Roca chcel pôvodne študovať medicínu, no nakoniec už v roku 1858 vstúpil do armády. Na strane Argentínskej konfederácie následne bojoval v občianskej vojne proti provincii Buenos Aires. Následne v rokoch 1864 až 1870 sa zúčastnil aj vojny trojspolku, v ktorej mu zomrel otec a dvaja bratia. Z tejto vojny sa domov vrátil s hodnosťou plukovníka. Bol jedným z veliteľov posledných bojov proti federálnym rebelom v občianskej vojne, kedy sa podieľal na porážke povstania Ricarda Lópeza Jordána v roku 1871. V roku 1873 bol povýšený do hodnosti generála.