Gamarra var en mestizo med spansk og quechua-bakgrunn. Helt fra barndommen levde han et militært liv, og kjempet mot rojaliststyrkene. Gamarra ble med i selvstendighetskampen som nestkommanderende etter Andrés de Santa Cruz. Han deltok i det avgjørende slaget ved Ayacucho, og ble senere utnevnt til stabssjef. Etter invasjonen av Bolivia i 1828 ble han utnevnt til marskalk (mariscal).