Han ble født i en både katolsk og ateistisk familie i Marseille, men Garaudy konverterte til protestantismen da han var 14 år. Under den andre verdenskrig gikk han inn i den franske motstandsbevegelsen, og ble tatt og satt fengslet i Djelfa i Algerie som krigsfange. Etter krigen meldte han seg inn i det franske kommunistpartiet. Som politisk kandidat klarte han å bli valgt inn i nasjonalforsamlingen og ble til sist senator. Han ble også partiets ledende teoretiker og forfattet flere marxistiske verker. I 1970 ble han ekskludert fra kommunistpartiet på grunn av at han hadde protestert mot den sovjetiske invasjonen i Tsjekkoslovakia.