Guebuza ble født i det nordlige Mosambik. Han sluttet seg til FRELIMO i en alder av 20 år, kort tid etter at det startet Mosambiks uavhengighetskrig mot Portugal. Innen uavhengigheten ble oppnådd i 1975, hadde Guebuza blitt en viktig general og leder i FRELIMO. Han ble innenriksminister i Machel-regjeringen og gav ordre om å tvinge portugisiske innbyggere til å forlate landet innen 24 timer, kjent som «24 20»-ordren på grunn av at innbyggerne ble begrenset til å ta med seg 20 kg med bagasje. I løpet av 1980-årene utviklet Guebuza et upopulært program kjent som «operasjon produksjon» hvor arbeidsløse mennesker fra de urbane områdene ble flyttet til landsbygda i de nordlige delene av landet.