Gusmão gikk på jesuittisk skole, hadde førstegangstjeneste i den portugisiske hær (1968-1971), deltok i ikke-voldelig frigjøringsarbeid (1971-1974) før kortvarig arrest i 1975. Under Indonesisk styre var Gusmao sentral i arbeidet med å synliggjøre overgrepene mot det timoresiske folk og fikk for dette Sakharovprisen (1999) og Sydneys Fredspris (2000). Etter å ha vært med i den FN-ledete interimregjeringen ble han i 2001 valgt til president. Han tiltrådte samtidig med at Øst-Timor fikk sin selvstendighet 20. mai 2002. Han stilte ikke til gjenvalg i 2007. Gusmão fikk 6. august 2007 i oppdrag av landets nye president José Ramos Horta å stable på beina en ny regjering, og to dager senere ble han tatt i ed som ny statsminister. Den 16. februar 2015 ble han etterfulgt av Rui Araujo i statsministerposten.