Han startet sin karriere med å spille Bossa nova. Senere samarbeidet han med musikeren Caetano Veloso og gradvis fikk mange av deres sangtekster et mer samfunnskritisk innhold samtidig som de hentet inn elementer fra afrikanske og nordamerikanske musikkstiler. Hans politiske engasjement førte til at han og Veloso ble fengslet og måtte gå i eksil i London på slutten 1960-tallet. På 1980-tallet samarbeidet Gil med den jamaicanske musikeren Jimmy Cliff. Han ble utnevnt til kulturminister da Lula da Silva inntok presidentstolen i 2003. Gil satt som kulturminister frem til juli 2008, da han etter eget ønske gikk av for å konsentrere seg om musikk-karrieren sin.