Etter at ANC-forbudet ble opphevet i 1990, var han en av de første til å returnere til Sør-Afrika og ble også raskt innblandet i forhandlingene om overgangen til flertallsstyre. Han ble ANC-leder i regionen Sør-Natal, og spilte en sentral rolle i forhandlingene mellom ANC og Inkatha Freedom Party, noe som avsluttet blodige og borgerkrigslignende tilstander mellom de rivaliserende partiene. Utover 1990-årene fikk Zuma stadig mer sentrale roller; han ble visepresident for ANC i 1997 og Sør-Afrikas visepresident i 1999.