Nach seiner erneuten Haftentlassung 1975 durfte er sich nicht politisch betätigen; er hielt sich jedoch nicht an die Verfügung. So war er 1976 beim Aufstand in Soweto aktiv. 1977 gehörte er zu den zwölf Angeklagten der Pretoria Twelve; Gqabi wurde freigesprochen. 1977 verließ er das Land erneut. Er lebte in Botswana, von wo er aus Sicherheitsgründen nach Sambia wechselte, und war Mitglied des "National Executive Committee" und des "Politico-Military Council" des ANC. 1980 ernannte man ihn zum obersten Vertreter des ANC im gerade unabhängig gewordenen Simbabwe. 1981 wurde er dort von einem Kommando der südafrikanischen Sicherheitskräfte durch 19 Schüsse ermordet.