Khanyile menetti äitinsä ollessaan pienenä, joten isä kasvatti hänet Sowetossa. Hän aloitti musiikin harrastamisen mbube-tyylisellä a cappella -laululla. Hän jätti koulun 14-vuotiaana ja meni töihin. Musiikkiuralle hän alkoi sitten suuntautua aluksi paikallisen Daffodils-yhtyeen kitaristina. Vuonna 1974 Khanyile liittyi yhdysvaltalaisesta funkista ja popista vaikutteita ottaneeseen Editions-yhtyeeseen, jota johti hänen veljensä. Hän oli siirtymässä tässä vaiheessa kohti rumpujensoittoa. Kun Editions hajosi, manageri ehdotti Khanyilelle sen muodostamista uudelleen nuoremmin muusikoin. Editions perustettiinkin uudelleen kahdella kokoonpanolla, mutta projekti päättyi, kun jäsenet piiloutuivat tai pakenivat maasta Soweton mellakoita (1976) edeltäneen ja seuranneen kuohunnan aikana. Khanyile toimi vielä The Movers -yhtyeessä, joka yhdisteli soulin ja paikallisen marabi-jazztyylin vaikutteita.