Ndebeles far og mor var Nimrod Njabulo Ndebele og Makhosazana Regina Tshabangu. Han giftet seg i 1971 med Mpho Kathleen Malebo og sammen har de en sønn og to døtre. Ndebele tok en Bachelor of Arts i engelsk og filosofi ved University of Botswana, Lesotho, and Swaziland i 1973, en Master of Arts i engelsk litteratur ved University of Cambridge i 1975 og ble Doctor of Philosophy i kreativ skriving ved University of Denver i 1983. Han har også studert ved Churchill College, University of Cambridge, hvor han var den første mottakkeren av det sørafrikanske kvesturet.