I Sydafrikas landslag var Khumalo med i laget som vann Afrikanska mästerskapet 1996, och han deltog även i VM 1998. Under sin landslagskarriär spelade Khumalo 50 matcher (två som lagkapten) och gjorde 9 mål.