Radebe, Güney Afrika formasını ilk kez; 7 Temmuz 1992 tarihinde 1-0 kazandıkları maçta Kamerun karşısında giyerken; ilk golünü ise, 17 Aralık 1997 tarihinde 1997 FIFA Konfederasyonlar Kupası mücadelesinde 4-3 kaybettikleri maçta Uruguay karşısında attı. Ayrıca, millî formayla 1996 Afrika Uluslar Kupası'nı kazanırken, iki kez millî formayla 1998 FIFA Dünya Kupası ve 2002 FIFA Dünya Kupası'nda mücadele etti. Aynı zamanda millî formayla takım kaptanlığı da yaptı ve millî formayı 70 kez giyip iki gol attı.