Mokoena startet proffkarrieren sin i Bayer Leverkusen, men flyttet fort til Ajax etter å ha imponert på landslaget til som reservekaptein for Lucas Radebe. Her ble han utlånt til den belgiske klubben K.F.C. Germinal Beerschot, hvor han etter hvert ble kaptein og nøkkelspiller. Etter å ha returnert fra lån, byttet Mokoena klubb til Racing Genk. Han spilte her i 2 år, til han ble kjøpt av Blackburn Rovers.