Babayaro startet karrieren sin i det nigerianske laget Plateau United, før han dro til Belgia for å spille for Anderlecht i 1994. Han var også med på å vinne OL 1996 i Atlanta.