Agathe begynte sin karriere som fotballspiller for det franske laget Montpellier HSC, før han flyttet til Skottland for å slutte seg til Raith Rovers og deretter Hibernian. Hans spillerprestasjoner gav ham en høyt profilert overgang til Celtic, der han opplevde den mest vellykkede perioden av sin fotballkarriere, med å vinne tre ligamesterskap i tillegg til at han var en del av det laget som i 2003 nådde finalen i UEFA-cupen.