I en alder av 16 gjorde Borges sin profesjonelle debut for Deportivo Saprissa, 15. januar 2006. Han vant to seriemesterskap med Saprissa. Borges ble koblet til europeiske klubber som Blackburn Rovers, Anderlecht, Palermo, Manchester City, Werder Bremen og Spartak Moskva, men den 18. januar 2009 bekreftet datidens sportslige direktør i Fredrikstad FK, Tor-Kristian Karlsen, at Celso hadde signert for dem. Celso Borges skulle komme 1. juli, men Fredrikstad FK betalte én million norske kroner (125 000 €) til Deportivo Saprissa, sånn at Borges kunne starte for Fredrikstad FK mot tidligere ligamester Stabæk 14. april.