El 19 de junio de 2013, Borges entró en la convocatoria de la selección para desarrollar la Copa de Oro de la Concacaf en Estados Unidos. Aunque ingresó de relevo el 9 de julio en la victoria 3-0 sobre Cuba, Celso alcanzó participación en la totalidad de los minutos en los otros duelos de la fase de grupos, en el triunfo 1-0 contra Belice y la derrota con el mismo marcador ante Estados Unidos. El 21 de julio, su país quedó eliminado en cuartos de final tras la pérdida 1-0 contra Honduras.