Luego de este bicampeonato, Costas viajó a Paraguay para entrenar al Cerro Porteño, equipo en el que consiguió el Torneo Apertura 2005 y los Torneos Clausura en los años 2005 y 2006.