Celsi war auch Mitglied der uruguayischen A-Nationalmannschaft. Er nahm mit der Nationalelf an den Südamerikameisterschaften 1927 teil, bei denen Uruguay den zweiten Platz belegte. Celsi kam im Verlaufe des Turniers allerdings nicht zum Einsatz.